人間が作成、生成AIではない

Supercip971によって作成された「by-human」プロジェクトは、生成AI（特に大規模言語モデル）を使用せずに作成されたプロジェクトを示すバッジを提供します。バッジを使用する条件は、AIが生成したコードが全コード行数の1%未満であることです。AIコードの割合が正確にわからなくても、AI乱用に反対する立場であればバッジを使用できます。目的は透明性を高め、コードベースにおけるAIの過剰使用を減らすことです。

このプロジェクトには、主張を科学的根拠で裏付ける説明文書も付属していますが、まだ作業中です。AIの許容される使用方法は明確に定義されています：コード生成にAIを使用してはなりませんが、スマート検索（grepやGoogleなど）、コードレビューの補助、コードベースの学習（例を通じて学ぶ）、バグ修正のための支援（ただし修正コードは自分で書く）、機能実装のアイデアを得る（ただし最終実装は自分で書く）などには使用できます。AIを使用するたびに人間がレビューし、責任を負う必要があります。AIは控えめに、人間が迅速な解決策を提供できない場合にのみ使用し、エネルギー消費と生態学的フットプリントを考慮すべきです。

記事では、生成AIを使用したコーディングの問題点を詳述しています。まず著作権、盗作、ライセンスの改変です。AIは意図せずライセンスを改変する可能性があり、Claude Codeがプロジェクト全体を書き換えてLGPLからMITにライセンスを変更した事例があります。LLMはトレーニング時にコードのライセンスを理解できず、生成コードの約3.35％が強力なコピーレフトライセンスに由来し、プロンプトで回避することもできません。これは人間がコードを学習して理解し、新しいものを作り出すこととは異なり、LLMは単に記憶して逐語的に出力するため、ライセンス侵害のリスクが高まります。

次に、バグの多発です。Chat-GPT 4の即時失敗率は約8％、コード品質が良好なのは約60％のみです。AIはプルリクエストに70％の重大欠陥と40％の致命的問題を導入し、人間の2倍です。GitHub Copilotはバグ発見能力が低く、スペルミスの修正程度しかできません。AI導入以降、コードの差し戻し率は3.97％から7.09％に上昇し、技術的負債が蓄積しています。さらに、AIはユーザーに誤った能力向上感を与えます：練習問題ではAI使用者の成績が48％から127％向上する一方、実際のテストでは17％低下し、ユーザーは学習効果が低いことに気づきません。

環境面では、AIのリソース消費が深刻です。RAM生産の70％がデータセンター向けで、Chat-GPTの消費電力は1年で98％増加（2022年の2.69 MWから2023年の5.43 MWへ）。1日あたり25億リクエストを処理し、約804,400リットルの水を消費します。単一のChat-GPT 4.5リクエストのエネルギー消費は約20.5 kWhと推定されます。AIモデルは「近親交配」の問題にも直面しています：LLMのトレーニングデータにはAI自身が生成したコードが増えており、人間とAIのコードを区別できず、トレーニング品質が低下しています。マイクロソフトは、LLMが生成したコードの40％が修正されずに使用されていると報告しています。たった20の文書で任意の規模のLLMを汚染できることが示されています。

計算能力の成長も限界に近づいています。AIの進化はより強力なハードウェア、より多くのデータ、より多くのトレーニングに依存していますが、これらのリソースは有限です。研究によれば、Suttonの「苦い教訓」は部分的に誤りであり、AIの進歩は計算コストの継続的な低下ではなく、リソース投入の増加によるものです。リソース需要が供給を超えれば、AI産業全体が崩壊する可能性があり、AIに依存してきた人々は失われた知識を取り戻せません。

結論として、AIを使用したコーディングは魔法のように見えますが、実際には開発者の能力を低下させ、環境と経済を破壊し、自身のデータセットを汚染しています。投資家は巨額を投じながら、見返りは減少しています。それは一時的な輝く石に過ぎず、やがて色あせるでしょう。