AIは悪いツールである

AIは悪いツールである——少なくとも、ソフトウェアにおいてはそうだ。まず、良い面を簡潔に述べておこう。AIをデータ蒸留器と捉えるならば、有用である。以前は、検索エンジンにクエリを入れ、最も有望そうな結果をクリックし、ページをスキャンして必要な情報を見つけ、自分で処理する必要があった。AIが正しく動作すれば、これらのステップを圧縮してくれる。実際、検索エンジンは結果の先頭にAIスニペットを挿入して差を埋めようとしているが、真の価値は追跡調査や情報の精緻化にある。手動では時間がかかる作業を機械が代行してくれるのは便利だ。しかし、利点はそこまでである。AIをそれ以外、特にコード生成に使うなら、時間の無駄だ。

議論に入る前に、AI論争そのものに立ち返る必要がある。批判者側はしばしば感情的であり、生計を失い、無関係になることへの恐怖に駆られている。感情は役に立たないが、人間の状態についての興味深い洞察を提供する——恐怖は現実的であるが、理由は異なるからだ。つまり、そう、あなたは無関係になるだろう。しかし、それは機械が賢くなりすぎるからではなく、あなたがゴミコードを生産し、機械がそれを少しだけうまくやれるからだ。

AIが悪いツールである理由は、基本的に完全に不透明だからである。「AIに作らせたアプリを誰がメンテナンスするのか？」という質問がよくあるが、AI一筋なら「機械がする」と答えるだろう。それは間違いではない。真の問題は、AIが構築したものが正しく真実であると誰が検証できるかということだ。近年、AIがソフトウェアのセキュリティ脆弱性を発見すると言われるが、それは実証されていない主張である。検証には、問題を最初から見つけるのと同じかそれ以上の労力が必要だろう。同じ論理がAIに構築させたアプリにも当てはまる。それが意図通りに動作していると誰が検証するのか？見た目はそうでも、実際は違うかもしれない。さらに悪いことに、既存の実装のテストを書く際、AIは仕様から盲目的にテストを書くのではなく、実装に合わせてテストを偏らせることで知られている。問題を解決するのではなく、解決したように見せかけているだけだ。

AIが不透明であることは、「AIエンジニアリング」や「プロンプトエンジニアリング」が完全な詐欺であることも意味する。かつてのSEOと同じで、ブラックボックスを巧妙に操作できるという主張は偽りである。相関関係を立証する方法はなく、機械の動作について思い描くどんなパターンも不安定だ。要するに、ソースコードにアクセスできず、できたとしても理解する精神的な処理能力がなく、たとえ理解できてもAIの進化が速すぎてパターンが通用しない。あなたが愚かなわけではない。機械は非常に賢い人々によって作られ、彼ら自身も完全には理解していないのだ。

だからAIは「信じてくれ」を機械的に実現したツールに過ぎない。では、なぜAIが人間の無関係になるという根源的な恐怖を露わにするのか？ AIに今日任せるプログラミング作業のすべては、あなたが自分の仕事を適切に抽象化していない証拠だ。AIにシンボルのリネームを任せるのは、本来LSPが行うべきことだ。プロジェクトのスキャフォールディングを任せるのは、フレームワークが行うべきことだ。AIに生成させるコードの一行一行が、抽象化を減らし繰り返しを増やす。AIが明らかにするのは、あなたのスタックにおける適切な抽象化の欠如だ。そして、コードが適切に抽象化されていれば、あなたの仕事は存在しなかったかもしれないが、現状では、機械は非抽象化コードを生産する点であなたより上手くなっている。

言い換えれば、AIがつまらないコードしか生成しないなら、そのコードは簡単に抽象化可能であるべきだ。もしAIが非自明なコードを生成したとしても（実際はしないが）、それが入力からどうやって可能になったのか疑問が生じるが、不透明性と自分で理解できない非自明なコードをレビューする必要があるため、何も得られない。AIは非問題を解決するか、非問題を生み出すかのどちらかだ。

重要な点は、ほとんどのソフトウェア仕事はAI登場以前から無駄だったということだ。AIはその仮面をはぎ取っただけであり、それが人々を狂わせている。では、ここからどう進むべきか？ AIに加速され、誰もやることがない死の墓場と化すソフトウェア世界にどう対処するか？ AIが全ての無駄で非抽象化された仕事をこなし、一握りの天才だけが雲上で活動する世界に。残念ながら良い答えはない。おそらく、人は情熱に従い、自分が完全に理解し所有するものを構築し、適切に抽象化してAIの脅威にさらされないようにするしか道はないのだ。