AI:外科医の助手か、メーター制の商品か?
本稿では、AI支援コーディングの2つのメタファーを考察:外科医助手とメーター制の商品。著者は自身の手術経験から、現在のLLM(Claudeなど)は人間の助手のような信頼性に欠け、単なる「インターネット意識の流れ」を提供するに過ぎず、それを活用するにはプロセス構築が必要だと論じる。
AI支援コーディングには多くのメタファーが提案されている。例えば、Geoffrey Littは「外科医のようにコードを書く」というメタファーを提唱した。あなたは外科医であり、大規模言語モデル(LLM)は助手である。雑務をAIに任せ、重要なことに集中する。著者V. Grishchenkoはこの見解を支持し、「仕事のセッションに座るとき、準備された手術室に入る外科医のように感じたい」と述べている。
著者はかつて手術を受けた経験がある。外科医が助手の軽微なミスを厳しく叱責するのを覚えている。そのミスは医療過誤につながる可能性があった。患者としてそのやりとりを聞くのは不快だった。助手はその教訓を内面化し、今では自分で手術を行っているかもしれない。一方、著者は毎日Claudeを仮想的に叱責するが、それが効果的かはわからない。Claudeが得意とするのは「インターネット意識の流れ」、つまり効果的なトレーニングセットを再現することだ。
手術室で気づいたもう一つの点は、正式なプロセスの存在だ。数え切れない命を代償に確立されたプロセスは、予防可能な悪影響を最小限に抑える。組織的・文化的学習のプロセスだ。外科医は入室前に著者の書類を再読し、前日には複数の医師によるカンファレンスが行われた。外科医は多くの患者を診察するが、現代の外科医は高度に専門化されているため症例は似通っている。それでも彼は手術が右側であり、椅子が左側に置かれていることを覚えていた。助手は当然の叱責を受けた。私たちはClaudeを信頼して椅子を右側に置かせられるだろうか?現時点では、まったくできない。
もう一つのメタファーはOpenAIのSam Altmanによるものだ。「未来では、知能は電気や水のようなユーティリティとなり、人々はメーター制で購入する」。これは知能の概念そのものを貶めるものであり、おそらく意図的だ。著者は「あなたは自分が販売する商品を『知能』と呼んでいいのか?」と問いかける。その後、著者はこのメタファーを改善する。LLMから得られるものは知能そのものではなく、「インターネット意識の流れ」であり、放置すれば高いところから低いところへ流れるだけのコモディティである。水のメタファーに従えば、我々は今、古代シュメール人のようなものだ。その流れを迂回させて田畑を潤し、ふいごを動かすことを学んでいる。どうやって?プロセスを構築し、学習することによって。