AIのボトルネックは知能ではなかった

過去2年間、業界全体が一つの問いを中心に組織されてきた：どのモデルが最も賢いか。ベンチマーク、リーダーボード、パラメータ数、毎週のようにトップスコアを巡る争い。これは魅力的な競争だが、もはや有用な情報を提供しなくなりつつある。なぜなら知能は安価なインプットになりつつあるからだ。本当に不足していて、勝者を決めるインプットは信頼である。

この主張はソフトに聞こえるかもしれないが、システムの中で最も具体的なものである。

知能が希少でなくなった時、ある職業に何が起こるか見てみよう。会計を取り上げよう。ごく短期間のうちに、あらゆる規模の事務所が、かつて彼らを際立たせていた仕事をこなせる有能なAIを持つようになる。勝つ事務所はAIを使っている事務所ではない——なぜならそれはすべての事務所に当てはまるからだ。勝つのは、クライアントが出力を保証してくれると信頼する事務所である：数字がどう導き出されたかを説明でき、規制当局が問い合わせた時に責任を負い、クライアント自身が抱えたくない不確実性を吸収できる事務所。同じ論理が法律、保険、医療、採用、政府サービスにも当てはまる。問いは「システムはこれができるか」から「私はこれを信頼して任せられるか、ここで、自分のリスクを背負って」に移った。これらは異なる問いであり、後者だけに商業的価値が残っている。

これが、導入が能力とは無関係な理由で失敗し続ける理由である。あるチームがツールを受け入れ、隣のチームが静かに触るのを拒むのは、ほとんどの場合、技術的な問題ではない。それは、システムがループに入った時に自分の仕事、判断、立場に何が起こるかを関係者が信頼できるかどうかである。導入予算は統合とトレーニングに費やされ、真のボトルネック——人間が決定を委ねる意思——にはほとんど使われない。信頼はすべてのデプロイメントの基盤であり、アーキテクチャ図に誰も描かない層である。

このパターンは国家レベルでさらに顕著になり、現在進行中の実例がある。政府が決して最先端には到達しない主権モデルに投資するとき、批評家はそれを虚栄の支出と呼ぶ。彼らは実際に何が買われているのかを見逃している。それは優位性ではない。それは、政情が変化した時に重要なシステムが利用可能で自らの制御下にあり続けるという信頼である。商務省によるAnthropicのMythos級モデルへの指令は、この抽象的な議論を突然具体的にした：一連の「信頼できるパートナー」が彼らの運用に組み込んでいた能力が、誰か他の人の政策判断によって停止され、その外交的余波は、依存の代償が何であるかをすべての監視している政府に正確に示した。AIにおける主権は常に、工学的な衣をまとった信頼の問題だった。輸出規制はその衣を剥ぎ取っただけだ。

同じ修正が雇用の議論にも当てはまる。「AIはどれだけの仕事を置き換えるか」はパニックを生み出し、洞察はもたらさない。より有用な問いは、知能がもはや希少でなくなった職業において、何が価値を持つかである。答えは、知能だけでは供給できないすべてのもの：どの答えに基づいて行動するかの判断、それが間違った場合の結果に対する説明責任、クライアントがシステムではなくあなたに直接連絡するようにする関係。これらは常に、どんな役割でも上級で置き換えが難しい部分だった。豊富な知能はそれらを消し去るのではなく、その周りのルーチンワークを剥ぎ取り、それらをより露出させ、より価値あるものにする。

したがって、皮肉は全体の中心にある。これらのシステムがより有能になればなるほど、制約は知能ではなく信頼になる。凡庸なAIが書いたメールが間違っていても、コストはほぼゼロだ。しかし、採用決定、診断、保険請求プロセス、またはインフラシステム内部のAIは実際の結果をもたらし、結果こそが信頼を得なければならない場所である。次の価値のフェーズは、最も有能なモデルを構築した人だけにではなく、他の誰もが後回しにした部分——人々がこれらのシステムを理解し、統治し、監査し、実際に協働するのを助けること——を解決した人に与えられるだろう。最先端の研究所は今月、このことを苦労して学んでいる。市場の残りの部分もそれを経験しようとしている。