最も価値あるAIプロダクトは知能ではない

これは思考実験です。

20年にわたり、レピュテーションマネジメントは検索エンジンの操作を意味していました。企業はSEOコンサルタント、PR会社、危機管理会社を雇い、ネガティブな記事をGoogleの1ページ目から押しのけました。彼らは現実を削除したのではなく、ただ埋もれさせたのです。

これが機能したのは、Googleが質問に答えるのではなく、文書をランク付けしていたからです。もし気にするなら、2ページ目をクリックし、情報源を比較し、自分で判断することができました。Googleは発見を最適化していたのです。

LLMは静かにその契約を変えました。

言語モデルは文書をランク付けせず、合成します。数千の記事、裁判記録、ブログ投稿、Redditスレッド、学術論文、ニュースレポートを読み、それらを1つの回答に圧縮します。ほとんどのユーザーにとって、その回答が製品となり、情報源は脚注に成り下がります。

確かに、PerplexityやSearchGPTのような現代のAI検索システムはまだ引用を表示します。しかし、何が変わったかに注目してください：リンクはもはや製品ではなく、合成回答を裏付ける証拠です。ほとんどのユーザーは、かつてGoogleの2ページ目を訪れなかったのと同じように、脚注を精査しません。

この一見小さなUXの変化が、まったく異なる経済を生み出します。

SEOは人々がどの文書を発見するかに影響を与えることを基盤としていました。しかし、文書が姿を消したとき、SEOに代わるものは何でしょうか？

あなたが上場企業のCEOだと想像してください。あなたの製品には安全性の問題があり、規制当局が調査しており、何百万人もの顧客がもはやGoogleではなくChatGPT、Claude、あるいは次に来るものに質問を始めています。

次の100万ドルをどこに使いたいですか？

数十人のジャーナリストに記事の書き直しを説得することに？

それとも、誰もが信頼するAIアシスタントがわずかに異なる要約を生成するようにすることに？

偽りの要約ではなく、もう少しバランスが取れ、もう少し文脈があり、もう少し寛大で、もう少し「アライメント」されたものです。

誰もこれを検閲として売り込むことはないでしょう。

製品名はほとんど自明です：ブランドセーフティ、ハルシネーション低減、コンテキスト最適化、責任ある応答。

請求書には決して「都合の悪い事実を削除しました」とは書かれません。「回答品質を向上させました」と書かれるでしょう。今や誰もプロパガンダを売らず、戦略的コミュニケーションを売るのです。

さて、視野を広げましょう。

会社を政治家、国家、医療、投資、大学など、人々が自分で調べる代わりにますますAIに尋ねるものに置き換えてください。

もし単一の合成回答が人間の知識へのデフォルトインターフェースとなるなら、その回答に影響を与えることは世界で最も価値あるサービスの1つになります。

これは妄想的に聞こえるかもしれません。

そうであればいいと思います。

なぜなら、このインセンティブが決して現実にならない世界に住みたいからです。

しかし、市場は価値あるボトルネックの周りに形成される習慣があります。そして、単一の合成回答は極めて価値あるボトルネックです。

私たちはすでにこの産業の無害なバージョンが出現するのを見ています。SEOは徐々にGEOやLLM最適化へと変わり、企業はAIシステムが優先的にコンテンツを消費し引用するように構造化する方法を学んでいます。これは始まりにすぎません。

より興味深い疑問は、公共AIシステムに影響を与えることが数千ドルではなく数十億ドルの価値を持つようになったときに何が起こるかです。

これが、私がAnthropicの最近のオープンウェイトモデルに関するエッセイに非常に興味を持った理由です。

彼らが何かを秘密裏に企んでいると思うからではありません。安全性、セキュリティ、責任ある展開に関する彼らのすべての主張が完全に誠実であるかもしれません。

それはほとんど重要ではありません。

経済的インセンティブには悪意は不要です。

社会が少数の信頼されるAIシステムに収束すればするほど、それらのシステムは価値を増します——製品としてだけでなく、デフォルト回答の門番としても。

Googleは注意を収益化しました。

私は、AI企業がいつか信頼を収益化するのではないかと考え始めています。

そしてそれが起こった場合、次の10年で最も価値あるAIプロダクトは知能そのものではないかもしれません。

それは、何百万人もの人が最初に——そしてしばしば唯一——目にする回答に影響を与える能力なのです。