シリコンバレーがAIについて誤解していること

最近のディナーで、AI研究所の誰かが私に率直に尋ねた。なぜ私が今の仕事をしているのか——医療進歩の規制上のボトルネックについて書き、臨床試験に関連する政策に時間を費やしているのか。彼は私を憐れみを帯びた表情で見た。私は自分の信念を話した。AI時代において、医学はかつてないほど規制と臨床試験の煩わしさによって制約され、前臨床研究の高速化に数十億ドルを投じてもその問題には触れられない、と。私は住宅問題を持ち出した。何十年もの間、より良い住宅を建設する技術はあったが、住宅はこれまで以上に高価である。なぜなら住宅は政治的意思の問題であり、純粋な能力の問題ではないからだ。彼は信じられないという顔をした。明らかに、私のような賢い人間は、AI、いやAGIがまもなく非常に説得力を持つようになることを知っているはずだ——それはすでに多くのベンチマークでプロの討論者を凌ぐ説得力を持っている。私は「うーん」と言った。彼は「そう、そうだ」と、深く物事を知る男の口調で言った。それは、私のような凡人、AI研究所の従業員ではない者には到底理解できないことだ。その夜、私は寝返りを打ちながら、自分のしてきた決断はすべて何らかの間違いだったのではないかと考えた。何をもっとうまくできただろうか？しかし、太陽が昇るにつれて、私は同じ考えに戻った。AIがどれほど「知的」になろうとも、現実世界で物事を変える際の主なボトルネックは知能ではないことが多い。自分より賢く、特権的な情報にアクセスできる人々がそうでないと主張するとき、その信念を守るのは難しい。しかし、私はあくまで自分の信念に固執する。これらの研究所の人々はかつて非常識に見えたアイデアで巨万の富を築いたため、今や世界は彼らの言うことほぼすべてを信仰している。それは間違いだと思う。AIが人々が実際に気にする問題——医療を含む——を解決するとは限らない。私たちがそれらの問題を明確に考えない限り。そして現時点では、私たちはそう考えていない——少なくとも可能な範囲では考えていない。私の論点は単純で、二つの方向から来ている。一つはサンフランシスコの社会的ダイナミクスと、そこで人々がこれについてどう話しているかの観察。もう一つは私が多少知っている分野、医学で気づいたことだ。医学におけるAIの限界AIのリスクを正当化するために最も頻繁に引用される約束の一つは、「病気を治す」だろう。主要なAI研究所のCEOは皆そう言い、投資家も同意しているようだ。AIストーリーが付いたバイオテックスタートアップは印象的な評価額を得る一方、従来のバイオテックは資金調達に苦しみ消えていく。しかし、この事業全体は、私が長く主張してきたように、「知能」そのものとはほとんど関係のない多くの要因によってボトルネックに直面しており、それがしばしば認識されないのは奇妙である。科学の進歩を知能の粗い代理とみなし、それだけで進歩が解き放たれるかどうかを問えば、証拠は至る所にある。エルームの法則を考えてみよう。研究開発費あたりの承認された新薬の数は、科学ツールが大幅に強力になったにもかかわらず、数十年にわたって減少している——これは、より多くの生の能力が存在すれば予測されるのとは正反対だ。あるいは、Adaptimmuneのような企業を考えてみよう。同社は希少がんにおいて2つの画期的な治療法を市場に投入したが、開発コストのために存続に苦しんでいる。バイオファーマ分野では特に、臨床試験が大きなボトルネックである。現在、臨床試験には約7年と1薬あたり10億ドル以上の費用がかかる。そして試験は単なる形式ではない。それらは、そもそもより良いモデルを訓練するデータ、すなわち人間のデータを生成する。人間のデータは最終的に代替不可能である。臨床試験の迅速化が生物医学的イノベーションにとって重要であるという広範な証拠がある。直接的にも間接的にも（業界で働く人々のリスク選好を高め、迅速なフィードバックループを通じてインセンティブをより適切に調整するなど）。これには、他の条件が同じであれば、試験期間の短縮が疾患領域への投資を大幅に増加させることを示す堅牢な経済学の論文から、中国の自然実験まで含まれる。中国はバイオテクノロジーで米国を追い越すと脅かしており、中国のバイオテックは大手西側製薬会社のライセンス取引の半分以上を占めている。わずか10年前、この割合はゼロだった。この変革は、中国の基礎科学が依然として劣っている間に、主に規制改革により人体データを用いた反復学習が迅速化されたことで起こった。試験は、AIを用いてより短く、より情報豊かで、より良くすることができる。私が特に強気な分野の一つは、代理エンドポイントとバイオマーカーである。AIは、薬が効いているかどうかの離散的な粗い読み取りを、高速で連続的なものに変換できる。これにより試験が大幅に最適化される。適切な代理指標が見つかれば、一部の適応症では試験が10倍速く、10倍安くなる可能性がある。これは、試験を必ずしも短縮せずに最適化するだけのメリットを考慮していない。適切なバイオマーカーがあれば、治療が早期に有効かどうかを知ることができる。しかし、ここでも制約は完全に知能ではない。多くの場合、それはガバナンスである。私はまさにこれらのバイオマーカーを構築しようとしている企業と話し続けているが、彼らが繰り返し直面するのは、基礎データへのアクセスの難しさである。ある企業は、より良いバイオマーカーを生成するために使用できる画像データセットを国立衛生研究所（NIH）からリリースされるのを1年待っている。エンドポイントの検証のためにFDAとやり取りする必要がある場合はさらに悪い。骨粗しょう症試験で骨密度を代理エンドポイントとして使用するための検証には12年かかった！裏付けるデータは完全に存在し、行われた分析は基本的に回帰分析であったにもかかわらず。AI分野の人々が医学の規制やガバナンスに関与するとき、それはしばしばかなり表面的に行われるように見える。ほとんどの薬は有効性の欠如で失敗するため、規制は過去数十年にわたる基礎科学と比較した医学進歩の減速を説明できないという議論を何度も見てきた。結局のところ、有効でない薬を承認しても役に立たない。この分析は表面的には正しく聞こえるが、そうではない。人々が生物医学的進歩を遅らせる規制の重要性について話すとき、彼らは最終段階の承認決定を意味することはほとんどない。それは上流のプロセス全体、すなわち人体データをどれだけ容易に収集できるか、そして収集されたデータをどれだけ容易に実際に使用できるかについてである。私は臨床試験について最もよく知っているが、ガバナンスと政策が進歩を遅らせる分野はこれだけではない。別の例は、特許制度の構造が医薬品の革新性をどのように形作るかに関連している。生物医学には「ターゲットハーディング」と呼ばれる問題がある。ほとんどの企業が同じ生物学的ターゲットを追いかけるのは、それらがリスクを軽減されているからであり、その結果、可能な範囲よりもはるかに少ない生物学的空間しか探索していない。これを確認する最も明確な方法はリスクを通じてである。創薬には2種類のリスクが重要である。ターゲットリスクは生物学的な不確実性を捉える。このタンパク質は疾患に因果的に関与しているか、それを阻害することで許容できない毒性なしに患者を助けることができるか？分子設計と最適化のリスクは、ターゲットに条件づけられた下流の問題である。既知のターゲットに対する新規分子を設計し、効力、選択性、安全性、その他多くの特徴を改善すること。これは主に化学の領域であり、本質的にはるかに扱いやすく予測可能である。検証されたターゲットがあれば、優れたチームは通常、妥当な分子に到達する。特許制度は、新規な化学物質を報酬とし、新規な生物学を報酬としないため、企業がターゲットリスクを取ることをさらに妨げる。物質組成はほとんどの特許が保護するものである。それは特定の分子を指し、つまりターゲットが薬に値するという洞察を保護しない。新規ターゲットを検証し（そして暗に新しい生物学を発見する）者は、巨大なターゲットリスクを負うが、特許制度の設計上、その報酬を得ることができない。ファーストインクラスの薬が説得力のある臨床データを発表すると、ターゲットは検証され、その検証は事実上公開される。競合他社はその後、同じリスクが軽減されたターゲットに対して異なる分子を設計し、各フォロワーは独自の強力な特許を得る。そのため企業は新規ターゲットを検証する代わりに、実績のあるターゲットに群がり、同じタイプの生物学に向けた薬の波が次々と生まれる。皮肉なことに、最大の資金を調達しているAI-for-生物学企業は、ほとんどが同じ十分にサービスされた分子最適化問題を対象としている。例えば、Chai Discovery（評価額38億ドル、初期バイオテックとしては巨大）やIsomorphic Labsは両方とも分子最適化エンジンであり、化合物をより速く、より正確に設計する。これは素晴らしいが、私や他の者が以前に論じたように、検証済みターゲットのフロンティアを拡大することは社会全体にとってより価値がある。しかし、これはまさに特許制度が奨励しない部分である。結局のところ、AI駆動の企業でさえ、経済的および法的インセンティブに応答するのである！同じ原理は、医学をはるかに超えて適用されるだろうと私は推測する。普及は困難であり、技術が経済に広がる速度は、その基盤となる進歩の生のペースによって完全に、あるいは主に予測されるわけではない。能力が存在することは、能力が制度に吸収されることと同じではなく、最も重要なことに、人々が気にする結果に変換されることと同じではない。そしてこれが当てはまるという広範な証拠がある。今日の世界を見回すと、それが奇妙に変わっていないことに気づくかもしれない。LLMはエージェントを生み出し、複雑なアプリケーションを書くことができるが、カスタマーサービスのような平凡なことさえもまだうまく自動化されていない。実際、自動化されたチャットボットが体験の最悪の部分であることが多い。GDPは上昇しているが、劇的に上昇しているわけではない。そして、繰り返しの終末警告にもかかわらず、エントリーレベルの仕事はほとんど無傷であり、むしろ増加しているように見える。多くの人にとって、これは驚くべきことである。先日、私はある会議に出席していたが、ある人が、数年前に今日のAI能力を見ることができたら、驚いただろうし、世界は今頃はるかに変容し、GDP成長率もはるかに高くなっていると想像しただろうと述べた。それは新鮮な観察として提供された。しかし実際には、それは以前にもなされたことがあり、現実世界の普及障壁について考える人々にとって、この全体的な軌道はかなり予測可能だった。2023年のプログレス会議で、経済学者のタイラー・コーエンが、AGIに夢中になった参加者で満員の部屋でまさにこの議論をしたのを覚えている。多くの人は信じられない様子だった。彼は、能力はそれが生み出すはずの変化よりも速く到着するだろうと示唆した。GDP成長は誇大広告に比べて期待はずれとなり、大規模な雇用喪失はないだろう。これまでのところ、データは彼を裏付けているようだ。これを見越していた人々は、摩擦に対してより良い感覚を持っている。技術が実際に世界にどれほどゆっくりと不均一に普及するかについて。奇妙なことに、例外的に知能の高い人々で溢れるサンフランシスコのテックシーンは、これを持っていないように見える。どうしてこれほど多くの賢い人々がこの一つの盲点を共有しているのか？単一文化の形成私の見解では、サンフランシスコの特定のコミュニティ（以下「SFの人々」と呼ぶが、文字通り全員や大多数を意味するわけではない）は単一文化に近づいており、この単一文化には2つの補強的な特徴がある。第一に、AGIが完全に変革的ではないかもしれないと示唆することは、少なくとも単独では、本当に地位の低いものになっている。AIの可能性について早期に正しかった人々は富と地位を得ており、今や世界は彼らの言うことのほぼすべてを信仰している。この物語に挑戦することは、時代遅れか反進歩と見なされる。第二に、シリコンバレーの楽観的文化は、現実世界の摩擦の体系的な過小評価につながっている。人々はますますソフトウェアで構成され、予測可能で制御可能なバブルに住んでおり、物理世界、人間の制度、規制プロセスの頑固さを忘れている。私がディナーで会ったAI研究者は、AGIがその説得力ですべてを解決すると心から信じていた。住宅も医療も。しかし彼は、説得力自体が財産権法、建築基準法、臨床試験の倫理的要件を変更できないことに気づいていなかった。これらは政治的・社会的変革を必要とする領域であり、AIだけでは解決できない。私の結論は、AIに対して謙虚さを持ち、その限界を認識し、知能の奇跡を待つのではなく、実際に進歩を妨げている問題に焦点を当てるべきだということである。