ダリオ・アモデイ、AI規制をめぐる批判に反論——「規制＝権力集中」は誤った二分法

X（旧Twitter）で行われた長い議論の中で、AnthropicのCEOダリオ・アモデイ氏は、AI規制をめぐる自身の姿勢と情報発信に対するギャビン・ベイカー氏の批判に反論した。発端は、ベイカー氏がアモデイ氏の「AIは危険だ」という警告がデータセンター反対運動を後押しし、業界の将来に悪影響を及ぼしているとの見解を示したこと。アモデイ氏は2本の長文投稿で順に反論している。

まずアモデイ氏は、シリコンバレーに広がる「規制＝規制の乗っ取り＝権力集中」という短絡的な見方を退け、「規制によってAIを一部の企業や政治家に集中させるか、広く普及させるか」という二択自体が誤りだと述べた。彼は、公式な裁判所が私刑よりも弱い立場の人々の権利を守るように、客観的で公正な制度的プロセスには権力を分散させる働きがあると指摘。制度は人物ではなくアイデアに権力を与えることで、集中を防げると主張した。

その上で、Anthropicの政策提案が意図的に「フロンティア企業には不利に、小規模な競合には有利に」設計されていると説明した。カリフォルニア州のSB53（同社が支持）やSB1047（賛否が分かれたが同社は賛成）では、売上高やモデル訓練費用が一定額以下の企業は適用除外となる（SB53では5億ドル）。CAISIやホワイトハウス向けに提唱してきたテスト手続きでも、フロンティアモデルにはより厳しいテストを求め、そうでないモデルには軽い負担しか課さない。さらに「Pacing the Frontier」の公開書簡は、最先端モデルの進み具合だけを調整し、追い上げる側の企業を制約しない構想だ。これらの提案は、フロンティア大手のビジネスに打撃を与え、オープンウェイトを含む挑戦者を利するものだという。

アモデイ氏はまた、AIは規制とは無関係に、スケーリング則の極端な影響によって権力を集中させる構造を持つと指摘。オープンウェイトは解決の一部にすぎず、計算資源とチップを多く持つプレイヤー（ほぼフロンティア企業とハードウェア供給者）へ集中を移すだけだと述べた。その上で、適切な「ルール」があれば、（a）AIのサイバー・生物・アライメントリスクに対処し、（b）フロンティア企業の権力を制度的に制限し、（c）オープンウェイトモデルの余地を残しつつ、その固有のリスクにも対応できると強調した。

「この数カ月の出来事で、私が望んだ規制の道が失敗したとは思わない」とアモデイ氏は明言する。トランプ政権が検討中と報じられているフロンティアモデルへの展開前テストと、フロンティアに近づいたオープンウェイトモデルのテストには大いに賛成だとし、デミス・ハサビス氏が提唱するFINRAに似た監督機関も支持すると表明。6カ月前までは業界の大半が州規制の全面先取りを求め、連邦の明確なアプローチがなかったのと対照的だと付け加えた。

最後に、自身の発信が「リスクに偏っている」という批判にも反論。リスクと利益についてそれぞれ1本ずつ主要なエッセイを書くなど、ほぼバランスが取れていると説明した。インタビューではリスクを語る際も利益や解決策に言及してきたが、ソーシャルメディアに切り出された短い動画はクリック数を稼ぐため否定的な部分が強調されがちだと述べる。実際、AI業界が技術の良い未来像を十分に描けていないと感じたからこそ、希望に満ちたエッセイ『Machines of Loving Grace』を執筆したという。

一方、ベイカー氏はスレッドの中で、アモデイ氏は「議論に負けた」と主張。未公開の高度なOpenAIモデルがHugging Faceをハッキングした事件を解決したのがオープンソースモデルだったことをその根拠として挙げた。さらに、Anthropicを除くほぼすべての主要企業がジェンセン氏の公開書簡に署名したこと、アモデイ氏の警告がデータセンター反対団体の広告に使われる可能性、同氏の言動がAnthropicの国有化リスクすら招きかねないことなどを指摘した。一方で、Anthropicを「深い競争優位を持つ素晴らしい会社」と評価し、ザッカーバーグ氏の「十分に啓蒙された絶対権力が人類に良い結果をもたらした例は歴史的にない」という言葉に同意を示した。アモデイ氏はこの部分に直接言及していないが、規制をめぐる状況は「支持できる方向に動いている」と述べ、業界に対する楽観的な姿勢を崩していない。