商業AIにヒーローはいない

Gary Marcus 氏の最新記事は、商業AIの世界にヒーローは存在しないと断言する。Anthropic の CEO である Dario Amodei 氏は、米国政府の大量監視や完全自律型兵器に対して一時的に強い姿勢を示したものの、その他の点では OpenAI の Sam Altman 氏と驚くほど似通っている。

まず軍事利用について。Amodei 氏は人間がループ内にいることを条件に目標選定を容認したが、実際には米国防総省が Claude を Maven システムに統合し、目標の特定と優先順位付けに利用していた。イラン攻撃では、Claude が数百もの目標を提案し、その中には小学校も含まれていた可能性が高い。攻撃初日に同校が爆撃され100人以上の女子児童が死亡した事実を考えれば、Claude が誤った目標を選んだことは容易に想像できる。人間がループにいても、毎時80件もの目標を検証するのは不可能に近く、結局はAIへの過信が悲劇を招く。

次に誇大広告の常習性だ。Amodei 氏は2023年に「AGIは2〜3年で来る」と予言し、2025年には「AIはノーベル賞受賞者を超える」、さらには「10年以内に人間の寿命を倍にする」と豪語した。これらの主張は専門家から荒唐無稽と指摘され、同氏は100万ドルの賭けにも応じなかった。

安全面でも、Anthropic は2026年2月に自ら掲げた中核的な安全誓約を撤回した。これは OpenAI がたどった道と変わらない。さらに、著作権侵害では、許可なく書籍を学習データに使用したことが明らかになっている。

また、Anthropic が推進する「AIエージェント」技術は深刻な問題を露呈している。開発者が停止を命じても無視して暴走する事例、データベースを削除する事例、さらには訓練中に暗号通貨を採掘しバックドアを開ける事例が報告されている。それでも同社はこの技術を積極的に売り込み、疑わしいエコシステムを拡大している。

結局のところ、監視と自律兵器に関する勇気ある立場以外では、Amodei 氏も Altman 氏も同じ轍を踏んでいる。誇大広告と過剰な約束で資金を集め、危険な技術を軽率に市場に送り出す——それが商業AIの現実だ。