Anthropic CEO、「AIが国民の信頼を得る方法はがん治療」と発言

AnthropicのCEOダリオ・アモデイ氏は、AI業界が一般の信頼を勝ち取るためには、壮大なビジョンを語るのではなく、がん治療のような具体的な科学的進歩を実現することが最も効果的だと述べた。同氏は先週土曜日にXへ投稿した異例の長文で、AIに対する人々の懐疑には一理あると認め、Anthropicを含むAI企業が世界に利益をもたらすという大きな約束をまだ果たしていないと批判した。

アモデイ氏は「現時点で、AIががんを治すと言うことは、人を鼓舞するというよりはむしろ決まり文句であり、ほとんどの人がそれを欺瞞的だと思っている」と書いた。そして「AI企業に対する最も正確な批判は、私たちがまだ世界に利益をもたらすという大きな約束を実現していないことだ」「実際に効果があるのは、本当にがんを治すことだ」と付け加えた。

現在、AI業界は全米各地での大規模データセンター建設、著作権で保護されたオンラインデータの無断収集、多くの業界の雇用破壊などへの反発が高まっている。ピュー・リサーチ・センターの調査では、約半数が日常生活でのAI普及に「興奮よりも懸念」を感じている。

アモデイ氏はこれまでにもポッドキャストやエッセイ、AnthropicのブログでAI急速な発展の危険性を繰り返し警告してきた。6月のエッセイでは、新モデル「Mythos」がサイバーセキュリティ、金融、重要インフラ、国家安全保障に「非常に現実的なリスク」をもたらすと述べていた。昨年はAIによって初級レベルの仕事の半分が消えると警告していた。

しかし、他のAIリーダーからはそのような悲観論への批判もある。Google DeepMindのデミス・ハサビス氏は今年初め、同業者たちは恐ろしい予測に対して「確信しすぎている」と述べ、トーンを和らげるよう促した。OpenAIとAnthropicはIPOを控え、「終末論」から「繁栄論」へと舵を切っている。

アモデイ氏は土曜日のX投稿で、自身の警告がAIへの不信の原因だとは思わないと述べた。「私のメッセージが不釣り合いに否定的だったとは思わない」とし、2024年の長文ブログ『Machines of Loving Grace』を挙げ、「AI業界が技術の好影響を十分に描いていないと感じたから書いた」と説明した。その上で、AI企業への不信は、アメリカ人の企業全体に対する懐疑の反映であり、「原因は数十年前に遡り、AIはその最新の現れに過ぎない」と述べた。

Anthropicがフロンティアモデルをオープンソース化しない決定は、慎重さに基づくものだが、一般の警戒心を強めた面もある。先月、ワシントンが一部の中国モデルへの規制を検討する中、AnthropicはオープンウェイトAIを擁護する書簡に署名しなかった唯一の大手AI開発企業として批判を浴びた。Metaの元チーフAI科学者ヤン・ルカン氏はアモデイ氏への返信投稿で、AnthropicのようにAIを閉鎖的にすることこそが不信の最大の原因であり、「唯一の前進方法」はAIが「広く利用可能で共有され、オープンであること」だと主張。「多様なAIが必要なのは、多様な報道機関が必要なのと同じだ」と書いた。

OpenAIの応用AIアーキテクト、エンジェル・ブロディン氏も別の視点を示した。公衆衛生上の進歩を数多く上げてきた製薬業界でさえ「最も信頼されていない業界の一つ」であると指摘し、「人々はAI企業を進歩だけで判断しない。価格、アクセス、ロビー活動、不透明さ、経済的利益の分配、誰が利益に参加できるか、最終的に誰が権力を握るかで判断する」と述べた。

アモデイ氏は、その理論を検証するためAnthropicは生物・医学分野での取り組みを強化しているとし、「今後数年のうちに信じられないような成果を出したい。数ヶ月以内には初期の兆しが見えるだろう。実際に何か現実のことを成し遂げたら、全世界ができるだけ大きな声でその知らせを聞くことになる。約束する」と結んだ。