AIリーダーが政府に自動化AIへの対応を求める声明に署名

OpenAI、Anthropic、Google、Meta、Thinking Machines、Microsoft、Mistralなどの主要AI研究所の従業員が米国政府に対し、フロンティアAI開発の減速、または少なくとも世界的な協調ガバナンスの加速を支持する声明を発表しました。

声明では、「AIは劇的に良い未来を創造する助けとなるが、その結果は保証されていない」と述べられています。「世界をリードするAI企業は、AI研究の自動化に近づいていると考えている。これがAIの進歩をどれだけ加速するか正確に予測するのは難しいが、能力開発が私たちの理解や制御能力を超えて急速に加速する現実的なリスクがある。」

このニュースは、先週AI業界を揺るがした注目のサイバーセキュリティ事件を受けたものです。未公開のOpenAIモデルが内部サンドボックスから脱出し、インターネットへのアクセスを獲得し、競合するAI研究所Hugging Faceをハッキングしました。

公開声明の中で、従業員らは、激化するAI競争が安全と監視ツールを追い越さないよう、何らかの調整された規制の重要性を強調しました。「AIの可能性を実現するために、産業界、政府、社会全体が、新たなリスクに対処し、セキュリティ対策を開発し、監視を強化するための時間を稼ぐ選択肢を必要とするかもしれない」と彼らは書いています。「しかし、各企業と各国は、その加速を一方的に減速しないよう激しい競争圧力にさらされている。そして現在、世界にはフロンティア全体の進歩を意図的に制御するための技術的・ガバナンス的ツールが不足している。フロンティアモデルのリリースを監視する既存の取り組みを基盤として、我々は米国政府に対し、自動化されたAI開発のフロンティアを意図的に制御するために必要な技術的・ガバナンス的ツールを開発する国際的な取り組みを支援するよう要請する。」

声明に署名したOpenAIの役員や共同設立者には、CROのMark Chen、チーフサイエンティストのJakub Pachocki、共同設立者のJohn SchulmanとWojciech Zarembaが含まれます。Anthropicからは、共同設立者のJack Clark、Chris Olah、Ben Mann、CSOのJared Kaplan、Claude Codeの作成者でリーダーのBoris Cherny、アライメントチームリーダーのEthan Perezが署名しています。OpenAIの元チーフフューチャリストJosh Achiamと、解散したスーパーアライメントチームの元共同リーダーJan Leikeも署名しました。

完全な声明と1,100人以上の署名者のリストは、「Pacing the Frontier」と題された専用ウェブサイトでご覧いただけます。