中国のトップAI専門家と会った。彼らもパニックに陥っている

北京人工知能研究院が主催した会議には、再帰的自己改善やヒューマノイドロボットなど、魅力的なセッションが多数詰め込まれていた。しかし、私が最も強く感じたのは、米国と中国が激しいAI競争を脇に置くべきだということだ。

フロンティアAIのサイバーセキュリティとシステムリスクは無視するにはあまりにも深刻であり、ますます高性能になるエージェント型モデルは、世界のAI超大国が協力しなければすぐに混乱を引き起こす可能性がある。MITのコンピューター科学者スティーブン・キャスパー氏はビデオで会議に参加し、後日「AIはグローバルな利益、グローバルな害、そして新しい能力が最終的に普及する一貫した傾向をもたらすグローバル技術だ」と述べた。

これまで米国は中国のAI進歩を主に経済・国家安全保障上の脅威と見なし、チップやチップ製造装置に厳しい制限を課してきた。最近では、米政府が国家安全保障上の懸念からAnthropicに対し、最強モデルMythosとFable 5への外国人のアクセスを禁止するよう命令した。しかし会議は、AIがあまりに急速かつ無謀に開発されれば、米中ともに損失を被るという考えを強化した。AIがより強力になり、よりエージェント的になり、日常生活とより密接に結びつくにつれ、サイバー攻撃に利用されたり、壊滅的な方法で失敗したりするリスクは高まるばかりだ。

キャスパー氏は、AIの危険に関する国際協力の利益は、協力から生じる国家安全保障リスクを上回ることを示す研究を指摘した。同氏は現在の状況を、米国とソ連が互いに備蓄を上回ろうとしたにもかかわらず、核の危険に関して協力を余儀なくされたことに例えた。「現在、AIに関するほとんど全員が同意できることの一つは、AIはチェルノブイリの瞬間を必要としないということだ」とキャスパー氏は語った。

終日行われたセッションでは、より高度なAIによってもたらされるサイバー課題の普遍性が強調された。これには、AI生成コードにおける新種の脆弱性、エージェント的ツール使用によって可能になる新しい攻撃方法、ソーシャルエンジニアリング攻撃を自動化する方法などが含まれる。別のセッション後、上海交通大学の林雲教授は、短期的にはハッカーが優位に立つと予想されるが、AIの新しい用途を含む新しい対策によって、時間の経過とともに防御側にバランスが戻るはずだと語った。林氏は、競争によって国際協力が複雑になったとしても、それは優先事項であり続けるべきだと述べた。「異なる国がリスクを同様の方法で理解すれば、共有の安全原則と技術基準を開発しやすくなります。鍵は、機密の運用詳細を公開せずにシステムリスクを低減できる共有分野を見つけることです」と同氏は語った。

両国にとって最も差し迫った問題は、開放性とリスクのバランスをどう取るかだろう。オープンウェイトモデルは研究とイノベーションに不可欠であり、中国のモデルは米国で人気を博している。しかし、これらのモデルが進歩するにつれ、ハッカーがセキュリティ脆弱性を特定するのを助けたり、サイバー兵器として使用されたりしないようにすることがますます難しくなる。過去数年、中国企業はMoonshotのKimi、AlibabaのQwen、Z.aiのGLMなど、高性能なオープンウェイトAIモデルを提供するリーダーシップを取ってきた。しかし、ガードレールを剥がされた場合、あまり強力でないオープンモデルでも危険になり得る転換点に近づいている。専門家の分析によると、Z.aiの最新モデルGLM 5.2には最先端のエージェント機能とコーディング機能が含まれている。林氏は、業界はオープンモデルが最新で、バックドアや脆弱性がなく、安全基準を満たしていることを保証する新しい方法を考案する必要があると述べた。将来を示す兆候の一つ？中国の主要AI企業の情報筋（匿名を条件に）によると、セキュリティ上の懸念から、中国では一部の高度なモデルがもはやオープンソースとしてリリースされていないという。