フロンティアAIの枠組みと新時代の幕開け

Demis Hassabis は最新の記事で、人類史上の転換点にあると述べています。汎用人工知能（AGI）——人間の脳が持つすべての認知能力を備えたシステム——は、おそらく数年先に実現するでしょう。彼は、AGIが責任を持って構築・展開されれば、これまでで最も有益で変革的な技術の一つになると確信しています。その影響は、インターネットや携帯電話とは比較にならず、むしろ電気や火の発見に近いものです。

Hassabis は、AGIの可能性は計り知れず、産業革命の10倍の速度で10倍の影響を与える可能性があると指摘します。それは、創薬の加速、クリーンエネルギーの開発、新しい先端材料の創出など、社会の大きな課題の解決に役立ちます。彼は、資源が人類の進歩の制限要因でなくなる豊かさの時代を思い描いています。

しかし、このビジョンを実現するには、現在の開発段階を慎重に進める必要があります。AIがAGIに近づくにつれ、サイバーセキュリティ、核リスク、生物学的脅威などの課題が浮上しています。ますます自律的で再帰的に自己改善するシステムを制御するための強固な安全策が必要であり、将来明らかになる未知の問題にも対処しなければなりません。

Hassabis は、現在、私たちは激しい商業的・地政学的競争の中にあり、それが急速な進歩を促進する一方で、技術の理解が追いついていないと強調します。不確実性が高く、リスクが大きい状況では、慎重な楽観主義が賢明な戦略です。そのためには、革新を促進しつつ責任と安全を奨励し、主要な安全問題に関する国際協力を促進し、社会の利益のためにAIの展開を慎重に検討する公共政策が必要です。

そこで彼は、金融業界規制当局（FINRA）をモデルにしたフロンティアAI基準機関の設立を提案します。この機関は、連邦政府監督下の官民パートナーシップまたは自主規制機関として、独立した技術専門家とオープンソース代表者からなる理事会を設置します。資金は主に業界から提供され、優秀な人材と大規模テストに必要な計算リソースを確保します。

基準機関は、評価プロトコルを開発し、関連する連邦機関や米国国立研究所と協力して国家安全保障に関わるテストを実施します。特定のベンチマークで閾値に達したモデルは「フロンティア級」とみなされ、その開発組織は「フロンティア研究所」となります。これらの研究所は、モデルカードの公開、強力な内部サイバーセキュリティの維持、主要な人員の審査、安全性研究への十分なリソース提供などのベストプラクティスを採用することが奨励されます。

初期段階では、フロンティア研究所は自主的にモデルを基準機関と共有し、公開の30日前までにレビューを受けます。評価プロトコルが有効かつ堅牢であることが示されれば、急速に正式化され、フロンティアモデルが米国市場で展開されるためには評価に合格することが義務付けられます。研究所はまた、公開後の重要な脆弱性に対処するために基準機関と協力します。

モデル評価には、サイバーセキュリティ、生物学的脅威などの高リスク分野における科学的評価、およびエージェント型AIの特定のテスト（安全ガードレールの回避試行や欺瞞の兆候の検出など）を含め、デジタルウォーターマークや人間可読な出力トークンなどのベストプラクティスを確保します。

これらの評価は定期的に更新され、当初は四半期ごとに行われ、時代遅れのベンチマークは廃止され新たなものに置き換えられます。当初はフロンティア研究所と協議して開発されますが、最終的には基準機関が独自のテストを作成する技術的能力を構築し、過学習を防ぐ必要があります。米国政府と協力して、第三者監査人のエコシステムを促進することもできます。

Hassabis は、このアプローチの強みは技術に焦点を当てつつ、革新を支援し責任ある行動を促進することにあると述べています。それは、特定された最大のリスクに適応し、深刻な状況が要求する場合には、フロンティア研究所間の開発減速を調整することも含めて、強化することができます。フロンティア研究所に指定されることは大きな名声を伴い、ベンチマーク基準を満たすモデルを構築するあらゆる組織に開かれています。この枠組みは、原産国やオープン/クローズドに関わらずフロンティア級モデルに適用されますが、スタートアップや学術機関からの非フロンティアモデルは対象外です。

この米国主導の取り組みは、フロンティアAIに関する国際的な共有基準を作るための強力な出発点となります。この技術は地球全体に影響を与えるため、理想的にはこの枠組みが国際社会の合意を促し、最も深刻なリスクを管理しつつ、誰もがAIの恩恵にアクセスできるようにすることです。

最後に、Hassabis は未来はまだ決まっていないと強調します。AGIが到来する前の貴重なこの期間を、全人類の利益のために技術を形作るために活用しなければなりません。私たちが今何をするかが、文明の次の段階を決定します。AGIを安全に導くことで、科学発見と進歩の新しい黄金時代を迎え、信じられないほどの人類の繁栄をもたらすことができるのです。