Google DeepMindのAIバイオレジリエンス推進を検証

Google DeepMindとIsomorphic Labsは、生物学におけるAIの悪用を防ぎつつパンデミック対応を強化するためのバイオレジリエンスプログラムを発表しました。両社は共同声明の中で、このイニシアチブが昨年の静かな立ち上げから、政府機関、バイオセキュリティ組織、研究グループとの15以上のパートナーシップを築いてきたことを明らかにしました。

背景として、Geminiのような先端モデルは生物学の知識をますます詳細に把握しており、DeepMindはこれらのシステムが専門モデルやエージェント（Antigravityプラットフォームなど）、サードパーティのデータベースと組み合わされることで、その能力がさらに向上することを認めています。しかし、研究者がワクチン標的をマッピングするのに役立つ知識は、理論上は攻撃者が自身の理解のギャップを埋めるためにも利用できます。DeepMindとIsomorphicはこれを「二重の使命」と位置づけ、フロンティアAIによる科学的進歩を可能にしつつ、悪用されることを防ぐとしています。

プログラムは3本柱に基づいています：悪用防止、感染症の早期検出、そして発生または攻撃が進行中の際の対応。過去1年間に構築された15以上のパートナーシップはこれらすべてに触れていますが、発表ではローレンス・リバモア国立研究所、英国AI安全研究所、CEPI、フランシス・クリック研究所など数名の協力機関のみが名前を挙げられています。DeepMindは今後6〜12ヶ月でこれらの関係を拡大し、脅威インテリジェンス、AIエージェントの評価手法、ジェイルブレイク対策に注力すると述べています。また、フロンティアモデルフォーラムと協力し、危険性の高いトレーニングデータ（ウイルス学データセットなど）の取り扱いについても協議しています。

Geminiの制限と科学の促進

悪用防止の作業は脅威モデリングに基づいており、どのアクターが悪用を試みる可能性が高く、現在どのような障害があるかを特定します。DeepMindは専門家によるレッドチーミングとランダム化比較試験を組み合わせて、Geminiがその障害を克服するのに役立つかどうかを判断しています。ポストトレーニング手法では、モデルに有害なクエリを拒否させる一方で、正当な科学質問の過剰拒否を避けるよう教え込んでいます——これは業界全体で困難となっているバランスです。分類器とプローブを展開して不正な活動をリアルタイムで検出し、自動フィルターでは見逃されがちな巧妙な悪用パターンを捉えるためにターゲットログ分析も行っています。

これらの対策は完成されたものではなく、進行中のプロセスであるとDeepMindは述べており、これは企業や政府機関が現在のセーフガードに依存するかどうかを評価する上で重要です。管理された評価で既知のジェイルブレイクパターンに対して調整された分類器が、実際の使用で出現する新しい攻撃手法に対して同等の性能を保証するわけではありません。

DNA合成スクリーニングの問題

検討されている具体的なリスクの一つはDNA合成です。国際遺伝子合成コンソーシアムの企業は現在、既知の病原体や毒素のリストに対して注文をスクリーニングしています。DeepMindは、AIが既存のスクリーニングを回避するため、危険な病原体と類似した機能を持つが配列が十分に異なるDNA配列を設計できるため、このアプローチは限界に達しつつあると指摘しています。提案された修正策は、DeepMindの既存の透かしシステムSynthIDを生物学的配列に適応することですが、これは探索段階であり、製品化はされていません。

長期的な目標として、既存データベースの配列に類似しているかどうかに関わらず、新規DNA配列の毒性や病原性を機能に基づいて予測するスクリーニングが挙げられますが、これは未解決の技術的課題とされています。

低コストシーケンシングの必要性

検出はメタゲノミクスシーケンシングに依存しています。これは既知の病原体の短いリストをチェックする従来の診断法とは異なり、サンプル中のすべての微生物を特徴づけます。制限要因はコストであり、このアプローチをアウトブレイクの発生が最も高い地域に拡大するには、コストを大幅に下げる必要があります。DeepMindは、GoogleとPacific Biosciencesの協力によりAlphaEvolveコーディングエージェントを使用してシーケンシング精度を向上させたことを例として挙げています。同社はシーケンシングデータを処理するアルゴリズムの最適化からハードウェア設計への情報提供、さらにAlphaGenomeがシーケンスデータから直接病原体を特徴づける可能性を探っています。これらは研究段階であり、管理されたパイプラインでのシーケンシング精度向上と、低リソース環境の廃水や交通ハブで機能する早期警報ネットワークとの間には大きな隔たりがあります。

AlphaFoldと対策のギャップ

対応の柱は、既知の病原体の多くに認可された診断薬、ワクチン、治療法が不足している医療対策ギャップに焦点を当てています。DeepMindは、5年間で感染症に関する1万以上の論文がAlphaFoldを引用し、結核やマラリアの伝播、Mpoxやニパウイルスなどの脅威に対する標的マッピングに貢献したと述べています。最新の成果はローレンス・リバモア国立研究所のバイオレジリエンスプログラムとの連携で、AlphaFold 3を広域抗体設計（パンフィロウイルス抗体を含む）に使用する予定です。DeepMindは今年、AlphaFoldタンパク質構造データベースに新たなタンパク質構造と複合体を追加し、対策開発に関連する標的を優先する予定です。

また、Co-Scientistを含むより新しいエージェントシステムへのアクセスを選ばれた研究者（エネルギー省国立研究所の「ジェネシスミッション」に携わる科学者を含む）に拡大しています。Isomorphic Labsはさらに一歩進み、新型アウトブレイク時に迅速に薬剤設計エンジンを展開する専用ユニットを設置し、政府や研究機関と協力しています。同社はまた、アジアの感染症研究のためにアジア慈善同盟プログラム「Health for Human Potential」に700万ドルを拠出することを約束しました。

政策提言

DeepMindの米国政策立案者への提言は3本柱に直接対応し、係属中の特定の法律に基づいています。予防面では、連邦フロンティアAI安全フレームワーク、AI対応バイオデータ標準法、DNA合成スクリーニングの義務化（バイオセキュリティ近代化・革新法）、SCALE生物学法を支持しています。検出面では、交通ハブや人口密集地でのメタゲノミクスシーケンシング拡大、アメリカ生活図書館法、DARPAおよびHHSの早期警報研究資金を求めています。対応面では、生物データウェブ法と製造能力への投資（「ウォームベース」で維持し迅速な活性化を可能にする）、事前に確立された臨床試験ネットワーク、迅速な規制経路を提言しています。これらの法案はまだ成立しておらず、企業の政策希望リストと機能する連邦バイオセキュリティ枠組みとの間のギャップが、今後6〜12ヶ月でプログラムの真の試練となるでしょう。