AI生物兵器リスクは脱獄ではない

デンマークのStatens Serum Institut内の生物安全保障・生物備えセンター（CBB）は、2026年夏に『2026年生物学的脅威評価』を発表した。これは2020年以来初めての更新であり、人工知能に関して、AI安全コミュニティで一般的に見られるよりも全体的な視点を提供している。

記事は、現在のAI生物兵器リスクの議論に偏りがあると指摘する。例えば、Anthropicが最近導入した生物学的研究への制限は、多くの正当な研究者や合成生物学愛好家の不満を招いている。SpliceCraftのような局所プラスミド設計・クローニングワークベンチは、最先端モデルを使用できなくなり、安全の境界線に関する議論は実際のリスクの証拠なしに行われている。

報告書はリスクを二つに分類する：訓練されていない攻撃者と専門家。前者については、AIの利点は限定的である。CBBは二つの研究を引用している。2023年のMIT Kevin Esvelt研究室の研究では、学生が1時間のチャットボット利用で4つの大流行病原体の情報を得た。一方、2024年のRANDによるレッドチーム演習では、大規模言語モデルの有無にかかわらず攻撃計画の実行可能性に差はなかった。現在のチャットボットは幻覚の問題があるため、出力の検証には知識が必要であり、未熟な利用者にはあまり役立たない。

しかし、専門家にとっては影響は大きい。CBBは、AIを専門研究ツールに統合することで、遺伝子組み換えの結果予測、新規遺伝子の設計、配列の効果スクリーニングが大幅に向上すると強調する。高度なプログラムは既に悪用の可能性を秘めており、理論上は、既知のものより強力な新規タンパク質を予測できる可能性がある。問題は、専門家が意図をプロンプトに直接示さないことだ。彼らは正当な質問を何百回と行い、その中に悪意の兆候はない。現在の拒否トレーニングはプロンプト内の意図とトピックに基づいて調整されているが、熟練した利用者は会話開始前に意図を決定しており、モデルには見えない。

記事はさらに、4つの影響領域を分析する：訓練されていない攻撃者（最も注目されるが証拠は最も弱い）、訓練を受けた科学者（最も懸念すべき）、スクリーニング問題、そしてインフラリスク。歴史的事例は、生物兵器製造の真のボトルネックが実験室スキルと組織能力であり、情報ではないことを示している。オウム真理教とイスラム国はどちらも多大なリソースを投じたが、生物学の複雑さを克服できず失敗した。

したがって、安全保障は容易に測定可能な初心者の脱獄シナリオではなく、構造的リスクにもっと焦点を当てるべきである。現在の安全策は「空港のセキュリティチェック」のようなもので、形骸化しやすい。真の課題は、正当な研究を損なうことなく、専門的な利用者の悪意ある使用を特定し防止することである。

記事は最後に、AIは生物安全保障において脅威でもあり防御でもあるが、防御側が遅れていると指摘する。遺伝子合成のような重要なチェックポイントには依然として脆弱性がある。記事は、より包括的なリスク認識と的を絞った防御戦略を求めている。また、スクリーニング問題では、AIが攻撃と防御の両面で機能し、商業遺伝子合成が非拡散の重要な隘路であるが、規制にまだ穴があることを指摘している。全体として、この評価はAI生物兵器リスクをより詳細かつ現実的に理解するための枠組みを提供している。