AI生物武器風險不在於越獄

丹麥國家血清研究所下屬的生物安全與生物防備中心（CBB）於2026年夏季釋出了《2026年生物威脅評估報告》。這是自2020年以來丹麥首次更新其國家人為生物威脅評估，其中關於人工智慧的部分提出了一種比AI安全領域通常所見更全面的視角。

文章指出，當前AI生物武器風險的討論存在偏差。例如，Anthropic最近對生物相關工作的限制引發了大量合法研究者的不滿，甚至影響到合成生物學愛好者的工具使用。像SpliceCraft這樣的本地質粒設計和克隆工作臺，已無法使用前沿模型，而關於安全邊界的爭論卻缺乏實際風險證據。

報告將風險分為兩類：未訓練攻擊者和專業人員。對於前者，AI帶來的優勢有限。CBB引用了兩項研究：2023年MIT Kevin Esvelt實驗室的研究顯示，學生在一小時內透過聊天機器人獲得了四種候選大流行病原體的資訊；而2024年RAND的紅隊演習則表明，無論是否使用大語言模型，攻擊計劃都未變得更可行。目前，聊天機器人因幻覺問題，輸出仍需由懂行的人驗證，因此對無背景人員幫助不大。

然而，對於專業人員，AI的影響則顯著得多。CBB強調，AI整合到專業研究工具中，能大幅提升預測基因改造結果、從頭設計新基因、以及篩選序列效果的能力。先進專案甚至可能預測出比已知更致命的蛋白變體。問題在於，專業人員不會直接在提示中暴露惡意意圖，而是透過合法查詢獲取所需資訊，這使得基於內容的安全訓練難以奏效。

文章進一步分析了四個影響領域：未訓練攻擊者（最受關注但證據最弱）、訓練有素的科學家（最應擔憂）、篩選問題，以及基礎設施風險。歷史案例表明，生物武器製造的真正瓶頸在於實驗室技能和組織能力，而非資訊獲取。奧姆真理教和伊斯蘭國都曾投入大量資源，卻因無法克服生物學本身的複雜性而失敗。

因此，文章認為，安全防護應更多關注結構性風險，而非僅針對易於測量的新手越獄情景。當前的防護措施類似於“機場安檢”，易淪為表面功夫。真正的挑戰在於，如何在不損害合法研究的前提下，識別並防止專業使用者的惡意使用。

文章最後指出，AI在生物安全領域既是威脅也是防禦工具，但防禦方目前處於落後狀態。基因合成等關鍵環節的監控仍存在漏洞。文章呼籲更全面的風險認知和針對性防護策略。此外，文章還討論了篩選問題，指出AI既可增強防禦也可用於攻擊，而商業基因合成是非擴散的關鍵瓶頸，但監管仍有漏洞。總體而言，這篇評估為理解AI生物武器風險提供了更細緻和務實的視角。