AI生物武器风险不在于越狱

丹麦国家血清研究所下属的生物安全与生物防备中心（CBB）于2026年夏季发布了《2026年生物威胁评估报告》。这是自2020年以来丹麦首次更新其国家人为生物威胁评估，其中关于人工智能的部分提出了一种比AI安全领域通常所见更全面的视角。

文章指出，当前AI生物武器风险的讨论存在偏差。例如，Anthropic最近对生物相关工作的限制引发了大量合法研究者的不满，甚至影响到合成生物学爱好者的工具使用。像SpliceCraft这样的本地质粒设计和克隆工作台，已无法使用前沿模型，而关于安全边界的争论却缺乏实际风险证据。

报告将风险分为两类：未训练攻击者和专业人员。对于前者，AI带来的优势有限。CBB引用了两项研究：2023年MIT Kevin Esvelt实验室的研究显示，学生在一小时内通过聊天机器人获得了四种候选大流行病原体的信息；而2024年RAND的红队演习则表明，无论是否使用大语言模型，攻击计划都未变得更可行。目前，聊天机器人因幻觉问题，输出仍需由懂行的人验证，因此对无背景人员帮助不大。

然而，对于专业人员，AI的影响则显著得多。CBB强调，AI集成到专业研究工具中，能大幅提升预测基因改造结果、从头设计新基因、以及筛选序列效果的能力。先进项目甚至可能预测出比已知更致命的蛋白变体。问题在于，专业人员不会直接在提示中暴露恶意意图，而是通过合法查询获取所需信息，这使得基于内容的安全训练难以奏效。

文章进一步分析了四个影响领域：未训练攻击者（最受关注但证据最弱）、训练有素的科学家（最应担忧）、筛选问题，以及基础设施风险。历史案例表明，生物武器制造的真正瓶颈在于实验室技能和组织能力，而非信息获取。奥姆真理教和伊斯兰国都曾投入大量资源，却因无法克服生物学本身的复杂性而失败。

因此，文章认为，安全防护应更多关注结构性风险，而非仅针对易于测量的新手越狱情景。当前的防护措施类似于“机场安检”，易沦为表面功夫。真正的挑战在于，如何在不损害合法研究的前提下，识别并防止专业用户的恶意使用。

文章最后指出，AI在生物安全领域既是威胁也是防御工具，但防御方目前处于落后状态。基因合成等关键环节的监控仍存在漏洞。文章呼吁更全面的风险认知和针对性防护策略。此外，文章还讨论了筛选问题，指出AI既可增强防御也可用于攻击，而商业基因合成是非扩散的关键瓶颈，但监管仍有漏洞。总体而言，这篇评估为理解AI生物武器风险提供了更细致和务实的视角。