解析Google DeepMind的AI生物弹性计划

Google DeepMind与Isomorphic Labs近日公布了一项生物弹性计划，旨在遏制人工智能在生物学领域的潜在滥用，同时为疫情应对提供支持。两家公司在联合声明中介绍，该计划始于一年前的低调启动，如今已与15个以上的政府机构、生物安全组织和研究团体建立了合作关系。

该计划的背景是前沿AI模型（如Gemini）对生物学知识的掌握日益精细。DeepMind承认，将这类模型与专门生物学模型、代理系统（如Antigravity平台）以及第三方数据库相结合，将进一步提升其能力。然而，同样的知识既能帮助研究人员定位疫苗靶点，也可能被恶意行为者利用以填补其认知空白。DeepMind和Isomorphic将其描述为“双重使命”：既要推动前沿AI带来的科学进步，又要防止这些工具落入滥用者之手。

三管齐下的策略

计划围绕三个核心支柱展开：防止滥用、加速检测疫情、以及应对已发生的疫情或攻击。过去一年建立的15项合作伙伴关系覆盖了全部三个领域，但公告仅列举了少数合作方，包括劳伦斯利弗莫尔国家实验室、英国AI安全研究所、流行病防范创新联盟（CEPI）和弗朗西斯·克里克研究所。DeepMind表示，计划在未来6至12个月内扩大合作关系，重点关注威胁情报、AI代理评估方法以及越狱缓解措施。同时，该公司正与前沿模型论坛协调，探讨如何处理风险较高的训练数据（例如病毒学数据集）等问题。

锁定Gemini，但不阻碍科学

在防止滥用方面，工作基于威胁建模，旨在识别最可能尝试滥用的行为者及其当前面临的障碍。DeepMind采用专家红队测试和随机对照试验，以判断Gemini能否帮助这些行为者突破瓶颈。后训练方法旨在教导模型拒绝有害查询，同时避免对合法科学问题的过度拒绝——这一平衡在整个行业都难以实现。此外，部署分类器和探针以实时标记可疑活动，并通过针对性日志分析捕捉自动过滤器可能遗漏的微妙滥用模式。

DeepMind强调，这些缓解措施尚未完善，仍需持续改进。这意味着企业在评估是否依赖当前配置的安全措施时需谨慎。分类器在受控评估中能识别已知越狱模式，但无法保证在真实使用中同样有效应对新型攻击方法。

DNA合成的筛选挑战

计划探索的具体风险之一是DNA合成。国际基因合成联盟成员企业目前根据已知病原体和毒素列表进行订单筛选，并结合算法。DeepMind指出，这种方法正面临挑战，因为AI可帮助设计功能类似危险病原体但序列不匹配的DNA，从而绕过现有筛查。DeepMind提出借鉴其水印系统SynthID进行适配，目前处于探索阶段，尚未成为产品。

一个更长远的目标是开发基于功能而非序列相似性的毒性或致病性预测筛选方法，但DeepMind承认这仍是开放技术难题。

降低测序成本

在检测方面，宏基因组测序是关键技术，它能表征样本中的所有微生物，而非仅检查已知病原体。然而，成本是限制因素，尤其在疫情高发地区。DeepMind指出，Google与Pacific Biosciences的合作利用AlphaEvolve编码代理提高了测序准确性。公司正寻求进一步机会，包括优化处理测序数据的算法乃至硬件设计，并探索AlphaGenome能否直接从序列数据表征病原体。这些仍处于研究阶段，距离在低资源环境中部署早期预警网络尚有距离。

AlphaFold与应对措施

应对支柱聚焦于医疗对策空白，即许多已知病原体缺乏获批的诊断工具、疫苗或疗法。DeepMind指出，五年来有超过10,000篇传染病研究论文引用AlphaFold，涉及结核病、疟疾以及Mpox和尼帕病毒等威胁的靶点研究。最新合作是与劳伦斯利弗莫尔国家实验室的生物弹性计划，利用AlphaFold 3进行广谱抗体设计，包括泛丝状病毒抗体。DeepMind今年将继续向AlphaFold蛋白质结构数据库添加蛋白质结构和复合物，优先针对对策开发相关靶点。

此外，DeepMind将其更先进的代理系统（包括Co-Scientist）开放给部分研究人员，包括美国能源部国家实验室参与“创世纪使命”的科学家。Isomorphic Labs则组建了专门团队，计划在新型疫情爆发时快速部署其药物设计引擎，与政府和研究机构合作，并向亚洲的传染病研究项目捐赠700万美元。

政策建议

DeepMind向美国政策制定者提出的建议直接对应其三大支柱，并呼吁相关立法：在预防方面，支持联邦前沿AI安全框架、《AI就绪生物数据标准法案》、《生物安全现代化与创新法案》以及《SCALE生物学法案》；在检测方面，推动宏基因组测序在交通枢纽和人口密集区的扩展，并增加DARPA和HHS资金；在应对方面，呼吁通过《生物数据网络法案》并投资“温置”制造能力，保持随时激活状态。目前这些法案尚未通过，而公司政策诉求与实际联邦生物安全框架之间的差距，将是未来6至12个月该计划真正的考验。