AI领袖呼吁加强对AI辅助生物武器的防护

一些AI行业的主要竞争对手暂时搁置分歧，共同致力于防止他们的技术被用于开发生物武器。在一封致美国立法者的公开信中，科技领袖们敦促国会制定规则，以弥补他们认为可能导致全球大流行的生物安全漏洞。

签署者包括Anthropic的Dario Amodei、OpenAI的Sam Altman、微软的Mustafa Suleyman，他们呼吁美国立法者要求销售合成DNA和RNA的公司对订单进行筛查，以识别可能用于制造危险病原体的序列。这种遗传物质可以在线订购并在实验室组装。担忧在于，AI工具可能使设计潜在危险序列变得更加容易，然后从制造商处订购并加以利用，而这在以前需要更专业的专业知识。

其他签署者包括Meta的AI主管Alexandr Wang和Google DeepMind的Demis Hassabis（因基于AI的蛋白质预测获得2024年诺贝尔化学奖）。该信函还有知名科学家、国家安全与政策专家以及生物技术公司高管（如Twist Bioscience和Ansa Biotechnologies，这两家都是合成遗传物质的主要销售商）签署。据报告，该信函由两个智库组织：美国创新基金会和进步研究所。

科学家长期以来一直警告，合成生物学的进步可能使科学家更容易设计危险生物体，甚至复活已灭绝的病原体——如果被误用、处理不当或意外释放，这些工作可能造成毁灭性后果。但过去，这种能力主要掌握在拥有先进实验室、设备和资源的熟练科学家手中。现在的担忧是，随着生物工具变得更便宜、更易获取，以及AI模型变得更强大，防止滥用的屏障正在瓦解。专家还警告AI可能有助于产生化学武器等其他威胁。

信函承认，许多最大的合成DNA和RNA供应商已经自愿进行订单筛查，但并非强制性。信函还建议保留所有订单的详细记录，以便追踪任何可能漏网的威胁。

“鉴于底层技术变化的速度，我们认为需求紧迫，”信函称。“这是各方利益相关者罕见达成一致的时刻，他们通常意见相左。我们希望政策制定者能够采取果断行动。”