AI領袖呼籲加強對AI輔助生物武器的防護
AI行業的多位領袖聯合致信美國立法者，要求對合成DNA和RNA的銷售實施強制性篩查，以防止AI技術被用於開發生物武器。他們警告，當前的生物安全漏洞可能助長全球大流行病的發生。
一些AI行業的主要競爭對手暫時擱置分歧，共同致力於防止他們的技術被用於開發生物武器。在一封致美國立法者的公開信中，科技領袖們敦促國會制定規則，以彌補他們認為可能導致全球大流行的生物安全漏洞。
簽署者包括Anthropic的Dario Amodei、OpenAI的Sam Altman、微軟的Mustafa Suleyman，他們呼籲美國立法者要求銷售合成DNA和RNA的公司對訂單進行篩查，以識別可能用於製造危險病原體的序列。這種遺傳物質可以在線訂購併在實驗室組裝。擔憂在於，AI工具可能使設計潛在危險序列變得更加容易，然後從製造商處訂購併加以利用，而這在以前需要更專業的專業知識。
其他簽署者包括Meta的AI主管Alexandr Wang和Google DeepMind的Demis Hassabis（因基於AI的蛋白質預測獲得2024年諾貝爾化學獎）。該信函還有知名科學家、國家安全與政策專家以及生物技術公司高管（如Twist Bioscience和Ansa Biotechnologies，這兩家都是合成遺傳物質的主要銷售商）簽署。據報告，該信函由兩個智庫組織：美國創新基金會和進步研究所。
科學家長期以來一直警告，合成生物學的進步可能使科學家更容易設計危險生物體，甚至復活已滅絕的病原體——如果被誤用、處理不當或意外釋放，這些工作可能造成毀滅性後果。但過去，這種能力主要掌握在擁有先進實驗室、設備和資源的熟練科學家手中。現在的擔憂是，隨着生物工具變得更便宜、更易獲取，以及AI模型變得更強大，防止濫用的屏障正在瓦解。專家還警告AI可能有助於產生化學武器等其他威脅。
信函承認，許多最大的合成DNA和RNA供應商已經自願進行訂單篩查，但並非強制性。信函還建議保留所有訂單的詳細記錄，以便追蹤任何可能漏網的威脅。
“鑑於底層技術變化的速度，我們認為需求緊迫，”信函稱。“這是各方利益相關者罕見達成一致的時刻，他們通常意見相左。我們希望政策制定者能夠採取果斷行動。”