OpenAI與Anthropic簽署公開信，呼籲立法防止AI製造生物武器
多家領先AI公司的高管和科學家聯合簽署公開信，呼籲對合成DNA和RNA的銷售實施強制性客戶和訂單篩查，以防止AI被濫用於開發生物武器。信件指出，AI的發展可能降低製造生物武器的知識門檻，因此需要法規確保基因合成服務不被惡意利用。
包括Google DeepMind的Demis Hassabis、OpenAI的Sam Altman、Anthropic的Dario Amodei以及Microsoft AI的Mustafa Suleyman在內的多位AI行業領袖，聯合簽署了一封公開信，呼籲透過法律強制要求銷售合成DNA和RNA的公司對客戶和訂單進行篩查，以防止基因材料被用於製造生物武器。這封信由無黨派組織“進步研究所”和右傾的“美國創新基金會”組織發起，信中承認，鑑於AI的發展速度，“存在一種現實可能性，即歷史上阻止惡意行為者獲取生物武器的知識壁壘將顯著削弱。”
科學家Arthur Kornberg在20世紀50年代首次成功合成DNA。如今，這一過程已實現自動化，全球數十家公司利用商業合成儀“列印”並銷售定製的基因序列，用於科學研究、藥物開發和診斷。許多供應商只向合格的研究人員、生物技術公司和教育機構銷售，但並非所有供應商都會審查客戶或訂購的基因序列。2017年，加拿大研究人員透過郵寄訂購的價值10萬美元的DNA重建了已滅絕的馬痘病毒，引發警覺。批評者指出，同樣的方法可用於構建天花病毒——一種密切相關且致命的病毒。自那以後，基因合成成本進一步下降。
結合AI的進步，如今利用大型語言模型設計新型危險毒素和病原體已成為可能，儘管從頭製造功能性病毒可能仍需要一定的生物學訓練。雖然生物恐怖襲擊鮮有發生，但它們可能造成大規模傷亡、公眾恐慌和經濟損失。一個主要的擔憂是，AI設計的病原體可能有意或無意地引發全球大流行。
“AI工具使使用者能夠迅速識別哪些訂單序列不會被篩查，”斯坦福大學微生物學家和生物安全專家David Relman表示，他也是簽署者之一。“如果得到適當提示，它們還能告訴你如何改變訂單性質，使得即使是那些進行篩查的公司也更難檢測到你試圖製造什麼。”
簽署者還包括其他科學家、國家安全專家以及基因合成公司Twist Bioscience和Ansa Biotechnologies的高管。這些公司是國際基因合成聯盟（IGSC）的成員，該聯盟成立於2009年，旨在實施自願篩查實踐。許多公司已使用軟體篩查訂單中的“關注序列”，這些序列可能增強生物體的毒性或致病能力。
“如果你擁有能夠合成DNA的技術，那麼你應確保其得到負責任的使用，部分責任就是確保你瞭解你在製造什麼以及為誰製造，”Twist Bioscience政策和生物安全副總裁James Diggans表示。該公司多年來一直支援實施正式規則。
拜登政府期間出臺的聯邦指南要求，接受聯邦資助的科學家和公司必須從進行採購篩查的供應商訂購合成基因序列。今年早些時候在參議院提出的一項兩黨法案將要求所有在美國運營的基因合成供應商對訂單和客戶進行篩查，以防範不良行為者或危險病原體。
但篩查工具並非完美。去年，微軟研究人員發表的一項研究表明，AI蛋白質設計工具能夠生成可能危險的基因序列，這些序列成功避開了公司的篩查軟體。這些模型提出了與已知危險蛋白質結構相似的新蛋白質序列。
Y Combinator前總裁、Safe AI Fund合夥人Geoff Ralston認為，擁有生物學模型的AI實驗室應對其使用者進行篩查。“如果要求模型幫助你做即將危險的事情，應當非常困難，甚至不可能，”同樣簽署了這封信的Ralston說。Relman同意，圍繞篩查程式的法規只是解決方案的一部分。“鑑於篩查在某些情況下可能失敗，我們必須有其他控制點，”他說，“這就是AI公司必須加強的地方。”