AI現已能輔導業餘病毒學家，科技領袖敦促國會就DNA安全採取行動
Sam Altman、Dario Amodei、Demis Hassabis等科技領袖敦促美國政府將合成DNA訂單篩查列為法律要求。他們警告，AI系統在實驗室操作上已超越博士級病毒學家，增加了生物武器濫用的風險。
OpenAI首席執行官Sam Altman、Anthropic首席執行官Dario Amodei以及Google DeepMind聯合創始人Demis Hassabis等人工智能領域的頂尖領袖，聯合致信美國政府，強烈呼籲將合成DNA訂單的篩查納入法律強制要求。他們在公開信中強調，隨着AI技術的飛速發展，當前AI系統在實驗室操作中的表現已經超越了擁有博士學位的病毒學家。這意味着，原本需要高度專業知識的病毒學實驗，如今可能被業餘研究者甚至惡意行為者利用AI工具完成，從而大大增加了生物武器製造的風險。
信中指出，儘管目前已有自願性的篩查機制，但其覆蓋範圍遠遠不足。每一份合成DNA訂單都必須經過嚴格審查，以識別潛在的生物安全威脅。科技領袖們認為，只有通過立法強制要求，才能確保所有訂單都得到充分的審查，防止技術被濫用。
此次呼籲反映了AI快速發展帶來的新型安全挑戰。去年，美國國防部高級研究計劃局（DARPA）的一項研究顯示，AI在指導病毒構建實驗中的準確率顯著高於人類專家。科技界希望國會能在生物安全領域採取預防性措施，避免技術被用於惡意目的。