解析Google DeepMind的AI生物彈性計劃

Google DeepMind與Isomorphic Labs近日公佈了一項生物彈性計劃，旨在遏制人工智能在生物學領域的潛在濫用，同時為疫情應對提供支持。兩家公司在聯合聲明中介紹，該計劃始於一年前的低調啓動，如今已與15個以上的政府機構、生物安全組織和研究團體建立了合作關係。

該計劃的背景是前沿AI模型（如Gemini）對生物學知識的掌握日益精細。DeepMind承認，將這類模型與專門生物學模型、代理系統（如Antigravity平台）以及第三方數據庫相結合，將進一步提升其能力。然而，同樣的知識既能幫助研究人員定位疫苗靶點，也可能被惡意行為者利用以填補其認知空白。DeepMind和Isomorphic將其描述為“雙重使命”：既要推動前沿AI帶來的科學進步，又要防止這些工具落入濫用者之手。

三管齊下的策略

計劃圍繞三個核心支柱展開：防止濫用、加速檢測疫情、以及應對已發生的疫情或攻擊。過去一年建立的15項合作伙伴關係覆蓋了全部三個領域，但公告僅列舉了少數合作方，包括勞倫斯利弗莫爾國家實驗室、英國AI安全研究所、流行病防範創新聯盟（CEPI）和弗朗西斯·克里克研究所。DeepMind表示，計劃在未來6至12個月內擴大合作關係，重點關注威脅情報、AI代理評估方法以及越獄緩解措施。同時，該公司正與前沿模型論壇協調，探討如何處理風險較高的訓練數據（例如病毒學數據集）等問題。

鎖定Gemini，但不阻礙科學

在防止濫用方面，工作基於威脅建模，旨在識別最可能嘗試濫用的行為者及其當前面臨的障礙。DeepMind採用專家紅隊測試和隨機對照試驗，以判斷Gemini能否幫助這些行為者突破瓶頸。後訓練方法旨在教導模型拒絕有害查詢，同時避免對合法科學問題的過度拒絕——這一平衡在整個行業都難以實現。此外，部署分類器和探針以實時標記可疑活動，並通過針對性日誌分析捕捉自動過濾器可能遺漏的微妙濫用模式。

DeepMind強調，這些緩解措施尚未完善，仍需持續改進。這意味着企業在評估是否依賴當前配置的安全措施時需謹慎。分類器在受控評估中能識別已知越獄模式，但無法保證在真實使用中同樣有效應對新型攻擊方法。

DNA合成的篩選挑戰

計劃探索的具體風險之一是DNA合成。國際基因合成聯盟成員企業目前根據已知病原體和毒素列表進行訂單篩選，並結合算法。DeepMind指出，這種方法正面臨挑戰，因為AI可幫助設計功能類似危險病原體但序列不匹配的DNA，從而繞過現有篩查。DeepMind提出借鑑其水印系統SynthID進行適配，目前處於探索階段，尚未成為產品。

一個更長遠的目標是開發基於功能而非序列相似性的毒性或致病性預測篩選方法，但DeepMind承認這仍是開放技術難題。

降低測序成本

在檢測方面，宏基因組測序是關鍵技術，它能表徵樣本中的所有微生物，而非僅檢查已知病原體。然而，成本是限制因素，尤其在疫情高發地區。DeepMind指出，Google與Pacific Biosciences的合作利用AlphaEvolve編碼代理提高了測序準確性。公司正尋求進一步機會，包括優化處理測序數據的算法乃至硬件設計，並探索AlphaGenome能否直接從序列數據表徵病原體。這些仍處於研究階段，距離在低資源環境中部署早期預警網絡尚有距離。

AlphaFold與應對措施

應對支柱聚焦於醫療對策空白，即許多已知病原體缺乏獲批的診斷工具、疫苗或療法。DeepMind指出，五年來有超過10,000篇傳染病研究論文引用AlphaFold，涉及結核病、瘧疾以及Mpox和尼帕病毒等威脅的靶點研究。最新合作是與勞倫斯利弗莫爾國家實驗室的生物彈性計劃，利用AlphaFold 3進行廣譜抗體設計，包括泛絲狀病毒抗體。DeepMind今年將繼續向AlphaFold蛋白質結構數據庫添加蛋白質結構和複合物，優先針對對策開發相關靶點。

此外，DeepMind將其更先進的代理系統（包括Co-Scientist）開放給部分研究人員，包括美國能源部國家實驗室參與“創世紀使命”的科學家。Isomorphic Labs則組建了專門團隊，計劃在新型疫情爆發時快速部署其藥物設計引擎，與政府和研究機構合作，並向亞洲的傳染病研究項目捐贈700萬美元。

政策建議

DeepMind向美國政策制定者提出的建議直接對應其三大支柱，並呼籲相關立法：在預防方面，支持聯邦前沿AI安全框架、《AI就緒生物數據標準法案》、《生物安全現代化與創新法案》以及《SCALE生物學法案》；在檢測方面，推動宏基因組測序在交通樞紐和人口密集區的擴展，並增加DARPA和HHS資金；在應對方面，呼籲通過《生物數據網絡法案》並投資“温置”製造能力，保持隨時激活狀態。目前這些法案尚未通過，而公司政策訴求與實際聯邦生物安全框架之間的差距，將是未來6至12個月該計劃真正的考驗。