前沿人工智能框架與新紀元的曙光

Demis Hassabis 在最新文章中寫道，我們正處於人類歷史的關鍵時刻。通用人工智能（AGI）——一種具備人類所有認知能力的系統——可能僅需幾年就能實現。他堅信，如果負責任地構建和部署，AGI將成為有史以來最有益、最具變革性的技術之一，其影響之深遠無法與互聯網或移動通信相比，更類似於電或火的發現。

Hassabis 指出，AGI 的潛力巨大，可能以10倍於工業革命的速度帶來10倍的影響。它將幫助解決社會面臨的重大挑戰，從加速藥物發現到開發清潔能源，再到創造先進材料。他甚至設想了一個資源不再限制人類進步的新時代。

然而，要實現這一願景，我們必須謹慎應對當前的發展階段。隨着AI能力接近AGI，網絡安全、核風險和生物威脅等挑戰日益凸顯。我們需要強有力的保障措施來保持對日益自主和遞歸自我改進系統的控制，並解決未來可能出現的未知問題。

Hassabis 強調，目前我們正處於一場激烈的商業和地緣政治競賽中，這推動了快速進步，但技術前沿的發展速度已超過我們的理解能力。在高度不確定且風險極高的背景下，謹慎樂觀是合理的策略。這需要公共政策在促進創新的同時，激勵責任和安全，推動國際協作，並審慎考慮AI的社會效益。

為此，他提出建立一個模仿金融業監管局（FINRA）模式的前沿AI標準機構。該機構將作為聯邦監管下的公私合作伙伴或自律組織，由獨立技術專家和開源代表組成董事會。資金主要來自行業，以吸引頂尖人才和提供必要的計算資源。

該標準機構將負責制定評估協議，並與聯邦機構及美國國家實驗室合作，測試涉及國家安全的領域。達到一定基準的模型將被視為“前沿級”，其開發組織則成為“前沿實驗室”。這些實驗室需要遵守最佳實踐，如發佈模型卡、維護網絡安全、審查關鍵人員等。

初期，前沿實驗室將自願在發佈前30天內與標準機構共享模型。一旦評估協議證明有效，將迅速正式化，要求前沿模型必須通過評估才能在美國市場部署。實驗室還需與標準機構合作解決發佈後的關鍵漏洞。

模型評估應包括對網絡安全、生物威脅等高風險領域的科學評估，以及代理型AI的特定測試，如檢測試圖繞過安全護欄或欺騙行為，並確保最佳實踐，如數字水印和可讀輸出令牌。

這些評估將定期更新，最初可能每季度一次，淘汰過時的基準。實驗室最初參與開發，但最終標準機構應建立獨立測試能力，防止過擬合。與美國政府合作，可推廣第三方審計生態系統。

Hassabis 認為，這一方法的技術聚焦性使其能夠支持創新並激勵負責任行為。它可隨風險識別而調整，甚至在必要時協調前沿實驗室放緩開發。成為前沿實驗室將帶來聲望，並向任何達到基準的組織開放，無論其國家或模型開放與否。非前沿模型（如初創公司或學術機構）可豁免。

這一由美國發起的努力將為制定共享的國際標準奠定基礎。由於AI將影響全球，該框架有望推動國際共識，以管理最嚴重風險並確保人人享有AI機遇。

最後，Hassabis 強調未來尚未確定。在AGI到來之前，我們必須利用這段寶貴窗口期，引導技術造福全人類。通過安全地引入AGI，我們可以進入科學發現與進步的新黃金時代，實現人類繁榮的輝煌未來。