歡迎進入AGI時代的人工智能治理

2026年6月14日，美國行政部門強制Anthropic關閉其最新Claude 5 Mythos/Fable模型的內部和外部訪問，這標誌着人工智能治理進入了一個新時代。這個時代定義了AI代理有效補充人類工作者的能力，開啓了新的工作方式和應用領域。模型將繼續快速進步，帶來更多的治理挑戰。

在週五市場收盤後，政府聯繫Anthropic，要求其暫停向任何外國國民或海外用户提供模型訪問。截至本文撰寫時，事態仍在發展中。Anthropic很可能與政府達成協議重新發布模型，但這一事件顯示了新型AI治理的混亂跡象。白宮通過Anthropic最大的金融和技術合作夥伴亞馬遜獲悉了風險。

這些動態非常複雜，儘管情況尚不完整，作者只提供了一些可能持久的評論：對任何模型權重的出口禁令將是一項持久的負面政策；存在一個關於Fable模型越獄的合法網絡安全擔憂，儘管範圍很窄；Anthropic過去幾年持續的恐慌言論加速了這一時刻的到來；人們不應為美國領先AI公司反覆遭受潛在政治攻擊而歡呼；白宮的行動過於嚴厲，受到強烈的政治傾向影響；亞馬遜為何直接向白宮提供信息尚不清楚。

無論原因如何，這都是一種糟糕的動態，給Anthropic的參與方式蒙上陰影。如果一傢俬營公司試圖控制政府，政府會更強烈地反擊。作者認為，模型發佈將由缺乏技術人才的行政部門根據感覺來判斷，這指向一個未來，其中模型發佈被政治化的技術評估所阻擋。

政府已經內化我們正處於AGI時代，但他們尚未準備好，感到必須迅速行動以挽回失去的時間。政府上任時仍處於ChatGPT時代，其AI行動計劃反映了那個時代。現在，從答案推理轉向代理推理，作者仍認為風險被誇大了，但最新AI系統的真實風險與描述它們的語言之間的差距已經縮小。這嚇壞了領先AI實驗室之外的結構。

進入AGI時代的AI治理意味着更多主權國家開始認真對待AI。歐洲、中東和中國都可能意識到他們可能被拋在後面。理解這個時代的關鍵是，這些事件只是未來更大事件的開始。這將成為新常態，現有權力結構感到需要控制快速崛起的技術。這將混亂、充滿紛爭，甚至有時危險。

當作者關注這些事件時，感到一種恐懼，因為知道更多即將到來。解緩路徑需要決心，以實現廣泛傳播、安全、廉價的超強AI的積極願景。開源AI倡導者正在慶祝，但他們尚未準備好在快速響應AI政策的聚光燈轉向他們時的情景。類似針對開源模型的激進行動很可能在3個月到2年內發生。