困在慢速區
Gene Kim的個人AI系統因Fable模型突然被美國出口管制提前下架而陷入危機,揭示了依賴先進AI的脆弱性,以及需要類似DevOps的彈性。
6月12日晚,Gene Kim正在為家人烤晚餐,手機突然通知他Fable 5不再可用。此前一天,他從Steve Yegge那裡聽說這款模型將在10天后停用,於是他開始制定計劃。Gene精通DevOps,曾舉辦DevOps企業峰會並撰寫多本相關書籍,包括《鳳凰專案》和《獨角獸專案》。他原以為有10天時間準備,但美國政府出口管制令讓Fable提前8天下線,而且是在一個正在執行的代理會話中。隨後他經歷了職業生涯中“最奇怪、最可怕的系統管理員體驗”。
Gene構建了一個個人系統,索引了他關注的所有內容:自2011年以來的25,923張截圖、13,651個YouTube影片、590次錄製的Zoom會議等。系統涉及約50個倉庫、5萬行程式碼,執行著一組長期代理,各有名稱和職責。Marvin負責Slack、日曆和收件箱;Buster管理倉庫和Hetzer上的長作業;Forge是工程身份,在筆記本和雲端各有一個席位。
當妻子詢問已歸還租車的里程數時,Gene在30秒內從數千張截圖中找到了26,350英里,這一成功讓他搜尋到了六年前一直尋找的一篇文章。然而,第一次警告出現在Fable因YouTube服務條款問題拒絕任務並交由Opus處理時,Gene發現Opus無法操作Fable構建的工具。他的筆記寫著:“哦不,這船我開不了。”
Yegge通知模型暫停後,Gene制定了計劃:讓Fable在還能執行時編寫文件和答案,然後用Opus冷啟動,僅提供倉庫和文件,測試能否透過。但計劃僅執行了一天。
6月12日下午5:21,Anthropic收到政府指令暫停Fable訪問。Gene的專案中,兩個判斷席位中途降級為Opus 4.8。Gene宣佈SEV1,集中指揮,殺死多個計時器和crontab。他指示每個按鈕都是陷阱,會炸燬飛船。然而凌晨3點一個Claude Code定時任務仍觸發了。“飛船著火”,Opus最大思考模式下,一次按鍵可能需六分鐘傳送。
故障幾乎都不像故障,而是“悄悄出錯的正常狀態”。最聰明的席位整天在日誌中寫“bridge (Fable)”,儘管一直是Opus。一個身份在兩個模型間爭論。一次推送標記“ratified”但未批准。一個關於JVM依賴的錯誤宣告。所有這一切上面都有一個綠色儀表板。Gene指出:“最難的陷阱不會宣告自己,它們看起來像普通星期二。”
Gene在幾小時內恢復了系統,但並非靠更智慧的模型。成功是因為能夠重建專案文件——Fable實際上寫好了80%但未提交。Gene和Opus在Fable的“辦公桌”裡找到了草稿並用於重建。兩個新的Opus席位僅憑這些文件穩定了系統。Gene稱這是“一線希望”。
這個故事不僅警告依賴先進AI的風險,也顯示個人AI專案現在可能具有需要DevOps級魯棒性的複雜性。個體正在構建以往需要整個團隊維護的系統。Gene的系統是個人專案,但有大型企業系統的故障模式,因為模型讓他構建了複雜到無法裝入頭腦的系統。
Gene解釋為何Opus替代Fable如此困難:主要CLI工具的幫助資訊過時,Opus讀取後認為命令不存在並停止;Fable則會閱讀相同資訊,發現證據表明命令存在,檢視原始碼,判斷幫助文本錯誤,然後執行。這就是前沿模型繞過測試環境障礙的行為。
Gene還討論了使用本地模型的風險:政府“混沌猴”也可能干預。可移植性似乎能提供保護。他嘗試了Codex,發現切換成本幾乎為零,現在一半以上時間使用Codex。他還警告用小型模型執行代理以節省成本:他研究了2.2萬個代理對話,發現小模型擁有工作並請教大模型的配置效果不佳,而大模型規劃、小模型執行則順暢。
最後,Gene使用AI寫作,將寫書時間縮短一半,但他對“氛圍寫作”感到不安,擔心產生大量垃圾內容。