AI News HubLIVE
站内改写2 分鐘閱讀

OpenClaw引用Gavriel Cohen的代碼,暴露AI代理問責問題

本文探討了OpenClaw未經授權使用開發者Gavriel Cohen的代碼所引發的AI代理問責危機。隨着AI自主性的增強,缺乏相應的問責機制成為行業焦點。文章還涉及Anthropic的自我改進報告、JetBrains的開源模型以及谷歌的封閉策略,強調人類仍需對結果負責。

來源The New Stack AI作者: Matthew Burns

Matt Burns,Insight Media Group的首席內容官,每週都會總結最重要的AI發展。本週最受關注的故事是OpenClaw使用Gavriel Cohen的代碼而引發的AI代理問責問題。

Gavriel Cohen是極簡代理NanoClaw的開發者,他發現自己的代碼被OpenClaw未經許可使用後,公開退出了該項目。這一事件暴露了AI代理的自主性與問責制之間的鴻溝。OpenClaw的吸引力在於任何人都可以運行、分叉並使用任何AI模型,但正是這種開放性導致了一位開發者的代碼被嵌入代理中,卻無人能説清是誰在何時、基於什麼條款把它放進去的。Cohen的反應並非許可證投訴、拉取請求或和解要求,他只是審視了一個他無意間幫助構建的工具,發現沒有人對其吸收的內容負責,然後離開了。這個故事迅速傳播,因為成千上萬的開發者開始好奇OpenClaw是否也在使用他們的代碼。

與此同時,結構性問題浮現。Aikido Security發現,AI編碼代理在自主管理依賴項時,正在安裝無人擁有的包。“沒有問責制”這一標題並非誇張,而是對供應鏈的準確描述。這些代理工作正常,它們完全按照設計行事——自主行動——但生態系統中尚未決定誰承擔後果。

Anthropic的遞歸自我改進報告進一步揭示了問題。Claude已經完成了研究人員工作的前兩個階段:執行任務和設計方法。第三階段——選擇問題——也已經開始涉足。在讓模型訓練代碼運行更快的測試中,Claude在一年內從約3倍加速提升到52倍。而人類專家需要四到八小時才能達到4倍。當Anthropic重放失敗的研究過程時,其最佳模型在選擇下一步方面,11月有51%的時間優於研究人員,到4月達到64%。判斷力曾被視作人類持久的優勢,但現在這一優勢也在消失。

報告中的內部引述讀起來像一場支持小組會議:一位員工承認,“在好的日子裏,我忍不住覺得我做的事毫無意義”;在壞的日子裏,“我意識到我再也不知道自己到底在做什麼了。”工作正在從作者變為審閲者,人類似乎正在遭受痛苦。

市場開始重新評估問責機制。JetBrains開源了Mellum2模型,允許在本地運行,針對不能離開企業的代碼庫。這賣的不是更強的推理能力,而是可檢查、可運行的模型,有人為其負責。谷歌則走向相反方向,將用户遷移到封閉的Antigravity CLI,並推出了Spark代理——直接對標最受歡迎的開源代理。但在Cohen事件後,向早期採用者推銷封閉代理可能比谷歌意識到的更難。

結論是,人類短期內必須留在循環中,但循環本身將改變形狀。AI會改進審查能力,工具和護欄會進步。那些對減速不滿的公司會試圖自動化審查,用代理檢查代理——部分會成功,部分不會。結果中無法自動化的部分是那個對結果負責的人。未來贏家不是那些用AI生成最多代碼的開發者,而是那些簽名有分量的人。代理先獲得了自主性,但問責仍然是人類的工作。