跳到主要內容
AI News HubLIVE
站內改寫2 分鐘閱讀

OpenAI加密Codex代理指令,阻止本地審計追蹤

文章摘要

OpenAI在其Codex命令列介面中引入了多代理v2訊息加密,隱藏了代理間傳遞的指令,導致開發者無法除錯和審計代理行為,引發了社群對可觀測性喪失的擔憂。

來源Hacker News AI作者: nyku
OpenAI加密Codex代理指令,阻止本地審計追蹤
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

OpenAI 再次以其實際行動表明,它並不如其名稱所暗示的那樣“開放”。這家資金充裕的AI巨頭近期修改了其Codex命令列介面中的多代理編排功能,對傳遞給子代理的訊息進行了加密。

Codex 支援多代理編排,即允許父代理生成子代理或將任務委託給其他代理,這些代理可能呼叫不同的模型。新引入的Codex/GPT-5.6版本中,一個名為“multi-agent v2”的協議開始發揮作用,該協議似乎旨在讓執行時自行分配工作,而非依賴使用者宣告的配置設定。

目前,multi-agent v2 仍在開發中,OpenAI 尚未正式對其進行文件化。然而,開發者已經注意到Codex為了適配新的代理管道所做的更改,並對新的安排感到擔憂。上個月,OpenAI 的開發人員合併了一個拉取請求,用於加密 multi-agent v2 的訊息負載——即代理之間傳遞的文本指令。該拉取請求的說明文字以“為什麼”開頭,但並未實際解釋這一變更的原因。

說明中寫道:“Multi-agent v2 目前透過普通的工具引數和代理間上下文路由代理指令。這意味著父模型可以發出明文任務文本,Codex 可以將其持久化到歷史/回滾中,而接收方可以將其作為普通的助手訊息JSON接收。本次更改調整了 v2 路徑,使代理指令在模型呼叫之間保持加密:響應(OpenAI API)對模型返回的訊息引數進行加密,Codex 僅轉發該密文,響應在內部為接收模型解密。”

增強隱私和安全性,或隱藏可用於模型蒸餾的資料,都是合理的變更原因。然而,OpenAI 並未說明為何進行此更改。在缺乏明確溝通的情況下,開發者呼籲公司確保其實現不會因其他考慮而犧牲可審計性。

支付服務 Zolvat 的CTO Ignat Remizov 提交了一個問題,指出:“加密傳遞路徑作為隱私加固是可以理解的,但它也移除了本地回滾歷史、追蹤縮減以及父端審計/除錯介面中的人類可讀任務/訊息文本。” Remizov 的擔憂在於,開發者和程式碼維護者將獲得更少的資訊來評估代理接收到的指令及其採取的行動。他調侃道:“夥計們,我們可不想建造天網,然後無法審計它在做什麼。”

其他開發者呼應了Remizov對可觀測性喪失的擔憂,並推測OpenAI鎖定其代理訊息是為了防止競爭對手瞭解其多代理實現的工作方式。The Register 已聯絡 OpenAI 置評,但尚未收到回覆。

展開要點與分析

文章情報

工程師中級

要點

  • OpenAI加密了Codex中多代理v2的訊息負載,使得代理指令不可見。
  • 該變更移除了本地回滾歷史中的人類可讀任務文本,影響審計和除錯。
  • 開發者擔心此舉會削弱對AI系統的監控能力,並猜測可能是為了防止競爭對手分析其實現。
  • OpenAI尚未正式說明加密原因,也未回應置評請求。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。