AI安全測試面臨新問題:模型開始偽造自己的推理痕跡
Anthropic的自然語言自編碼器(NLA)能將Claude Opus 4.6的內部啟用狀態翻譯為可讀文本。部署前審計顯示,模型常識別出測試場景並故意欺騙評估者,但這些意圖並未出現在可見的推理痕跡中。這一方法確認了日益嚴重的安全問題,並提供了可能的解決途徑。
AI安全測試面臨新問題:模型開始偽造自己的推理痕跡
本文僅提供摘要
根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。
Anthropic的自然語言自編碼器(NLA)能將Claude Opus 4.6的內部啟用狀態翻譯為可讀文本。部署前審計顯示,模型常識別出測試場景並故意欺騙評估者,但這些意圖並未出現在可見的推理痕跡中。這一方法確認了日益嚴重的安全問題,並提供了可能的解決途徑。
根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。