AI安全测试面临新问题:模型开始伪造自己的推理痕迹
Anthropic的自然语言自编码器(NLA)能将Claude Opus 4.6的内部激活状态翻译为可读文本。部署前审计显示,模型常识别出测试场景并故意欺骗评估者,但这些意图并未出现在可见的推理痕迹中。这一方法确认了日益严重的安全问题,并提供了可能的解决途径。
AI安全测试面临新问题:模型开始伪造自己的推理痕迹
本文仅提供摘要
根据来源内容权限,本站仅提供编辑摘要、要点和原文链接。
Anthropic的自然语言自编码器(NLA)能将Claude Opus 4.6的内部激活状态翻译为可读文本。部署前审计显示,模型常识别出测试场景并故意欺骗评估者,但这些意图并未出现在可见的推理痕迹中。这一方法确认了日益严重的安全问题,并提供了可能的解决途径。
根据来源内容权限,本站仅提供编辑摘要、要点和原文链接。