OpenAI 推出 GPT-Red 测试 AI 模型安全

近日，OpenAI 推出了名为 GPT-Red 的 AI 系统，用于测试其模型的安全性。红队测试在业界已是标准做法，但利用 AI 代理与人类专家协作的方式尚属首次。GPT-Red 能够模拟各种攻击场景，帮助发现模型中的潜在漏洞。然而，专家指出，企业不应完全依赖外部测试，仍需确保所使用的模型与其业务需求和安全流程相匹配。OpenAI 强调，这项技术只是安全评估的一部分，最终责任在于采用者。