OpenAI 推出 GPT-Red 测试 AI 模型安全
OpenAI 通过 GPT-Red 结合人类与 AI 进行红队测试，创新地评估模型安全性，但企业仍需确保模型符合自身业务和安全需求。
近日，OpenAI 推出了名为 GPT-Red 的 AI 系统，用于测试其模型的安全性。红队测试在业界已是标准做法，但利用 AI 代理与人类专家协作的方式尚属首次。GPT-Red 能够模拟各种攻击场景，帮助发现模型中的潜在漏洞。然而，专家指出，企业不应完全依赖外部测试，仍需确保所使用的模型与其业务需求和安全流程相匹配。OpenAI 强调，这项技术只是安全评估的一部分，最终责任在于采用者。