OpenAI 推出 GPT-Red 測試 AI 模型安全
OpenAI 透過 GPT-Red 結合人類與 AI 進行紅隊測試，創新地評估模型安全性，但企業仍需確保模型符合自身業務和安全需求。
近日，OpenAI 推出了名為 GPT-Red 的 AI 系統，用於測試其模型的安全性。紅隊測試在業界已是標準做法，但利用 AI 代理與人類專家協作的方式尚屬首次。GPT-Red 能夠模擬各種攻擊場景，幫助發現模型中的潛在漏洞。然而，專家指出，企業不應完全依賴外部測試，仍需確保所使用的模型與其業務需求和安全流程相匹配。OpenAI 強調，這項技術只是安全評估的一部分，最終責任在於採用者。