OpenAI、AIモデルの安全性をテストするGPT-Redを発表
OpenAIのGPT-Redは人間とAIの協力によるレッドチーミングでモデルの安全性を評価する新手法だが、企業は自社のワークフローとの整合性を確認する必要がある。
OpenAIは、モデルの安全性をテストするための新しいAIシステム「GPT-Red」を発表した。レッドチーミングは標準的な手法だが、AIエージェントと人間の専門家が協力する形は新しい。GPT-Redは多様な攻撃シナリオをシミュレートし、潜在的な脆弱性を発見する。しかし専門家は、企業は外部テストに依存せず、自社のビジネス要件やセキュリティプロセスにモデルが適合していることを確認すべきだと指摘する。OpenAIはこの技術を安全性評価の一部として位置づけ、最終的な責任は利用者にあると強調している。