OpenAI、AIモデルの安全性をテストするGPT-Redを発表

OpenAIは、モデルの安全性をテストするための新しいAIシステム「GPT-Red」を発表した。レッドチーミングは標準的な手法だが、AIエージェントと人間の専門家が協力する形は新しい。GPT-Redは多様な攻撃シナリオをシミュレートし、潜在的な脆弱性を発見する。しかし専門家は、企業は外部テストに依存せず、自社のビジネス要件やセキュリティプロセスにモデルが適合していることを確認すべきだと指摘する。OpenAIはこの技術を安全性評価の一部として位置づけ、最終的な責任は利用者にあると強調している。