AIエージェントの承認プロンプトはいつセキュリティ境界となるのか？

セキュリティ研究者がオープンソースのAIプロジェクトHermes Agentに対して3つの承認バイパス脆弱性を報告したところ、プロジェクト側は報告受理後にセキュリティポリシーを変更し、承認プロンプトをセキュリティ境界ではないヒューリスティックと再定義して報告をクローズした。本記事は、業界内での承認プロンプトのセキュリティ上の役割に関する不一致を議論し、デフォルトデプロイメントにおいて人間による確認ステップがセキュリティ管理なのか利便性なのかという重要な問題を提起する。