プロンプトインジェクションを超えて
2025年末、セキュリティコミュニティは間接的なプロンプトインジェクションを理論上のリスクと見なすのをやめました。OWASPとNISTはそれを最大の脅威として位置づけています。この記事は、入力フィルタリングだけでは防御が不十分であり、アクション層での検証が不可欠だと論じています。決定論的なコードによるエージェントの行動監査と制限(能力契約など)により、モデルが騙されても危険な操作を防ぐことができます。アクションレベルの最小権限、マシンアイデンティティのゼロトラスト、境界能力契約を実装すべきです。
プロンプトインジェクションを超えて
要約のみ
配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。