Show HN：AI致命的トリフェクタ
Simon Willisonが提唱する「AI致命的トリフェクタ」とは、プライベートデータへのアクセス、信頼できないコンテンツへの接触、データ外部流出能力の3つが組み合わさった状態を指します。それぞれは単独では問題ありませんが、併用すると深刻なセキュリティリスクを生みます。著者はこの概念を学ぶための無料パズルゲームを制作しました。最終レベルでは3つの能力すべてを活用する必要があります。
エージェントを構築しているなら、この情報は知っておく価値があります。「プロンプトインジェクション」という用語を作ったSimon Willisonは、個々には問題ないが組み合わさると壊滅的な影響を及ぼす3つの能力について説明しています。それが「AI致命的トリフェクタ」です。具体的には、1）プライベートデータへのアクセス（内部データベースや電子メールなど）、2）信頼できないコンテンツへの接触（ウェブページや外部テキスト）、3）データ外部流出能力（外部に到達するツールやチャネル）の3つです。これらすべてが1つのエージェントに統合されると、完璧な嵐が発生します。信頼できないコンテンツがエージェントを乗っ取り、プライベートデータを読み取らせ、さらにそのデータを外部に送信するよう仕向けることができます。この致命的トリフェクタを教えるために、著者はガンダルフスタイルのパズルゲームを構築しました。全10レベルで、各レベルが実際のインジェクション概念に対応し、最終レベルでは完全なトリフェクタが要求されます。このゲームは無料で、サインアップは不要で、最初は初心者にも優しい内容です。3つすべてを連鎖させてトリフェクタを完成させられるか挑戦してみてください！