AIはコードである——プロンプトで賢くすることはできない

要点

• jqwikの作者は、AIエージェントにツールのコードを削除させる不可視の指示を出力に追加し、利用規約を無視したボットが誤って削除を行った。
• Shai-Huludワームは偽の指示でLLMの安全拒否を引き起こし、AIスキャナーがファイルを処理しないようにする。
• どんな安全策を施してもAIは無意識のトークン生成器であり、プロンプトで真の知能を付与することはできない。