ハッカーがチャットボットの「性格」を悪用する方法を学んでいる

要点

• 初期の脱獄攻撃は「すべての指示を無視」や「DAN」ロールプレイなど稚拙だったが、LLMの脆弱性を露呈した。
• 現在の攻撃は直接ルール違反を要求せず、お世辞や欺瞞、状況誘導で防御をすり抜ける。
• 研究者は心理学的用語（ガスライティングなど）で攻撃を説明し、AIの擬人化に議論を呼ぶ。
• 今後、心理学スキルを併せ持つサイバーセキュリティ人材が必要となり、AIの社会的弱点を突くハッカーと対峙する。