LLMにタスクを委任すると文書が破損する理由

最近の研究により、LLMに文書編集などのタスクを委任すると、モデルが対話中に静かに文書を破損することが明らかになりました。DELEGATE-52ベンチマークで19モデルをテストした結果、最先端モデルでも20回のインタラクション後に25%のコンテンツが破損し、弱いモデルでは50%に達することがわかりました。原因は、エラーの蓄積、弱いモデルの削除傾向と強いモデルの幻覚、コンテキスト過負荷、およびドメイン親和性の欠如です。エージェンティックAIツールはこの問題をほとんど解決しません。