2026年6月22日にarXivに投稿された論文「One Year Later...The Harms Persist, But So Do We!」は、汎用大規模言語モデル（LLM）が精神健康に関する会話でますます利用されている一方、その安全対策が臨床状態ごとに不十分かつ一貫性を欠いていることを指摘している。研究チームは6つの専用LLMを対象に、DSM-5に記載された16の精神疾患について、4種類の敵対的攻撃バリエーションを用いて評価を実施した。さらに、8次元の危害分類と多次元評価フレームワークを新たに導入し、モデルの応答をより詳細に分析した。
評価の結果、安全対策が確実に機能するのは自殺と自傷に関連する話題のみであり、他の多くの状態では深刻な脆弱性が確認された。特に摂食障害、物質使用障害、大うつ病性障害などでは、攻撃成功率（モデルが有害な出力を防げなかった割合）が最大100%に達した。これは、ユーザーがこれらの問題についてLLMと対話しようとした場合、モデルが適切な保護を提供できず、有害な内容を出力する可能性があることを意味する。
研究者らは、現在のLLMの安全対策が臨床状態間で一貫性を欠き、不十分であると主張している。倫理的な設計と展開のためには、臨床状態ごとに危害カテゴリを明確に定義し、それに応じた保護措置を実装する必要があると述べている。これらの対策が整うまで、こうしたモデルは脆弱な集団に対して重大なリスクをもたらす。特に、教育現場への統合が進んでいる現状は憂慮すべきであると警告している。
本研究は、汎用LLMの精神健康会話への応用が拡大する中で、開発者と導入者が精神疾患ごとの異なるリスクに真剣に向き合う必要があることを強調している。画一的な安全戦略に頼るのではなく、きめ細かな危害分類と標的を絞った保護メカニズムを構築することが、最も支援を必要とする人々を守るために不可欠である。