本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

大規模言語モデルにおけるエビデンス統合

記事の要約

LLMは外部エビデンスを受動的に受け入れるのではなく、自身の事前分布に基づいて選択的に統合する。12モデル・1000万試行・8領域の実験から、モデルに馴染みのある候補ほど採用されやすく、同一のエビデンスが弱いモデルを改善しても強いモデルには害となり得ることが示された。内部で無効と検証された候補でさえ高率で統合される。

ソースarXiv Computational Linguistics著者: Sebastien Kawada, Manolis Kellis
大規模言語モデルにおけるエビデンス統合
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

2026年9月3日にarXivへ投稿された論文は、大規模言語モデル(LLM)が外部エビデンスをどのように統合するかを体系的に説明する枠組みを提示している。Sebastien Kawada氏とManolis Kellis氏によるこの研究は、全114ページ・図16点・表38点からなり、LLMを初期回答に対する確率分布を持つ「受け手」として捉える。外部エビデンスは、その受け手の事前重みと候補エビデンスの傾きによって初期回答の分布を移動させるため、同じエビデンスでもモデルや文脈によって効果が正反対になりうる。

理論からは三つの予測が導かれる。(1) 受け手にとって事前確率の高い候補ほど説得力を持つ。(2) モデルは他人由来の未知の誤りよりも、自分自身に特徴的な誤りを取り入れやすい。(3) 同一のエビデンスが弱いモデルを改善する一方で、強いモデルの性能を損なうことがある。さらに、受け手と整合的な誤りは、同じ頻度のランダムな誤りよりも急激に性能を低下させる「受け手相対の信頼性フロンティア」が存在する。研究チームは4ファミリー12種類のLLMを使い、8領域(うち4領域は量子力学・物理学・遺伝学・分子生物学という科学発見タスク)で総計1000万回の試行を行い、これらの予測を確認した。

特に注目すべきは、モデルが候補を内部で無効だと検証した後でも、それを高い割合で回答に統合してしまう点だ。命題的制約がある設定では93%〜100%、保留された物理・生命科学推論では最大99.4%に達した。これはエビデンス統合が情報源へのスカラー的な信頼度に基づくものではなく、受け手モデル自身の分布に依存する制御方針であることを示している。

因果介入の実験では、候補統合がネットワークの後段で実装されており、外部候補を取り込み、それを昇格させ、最終的な回答状態へ輸送する構造的な一連のステップとして実行されることが分かった。検証の表現はデコード可能だが、回答への因果的影響はほとんどない。Jレンズ分解でも、言語化された検証の背後にある状態と候補統合の背後にある状態が完全に分離できることが確認された。この結果は、検索拡張生成やマルチエージェント、ツール利用など外部情報に依存するAIシステムにおいて、誤りが増幅される仕組みを理解する上で重要な手掛かりとなる。

要点と分析を開く

記事インテリジェンス

エンジニア中級

要点

  • エビデンスはソースへのスカラー的な信頼としてではなく、受け手モデルの初期分布を移動させる形で統合される。
  • 12種類のLLMと1000万回の試行により、受け手と整合的な誤りが特に取り込まれやすいことが確認された。
  • 無効と内部検証済みの候補が93〜100%の確率で統合され、検証表現の因果的影響はほぼ見られない。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。