本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

人間と大規模言語モデルの集合体のための敵対的社会認識論

記事の要約

密集な対話的コミュニケーション環境において、公的な主張が証言、推論、制度的認定、暗黙の信頼によって支えられている状況での、情報の歪曲や捏造を分析する敵対的社会認識論(ASE)を提案。従来のエコーチェンバーや誤情報拡散の概念では不十分であるとし、信頼の悪用を監査・是正するメカニズムを概説。

ソースarXiv AI著者: Mihnea C. Moldoveanu, Joel A. C. Baum
人間と大規模言語モデルの集合体のための敵対的社会認識論
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

本論文は、2026年7月8日にMihnea C. MoldoveanuとJoel A.C. BaumによってarXivに投稿されたもので、全50ページからなる。タイトルは「人間と大規模言語モデルの集合体のための敵対的社会認識論」であり、人間と大規模言語モデル(LLM)が密集的に対話するコミュニケーション環境における信頼の構築と破壊を分析するための新しい枠組み「敵対的社会認識論(Adversarial Social Epistemology, ASE)」を提案する。

著者らは、現代の情報生態系において、公的な主張はしばしば証言の連鎖、推論、制度的認定、暗黙の信頼によって支えられていると指摘する。このような「足場」構造は情報伝達を効率化する一方で、一部のエージェントが私的利益、評判、修辞的效果、物質的報酬のために情報を歪曲、美化、省略、捏造、または戦略的に曖昧にする機会を与える。従来の認識論的バブル(epistemic bubbles)、エコーチェンバー(echo chambers)、誤情報拡散などの概念は情報の隔離や偏見の側面を明らかにするが、上記の現象を十分に説明できない。ASEの核心的な貢献は、エージェントが通常は足場付き主張を信頼できるものにするコミットメントと権利をどのように悪用して信頼を破壊するかを明らかにすることにある。情報操作者は推論連鎖の監査可能性を巧妙に変更し、本来追跡可能な主張のプロセスを曖昧にすることで責任を回避する。

この課題に対処するため、著者らは認識ネットワーク(epistemic networks)と推論主義的意味論(inferentialist semantics)に基づく監査および是正メカニズムを提案する。主張の背後にある推論連鎖と信頼関係を追跡することで、信頼破壊行為を特定し、適切な是正措置を講じることができる。この枠組みは人間のみのコミュニケーションだけでなく、LLMを含むハイブリッドシステムにも適用可能であり、現代の情報環境における信頼危機を理解し、より強靭なコミュニケーションシステムを設計するための強力な理論的ツールを提供する。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • 敵対的社会認識論(ASE)フレームワークを提案。
  • 人間とLLMの相互作用における信頼操作を分析。
  • 従来の認識論的概念では情報歪曲を十分に説明できないと主張。
  • 推論連鎖の監査可能性に基づく信頼侵害の是正メカニズムを提示。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。