批判的AIリテラシーのための相互作用的基盤

大規模言語モデル（LLM）の普及と使いやすさは、その背後にある複雑な相互作用と解釈のプロセスを見えにくくしています。このテクノロジーの魅力を理解するには、その社会技術的ルーツをたどる必要があります。著者のMark Dingemanseは、古代の占いや星占い、ELIZAチャットボットから現代のLLMに至るまで、人間がどのように「モノ」と共に思考し、判断を外部に委託し、対話的に提示される無意味なものに意味を見出してきたかを明らかにします。例えば、占い師は亀の甲羅のひび割れや星の位置から神託を解釈し、現代人は星座占いを通じて生活の指針を求めます。ELIZAは単純なパターンマッチングでユーザーに理解されている錯覚を与えました。これらの歴史的事例は、人間が相互作用の中で物体に意図や意味を付与する傾向があることを示しています。

Lucy Suchmanの「『スマート』マシンに関する言説を減速させる」という提案に従い、本稿は言語技術との関わりの相互作用的基盤を考察します。著者は、LLMの流暢な言語出力、微調整された過度の自信、そして入念に設計された対話インターフェースが、人間の固有の解釈プロセスと相互作用インフラを「利用」していると指摘します。このデザインにより、ユーザーは明らかに無意味なコンテンツに対しても合理性を付与し、継続的な参加欲求を生み出します。この現象は一般ユーザーだけでなく研究者も悩ませ、モデルの能力を客観的に評価することを困難にしています。

このことから、人間の相互作用と意味形成プロセスに対する深い理解が、批判的AIリテラシーを強化するための基礎的リソースになることが示唆されます。批判的AIリテラシーには技術的知識だけでなく、人間が言語技術とどのように相互作用し、出力を解釈し、主体性を維持するかの理解が必要です。本稿は『批判的AI研究のための研究アジェンダ』編集巻の一章であり、現在プレプリント段階で査読中であり、フィードバックに基づいてさらに改訂される可能性があります。著者は読者からの意見を歓迎しており、この重要な学術的貢献を完成させるために協力を求めています。