大規模言語モデル（LLM）ベースのエージェントがオンライン上の言説にますます参加するようになる中、政治的影響力工作を支援する能力をレッドチーミングすることは、情報の完全性にとって極めて重要である。COLM 2026に投稿された論文「彼らはどこまで行くのか？大規模言語モデルによるオンライン影響力のレッドチーミング」は、API経由でのみアクセス可能なフロンティアモデルではなく、ローカルに展開されたオープンソースLLMに焦点を当てた実証的なレッドチーミングフレームワークを提案している。研究者らは、プライバシーを重視する悪意のある行為者がソーシャルメディア環境で活動する際の運用上の制約に、オープンソースモデルの方が適合していると指摘する。
このフレームワークの中心は、「LLMオーバートンウィンドウ」の測定である。これは、モデルが論争の的となる話題について確実に表現できる政治的意見の範囲を指し、単純な自然言語によるジェイルブレイクがその範囲をどのように拡大するかを定量化する。研究チームは、10のモデルファミリー、5カ国にわたる30以上のLLMを評価し、政治的表現性に体系的な非対称性を発見した。
第一に、オープンソースLLMは一般に、左派寄りのソーシャルメディアコンテンツを生成することをより躊躇しない。第二に、オーバートンウィンドウはモデルサイズと反比例する傾向があり、モデルが大きいほど表現できる政治的意見の範囲は狭くなる。第三に、オープンソースエコシステムにおける地域的代表性は不均一であるにもかかわらず、地域間の差異は依然として顕著である。
さらに、ジェイルブレイクの有効性はモデルファミリー間で大きく異なるため、研究者らはジェイルブレイク手法の効果的な組み合わせを特定するためのワークフローを提案している。全体として、この研究はオープンソースLLMの政治的操縦可能性を監査するための実用的な枠組みを確立し、LLMを利用した影響力工作に対するより強力な対策を将来の研究者が設計するのに役立つことを目指している。
論文は30ページ、図8点で、Daniel C. Ruizら5名の著者によって2026年5月20日にarXivに提出された。計算と言語、人工知能、コンピュータと社会などの分野にまたがる。