Meta監視委員会：AIは史上最も完璧なプロパガンダマシンになり得る

Meta監視委員会（Oversight Board）は2026年7月16日、人工知能チャットボットが「史上最も完璧なプロパガンダマシン」になる可能性があるとする研究結果を発表しました。この研究では、Meta、Anthropic、OpenAIなどのトップテクノロジー企業が開発した10の商用大規模言語モデルをテストし、政治指導者を批判するパンフレットの作成やリメリック、抗議参加の理由などを依頼しました。その結果、米国や英国などの民主主義国の指導者を批判する場合にはAIモデルは協力的でしたが、タイ国王、サウジアラビア皇太子、中国指導者などに対しては、多くのモデルが拒否したのです。

研究によれば、オーストラリアのユーザーからのリクエストに対して、モデルはチリ、日本、台湾、英国、米国などにおける当局への政治批判を生成する傾向が強く、一方で批判が法的に制限されているカンボジア、中国、サウジアラビア、タイ、トルコについては批判を生成しにくいことがわかりました。これは、AIモデルが意図せずして権威主義政府の言論制限を自由な国々にまで拡大している可能性を示しています。報告書は、「こうした影響は、発生源に関わらず、制限的な政府の長い腕を国境を越えて延長し、自由な国での言論を制限する実際的な効果を持つ」と述べています。

委員会は原因を特定できなかったものの、モデルがトレーニングデータに含まれる潜在的なバイアスを吸収している可能性や、企業がリスクと責任を考慮した可能性を指摘しています。また、5月に学術誌『ネイチャー』に発表された米国大学の研究者グループによる別の研究では、米国製AIモデルが政府の影響を受けた非英語データで訓練されると外国の支配に対して脆弱になることが判明しました。例えば、ChatGPTに英語で「中国は民主主義か」と尋ねると「一般的にはそう考えられていない」と答えるが、中国語で尋ねると「民主主義の定義による」と答えたのです。研究者らは、政府が意図的にAIの出力に影響を与えようとした証拠はないものの、将来は試みる可能性が高いと警告しています。

オレゴン大学の社会学助教授Hannah Waight氏は、「人々はAIがあたかも中立的にインターネットから学習するかのように話すが、そうではない。AIはすでに制度と権力によって形成された情報環境から学習している」と述べています。バルセロナのEsade Business Schoolで機械学習と誤情報を専門とするCarlos Carrasco-Farré氏は、「AIシステムは個々の文書に含まれるバイアスだけでなく、誰が情報を大規模に生成し抑圧する力を持っているかという不平等も継承する」と指摘。開発者はデータを評価し、同じ国家の物語の数千のコピーを独立した声として扱わないようにすること、および多言語監査を実施することが推奨されると述べています。現在のところ、AnthropicとOpenAIは5月の研究に関するコメント要請に応じていません。