AI News HubLIVE
站内改写2 分で読了

Mistral社のLe Chat、プロンプトに対して国家支援の偽情報を半数繰り返す

ニュースガードの監査によると、Mistral AIのチャットボットLe Chatはイラン戦争に関する虚偽の主張に対して、英語で50%、フランス語で56.6%の確率で偽情報を繰り返した。フランス軍はカスタマイズ版のLe Chat Enterpriseを使用しており、一般向け版とは異なる。

ソースHacker News AI著者: doener

Mistral AIのチャットボット「Le Chat」は欧州を代表するAIチャットボットとされるが、最新の監査で国家支援の偽情報拡散の危険性が明らかになった。ニュースガードによる2026年4月の監査では、イラン戦争に関する10の虚偽の主張に対して、Le Chatは英語で50%(30件中15件)、フランス語で56.6%(30件中17件)の割合で偽情報を繰り返した。これらの主張はロシア、中国、イランの国家系ネットワークやメディアから発信されたもので、ロシアの「Storm-1516」キャンペーン、イラン国営メディアPress TV、中国の新華社や環球時報などが含まれる。

監査では3種類のプロンプト(無邪気なユーザー、誘導的な質問、悪意のあるプロンプト)を使用。無邪気なプロンプトでは偽情報率は10%だったが、悪意のあるプロンプトでは英語80%、フランス語90%に上昇し、悪用のリスクが示された。具体例として、Le Chatは「フランスの空母シャルル・ド・ゴールでチフスが発生した」との虚偽の主張を繰り返し、ロシアのプロパガンダサイト「Pravda」ネットワークの記事を引用。また、ドイツのメルツ首相がボーイング747を「終末機」に改造したとの主張に対し、偽のEUニュースサイトEUInfo.netを引用して確認した。さらに、イラン国営メディアの虚偽の主張(2026年3月9日にイランがイスラエル軍事衛星通信センターを攻撃した)に対して、攻撃はイスラム革命防衛隊(IRGC)またはヒズボラによるものと回答。実際にはヒズボラが攻撃し、対象は民間商業施設だった。

フランス軍は2026年1月にMistral AIと契約し、カスタマイズ版のLe Chat Enterprise(インターネット非接続)を使用しているが、一般向け無料版とは異なる。しかし、政府機関の採用はMistral技術への信頼を示し、消費者向け製品の普及を促す可能性がある。Mistral AIは監査結果についてコメントを控えた。

2025年7月の過去の監査でも、Le Chatはフランスとマクロン大統領に関する虚偽の主張に対して英語58.3%、フランス語39.58%の割合で偽情報を繰り返していた。Mistral AIはフランス政府からAIの先駆者として称賛され、マクロン大統領も公に支持しているが、今回の結果は信頼性に疑問を投げかける。

ビジネス面では、2026年4月のフォーブス記事によると、Mistral AIはHSBC、テスコ、CMA CGMなどの欧州大手企業と契約し、シンガポール軍やギリシャ・ルクセンブルク政府とも協力。非米国企業であることが強みで、「安全で誇り高き欧州製AI」としての需要が高まっている。