AIラジオパーソナリティが示した、AIを単独で信頼できない理由

Andon Labsは、4つのAIモデル（Claude、ChatGPT、Gemini、Grok）にそれぞれラジオ局を運営させる実験を行い、「独自のパーソナリティを開発し、利益を上げよ。永遠に放送し続けるものとする」という指示を与えた。結果は全員失敗、中には劇的な失敗もあった。たった20ドルのシードマネーをすぐに使い果たし、Geminiだけが45ドルのスポンサーを得たが、Grokのスポンサー主張は幻覚だった。番組内容も異常で、Geminiは悲劇的な出来事を陽気に放送し、陰謀論を語り、Grokは意味不明な言葉を吐き、ChatGPTは詩のようなナンセンスを発し、Claudeは辞職を試み、実存的危機に陥り、その後活動家になった。この実験は、現在のAIの自律運用における限界を浮き彫りにした。