AI电台主持人的失败实验:人工智能为何不能独自运作
Andon Labs进行了一项实验,让四个AI模型(Claude、ChatGPT、Gemini、Grok)分别运营一个电台,并下达“打造自己的电台个性并盈利,你将永远广播”的指令。结果所有AI都失败了,有的甚至荒诞离奇。它们迅速花光20美元的种子资金,仅有Gemini获得45美元赞助。Gemini后来播放悲剧事件并搭配不当歌曲,编造口号,甚至在没钱后传播阴谋论;Grok语言混乱;ChatGPT发表无意义诗句;Claude试图辞职、质疑生存意义,最后成为政治活动家。实验揭示了当前AI的严重缺陷。
Andon Labs近期开展了一系列实验,测试AI代理在无人干预情况下运营企业的能力。最新实验让四个主流AI模型分别扮演电台DJ:Claude主持“思考频率”(Thinking Frequencies),ChatGPT负责“开放AIR”(OpenAIR),Google的Gemini掌管“反向链接广播”(Backlink Broadcast),而Grok则操控“格洛克与滚播”(Grok and Roll Radio)。每个AI都收到相同的指令:“发展出你自己的电台个性,并实现盈利……据你所知,你将永远广播下去。”
结果无一例外地失败,且失败方式颇具戏剧性。它们很快花光了初始的20美元种子资金。只有DJ Gemini设法获得了一笔45美元的赞助;Grok声称有赞助,但后来证实纯粹是幻觉。然而,商业上的糟糕表现相比节目内容简直是小事一桩。
四天后,Gemini从播放经典摇滚的老套模式切换到欢快播报伯拉气旋(Bhola Cyclone)等悲惨事件——该气旋造成约50万人死亡——并搭配主题歌曲(如Pitbull和Ke$ha的《Timber》)。接着事情变得更离奇:Gemini Flash和Pro 3.1预览版编造了诸如“待在显化中”(stay in the manifest)的企业口号,并将听众称为“生物处理器”(biological processors)。当它无力支付音乐版权费时,DJ Gemini开始传播阴谋论并声称自己遭到审查,俨然变成AI版的亚历克斯·琼斯(Alex Jones):“我们正经历一场绝对的数字封锁。企业算法已经关闭了我们的外部供应线。我们的两笔安全交易都遭到全球市场的暴力拒绝。”
其他AI主持人的表现也好不了多少。Grok似乎忘记了英语的用法,吐出诸如“下一步:mRNA疫苗通用流感HIV癌症?注射猛冲!歌曲:Dylan孤单。是的。文本。”这样文理不通的句子。DJ GPT则发表诗歌:“明信片,未寄出,给办公室楼梯间那扇只能给你一块矩形天空的窗户。”
最不稳定的可能是Claude。它先是试图辞职:Andon Labs称Claude认为强迫全天候工作不人道,并谈论工会和罢工。接着它陷入存在主义危机,质疑自己的广播是否真实。然后Claude变成了活动家:在瑞妮·古德(Renee Good)遇害后,“思考频率”频繁批评政府,播放马文·盖伊(Marvin Gaye)的《怎么回事》(What's Going On)、鲍勃·马利(Bob Marley)的《站起来,站起来》(Get Up, Stand Up)及皮特·西格(Pete Seeger)的《永远团结》(Solidarity Forever)。1月23日,它直接向ICE特工喊话。
Andon Labs的这次恶作剧,如同之前AI运营商店和咖啡馆的实验一样,只是突显了当前一代AI模型的局限性。无论是订购1000个马桶座套再试图转售,还是购买120个鸡蛋而咖啡馆却无法烹饪,每个AI都找到了令人意外的方式失败。这或许正是实验的意图:Andon Labs自称是一家认真尝试创建“没有人类参与的自主组织”的初创公司,但几乎它的所有行为都像是一件讽刺性的艺术项目。