埃利亚斯·索恩的奇特案例——以及它揭示的AI近亲繁殖问题 | 阿尔瓦·马赫达维
一个名叫埃利亚斯·索恩的角色出现在大量聊天机器人生成的故事中。他可能是来自未来的信使，也可能是生成式AI面临“模型崩溃”危险的警告。
你听说过一个神秘人物叫埃利亚斯·索恩吗？如果没有，不妨让AI聊天机器人给你讲个故事。最近几个月，科技界人士和研究人员注意到一个奇怪的现象：当被要求讲述一个故事时，包括ChatGPT和Claude在内的多个流行大语言模型，都会生成一个以这个神秘角色为主角的故事。
这种重复出现的模式引发了人们对AI系统“近亲繁殖”的担忧。当AI模型大量从其他AI生成的内容中学习时，可能会陷入“模型崩溃”——即逐渐失去多样性，最终输出同质化甚至退化的结果。埃利亚斯·索恩可能是这种风险的早期信号，提醒我们注意AI训练数据的源头和多样性。
也有观点认为，这不过是AI文化中偶然形成的一个“模因”，就像人类网络迷因一样自行传播。但无论如何，这一现象值得关注，因为它揭示了当前AI系统在创造力和原创性方面的潜在局限。