埃利亞斯·索恩的奇特案例——以及它揭示的AI近親繁殖問題 | 阿爾瓦·馬赫達維
一個名叫埃利亞斯·索恩的角色出現在大量聊天機器人生成的故事中。他可能是來自未來的信使，也可能是生成式AI面臨“模型崩潰”危險的警告。
你聽説過一個神秘人物叫埃利亞斯·索恩嗎？如果沒有，不妨讓AI聊天機器人給你講個故事。最近幾個月，科技界人士和研究人員注意到一個奇怪的現象：當被要求講述一個故事時，包括ChatGPT和Claude在內的多個流行大語言模型，都會生成一個以這個神秘角色為主角的故事。
這種重複出現的模式引發了人們對AI系統“近親繁殖”的擔憂。當AI模型大量從其他AI生成的內容中學習時，可能會陷入“模型崩潰”——即逐漸失去多樣性，最終輸出同質化甚至退化的結果。埃利亞斯·索恩可能是這種風險的早期信號，提醒我們注意AI訓練數據的源頭和多樣性。
也有觀點認為，這不過是AI文化中偶然形成的一個“模因”，就像人類網絡迷因一樣自行傳播。但無論如何，這一現象值得關注，因為它揭示了當前AI系統在創造力和原創性方面的潛在侷限。