AI News HubLIVE
站內改寫1 分鐘閱讀

AI生成的兒童書:身體恐怖版

作者購買了一本AI生成的暢銷兒童百科全書,發現其中包含大量令人不安的身體恐怖影像,如怪物、扭曲的人臉等。文章指出當前AI模型在生成兒童書籍方面仍存在嚴重質量缺陷。

來源Hacker News AI作者: surprisetalk

上週,我釋出了一個關於AI生成內容同質化的視覺演示。即便所有單個作品都是人類可創造的完美複製品,其輸出也易於識別:AI的十萬個為什麼。在那篇文章中,我整理了約220本AI生成的兒童書,但刻意迴避了質量問題。這類對話往往毫無結果,反駁者總是說下一代模型會更好。因此,我試圖提出一個更簡單的觀點:這些書都是千篇一律的。如果讓LLM替你發聲,你的損失可能超乎預期。

然而,作為家長,好奇心最終佔了上風,我購買了一本亞馬遜暢銷書。在深入探討之前,我認為兒童百科全書之所以成為猛烈攻擊的目標,原因有三:第一,它們可能很好賣——我敢打賭,發達世界的大多數孩子在某階段都會擁有一本;第二,購買者並非讀者——這些書由親戚或家庭朋友根據封面判斷併購買作為禮物;第三,與虛構作品不同,“作者”可以削弱傳統出版商,而無需冒侵犯任何嚴格保護的智慧財產權的風險。

當然,這些百科全書塑造著幼兒的思想,因此我們應設定高標準。幸運的是,我被告知前沿模型已在2025年夏季超越了博士水平的智力。問題中的大多數書出版於2026年中,插圖指向一家美國主要實驗室的旗艦模型。因此,很可能沒什麼可擔心的——哦……哦。嗯,呼!

當然,好的恐怖不止是驚嚇。有時,它是瞥見一個向你伸出手的倒影:或者,是在一個你不認識的星球上醒來。你懇求、乞求、尖叫,但沒人相信:嘿——你的貓是不是有點不對勁?你無助地看著野獸和樹木融合成一個邪惡的、搏動的質量:藤蔓纏繞著你的腳踝;一個刺耳的、無形的聲音在你耳邊低語著令人不安的話語。

順便一提,所有這些照片都來自亞馬遜上的#1分類暢銷書(連結):排名和評論可以偽造,但如果你瀏覽相關的產品類別,這類東西無處不在。我相信這種曝光能轉化為實際銷售。

所以,就是這樣。是的,明天的模型完全可能生成完美的兒童百科全書。但在此之前,我們正在搞砸一些孩子。