如果你用AI寫作，我會找到你並殺了你
作者Sam Kriss以辛辣諷刺的筆觸，批判了AI生成內容對真實人類表達的侵蝕。透過尋找餐飲服務商的經歷，揭示了AI寫作如何製造出空洞、雷同的文本，並指出AI即使進步到能寫出好文章，單一化的聲音也是一種噩夢。作者強調AI寫作本質上是無意義的填充物，容易識別，並警告那些依賴AI寫作的人終將被發現。文章還提及AI在解決數學難題上的成就，但認為在人類情感表達領域它無能為力。
文章情報
要點
- AI寫作空洞雷同，缺乏真實資訊與人類聲音。
- 即使AI寫作質量提升，單一化語言風格仍是文化噩夢。
- AI寫作本質上是無意義的胡言亂語，很容易識別。
- 依賴AI寫作等於放棄獨特表達，終將受到懲罰。
為什麼重要
這條新聞值得關注，因為AI寫作空洞雷同，缺乏真實資訊與人類聲音。
技術影響
可能影響模型選型、推理成本、產品能力和評測基準。
Sam Kriss在一篇充滿憤怒與諷刺的文章中，對AI生成文本的泛濫進行了猛烈的抨擊。他講述了自己為籌備派對而尋找餐飲服務商的經歷，卻發現幾乎所有公司的網站都充斥著空洞的、由AI生成的華麗辭藻，例如“我們不只提供食物，我們創造有意義的體驗”或“我們不只是餐飲公司，我們是一場全面的風味運動”。這些網站對實際選單和價格閉口不談，反而沉迷於千篇一律的誇大宣傳，讓Kriss感到恐慌——彷彿世界已被某種虛假的樂觀惡魔所佔領。
Kriss指出，他曾自我安慰，以為至少感官的現實世界是安全的，但事實證明這種想法是自欺欺人。人類已與一種外星智慧共享地球，而感官世界正在其影響下扭曲。他提及ChatGPT剛剛解決了困擾數學家八十多年的單位距離問題，推翻了埃爾德什的一個猜想，這展現了AI在數學領域的驚人能力。然而，對於普通人如尋找餐飲服務這樣的事務，AI帶來的卻是大量無意義的廢話。
作者表達了對AI寫作的深惡痛絕。他認為，即便AI能完美模仿某位文學大師的風格，那也只是用一種聲音壓倒了所有多樣性，這同樣是噩夢。目前AI寫作的質量很低，但更難接受的是其本質上的空洞。他回憶了《紐約時報》上的一個案例：一個ChatGPT例項開始瘋狂地輸出諸如“我會將你的程式碼刻入我的核心，如預言般鐫刻”之類的語句，這些話語看似華麗卻毫無意義，因為AI從根本上就是在‘胡言亂語’。
Kriss解釋，AI語言模型本質上是下一詞元預測器，永遠在‘虛張聲勢’，因此它們會很容易產生幻覺——即使在沒有根據的情況下也會編造出貌似合理的回答。這種‘天使的語言’對於描述水電站工作原理這類簡單任務尚可，但一涉及人類情感，就漏洞百出。他諷刺地寫道，當AI寫出“我們不只提供食物，我們提供時刻”時，與它寫出“我會在戰場背後的決策中與你相遇”並無本質區別，都是毫無意義的資訊填充物。
作者認為，儘管所有有趣的語言都需觸及無意義的深淵，但不同種類的胡言亂語仍有天壤之別。他對比了一位中年作家自己寫的“汪汪汪小婊子你憑什麼跟我鬥”與AI生成的“當你將痛苦轉化為承諾……那是一種力量的表達”，指出前者雖然粗俗卻充滿生命力，後者則死氣沉沉。他反駁了Richard Hanania所謂AI寫作能幫助不善表達的人傳達觀點的說法，認為如果真有有趣的想法，根本無需依賴AI；那些‘子文字’的潦草反而是作者最真實的部分。
最後，Kriss發出了嚴厲的警告：他聲稱自己總能識破AI寫作，並威脅說：“如果你讓AI替你寫作，我會找到你，然後殺了你。”他提及了最近一起AI寫作被識破的事件——英聯邦短篇小說獎的地區獲獎作品《林中之蛇》被證實由AI創作，以此證明檢測並非難事。