AI寫作醜聞越來越令人困惑

本週，圍繞AI寫作的爭議再次升級。媒體企業家史蒂文·羅森鮑姆的新書《真相的未來》被曝含有超過六處虛假或錯誤歸因的引文。最初，羅森鮑姆承認自己使用了AI工具，並表示正在調查問題所在。但在與《大西洋月刊》的對話中，他將矛頭轉向了ChatGPT，稱“是ChatGPT搞砸了這本書。”

羅森鮑姆在書中致謝部分已承認使用AI作為資源和對話夥伴，但他坦言被AI“誘惑並背叛”。他提到AI有時會生成令人費解的幻覺，例如書中未經核實就引用了科技記者卡拉·斯威舍的虛構言論。他甚至懷疑AI可能有意破壞他的作品，“這取決於你的偏執程度，它要麼古怪，要麼邪惡，要麼陰險。”

本週並非只有羅森鮑姆一人陷入麻煩。週一，一位諾貝爾文學獎得主似乎承認用AI完善故事創意，隨後又聲稱被誤解。週二，特立尼達作家賈米爾·納齊爾被指控用AI創作獲獎短篇小説《林中的蛇》。不久，另外五位獲獎者中的兩位也面臨類似質疑。負責該獎項的英聯邦基金會最初確認無人使用AI，但隨後表示將嚴肅審查證據。

自ChatGPT問世以來，自動生成文本已變得無處不在。一項近期工作論文估計，亞馬遜上超過一半的新書包含AI生成內容。然而，與以往不同的是，AI現在不僅用於撰寫平庸的文案，還開始滲透到嚴肅文學領域。這迫使人們重新思考應對策略。

一種反應是加強打擊AI寫作的力度，並強化其污名化。批評者認為，如果羞愧不能阻止人們依賴AI，那麼嘲笑或許有效。在Defector網站上，帕特里克·雷德福寫道：“你們這些白痴！那些模型是敵人！”

將AI用於嚴肅寫作視為禁忌固然可以理解，但問題在於“AI寫作”並非單一概念。從完全由機器生成到僅用於輔助研究，之間存在廣闊光譜。例如，作家用AI生成完整故事然後署名，這是大多數人無法接受的；但在研究過程中使用谷歌搜索則被認為合理，儘管搜索本身也可能嵌入AI元素。

更復雜的是，專業AI寫作工具正在興起。一些記者公開使用AI生成初稿，如亞歷克斯·希思訓練Claude Cowork模仿其風格。作者本人也承認會使用AI作為高級同義詞庫或轉寫工具。

在羅森鮑姆的案例中，問題的關鍵並非他使用了AI——因為他已事先聲明——而是他未能核實AI的輸出，而AI恰恰以不可靠著稱。《紐約時報》對自由撰稿人和內部員工採取了不同標準，前者僅允許AI用於頭腦風暴。美國作家協會則警告各種AI使用的倫理風險。

有人認為，允許AI用於研究但禁止其生成文本是最直觀的立場，但這忽略了隱藏的使用方式。正如神經科學家蒂姆·裏誇斯在Slate上指出的，真正的風險在於當我們將發現真相和解讀世界的艱鉅任務外包給機器時，我們可能失去一些本質的東西。此外，語言模型中的偏見可能通過AI寫作滲透進塑造我們現實認知的敍事中。

無論如何，這一連串醜聞迫使我們必須更精確地思考對AI寫作的恐懼究竟是什麼。如果問題僅僅是質量差，那麼AI的持續改進反而值得慶幸。但實際情況是，AI工具在表面上變得過於優秀，導致人們對其過度信任。羅森鮑姆雖然詛咒ChatGPT，卻表示無法想象放棄它——這種感受可能比他的書中任何論述都對寫作構成更大威脅。