奧威爾論人工智能

喬治·奧威爾在1946年發表了一篇題為《文學的扼殺》的散文，這篇文章通常被認為是關於文學與極權主義不相容的論述。然而，文章結尾處，奧威爾提出了一個不同尋常的預測：他設想了一種能夠自動生成故事的機器，無需人類干預。他描述了一個“傳送帶過程”，將人類創造力降至最低，生產出如同福特汽車一樣的標準化產品。奧威爾指出，當時的電影、廣播和低端新聞業已經顯現出這種機械化趨勢，並舉例迪士尼電影的製作過程以及廉價雜誌中利用模板和卡片生成情節的做法。他寫道，這些機器生成的作品是“靈魂的缺失，是預製短語的裝置”，並且“想象力——甚至意識——將盡可能從寫作過程中消除”。但奧威爾將這種機械化的根本原因歸咎於極權主義的崛起和自由主義的終結。他相信文學的死亡將由獨裁者強加，過去的文學作品將被壓制或重寫。然而，現實卻走向了另一條路。今天的書籍從未如此容易獲取，但人們卻主動選擇了劣質內容。

五十五年後，B.R.邁爾斯在2001年的一篇評論中從消費端補充了奧威爾的分析。他批評當時備受推崇的作家（如奧斯特、德里羅、麥卡錫、普羅克斯等）的作品表面艱深實則空洞，創造了“深刻性的幻覺”。邁爾斯指出，這種散文表面上顯得有難度但不需要集中注意力，聽起來足夠文學但缺乏實質，並且可以快速瀏覽而不會有什麼損失，因為實際上沒有什麼可損失的。他的結論是，洞察的幻覺可以與洞察本身分開製造，而且大量受眾，包括挑剔的評論家，都無法區分，或者根本不在乎。正如我之前所寫，邁爾斯的論點表明，四分之一世紀前讓表面上的深刻性受到評論家歡迎的東西，正是今天讓大型語言模型寫作受歡迎的東西。這意味着我們不能只指責機器而放過自己。在這兩種情況下，冗長、含糊、虛假的深度都是固有的，因為洞察的幻覺才是關鍵；真正的理解會破壞這種幻覺，因此不受歡迎。

將兩篇文章放在一起，我們看到了一個完整的圖景：奧威爾診斷了廢話的供應，邁爾斯診斷了需求。但奧威爾將機械化寫作侷限於廉價雜誌和新聞業的“低端”，並理所當然地認為市場頂端由真正的才華主導，只有極權國家才能消除這種才華。而邁爾斯則發現，裝配線在頂端運作，在那些獲獎小説中，這些小説之所以被歸類為嚴肅文學，恰恰是因為其散文風格華麗而模糊。奧威爾的預見性在機械化原因上存在失誤。他認為極權主義的興起和自由主義的崩潰將是扼殺文學的力量。他寫道：“如果我們自文藝復興以來所生活的自由文化真的走到盡頭，文學藝術也將隨之消亡。”文學的死亡將由獨裁者強加。在極權主義的未來，“過去倖存的文學”將“不得不被壓制或至少被精心重寫”。然而，儘管書籍禁令在文化戰爭中仍然是一個棘手的話題，但沒有人真正壓制過去的文學。過去的書籍從未如此容易獲得：奧威爾喜歡的所有小説都可以在一個可疑的俄羅斯網站上免費下載。書籍被保存、免費提供，卻被忽視。正如樂隊Rage Against the Machine所説：“他們不必燒書，他們只需移除它們。”事實證明，他們甚至不需要這樣做。

奇怪的是，奧威爾起初有正確的答案，但後來卻退縮了。在文章的第二段，他指出了知識自由的兩個敵人：“理論上的敵人，極權主義的辯護者，以及直接的、實際的敵人，壟斷和官僚主義。”第二類包括報業大亨、電影巨頭，以及每個作家為了生計而不得不做的僱傭寫作：奧威爾稱之為“模糊的經濟力量”，侵蝕着藝術家的獨立和生計。但隨後，他迅速將“實際敵人”擱置一旁，專注於他在頭腦中最關注的意識形態上的極權主義威脅。他在接下來的兩年裏在朱拉島撰寫關於另一個敵人的小説。然而，市場的機械化拉力，奧威爾將其視為更大災難背景下的一個麻煩，結果卻成了真正的災難。他假設大規模生產的廢話將源於被禁止的替代品，讀者必須在槍口下被驅趕到傳送帶前。而我們卻自願奔向它。在某種程度上，我們現在面臨的結果比奧威爾想象的更黑暗。文學的衰落不需要一個“老大哥”來監禁作者。一個壓制書籍的政權至少相信它們的力量，審查者的關注是對那種力量的致敬。但今天，不是獨裁者，而是廣泛的社會和技術力量正在將人們推向廢話。這種分散的轉變可能比自上而下的禁令更難逆轉。奧威爾認為民主的死亡會扼殺閲讀，而事實證明，閲讀的死亡可能正在扼殺民主。