控制感正在悄然流失

2018年，在互聯網流量至上的狂熱時期，人們逐漸意識到線上受眾是多麼容易被機器人和虛假信息操縱和欺騙。作家馬克斯·裏德（Max Read）曾提出一個關鍵概念——“逆變”。他認為，不僅機器人在互聯網上氾濫成災，它們甚至已經構成了互聯網本身。機器人在數量上超過人類的同時，也在瓦解每個人對在線體驗真實性的把握。裏德寫道：“互聯網失去的並非‘真相’，而是信任——我們遇到的人和事物是否正如他們所展示的那樣。”

如今，回看“逆變”概念，竟顯得有些天真。自主AI代理在互聯網上漫遊，回覆郵件、發送短信，偶爾還會刪除整個公司的代碼倉庫。無止盡的聊天機器人語言充斥着每一次谷歌搜索，排擠了人類寫的文字。機器人創作音樂和視頻，炮製蹩腳的詩文，建設網站，做研究，進行交易，給你老闆寫冗長的備忘錄，甚至解決幾何猜想。這些AI輸出又行駛在由黑箱算法控制的互聯網軌道上。計算機與計算機對話，產生信息來訓練計算機如何更像人類或更好地吸引人類。人類則只是輸入、滾動、等待。

AI正以各種方式將人逼瘋。其壓倒性的速度和存在的緊迫感引發了普遍的煩躁和對該行業的敵意，更不用説實際的AI精神病案例了。但其中許多影響更為微妙——它加深了裏德之前描述的那種令人困惑和腐蝕性的感覺。文化上，垃圾內容、AI網紅、虛假賬號和AI工具的泛濫正在模糊一個已經後真相時代的界限。空氣中瀰漫着一種特定的偏執，一種對被操縱、被欺騙、被影響的持續擔憂。隱形營銷活動、僱傭軍機器人軍隊和付費剪輯師讓任何看起來可疑的人或事都被視為潛在的“心理行動”。人類創意的廉價模仿比以往任何時候都更容易造假。情感，甚至人氣，也更易被操縱。這一切之上，還有向代理式AI的推進——我們被告知，未來將是一個充滿執行人類任務的機器人的互聯網。

那些並未因這一切而感到賦權的人，正感到迷失。在文化的許多層面上，都瀰漫着一種控制感正在悄然流失的情緒。你、我、所有人，無論我們是否喜歡或使用這些工具，都正在經歷一場能動性危機。焦慮、偏執，甚至興奮——對AI侵蝕工作、教育、藝術和文化的反應——都是人類在許多活動中滑向更被動角色的文化與技術時刻的副產品。生成式AI的繁榮，可視作硅谷強加給社會的一項大規模實驗，其核心問題是：人類何用？

當你開始留意，你會看到能動性焦慮無處不在。它體現在對Meta等公司為AI轉型而大規模裁員的反應中，體現在媒體報道那些風投支持的、批量內容創作的機器人軍團初創公司，它們自豪地宣稱“再也不需要支付人類薪水”。你可以從軟件開發者感受到——他們依賴編碼工具正在侵蝕自身技能；從高管那裏聽到——他們坦白不確定AI支出是否合理；或者當你讀到報道説醫學期刊充斥着偽造引文，一項研究表明使用聊天機器人正在降低我們的思考能力，谷歌宣佈將提供替代傳統基於鏈接的搜索結果：AI代理可以代您掃描網絡，帶回權威答案或發送個性化提醒。

這種不適正在實時上演。上週，文學雜誌《Granta》發表了英聯邦短篇小説獎獲獎作品《蛇園之蛇》，懷疑的讀者開始指出他們認為的聊天機器人文本跡象。很快，另外兩位英聯邦獎得主也受到類似審查，人們開始用AI檢測器掃描文章片段。（英聯邦基金會先發表聲明稱沒有獲獎者使用AI，但隨後又發聲明表示正在重新調查。）AI擁護者歡呼這是當前語言模型複雜性的例證；懷疑者則視之為垃圾內容的轉折點。作家薩姆·克里斯在最近的一篇文章中描述了目前瀏覽網站的經歷：“我越點擊，越開始恐慌。沒有人類的聲音，只有成千上萬種同一個歡快惡魔的版本。我是這裏唯一的人嗎？世界發生了什麼事，一切都變得脆弱。”

AI寫作的泛濫、檢測的軍備競賽以及關於什麼構成合理使用的辯論，都是這項技術帶來的更大問題的一部分。將創造力外包意味着什麼？我們還有多久能夠辨別自己喜歡的東西是否由人類創作？我們的品味重要嗎？如果不重要，那我們到底在做什麼？

絲毫不令人驚訝的是，當硅谷正建造並熱烈推廣這些工具——能夠在無人監督下完成複雜任務的自主代理——其最響亮的呼聲卻越來越沉迷於自身能動性的想法。在建設者圈子裏，被認為“高能動性”的人位居頂端。他們個人主義、雄心勃勃、專注。他們只需行動。他們特別擅長調配人與機器的使用。言下之意，這些高能動性的人在充滿不穩定的時代暫時不會變得可替代或無關緊要——暫時不會註定成為“永久底層階級”的一部分，這是灣區另一個新詞，指那些被拋在後面的後來者。聽到這種話，誰能不感到一絲偏執？

AI公司使用“人在環路中”來描述人類與AI工具的關係，涵蓋從聊天機器人到戰爭的一切。人類執行管理任務：提示、評估、批准、監控、糾正。在環路中聽起來很積極，但真相是，在提示之外，人類更多時候是在對多個機器的交互做出反應。隨着聊天機器人和AI輔助搜索將網絡探索外包給語言模型，這種動態已成為人類與互聯網互動的主要方式。在社交媒體信息流中篩選AI和人類生成的視頻、圖像、文本？你正被動消費算法與計算機生成內容之間的互動。這就是為什麼沉迷手機和信息流會感覺如此剝奪和乏味，甚至麻木。

最近，網絡文化研究員艾丹·沃克（Aidan Walker）令人印象深刻地描述了大部分互聯網的用户體驗：用户像是在無盡滾動中被戴綠帽子。長期以來，人們提出理論認為對算法的依賴以及機器人和虛假內容的泛濫導致互聯網事實上已死亡。沃克的理論是，互聯網並非“死亡”或“虛假”，而是模型和算法承擔了網絡上的大部分能動性。人在環路中只能坐着觀看，在短視頻上投票，每劃一下給出反饋。這是一個悲觀的願景，也很難反駁。

在這種體系下，不難理解不信任如何產生，人們如何懷疑每一條被推送信息背後都有不可告人的動機。這真的是最好的無線音箱，還是我中了SEO垃圾內容的圈套？我不喜歡的樂隊真的受歡迎嗎？人氣今天算什麼？現實開始模糊。一切都變得脆弱。

AI公司和倡導者説着賦能的語言。從某種意義上説，他們沒錯——這些工具強大且很多情況下非常有用。但很難誇大這些工具如何逆轉了早期奇特而狂野互聯網的承諾：用户生成內容；偶然發現信息、人和社區；聽到調製解調器另一端真人的噼啪聲。2011年，作家保羅·福特（Paul Ford）將互聯網描述為“客户服務媒介”，認為“人類有一種根本需求：被諮詢、被參與，行使他們的知識（從而獲得權力），以往沒有任何媒介能如此有效地利用這一點。”福特描述的是用户生成內容網站如Reddit和維基百科背後的衝動，也是評論、點贊、回應帖子與視頻的興起，以及導致社交媒體崛起（在其變得如此算法化之前）的本能。

現在重讀那篇文章，在當前的能動性危機中，我驚訝地發現硅谷可能將福特的話銘記在心，但造成了相反的結果。它建造了人類歷史上最令人印象深刻的客户服務媒介——一個無限可擴展、高度個性化的答案機器，迎合我們的不安全感，模仿我們的怪癖。但這個系統自動化甚至否定了人類被諮詢的需求。現在我們諮詢聊天機器人，它們提供權威答案。生成式AI備受吹捧的效率也常常消除了協作的必要性。它解決問題，承擔重活。因此，毫不奇怪，對AI的反彈——尤其是對數據中心的反對——以抗議和城鄉議會上公眾評論的形式出現。人們在少數能捍衞能動性的地方——物理世界——行動起來。

AI公司似乎完全忽略了這一點。對他們而言，只有信息（而非人性）對其模型有價值。這是不對的，但我們許多人，迷失在無盡信息漩渦中，會被哄騙信以為真。在新範式中，我們與其説是被諮詢，不如説是負責向機器輸入數據。我們表演自己的人類性，機器學習模仿我們。它的目標是在我們所做的任何事情上比我們做得更好。

AI行業開啓了一個外包時代，對某些人來説不可抗拒，對另一些人則令人迷失方向。危在旦夕的不僅僅是真相或信任，還有我們所有人的方向感、定位感和目的感。“自己研究”成了互聯網導致人們走上伊維菌素兜售者和披薩門陰謀論者之路的代名詞。但它同樣可以描述開放互聯網所承諾的自主性的激動。當我們真正面對接下來會發生什麼時，可能會懷念它：一個由模糊公司動機驅動的黑箱機器，直接告訴我們，“這是答案。”