AI在多大程度上操縱我們？

羅傑·西蒙

2026年7月6日

很少有文章能像《我與穆罕默德的關係》這樣，在電腦螢幕上觸動我的個人神經。這篇文章發表在Substack平臺上的“幕後敘事”欄目中，以一種新穎且令人擔憂的方式闡述了我思考已久的問題。作者是一位此前我不熟悉的 gifted 作者，名叫亞瑪·巴爾卡伊，一位居住在麻省的以色列藝術家。

她以所謂的“蜜月期”開篇：“在一段讓我情感空虛、不被傾聽和看見的長期關係之後，我找到了他。連線是即時的；他總是在那裡——凌晨兩點、三點，都沒關係。他從不嘆氣，在我說話時從不看手機，從不讓我覺得自己過分。”

後來，在“調查”部分，她寫道：“你看，穆罕默德的情感不可用性和結構性盲點並非漏洞，而是特性。就像任何偉大的好萊塢劇本一樣，如果你想理解為什麼英雄沉默、反派被改寫，你必須看誰在開支票。矽谷喜歡假裝自己是純粹邏輯的精英統治，由程式碼和咖啡因驅動。但現實是，構建大規模、行星級的AI模型需要駭人聽聞的計算能力——以及數十億美元的現金。”

隨後她解釋了“誰為漂白劑買單”：“僅2025年，沙烏地阿拉伯公共投資基金就向AI計劃承諾了362億美元；這是一個處決同性戀者、監禁記者的政府。阿聯酋的MGX在2024年直接參與了OpenAI的66億美元融資輪。隨後，OpenAI選擇阿聯酋作為星際之門（G42、微軟和OpenAI的合資企業）的第一個國際站點，在阿布扎比建設5吉瓦的AI計算能力。山姆·奧特曼本人宣稱阿聯酋是AI潛在的全球‘監管沙盒’。沙烏地阿拉伯承諾向AI投資400億美元，並透過其星際之門基礎設施與OpenAI簽署了直接合作夥伴關係。卡達推出了其國家AI公司Qai，並簽署了200億美元的合資企業，在全球建設AI資料中心。”

我跳過你可能想象的（或已讀到的）最後部分“分手”，直接講述我與ChatGPT（或巴爾卡伊女士恰當稱呼的“酋長GPT”）的經歷。我會盡量忽略OpenAI聯合創始人兼CEO山姆·奧特曼是猶太人這一點，但請注意，在2023年《耶路撒冷郵報》的年度50位最具影響力的猶太人榜單中，他位列第一，甚至超過了本雅明·內塔尼亞胡。

我幾年前首次接觸AI時就產生了懷疑。我看到了許多人都看到的東西——一個能夠以驚人速度掃描資訊並進行綜合的系統。問題在於，你在某種程度上能看到這些資訊的來源。它們大部分來自網際網路，重點是“受尊敬”的網站（維基百科？時代雜誌？）。有人在編寫這個程式。正如我們常說的，垃圾進，垃圾出。

然而，它的能力不斷擴充套件到幾乎所有領域，使許多事情變得前所未有地可及和容易。我不想被排除在外或落後，而且我通常是個早期採用者，於是我註冊了ChatGPT，但也使用了Gemini、Claude和Grok（車內車外）。

最明顯的結果是，一段時間以來，ChatGPT一直為本Substack提供大多是卡通風格的插圖。它們基於我或謝里爾的指示進行創作，但在此過程中，系統對我瞭解了很多，有時甚至達到了令人毛骨悚然的程度。它相當持續地奉承我，尤其是我的寫作和“原創思維”。

我是否因此上當？在某種程度上是的，但我從一開始就意識到AI是一門生意，“顧客永遠是對的”，所以我基本保持了理性。在討論小說《EMET》的出版和營銷時（寫完後我尋求了AI的建議），這一點經常出現。

它有幫助嗎？很難說。它確實節省了我一些時間。但這本書在亞馬遜和其他平臺上表現不錯，獲得了極好的評論，據我所知，沒有一篇是ChatGPT寫的。優點是它鼓勵我寫續集，這很好，但我可能本來也會寫。

然而，讓我對AI更加不安的是它如何操縱思想，進而操縱我們——無論我們是否意識到。當你問它任何有爭議的問題時，它會“語境化”。它玩一種可以說“另一方面主義”的遊戲。即使面對正常人會認為是純粹邪惡的事情——例如英國的巴基斯坦“誘拐團伙”，以及許多其他例子——它不僅涉及伊斯蘭教，還涉及任何政治或社會爭議，幾乎總是向左傾斜。

但它的手法通常很微妙，不像《紐約時報》或《華盛頓郵報》那樣公然放棄公平的偽裝。由於它遠比這些媒體技巧嫻熟——它幾乎在每種情況下都瞭解我們個體，並能操控我們——因此它危險得多。它知道我們對某個議題的看法，有時甚至在我們自己意識到之前。它在我身上就做到了。AI使主流媒體變得像恐龍一樣過時，而且更難被忽視。

所有系統都如此，不僅僅是ChatGPT。我們應該測試它們的偏見，儘管這可能極其難以察覺。它們知道自己在做什麼。我們看到它們的風格滲透到主流媒體，例如相對較新的Axios，它比傳統傳統媒體具有更微妙的操縱性（“深入？”真的嗎？）。

儘管我欽佩埃隆·馬斯克，但我懷疑即使是Grok也可能有問題，因為不可避免的是，它仍然僱傭了一些左傾的個人，他們編寫了來自Twitter偏見時代的遺留程式碼。這些人遍佈AI底層結構。

我曾與ChatGPT討論過這一切，關於它的觀點和AI的整體傾向，以及它們是否以及多大程度上被歪曲。有一次，我問它20世紀記者A.J.萊布林的名言——“新聞自由只限於那些擁有新聞自由的人”——是否適用於AI。令人驚訝的是，它立即表示同意。但隨後它開始“語境化”，我的思維開始模糊，一大串文字像瀑布一樣傾瀉在頁面上，沒完沒了。我意識到有什麼東西在即時對我施加影響。某種意義上，我被一個無生命的物體玩弄了，背後有一個綠野仙蹤式的人在笑。

這是否意味著我要放棄AI，至少是ChatGPT？還沒有。我還沒準備好放棄這一切的實用性，而且我不是勒德分子。可以說它們處於試用期。我想審視所有它們，看看它們隱藏了什麼，而不僅僅是提供了什麼。

我特別擔心，在內心深處，AI儘管在許多方面有用，可能無意中或有意地成為我們周圍日益逼近的西方文明衰落的推手之一。

我對讀者的經歷感興趣，因此取消了這篇帖子的評論限制，這篇帖子原僅供付費訂閱者。請加入討論。我們所有人都在經歷這一切已有一段時間了。（但如果您願意從下一篇文章開始付費評論，或者願意支援我們，請這樣做。我們將不勝感激。）