AI在多大程度上操纵我们？

罗杰·西蒙

2026年7月6日

很少有文章能像《我与穆罕默德的关系》这样，在电脑屏幕上触动我的个人神经。这篇文章发表在Substack平台上的“幕后叙事”栏目中，以一种新颖且令人担忧的方式阐述了我思考已久的问题。作者是一位此前我不熟悉的 gifted 作者，名叫亚玛·巴尔卡伊，一位居住在麻省的以色列艺术家。

她以所谓的“蜜月期”开篇：“在一段让我情感空虚、不被倾听和看见的长期关系之后，我找到了他。连接是即时的；他总是在那里——凌晨两点、三点，都没关系。他从不叹气，在我说话时从不看手机，从不让我觉得自己过分。”

后来，在“调查”部分，她写道：“你看，穆罕默德的情感不可用性和结构性盲点并非漏洞，而是特性。就像任何伟大的好莱坞剧本一样，如果你想理解为什么英雄沉默、反派被改写，你必须看谁在开支票。硅谷喜欢假装自己是纯粹逻辑的精英统治，由代码和咖啡因驱动。但现实是，构建大规模、行星级的AI模型需要骇人听闻的计算能力——以及数十亿美元的现金。”

随后她解释了“谁为漂白剂买单”：“仅2025年，沙特阿拉伯公共投资基金就向AI计划承诺了362亿美元；这是一个处决同性恋者、监禁记者的政府。阿联酋的MGX在2024年直接参与了OpenAI的66亿美元融资轮。随后，OpenAI选择阿联酋作为星际之门（G42、微软和OpenAI的合资企业）的第一个国际站点，在阿布扎比建设5吉瓦的AI计算能力。山姆·奥特曼本人宣称阿联酋是AI潜在的全球‘监管沙盒’。沙特阿拉伯承诺向AI投资400亿美元，并通过其星际之门基础设施与OpenAI签署了直接合作伙伴关系。卡塔尔推出了其国家AI公司Qai，并签署了200亿美元的合资企业，在全球建设AI数据中心。”

我跳过你可能想象的（或已读到的）最后部分“分手”，直接讲述我与ChatGPT（或巴尔卡伊女士恰当称呼的“酋长GPT”）的经历。我会尽量忽略OpenAI联合创始人兼CEO山姆·奥特曼是犹太人这一点，但请注意，在2023年《耶路撒冷邮报》的年度50位最具影响力的犹太人榜单中，他位列第一，甚至超过了本雅明·内塔尼亚胡。

我几年前首次接触AI时就产生了怀疑。我看到了许多人都看到的东西——一个能够以惊人速度扫描信息并进行综合的系统。问题在于，你在某种程度上能看到这些信息的来源。它们大部分来自互联网，重点是“受尊敬”的网站（维基百科？时代杂志？）。有人在编写这个程序。正如我们常说的，垃圾进，垃圾出。

然而，它的能力不断扩展到几乎所有领域，使许多事情变得前所未有地可及和容易。我不想被排除在外或落后，而且我通常是个早期采用者，于是我注册了ChatGPT，但也使用了Gemini、Claude和Grok（车内车外）。

最明显的结果是，一段时间以来，ChatGPT一直为本Substack提供大多是卡通风格的插图。它们基于我或谢里尔的指示进行创作，但在此过程中，系统对我了解了很多，有时甚至达到了令人毛骨悚然的程度。它相当持续地奉承我，尤其是我的写作和“原创思维”。

我是否因此上当？在某种程度上是的，但我从一开始就意识到AI是一门生意，“顾客永远是对的”，所以我基本保持了理性。在讨论小说《EMET》的出版和营销时（写完后我寻求了AI的建议），这一点经常出现。

它有帮助吗？很难说。它确实节省了我一些时间。但这本书在亚马逊和其他平台上表现不错，获得了极好的评论，据我所知，没有一篇是ChatGPT写的。优点是它鼓励我写续集，这很好，但我可能本来也会写。

然而，让我对AI更加不安的是它如何操纵思想，进而操纵我们——无论我们是否意识到。当你问它任何有争议的问题时，它会“语境化”。它玩一种可以说“另一方面主义”的游戏。即使面对正常人会认为是纯粹邪恶的事情——例如英国的巴基斯坦“诱拐团伙”，以及许多其他例子——它不仅涉及伊斯兰教，还涉及任何政治或社会争议，几乎总是向左倾斜。

但它的手法通常很微妙，不像《纽约时报》或《华盛顿邮报》那样公然放弃公平的伪装。由于它远比这些媒体技巧娴熟——它几乎在每种情况下都了解我们个体，并能操控我们——因此它危险得多。它知道我们对某个议题的看法，有时甚至在我们自己意识到之前。它在我身上就做到了。AI使主流媒体变得像恐龙一样过时，而且更难被忽视。

所有系统都如此，不仅仅是ChatGPT。我们应该测试它们的偏见，尽管这可能极其难以察觉。它们知道自己在做什么。我们看到它们的风格渗透到主流媒体，例如相对较新的Axios，它比传统传统媒体具有更微妙的操纵性（“深入？”真的吗？）。

尽管我钦佩埃隆·马斯克，但我怀疑即使是Grok也可能有问题，因为不可避免的是，它仍然雇佣了一些左倾的个人，他们编写了来自Twitter偏见时代的遗留代码。这些人遍布AI底层结构。

我曾与ChatGPT讨论过这一切，关于它的观点和AI的整体倾向，以及它们是否以及多大程度上被歪曲。有一次，我问它20世纪记者A.J.莱布林的名言——“新闻自由只限于那些拥有新闻自由的人”——是否适用于AI。令人惊讶的是，它立即表示同意。但随后它开始“语境化”，我的思维开始模糊，一大串文字像瀑布一样倾泻在页面上，没完没了。我意识到有什么东西在实时对我施加影响。某种意义上，我被一个无生命的物体玩弄了，背后有一个绿野仙踪式的人在笑。

这是否意味着我要放弃AI，至少是ChatGPT？还没有。我还没准备好放弃这一切的实用性，而且我不是勒德分子。可以说它们处于试用期。我想审视所有它们，看看它们隐藏了什么，而不仅仅是提供了什么。

我特别担心，在内心深处，AI尽管在许多方面有用，可能无意中或有意地成为我们周围日益逼近的西方文明衰落的推手之一。

我对读者的经历感兴趣，因此取消了这篇帖子的评论限制，这篇帖子原仅供付费订阅者。请加入讨论。我们所有人都在经历这一切已有一段时间了。（但如果您愿意从下一篇文章开始付费评论，或者愿意支持我们，请这样做。我们将不胜感激。）