我们对人工智能应该恐惧什么（2021）

2021年末，ChatGPT问世前几个月，我写了一篇关于AI恐惧的文章。现在重发，希望你们评价那些预测，而不是我来评价。有一点在2021年可能没被注意到：企业采用AI现在是一种自上而下的命令，叠加在自下而上的盲目模仿上。没有编程背景的初级员工被授予权限，要求“自动化一切”，代码库变得极其复杂，以至于没有人能从头到尾读懂。最终拯救他们的AI清理咨询市场，看起来会很像2010年代的安全漏洞恢复行业。我错过了那个具体形态，但我看到了更广泛的问题——我们总是会在外包思考之前，先外包选择。

下面就是那篇文章。告诉我它遗漏了什么。

很久以前，在遥远的城市哈尔科夫，我7岁时第一次看到VHS播放器。我手里拿着第一盒磁带，上面手写着“终结者2”。我记得最清楚的是洛杉矶被核弹轰炸的场景，我惊恐地反复倒带观看。后来我问大人这何时发生、谁的错，他们笑着说别担心。他们是对的。我长大了，终结者2不再是恐怖片而是经典，对AI的恐惧也被对人类智能的恐惧所取代。

实际上，有什么可怕的呢？自动化核轰炸？无人机？终结者翻拍？不，未来不是行走的杀手机器人。想想看，在遥远的星系里，根本没有人工智能，只有装满齿轮的机器人。而在弗兰克·赫伯特的未来两万年后，创造人工智能会被判处死刑。

但生活就在当下，人们正在逐渐失去它，因为AI太多了。有些人说要消灭它，扎克伯格则说要让AI更努力地工作。

这里有一个不同的观点：你最大的错误是认为计算机能思考。有一个有用的词：用词不当。早在1945年，美国军人将ENIAC和UNIVAC称为“电子大脑”。从那时起就乱套了。当时没人知道大脑如何工作，现在也没人能完全解释。我们有神经元，它们交织在一起，就产生了你。但当我们思考时，电流通过大脑。我们储存记忆，但不知道如何储存。有些人撞到头就失忆，有些人切除一半大脑还能正常生活。

我们并不真正理解大脑如何工作。我们理解心脏如何工作，但大脑的命令来自无法控制的部分。当然，我们有神经接口，MRI扫描，但不知道如何从头构建一个大脑。如果我们理解一个Heathkit电子管收音机，我们能修复它，重建它。这意味着我们真正理解它。但大脑呢？不，我们只有猜测。1945年我们对大脑的了解只有现在的10%。

因此，在这种知识水平下，有人说：“我们应该把这个东西叫做‘电子大脑’。”这是用词不当。如果名字里有“大脑”，那么计算机就是大脑。于是我们有了程序员理解计算机，还有一群试图复制大脑的狂热者。

让我们明确一些定义。首先，跳过维基百科，我们来看韦氏词典：人工智能的定义是计算机科学的一个分支，涉及计算机中智能行为的模拟；或者机器模仿人类智能行为的能力。我们不需要发明其他东西。这就是AI的定义：机器对人类行为的模仿。第一个下棋程序可以称为AI。

机器学习：计算机通过不断将新数据纳入现有统计模型来改善其性能的过程。所以机器学习只是向统计模型添加数据。输出是0到1之间的浮点数。如果是狗，就是0.999狗。如果是猫，就是0.998猫。使算法更复杂，你可以教计算机玩马里奥、叠俄罗斯方块。

神经网络：一种计算机架构，其中多个处理器以类似于人脑神经元连接的方式互连，并能通过试错学习。但同样，没有提到大脑替代品或实际智能。

那么作者在抱怨什么？抱怨我们喜欢烧女巫和扮演捉鬼敢死队。也许是因为科幻小说，或者我们遗漏了什么，但我们开始将人类情感赋予机器。我不是说建造一个决定何时发射核弹的系统。不，我们没那么蠢。我们在做其他蠢事。

我们把情感和选择能力交给了AI。每次在TikTok上滑动、Instagram上点赞、滚动Facebook信息流，我们都在信任AI为我们选择下一个内容。过去属于人类决策的东西交给了计算机，因为我们无法正确处理那么多信息。过去有吟游诗人、小丑、讲故事的人，他们能读懂房间气氛。如果笑话不好笑，他们会反思并调整。而算法不会理解你，它只想让你在网站上停留更久。于是你看了一些奇怪视频，算法已经得出关于好坏结论，三小时后你沉浸在动物被碾死的视频中。

不要误解我。AI本身没有坏处，只要你接受它是什么：一个计算机算法。一组寻找结果的行动序列。结果不会精确，但这就是AI的重点：从最可能正确的数据集中找到最可能正确的结果。什么影响AI？输入数据和模型。谁训练模型和收集数据？人。每个设备后面总有一个人。机器永远不可能是新事物的原因。即使有人建造了一台会“思考”和“创造更完美机器”的机器，也是因为有人创造了那台制造机器的机器。

然后就是经典的枪支情景。把枪交给两个人：一个经验丰富的射手和一个看了黑帮电影的小孩。第一个会关上保险收好枪。第二个会开枪射什么东西。第一人知道他手里有什么以及如何使用。他是负责任的。第二人会射杀邻居的猫然后说：“不是我，它自己走火了。”更好的类比是汽车。有经验的司机在堵车时静静坐着，他知道变道只会浪费时间。

所以，我们应该害怕什么？不是AI本身，而是人类对AI的误解和滥用。我们害怕未知，但更应害怕我们自己的愚蠢。最终，AI是一面镜子，反映的是我们自己。