关于AI系统技术追求的随想

最近，我们的团队购买了一套B300 GPU系统。看着这台现代技术的奇迹，我不禁回想起童年时家里的PC：拨号上网、CRT显示器、20GB硬盘、装满光盘的抽屉，内存还不到1GB，甚至不记得CPU是什么，只记得那块褪色的蓝色英特尔贴纸。父亲曾用3.5英寸软盘把文件带回家，其中一张被我玩弄写保护标签时弄坏了。如今，我面对的是拥有2.5TB尖端GPU显存（更不用说庞大的多GPU系统本身）、70TB NVMe SSD、3TB内存和强大的AMD Epyc处理器。网卡的端口容量甚至需要Marvell制造的高速网络PHY系统。我不知如何理解我们日常生活中对待现代技术系统的冷漠——毕竟，我们用一句话来说，就是让石头为我们思考。于是，在凌晨两点一列不安分的思绪列车上，你们得以享受我这些无端的唠叨。

像这个行业的大多数人一样，我也痴迷于LLMs，但并非那种狂妄自大、乐于烧光团队AI预算的痴迷。我的思绪不断翻腾：这对技术、对我自己、对家人、对社会意味着什么？我的团队里有一半人，在经理的带领下，像着了魔一样拥抱AI优先的工作方式，并相信我们几年内都会失业。而在我看来，当前行业的状态不过是建立在炒作、谎言和基础设施建设的暂时竞赛之上。伦理和道德被抛诸脑后，毫不顾及人性、批判性思维和可持续发展。与此同时，所有平常的麻烦事仍在继续：政治气候日益恶化，气候本身也不遑多让，资源短缺、地缘政治变化、战争、阶级不平衡和财富差距不断加剧……

我梦想的是核聚变、自主机器人、更好的人权、也许全民基本收入、资源和技术民主化、免费而先进的医疗……清单很长。而我们实际得到的是：掠夺性的、基于AI的、利用心理学的广告技术；互联网上本就充斥着人类制造的垃圾，现在又涌现出无休止的AI生成垃圾；成本上升；资源短缺……我梦想中的未来在哪里？那个我曾充满希望地憧憬的、每个人都用渴望和兴奋的语气谈论的未来？至少我的工作没有积极危害，可以说是伦理中立的——它只是工程。但它服务于什么？我能控制什么？在这辈子，我应该努力实现什么，才能让世界变得比我经历过的更好？

什么是智能？什么是感知？当前的LLMs拥有这些吗？要复制人脑及其神经通路，需要什么？这是我们应该走的道路吗？还是存在一种根本不同的方式达到AI？这正是符号AI、本体论、知识表示与推理、一阶逻辑等概念所研究的。但不同于最初的感知机——即第一个人工神经元，它模拟人类神经元并旨在重建人脑的物理构建块——符号AI的核心单位是一阶逻辑和概念连接，这是人类从自身推理过程的运作模型中领悟出来的。如果人类智能是可错的，那么我们所提出的任何无法被冷酷的现实所验证的构造也同样是可错的。然而，我们人类顽固地相信我们从根本上不同于人工神经网络，并且“更优越”，仅仅因为我们能以确定性和逻辑的方式进行这种“推理”。但谁说确定性是智能系统所期望的？如果确定性只是促进真正智能能力的一种方式呢？为什么它必须是智能本身的一个必要组成部分？一个反论：如果我们认为符号方法优于统计方法，那又怎样？如果我们能设计一个包含所有人类知识本体引擎呢？它会扩展吗？几十年的研究表明并非如此……然而，统计AI也曾因同样的原因受到嘲笑，而如今硬件的发展使统计AI成为现实。如果计算技术的突破能够解锁这样的架构，使能够容纳世界知识并处理全面数据库的推理引擎成为现实呢？那会是真正的智能吗？

根据目前的估计，人脑大约有100万亿个突触。我们极其擅长制造、使用和适应工具。我们有五种感官，以及所谓的超感官能力。当前最先进的前沿模型拥有大约几万亿参数。随着它们在过去几年的进步，它们被设计成具有越来越强的能力，如工具使用和多模态输入输出。如果你把一个人类放到整个互联网和人类数字知识中，他们不会保留几乎全部内容，并且肯定会经历某种认知失调或似曾相识感。那么我们为什么要因为LLMs有这样的行为而苛责它们呢？显然，我们的大脑经过了几千年的发展，这带来了其自身的一套历史“训练”（借用同样的术语）。如果这就是关键呢？不是从互联网和其他信息中获取所有这些广阔的知识深度，而是如果我们可以让一个基于Transformer的模型经历某种相当于人类几代人经验的体验呢？那会像人脑吗？还是别的什么？此外，如果制造出一个拥有100万亿参数的模型，以匹敌人脑的100万亿突触，那么仅就原始容量而言，那会是真正的智能吗？它会比我们优越吗？我们甚至能分辨出区别吗？当然，规模不是唯一的因素，后训练RL方法也功不可没。但我把这比作我们人类在生活中经历的类似RL：我们在学校学习，体验奖励和惩罚，实验和失败。如果一个100T的模型，不是训练于世界文本，而是训练于人类经验和基础知识，然后被赋予自由，在一个尽可能接近现实的环境中，甚至直接存在于现实中，那就可以了吗？

换一种说法，问题是：在什么时候你创造出足够强大的模型，使其能够自给自足地协助自己的开发和研究？在什么时候机器人技术变得同样先进，并将两者结合起来？下一个十亿美元的问题是：要构建一个世界模型，你是模拟人类的体验吗？如果你想尽可能接近，除了我已经列出的，还需要什么？你给它感官信息吗？以什么形式？还是给它自行获取任何感官信息的能力？什么才构成感官信息？如果我们只有有限的感官维度，我们如何制造拥有更多感官维度的东西，当我们甚至不知道什么是可能的？你给它知识吗？什么类型的？还是给它自行获取任何类型知识的能力？如果人类知识本身就是不完整、碎片化和模糊的，我们甚至会是给予它知识的最佳指导者吗？如果你说当前的LLMs具有所谓的工具使用和多模态能力，已经正在达到这一点，那么还有什么缺失，才能构成一个世界模型？完全不受限制的自主权，在超越我们拥有的自由度数量上？重新设计、重新制造和改进自身的能力——而这正是我们自己极其受限的，每天努力一点点变得更好？

以下是我一位不幸认识我的亲密朋友提出的一些反驳、回应和讨论。

>>>> 确定性是指问题有明确的答案。2+2永远是4，而如果你开始推理2+2可以是4，概率为0.99，我们怎么能实现智能？确定性和逻辑推理是朝着正确方向解决问题的必要条件。

我：对，但为什么它必须是模型的一部分？根据神经科学，我们的大脑有许多不同区域，每个都有其专门的功能，如记忆、逻辑、情感、运动控制、生物控制等。类似地，当前生产级的AI系统已经将确定性与推理引擎分离（以工具使用的形式），因为显然神经网络不仅不适合做这个，而且现代计算机天然比我们更擅长常规计算。我们只需要设计架构和所需工具的构建块。记忆也是如此。与其试图让智能模型处理记忆，我们必须找到一种计算高效且惯用的方式卸载记忆。因为同样，现代计算机在原始记忆容量和速度上远胜于我们。我们只需要找到正确的架构和设计，以最佳方式支持智能系统。是平面文件、向量空间表示和语义搜索、基于图的记忆等？我认为需要所有这些范式的混合，甚至更多。在这方面，现代系统已经开始走这条路；现代AI系统在底层有某种语义索引和检索，我认为目前只有向量空间表示形式。所以是的，确定性是需要的。但就像我们的大脑一样，如果它不如单独处理那样高效，你不必把它放在与其余部分相同的机制中。核心推理引擎不需要处理确定性，但它确实需要能够使用工具来代劳，就像我们使用计算器和计算机一样。

>>>> 是的，确定性今天是在模型外部实现的（通过框架，在一定程度上使其可靠），但最终难道不应该由它来处理，而不是一堆if-else语句吗？而且即使是大脑也有不同的部分来做不同的工作。LLM在这里是大脑，你可以有一个推理引擎、逻辑引擎、确定性引擎，但这些不应该是硬编码的。

关于记忆，这一点是肯定的。

>>>> 符号方法和统计方法有什么区别？这些知识表示在底层使用神经元吗？一阶逻辑和概念连接不是一种使这些表示更好的方式吗？就像改善机器的感知？

我：符号方法只不过是基于逻辑的推理引擎，与统计方法无关。基于逻辑的推理涉及概念及其数学表示，并将我们已知为真的事实直接编码到模型中。参见：本体论和知识图谱。符号AI的整个方法是我们不依赖于以概率方式编码和检测模式，而是以系统化、概念化和逻辑的方式进行。训练一个模型解决十亿道数学题，并希望它能解决2+2=4这种问题，我们知道由于神经网络的本质，它除了简单计算外无法做到更多……