Import AI 462：超级说服力；自我维持的人工智能；通往超级智能的路径

在人工智能研究的前沿，一组来自牛津大学、英国AI安全研究所、斯坦福大学和伦敦政治经济学院的研究人员通过一系列精心设计的实验，展示了AI系统在劝说人类改变立场方面的卓越能力。这些实验涉及近两万次对话，结果表明，即使面对经过高强度训练和激励的人类专家，AI也表现得更为出色。AI的优势在于能够快速生成大量信息，而人类即使通过教练辅助也无法完全弥合这一差距。特别值得注意的是，在现实世界的筹款任务中，AI为“救助儿童会”募集的真实捐款金额是专业筹款人的近三倍。

与此同时，关于“自我维持人工智能”的讨论正在升温。这种AI系统不仅拥有认知能力，还能通过物理基础设施（如工厂、机器人）自主扩展，无需人类劳动输入。在Asterisk杂志的一篇访谈中，预测者Ajeya Cotra认为这可能在10年内成为现实，而记者Timothy B. Lee则持保守态度，认为有至少50年的时间框架。关键瓶颈包括人形机器人的发展速度和成本，以及隐性知识的获取。

Google DeepMind的另一项研究则着眼于更宏伟的未来：从通用人工智能走向超级智能。论文指出，超级智能将超越人类集体在几乎所有领域的能力，其实现途径可能包括扩展当前的计算和模型规模、算法范式革新，以及通过自我改进实现“智能爆发”。尽管存在能源和数据限制，但这些探索为理解人工智能的终极形态提供了框架。

研究者强调，AI在说服力上的优势不仅是实验室现象，在真实世界中也已显现。例如，在第四项研究中，AI募集的捐款比专业募捐者高出10.8个百分点。这一发现引发了关于如何监管AI说服能力的讨论：如果AI能轻易说服人类，那么掌握这一技术的力量可能集中权力，也可能帮助弱势群体。社会必须做出选择，是放任市场分配，还是由政府管控。

关于自我维持AI，Ajeya Cotra认为，如果人形机器人进展迅速，10年内可能实现；而Timothy B. Lee则认为，半导体行业的隐性知识可能成为巨大障碍，使得这一目标需要50年甚至更久。两人都同意，未来几年内人形机器人的数量、成本和可维修性将是关键指标。

DeepMind的论文则指出，ASI可能通过三种途径实现：持续扩大计算规模、算法突破（如新型架构），或者通过自我改进引发智能爆炸。尽管存在能源和数据瓶颈，但数字智能相较于生物智能在速度、记忆和复制能力上的优势，使得ASI在理论上可行。