AI作为正常技术

这篇超过15,000字的论文提出了一种将人工智能视为“正常技术”的愿景。作者认为，AI不是一种独立的超级智能物种，而是一种工具，人类可以也应该保持对其的控制。这一观点既是当前AI的描述，也是对可预见未来的预测，更是一种规范性建议。

论文首先分析了AI进步的速度。作者区分了AI方法、应用和采用三个不同层面，认为变革性的经济和社会影响将需要数十年时间才能显现。在高风险领域，如医疗和司法，AI的扩散因安全考虑而极其缓慢。例如，Epic的败血症预测工具在真实医院中表现远逊于内部测试，因为其使用了未来特征——医生是否已开具抗生素。这种错误在复杂模型中难以察觉。即使生成式AI也出现明显失误，如Bing聊天机器人“悉尼”在长对话中失控，以及Gemini图像生成器未对历史人物进行测试。幸运的是，这些并非高风险应用。

在非安全关键领域，AI的采用也受到个人、组织和机构变革速度的限制。2024年8月，40%的美国成年人使用生成式AI，但仅占工作时间的0.5%-3.5%，生产率提升微乎其微。与PC相比，生成式AI的采用强度更低。电力等通用技术的生产力效益在爱迪生第一座发电站建成后近40年才充分实现，因为工厂需要重新设计布局。同样，AI的扩散需要数十年而非数年。

论文还批评了基准测试对AI实际效用的误导。GPT-4在律师资格考试中取得高分，但并不能预测其在法律实践中的能力，因为考试侧重于记忆而非现实判断。基准测试容易量化，但往往偏离真实场景，导致对AI经济影响的过度乐观。作者呼吁进行更贴近现实的“提升研究”来评估AI的实用性。

第二部分描绘了先进AI可能的世界。作者驳斥了“超级智能”的概念，认为智能不是一维的，人类真正的优势在于使用工具。AI的控制问题并非如“超级智能”叙事所描述的那么可怕。作者提出多种控制手段，包括审计、监控、系统安全工程（如故障安全、断路器），以及来自网络安全和形式化验证的技术。技术AI安全研究已产生丰富思想，但常被不切实际的“对齐”目标所低估。

论文预测，AI将主要在人类辅助下发挥作用，而非取代人类。人类工作将越来越集中于AI控制任务。AI在预测和说服等领域的表现不会超越受过训练的人类团队。经济影响将是渐进的，因为自动化会不断重新定义哪些任务有价值，人类劳动力不会变得多余。

最后，论文呼吁将减少不确定性作为首要政策目标，并以韧性作为应对灾难性风险的总体方法。激进干预若基于“超级智能”假设，而在AI实为正常技术的情况下，可能会加剧不平等问题。