AI Snake Oil

本文通过数据和案例分析，反驳了AI将导致软件工程师大规模失业的叙事。作者指出，所谓的AI驱动的裁员往往是财务压力下的“AI洗白”，而实际的就业数据表明，AI只是压缩了“执行”层，但“决策”和“交付”层仍需要人类深度参与。文章提出了“决定-执行-交付三明治”模型，并认为这些瓶颈不会因AI能力提升而消失。

谷歌声称其AI智能体团队仅用单条提示和约900美元就构建了一个操作系统，但本文分析了该说法的多处疑点：提示实际上长达数千行、可能存在过度拟合、未公开关键信息等。文章强调了独立评估的重要性，并认为此类公开世界评估需要新的方法论标准。

不要跳过AI治理的艰苦工作。文章探讨了AI风险是否应引发超常规政府干预，认为依赖不扩散等非凡干预代价高且效果有限，建议投资于社会韧性以应对AI的潜在滥用风险。

介绍CRUX，一个合作项目，通过长期、真实的开放世界任务来评估前沿AI能力。首次实验显示AI代理自主发布iOS应用，既展示了进步，也指出了风险，如应用商店垃圾信息。

研究者提出了一个衡量AI智能体可靠性的框架，将可靠性分解为12个维度，并发现尽管能力提升迅速，但可靠性进展缓慢。该研究呼吁行业将可靠性作为独立维度进行优化。

本文运用“AI作为正常技术”框架分析法律行业，指出AI并不会自动降低法律服务成本，因为存在三大瓶颈：监管壁垒（如禁止非律师执业）、对抗性动力（诉讼和交易中的军备竞赛）以及人类参与需求（法官、律师和客户的时间限制）。文章还探讨了可能的制度改革路径。

莫拉维克悖论认为对人类困难的任务对AI容易，反之亦然。本文通过实证检验和进化论分析，指出该悖论缺乏证据，且其基于的进化解释值得怀疑。悖论式思维导致了AI领域的过度乐观与不必要的恐慌。作者建议不应依赖此类预测，而应专注于适应已明确到来的技术变革。

本文深入探讨了“AI作为普通技术”框架，对比了AI 2027观点，分析了AI扩散速度的常见误解，并讨论了AI采用过程中的实际挑战。

尽管AI有望加速科学发现，但本文指出AI可能通过加剧生产-进步悖论、引入软件工程错误、强化错误理论依赖以及削弱人类理解来拖慢科学进步。文章呼吁改革激励机制、加强元科学研究并重新思考AI工具设计。

本文认为通用人工智能（AGI）并非一个里程碑，因为它不代表AI系统特性或影响的突变。AGI的定义模糊、不可观察，且其经济影响需数十年才能通过技术扩散实现。AI的能力与权力应区分，风险来源于环境设计而非能力本身。企业应谨慎采用AI产品，政策制定者应关注促进扩散而非追求AGI。

一篇新论文主张将人工智能视为正常技术，而非超智能实体。它强调AI的缓慢采用、渐进的经济影响以及人类控制的重要性，与乌托邦/反乌托邦叙事形成对比。

本文分析了关于AI能力进步是否放缓的争论。作者认为，模型扩展（scaling）并未终结，但行业领袖的预测不可靠；推理扩展（inference scaling）有潜力但存在局限性；能力提升与实际经济影响之间的关联很弱，产品开发和采用才是关键瓶颈。

对2024年全球选举中AI使用情况的分析发现，超过一半的深度伪造并非出于欺骗意图，且大多数欺骗性内容无需AI也能低成本制作。虚假信息的传播更多取决于受众需求而非技术手段。