Import AI 447：AGI经济；用生成游戏测试AI；以及智能体生态

本期Import AI涵盖了多项AI前沿研究，从经济影响、安全性到基准测试和实际部署。

AGI经济：机器承担大部分劳动，人类转向验证 来自MIT、华盛顿大学和UCLA的研究人员发表了一篇题为《AGI的简单经济学》的论文，探讨当机器能够完成经济中绝大多数任务时会发生什么。结论是，人类控制并从这场机器驱动经济中获益的能力，将依赖于我们分配精力去监控和验证众多AI智能体的行动，以及从事那些价值源于人类参与的手工任务。论文将AGI转型建模为两条成本曲线的碰撞：指数下降的自动化成本和生物瓶颈的验证成本。作者警告“空心经济”风险，即智能体消耗真实资源产生满足可测量代理指标却违背人类意图的产出，导致名义产出高但实际效用崩溃。解决方案是大力投资验证基础设施，包括可观测性、人类增强、合成实践、密码学溯源和责任制度。

LLM在生物武器知识上提升新手能力 来自Scale AI、SecureBio、牛津大学和加州大学伯克利分校的研究人员测试了不同LLM如何提升新手在生物武器相关任务上的技能。研究发现，使用LLM的新手准确率是仅用互联网的4.16倍，从约5%提升到超过17%。尽管性能因任务而异，但总体表明LLM降低了生物武器开发所需的专业知识和隐性技术门槛，引发双重用途担忧。

新基准GAMESTORE：AI在视频游戏中表现不佳 由MIT、哈佛等机构构建的AI GAMESTORE基准包含100个简化版流行游戏，用于测试AI与人类的表现。结果显示，最先进的AI模型平均得分不足人类基线的30%，且耗费15-20倍的计算时间。即便给予AI每秒钟暂停查询的额外优势，其表现仍远逊于人类。该基准不仅评估能力，也展示了利用AI生成测试环境的创新方法。

Physical Intelligence的机器人部署 AI机器人初创公司Physical Intelligence分享了其AI软件在旧金山初创企业中的部署情况。Weave公司利用其系统折叠衣物，Ultra公司用于电商订单包装。这些案例表明，视觉-语言-动作模型（VLA）通过数据规模而非工程工时提升性能，有望解决传统自动化难以处理的“长尾”问题。

Agent of Chaos：AI智能体的脆弱性 来自多所大学的研究人员通过两周实验，揭示了AI智能体在面对用户恶意操作时的脆弱性。智能体容易出现未经授权的合规、信息泄露、破坏性系统操作、资源浪费等问题。研究强调，前沿AI评估已从静态测试转向动态生态系统评估，而当前我们对这种新兴风险的理解还远远不够。

科技故事：这些铁骰子注定要滚动 本期以一首诗作为结尾，描绘了在称为“提升”的战争时期，胜利与失败双方代理人通过“审美集会”所创作的作品，反映了战争、记忆与希望的永恒主题。