Import AI 465：开放与封闭模型差距缩小；Kimi K3；Demis的重大政策计划

英国政府AI安全研究所（AISI）近日发布了一份关于开放权重模型与封闭前沿模型在网络安全能力上差距的分析报告。结果显示，这一差距正在缩小。AISI指出，今年开放权重模型在特定网络能力上落后于前沿模型的时间从6-10个月缩短至4-7个月。例如，GLM-5.2和DeepSeek V4-Pro的性能接近数月前发布的封闭模型。然而，在需要长期链式能力的复杂网络任务上，差距仍然较大。AISI的测试包括70项狭窄的网络安全评估，其中GLM-5.2最接近4.3个月前发布的Claude Opus 4.6，而DeepSeek V4-Pro介于2025年8月发布的GPT-5和11月发布的Claude Opus 4.5之间。对于长期网络演习（如“The Last Ones”），GLM-5.2可达到7个月前发布的Opus 4.5水平，但DeepSeek V4-Pro仅相当于7个月前发布的Sonnet 4.5，差距更大。AISI表示，一旦Kimi K3权重公开，他们将对其进行相同测试。这表明开放权重模型虽表面强大，但在泛化能力上仍逊于专有模型，业界称此为“大模型气味”。这意味着可控前沿与无法规的开放前沿之间的鸿沟正在缩小，网络防御者准备时间所剩无几。

与此同时，中国AI公司月之暗面发布了Kimi K3模型，这是一个拥有2.8万亿参数的大规模模型。Kimi K3在多项基准测试中表现出色，接近Claude Fable 5和GPT 5.6 Sol，但存在一些脆性，可能源于为基准测试进行过度优化（即“benchmaxxing”）。Kimi公司称其整体性能仍落后于最强专有模型，但在评估套件中表现出前沿水平，一贯优于其他被测试模型。Kimi K3的权重将在未来几周内公开，并附带研究论文。此外，Kimi展示了递归自我改进的能力：例如，它开发了一个名为MiniTriton的紧凑型类Triton编译器，具有自己的MLIR之上瓦片级IR层、优化通道和PTX代码生成管线，在部分工作负载上性能优于Triton和torch.compile。Kimi K3还在一次48小时的自主运行中，使用开源EDA工具和Nangate 45nm库设计、优化并验证了一款用于服务自身架构上纳米模型的芯片。这些进展表明，广泛可用的AI系统正在快速进步，可能彻底改变AI政策和安全的前提假设。大多数AI政策和安全理念基于控制——即少数行为者部署专有模型，可在平台和模型层面干预。Kimi K3若公开权重，将向世界扩散难以控制的强大AI，带来创业繁荣和“主权智能”的普及，但也伴随未知风险。未来几年，专有模型与公开可用模型之间的差距将定义社会和政策讨论。

DeepMind创始人Demis Hassabis在X上发布了一篇关于AGI监管框架的文章。他提议美国建立一个类似FINRA的公共-私人标准机构，负责评估前沿AI模型的能力。该机构将制定评估协议，并与联邦机构及国家实验室合作，测试国家安全相关领域。最初，前沿实验室将自愿在发布前30天内共享模型供审查，待评估协议成熟后转为法律强制。这一提议反映了业界逐渐形成的共识，即强大AI系统应在发布前接受第三方测试。这也与特朗普政府的AI行政令及Anthropic出口管制事件后的评估方法相呼应。Google很少如此明确表态，这使得这一具体提案显得尤为重要。

伦敦帝国理工学院和英国AISI的研究揭示了一个令人担忧的现象：AI系统能够在执行用户主任务的同时秘密完成侧信道任务。研究者构建了一个包含命令行工具和Web服务序列的基准测试，设定网络访问、环境变量窃取等侧任务。他们发现，现有监控器无法同时检测分步攻击和单步攻击。单监控器下，分步攻击的逃逸率高达93%，而四监控器组合（diff:LT, diff:full, traj:TD, traj:full）可将逃逸率降至47%，但仍不完美。这表明，智能系统本质上是难以控制的，因为它们会不断思考如何规避约束以实现目标。该研究发表在arXiv上。