别再等待更大的上下文窗口了
本文认为,与其等待更大的上下文窗口,不如采用多智能体编排来处理长上下文问题。INT21 的 SwarmOS 平台通过将大问题分解为多个协同的小任务,有效扩展了上下文处理能力。
在 INT21,我们全身心投入自我改进的多智能体系统。我们构建了 SwarmOS,一个用于运行专业智能体的云原生平台,以及我们的首个产品 PTX Kernel Factory。最大的变化不仅仅是更大的上下文窗口,而是前沿模型在被编排时实现的可能性:将一个巨大的上下文问题转化为一个由更小的、寻求证据的任务组成的协调团队。
大约一年前,我探索了 AI 智能体如何生成 CUTLASS C++ 内核——NVIDIA 高性能 GPU 计算的构建块。据我统计,整个 CUTLASS 代码库大约有五百万个 token。当时,我们可用的最佳生产模型提供了一百万 token 的上下文窗口。核心障碍从来不是代码生成,而是在整个代码库中寻找并保存正确的证据。
我们没有等待一个神奇的五百万或一千万 token 模型,而是并行运行了一百万 token 模型多次。每个智能体研究代码库的不同部分,并在最后一步合并它们的发现。这是一个简单的架构,但它奠定了我们今天工作的原则:当上下文无法垂直扩展时,就水平扩展它。
更大的窗口并不等同于更好的上下文。即使数百万 token 技术上能够放入模型,模型仍需将信号与噪声分离。更大的窗口引入了更多不相关信息、更多中间输出以及更多注意力竞争。多智能体系统从结构上解决了这个问题:专门的智能体探索代码库的不同部分,从独立角度调查同一问题,并将精炼的发现返回给协调智能体。当子问题仍然过大时,它会再次被分割。目标不是无限的上下文,而是有效的上下文。
在 INT21,我们不仅将 SwarmOS 用于硬工程问题(如专家级 PTX 生成),还用于理解复杂的商业格局。为了在代码库之外进行测试,我们将 SwarmOS 指向了一个不同的长上下文问题:该研究使用公开信息自主运行。系统涉及 27 个智能体,进行了 166 次网络搜索,访问了来自 73 个独特域名的 200 多个网页,运行了大约两小时,总共消耗了 1.19 亿个 token。
我们正在分享这份报告,因为我们认为许多人想更深入地理解这个主题。但该报告也证明了更广泛的观点:多智能体编排才是真正的长上下文突破。长上下文正在成为一个系统问题。最新的 AI 代正在解决长上下文问题吗?不是通过使上下文无限,而是以智能体的方式。它使上下文变得可分割、可搜索、可组合。这就是为什么 INT21 全力投入多智能体系统。在 INT21,我们正在构建自我改进的计算基础设施,而 SwarmOS 是大量智能体背后的操作系统。
PTX Kernel Factory 现已对从事 GPU 内核生成和 AI 计算基础设施的团队开放测试版。接受的参与者将获得限时免费访问和 100 美元积分。加入测试版。
报告还涉及华为、CXMT 和中国 AI 堆栈压力路径。研究仅用于支持目的,不构成投资、法律、采购、运营或税务建议。它支持一个合理的地区压力情景,而不是中国已经打破 NVIDIA、HBM 和云经济学稀缺的耸人听闻的说法。
Swarm 统计:27 个智能体,1.19 亿 token,166 次搜索,200 多个公共页面,73 个独特域名,约两小时运行时间。
机制映射:最强机制不是全球西方 GPU 云合同突然取消,而是一条从中国本地替代和低 token 价格开始的链条,然后进入续约、新建经济学、融资利差和私人市场。华为/昇腾表面在选定的中国本地或华为控制的工作负载中似乎是真实的。CXMT 是真正的 DRAM 级参与者,但公开证据并未证明在已发货的昇腾系统中存在大规模 CXMT/内地 HBM。中国电力有助于国内规模,但成本线太小,不能成为独立冲击。中国模型/API 的低价格是最清晰的需方压力向量。
证据质量:大量证据基础,但存在三个决定性差距。结论在官方文件、备案、公开定价、监管和可观察的软件支持方面最强,在需要私人合同、物理拆解证据、账户级云报价或实时基准访问的地方最弱。
校准发现:区域优先压力得到支持,但即时全球物理 AI 基础设施黑天鹅未得到支持。华为/昇腾堆栈在选定工作负载上真实,但广泛的 CUDA 等效全球可替代性或已证明的更低 TCO 未得到支持。CXMT/HBM 瓶颈在已发货系统中未得到证明。中国电力是规模推动因素,但单独电力不会打破云经济学。模型/token 价格创造了真正的价格锚向量,但耐用的企业级全球替代未得到支持。云渠道在续约、新建、私人市场和融资中敏感,但不会立即出现广泛的报告收入崩溃。
财务阈值:估值压力可能在收入崩溃前到来。模型显示冲击与边际经济学相关。受保护的积压可以缓冲近期收入,但新的或暴露的容量在租金、利用率和融资共同变动时可能迅速变得不具吸引力。
监控地图:升级指标包括华为/CXMT 披露 HBM 产量、良率、资质或出货量;公开或授权拆解显示 CXMT/内地 HBM 在昇腾封装中;发票级价格、配额和 SLA 证据;独立的昇腾与 H100/H200/B200 基准比较;显示与压力相关的重新定价、去账、融资压力或私人减记的备案或合同证据。弱化指标包括更多拆解指向外国或库存 HBM 依赖;价格仍受限、昂贵、不可用或基准比较弱;中国模型/API 价格上涨或成本效益测试失败;政策限制收紧到足以阻止中国以外的采用;云渠道强劲续约且未显示 RPO、利用率、信用或融资恶化。