记忆在循环中：进程内检索作为语言代理的扩展工作记忆

语言代理通常运行在“观察-推理-行动”的循环中，但它们所依赖的记忆却位于循环之外：一个每轮至多查询一次的存储。这种设计源于网络延迟的严重限制。传统网络化存储的响应时间在数十到数百毫秒之间，如果在每步都进行检索，端到端延迟可能膨胀高达83倍。先前的工作试图通过调度或限制检索频率来管理这一成本，但从未质疑其必要性。

一项由Yusuf Khan等研究者提交的新研究（arXiv:2607.05690）从根本上提出了不同的观点：延迟是存储位置的问题，而非循环模式的问题。进程内存储的响应时间约为100微秒，比网络存储快三个数量级。在这种速度下，每步的额外开销几乎消失。基于“扩展心智”理论的等价原则，足够快且持续可用的存储实际上成为代理的扩展工作记忆，而非仅仅一个可供查阅的工具。

为了验证这一前提，研究者设计了因果实验：固定每轮的记忆延迟预算，仅改变存储的响应速度。结果发现，冗余动作随延迟单调增加——在进程内速度下，12个任务中冗余动作为0.0个；而在110毫秒的云往返时间下，冗余动作升至7.2个（使用GPT-5-nano和GPT-5-mini，精确置换检验p=0.0079）。这一结果表明，延迟的降低直接影响代理的行为效率，减少了不必要的重复操作。

端到端实验进一步展示了该模式的潜力：在四种GPT-5类模型上，使用有界窗口时，进程内循环记忆将召回率从0/5提升至3.6–4.8/5，存储操作的中位延迟为80–165微秒。值得注意的是，一个要求“每次回复都重述”的基线也能完美解决问题，但代价是令牌消耗随工作集增长。存储本身在全部244次写入中从未丢失任何事实；所有漏报均源于代理的读取策略，而非存储本身。

该研究的另一关键发现是瓶颈转移：每步的主要开销来自嵌入生成（通过网络需要200–400毫秒）。将进程内存储与小型本地嵌入器配对，可将完整操作降至约40微秒，彻底改变了性能格局。这一成果为构建更高效、更智能的语言代理开辟了新路径。相比于单纯优化检索频率或调度策略，直接改变存储的位置和速度能够带来质的飞跃。未来，这种“循环内记忆”的设计可能成为语言代理的标准架构，提升实时交互和复杂推理任务的可行性。