PraMem：基于实践的经验记忆用于长期行为预测

近日，一项名为PraMem的研究成果提出了一种全新的长期行为预测方法，通过将长历史序列视为宝贵资源而非负担，构建经验记忆以提升预测准确性。该研究由中国科学院计算技术研究所等机构的研究人员完成，论文发表于arXiv预印本平台（arXiv:2607.02881），提交日期为2026年7月3日。

长期行为预测是人工智能领域的重要研究方向，旨在根据用户长时间的历史行为序列推断其下一步动作。这类任务在推荐系统、智能助手、自动驾驶等实际应用中扮演着核心角色。随着大语言模型（LLMs）的兴起，这一任务迎来了新的可能性，但LLMs在处理长期依赖时仍面临两大挑战：一是难以从冗长的序列中归纳出潜在的行为模式，二是模型固有的认知偏差会导致预测失真。此前的主流方法大多遵循上下文压缩范式，试图通过压缩或丢弃部分历史信息来减轻模型负担，但这种做法往往丢失了关键的上下文细节，未能从根本上解决模式归纳和偏差问题。

PraMem提出了一种范式转变：不再将长历史序列视为需要减轻的负担，而是将其视为可供深度挖掘的宝贵资源。具体而言，该方法通过对历史序列进行预先“实践”——即让模型在预测前先基于历史数据模拟行为模式，从而构建出结构化的经验记忆。这种记忆作为辅助输入提供给LLM，使其能够更准确地理解用户的长期行为规律并推断下一步动作。研究团队将这种机制类比于人类通过反复练习形成经验的过程，从而使模型具备类似人类的“直觉”能力。

在实验部分，研究团队在多个公开数据集和任务上进行了广泛评估，涵盖电商点击预测、社交媒体行为分析、移动应用使用预测等场景。结果显示，PraMem在准确率、召回率等关键指标上显著优于包括强化记忆网络、Transformer-XL、Longformer在内的多种现有方法。此外，研究者还通过消融实验和可视化分析揭示了经验记忆的演化机制：随着历史序列长度增加，记忆结构逐渐从松散关联转变为紧密耦合的行为模式，这种动态演化是性能提升的关键。相关代码已在GitHub开源（https://github.com/icip-cas/PraMem），供学术界和工业界进一步探索。

这项研究为长期行为预测领域提供了全新的方法论基础，有望推动推荐系统、人机交互、智能监控等领域的实际应用发展。未来工作可探索将经验记忆与大模型的其他增强技术（如检索增强生成、知识图谱）相结合，以进一步提升预测的鲁棒性和可解释性。