AI News HubLIVE
站内改写2 分钟阅读

大型行为模型:零售客户的可提示数字孪生

本文提出大型行为模型(LBM),通过统一的人物-环境框架直接从大规模零售交易中学习客户决策。模型利用历史购买行为构建客户状态,通过检索增强生成整合产品上下文,并采用持续预训练、监督微调和基于可验证奖励的强化学习进行训练。在多个零售任务上,LBM显著优于前沿通用语言模型,并展示了强大的零样本和微调迁移能力。消融实验表明,持续预训练是行为泛化的主要驱动力,检索在训练和推理时均应用效果最佳,强化学习能增强对显式行为证据的依赖。

来源arXiv AI作者: Wachiravit Modecrua, Krittin Pachtrachai, Touchapon Kraisingkorn

大型行为模型(Large Behavior Model, LBM)是一项旨在解决客户行为建模中预测准确性与可解释性之间矛盾的新方法。现有技术要么优化预测精度却无法解释决策原因,要么模拟用户行为却缺乏真实数据支撑。LBM通过统一的人物-环境(Person-Environment)框架,直接从大规模零售交易中学习客户决策过程。

模型的核心创新在于将客户状态表示为由历史购买行为构建的行为档案(behavioral profile),同时通过检索增强生成(Retrieval-Augmented Generation, RAG)技术整合产品上下文信息。训练过程采用三步策略:首先将行为数据进行语言化处理(verbalization)并执行持续预训练(continued pre-training),使模型掌握行为模式;接着通过监督微调(Supervised Fine-Tuning, SFT)提升决策生成能力;最后利用可验证奖励的强化学习(Reinforcement Learning with Verifiable Rewards, RLVR)校准模型,使其更依赖显式行为证据而非语言模型先验。

在实验评估中,研究团队在购买预测、难负样本判别(hard-negative discrimination)、购物篮完成(basket completion)、促销响应(promotion response)以及跨领域优惠券兑换(cross-domain voucher redemption)等五类零售任务上对LBM进行了测试。结果显示,LBM不仅在域内任务上持续优于最先进的通用大语言模型,如GPT-4和Claude,还展现出强大的零样本(zero-shot)和微调(fine-tuned)跨零售商、跨决策域迁移能力。例如,在一个零售商数据上训练的模型可以直接应用于其他零售商的任务,无需额外训练。

消融研究揭示了各训练组件的贡献:持续预训练是行为泛化的主要驱动力,如果没有这一阶段,模型在域外任务上的表现大幅下降;检索增强在训练和推理阶段同时应用时效果最佳,仅在推理时使用效果有限;强化学习则显著提高了模型对行为证据的依赖程度,减少了对通用语言模型先验的依赖。这些结果表明,交易历史中编码的行为知识可以被语言模型有效学习,为构建客户数字孪生和行为模拟提供了可扩展的基础。LBM的提出标志着行为建模从统计方法向基于语言模型方法的转变,有望在推荐系统、精准营销和客户决策支持等领域产生重要影响。