大型行為模型(Large Behavior Model, LBM)是一項旨在解決客戶行為建模中預測準確性與可解釋性之間矛盾的新方法。現有技術要麼最佳化預測精度卻無法解釋決策原因,要麼模擬使用者行為卻缺乏真實資料支撐。LBM透過統一的人物-環境(Person-Environment)框架,直接從大規模零售交易中學習客戶決策過程。
模型的核心創新在於將客戶狀態表示為由歷史購買行為構建的行為檔案(behavioral profile),同時透過檢索增強生成(Retrieval-Augmented Generation, RAG)技術整合產品上下文資訊。訓練過程採用三步策略:首先將行為資料進行語言化處理(verbalization)並執行持續預訓練(continued pre-training),使模型掌握行為模式;接著透過監督微調(Supervised Fine-Tuning, SFT)提升決策生成能力;最後利用可驗證獎勵的強化學習(Reinforcement Learning with Verifiable Rewards, RLVR)校準模型,使其更依賴顯式行為證據而非語言模型先驗。
在實驗評估中,研究團隊在購買預測、難負樣本判別(hard-negative discrimination)、購物籃完成(basket completion)、促銷響應(promotion response)以及跨領域優惠券兌換(cross-domain voucher redemption)等五類零售任務上對LBM進行了測試。結果顯示,LBM不僅在域內任務上持續優於最先進的通用大語言模型,如GPT-4和Claude,還展現出強大的零樣本(zero-shot)和微調(fine-tuned)跨零售商、跨決策域遷移能力。例如,在一個零售商資料上訓練的模型可以直接應用於其他零售商的任務,無需額外訓練。
消融研究揭示了各訓練元件的貢獻:持續預訓練是行為泛化的主要驅動力,如果沒有這一階段,模型在域外任務上的表現大幅下降;檢索增強在訓練和推理階段同時應用時效果最佳,僅在推理時使用效果有限;強化學習則顯著提高了模型對行為證據的依賴程度,減少了對通用語言模型先驗的依賴。這些結果表明,交易歷史中編碼的行為知識可以被語言模型有效學習,為構建客戶數字孿生和行為模擬提供了可擴充套件的基礎。LBM的提出標誌著行為建模從統計方法向基於語言模型方法的轉變,有望在推薦系統、精準營銷和客戶決策支援等領域產生重要影響。