大语言模型在CBT引导的情感推理中何处不足?
大语言模型在CBT理论考试中表现优异(准确率高达96%),但在实际对话中的应用效果不佳。新提出的协议杠杆力(F)指标显示,即使采用多链思维提示,对模型行为的影响也极小(低于1.5%),模型仍偏向于验证与反思。
来源arXiv Computational Linguistics作者: Vaishnavi Sinha, Pooja Guttal, Pranay Deep Reddy Katike, Vishal Sinha, Gerald Ndawula, Lira Yoon, Andrea Kleinsmith, Manas Gaur
认知行为疗法(CBT)为理解用户的心理状态提供了结构化框架,通过考察认知和行为因素之间的相互作用。然而,现成的大语言模型(LLM)虽然能流利地做出共情回应,但无论用户实际需求如何,它们都倾向于进行验证和反思,陷入单一模式。尽管LLM在CBT执照考试中能取得高达96%的准确率,但在实际应用中的表现却不尽如人意。
为了解决这一差距,研究人员提出了一种知识引导框架,将CBT对话视为受控的情感推理。该框架将用户叙述分解为Beck认知概念化结构,并基于临床SNOMED CT概念通过自然语言推理进行验证。随后,采用多链思维(MCoT)策略选择,在验证与反思、苏格拉底式提问和替代视角之间进行抉择。为了量化这种引导对模型行为的影响,研究者引入了协议杠杆力(F)指标,用于测量干预措施使模型偏离默认响应的程度。
实验在三个开源LLM(如Llama等)和14个来自RealCBT数据集的案例上进行。评估包括人类专家评分、效价-唤醒轨迹分析以及语言共鸣分析。结果显示,仅通过单链思维提示引入协议定义几乎无法改变LLM的行为;而MCoT提示能够更好地引导策略选择,但效果仍然非常有限——协议杠杆力仅在1%左右(约1.2-1.3%)。所有模型都持续表现出对验证与反思模式的偏好。
这一研究揭示了LLM在CBT应用中的一个关键局限:理论知识不等于有效应用。研究提供的指标和方法为情感计算社区提供了评估和改进LLM在心理健康对话中表现的工具。该论文已被2026年情感计算与智能交互(ACII)会议接收。