近日,一篇发表于 arXiv 的论文《Scaling Qualitative Analysis with Large Language Models: Development and Validation of the Smart Coder Framework for Human-LLM Collaborative Coding》提出并验证了一个名为 Smart Coder 的三阶段框架,旨在让大语言模型参与质性编码(qualitative coding)时更加系统、可监控,同时保留人类对最终编码决定的主导权。该论文由 Cheng Tang 等共 7 位作者完成,于 2026 年 10 月 23 日提交,全文含补充材料共 29 页,归类于人工智能(cs.AI)方向,编号为 arXiv:2610.33205v1,DOI 为 10.48550/arXiv.2610.33205。
研究首先指出现有实践的痛点:当前将大语言模型用于质性编码时,往往依赖临时拼凑的提示词(ad hoc prompting),在可靠性保障和人工监督方面缺乏明确指引。这种随意性使得模型输出难以复现、难以评估,也让研究者不易判断哪些编码结果可以信任、哪些需要人工复核。Smart Coder 框架正是为回应这一缺口而设计。
该框架由三个阶段组成:Instruction(指令)、Prompt Strategy(提示策略)与 Reliability Check(可靠性检查)。第一阶段通过明确的指令约束模型的任务理解;第二阶段在提示设计上引入不同策略组合;第三阶段则对输出的一致性进行检验,以便识别不稳定的判断并交由人工处理。三者串联,形成从任务布置到结果审核的完整流程。
为检验框架效果,研究团队使用了 72 份初中数学教师访谈转录文本,并以人工共识结果为基准进行对照。实验采用析因设计(factorial design),系统比较了三组变量:有指令提示与无指令提示、few-shot 提示与 few-shot 加思维链(chain-of-thought)提示、单次编码(single-pass)与自洽性编码(self-consistency)。其中 12 份转录用于提示词开发与校准,剩余 60 份用于正式评估。
结果显示,加入指令能够持续提升模型编码与人工共识之间的一致性。在指令充分的前提下,思维链提示可以进一步改善一致性水平。自洽性编码带来的增益相对较小,且因主题而异,但它在识别不稳定决策方面具有价值,可帮助研究者定位需要人工复核的编码结果。此外,模型的表现在不同转录文本特征下也存在差异,说明转录本身的特性会影响编码质量。
总体来看,Smart Coder 框架为 LLM 辅助的质性编码提供了一套系统化的流程与监控机制:既通过指令和提示策略提升一致性,又通过可靠性检查暴露不确定性,最终把编码决策的权威保留在人类手中。论文同时提供了完整的方法细节、评估设计与结果分析,为后续在人机协作质性分析方向上的研究与实践提供了可参考的范式。