跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

利用大语言模型扩展定性分析:面向人类-LLM协作编码的Smart Coder框架的开发与验证

文章摘要

研究者提出Smart Coder框架,通过指令、提示策略和可靠性检查三阶段结构,系统化大语言模型辅助的定性编码流程,并在72份中学数学教师访谈转录本上验证其能提升编码一致性并保留人类最终决策权。

来源arXiv AI作者: Cheng Tang, Kun Wang, Yaxuan Yang, Shiyu Wang, Allan Cohen, Rachael Eriksen Brown, Chandra Hawley Orrill
利用大语言模型扩展定性分析:面向人类-LLM协作编码的Smart Coder框架的开发与验证
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

近日,一篇发表于 arXiv 的论文《Scaling Qualitative Analysis with Large Language Models: Development and Validation of the Smart Coder Framework for Human-LLM Collaborative Coding》提出并验证了一个名为 Smart Coder 的三阶段框架,旨在让大语言模型参与质性编码(qualitative coding)时更加系统、可监控,同时保留人类对最终编码决定的主导权。该论文由 Cheng Tang 等共 7 位作者完成,于 2026 年 10 月 23 日提交,全文含补充材料共 29 页,归类于人工智能(cs.AI)方向,编号为 arXiv:2610.33205v1,DOI 为 10.48550/arXiv.2610.33205。

研究首先指出现有实践的痛点:当前将大语言模型用于质性编码时,往往依赖临时拼凑的提示词(ad hoc prompting),在可靠性保障和人工监督方面缺乏明确指引。这种随意性使得模型输出难以复现、难以评估,也让研究者不易判断哪些编码结果可以信任、哪些需要人工复核。Smart Coder 框架正是为回应这一缺口而设计。

该框架由三个阶段组成:Instruction(指令)、Prompt Strategy(提示策略)与 Reliability Check(可靠性检查)。第一阶段通过明确的指令约束模型的任务理解;第二阶段在提示设计上引入不同策略组合;第三阶段则对输出的一致性进行检验,以便识别不稳定的判断并交由人工处理。三者串联,形成从任务布置到结果审核的完整流程。

为检验框架效果,研究团队使用了 72 份初中数学教师访谈转录文本,并以人工共识结果为基准进行对照。实验采用析因设计(factorial design),系统比较了三组变量:有指令提示与无指令提示、few-shot 提示与 few-shot 加思维链(chain-of-thought)提示、单次编码(single-pass)与自洽性编码(self-consistency)。其中 12 份转录用于提示词开发与校准,剩余 60 份用于正式评估。

结果显示,加入指令能够持续提升模型编码与人工共识之间的一致性。在指令充分的前提下,思维链提示可以进一步改善一致性水平。自洽性编码带来的增益相对较小,且因主题而异,但它在识别不稳定决策方面具有价值,可帮助研究者定位需要人工复核的编码结果。此外,模型的表现在不同转录文本特征下也存在差异,说明转录本身的特性会影响编码质量。

总体来看,Smart Coder 框架为 LLM 辅助的质性编码提供了一套系统化的流程与监控机制:既通过指令和提示策略提升一致性,又通过可靠性检查暴露不确定性,最终把编码决策的权威保留在人类手中。论文同时提供了完整的方法细节、评估设计与结果分析,为后续在人机协作质性分析方向上的研究与实践提供了可参考的范式。

展开要点与分析

文章情报

投资人进阶

要点

  • Smart Coder框架将人机协作定性编码分为指令、提示策略和可靠性检查三个阶段
  • 实验基于72份中学数学教师访谈转录本,采用人类共识基准和因子设计进行比较
  • 明确的指令能持续提升编码一致性,思维链在充分指令下进一步改善一致性
  • 自一致性带来较小的、依主题而异的增益,并有助于识别需要人工复核的不稳定决策

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。