这篇发表于arXiv的论文《Identifying and Understanding Human Values in Text: A Tailorable LLM-based Architecture》由Eduardo de la Cruz Fernández等三位作者共同完成,提交于2026年4月7日,并已收录于第18届智能体与人工智能国际会议(ICAART 2026)第五卷论文集,页码为4096至4103页。论文共8页,含1幅图表,属于人工智能(cs.AI)主分类,同时涉及计算与语言(cs.CL)以及计算机与社会(cs.CY)两个交叉领域,ACM分类号为I.2.7与I.2.1。
研究动机源于智能系统自主性的不断提升。随着系统越来越多地独立做出决策,科学界开始关注如何让决策机制纳入伦理与道德考量,而非沿用传统的效用最大化模型。要实现这一点,一个关键环节是评估这些决策与人类价值观的契合程度。为此,一条颇具前景的研究路线是借助大语言模型(LLM)从文本中识别人类价值观,无论这些价值观是显性表达还是隐含其中,从而在整个过程中实现对其的持续识别。
论文提出的核心贡献是一种基于LLM的架构,用于检测文本中的人类价值观并量化其强度。作者指出,以往的方法存在两方面局限:一是与特定的价值理论深度绑定,二是依赖复杂的提示工程。新架构力图规避这两点。整个架构由三个协同工作的模块组成。第一个模块从任意理论框架的基础文本中生成结构化的价值规范,相当于把理论概念转化为机器可用的规格说明;第二个模块依据这些规范对文本进行标注;第三个模块则根据修辞与语义证据,为文本赋予分级化的支持或抵触判定,而非简单的二元标签。
这种模块化设计的要点在于将“概念化”与“检测”两项任务分离:先由理论文本生成价值规范,再据此检测文本中的价值表达。作者认为,这一流程具备可扩展性与可复现性,并且由于规范本身可适配不同理论,架构能够灵活应用于多种价值体系。
在实验方面,作者使用多个LLM实例化该架构,并采用ValueEval数据集进行评估。实验结果显示,该架构取得了良好的检测性能,验证了整条流水线的通用性。论文还提供了PDF全文、实验性HTML版本以及TeX源码等访问方式,并给出了DOI信息(10.48550/arXiv.2605.27373)与期刊参考文献DOI。
从更广的意义上看,这项工作回应了自主智能体在道德决策方面的一个基础需求:只有当系统能够可靠地从文本中识别并量化人类价值观,才可能进一步评估其决策与这些价值观的一致程度。论文所强调的可适配多种价值理论、无需复杂提示工程、且流程可复现的特点,为后续研究提供了一个可扩展的起点。不过,作者也仅以ValueEval数据集验证了检测性能,架构在更多理论框架与更广泛文本类型上的表现,仍有待进一步检验。