跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

在文本中识别与理解人类价值:一种可定制的LLM架构

文章摘要

本文介绍了一种基于大语言模型(LLM)的模块化架构,用于从文本中检测人类价值并量化其强度,避免了对特定价值理论或复杂提示工程的依赖,并在ValueEval数据集上验证了其泛化性能。

来源arXiv AI作者: Eduardo de la Cruz Fern\'andez, Marcelo Karanik, Sascha Ossowski
在文本中识别与理解人类价值:一种可定制的LLM架构
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

这篇发表于arXiv的论文《Identifying and Understanding Human Values in Text: A Tailorable LLM-based Architecture》由Eduardo de la Cruz Fernández等三位作者共同完成,提交于2026年4月7日,并已收录于第18届智能体与人工智能国际会议(ICAART 2026)第五卷论文集,页码为4096至4103页。论文共8页,含1幅图表,属于人工智能(cs.AI)主分类,同时涉及计算与语言(cs.CL)以及计算机与社会(cs.CY)两个交叉领域,ACM分类号为I.2.7与I.2.1。

研究动机源于智能系统自主性的不断提升。随着系统越来越多地独立做出决策,科学界开始关注如何让决策机制纳入伦理与道德考量,而非沿用传统的效用最大化模型。要实现这一点,一个关键环节是评估这些决策与人类价值观的契合程度。为此,一条颇具前景的研究路线是借助大语言模型(LLM)从文本中识别人类价值观,无论这些价值观是显性表达还是隐含其中,从而在整个过程中实现对其的持续识别。

论文提出的核心贡献是一种基于LLM的架构,用于检测文本中的人类价值观并量化其强度。作者指出,以往的方法存在两方面局限:一是与特定的价值理论深度绑定,二是依赖复杂的提示工程。新架构力图规避这两点。整个架构由三个协同工作的模块组成。第一个模块从任意理论框架的基础文本中生成结构化的价值规范,相当于把理论概念转化为机器可用的规格说明;第二个模块依据这些规范对文本进行标注;第三个模块则根据修辞与语义证据,为文本赋予分级化的支持或抵触判定,而非简单的二元标签。

这种模块化设计的要点在于将“概念化”与“检测”两项任务分离:先由理论文本生成价值规范,再据此检测文本中的价值表达。作者认为,这一流程具备可扩展性与可复现性,并且由于规范本身可适配不同理论,架构能够灵活应用于多种价值体系。

在实验方面,作者使用多个LLM实例化该架构,并采用ValueEval数据集进行评估。实验结果显示,该架构取得了良好的检测性能,验证了整条流水线的通用性。论文还提供了PDF全文、实验性HTML版本以及TeX源码等访问方式,并给出了DOI信息(10.48550/arXiv.2605.27373)与期刊参考文献DOI。

从更广的意义上看,这项工作回应了自主智能体在道德决策方面的一个基础需求:只有当系统能够可靠地从文本中识别并量化人类价值观,才可能进一步评估其决策与这些价值观的一致程度。论文所强调的可适配多种价值理论、无需复杂提示工程、且流程可复现的特点,为后续研究提供了一个可扩展的起点。不过,作者也仅以ValueEval数据集验证了检测性能,架构在更多理论框架与更广泛文本类型上的表现,仍有待进一步检验。

展开要点与分析

文章情报

工程师进阶

要点

  • 架构包含三个协调模块:从理论框架的基础文本生成结构化价值规范、使用规范进行文本标注、以及基于修辞和语义证据分配分级支持或抵抗。
  • 该方法将价值概念化与检测任务分离,创建了可扩展且可重复的流程,适用于多种价值理论。
  • 使用多个LLM实例化并在ValueEval数据集上评估,实验显示出良好的检测性能,证实了管道的通用性。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。