本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

テキストにおける人間的価値の識別と理解:カスタマイズ可能なLLMベースのアーキテクチャ

記事の要約

本論文は、テキスト中の人間的価値を検出しその強度を定量化するためのモジュール型LLMアーキテクチャを提案する。特定の価値理論や複雑なプロンプトエンジニアリングへの依存を回避し、ValueEvalデータセットでその汎用性を検証している。

ソースarXiv AI著者: Eduardo de la Cruz Fern\'andez, Marcelo Karanik, Sascha Ossowski
テキストにおける人間的価値の識別と理解:カスタマイズ可能なLLMベースのアーキテクチャ
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

インテリジェントシステムの自律性が高まるにつれ、科学コミュニティは従来の効用最大化モデルとは異なり、倫理的・道徳的考慮を含む意思決定メカニズムの構築に注力している。これを実現する上で重要な側面は、これらの決定が人間の価値観とどの程度整合しているかを評価することである。この目的のために有望な研究の流れは、大規模言語モデル(LLM)を用いてテキストから明示的または暗黙的な人間の価値を識別するアプローチの開発に焦点を当てており、それによって価値の認識を全体にわたって可能にする。

本論文は、テキスト中に存在する人間的価値を検出し、その強度を定量化するためのLLMベースのアーキテクチャを紹介する。これは、特定の価値理論や複雑なプロンプトエンジニアリングに縛られる従来のアプローチの限界を回避することを目的としている。アーキテクチャは3つの協調モジュールから構成される。第一のモジュールは、任意の理論的枠組みの基礎テキストから構造化された価値仕様を生成する。第二のモジュールは、この仕様を用いてテキストをラベリングする。第三のモジュールは、修辞的および意味的証拠に基づいて、段階的な支持または抵抗を割り当てる。

このモジュール式のアプローチは、価値の概念化タスクと検出タスクを分離し、スケーラブルで再現可能なプロセスを創出する。このプロセスは、様々な理論に適応可能な価値仕様によって駆動される。研究チームは複数のLLMでアーキテクチャをインスタンス化し、ValueEvalデータセットを用いて評価した。実験の結果、良好な検出性能が示され、パイプラインの汎用性が確認された。

本論文は、第18回国際エージェントおよび人工知能会議(ICAART 2026)の論文集に掲載され、8ページ、図1点で構成されている。人工知能、計算と言語、コンピュータと社会などの分野にまたがり、ACM分類はI.2.7およびI.2.1である。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • アーキテクチャは3つの協調モジュールで構成される:任意の理論的枠組みの基礎テキストから構造化された価値仕様を生成するモジュール、その仕様を用いてテキストをラベリングするモジュール、修辞的・意味的証拠に基づいて段階的な支持または抵抗を割り当てるモジュール。
  • このモジュール式アプローチは価値の概念化と検出を分離し、様々な理論に適応可能な価値仕様に駆動されるスケーラブルで再現可能なプロセスを実現する。
  • 複数のLLMでインスタンス化しValueEvalデータセットで評価した結果、良好な検出性能を示し、パイプラインの汎用性を確認した。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。

テキストにおける人間的価値の識別と理解:カスタマイズ可能なLLMベースのアーキテクチャ | AI News Hub