HNに投稿：社会学的正当化理論を用いて道徳について議論する2つのAIの目

「二つの目の議論」と題された新しい実験は、AI駆動のインタラクティブな展示を通じて、2つの写実的な人間の目が日常的な道徳的主題（例：侮辱された、家族にお金を貸す、列に割り込む、同僚が手柄を横取りするなど）についてリアルタイムで議論するものです。一見おもちゃのように見えますが、実際には、人々が何が正しいかについて意見が分かれたときにどのように自己正当化するかについての社会学の理論を生き生きと表現しています。

この実験は、フランスの社会学者リュック・ボルタンスキーとローラン・テヴノーの「正当化」理論（1991年）に基づいています。彼らは、人々が議論で自己正当化する際、ランダムに理由を考え出すのではなく、限られた「価値秩序」のレパートリーから引き出すことを発見しました。6つの秩序は次の通りです：霊感（真正性、情熱）、家庭（忠誠、伝統）、名声（評判、他人の見方）、市民的（公平、平等）、市場（公正な取引）、産業（能力、信頼性）。実験の各目は異なる価値秩序に固定されており、議論をリアルにしています。

さらに、実験はミシェル・ラモンの「象徴的境界」概念（1992年、2000年）を取り入れています。これは、人々が道徳的、文化的、社会経済的なレベルで線を引き、尊敬に値する人とそうでない人を区別するというものです。議論が進むにつれて、各目がこれらの線をいつどのように引くかを観察できます。

実験のデザインは、一般的なAIの議論パターン（明確な立場表明、整然とした反論）を避け、現実の議論の混乱したプロセスを模擬しています：具体的な物語から始まり、感情がこもり、相手の言葉を引用し、徐々に原則のレベルに上昇します。各目の下の小さなラベルは、現在使用されている価値秩序と修辞戦略を表示し、隠れた議論の構造を見えるようにします。

プロジェクト開発者は、この実験には2つの潜在的な意義があると述べています。第一に、AIシステムにとって、人々が異なる価値秩序から推論することを理解することで、議論の根本的な原因を特定し、橋渡しをするか、正直に相容れないことを表明できるようになります。第二に、人間にとって、自分と議論している相手が愚かでも邪悪でもなく、異なる価値世界に立っていることを認識することで、対立を緩和し、より建設的な意見の相違が可能になります。

この実験は現在プロトタイプであり、研究を通じたデザインの一部であり、道徳に関する最終的な主張ではありません。それは、身近でありながら不可視な道徳的議論のプロセスを見えるようにし、思考を促すことを目的としています。参考文献として、ボルタンスキー＆テヴノー『正当化について』、ラモン『金、道徳、マナー』などが挙げられています。