有限道徳：道徳計算の空間を定義する

論文「Bounded Morality: Defining the Space of Moral Computation」がarXivに投稿され、AAAI-26のワークショップ「Machine Ethics」で発表されます。著者のMax Kanwalらは、有限エージェントが直面する道徳問題の計算要求を分析する形式的フレームワーク「有限道徳（Bounded Morality）」を提案しています。このフレームワークは、ハーバート・サイモンの有限合理性の概念を道徳認知に拡張し、道徳状況を二つの直交する次元で形式化します：道徳的広がり（道徳的に関連する実体の範囲）と道徳的深さ（実体間の相互作用を評価するための推論的統合の度合い）。限られたリソースにより、これらの次元間には不可避のトレードオフが生じ、道徳計算の実行可能な空間が定義されます。この空間内では、義務論、帰結主義、徳倫理学といった倫理理論は、競合する真理ではなく、異なる需要体制に適応した局所的に効率的な戦略として捉えられます。フレームワークは、制約下での道徳的後悔と道徳的進歩の形式的概念を提供し、人工システムにおける道徳的アラインメントは、人間の判断の直接模倣ではなく、道徳推論能力のスケーリングと配分に依存することを示唆します。AIの普及に伴い、倫理的判断を下すシステムの重要性が増しています。従来のアプローチは、固定された倫理理論への準拠を前提としていましたが、現実のエージェントは限られた時間や情報の中で判断を下さねばなりません。有限道徳フレームワークは、この現実を反映し、道徳的広がりと深さの間のトレードオフを明確にします。例えば、緊急時には義務論的なルールが効率的ですが、十分なリソースがある場合には帰結主義的な評価が適切かもしれません。このフレームワークはまた、道徳的後悔（リソース制約のために最適な決定ができないこと）や、制約下での道徳的進歩（リソース拡大や戦略改善による後悔の軽減）を形式化します。AIアラインメントの分野では、人間の道徳判断を模倣するのではなく、道徳推論能力を拡張し適切に配分することの重要性が示唆されます。本論文は24ページ、2つの図を含み、AI倫理研究に新たな理論的視点を提供し、モデル選択、推論コスト、アラインメント手法に影響を与える可能性があります。