跳到主要內容
AI News HubLIVE
站內改寫2 分鐘閱讀

內部多元主義與成對比較的侷限性

文章摘要

成對比較常用於學習人們對決策規則的偏好,但本文指出它基於兩個強假設:局部比較能反映全局偏好,且人能果斷回答。在內部多元主義(個體根據多種權威優先級評估規則)下,這些假設可能失效。全局優先事項(如比例性)無法通過局部比較捕捉,且優先級衝突會導致行為扭曲。允許報告猶豫可減少查詢次數,併為直接引出優先級的方法指明方向。

來源arXiv AI作者: Bailey Flanigan, Michelle Si
內部多元主義與成對比較的侷限性
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

近日,arXiv上發佈了一篇由Bailey Flanigan和Michelle Si撰寫的論文《內部多元主義與成對比較的侷限性》。該論文深入探討了在參與式設計和人工智能對齊等領域廣泛使用的成對比較方法的潛在缺陷。成對比較是一種通過局部偏好判斷來學習個體對決策規則偏好的工具,但其依賴於兩個關鍵假設:局部的比較結果能夠充分反映個體對決策規則全局行為的需求,並且個體總是能夠做出明確果斷的選擇。然而,作者指出,當個體持有內部多元主義觀點,即依據多個權威的優先級來評估決策規則時,這兩個假設可能會被破壞。

為了系統分析這一問題,論文構建了一個形式化模型來描述多元偏好。該模型揭示了強制進行局部成對比較的兩種失敗模式。第一種失敗模式與全局優先級的特性有關。例如,比例性、平等主義和同等待遇等優先級本質上是全局性的:它們在一個案例中的具體含義可能取決於其他案例的情況,因此僅通過局部比較無法準確捕捉這些全局優先級。第二種失敗模式則源於優先級之間的衝突。即使某些優先級可以在局部範圍內表示,強大優先級之間的張力也可能引發內部衝突,導致個體在被迫做出比較時產生代價高昂的行為扭曲,例如不一致或矛盾的判斷。

論文進一步探索了允許個體報告“猶豫不決”作為替代方案的效果。研究發現,通過允許個體表達不確定性,可以顯著減少準確學習其偏好所需的查詢次數。這表明,傳統的強制比較方法不僅效率低下,還可能誤導最終的偏好學習結果。作者最後指出,他們的模型為開發直接引出這些優先級的偏好學習方法指明瞭方向,從而能夠提供更忠實、更可解釋的個體價值觀描述。

這項研究對參與式設計、人工智能對齊以及社會選擇理論都具有重要的啓示。它提醒我們,簡單地將複雜的人類價值觀簡化為局部的二元選擇可能會忽略關鍵的全局維度,而允許不確定性的存在反而能帶來更高效、更準確的學習過程。該論文於2026年7月2日提交至arXiv,屬於人工智能(cs.AI)和計算機與社會(cs.CY)領域。

展開要點與分析

文章情報

工程師進階

要點

  • 成對比較假設局部比較足以反映全局偏好,且人能果斷回答。
  • 內部多元主義認為個體根據多種優先級評估規則,使這些假設可能失效。
  • 全局優先事項(如比例性)無法通過局部比較捕捉;優先級衝突導致行為扭曲。
  • 允許報告猶豫能大幅減少學習準確偏好所需的查詢次數。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。