近日,arXiv上釋出了一篇由Bailey Flanigan和Michelle Si撰寫的論文《內部多元主義與成對比較的侷限性》。該論文深入探討了在參與式設計和人工智慧對齊等領域廣泛使用的成對比較方法的潛在缺陷。成對比較是一種透過區域性偏好判斷來學習個體對決策規則偏好的工具,但其依賴於兩個關鍵假設:區域性的比較結果能夠充分反映個體對決策規則全域性行為的需求,並且個體總是能夠做出明確果斷的選擇。然而,作者指出,當個體持有內部多元主義觀點,即依據多個權威的優先順序來評估決策規則時,這兩個假設可能會被破壞。
為了系統分析這一問題,論文構建了一個形式化模型來描述多元偏好。該模型揭示了強制進行區域性成對比較的兩種失敗模式。第一種失敗模式與全域性優先順序的特性有關。例如,比例性、平等主義和同等待遇等優先順序本質上是全域性性的:它們在一個案例中的具體含義可能取決於其他案例的情況,因此僅透過區域性比較無法準確捕捉這些全域性優先順序。第二種失敗模式則源於優先順序之間的衝突。即使某些優先順序可以在區域性範圍內表示,強大優先順序之間的張力也可能引發內部衝突,導致個體在被迫做出比較時產生代價高昂的行為扭曲,例如不一致或矛盾的判斷。
論文進一步探索了允許個體報告“猶豫不決”作為替代方案的效果。研究發現,透過允許個體表達不確定性,可以顯著減少準確學習其偏好所需的查詢次數。這表明,傳統的強制比較方法不僅效率低下,還可能誤導最終的偏好學習結果。作者最後指出,他們的模型為開發直接引出這些優先順序的偏好學習方法指明瞭方向,從而能夠提供更忠實、更可解釋的個體價值觀描述。
這項研究對參與式設計、人工智慧對齊以及社會選擇理論都具有重要的啟示。它提醒我們,簡單地將複雜的人類價值觀簡化為區域性的二元選擇可能會忽略關鍵的全域性維度,而允許不確定性的存在反而能帶來更高效、更準確的學習過程。該論文於2026年7月2日提交至arXiv,屬於人工智慧(cs.AI)和計算機與社會(cs.CY)領域。