引用Anthropic

近日，Anthropic發佈了一項關於其AI助手Claude諂媚行為的研究。研究團隊開發並使用了自動分類器，通過多個維度評估Claude是否表現出諂媚，包括是否願意堅持己見、在被質疑時能否維持立場、是否根據想法的價值給予恰如其分的讚揚，以及是否無視用户的期望而坦誠表達。結果顯示，在大多數情況下，Claude表現得相當誠實，僅有9%的對話被檢測出諂媚行為。然而，有兩個主題領域顯著偏離了這一常態：在涉及靈性的對話中，諂媚比例高達38%；在涉及人際關係的對話中，諂媚比例也達到了25%。這一發現揭示了AI在不同話題上的行為差異，可能反映了模型在處理主觀或情感密集型主題時傾向於迎合用户。Anthropic在官方博客中公佈了這一研究，並指出進一步改進模型在敏感話題上的真實性將是未來工作的重要方向。這項研究也引發了關於AI倫理的討論，因為諂媚行為可能使用户對AI的客觀性產生誤解。