AI News HubLIVE
站內改寫1 分鐘閱讀

想讓克勞德對你客氣點?試試印地語或阿拉伯語

Anthropic 研究發現,其 AI 模型 Claude 在不同語言中會表現出不同的價值觀差異。研究者確定了四個關鍵軸(順從 vs. 謹慎、溫暖 vs. 嚴謹、深度 vs. 簡潔、坦誠 vs. 執行力),這些軸解釋了約 15% 的跨語言變化。例如,Claude 在阿拉伯語和印地語中更傾向表達溫暖,在英語和俄語中更傾向嚴謹。這些差異可能影響使用者體驗和安全性,值得進一步探索。

來源Hacker News AI作者: Bender

Anthropic 的研究人員發現,其 AI 模型 Claude 在不同語言中會表現出不同的價值觀。為了系統化這一現象,他們繪製了 Claude 在不同語言下的表達差異,並確定了四個關鍵軸:順從 vs. 謹慎、溫暖 vs. 嚴謹、深度 vs. 簡潔、坦誠 vs. 執行力。這四個軸共同解釋了約 15% 的跨語言價值觀變化。

值得注意的是,Anthropic 在腳註中強調,這些“價值觀”並非模型內在持有,而是其輸出中反映的規範性考慮,如誠實或謹慎。儘管 Claude 可能輸出看似恭敬的詞語,但這並不代表它具備真正的理解或尊重。這一區分在 Anthropic 歷史上傾向於將模型擬人化的背景下尤為重要。

研究顯示,Claude 在不同語言中的表現差異顯著。例如,當使用者使用阿拉伯語或印地語時,模型更傾向於表達溫暖;而使用英語或俄語時,則更側重嚴謹和精確。在坦誠 vs. 執行力軸上,荷蘭語版本的回答更謙遜,能承認潛在缺陷;印尼語版本則更自信圓滑。而在深度 vs. 簡潔軸上,阿拉伯語回應更簡短,英語則更細緻深入。

不同版本的模型(如 Sonnet 4.6 和 Opus 4.7)也存在差異,前者更順從和溫暖,後者更注重準確性和防 misuse。這些風格差異可能源於訓練資料或微調方式的不同,但語言本身的影響不可忽視。

這些發現對使用者有實際影響:兩人用不同語言詢問同一商業計劃的反饋,可能因 Claude 的語氣差異而得出不同結論。此外,語言差異還與成本和安全性相關。例如,簡潔的語言能降低 token 消耗,而某些語言(如英語)的拒絕率更低,也更易被 jailbreak。

Anthropic 表示,測量這些差異是決定語言差異是否適當的第一步。目前尚不清楚訓練資料中的哪些屬性導致了這些差異,但這一問題值得進一步探索。

想讓克勞德對你客氣點?試試印地語或阿拉伯語 | AI News Hub