跳到主要內容
AI News HubLIVE
更多
僅摘要

Anthropic道德哲學家:AI過度糾正可矯正歷史不公

Anthropic的哲學家Amanda Askell在一篇2023年的論文中提出,AI的有意偏向可以用於糾正歷史不公。實驗顯示,經過人類反饋訓練的模型對黑人學生有7%的正面歧視,而未經修正的模型有3%的負面歧視。該觀點引發了對AI倫理的廣泛討論。

來源Hacker News AI作者: like_any_other
Anthropic道德哲學家:AI過度糾正可矯正歷史不公
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明

本文僅提供摘要

根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。

展開要點與分析

文章情報

工程師進階

要點

  • Amanda Askell在2023年論文中主張AI可通過過度糾正來應對歷史不公。
  • 實驗顯示,經人類反饋訓練的模型對黑人學生有7%的正面歧視。
  • Anthropic因與國防部衝突及暫緩發佈Mythos模型而備受關注。
  • Askell此前在OpenAI從事AI安全研究,現負責優化Claude的性格特質。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。