反對“倫理AI”
本文批判了以Anthropic為代表的“倫理AI”運動，認為其建立在一個未經證實的假設上：AI發展不可阻擋但可以引導向善。實際上，倫理AI既未能重塑認知習慣，也未能引導AI走向人道，反而充當了非倫理AI的受控反對派。文章通過分析Anthropic聯合創始人Jack Clark的“世界構建”敍事，揭示了倫理AI的內在矛盾：聲稱無力減緩AI發展，卻自信能控制其後果。
Esther Berry 在本文中激烈批判了以 Anthropic 為代表的“倫理AI”運動。她指出，倫理AI表面上提供了一條中間道路——既不盲目擁抱AI，也不簡單反對——但實際上卻建立在一個未經證實的核心假設之上：儘管無法減緩AI的發展，卻可以將其引導至有益的方向。作者認為，倫理AI在實踐中既未能重建“認知衞生”，也未能真正引導AI走向人道，反而充當了“非倫理AI”的受控反對派，為其提供了合法性。
文章通過拆解 Anthropic 聯合創始人 Jack Clark 的言論，揭示了倫理AI與科幻敍事的內在聯繫。Clark 在牛津的“爐邊談話”中明確將AI發展描述為“世界構建項目”，並給出了從2026年到2028年的具體預測：AI自主管理生活、改變職業、生成定製科幻小説、甚至幫助實現概念突破。他堅信進步是“鎖定”的，未來將出現機器經濟、機器人化、空間計算等“令人困惑的奇蹟”。這種敍事本質上是技術樂觀主義的延伸，但倫理AI在此之上添加了一個關鍵變體：進步不可避免，但其善惡完全取決於人類——具體地説，取決於 Anthropic 及其支持者。
作者質疑這一敍事的內在一致性。她指出，聲稱無力減緩AI發展（甚至連減緩都做不到），卻又宣稱能夠確保AI被用於善途，這在邏輯上是矛盾的。減緩AI發展儘管困難，但比控制一個擁有超級智能、身體和獨立經濟體的機器軍隊要容易得多。她引用 Ted Chiang 的觀點，批評 Anthropic 在道德地位問題上的雙重標準：他們希望人們相信大語言模型是道德主體，可以通過編程變得有道德，但同時否認它們是道德客體，即無需擔心對它們的奴役或傷害。
最後，作者認為倫理AI的敍事實際上是一種“世界構建”，通過賦予自身巨大的未來影響力，同時推卸當下的責任。它讓 Anthropic 既是不可阻擋的進步的推動者，又是唯一能拯救人類的救世主。這種敍事雖然迷人，但極不可信。真正的挑戰在於，我們是否應該接受這種“進步不可阻擋”的前提，還是應該質疑這一前提，重新審視人類在技術發展中的自主權。