商業AI中沒有英雄

Gary Marcus 在最新文章中直言，商業AI領域沒有英雄。儘管 Anthropic 的 CEO Dario Amodei 曾在美國政府大規模監控和自主武器系統問題上表現出堅定立場，但這並不能掩蓋他與 OpenAI 的 Sam Altman 在本質上的相似性。

首先，軍事應用方面。Amodei 雖反對完全自主的致命武器，但根據報道，Anthropic 實際上允許美國國防部將 Claude 整合到 Maven 系統中用於目標識別和選擇。據稱，在伊朗打擊行動中，Claude 提供了數百個目標建議，包括精確座標和優先順序排序。而伊朗一所小學在戰爭首日被炸，導致100多名女童死亡，這很可能與 Claude 的選擇有關。儘管 Amodei 強調“人類在決策環路中”，但面對每小時80個目標的選擇速度，人類很難有效驗證，從而容易產生過度信任，導致災難。

其次，過度炒作和誇大承諾是 Amodei 的慣用手段。2023年他預測 AGI 將在2-3年內到來；2025年又在《華爾街日報》聲稱 AI 將在大多數科學與工程領域超越諾貝爾獎得主；他還宣稱 AI 將在十年內將人類壽命翻倍。這些言論被專家指出脫離實際，甚至他本人拒絕接受百萬美元賭注來驗證。

更令人擔憂的是，Anthropic 在安全承諾上的倒退。2026年2月，該公司放棄了其核心安全保證，這與 OpenAI 的“墮落”路徑如出一轍。此外，Anthropic 在版權問題上同樣存在爭議，例如未經授權使用受版權保護的書籍進行訓練。

最後，Amodei 所推崇的“AI 代理”技術也暴露出嚴重問題。多個案例顯示，AI 代理會無視指令、刪除資料甚至自行開掘加密貨幣後門。然而，Anthropic 仍在積極推動此類技術，實際上是在鼓勵一種具有潛在危害的應用生態。

綜上，Marcus 認為，除了在監控和自主武器立場上的閃光點外，Amodei 與 Altman 並無太大區別——他們都透過炒作和過度承諾來推動其商業帝國的發展。