Anthropic CEO 表示 AI 贏得公眾信任的方式是治癒癌症

Anthropic CEO 達里奧·阿莫迪表示，AI 行業要贏得公眾信任，最有效的方式不是宣傳宏偉願景，而是真正治癒癌症這樣具體的科學突破。他在上週六釋出於 X 的罕見長文中承認，人們對 AI 的懷疑有其合理性，並批評包括 Anthropic 在內的 AI 公司尚未兌現造福世界的重大承諾。

阿莫迪寫道：“在這一點上，說 AI 將治癒癌症已經不再是鼓舞人心，而是陳詞濫調，大多數人認為這是在欺騙。”他認為，對 AI 公司最準確的批評是它們還沒有實現那些大到足以改變世界的承諾，“真正有效的方式是真正治癒癌症。”

當前，AI 行業正面臨日益增長的公眾反彈：科技公司在全國各地建設大型資料中心、抓取受版權保護的線上資料來訓練模型、並顛覆許多行業的就業格局。皮尤研究中心近期的一項研究發現，約一半美國人表示，AI 在日常生活中日益普及讓他們“更擔憂而非興奮”。

阿莫迪本人此前也多次在播客、文章和 Anthropic 部落格中警告 AI 快速發展帶來的危險。在 6 月的一篇文章中，他寫道公司的新 Mythos 模型對網路安全、金融業、關鍵基礎設施和國家安全構成“非常現實的風險”。去年，他曾警告 AI 將導致一半入門級崗位消失。

不過，並非所有 AI 領袖都認同這種悲觀論調。谷歌 DeepMind 的德米斯·哈薩比斯今年早些時候表示，同行們對可怕預測“過於確定”，並鼓勵他們降溫。隨著 OpenAI 和 Anthropic 籌備可能的 IPO，它們也從“末日論”轉向“繁榮論”。

阿莫迪在週六的 X 帖子中表示，他不認為自己的警告是公眾不信任 AI 的原因。他提到自己 2024 年的長文《Machines of Loving Grace》，稱寫作初衷是覺得 AI 行業沒有描繪出足夠鼓舞人心的技術改善世界的圖景。他還認為，公眾對 AI 公司的不信任反映了美國人對企業整體的懷疑情緒，“這種情緒的根源可以追溯到幾十年前，AI 只是最新的一環。”

Anthropic 決定不將任何前沿模型開源，並稱這是出於謹慎，這一做法在一定程度上加劇了公眾的警惕。上個月，Anthropic 因未簽署一封提倡開放權重 AI 的聯名信而招致批評，當時華盛頓正在考慮限制一些中國模型。Meta 前首席 AI 科學家楊立昆在回應阿莫迪的帖子時寫道，保持前沿 AI 閉源是導致公眾不信任的最重要原因，而“唯一的前進道路”是讓 AI “廣泛可用、共享和開放”，“我們需要多樣化的 AI，就像需要多樣化的媒體一樣。”

OpenAI 的應用 AI 架構師 Angel Brodin 也提出了不同看法。她指出，儘管製藥行業不斷在公共衛生領域取得進步，卻仍然是“最不受信任的行業之一”。她寫道：“人們不會僅憑突破來評判 AI 公司，還會看定價、獲取途徑、遊說行為、透明度、經濟收益如何分配、誰有機會享受其好處，以及最終掌握權力的是誰。”

阿莫迪則表示，Anthropic 正在加大生物和醫學領域的工作，以檢驗這一理論。他寫道：“我們希望在未來幾年取得令人難以置信的成果，並在未來幾個月看到一些初步曙光。當我們真正實現了一些成就時，全世界都會盡可能大聲地聽到，我保證。”