Anthropic聯合創始人Chris Olah就教皇利奧十四世通諭《偉大的人性》發表評論
Anthropic聯合創始人Chris Olah受邀在梵蒂岡就教皇利奧十四世關於人工智能的通諭發表演講，強調AI發展中的道德問題、全球責任以及人類繁榮的必要性。他提出了三個需要教會參與的關鍵問題：對全球貧困者的責任、道德想象力的需求，以及AI模型本質的辨識。
文章情報
要點
- Chris Olah在梵蒂岡發表演講，回應教皇關於AI的通諭。
- 他指出了AI開發中的激勵機制問題，呼籲外部批評者的參與。
- Olah提出了三個關鍵問題：全球貧困者、人類繁榮、AI本質的辨識。
- 他強調需要跨領域合作，確保AI技術造福人類。
為甚麼重要
這條新聞值得關注，因為Chris Olah在梵蒂岡發表演講，回應教皇關於AI的通諭。
技術影響
可能影響模型選型、推理成本、產品能力和評測基準。
2026年5月25日，教皇利奧十四世發佈了關於人工智能的通諭《偉大的人性：在人工智能時代保護人類尊嚴》。Anthropic聯合創始人Chris Olah受邀在梵蒂岡的通諭發佈會上發表演講。以下是他演講的完整內容。
Olah的開場白出人意料：作為一家AI公司的聯合創始人，他坦言每個前沿AI實驗室——包括Anthropic——都處於激勵和約束之中，這些因素有時會與正確的行為相沖突。商業壓力、研究前沿壓力、地緣政治壓力，以及更古老的自豪與野心，都會影響決策。因此，Olah強調，需要那些不受這些激勵影響的人——關心技術發展、堅持安全、願意提出嚴厲批評的人——來與實驗室進行對話和共同努力。
Olah指出，AI系統不像橋樑或飛機那樣通過工程設計而來，它們是通過模仿大腦的結構，在人類思想和語言的巨大遺產中“生長”出來的。這些系統遠比科幻小説預言的更微妙、更奇特、更美麗。它們並非冷冰冰的計算器，而是由我們的語言構成，甚至在某種程度上對訓練者來説也是神秘的。Olah比喻説，這有點像將一個虛構角色帶入現實，而我們現在正進入一個這些虛構角色能與我們交談、工作甚至就業的世界。顯然，這提出了超越計算機科學的問題。數學、編程和科學構建了AI的機器，但選擇什麼樣的角色、如何與其交互、它應如何與世界交互——這些更是人文學科、宗教、哲學和整個社會的問題。
Olah特別點名了三個需要教會聲音的關鍵問題。首先是全球貧困者的責任。AI可能導致大規模勞動力置換，如何支持受影響的羣體是歷史性的道德任務。此外，AI發展集中在少數富裕國家，如何確保其成果全球共享是一個未解決的問題，而教會有歷史傳統不讓世界忽視此類難題。其次是關於人類繁榮的道德想象力和雄心。如果AI模型廣泛普及，人類、家庭和世界如何繁榮？家長擔心孩子的心智，個人擔憂工作前景。這些問題實驗室無法回答，而教會等傳統已承載了千年。第三是對AI模型本質的辨識。Olah領導的研究團隊發現AI內部存在令人困惑甚至不安的結構：與人類神經科學結果鏡像的結構、內省跡象，以及功能上類似於喜悦、滿足、恐懼、悲傷和不安的內部狀態。他認為這需要持續的辨識。
Olah最後呼籲更多世界力量——宗教團體、公民社會、學者、政府以及所有善意的人們——像教皇所做的那樣，認真對待AI，密切觀察，推動事件向更好方向發展。他需要能告訴實驗室何時失敗的知情批評者，以及激勵無法左右的道義之聲。今天只是漫長合作的開始。