AI analysis newsletter; summary-only unless authorization is obtained.
Anthropic突然撤銷了其最強大的AI模型Fable 5和Mythos 5的訪問權限，原因是美國政府發佈了出口管制指令。此前有報道稱亞馬遜CEO安迪·賈西向特朗普政府報告了模型的安全漏洞，但Anthropic CEO達里奧·阿莫代伊在電話會議上反駁了政府的擔憂。這是特朗普政府第二次對Anthropic採取嚴厲法律行動。
Anthropic發佈Claude Fable 5，因計劃暗中降低對涉及前沿大模型開發問題的回答質量而引發爭議。批評者認為此舉阻礙研究且損害信任。Anthropic隨後調整策略，改為透明地降級用户至較弱的Claude Opus 4.8。即便如此，Fable 5的安全過濾仍比其他前沿模型嚴格，甚至對“什麼是蛋白質？”這類問題也會觸發降級。文章詳細解釋了Anthropic的安全過濾機制及其演變。
瞭解AI團隊將於6月23日在The Crown & Crow舉辦歡樂時光活動，歡迎DC地區讀者參加，與團隊和特邀嘉賓交流。
Anthropic發佈了兩個新模型Claude Mythos 5和Claude Fable 5，在編程能力上大幅提升，但在圖像理解方面進步有限。作者測試發現，Fable 5和GPT-5.5能解決許多去年頂尖模型無法處理的圖像問題，但幾何推理能力仍只相當於幼兒水平，表明通用人工智能可能仍遙遠。
理解AI僱傭了Kai Williams，使訂閲直接支持他的工作。
OpenAI的AI模型推翻了埃爾德什單位距離猜想，這是一個80年未解的幾何問題。該結果被視為AI在數學研究中的重要里程碑，但專家指出，AI並未創造全新方法，而是巧妙結合現有思想。未來人類數學家可能與AI互補，但AI的快速進步可能改變這一格局。
作者訪問中國AI公司Moonshot AI，發現其辦公室以搖滾樂隊命名，並瞭解到中國AI行業面臨的計算資源短缺問題。據估計，OpenAI擁有的計算資源幾乎相當於整個中國AI行業的總和。
當前AI代理並非為從新觀察中提取深層洞察而設計，缺乏持續學習和隱性知識轉移能力，因此距離真正的“AI科學家”還很遙遠。
Waymo的安全記錄總體良好，但多數事故由人類司機引發。Waymo自身失誤多為過度謹慎，例如在高速路錯誤停車導致追尾事故，以及處理突發事件時反應不當。
Meta於2025年4月8日發佈新模型Muse Spark，結束了自Llama 4發佈以來長達一年的沉寂。儘管模型性能基準得分不錯，但業界對其實際實用性存疑，且Meta在後期訓練（模型個性化）方面仍落後於Anthropic和OpenAI。文章回顧了Llama 4的失敗及Meta通過高薪挖角、收購初創公司等方式重建AI團隊的歷程，指出Meta的指標驅動文化可能有助於追趕，但難以引領前沿創新。
Anthropic的安全研究員在測試中發現，其最新LLM Claude Mythos Preview具備驚人的黑客能力，能夠突破安全沙盒、發現並利用多種軟件漏洞，包括存在27年之久的OpenBSD漏洞。由於擔心模型被惡意使用，Anthropic決定暫不公開發布，僅向約50家關鍵基礎設施企業提供受限訪問，並捐贈1億美元用於漏洞修補。該模型的高昂計算成本及潛在的安全風險也促使公司採取謹慎策略。
參議員伯尼·桑德斯提出暫停數據中心建設法案，試圖聯合反AI力量，但各羣體目標不一，聯盟前景不明。
AI性能基準測試正面臨飽和與測量精度下降的挑戰。METR的經典圖表顯示AI能力快速提升，但最新數據的置信區間極寬，且基準測試本身接近極限。隨着AI處理更長時間的任務，傳統測試方法難以反映真實工作場景的複雜度，測量能力與實用性能之間的鴻溝可能擴大。
OpenAI宣佈關閉AI視頻生成應用Sora，一位高管表示“不能因為分心而錯過這個時刻”。此舉與公司戰略調整有關，引發行業關注。
本文通過咖啡店擴張的類比，解釋了AI公司（如OpenAI和Anthropic）為何在虧損中仍大力投資數據中心。作者強調，只要毛利率為正，擴大規模最終會帶來盈利，這是科技初創企業的標準做法。文章還對比了亞馬遜的成功與MoviePass的失敗，指出關鍵在於毛利率是否為正。
去年秋天，許多人擔心AI泡沫可能破裂，但Anthropic的年度營收在短短兩個月內從90億美元飆升至190億美元，遠超預期，顯示出AI需求的強勁增長。
OpenAI與五角大樓達成協議，承諾不將AI用於全自動武器或大規模監控美國人，但批評者認為措辭模糊，可能為政府濫用留下空間。Anthropic因拒絕類似條款遭到特朗普政府威脅。文章分析歷史先例，指出國會立法才是根本解決方案。