AI News HubLIVE
站內改寫1 分鐘閱讀

Claude Fable 5 反彈風波升級

使用者批評Anthropic的Claude Fable 5在7月1日重新發布後表現下降,認為其安全護欄過於嚴格。基準測試分數大幅下滑,但Anthropic堅稱模型未變,歸因於增強的安全分類器。

來源Hacker News AI作者: cybermango

Anthropic公司的旗艦AI模型Claude Fable 5在7月1日重新發布後,引發了使用者的強烈反彈。使用者普遍反映,新版模型的安全護欄過於嚴格,導致其編碼、除錯和代理效能大幅下降。基準測試機構BridgeMind在重新測試後報告稱,除錯得分從86.2跌至25.9,重構分數從73.6降至38.4,幻覺處理能力也從75.9下滑至61.7。這些數字的暴跌並非由於模型推理能力減弱,而是因為大量任務被阻止並轉至較舊的Opus 4.8模型,而轉接的任務得分為零。BridgeMind強調,Fable 5在執行完成的任務時仍保持了6月時的水平,並指出“模型沒有變差,它被關進了籠子。”

Anthropic在6月30日的宣告中為這一權衡進行了辯護。公司表示有意擴大了安全邊際,新的分類器會阻止那些可能無害的請求。Amazon的研究人員報告稱,改進後的過濾器在超過99%的嘗試中阻止了特定的繞過技術。然而,Anthropic也承認,過濾器比以往更多地標記了合法的編碼和除錯工作。被阻止的請求將被路由到Opus 4.8,使用者會收到通知。此外,Anthropic自己的測試顯示,Fable 5並未帶來獨特風險,競爭對手模型如GPT-5.5和Kimi K2.7也能識別相同漏洞。美國商務部研究人員測試了兩種安全版本,認為它們異常強大。

這一事件的影響超出了單一產品週期。Fable 5的暫停促使歐洲向Anthropic示好,同時中國AI模型正在追趕美國的前沿實驗室。Anthropic正在與亞馬遜、微軟和谷歌共同起草一個“越獄嚴重性框架”。安全分類器能否迅速減少誤報,將決定高階使用者是留下還是離開。時間線顯示,Anthropic於6月9日推出Fable 5,三天後華盛頓將其下架,6月30日解除了出口管制,隨後重新開放。恢復後的訪問也有限制:Fable 5在7月7日前僅使用每週使用上限的50%,之後轉為付費使用積分。