跳到主要內容
AI News HubLIVE
更多
站內改寫1 分鐘閱讀

Claude Fable 5 反彈風波升級

文章摘要

用户批評Anthropic的Claude Fable 5在7月1日重新發布後表現下降,認為其安全護欄過於嚴格。基準測試分數大幅下滑,但Anthropic堅稱模型未變,歸因於增強的安全分類器。

來源Hacker News AI作者: cybermango
Claude Fable 5 反彈風波升級
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

Anthropic公司的旗艦AI模型Claude Fable 5在7月1日重新發布後,引發了用户的強烈反彈。用户普遍反映,新版模型的安全護欄過於嚴格,導致其編碼、調試和代理性能大幅下降。基準測試機構BridgeMind在重新測試後報告稱,調試得分從86.2跌至25.9,重構分數從73.6降至38.4,幻覺處理能力也從75.9下滑至61.7。這些數字的暴跌並非由於模型推理能力減弱,而是因為大量任務被阻止並轉至較舊的Opus 4.8模型,而轉接的任務得分為零。BridgeMind強調,Fable 5在執行完成的任務時仍保持了6月時的水平,並指出“模型沒有變差,它被關進了籠子。”

Anthropic在6月30日的聲明中為這一權衡進行了辯護。公司表示有意擴大了安全邊際,新的分類器會阻止那些可能無害的請求。Amazon的研究人員報告稱,改進後的過濾器在超過99%的嘗試中阻止了特定的繞過技術。然而,Anthropic也承認,過濾器比以往更多地標記了合法的編碼和調試工作。被阻止的請求將被路由到Opus 4.8,用户會收到通知。此外,Anthropic自己的測試顯示,Fable 5並未帶來獨特風險,競爭對手模型如GPT-5.5和Kimi K2.7也能識別相同漏洞。美國商務部研究人員測試了兩種安全版本,認為它們異常強大。

這一事件的影響超出了單一產品週期。Fable 5的暫停促使歐洲向Anthropic示好,同時中國AI模型正在追趕美國的前沿實驗室。Anthropic正在與亞馬遜、微軟和谷歌共同起草一個“越獄嚴重性框架”。安全分類器能否迅速減少誤報,將決定高端用户是留下還是離開。時間線顯示,Anthropic於6月9日推出Fable 5,三天後華盛頓將其下架,6月30日解除了出口管制,隨後重新開放。恢復後的訪問也有限制:Fable 5在7月7日前僅使用每週使用上限的50%,之後轉為付費使用積分。

展開要點與分析

文章情報

工程師進階

要點

  • BridgeMind基準測試顯示,重新發布後調試得分從86.2降至25.9。
  • Anthropic聲稱核心模型未變,分數下降是由於任務被阻止並轉至Opus 4.8。
  • 公司有意擴大安全邊際,導致對合法編碼請求的誤報增加。
  • 停用事件促使歐洲向Anthropic示好,同時中國AI模型進展迅速。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。