微軟因資料保留問題限制員工使用Claude Fable
Anthropic釋出首個Mythos級AI模型Claude Fable 5後,微軟因新資料保留條款限制員工使用該模型。Claude Fable 5要求保留提示和輸出30天,違規內容可能保留兩年,引發微軟對客戶資料和機密資訊的擔憂。微軟已將模型提供給GitHub Copilot和Foundry客戶,但內部版本仍未啟用。
Anthropic公司昨日釋出了其首個Mythos級AI模型——Claude Fable 5,但微軟內部已對此產生擔憂。據訊息人士透露,由於Anthropic新的資料保留要求,微軟正在限制員工使用Claude Fable 5。
雖然微軟已迅速將Claude Fable 5提供給GitHub Copilot和Foundry客戶,但該模型並未出現在微軟員工用於內部版本GitHub Copilot的模型選擇器中。其他所有Claude模型在微軟內部仍可使用,因為它們遵循零資料保留(ZDR)規則。這意味著微軟員工在內部專案中使用其他Claude模型時,不會產生資料保留方面的法律風險。
據悉,微軟已告知員工,其法律團隊正在評估Anthropic資料保留條款的變化。主要擔憂涉及客戶資料和機密資訊,目前尚不確定微軟法律團隊是否會批准Claude Fable用於內部用途。這一評估過程可能需要數週時間,期間員工只能繼續使用舊版本的Claude模型。
Claude Fable 5需要資料保留才能執行Anthropic的新安全分類器,這意味著Anthropic會保留提示和輸出,並在30天后刪除這些資料。如果某些提示或輸出被標記為違反Anthropic的使用政策,它們甚至可能被儲存長達兩年,因此微軟在使用Claude Fable 5時存在法律顧慮。這些安全分類器是為了防止模型被用於惡意目的而設計的,但它們的運作方式卻與微軟等企業客戶的資料保護政策產生了衝突。
微軟拒絕置評。
Claude Fable 5是Anthropic的Mythos類AI模型的首個廣泛釋出,幾周前該公司曾表示該系列在網路安全任務上能力過強,不宜公開發布。Anthropic採取了提示安全措施以降低Fable 5的危險性,從而導致了這些具有挑戰性的資料保留變更。這一事件凸顯了AI安全與資料隱私之間的緊張關係,也反映出大型科技公司在採用先進AI技術時面臨的法律和合規挑戰。隨著AI模型的能力不斷增強,類似的資料保留問題可能會成為行業內的常見議題。
更新,6月10日:補充微軟拒絕置評。