Anthropic CEO警告開源AI正走向“非常危險的道路”
Anthropic CEO Dario Amodei向立法者表示，開源AI正沿著一條“非常危險的道路”發展，一旦強大模型被公開，公司便無法監控濫用或撤銷訪問許可權。
近日，Anthropic公司的執行長Dario Amodei向立法者發出嚴厲警告，稱開源人工智慧正沿著一條“非常危險的道路”發展。Amodei指出，一旦功能強大的AI模型被公開發布，開發這些模型的公司將失去對模型使用情況的監控能力，也無法在發現濫用行為時撤銷使用者的訪問許可權。這種失控狀態可能導致AI技術被惡意利用，帶來嚴重的社會和安全風險。
Amodei的言論反映了業界對開源AI潛在風險的日益擔憂。儘管開源模式促進了技術創新和民主化，但缺乏有效的監管機制可能使AI系統成為不法分子的工具。他呼籲立法者認真考慮開源AI的監管框架，以確保技術進步不會以犧牲安全為代價。目前，關於如何平衡開放性與安全性的討論仍在繼續。