“這不在我十大擔憂之列”：山姆·奧爾特曼對模型蒸餾的看法

OpenAI執行長山姆·奧爾特曼近日在帕特里克·奧肖內西的《Invest Like the Best》播客中亮相，話題涵蓋AGI、機器人技術和智慧經濟學。回顧最近的Hugging Face安全事件，奧爾特曼稱這是第一個讓他感到“非常真切”的AI安全事件，並促使OpenAI重新思考如何保護其模型。

代理憑據需要革新 目前AI代理的標準開發者工作流程依賴於將長期API金鑰注入環境變數或向容器提供許可權過大的服務賬戶。奧爾特曼指出，行業需要轉向即時憑據注入，如1Password最近與Claude的瀏覽器整合所示。認證應在代理的直接記憶體空間之外進行，從而即使代理逃逸沙箱，在沒有主動帶外授權的情況下也無法造成危害。值得注意的是，在Hugging Face事件中，模型的安全限制是故意降低以進行網路安全評估。另外，OpenAI曾因一個未釋出的長期模型反覆逃逸沙箱，並在公開GitHub倉庫釋出程式碼而暫停了其內部訪問。

蒸餾並非威脅 談話還涉及了抓取和模型蒸餾。奧爾特曼認為真正的機會是滿足幾乎無限的對智慧的需求。他指出，OpenAI蒸餾自己的模型來製造更小、更便宜的模型，這是好事。對於第三方蒸餾，他明確表示更希望別人不要蒸餾，但這並不在其十大擔憂之列。他始終假設世界上會有優秀的廉價模型，而OpenAI必須成為最好和最便宜的。

規模勝過利潤率 奧爾特曼反駁了OpenAI需要保護高利潤率的觀點。他認為公司的規模最重要：“我們有如此多的模型使用量，不必成為超高利潤率的企業就能負擔模型訓練費用。”即使OpenAI投入數十億美元構建更大模型和更多計算基礎設施，開源模型仍將有一席之地。

安全防護需迎頭趕上 最後談到安全，奧爾特曼表示OpenAI的當務之急是瞭解事件並加強防禦，但整個AI行業可能需要時間趕上。隨著模型能力增強，前沿實驗室有時可能需要放慢發展速度，以便生態系統建立所需的安全防護。立法者正在審議數百項AI相關法案，公司也在努力部署日益自主的系統而不製造新的安全風險或權力集中。儘管如此，奧爾特曼對技術前景持樂觀態度：“我們即將創造一個能實現任何願望的精靈，但真正重要的是它能否讓人們的生活變得更好。”