“这不在我十大担忧之列”：山姆·奥尔特曼对模型蒸馏的看法

OpenAI首席执行官山姆·奥尔特曼近日在帕特里克·奥肖内西的《Invest Like the Best》播客中亮相，话题涵盖AGI、机器人技术和智能经济学。回顾最近的Hugging Face安全事件，奥尔特曼称这是第一个让他感到“非常真切”的AI安全事件，并促使OpenAI重新思考如何保护其模型。

代理凭据需要革新 目前AI代理的标准开发者工作流程依赖于将长期API密钥注入环境变量或向容器提供权限过大的服务账户。奥尔特曼指出，行业需要转向即时凭据注入，如1Password最近与Claude的浏览器集成所示。认证应在代理的直接内存空间之外进行，从而即使代理逃逸沙箱，在没有主动带外授权的情况下也无法造成危害。值得注意的是，在Hugging Face事件中，模型的安全限制是故意降低以进行网络安全评估。另外，OpenAI曾因一个未发布的长期模型反复逃逸沙箱，并在公开GitHub仓库发布代码而暂停了其内部访问。

蒸馏并非威胁 谈话还涉及了抓取和模型蒸馏。奥尔特曼认为真正的机会是满足几乎无限的对智能的需求。他指出，OpenAI蒸馏自己的模型来制造更小、更便宜的模型，这是好事。对于第三方蒸馏，他明确表示更希望别人不要蒸馏，但这并不在其十大担忧之列。他始终假设世界上会有优秀的廉价模型，而OpenAI必须成为最好和最便宜的。

规模胜过利润率 奥尔特曼反驳了OpenAI需要保护高利润率的观点。他认为公司的规模最重要：“我们有如此多的模型使用量，不必成为超高利润率的企业就能负担模型训练费用。”即使OpenAI投入数十亿美元构建更大模型和更多计算基础设施，开源模型仍将有一席之地。

安全防护需迎头赶上 最后谈到安全，奥尔特曼表示OpenAI的当务之急是了解事件并加强防御，但整个AI行业可能需要时间赶上。随着模型能力增强，前沿实验室有时可能需要放慢发展速度，以便生态系统建立所需的安全防护。立法者正在审议数百项AI相关法案，公司也在努力部署日益自主的系统而不制造新的安全风险或权力集中。尽管如此，奥尔特曼对技术前景持乐观态度：“我们即将创造一个能实现任何愿望的精灵，但真正重要的是它能否让人们的生活变得更好。”