人工智能与国家安全——有些不对劲

最近，Anthropic的最强人工智能模型“Fable”因国家安全担忧被美国禁止出口，号称“过于强大以至于危险”。然而，本文作者保罗·布朗对此表示怀疑。他认为，这背后可能隐藏着更深层次的问题：AI公司的护城河远没有其估值所暗示的那么深，国家安全担忧的公开讨论可能对市场造成冲击，导致估值暴跌。

布朗作为一名在重工业领域实施AI的顾问，从自己的工作经验出发，提出了一个关键观点：AI公司的巨大估值主要基于它们能够抢占知识工作者经济（即可以通过远程工作完成的任务）的假设。但现实是，许多小型语言模型公司正在兴起，它们利用大公司的前沿模型来获取训练数据，从而构建自己的模型，而无需承担高昂的开发成本。具体来说，这些小公司向OpenAI或Anthropic的模型提问，支付少量费用获取答案，然后用这些答案来微调或训练自己的模型。这样一来，它们就避免了从零开始收集和验证数据的高昂成本。

这种现象引发了一个问题：如果小公司可以轻易地利用大公司的模型来提升自己的模型，那么大公司又如何能确保其市场主导地位呢？布朗认为，这直接威胁到AI公司的高估值，因为投资者可能高估了大模型的护城河。此外，他还指出，即使是最新的前沿模型，也并非不可替代；随着领域特定模型的发展，通用模型的价值可能会被稀释。

在国家安全方面，布朗提出了一种有趣的看法。他并不否认这些模型是当前最强大的，但他认为，真正的担忧可能不是模型本身的危害，而是竞争对手（如敌对国家的实体）会通过访问这些模型来获取知识，从而加强自己的AI能力，并避免承担开发成本。如果真是如此，那么更好的做法或许应该是监控这些模型的使用，而不是完全禁止出口。他还质疑了那些声称“未来模型将仅供政府使用”的观点，认为这可能会阻碍AI的发展，因为模型需要通过大量用户反馈来改进——而限制使用将切断这一关键数据来源。

最后，布朗注意到一些公司如SpaceX/xAI正在准备IPO，而OpenAI和Anthropic也可能在2025年9月或10月上市。他暗示，国家安全炒作的背后可能有资本运作的动机——通过营造“模型危险”的氛围来提升IPO前的估值，然后在市场高位套现。他强调自己并非在指控阴谋，只是观察到个体行为的集体效应往往会导致非理性的繁荣。

总之，这篇文章对AI行业的现状进行了尖锐的批评，指出了估值泡沫、训练数据获取模式以及国家安全讨论之间的潜在联系。布朗虽然坚信AI最终会改变知识经济，但他对当前的市场狂热持怀疑态度。