人工智能與國家安全——有些不對勁

最近，Anthropic的最強人工智能模型“Fable”因國家安全擔憂被美國禁止出口，號稱“過於強大以至於危險”。然而，本文作者保羅·布朗對此表示懷疑。他認為，這背後可能隱藏着更深層次的問題：AI公司的護城河遠沒有其估值所暗示的那麼深，國家安全擔憂的公開討論可能對市場造成衝擊，導致估值暴跌。

布朗作為一名在重工業領域實施AI的顧問，從自己的工作經驗出發，提出了一個關鍵觀點：AI公司的巨大估值主要基於它們能夠搶佔知識工作者經濟（即可以通過遠程工作完成的任務）的假設。但現實是，許多小型語言模型公司正在興起，它們利用大公司的前沿模型來獲取訓練數據，從而構建自己的模型，而無需承擔高昂的開發成本。具體來説，這些小公司向OpenAI或Anthropic的模型提問，支付少量費用獲取答案，然後用這些答案來微調或訓練自己的模型。這樣一來，它們就避免了從零開始收集和驗證數據的高昂成本。

這種現象引發了一個問題：如果小公司可以輕易地利用大公司的模型來提升自己的模型，那麼大公司又如何能確保其市場主導地位呢？布朗認為，這直接威脅到AI公司的高估值，因為投資者可能高估了大模型的護城河。此外，他還指出，即使是最新的前沿模型，也並非不可替代；隨着領域特定模型的發展，通用模型的價值可能會被稀釋。

在國家安全方面，布朗提出了一種有趣的看法。他並不否認這些模型是當前最強大的，但他認為，真正的擔憂可能不是模型本身的危害，而是競爭對手（如敵對國家的實體）會通過訪問這些模型來獲取知識，從而加強自己的AI能力，並避免承擔開發成本。如果真是如此，那麼更好的做法或許應該是監控這些模型的使用，而不是完全禁止出口。他還質疑了那些聲稱“未來模型將僅供政府使用”的觀點，認為這可能會阻礙AI的發展，因為模型需要通過大量用户反饋來改進——而限制使用將切斷這一關鍵數據來源。

最後，布朗注意到一些公司如SpaceX/xAI正在準備IPO，而OpenAI和Anthropic也可能在2025年9月或10月上市。他暗示，國家安全炒作的背後可能有資本運作的動機——通過營造“模型危險”的氛圍來提升IPO前的估值，然後在市場高位套現。他強調自己並非在指控陰謀，只是觀察到個體行為的集體效應往往會導致非理性的繁榮。

總之，這篇文章對AI行業的現狀進行了尖鋭的批評，指出了估值泡沫、訓練數據獲取模式以及國家安全討論之間的潛在聯繫。布朗雖然堅信AI最終會改變知識經濟，但他對當前的市場狂熱持懷疑態度。