AI News HubLIVE
站內改寫3 分鐘閱讀

AI的下一個時代:基礎設施比模型更重要

文章認為AI在企業的應用正從實驗轉向生產,面臨碎片化、成本不透明和治理差距等挑戰。Mozilla推出開源控制平面Otari,旨在提供跨模型的管理、成本可見性和治理能力,讓組織真正掌控AI基礎設施。

來源Hacker News AI作者: royapakzad

在企業AI的演進過程中,我們看到了一個清晰的脈絡。2022年秋天,全球經濟面臨衰退預期,IT預算凍結。但ChatGPT在2022年11月30日的橫空出世,讓企業高管們第一次直觀感受到了生成式AI的力量。他們被震撼了,於是解凍了IT預算,專門用於GenAI實驗專案。

2023年,大量實驗專案湧現,但到了2024年,90%的專案被證明沒有前景而被淘汰,剩下的10%開始透過治理、風險與合規(GRC)稽核,準備部署。2025年,這些應用進入生產環境,並伴隨不同程度的護欄、成本追蹤和ROI度量。2026年,內部和外部對GenAI的使用爆發式增長,年度預算在數月內被消耗殆盡,資料主權和系統所有權的擔憂也隨之而來。

實驗是廉價的,只需一個API金鑰即可開始。但生產環境完全不同,需要可靠性、可審計性和規模化的成本控制。可能還需要對地理位置、本地計算和模型所有權的硬性約束。這正是Mozilla建立Otari的原因——並非模型不夠好,而是組織層面管理這些模型的基礎設施尚未存在。

過去兩年最重要的變化並非模型能力的提升,儘管模型確實進步巨大。真正的變革在於採用速度。AI生產環境已從少數技術公司擴充套件到各行各業的數千個團隊,隨之而來的是未曾預料的問題。首先是碎片化:大多數團隊不只用一種模型,而是幾十種。即使被稱為“OpenAI商店”,團隊也會同時使用GPT-5.5、-5.4、-5.4-mini、-5.4-nano以及部署後未再觸碰的遺留模型,每個都有不同的API、定價、延遲和速率限制。靈活性變成了運營混亂。

其次是成本不透明。AI推理成本非線性增長,一個每月200美元的測試功能在生產中可能變成2萬美元。隨著VC對token的補貼逐漸消失,真正的token成本變得更加清晰,但大多數團隊直到收到賬單才發現自己需要支付多少。跨提供商缺乏原生工具來提前預警。

第三是治理缺口。隨著AI進入金融、醫療、法律、教育等監管行業,“哪個模型在何時對誰說了什麼、為什麼”成為合規要求。全球範圍內的主權AI討論進一步增加了複雜性,而當前的基礎設施對此束手無策。

多提供商管理的實際複雜性如下:產品團隊向三四個模型提供商路由,每個提供商有多個模型,還臨時搭建本地解決方案。他們為中斷構建了自定義故障轉移邏輯,用電子表格追蹤成本。工程師憑直覺和不完整資料手動調整模型處理請求的型別。這並非可持續的架構。

問題不在於團隊做錯了什麼,而是工具尚未跟上。當雲端計算成熟時,組織不再手動管理伺服器,而是採用抽象複雜性的平臺。AI正處於同樣的轉折點。模型是計算資源,而缺失的是上層的控制層。

成本可見性是一個戰略問題。大多陣列織將AI基礎設施視為成本中心,但真正的問題不是“花了多少錢”,而是“是否以最低成本獲得了所需成果,並且我們是否知道?”當前大多數團隊無法回答第二個問題。他們無法跨提供商比較單位成本,無法即時看到哪些路由消耗了不成比例的預算,也無法設定自動執行的策略。

控制是新的護城河。過去幾年團隊競爭的是使用的模型,但這一優勢正在消失。模型正在商品化,頂級模型之間的邊際差異在縮小,從高效能到能在樹莓派上執行的模型都有多個競爭選項。下一層競爭是運營層面的:誰能以可靠、經濟、安全的方式大規模部署AI?這取決於基礎設施。

控制意味著智慧路由請求,考慮成本、能力、延遲和合規;即時觀察AI在做什麼;在組織層面設定策略並一致執行;無需重寫應用層即可切換提供商。控制意味著像成熟的工程學科一樣運營AI。

Mozilla始終相信一個開放、去中心化、符合公共利益且由公眾治理的網際網路。當審視AI基礎設施的發展方向時,他們看到了熟悉的模式:權力集中在少數提供商手中,多陣列織依賴無法檢查、修改或控制的不透明系統。Otari正是對此的回應:一個開源的LLM控制平面,提供可見性、治理和靈活性,讓組織能夠按照自己的方式運營AI。開源是出於善意,也是必要的分銷渠道,對於醫療、教育、國防、金融和政務等關鍵行業,鎖定是不可接受的。

代理(Agent)時代已經到來。下一個架構轉變不是模型釋出,而是代理管理系統——協調數十或數百個AI代理並行工作,每個都會呼叫模型、產生成本、接觸需要治理的資料。規模化管理的複雜性遠超當前基礎設施的能力。這一差距構成了一個新的類別,一個每個嚴肅AI部署都需要的基石。現在就對控制進行工具化的組織將獲得不斷積累的運營優勢。

Otari旨在成為那個控制平面,開源讓社群共同塑造這個類別,也讓最需要的組織能夠真正採用它。醫療系統、公共機構、金融機構、市政基礎設施不能依賴黑盒供應商。行業領袖們已經指出了這一點:ServiceNow的Amit Zavery說“每個客戶在考慮AI採用和代理時,都擔心控制”;Michael Dell指出雲提供彈性擴充套件,“但無法承諾在敏感企業資料上實現成本可預測的代理AI”;Palantir的Alex Karp強調“技術客戶想要控制他們的計算、模型、資料棧和阿爾法,他們想擁有生產資料”。最重要的機構和企業需要擁有自己的技術棧,Otari是朝這個方向邁出的一步。

AI的未來不僅僅是哪個模型勝出,而是誰控制模型之上的層。我們認為這種控制應該屬於每一個人。