AI News HubLIVE
站内改写3 分钟阅读

AI的下一个时代:基础设施比模型更重要

文章认为AI在企业的应用正从实验转向生产,面临碎片化、成本不透明和治理差距等挑战。Mozilla推出开源控制平面Otari,旨在提供跨模型的管理、成本可见性和治理能力,让组织真正掌控AI基础设施。

来源Hacker News AI作者: royapakzad

在企业AI的演进过程中,我们看到了一个清晰的脉络。2022年秋天,全球经济面临衰退预期,IT预算冻结。但ChatGPT在2022年11月30日的横空出世,让企业高管们第一次直观感受到了生成式AI的力量。他们被震撼了,于是解冻了IT预算,专门用于GenAI实验项目。

2023年,大量实验项目涌现,但到了2024年,90%的项目被证明没有前景而被淘汰,剩下的10%开始通过治理、风险与合规(GRC)审核,准备部署。2025年,这些应用进入生产环境,并伴随不同程度的护栏、成本追踪和ROI度量。2026年,内部和外部对GenAI的使用爆发式增长,年度预算在数月内被消耗殆尽,数据主权和系统所有权的担忧也随之而来。

实验是廉价的,只需一个API密钥即可开始。但生产环境完全不同,需要可靠性、可审计性和规模化的成本控制。可能还需要对地理位置、本地计算和模型所有权的硬性约束。这正是Mozilla创建Otari的原因——并非模型不够好,而是组织层面管理这些模型的基础设施尚未存在。

过去两年最重要的变化并非模型能力的提升,尽管模型确实进步巨大。真正的变革在于采用速度。AI生产环境已从少数技术公司扩展到各行各业的数千个团队,随之而来的是未曾预料的问题。首先是碎片化:大多数团队不只用一种模型,而是几十种。即使被称为“OpenAI商店”,团队也会同时使用GPT-5.5、-5.4、-5.4-mini、-5.4-nano以及部署后未再触碰的遗留模型,每个都有不同的API、定价、延迟和速率限制。灵活性变成了运营混乱。

其次是成本不透明。AI推理成本非线性增长,一个每月200美元的测试功能在生产中可能变成2万美元。随着VC对token的补贴逐渐消失,真正的token成本变得更加清晰,但大多数团队直到收到账单才发现自己需要支付多少。跨提供商缺乏原生工具来提前预警。

第三是治理缺口。随着AI进入金融、医疗、法律、教育等监管行业,“哪个模型在何时对谁说了什么、为什么”成为合规要求。全球范围内的主权AI讨论进一步增加了复杂性,而当前的基础设施对此束手无策。

多提供商管理的实际复杂性如下:产品团队向三四个模型提供商路由,每个提供商有多个模型,还临时搭建本地解决方案。他们为中断构建了自定义故障转移逻辑,用电子表格追踪成本。工程师凭直觉和不完整数据手动调整模型处理请求的类型。这并非可持续的架构。

问题不在于团队做错了什么,而是工具尚未跟上。当云计算成熟时,组织不再手动管理服务器,而是采用抽象复杂性的平台。AI正处于同样的转折点。模型是计算资源,而缺失的是上层的控制层。

成本可见性是一个战略问题。大多数组织将AI基础设施视为成本中心,但真正的问题不是“花了多少钱”,而是“是否以最低成本获得了所需成果,并且我们是否知道?”当前大多数团队无法回答第二个问题。他们无法跨提供商比较单位成本,无法实时看到哪些路由消耗了不成比例的预算,也无法设定自动执行的策略。

控制是新的护城河。过去几年团队竞争的是使用的模型,但这一优势正在消失。模型正在商品化,顶级模型之间的边际差异在缩小,从高性能到能在树莓派上运行的模型都有多个竞争选项。下一层竞争是运营层面的:谁能以可靠、经济、安全的方式大规模部署AI?这取决于基础设施。

控制意味着智能路由请求,考虑成本、能力、延迟和合规;实时观察AI在做什么;在组织层面设定策略并一致执行;无需重写应用层即可切换提供商。控制意味着像成熟的工程学科一样运营AI。

Mozilla始终相信一个开放、去中心化、符合公共利益且由公众治理的互联网。当审视AI基础设施的发展方向时,他们看到了熟悉的模式:权力集中在少数提供商手中,多数组织依赖无法检查、修改或控制的不透明系统。Otari正是对此的回应:一个开源的LLM控制平面,提供可见性、治理和灵活性,让组织能够按照自己的方式运营AI。开源是出于善意,也是必要的分销渠道,对于医疗、教育、国防、金融和政务等关键行业,锁定是不可接受的。

代理(Agent)时代已经到来。下一个架构转变不是模型发布,而是代理管理系统——协调数十或数百个AI代理并行工作,每个都会调用模型、产生成本、接触需要治理的数据。规模化管理的复杂性远超当前基础设施的能力。这一差距构成了一个新的类别,一个每个严肃AI部署都需要的基石。现在就对控制进行工具化的组织将获得不断积累的运营优势。

Otari旨在成为那个控制平面,开源让社区共同塑造这个类别,也让最需要的组织能够真正采用它。医疗系统、公共机构、金融机构、市政基础设施不能依赖黑盒供应商。行业领袖们已经指出了这一点:ServiceNow的Amit Zavery说“每个客户在考虑AI采用和代理时,都担心控制”;Michael Dell指出云提供弹性扩展,“但无法承诺在敏感企业数据上实现成本可预测的代理AI”;Palantir的Alex Karp强调“技术客户想要控制他们的计算、模型、数据栈和阿尔法,他们想拥有生产资料”。最重要的机构和企业需要拥有自己的技术栈,Otari是朝这个方向迈出的一步。

AI的未来不仅仅是哪个模型胜出,而是谁控制模型之上的层。我们认为这种控制应该属于每一个人。