AI News HubLIVE
站内改写2 分钟阅读

主权AI:为何拥有全栈成为新的战略要务

主权AI——即拥有数据、模型和交互层——正成为各类组织(而不仅仅是国家)的战略要务。本文主张全栈控制,强调小型专用模型优于通用模型,并探讨了品牌一致性和合规性等障碍。领导者应视数据为主权资产,优先选择可组合的小模型,并拥有用户界面。

来源Hacker News AI作者: HardAnchor

人工智能已进入战略影响的新阶段,高管、政策制定者和中小企业主不能再将其视为后台技术决策。核心问题不再是一个组织是否使用AI,而是该组织实际拥有多少AI。

主权AI——端到端拥有数据、模型以及连接依赖它们的人们的交互层——正迅速从地缘政治讨论转变为董事会和主街的要求。

主权AI通常被视为国家关切,但这种框架不完整。促使国家拥有其AI堆栈的逻辑同样促使医院系统、区域银行、国防供应商和中等规模制造商采取相同行动。麦肯锡预测,到2030年,主权AI可能代表一个6000亿美元的市场;71%的高管现在将其视为“生存关切”或“战略要务”,而不仅仅是政策问题。

真正的所有权需要跨三个相互依赖层的控制:训练和告知系统的数据、在该数据上进行推理的模型、以及用户、代理和下游系统与输出交互的层。任何层的弱点都会抵消其他层的优势。本地托管但基于外国语料训练的模型不是主权的;专有数据集输入不透明的第三方API也不是主权的;经过治理但输出通过未经审计的消费者聊天界面的流程也不是主权的。

控制堆栈的人控制资产——中小企业(其专有数据是竞争护城河)面临与政府和受监管企业相同的风险。当数据流经他人的堆栈时,护城河属于他人。

另一个误解是主权需要匹配前沿实验室的规模。实际上,小型、领域专用模型在其构建的环境中的表现通常优于其通用对手,而计算、能源和资本成本仅为后者的一小部分。一个比大模型小四倍的模型,在基础设施极小的情况下,在决定企业能否面向客户、监管机构和媒体部署AI的关键维度上,性能高出超过60个百分点。规模更大并不更好,当更大意味着更不易审计、更不对齐、更不可控时。领域专用模型不需要外部护栏,因为对齐已训练到权重中,而非在推理时附加。它在组织拥有的基础设施上运行,组织仅支付其实际需要的能力。

两个障碍阻碍了大多数企业AI部署达到生产:品牌一致性和合规性。通用模型在面临恶意或诱导性问题时,往往会让步于机构绝不会让步的立场。机构训练的模型则不会,因为机构立场是其训练的一部分。受监管行业也无法部署推理路径无法审计、数据来源无法追踪、行为不受组织自身政策约束的系统。领域专用、本地部署、全栈模型是允许银行、医院、国防承包商或政府机构在审计中证明其决策所依据的情报是其自身拥有的唯一配置。

一篇题为《人工智能中的间断平衡:制度缩放定律与主权AI的物种形成》的论文被证明具有先见之明。作者认为AI并非通过平滑、单调的缩放进步,而是通过不连续的相变,其制度缩放定律形式化了从业者当前所见的:超过某个阈值后,原始能力与部署所需的制度信任会分道扬镳。从经验和数学上看,表现更优的是小型、领域适应模型的组合,其集体适应性在同一环境中超过任何前沿通用模型。

Klover.ai的CEO兼董事长Dany Kitishian表示,对共享AI模型的依赖正在结束,预计今年转向本地化主权AI系统将显著改变国际经济和影响力格局。Oracle CEO Safra Catz强调数字主权是“文化和经济上的必须”,认为随着AI重塑社会,组织必须能够在其境内甚至断开连接的环境中运行云解决方案以确保安全。

对于政府和行业的决策者,操作意义明确。主权AI应被视为一种架构而非单一采购。将数据视为主权资产;偏向小型、可组合、领域专用模型;拥有交互层。每个时代的数字化转型都定义于所有权问题:谁拥有网络?谁拥有平台?谁拥有数据?AI时代提出了迄今为止最尖锐的版本,因为智能一旦外包,是最难收回的资产。那些有意回答这个问题的组织——通过拥有全栈、偏爱专用模型而非通用依赖、将AI治理视为战略纪律——将定义下一个十年的竞争优势。那些不这样做的组织将发现自己逐渐依赖于无法控制且无法审计的智能。