跳到主要内容
AI News HubLIVE
站内改写3 分钟阅读

电信运营商为何将AI战略建立在开放模型之上

文章摘要

电信运营商正日益基于开放模型构建AI战略,原因不仅是成本,更关乎信任、控制和定制化。NVIDIA报告显示89%的受访者认为开源模型和软件对其AI战略重要。SoftBank、AT&T和Indosat等运营商正利用开放模型推进电信专用AI、本地创新和生产工作流。

来源NVIDIA Blog作者: Kanika Atri
电信运营商为何将AI战略建立在开放模型之上
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

电信运营商正在越来越多地将其人工智能战略建立在开放模型之上,而背后的原因远不止成本。开放模型使运营商能够在最关键的工作负载中——从自治网络到客户服务——信任、控制和定制AI。NVIDIA最新的《电信行业AI现状》报告反映了这一转变:89%的受访者表示,开源模型和软件对公司的AI战略很重要。

对运营商而言,开放模型的战略价值体现在五个方面。首先,它们以更低的成本扩展了对前沿级智能的获取,使运营商能将封闭模型保留在价值最高的场景。独立基准如Artificial Analysis Intelligence Index v4.3.2显示,领先的开放模型在推理、编程、科学和智能体等工作负载上正变得更具竞争力。其次,开放权重和训练配方支持电信专属定制,运营商可利用网络、客户和行业数据微调模型。第三,开放模型通过提高模型工件和行为的可见性与控制力,实现可信AI,使模型能够按照法规和业务政策进行评估、调整和治理。第四,它们支持灵活、安全的部署:团队可以优化开放模型的规模,使其在公有云、私有基础设施和边缘环境中运行。第五,通过托管和微调开放模型,运营商有机会为企业与政府客户提供本地化适配的AI服务。

NVIDIA的Nemotron系列开放模型为智能体工作流提供前沿推理性能,并具备语音应用能力,同时公开权重、训练数据和配方。SoftBank Corp.展示了运营商如何以开放模型为基础开发并持续提升其电信专属AI能力。SoftBank Corp.首席研究员、SB Telecom America高级副总裁Rajeev Koodli表示:“开放模型让SoftBank Corp.能够在全球基础模型的快速进展之上,应用我们多年积累的网络知识和运营经验。我们广泛使用开放基础模型,包括NVIDIA Nemotron等,来开发我们的SoftBank Large Telecom Model,并针对网络运营、设计及整体管理等电信用例持续改进。”

此外,NVIDIA正与合作伙伴协作,将开放模型转化为电信AI的实用构建模块。NVIDIA发布了300亿参数的Nemotron 3 Large Telco Model(LTM),由AdaptKey在开源电信数据集上微调,以提高电信特定任务的准确性。这为运营商提供了一个开放基线,能够理解电信行业术语,并有效推理网络配置、客户事件分诊等电信运营工作流。为帮助运营商用自身运营数据定制Nemotron 3 LTM及其他开放模型,NVIDIA发布了完整配方,介绍了使用NVIDIA NeMo开源库将开放模型适配到运营商特定网络、客户和流程的端到端微调流程。

开放模型是关键的构建模块,但要将自治电信运营安全地投入生产,仅靠模型还不够。对AT&T而言,模型选择的价值在于按照业务优先级将这种灵活性投入运营。AT&T首席数据与AI官Andy Markus表示:“在AT&T,我们相信AI的未来不是选择单一模型,而是智能地将每个工作负载匹配到性能、成本和控制的正确组合。开放模型对这种方法至关重要,借助NVIDIA,我们可以将这种模型选择策略以业务所需的规模、可靠性和治理投入生产。”运营商需要管道来准备和保护数据,通过匿名化敏感记录和生成隐私保护合成数据集来进行模型微调。他们还需要一个平台,将开放模型转化为受治理的自治智能体工作流。NVIDIA提供由NVIDIA AI Enterprise软件和NVIDIA Agent Toolkit驱动的端到端平台,涵盖数据管道、开放模型、智能体编排、安全运行时和仿真。借助在该平台各层构建的强大合作伙伴生态,电信运营商拥有清晰路径,将开放模型的优势转化为生产就绪的AI工作流。

随着电信运营商建设与国家AI战略一致的AI基础设施,开放模型为他们提供了基础,以提供适应当地语言、行业、法规和数据治理要求的AI服务。各国运营商可针对本地语言和行业需求微调开放模型,并在其可信平台上托管开放模型,供客户直接使用或基于自身数据和应用进行构建。对印度尼西亚最大电信运营商之一Indosat Ooredoo Hutchison而言,这意味着通过其Sahabat-AI开源模型系列,构建反映该国语言和文化的AI。Indosat Ooredoo Hutchison首席数据与AI官Chirag Sukhadia表示:“对印度尼西亚这样的国家,开放模型的价值不仅在于获得强大的AI,还在于将这种智能适配到我们自己的语言、文化、数据和现实需求。Sahabat-AI将这一点付诸实践,以开放模型为基础构建理解印度尼西亚的AI,并可开发本地应用。这使我们不仅能采用AI,还能围绕它构建能力,让更多印度尼西亚人按自己的方式用AI创造。”了解更多关于NVIDIA电信技术的信息。

展开要点与分析

文章情报

工程师中级

要点

  • NVIDIA报告显示,89%的电信受访者认为开源模型和软件对其公司AI战略重要。
  • 开放模型让运营商能用自身网络和客户数据定制AI,灵活部署于云、私有设施和边缘,并提供本地化服务。
  • NVIDIA Nemotron系列(包括由AdaptKey微调的300亿参数Nemotron 3 LTM)为电信任务提供开放基线,并发布了基于NeMo的完整微调配方。
  • SoftBank、AT&T、Indosat等运营商正将开放模型应用于电信专用、生产就绪和本地相关的AI。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。