電信運營商正在越來越多地將其人工智慧戰略建立在開放模型之上,而背後的原因遠不止成本。開放模型使運營商能夠在最關鍵的工作負載中——從自治網路到客戶服務——信任、控制和定製AI。NVIDIA最新的《電信行業AI現狀》報告反映了這一轉變:89%的受訪者表示,開源模型和軟體對公司的AI戰略很重要。
對運營商而言,開放模型的戰略價值體現在五個方面。首先,它們以更低的成本擴充套件了對前沿級智慧的獲取,使運營商能將封閉模型保留在價值最高的場景。獨立基準如Artificial Analysis Intelligence Index v4.3.2顯示,領先的開放模型在推理、程式設計、科學和智慧體等工作負載上正變得更具競爭力。其次,開放權重和訓練配方支援電信專屬定製,運營商可利用網路、客戶和行業資料微調模型。第三,開放模型透過提高模型工件和行為的可見性與控制力,實現可信AI,使模型能夠按照法規和業務政策進行評估、調整和治理。第四,它們支援靈活、安全的部署:團隊可以最佳化開放模型的規模,使其在公有云、私有基礎設施和邊緣環境中執行。第五,透過託管和微調開放模型,運營商有機會為企業與政府客戶提供本地化適配的AI服務。
NVIDIA的Nemotron系列開放模型為智慧體工作流提供前沿推理效能,並具備語音應用能力,同時公開權重、訓練資料和配方。SoftBank Corp.展示了運營商如何以開放模型為基礎開發並持續提升其電信專屬AI能力。SoftBank Corp.首席研究員、SB Telecom America高階副總裁Rajeev Koodli表示:“開放模型讓SoftBank Corp.能夠在全球基礎模型的快速進展之上,應用我們多年積累的網路知識和運營經驗。我們廣泛使用開放基礎模型,包括NVIDIA Nemotron等,來開發我們的SoftBank Large Telecom Model,並針對網路運營、設計及整體管理等電信用例持續改進。”
此外,NVIDIA正與合作伙伴協作,將開放模型轉化為電信AI的實用構建模組。NVIDIA釋出了300億引數的Nemotron 3 Large Telco Model(LTM),由AdaptKey在開源電信資料集上微調,以提高電信特定任務的準確性。這為運營商提供了一個開放基線,能夠理解電信行業術語,並有效推理網路配置、客戶事件分診等電信運營工作流。為幫助運營商用自身運營資料定製Nemotron 3 LTM及其他開放模型,NVIDIA釋出了完整配方,介紹了使用NVIDIA NeMo開源庫將開放模型適配到運營商特定網路、客戶和流程的端到端微調流程。
開放模型是關鍵的構建模組,但要將自治電信運營安全地投入生產,僅靠模型還不夠。對AT&T而言,模型選擇的價值在於按照業務優先順序將這種靈活性投入運營。AT&T首席資料與AI官Andy Markus表示:“在AT&T,我們相信AI的未來不是選擇單一模型,而是智慧地將每個工作負載匹配到效能、成本和控制的正確組合。開放模型對這種方法至關重要,藉助NVIDIA,我們可以將這種模型選擇策略以業務所需的規模、可靠性和治理投入生產。”運營商需要管道來準備和保護資料,透過匿名化敏感記錄和生成隱私保護合成資料集來進行模型微調。他們還需要一個平臺,將開放模型轉化為受治理的自治智慧體工作流。NVIDIA提供由NVIDIA AI Enterprise軟體和NVIDIA Agent Toolkit驅動的端到端平臺,涵蓋資料管道、開放模型、智慧體編排、安全執行時和模擬。藉助在該平臺各層構建的強大合作伙伴生態,電信運營商擁有清晰路徑,將開放模型的優勢轉化為生產就緒的AI工作流。
隨著電信運營商建設與國家AI戰略一致的AI基礎設施,開放模型為他們提供了基礎,以提供適應當地語言、行業、法規和資料治理要求的AI服務。各國運營商可針對本地語言和行業需求微調開放模型,並在其可信平臺上託管開放模型,供客戶直接使用或基於自身資料和應用進行構建。對印度尼西亞最大電信運營商之一Indosat Ooredoo Hutchison而言,這意味著透過其Sahabat-AI開源模型系列,構建反映該國語言和文化的AI。Indosat Ooredoo Hutchison首席資料與AI官Chirag Sukhadia表示:“對印度尼西亞這樣的國家,開放模型的價值不僅在於獲得強大的AI,還在於將這種智慧適配到我們自己的語言、文化、資料和現實需求。Sahabat-AI將這一點付諸實踐,以開放模型為基礎構建理解印度尼西亞的AI,並可開發本地應用。這使我們不僅能採用AI,還能圍繞它構建能力,讓更多印度尼西亞人按自己的方式用AI創造。”瞭解更多關於NVIDIA電信技術的資訊。