跳到主要內容
AI News HubLIVE
站內改寫2 分鐘閱讀

面向軟件運維的大語言模型端到端構建框架

文章摘要

本文提出OpsLLM,一種面向軟件運維領域的專用大語言模型,支持基於知識的問答和根因分析。該框架引入了人工參與的數據篩選機制、監督微調以及用於強化學習的領域過程獎勵模型。實驗結果表明,在問答任務上性能提升0.2%-5.7%,在根因分析任務上提升2.7%-70.3%。將開源7B、14B和32B參數版本的模型及15K微調數據集。

來源arXiv Machine Learning作者: Jingkai He, Pengfei Chen, Chenghui Wu, Shuang Liang, Ye Li, Gou Tan, Xiadao Wen, Chuanfu Zhang
面向軟件運維的大語言模型端到端構建框架
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

在軟件運維領域,大語言模型(LLM)的應用正日益受到關注。然而,現有研究由於數據質量低下、知識碎片化以及學習不充分等問題,尚未能實現高效、有效的端到端智能運維。為了解決這些挑戰,研究人員提出了OpsLLM——一個專注於軟件運維的領域專用大語言模型,它同時支持基於知識的問答(QA)和根因分析(RCA)兩種關鍵任務。該研究詳細披露了構建軟件運維LLM的完整流程,為行業提供了一個可復現的框架。

OpsLLM的構建過程分為三個主要階段。首先,引入了一個人工參與的循環機制(Human-in-the-Loop),從大量運維原始數據中精心篩選出高質量的數據,並構建用於微調的數據集。這一步驟確保了模型訓練所使用的數據具有高相關性和準確性,避免了低質量數據對模型性能的負面影響。其次,基於篩選後的數據,研究人員進行了監督微調(Supervised Fine-Tuning),從而得到一個基礎模型。這一階段使模型能夠初步掌握運維領域的知識和模式。最後,在強化學習階段,研究團隊引入了一個領域過程獎勵模型(Domain Process Reward Model, DPRM),專門用於優化微調模型在根因分析任務上的準確性和可靠性。DPRM通過獎勵正確的分析過程,引導模型更有效地進行因果推理。

在實驗評估中,OpsLLM在多種難度的任務上進行了測試,涵蓋了不同複雜程度的問答和根因分析場景。結果表明,OpsLLM有效學習並與其注入的運維領域知識對齊,在問答任務上準確率提升範圍達到0.2%至5.7%,而在根因分析任務上提升更為顯著,達到2.7%至70.3%。這一提升幅度充分證明了OpsLLM在特定領域任務上的優越性。此外,該模型還展現出強大的可遷移性,意味着它能夠適應不同的運維環境和任務需求。

為了推動該領域的進一步發展,研究團隊計劃開源三個版本的OpsLLM,參數規模分別為7B、14B和32B,同時附帶一個包含15K條數據的微調數據集。這一舉措將極大地降低其他研究者和企業構建類似系統的門檻,促進軟件運維智能化的發展。OpsLLM的出現不僅為當前運維難題提供了有效的解決方案,也為未來更高級的智能運維繫統奠定了基礎。

展開要點與分析

文章情報

工程師進階

要點

  • OpsLLM是專為軟件運維設計的領域大語言模型,可處理問答和根因分析。
  • 框架包括人工參與數據篩選、監督微調和領域過程獎勵模型。
  • 在問答和根因分析任務上顯著優於現有開源和閉源模型。
  • 將開源三種規模(7B、14B、32B)的模型和15K微調數據集。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。