在軟體運維領域,大語言模型(LLM)的應用正日益受到關注。然而,現有研究由於資料質量低下、知識碎片化以及學習不充分等問題,尚未能實現高效、有效的端到端智慧運維。為了解決這些挑戰,研究人員提出了OpsLLM——一個專注於軟體運維的領域專用大語言模型,它同時支援基於知識的問答(QA)和根因分析(RCA)兩種關鍵任務。該研究詳細披露了構建軟體運維LLM的完整流程,為行業提供了一個可復現的框架。
OpsLLM的構建過程分為三個主要階段。首先,引入了一個人工參與的迴圈機制(Human-in-the-Loop),從大量運維原始資料中精心篩選出高質量的資料,並構建用於微調的資料集。這一步驟確保了模型訓練所使用的資料具有高相關性和準確性,避免了低質量資料對模型效能的負面影響。其次,基於篩選後的資料,研究人員進行了監督微調(Supervised Fine-Tuning),從而得到一個基礎模型。這一階段使模型能夠初步掌握運維領域的知識和模式。最後,在強化學習階段,研究團隊引入了一個領域過程獎勵模型(Domain Process Reward Model, DPRM),專門用於最佳化微調模型在根因分析任務上的準確性和可靠性。DPRM透過獎勵正確的分析過程,引導模型更有效地進行因果推理。
在實驗評估中,OpsLLM在多種難度的任務上進行了測試,涵蓋了不同複雜程度的問答和根因分析場景。結果表明,OpsLLM有效學習並與其注入的運維領域知識對齊,在問答任務上準確率提升範圍達到0.2%至5.7%,而在根因分析任務上提升更為顯著,達到2.7%至70.3%。這一提升幅度充分證明了OpsLLM在特定領域任務上的優越性。此外,該模型還展現出強大的可遷移性,意味著它能夠適應不同的運維環境和任務需求。
為了推動該領域的進一步發展,研究團隊計劃開源三個版本的OpsLLM,引數規模分別為7B、14B和32B,同時附帶一個包含15K條資料的微調資料集。這一舉措將極大地降低其他研究者和企業構建類似系統的門檻,促進軟體運維智慧化的發展。OpsLLM的出現不僅為當前運維難題提供了有效的解決方案,也為未來更高階的智慧運維繫統奠定了基礎。