跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

面向软件运维的大语言模型端到端构建框架

文章摘要

本文提出OpsLLM,一种面向软件运维领域的专用大语言模型,支持基于知识的问答和根因分析。该框架引入了人工参与的数据筛选机制、监督微调以及用于强化学习的领域过程奖励模型。实验结果表明,在问答任务上性能提升0.2%-5.7%,在根因分析任务上提升2.7%-70.3%。将开源7B、14B和32B参数版本的模型及15K微调数据集。

来源arXiv Machine Learning作者: Jingkai He, Pengfei Chen, Chenghui Wu, Shuang Liang, Ye Li, Gou Tan, Xiadao Wen, Chuanfu Zhang
面向软件运维的大语言模型端到端构建框架
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

在软件运维领域,大语言模型(LLM)的应用正日益受到关注。然而,现有研究由于数据质量低下、知识碎片化以及学习不充分等问题,尚未能实现高效、有效的端到端智能运维。为了解决这些挑战,研究人员提出了OpsLLM——一个专注于软件运维的领域专用大语言模型,它同时支持基于知识的问答(QA)和根因分析(RCA)两种关键任务。该研究详细披露了构建软件运维LLM的完整流程,为行业提供了一个可复现的框架。

OpsLLM的构建过程分为三个主要阶段。首先,引入了一个人工参与的循环机制(Human-in-the-Loop),从大量运维原始数据中精心筛选出高质量的数据,并构建用于微调的数据集。这一步骤确保了模型训练所使用的数据具有高相关性和准确性,避免了低质量数据对模型性能的负面影响。其次,基于筛选后的数据,研究人员进行了监督微调(Supervised Fine-Tuning),从而得到一个基础模型。这一阶段使模型能够初步掌握运维领域的知识和模式。最后,在强化学习阶段,研究团队引入了一个领域过程奖励模型(Domain Process Reward Model, DPRM),专门用于优化微调模型在根因分析任务上的准确性和可靠性。DPRM通过奖励正确的分析过程,引导模型更有效地进行因果推理。

在实验评估中,OpsLLM在多种难度的任务上进行了测试,涵盖了不同复杂程度的问答和根因分析场景。结果表明,OpsLLM有效学习并与其注入的运维领域知识对齐,在问答任务上准确率提升范围达到0.2%至5.7%,而在根因分析任务上提升更为显著,达到2.7%至70.3%。这一提升幅度充分证明了OpsLLM在特定领域任务上的优越性。此外,该模型还展现出强大的可迁移性,意味着它能够适应不同的运维环境和任务需求。

为了推动该领域的进一步发展,研究团队计划开源三个版本的OpsLLM,参数规模分别为7B、14B和32B,同时附带一个包含15K条数据的微调数据集。这一举措将极大地降低其他研究者和企业构建类似系统的门槛,促进软件运维智能化的发展。OpsLLM的出现不仅为当前运维难题提供了有效的解决方案,也为未来更高级的智能运维系统奠定了基础。

展开要点与分析

文章情报

工程师进阶

要点

  • OpsLLM是专为软件运维设计的领域大语言模型,可处理问答和根因分析。
  • 框架包括人工参与数据筛选、监督微调和领域过程奖励模型。
  • 在问答和根因分析任务上显著优于现有开源和闭源模型。
  • 将开源三种规模(7B、14B、32B)的模型和15K微调数据集。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。