跳到主要内容
AI News HubLIVE
更多
仅摘要

Trajectory 发布用于持续学习的并发多 LoRA 训练堆栈,实验吞吐量提升 2.81 倍

Trajectory 与 UC Berkeley Sky Lab 和 Anyscale 合作,构建了一个用于持续学习的并发多 LoRA 训练堆栈。它将每个 RL 实验映射到常热引擎上的专用 LoRA 适配器,报告端到端实验吞吐量比单租户基线提升 2.81 倍,且奖励无退化。代码已在 NovaSky-AI/SkyRL 开源。

来源MarkTechPost作者: Michal Sutter
Trajectory 发布用于持续学习的并发多 LoRA 训练堆栈,实验吞吐量提升 2.81 倍
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明

本文仅提供摘要

根据来源内容权限,本站仅提供编辑摘要、要点和原文链接。

展开要点与分析

文章情报

工程师进阶

要点

  • Trajectory 发布并发多 LoRA 训练堆栈 C-LoRA,实现 2.81 倍实验吞吐量提升。
  • 该堆栈将每个实验映射到常热引擎上的专用 LoRA 适配器,通过 vLLM 多 LoRA 推理实现并发。
  • 在 Qwen3-4B 模型上测试,8 个并发实验的最终实验时间达到 5433 秒,比串行快 2.81 倍。
  • 所有训练代码已在 NovaSky-AI/SkyRL 开源,支持社区复现。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。