跳到主要內容
AI News HubLIVE
更多
僅摘要

Trajectory 發佈用於持續學習的併發多 LoRA 訓練堆棧,實驗吞吐量提升 2.81 倍

Trajectory 與 UC Berkeley Sky Lab 和 Anyscale 合作,構建了一個用於持續學習的併發多 LoRA 訓練堆棧。它將每個 RL 實驗映射到常熱引擎上的專用 LoRA 適配器,報告端到端實驗吞吐量比單租户基線提升 2.81 倍,且獎勵無退化。代碼已在 NovaSky-AI/SkyRL 開源。

來源MarkTechPost作者: Michal Sutter
Trajectory 發佈用於持續學習的併發多 LoRA 訓練堆棧,實驗吞吐量提升 2.81 倍
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明

本文僅提供摘要

根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。

展開要點與分析

文章情報

工程師進階

要點

  • Trajectory 發佈併發多 LoRA 訓練堆棧 C-LoRA,實現 2.81 倍實驗吞吐量提升。
  • 該堆棧將每個實驗映射到常熱引擎上的專用 LoRA 適配器,通過 vLLM 多 LoRA 推理實現併發。
  • 在 Qwen3-4B 模型上測試,8 個併發實驗的最終實驗時間達到 5433 秒,比串行快 2.81 倍。
  • 所有訓練代碼已在 NovaSky-AI/SkyRL 開源,支持社區復現。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。