跳到主要內容
AI News HubLIVE
更多
站內改寫1 分鐘閱讀

Symbio:本地 AI 自我微調迴圈

文章摘要

Symbio 是一個本地執行的 AI 智慧體,能自動從使用者糾正和工具錯誤中提取訓練資料,並透過 LoRA 自我微調。支援 CLI、Telegram、技能學習、MOA 多智慧體協作,所有資料儲存在本地。

來源Hacker News AI作者: huyedit
Symbio:本地 AI 自我微調迴圈
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

Symbio 是一個本地執行的 AI 智慧體,它透過記錄使用者的糾正來持續自我微調,實現“無需雲端、無需訂閱”的個性化學習。專案以 GitHub 開源,提供互動式演示,其核心特點是能將從自然對話中捕捉到的錯誤自動轉化為訓練資料,最終透過 LoRA 微調更新模型引數,讓 AI 不再重複犯錯。

功能上,Symbio 支援透過本地 CLI 或 Telegram bot 對話,能夠以 Markdown 檔案儲存事實和筆記,在專案目錄內讀寫搜尋和修補檔案,執行沙盒化的 shell 命令和 Python 片段,並在配置後可檢查 IMAP/SMTP 郵件。每一輪對話都會持久化到 JSONL 和 SQLite 中。

Symbio 的一大特色是 MOA(Mixture of Agents)模式:一個大模型作為“校長”將任務拆解並委派給較小的工作模型。若工作模型失敗,可回到校長處獲得指導;成功後雙方都會儲存筆記。當同類錯誤超過閾值,工作模型和校長模型都會被微調,分別學會如何執行任務和更高效地委派任務。

技能(Skill)功能允許動態學習新技能。技能最初是帶有逐步說明的 Markdown 筆記;錯誤和糾正會記錄在隱藏的 sidecar 檔案中。一旦錯誤達到閾值,收集的樣本會用於 LoRA 微調,生成一個專用的“技能介面卡”(一個介面卡 = 一個技能)。這些介面卡支援熱插拔,閒置時可歸檔。

在糾正學習方面,Symbio 會自動檢測“不,我叫 Alice”這類糾正短語,提取原始問題、錯誤答案、使用者糾正和正確答案,儲存為 notes/mistakes/ 下的 Markdown 筆記。預設積累 5 個錯誤筆記後,系統會將它們消化為訓練資料並執行一次短 LoRA 更新,然後歸檔已使用的筆記並重新載入介面卡。類似地,工具呼叫失敗後立刻成功的情況也會被自動捕獲,作為另一條訓練樣本。

微調使用 Apple 的 MLX-LM 框架實現 LoRA。基礎模型權重保持凍結,只訓練小型介面卡矩陣。配置項包括 lora.rank、lora.num_layers、lora.scale、lora.dropout 等。為了確保微調不會悄悄破壞已有能力,每次 LoRA 更新後都會執行一個固定“黃金集”迴歸檢查。總體而言,Symbio 藉助持續自我修正和微調,將 AI 從“重複犯錯”中解放出來。

展開要點與分析

文章情報

工程師進階

要點

  • 自動檢測自然糾正並生成 LoRA 訓練資料,無需手動標註
  • MOA 模式:主模型將子任務委派給多個小模型,並根據失敗記錄微調雙方
  • 技能系統:以 Markdown 筆記起步,積累錯誤後建立專屬介面卡
  • 本地執行,所有資料儲存在本地,支援 CLI 和 Telegram

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。