本地Qwen並非更差的Opus，而是一種不同的工具
本文作者作為一名小型軟件企業的創始人，分享了使用本地模型的真實經驗。他指出，雖然本地模型如Qwen在基準測試上落後於前沿模型，但在隱私、固定成本和供應商風險規避方面具有獨特價值。同時，作者也坦誠地討論了本地模型的侷限性，如無限循環和幻覺問題，並告誡不要將其用於無監督的長期任務。
我們常聽到人們説，本地運行的Qwen 27B或35-A3B模型“接近Opus水準”，但本文作者、一家小型軟件企業的創始人Alex Ellis，用來自實際業務和開源項目的真實數據，坦誠地分享了真相。
本文並非匆匆一瞥，也不是在X上關於“取消Claude Max”的未經證實的主張，更不是出自一位在飛機上發推文的知名CEO之手。它是一位創始人對自己旅程的回顧：本地模型在小型軟件企業中確實產生了價值，但也伴隨着諸多限制。作者坦言，他既沒有推廣雲模型也沒有推廣本地模型的動機，而是真心希望本地模型能變得強大可靠。
作者所在的團隊維護着多個開源項目，如OpenFaaS、SlicerVM、Actuated和Inlets。這些產品依賴於Linux底層原語，如容器、Kubernetes、Firecracker微VM和網絡協議，旨在提供高效、可控和自立的用户體驗。項目代碼以Go語言編寫，部分帶有React UI組件。
作者從AI工具早期便開始使用，從VS Code的代碼補全到ChatGPT生成代碼，再到如今已習慣使用Claude或Codex完成大部分編碼工作。他開發了Superterm工具來管理終端會話和與編碼代理的交互。
轉折點出現在2025年11月至2026年1月間，Claude Opus的能力大幅提升，許多開發者開始全程依賴它。但作者認為，前沿模型的高昂成本（約每月200美元）和供應商風險（如Anthropic突然撤下模型）促使他探索本地模型。
本地模型的優勢在於隱私、固定成本和規避供應商風險。作者的企業非常重視數據主權，他們的產品設計也貫徹了這一理念。然而，本地模型並非沒有缺陷。作者用鍛造刀具的淬火過程作比喻：本地模型如同淬火過度的刀刃，稍不留神就會陷入無限循環，變得不可靠。他絕不會讓Qwen 3.6 27B在無監督下長期工作。
在實際使用中，作者發現本地模型在受指導的小型任務上表現良好，但無法像Claude那樣長時間無監督工作並取得實質性進展。例如，Claude可以自主分析問題、編寫代碼並測試，而Qwen則可能因幻覺或循環而偏離軌道。因此，作者強調本地模型是“不同的工具”，適用於需要隱私、固定成本和離線運行的場景，而非全面替代前沿模型。
最後，作者總結道：在2026年的新前沿，任何想法都可能被他人迅速複製。因此，選擇適合自己的工具至關重要。本地模型為那些重視控制和自主權的用户提供了另一種選擇，但必須認識到其侷限性，並在受控環境中使用。