本地Qwen并非更差的Opus，而是一种不同的工具
本文作者作为一名小型软件企业的创始人，分享了使用本地模型的真实经验。他指出，虽然本地模型如Qwen在基准测试上落后于前沿模型，但在隐私、固定成本和供应商风险规避方面具有独特价值。同时，作者也坦诚地讨论了本地模型的局限性，如无限循环和幻觉问题，并告诫不要将其用于无监督的长期任务。
我们常听到人们说，本地运行的Qwen 27B或35-A3B模型“接近Opus水准”，但本文作者、一家小型软件企业的创始人Alex Ellis，用来自实际业务和开源项目的真实数据，坦诚地分享了真相。
本文并非匆匆一瞥，也不是在X上关于“取消Claude Max”的未经证实的主张，更不是出自一位在飞机上发推文的知名CEO之手。它是一位创始人对自己旅程的回顾：本地模型在小型软件企业中确实产生了价值，但也伴随着诸多限制。作者坦言，他既没有推广云模型也没有推广本地模型的动机，而是真心希望本地模型能变得强大可靠。
作者所在的团队维护着多个开源项目，如OpenFaaS、SlicerVM、Actuated和Inlets。这些产品依赖于Linux底层原语，如容器、Kubernetes、Firecracker微VM和网络协议，旨在提供高效、可控和自立的用户体验。项目代码以Go语言编写，部分带有React UI组件。
作者从AI工具早期便开始使用，从VS Code的代码补全到ChatGPT生成代码，再到如今已习惯使用Claude或Codex完成大部分编码工作。他开发了Superterm工具来管理终端会话和与编码代理的交互。
转折点出现在2025年11月至2026年1月间，Claude Opus的能力大幅提升，许多开发者开始全程依赖它。但作者认为，前沿模型的高昂成本（约每月200美元）和供应商风险（如Anthropic突然撤下模型）促使他探索本地模型。
本地模型的优势在于隐私、固定成本和规避供应商风险。作者的企业非常重视数据主权，他们的产品设计也贯彻了这一理念。然而，本地模型并非没有缺陷。作者用锻造刀具的淬火过程作比喻：本地模型如同淬火过度的刀刃，稍不留神就会陷入无限循环，变得不可靠。他绝不会让Qwen 3.6 27B在无监督下长期工作。
在实际使用中，作者发现本地模型在受指导的小型任务上表现良好，但无法像Claude那样长时间无监督工作并取得实质性进展。例如，Claude可以自主分析问题、编写代码并测试，而Qwen则可能因幻觉或循环而偏离轨道。因此，作者强调本地模型是“不同的工具”，适用于需要隐私、固定成本和离线运行的场景，而非全面替代前沿模型。
最后，作者总结道：在2026年的新前沿，任何想法都可能被他人迅速复制。因此，选择适合自己的工具至关重要。本地模型为那些重视控制和自主权的用户提供了另一种选择，但必须认识到其局限性，并在受控环境中使用。