我的离线AI辅助Linux开发机
作者分享了2025年Linux开发机配置,从Fedora/KDE转向Arch Linux和niri滚动瓦片式合成器,并实现完全离线的AI编码辅助。机器使用华硕ROG Flow Z13(128GB统一内存),通过OpenCode和llama.cpp运行Qwen3.6 27B、Gemma 4 31B等本地模型,性能可观。文章详细介绍了硬件、系统、桌面环境、开发工具及本地AI工作流。
文章情报
要点
- 使用华硕ROG Flow Z13 2025款,128GB统一内存,支持本地大模型运行。
- 采用Arch Linux和niri滚动瓦片式合成器,搭配DMS桌面组件。
- 通过OpenCode和llama.cpp实现完全离线AI编码辅助,模型包括Qwen3.6 27B和Gemma 4 31B。
- 本地模型在Radeon 8060S GPU上可达64 tokens/s以上,256k上下文。
为什么重要
这条新闻值得关注,因为使用华硕ROG Flow Z13 2025款,128GB统一内存,支持本地大模型运行。
技术影响
可能影响模型选型、推理成本、产品能力和评测基准。
作者曾于2019年和2021年分享过自己的Linux开发机配置。2025年,他的设备又有了巨大变化:从Fedora和KDE转向近乎原版的Arch Linux,桌面环境也从传统方案换成了niri——一个滚动瓦片式的Wayland合成器。更重要的是,他的工作流全面融入了AI,但这次追求的是完全离线运行在本地机器上的AI辅助开发。
硬件方面,作者选择了华硕ROG Flow Z13 2025款。这款设备虽然外形像平板,但配备了AMD Ryzen AI Max+ 395处理器(16核32线程)、AMD Radeon 8060S集成GPU(40个计算单元)、128GB统一内存(64GB分配给GPU,64GB给CPU)以及2TB NVMe SSD。作者认为,内存是本地AI工作的关键,128GB统一内存使得运行本地编码模型不再像科学实验。
操作系统选用了Arch Linux,原因在于需要最新的内核、Mesa、ROCm相关库以及Wayland工具,以便完美支持新硬件。作者还提到,Arch Linux让他能轻松尝试niri和Hyprland等新式合成器。他的安装方案包括Btrfs文件系统、GRUB引导、paru包管理器、Timeshift快照、PipeWire音频等,均属常规但稳定。
桌面方面,作者使用niri作为窗口管理器,搭配DankMaterialShell(DMS)提供顶栏、启动器、控制中心、通知、屏幕截图等桌面组件。niri的工作方式独特:窗口以列形式排列,用户可水平滚动,在超宽屏和笔记本上体验极佳。作者还针对华硕设备修复了热键、触摸板、键盘背光等 quirks。
开发工具较为常规:Zsh+powerlevel10k终端,Kitty终端模拟器,Neovim(LazyVim)为主编辑器,辅以VS Code。工具链包括SDKMAN!、NVM、rustup、Bun等,DevOps工具则涵盖Docker、kubectl、Terraform等。
本地AI辅助开发是本文亮点。作者搭建的全离线堆栈包括:OpenCode作为编码代理,自定义编译的llama.cpp(支持HIP/ROCm)提供OpenAI兼容API,以及LM Studio管理模型。模型方面主要使用Qwen3.6 27B和Gemma 4 31B的不同量化版本(从4bit到8bit)。作者提供了详细的llama-bench基准测试数据:Qwen3.6 27B Q8_0在256k上下文下约64 tokens/s,占用约70% GPU内存。通过一个脚本,作者可以快速启动模型服务器,并指定上下文大小和推理模式。OpenCode配置指向本地API,实现完全离线的AI编码循环。此外,作者还通过OpenRouter使用Kimi K2.6和DeepSeek V4 Pro作为云端备份。
作者认为,拥有本地AI能力非常重要,尤其是在技术寡头趋势下,能保护代码隐私和自主性。整个配置体现了对性能、自由度和离线能力的极致追求。