我的離線AI輔助Linux開發機
作者分享了2025年Linux開發機配置，從Fedora/KDE轉向Arch Linux和niri滾動瓦片式合成器，並實現完全離線的AI編碼輔助。機器使用華碩ROG Flow Z13（128GB統一內存），通過OpenCode和llama.cpp運行Qwen3.6 27B、Gemma 4 31B等本地模型，性能可觀。文章詳細介紹了硬件、系統、桌面環境、開發工具及本地AI工作流。
文章情報
要點
- 使用華碩ROG Flow Z13 2025款，128GB統一內存，支持本地大模型運行。
- 採用Arch Linux和niri滾動瓦片式合成器，搭配DMS桌面組件。
- 通過OpenCode和llama.cpp實現完全離線AI編碼輔助，模型包括Qwen3.6 27B和Gemma 4 31B。
- 本地模型在Radeon 8060S GPU上可達64 tokens/s以上，256k上下文。
為甚麼重要
這條新聞值得關注，因為使用華碩ROG Flow Z13 2025款，128GB統一內存，支持本地大模型運行。
技術影響
可能影響模型選型、推理成本、產品能力和評測基準。
作者曾於2019年和2021年分享過自己的Linux開發機配置。2025年，他的設備又有了巨大變化：從Fedora和KDE轉向近乎原版的Arch Linux，桌面環境也從傳統方案換成了niri——一個滾動瓦片式的Wayland合成器。更重要的是，他的工作流全面融入了AI，但這次追求的是完全離線運行在本地機器上的AI輔助開發。
硬件方面，作者選擇了華碩ROG Flow Z13 2025款。這款設備雖然外形像平板，但配備了AMD Ryzen AI Max+ 395處理器（16核32線程）、AMD Radeon 8060S集成GPU（40個計算單元）、128GB統一內存（64GB分配給GPU，64GB給CPU）以及2TB NVMe SSD。作者認為，內存是本地AI工作的關鍵，128GB統一內存使得運行本地編碼模型不再像科學實驗。
操作系統選用了Arch Linux，原因在於需要最新的內核、Mesa、ROCm相關庫以及Wayland工具，以便完美支持新硬件。作者還提到，Arch Linux讓他能輕鬆嘗試niri和Hyprland等新式合成器。他的安裝方案包括Btrfs文件系統、GRUB引導、paru包管理器、Timeshift快照、PipeWire音頻等，均屬常規但穩定。
桌面方面，作者使用niri作為窗口管理器，搭配DankMaterialShell（DMS）提供頂欄、啓動器、控制中心、通知、屏幕截圖等桌面組件。niri的工作方式獨特：窗口以列形式排列，用户可水平滾動，在超寬屏和筆記本上體驗極佳。作者還針對華碩設備修復了熱鍵、觸摸板、鍵盤背光等 quirks。
開發工具較為常規：Zsh+powerlevel10k終端，Kitty終端模擬器，Neovim（LazyVim）為主編輯器，輔以VS Code。工具鏈包括SDKMAN!、NVM、rustup、Bun等，DevOps工具則涵蓋Docker、kubectl、Terraform等。
本地AI輔助開發是本文亮點。作者搭建的全離線堆棧包括：OpenCode作為編碼代理，自定義編譯的llama.cpp（支持HIP/ROCm）提供OpenAI兼容API，以及LM Studio管理模型。模型方面主要使用Qwen3.6 27B和Gemma 4 31B的不同量化版本（從4bit到8bit）。作者提供了詳細的llama-bench基準測試數據：Qwen3.6 27B Q8_0在256k上下文下約64 tokens/s，佔用約70% GPU內存。通過一個腳本，作者可以快速啓動模型服務器，並指定上下文大小和推理模式。OpenCode配置指向本地API，實現完全離線的AI編碼循環。此外，作者還通過OpenRouter使用Kimi K2.6和DeepSeek V4 Pro作為雲端備份。
作者認為，擁有本地AI能力非常重要，尤其是在技術寡頭趨勢下，能保護代碼隱私和自主性。整個配置體現了對性能、自由度和離線能力的極致追求。