AI News HubLIVE
站内改写

我的離線AI輔助Linux開發機

作者分享了2025年Linux開發機配置,從Fedora/KDE轉向Arch Linux和niri滾動瓦片式合成器,並實現完全離線的AI編碼輔助。機器使用華碩ROG Flow Z13(128GB統一記憶體),透過OpenCode和llama.cpp執行Qwen3.6 27B、Gemma 4 31B等本地模型,效能可觀。文章詳細介紹了硬體、系統、桌面環境、開發工具及本地AI工作流。

文章情報

工程師進階

要點

  • 使用華碩ROG Flow Z13 2025款,128GB統一記憶體,支援本地大模型執行。
  • 採用Arch Linux和niri滾動瓦片式合成器,搭配DMS桌面元件。
  • 透過OpenCode和llama.cpp實現完全離線AI編碼輔助,模型包括Qwen3.6 27B和Gemma 4 31B。
  • 本地模型在Radeon 8060S GPU上可達64 tokens/s以上,256k上下文。

為什麼重要

這條新聞值得關注,因為使用華碩ROG Flow Z13 2025款,128GB統一記憶體,支援本地大模型執行。

技術影響

可能影響模型選型、推理成本、產品能力和評測基準。

作者曾於2019年和2021年分享過自己的Linux開發機配置。2025年,他的裝置又有了巨大變化:從Fedora和KDE轉向近乎原版的Arch Linux,桌面環境也從傳統方案換成了niri——一個滾動瓦片式的Wayland合成器。更重要的是,他的工作流全面融入了AI,但這次追求的是完全離線執行在本地機器上的AI輔助開發。

硬體方面,作者選擇了華碩ROG Flow Z13 2025款。這款裝置雖然外形像平板,但配備了AMD Ryzen AI Max+ 395處理器(16核32執行緒)、AMD Radeon 8060S整合GPU(40個計算單元)、128GB統一記憶體(64GB分配給GPU,64GB給CPU)以及2TB NVMe SSD。作者認為,記憶體是本地AI工作的關鍵,128GB統一記憶體使得執行本地編碼模型不再像科學實驗。

作業系統選用了Arch Linux,原因在於需要最新的核心、Mesa、ROCm相關庫以及Wayland工具,以便完美支援新硬體。作者還提到,Arch Linux讓他能輕鬆嘗試niri和Hyprland等新式合成器。他的安裝方案包括Btrfs檔案系統、GRUB引導、paru包管理器、Timeshift快照、PipeWire音訊等,均屬常規但穩定。

桌面方面,作者使用niri作為視窗管理器,搭配DankMaterialShell(DMS)提供頂欄、啟動器、控制中心、通知、螢幕截圖等桌面元件。niri的工作方式獨特:視窗以列形式排列,使用者可水平滾動,在超寬屏和筆記本上體驗極佳。作者還針對華碩裝置修復了熱鍵、觸控板、鍵盤背光等 quirks。

開發工具較為常規:Zsh+powerlevel10k終端,Kitty終端模擬器,Neovim(LazyVim)為主編輯器,輔以VS Code。工具鏈包括SDKMAN!、NVM、rustup、Bun等,DevOps工具則涵蓋Docker、kubectl、Terraform等。

本地AI輔助開發是本文亮點。作者搭建的全離線堆疊包括:OpenCode作為編碼代理,自定義編譯的llama.cpp(支援HIP/ROCm)提供OpenAI相容API,以及LM Studio管理模型。模型方面主要使用Qwen3.6 27B和Gemma 4 31B的不同量化版本(從4bit到8bit)。作者提供了詳細的llama-bench基準測試資料:Qwen3.6 27B Q8_0在256k上下文下約64 tokens/s,佔用約70% GPU記憶體。透過一個指令碼,作者可以快速啟動模型伺服器,並指定上下文大小和推理模式。OpenCode配置指向本地API,實現完全離線的AI編碼迴圈。此外,作者還透過OpenRouter使用Kimi K2.6和DeepSeek V4 Pro作為雲端備份。

作者認為,擁有本地AI能力非常重要,尤其是在技術寡頭趨勢下,能保護程式碼隱私和自主性。整個配置體現了對效能、自由度和離線能力的極致追求。