近日，IBM 釋出了其 Granite 4.1 系列大語言模型，包括 3B、8B 和 30B 三種引數規模，均採用 Apache 2.0 開源許可。該系列模型由 IBM 研究團隊開發，團隊成員 Yousaf Shah 在 Hugging Face 部落格上發表了題為“Granite 4.1 LLMs: How They’re Built”的文章，詳細介紹了模型的訓練過程、資料策略和架構創新。Granite 4.1 模型在多個基準測試中表現優異，同時保持了較高的推理效率。
隨後，Unsloth 專案釋出了針對 Granite 4.1 3B 模型的 GGUF 量化變體集合，共 21 個不同的量化版本，檔案大小從 1.2GB 到 6.34GB 不等，涵蓋了從低位元量化到高精度量化的各種配置。所有 21 個檔案的總大小達到 51.3GB，這給了知名 AI 部落格作者 Simon Willison 一個絕佳的實驗機會：他長期以來一直想測試不同量化級別對模型輸出質量的影響。
Willison 設計了一個統一的提示：“生成一隻騎腳踏車的鵜鶘的 SVG 影像”，並針對每個量化變體執行這個提示，然後比較輸出結果。他期望能夠觀察到隨著模型大小（或量化位元數）增加，輸出質量有規律地提升。然而，結果卻出乎意料地令人失望。所有 21 個變體生成的 SVG 影像質量都非常糟糕，基本上只是一堆抽象的形狀，沒有任何一個能清晰地描繪出鵜鶘或腳踏車。更令人困惑的是，質量與模型大小之間沒有任何可辨別的規律——最小的 1.2GB 模型反而生成了相對最好的腳踏車輪廓，而最大的 6.34GB 模型則只產生了一些勉強像鵜鶘的雜亂形狀。
Willison 在部落格中坦言，這些結果“比我預期的更無趣”，並總結說這個實驗並沒有揭示出量化大小與輸出質量之間的簡單關係。他計劃未來使用更擅長繪製鵜鶘的模型（例如專門針對影像生成進行微調的模型）再次嘗試。該實驗的完整結果（所有 21 幅 SVG 影像）已釋出在 Willison 的 GitHub 頁面上，供社群參考。這篇文章於 2026 年 5 月 4 日釋出在 Simon Willison 的部落格上，並標記為連結部落格。
此次實驗雖然結果不盡如人意，但也提醒了社群：量化模型在特定任務上的表現可能與預期存在較大差異，實際應用中需要根據具體場景進行充分測試。