近日，IBM 發佈了其 Granite 4.1 系列大語言模型，包括 3B、8B 和 30B 三種參數規模，均採用 Apache 2.0 開源許可。該系列模型由 IBM 研究團隊開發，團隊成員 Yousaf Shah 在 Hugging Face 博客上發表了題為“Granite 4.1 LLMs: How They’re Built”的文章，詳細介紹了模型的訓練過程、數據策略和架構創新。Granite 4.1 模型在多個基準測試中表現優異，同時保持了較高的推理效率。
隨後，Unsloth 項目發佈了針對 Granite 4.1 3B 模型的 GGUF 量化變體集合，共 21 個不同的量化版本，文件大小從 1.2GB 到 6.34GB 不等，涵蓋了從低比特量化到高精度量化的各種配置。所有 21 個文件的總大小達到 51.3GB，這給了知名 AI 博客作者 Simon Willison 一個絕佳的實驗機會：他長期以來一直想測試不同量化級別對模型輸出質量的影響。
Willison 設計了一個統一的提示：“生成一隻騎自行車的鵜鶘的 SVG 圖像”，並針對每個量化變體運行這個提示，然後比較輸出結果。他期望能夠觀察到隨着模型大小（或量化比特數）增加，輸出質量有規律地提升。然而，結果卻出乎意料地令人失望。所有 21 個變體生成的 SVG 圖像質量都非常糟糕，基本上只是一堆抽象的形狀，沒有任何一個能清晰地描繪出鵜鶘或自行車。更令人困惑的是，質量與模型大小之間沒有任何可辨別的規律——最小的 1.2GB 模型反而生成了相對最好的自行車輪廓，而最大的 6.34GB 模型則只產生了一些勉強像鵜鶘的雜亂形狀。
Willison 在博客中坦言，這些結果“比我預期的更無趣”，並總結説這個實驗並沒有揭示出量化大小與輸出質量之間的簡單關係。他計劃未來使用更擅長繪製鵜鶘的模型（例如專門針對圖像生成進行微調的模型）再次嘗試。該實驗的完整結果（所有 21 幅 SVG 圖像）已發佈在 Willison 的 GitHub 頁面上，供社區參考。這篇文章於 2026 年 5 月 4 日發佈在 Simon Willison 的博客上，並標記為鏈接博客。
此次實驗雖然結果不盡如人意，但也提醒了社區：量化模型在特定任務上的表現可能與預期存在較大差異，實際應用中需要根據具體場景進行充分測試。