IBM は先日、Granite 4.1 ファミリーの大規模言語モデルをリリースしました。このシリーズは 3B、8B、30B のサイズがあり、Apache 2.0 ライセンスで提供されます。Granite チームメンバーの Yousaf Shah が Hugging Face ブログでトレーニングプロセスを詳細に説明する記事を公開しています。Granite 4.1 は複数のベンチマークで優れた性能を示しつつ、推論効率も維持しています。
その後、Unsloth プロジェクトが Granite 4.1 3B モデルの GGUF 量子化バリアントコレクションをリリースしました。21 の異なる量子化バージョンがあり、ファイルサイズは 1.2GB から 6.34GB まで、低ビット量子化から高精度量子化まで様々な構成をカバーしています。21 ファイルの合計サイズは 51.3GB に達し、このことが AI ブロガーの Simon Willison に長年温めていた実験を実行させるきっかけとなりました。
Willison は統一されたプロンプト「自転車に乗るペリカンの SVG を生成」を使用し、各量子化バリアントに対して実行して出力を比較しました。彼はモデルサイズ(または量子化ビット数)が増えるにつれて出力品質が向上する規則的なパターンを期待していましたが、結果は予想に反して失望させるものでした。21 のバリアントすべてが生成した SVG 画像は非常に低品質で、ほとんどが抽象的な形状の集まりであり、ペリカンや自転車を明確に描写したものは一つもありませんでした。さらに不可解なことに、品質とモデルサイズの間には全く相関が見られませんでした。最小の 1.2GB モデルが相対的に最も優れた自転車の輪郭を生成したのに対し、最大の 6.34GB モデルはかろうじてペリカンに見えるような乱雑な形状しか生成しませんでした。
Willison はブログで、「結果は予想よりも面白くなかった」と述べ、量子化サイズと出力品質の単純な関係は示されなかったと結論付けています。彼は今後、ペリカンの描画が得意なモデル(例えば画像生成に特化したファインチューニングモデル)を使って再試行する予定です。全 21 の SVG 画像は Willison の GitHub ページで公開されており、コミュニティが参照できます。この実験は 2026 年 5 月 4 日に Simon Willison のブログで公開され、リンクブログとしてマークされています。
今回の実験結果は期待外れでしたが、量子化モデルが特定のタスクで期待とは異なる性能を示す可能性があり、実際のアプリケーションでは十分なテストが必要であることを示唆しています。