トップクラス最速!智譜(Zhipu)、コードを「噴出」しているのか?
智譜AIが新たにリリースしたGLM-5.1-highspeed APIは、400 tokens/sの速度を達成し、トップモデルの中で最速を記録。コード生成がまるで噴出するように速く、リアルタイムなパラメータ調整やゲーム世界の動的変更、長文コンテンツの高速処理を実現。推論エンジンやスケジューリングシステムの最適化により、AIエージェントの体験を進化させる。
智譜AIは、フラッグシップモデルの高速版API「GLM-5.1-highspeed」を公開した。その速度は毎秒400トークンに達し、トップクラスのAIモデルの中で最速を誇る。デモンストレーションでは、数千行のコードがまるで「噴出する」ように一瞬で生成され、従来のAIが一行ずつゆっくり出力するのとは対照的だ。速度だけが心配されるかもしれないが、生成されたコードは実際に動作し、複雑なタスクもこなす。例えば、「呼吸する星雲とオーディオ反応するパーティクルを備えたWebページを作成せよ」というプロンプトに対し、モデルは十数秒の思考後、一気にコードを出力し、見事な結果を提供する。
速度の恩恵は、反復的なデザインプロセスで特に顕著だ。「波紋を速く」「粒子を柔らかく」といった曖昧な指示にも、モデルは意図を理解して即座にコードを調整する。これにより、まるでデザイナーと一緒にキャンバスを見ながらパラメータを調整するかのような体験が生まれる。
さらに、モデルはゲームのディレクターとしても機能する。障害物や敵、天候がある2Dゲームにおいて、「雪」「爆発」などの自然言語コマンドでゲーム世界をリアルタイムに変更できる。これは、遅延が低いからこそ可能になった新たな製品形態だ。もちろん、安定性や安全性、コストなどの課題は残るが、400 tokens/sのAPIはこうした想像を現実のものとする。
コンテンツ制作の面では、1万字の記事をたった10秒で処理し、ポスターの見出し、ショート動画の台本、製品スローガン、完全な微信記事などを生成する。この速度により、人間は待機から判断へと役割を変え、AIとの協業がより反復的になる。
GLM-5.1-highspeedの高速化は、単に小さなモデルを速く動かすだけではない。智譜のGLMチームとTileRTチームは、推論エンジン、スケジューリングシステム、インフラストラクチャの3層で最適化を施した。推論エンジンはGLM-5.1のアーキテクチャに合わせてコア推論パスを書き換え、スケジューリングシステムは動的バッチ処理やリクエストマージ、KVキャッシュスケジューリングで高負荷時のテールレイテンシを低減する。TileRTはさらに細かいタイルレベルまで最適化を進め、コンパイル時の静的スケジューリングと常駐GPUカーネルにより、スケジューリングやデータ移動のオーバーヘッドを削減する。これは、従来の「工頭が指示を待つ」方式から「事前に計画された流れ作業」への移行に例えられる。
ただし、速度だけが全てではない。本番環境では、モデルの品質、安定性、コスト、コンテキスト長、ツール呼び出しの信頼性、同時実行能力、エラー率なども重要だ。400 tokens/sという数字は、多様なタスクや条件下で継続的に検証される必要がある。しかし、このリリースは明確なトレンドを示している:国産AIモデルAPIの競争は、「正しく回答できるか」から「速く安定して仕事ができるか」へと移行している。GLM-5.1-highspeedは、フラッグシップモデルの能力と高速推論システムの融合が、AIエージェントの体験をどのように変えるかを示している。待ち時間が減り、フィードバックが密になり、タスクの進行がより連続的になる。コーディングの時代において、速度こそが最大の魅力である。