AMD、機械可読ISAを公開し、フロンティアモデルがGPUカーネルを記述可能に

AMDのGPUは競争力を増しているものの、AMDは自社のチップがCUDAをサポートしないために能力が劣るという認識を払拭できずにいました。今週サンフランシスコで開催されたAdvancing AIイベントで、AMDはROCm.AIを発表し、ユーザーが「バイブコード」によって推論性能を高速化できると約束しました。

実際、CUDAの牙城はここ数年でかなり浅くなっています。PyTorchやJAXといったフレームワークにより、開発者は一度記述すれば、多くの場合CUDAやAMDのROCm、HIPライブラリに触れることなくどこでも実行できるようになりました。しかし、コードが実行できるからといって、それが高性能であるとは限りません。CUDAやROCmのような低レベルプログラミングインターフェースは、チップの真の可能性を引き出す鍵であり続けています。

GPUカーネルや一般行列乗算（GEMM）ルーチンを手動でチューニングしてチップを最大限に活用するには、誰もが十分な経験を持っているわけではありません。しかし、開発者が最適化しようとしているモデル自体が、このタスクに驚くほど適していることが判明しました。AMDのコーポレートVPでAIソフトウェア＆ソリューション担当のAnush Elangovan氏は、「AMD GPUの各世代に対して、ISA仕様を公開するだけでなく、機械可読なISAも公開しています。その結果、フロンティアモデルはAMDハードウェア向けのプログラミングに非常に優れています」と述べています。

ROCm.AIにより、AMDはこの機能を合理化したいと考えています。このプラットフォームは、フロンティアモデルで動作する既存のコードアシスタントに接続し、AMD Instinctハードウェア向けのモデルやサービングフレームワークをデプロイ、デバッグ、最適化するためのツールとドキュメントを提供します。そのツールの1つが、自動ワークロード性能最適化システムHyperloomです。例えば、コードアシスタントに「HyperloomでMiniMax M3を最適化」とプロンプトすると、Dockerコンテナ内で推論サーバーを起動し、ベンチマークを実行してベースライン性能を確立し、ワークロードをプロファイリングしてボトルネックを特定し、設定を調整したり、その場でカスタムCPUカーネルを生成したりします。AMDの新発売のHeliosラックでのテストでは、このプロセスによりモデル性能がベースライン比で38%向上したとElangovan氏は主張しています。

「私たちは、ユーザーが最大限の性能を引き出せるようにしたいと考えています」と同氏は述べ、「これにより、誰でも非常に簡単に消費、デバッグ、プロファイリング、デプロイが可能になります」と付け加えました。このプロセスをさらに改善するため、AMDはOpenAIやAnthropicなどのAIモデル企業との緊密な関係を活用し、それらのモデルがAMDのハードウェアとソフトウェアの内部動作をよりよく理解できるよう訓練していると述べています。Elangovan氏は、「私たちはフロンティアモデルを使ってカーネルを生成しているだけではありません。フロンティアモデル企業と深く協力し、それらがネイティブにAMDプログラミングを話すようにしています」と説明しました。

組み込みのコマンドラインインターフェースに加えて、ROCm.AIはAnthropicのClaude Code、OpenAIのCodex、GoogleのAntigravity、Cursorなどの人気コードアシスタント用プラグインとしても提供される予定です。