2026-09-09 01:27 UTC+9要約のみ更新: 2026-09-09 01:27 UTC+9

CohereのNorth Mini Code向けメガカーネル・サービスエンジン

Cohereは、North Mini Codeのデコード処理全体を単一のメガカーネルとして実行するサービスエンジンを発表した。BF16・H100環境でvLLMより1.25〜1.41倍高速で、バッチサイズ1ではメモリ帯域の理論限界の62%に到達。精度低下なし。コードはGitHubで公開。

誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

要約のみ

配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。

要点と分析を開く

エンジニア上級

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。