本文にスキップ
AI News HubLIVE
サイト内リライト3 分で読了

テンセントがHy3を公開:295BパラメータのMoEモデル、21Bのアクティブパラメータと256Kコンテキスト対応

記事の要約

テンセントのHyチームがHy3を公開。295BパラメータのMixture-of-Expertsモデルで、トークンあたり21Bパラメータのみを活性化。Apache 2.0ライセンスで提供され、256Kのコンテキストウィンドウを備え、推論、エージェント、長コンテキストタスクを対象とする。SWE-Bench Verifiedで78.0を記録し、幻覚率を低減。OpenRouterで2026年7月21日まで無料トライアル可能。

ソースMarkTechPost著者: Asif Razzaq
テンセントがHy3を公開:295BパラメータのMoEモデル、21Bのアクティブパラメータと256Kコンテキスト対応
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

テンセントのHyチームはHy3モデルを正式にリリースしました。Hy3は295BパラメータのMixture-of-Experts(MoE)モデルで、トークンあたり21Bパラメータのみを活性化します。モデルウェイトはApache 2.0ライセンスで公開され、推論、エージェントワークフロー、長コンテキストタスクを主な対象としています。

Hy3のアーキテクチャ

Hy3はスパースMoEアーキテクチャを採用し、192のエキスパートとtop-8ルーティング機構を備えています。各トークンは8つのエキスパートのみを活性化するため、計算コストが低く抑えられます。さらに、マルチトークン予測(MTP)レイヤーを統合し、複数のトークンを同時に予測することで復号を高速化します。vLLMとSGLangは推測復号によりこの機能をサポートしています。

以下はHy3の主要なプロパティです:

  • アーキテクチャ:Mixture-of-Experts (MoE)
  • 総パラメータ:295B
  • 活性化パラメータ:21B
  • MTPレイヤーパラメータ:3.8B
  • レイヤー数(MTP除く):80
  • MTPレイヤー数:1
  • アテンションヘッド:64(GQA、8 KVヘッド、ヘッド次元128)
  • 隠れサイズ:4096
  • 中間サイズ:13312
  • コンテキスト長:256K
  • 語彙サイズ:120832
  • エキスパート数:192、トップ8活性化
  • 対応精度:BF16

また、Hy3-FP8チェックポイントもリリースされており、メモリフットプリントを削減し、より低コストでのサービス提供を可能にします。

ベンチマークとパフォーマンス

研究チームは、コーディング、エージェント、STEM分野のスコアを公開しました。コーディングでは、Hy3はSWE-Bench Verifiedで78.0、SWE-Bench Proで57.9、SWE-Bench Multilingualで75.8を記録。Terminal-Bench 2.1は71.7、DeepSWEは28.0です。

STEMと推論ではさらに高いスコアを達成:GPQA Diamond 90.4、USAMO 2026 72.0、IMOAnswerBench 90.0、HLE(ツール使用)53.2。

研究チームは270人の専門家によるブラインドテストを実施し、実ワークフローで312の有効な比較を収集しました。Hy3は4点満点中2.67点を獲得し、GLM-5.1の2.51点を上回りました。特にフロントエンド開発、CI/CD、データとストレージで優位性が見られました。

信頼性とプロダクション動作

チームはプロダクション環境での信頼性に注力し、3つの障害モードを直接改善しました:

  • ツール呼び出しと出力フォーマット:エージェントを中断させるベースラインの安定性問題を修正。無効な呼び出しによる無限ループが減少。Hy3は異なるエージェントフレームワーク(CodeBuddy、Cline、KiloCode)間でもSWE-Bench Verifiedの精度変動が4%以内に収まります。
  • 世界知識と反幻覚:モデルは不確かな場合に証拠不足を明示。内部評価では幻覚率が12.5%から5.4%に低下、常識エラー率は25.4%から12.7%に低下。
  • マルチターン意図追跡:共同SFTとRLにより照応と制約追跡を改善。内部問題率は17.4%から7.9%に低下、MRCR長対話ベンチマークでは42.9%から75.1%に向上。

Hy3の呼び出し方

Hy3はOpenAI互換APIを提供します。vLLMまたはSGLangでデプロイし、エンドポイントを呼び出します。reasoning_effortパラメータでモデルの思考量を制御:

  • no_think:直接回答
  • low:軽い思考
  • high:深いチェーン・オブ・ソート(数学、コーディングなど多段階タスクに推奨)

推奨パラメータはtemperature=0.9、top_p=1.0。ローカルハードウェアなしでOpenRouterの無料ルート(tencent/hy3:free)も利用可能で、2026年7月21日まで無料です。

ユースケース

Hy3はエージェントスタイルの長コンテキストタスク向けに設計されています:

  • コーディングエージェント:完全なリポジトリを256Kウィンドウに入力し、高推論努力でテスト失敗を修正。安定したツール呼び出しで複数ファイルの編集を実行。
  • 文書処理:長い契約書や提出文書をコンテキストとして渡し、反幻覚トレーニングにより虚偽の条項や誤引用を低減。
  • 金融分析:表と文章を1つのプロンプトに結合。欠損データを推測せずにフラグを立てるグラウンディングされた要約を生成。
  • フロントエンド・ゲーム開発:Reactコンポーネントやゲームループを生成。ブラインドテストではGLM-5.1に対してフロントエンドでの優位性を示しました。

Hy3 vs GLM-5.2

テンセントのチームはHy3とGLM-5.2を比較。GLM-5.2は約744BのMoEでアクティブパラメータ約40B、Hy3はその半分以下の総パラメータで21Bアクティブです。コーディングベンチマークではGLM-5.2がリードするものの、Hy3はより小さなアクティブフットプリントでGPUコストを削減します。

| ベンチマーク | Hy3 (21Bアクティブ) | GLM-5.2 (~40Bアクティブ) | |------------|-------------------|------------------------| | SWE-Bench Verified | 78.0 | 84.2 | | SWE-Bench Multilingual | 75.8 | 83.0 | | Terminal-Bench 2.1 | 71.7 | 81.0 | | DeepSWE | 28.0 | 46.2 | | 総/アクティブパラメータ | 295B / 21B | ~744B / ~40B | | ライセンス | Apache 2.0 | オープンウェイト |

デプロイメントノート

Hy3は総パラメータ295Bのため、8GPU(H20-3eなど大容量メモリカード)を推奨。vLLMとSGLangはMTPを有効にしたレシピを提供。最小限のvLLM起動コマンドは以下の通り:

vllm serve tencent/Hy3 \
--tensor-parallel-size 8 \
--speculative-config.method mtp \
--speculative-config.num_speculative_tokens 2 \
--tool-call-parser hy_v3 \
--reasoning-parser hy_v3 \
--enable-auto-tool-choice \
--port 8000 \
--served-model-name hy3

チームはAngelSlimツールキットも提供しており、量子化、低ビット手法、推測サンプリングをカバー。完全なファインチューニングパイプラインも利用可能です。

Hy3はHugging FaceとGitHubで公開されており、詳細は公式ドキュメントを参照してください。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • Hy3は総パラメータ295B、トークンあたり21Bのアクティブパラメータ、192エキスパートとtop-8ルーティングを採用。
  • マルチトークン予測レイヤーにより復号を高速化、vLLMおよびSGLangと互換性あり。
  • コーディング、STEM、エージェントタスクで良好なベンチマーク結果、幻覚率が12.5%から5.4%に低下。
  • FP8量子化版も提供、8GPU推奨デプロイ、Apache 2.0ライセンス。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。