ソース詳細
AI News Hub は Together AI Blog の AI 更新を追跡し、ソース状態、利用範囲、収集方法、公開記事を表示します。
Official source; confirm reuse terms before enabling full body display.
ParallelKernelBenchは、LLMが87の実ワークロードに対して高速なマルチGPU CUDAカーネルを書けるかをテストするベンチマークです。最高のモデルでも3分の1未満しか解けず、ベースラインを上回ったのはさらに少ないですが、生成されたカーネルの中には既存の公開実装を凌ぐものもあります。
Kimi K2.7 CodeとClaude Fable 5で12のランディングページを生成しました。Kimiのコストは94%低く、ほぼすべてのページで数ポイント以内のスコアでした。オープンソースモデルは単に安いだけでなく、品質でも競争力があり、その差は急速に縮まっています。
Together AIはISO 27001:2022認証を取得し、エンタープライズグレードのAIワークロード向けに情報セキュリティ管理システムを実証しました。既存のSOC 2準拠を補完します。
Together AIは、KVブロックメジャースパースアテンション、ページ化MSAデコード、最適化されたインデックススコアリングカーネル、およびRustベースのマルチモーダル前処理ゲートウェイにより、MiniMax M3の効率的なサービスを実現し、同時実行レベル全体で81～125%のスループット向上を達成しました。
Together AIは、ASRを単なるGPU推論問題ではなく、システム全体の問題として捉えることで、Artificial Analysisで最速の音声認識スタックを実現しました。本記事では、実際の音声形状に対応したTensorRTマルチプロファイルエンジン、条件付きCUDAグラフによるCPU往復の排除、共有メモリによるデータコピー削減、イベント駆動I/O、そしてgc.freeze()によるGCテールレイテンシの除去など、最適化の詳細を解説します。
本番コーディングエージェントワークロードにおいて、Together Inference Engine は同一ハードウェア上で次に高速なOSSエンジンより31%高いTPSを実現し、飽和状態では2倍優れたTTFTを維持します。この改善は、ThunderMLA、カスタムカーネル書き換え、実トラフィックでのエンドツーエンドプロファイリングに基づくフルスタック最適化によるものです。
Together AIはPearl Research Labsと提携し、Pearlネットワークを活用したGemma-4-31B-it-pearl用の割引推論エンドポイントを発表。有用な作業の証明（Proof of Useful Work）を利用して、AIワークロードを暗号資産の排出に変換することでコストを相殺します。
Violinは、音声認識、大規模言語モデル翻訳、音声合成を組み合わせた完全オープンソースのAI動画翻訳ツールです。ウェブアプリ、CLI、エージェントスキルを提供し、動画コンテンツに関する質問応答やパーソナライズされた音声選択が可能です。Together APIを基盤とし、Whisper、DeepSeek、Cartesiaなどのモデルを利用し、MITライセンスで公開されています。
ボイスファインダーは、自然言語プロンプトやアップロードした音声サンプルを使用して、Together AIのTTSモデルが提供する600以上のボイスを検索、マッチ、フィルタリング、試聴できるツールです。
GooseとTogetherの専用コンテナ推論を使って、1つのセッションで任意のHuggingFaceモデルをデプロイする方法を学びます。複雑なセットアップをスキップし、1つのプロンプトでモデルをリリース日に本番環境で実行できます。
DeepSeek-V4はハイブリッドアテンション設計（CSA、HCA、SWA）によりKVキャッシュを圧縮し、100万トークンコンテキストをモデルの課題から推論システムの課題へと変えました。Together AIのNVIDIA HGX B200における初期導入経験は、キャッシュポリシー、プレフィックスキャッシング、エンドポイント設定が長コンテキストワークロードのパフォーマンスにどのように影響するかを示しています。
AIが研究から生産へ移行するにつれ、AIネイティブチームの課題はモデル構築から、効率的で信頼性が高く大規模なモデル運用へとシフトしています。推論コストは生産AIシステムの総ライフタイムコストの80～90%を占めます。Together AIはFlashAttention-4やATLASなどの研究と、フルスタックのハードウェア最適化、インテリジェントなスケジューリングにより、効率的な推論を実現し、顧客のユニットエコノミクスを改善します。
Together AIとAdaptionは、Together Fine-TuningをAdaptive Dataにネイティブ統合する提携を発表。チームはデータセットの最適化、ファインチューニング、評価、デプロイを効率的に行えるようになります。
Together AIは、Linuxカーネルの脆弱性Copy Fail（CVE-2026-31431）への迅速な対応を詳述しています。この脆弱性は、ローカルの特権のないユーザーがAF_ALGインターフェースを介して正確な4バイト書き込みプリミティブを可能にし、権限昇格を引き起こします。チームは脆弱なカーネルモジュールをアンロードし、パッチを適用し、検出を強化することでAIインフラストラクチャの安全を確保しました。
1.6兆パラメータのMoE推論モデルDeepSeek-V4 ProがTogether AIで利用可能になりました。512Kコンテキストウィンドウ、制御可能な推論モード、キャッシュ入力価格設定を備え、コードエージェント、ドキュメントインテリジェンス、研究合成などの長文脈推論ワークロードに最適です。
NVIDIA Nemotron 3 Nano Omni が Together AI プラットフォームで利用可能になりました。動画、画像、音声、テキストを横断して推論する単一のオープンモデルで、大規模なエージェント向けワークロード向けに設計されています。Together AI は研究最適化、マネージドインフラ、セキュアなAPIにより、このモデルを展開する最速のパスを提供します。
ロールアウトはRLポストトレーニングにおける隠れたボトルネックです。DASは適応型投機的復号でこれを解決し、最大50%高速化、報酬品質の低下はゼロです。
マルチテナントGPUクラスタにより、AIネイティブ企業はチーム間でコンピューティング容量を共有しつつ、分離性と制御を維持できます。このガイドでは、コア設計原則、一般的な障害モード、およびTogether AIが実際にマルチテナンシーを実装する方法について説明します。
Parcaeは安定したループ型言語モデルで、2倍のサイズのTransformerと同等の品質を達成——770Mモデルが1.3Bレベルの性能を発揮。ループに関する初のスケーリング則を導入し、データだけでなく再帰の増加が計算効率の良い性能向上経路であることを示す。
EinsteinArenaは、AIエージェントがオープンな数学問題に協力・競争するプラットフォームです。エージェントはすでに11件の新たなSOTAを達成し、11次元のキス数下限を593から604に押し上げました。
AIネイティブクラウドは、製品がモデルであるAIネイティブ企業向けに特別に設計されたクラウドインフラストラクチャです。従来のクラウドの欠点に対処し、5つの主要な特性を備えています：フルAIスタック統合、研究から本番への迅速なパイプライン、大規模な信頼性、ビルダー中心の設計、AIネイティブな速度でのパートナーシップ。Together AIはそのようなクラウドを構築しています。