GPU インフラ

研究チームは、関係型Transformerのための初のスピードラン型リーダーボード「modded-nanoRT」を発表した。課題を固定しスタックを公開した上で、単一GPUで品質目標に到達するまでの実時間で順位を付ける仕組みにより、事前学習レシピの探索を特定ラボの私的プロトコルから解放する。初回のレシピは、外部キーの経路に応じて注意スコアと値を条件付ける型付き三線形注意にMuonとSIGRegを組み合わせ、NVIDIA H200 1枚で305.63秒にて目標達成、参照実装より8.11倍高速で、開発用データベース外の15組中13組で勝利した。

カザフスタンのAIエコシステムは、インフラ計画から実際の導入段階へと移行しつつあり、計算基盤からモデル、アプリケーションまでAIスタック全体に変化が及んでいる。国内最大の通信会社KazakhtelecomはアスタナとアルマトイにNVIDIA H200を400基、B300を480基導入済みで、来年はData Center Valleyに1,000基超、エキバストゥズ地域に1,000基超のVera Rubin GPUを配備する計画だ。さらにinDriveとPony.aiはカザフスタンでのロボタクシーサービスの可能性を探っている。

AWSはAmazon SageMaker AIのサーバーレスモデルカスタマイズにおいて、トレーニングセッションの一般提供を開始したと発表した。ユーザーはカスタム損失関数や報酬信号、マルチターン強化学習を含むポストトレーニングループを自ら記述・調整でき、GPU割り当て、分散実行、障害復旧、チェックポイント保存はSageMaker AIが処理する。gpt-oss-20b、gemma-4-31B-it、Qwen3.6-27B、Qwen3.8-27Bに対応し、処理トークン数に基づいて課金される。

Amazon SageMaker AI は、開発者が Python でカスタム LLM トレーニングループ（SFT、RL、カスタム目的関数など）を記述できるトレーニングセッション API を導入しました。サービスが GPU インフラストラクチャを管理します。API は forward_backward()、optim_step()、sample() などの操作を提供し、トークン単位で課金され、SFT と RL のサンプルを含むクックブックも提供されます。

Modal CEOのErik Bernhardsson氏が、需要をプールして弾力的なGPUキャパシティを提供する同社の戦略を語る。年間換算売上高は10億ドルを超え、160億ドル評価で7.5億ドルのシリーズDを調達。GPU需要は矩形ではなくスパイク状であること、サンドボックスの予想外の成長、高速起動がインフラの機能であることなどを議論した。

7億5000万ドルのシリーズDを160億ドル評価で調達したModalのCEO Erik Bernhardsson氏がLatent Spaceに出演し、固定的な「長方形」のGPU契約を弾力的なキャパシティに変える仕組み、予想外に売上の約3分の1まで成長したサンドボックス事業、そしてAIインフラの経済性とエンジニアリング文化を語った。

Amazon SageMaker AI でカスタムのテキスト読み上げモデルを運用するチームは、オートスケーリングのしきい値をしばしば推測で決めており、誤った推測は GPU コストの無駄かレイテンシ SLO の違反を招く。この記事では Kokoro-82M をカスタムコンテナとしてデプロイし、ライブエンドポイントに対する Q_max と T_total という 2 つの実測値から、推測ではなく測定に基づくオートスケーリングポリシーを導出する手法を紹介する。

連邦議会への開示資料によると、Anthropic、OpenAI、Nvidiaは7月から9月の四半期にそれぞれ過去最高のロビー活動費を支出した。Nvidiaが220万ドルで最多、Anthropicが210万ドル、OpenAIが150万ドルと続く。MicrosoftやGoogleと比べれば規模は大きくないが、AI企業が政策形成の重要性を認識し始めた明確な兆候だ。

NVIDIAは、インフラとAIワークロードのテレメトリーを統合し、専用AIモデルでタイムリーかつ実用的な洞察に変換するAIOpsプラットフォーム「Minerva」を発表した。問題の早期発見とAIファクトリーの生産性維持を支援する狙いで、IRENなどが導入を計画し、Dell Technologies、Lenovo、SupermicroがAIファクトリー運用ポートフォリオの一部として提供する予定だ。

GeForce NOWは今週、『コール オブ デューティ モダン・ウォーフェア4』をローンチ同日に配信し、キャンペーン、マルチプレイヤー、DMZ抽出モードを提供。アルティメットメンバーはRTX 5080クラスのクラウド性能によりレイトレーシング対応のキャンペーンを楽しめる。Fire TV StickユーザーはAmazon経由で直接メンバーシップを購入可能になり、『ファイナルファンタジー レゾナンス』や『エルダー・スクロールズ・オンライン』の新シーズンなど6タイトルが追加される。

Modal は、ユーザー自身の Modal ワークスペース内で動作するオープンソースで Tinker 互換のトレーニングサーバー「Spindle」を公開した。トークン課金ではなく GPU 時間に対して支払い、モデルや機能を自由にカスタマイズでき、コマンド1つでデプロイできる。

ベルリンで開催されたGTCで、欧州の銀行、決済企業、金融データプロバイダーが、NVIDIAのアクセラレーテッドコンピューティング、オープンウェイトモデル、自社インフラ上に構築した本番規模のAIを披露した。RevolutはPRAGMA基盤モデルで技術スタックを再構築し、Starling Bank、Lloyds、bunq、NatWest、Santander、LSEG、HSBC、Stripeなどが主権クラウドでの学習、取引モデリング、エージェント型アシスタント、音声認識、不正検知で成果を報告した。

NVIDIAのブログは、欧州の小売企業がオープンモデルと物理インテリジェンスを活用する事例を紹介。ShopifyはNemotronを追加学習して推論コストを90%削減し応答を7倍高速化、Zooplusは本番可能なプロトタイプで86%の検索精度を達成、Otto Groupはドイツ最大のフルフィルメントセンターをOmniverse上でシミュレーション、NebiusはGTCベルリンで3つの小売向けブループリントを公開した。

arXiv論文は、Gemma 4とEmbeddingGemma 2が共有する3億500万パラメータの音声エンコーダの重みを一切変更せずに、サウジ・湾岸アラビア語の音声認識にどこまで使えるかを検証した。凍結システムは2260万パラメータのCTCリーダのみを学習し、適応システムは低ランクアダプタ、ハイブリッドCTC/アテンションリーダ、サブワード言語モデルとの統合デコーディングを追加する。適応システムは複数の公開テストで20億7000万パラメータのCohere Transcribe ArabicとWERで統計的に区別できず、電話符号化されたアラビア語では有意に優れ、単一GPUで139倍リアルタイム動作する一方、長文サウジ音声では依然として劣り、ブラインドのコールセンターサンプルでは15システム中4位だった。

本チュートリアルでは、NVIDIA のカーネルプロファイラ向けオープンソース Python インターフェースである Nsight Python を使い、Python 上で直接 GPU カーネルをプロファイリングする方法を解説する。計測したいコードを nsight.annotate でマークし、ベンチマーク関数を nsight.analyze.kernel でデコレートすると、アノテーション領域・設定・実行ごとのハードウェア指標を pandas DataFrame として取得できる。無料の Colab T4 上で、インストール、最初のカーネル計測、必要な実行回数の見極め、キャッシュとクロック制御、fp32/fp16 の行列サイズスイープ、計算律速とメモリ律速の判別、カーネル融合の測定、実験的 CUPTI バックエンドと Nsight Compute の比較までを実践する。

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：GPUs power today's most advanced AI workloads, from cutting-edge language models...

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：Every enterprise company is currently trying to figure out how to have its AI tools work with its data. Meanwhile, The post Nvidia bets open models can give enterprise AI agents the context they’re missing appeared first on The New Stack.

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：Nvidia wants new AI capacity to show up at the data center fully built. At its GTC Berlin conference on The post Nvidia wants AI factories built in real factories appeared first on The New Stack.

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：At GTC Berlin, NVIDIA is showcasing its full lineup of local AI hardware. RTX Spark, which launched last week, powers personal agents on Windows PCs; DGX Spark supports developers building and scaling applications on Linux; and DGX Station serves enterprise teams running frontier workloads on Linux, with a Windows version arriving in December. Announcements include: […]

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：General availability of the instances is coming next month, with planned expansion of availability to Europe — bringing an integrated platform for training, inference and large-scale reinforcement learning to cloud customers. A5X instances bring together NVIDIA Vera Rubin NVL72, NVIDIA ConnectX-9 SuperNICs, Google Cloud Virgo Network and Google Cloud’s fourth-generation advanced liquid-cooling technology for demanding […]

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：Demand from AI-natives is pulling the European AI cloud ecosystem forward faster than ever. Developers need compute closer to their data, open models they can customize and serve at scale, and full-stack infrastructure that is secure by design. NVIDIA Cloud Partners across Europe, the Nordics, Africa, and Central Asia are expanding regional compute capacity for […]

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：To increase productivity, accelerate innovation and create new opportunities for economic growth, Europe’s industrial leaders are tapping NVIDIA CUDA-X and Omniverse libraries, as well as NVIDIA Cosmos and Nemotron open models, across the engineering and manufacturing lifecycle. Bringing those capabilities together on the factory floor, the NVIDIA Factory Operations Blueprint (FOX) is now available in […]

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：NVIDIA cuDSS, launched today in general availability, is an NVIDIA CUDA-X library that shifts a critical part of engineering and scientific simulations onto GPUs. Complex engineering feats — from advanced chips to aircraft to industrial systems —– depend on simulation to predict how designs will perform before they’re built. As designs become more complex, simulations […]

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：NVIDIA builds tools to enable safe agents across the stack. The NVIDIA OpenShell Reference Architecture, announced today, is part of NVIDIA’s growing portfolio of technologies that enables organizations to safely deploy agents at scale. NVIDIA Confidential Computing is the infrastructure layer that protects the models and data those agents depend on while running. Today, NVIDIA […]

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：Agents are only as useful as what they know, and only as trustworthy as the boundaries they run within. Leading enterprises are using the open source NVIDIA Agent Toolkit — now expanded with new tools — to customize and control agents, use company data to inform their answers and actions, monitor what they do and […]

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：An open source “bomb” drops from China

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：An open source “bomb” drops from China

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：Bring RFD4-Proteina to your research data with AI-assisted development and serverless NVIDIA GPU compute....

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：Google, Red Hat and IBM released llm-d 1.0, an open-source Kubernetes-native stack for distributed LLM inference. It adds multi-tenant flow control, zero-downtime upgrades and agent-aware routing across vLLM, SGLang, TPUs and GPUs. The post Google Cloud Ships llm-d 1.0 With Cache-Aware Routing for TPU and GPU Fleets appeared first on MarkTechPost.

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：arXiv:2610.27199v1 Announce Type: new Abstract: The Jetson AGX Orin is a common computer for robots and vehicles, yet measured accuracy, speed and energy of current depth estimators on it are hard to find. We benchmark nine model families as of October 2026: the monocular Depth Anything V2 and 3, Depth Pro, MoGe-2, Metric3D v2 and UniDepth V2, and the stereo methods libSGM, NVIDIA ESS and Fast-FoundationStereo. Every method runs on the Orin as a TensorRT FP16 engine or native CUDA code at up to three input sizes, up to the full 5.7 MP, and is scored for metric accuracy against Middlebury 2014 ground truth (non-occluded pixels of the 10 scenes whose disparity stays below 256 px), GPU time, energy and licence. Stereo is far more accurate. At 30 fps, N…

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：arXiv:2610.26915v1 Announce Type: new Abstract: Online action detection (OAD) identifies ongoing actions in streaming videos. Many existing OAD systems combine RGB appearance with optical flow, but dense-flow extraction remains a major computational bottleneck. Codec motion vectors (MVs) are available during decoding, avoiding a separate optical-flow computation. On THUMOS'14, optical flow exceeds MVs by 11.2 mAP points with motion-only inputs, whereas the gap narrows to 3.7 points after RGB fusion, with the largest reduction in action-category discrimination. We propose CodecMotion-OAD, which replaces optical flow with decoder-provided MVs while retaining existing temporal detector architectures. Its two-stage training first aligns MV features with…

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：arXiv:2610.26937v1 Announce Type: new Abstract: Large clinical language models often require multi-GPU infrastructure, limiting local deployment. We introduce CERTA, a decision-level statistical certificate that determines when a quantized model may substitute for its native BF16 reference and escalates decisions that cannot be certified to it. Across eleven instruction-tuned models, both general-purpose and domain-adapted, from three families (7-72B), we evaluated 2,500 clinical-verification decisions from de-identified patient contexts (2,484 patients), with patient-disjoint calibration and testing. In the higher-power operational analysis, round-to-nearest 8-bit quantization at BF16 storage served 99.8-100% of held-out decisions across all eleven…

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：arXiv:2610.26913v1 Announce Type: new Abstract: The adoption of Large Language Models for radiology report structuring has been largely dominated by either proprietary cloud-based models or large open models requiring high-end GPUs for deployment, which is a critical bottleneck for clinical adoption in radiology workflows that demand data privacy and offline operation. To address this, we present MedPAO-Assist, an edge-deployable agentic framework that generates structured radiology reports directly from radiologist dictation and voice commands, requiring only $\approx3.3$ GB peak RAM and achieving an average end-to-end latency of $\approx31$ seconds on a standard laptop CPU through an asynchronous, multi-threaded execution pipeline. The system curr…

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：From GPU trading to physical settlement, independent markets, and programmable compute

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：From GPU trading to physical settlement, independent markets, and programmable compute

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：The midterms will be a referendum on the GOP’s alignment with tech overlords over the public they’re meant to serve Welcome back to How We Win, a Guardian opinion series with leading thinkers, offering bold ideas for America’s political future. Last week, Robert Reich highlighted the link between corruption and affordability. Today’s edition was written by Guardian US columnist Rebecca Solnit. Sign up for future editions here. “The world should accept some bad things happening,” Sam Altman, the head of OpenAI, said recently, “for the benefits of this technology and people having the agency.” Like so many things tech oligarchs say, it’s incoherent, since Altman would like to deny the world and the people in it the agency to decide whether or not we s…

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：DeepSeek has open-sourced the inference engine it uses to serve its models in production, a step it said last year The post DeepSeek open-sources the inference engine behind its API. And Huawei gets equal billing with Nvidia. appeared first on The New Stack.

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：DeepSeek has open-sourced DeepInfer, the Apache 2.0 inference framework that serves DeepSeek-V4.1-Flash in production. It targets NVIDIA SM100 GPUs and Huawei Ascend 950 NPUs, and ships offline inference only. The post DeepSeek Open-Sources DeepInfer, the Inference Framework Behind DeepSeek-V4.1-Flash appeared first on MarkTechPost.

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：As SpaceX impacts Ukraine and AI-generated music divides artists and fans, critics are asking what happens when technology has too much control over our lives This was originally published in TechScape, a newsletter about how technology shapes our lives. Sign up to receive it here Hello, and welcome to TechScape. I’m Blake Montgomery, US tech editor at the Guardian, writing to you while sitting in front of Roy Lichtenstein’s monumental Drowning Girl, on view in New York City. Today in tech, we’re discussing the perils of Elon Musk’s one-man global infrastructure, AI-generated music, and a Guardian AI conference in Paris. Continue reading...

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：Nebius and Nscale are among global technology partners looking to NVIDIA Vera CPUs to build the next wave of infrastructure. Their momentum reflects rapid advancements in agentic computing. Agents do more than generate answers: they retrieve information, run software tools, execute code and evaluate results. Each step depends on fast CPU processing. Vera accelerates that […]

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：The Barcelona Supercomputing Center (BSC)’s AI Factory Accelerator Programme, now in full operation following a pilot initiative, gives startups access to sovereign compute, technical support and training to support innovation across industries. Many of these companies are also members of the NVIDIA Inception program for cutting-edge startups — and as of today, access to some […]

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：Discussion | Link

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：In the cavernous hall of Kraftwerk, a former power station in Berlin, German Chancellor Friedrich Merz and NVIDIA founder and CEO Jensen Huang sat down to discuss Germany’s AI roadmap, and in particular, the industrial applications of AI. Huang opened by tracing NVIDIA’s longstanding relationship with German industry, beginning with gaming systems, workstations and automotive […]

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：At a creative industry event that took place today in Berlin — hosted in collaboration with Adobe, Bertelsmann, NVIDIA and UFA — the latest advancements in intelligent media were on display. Key to the news: the European Broadcasting Union (EBU) is collaborating with NVIDIA to expand its sovereign framework with cloud, open models and integration […]

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：Today, I’m talking with Illinois Governor JB Pritzker, who has a lot of thoughts about AI, tech, and privacy. If you’ve been listening to the show, you know that one of my running theories is that those issues are driving a big and maybe kind of unexpected political realignment — and with the midterms coming up next month, and early voting already underway in a lot of places, the stakes are pretty high right now. So I asked Gov. Pritzker about all that, and he was surprisingly willing to dive right into the absolute existential weeds of what government is even for. You’ll hear him say — and it’s hard to disagree — that some problems are just collective action problems that require the government to do a lot of work. We can’t solve all these problems…

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：arXiv:2610.22380v1 Announce Type: new Abstract: Continuous diffusion treats the forward process as a design space; discrete language diffusion often uses absorbing corruption, leaving context fully trusted throughout generation. This makes trust binary: corrupted context is copied as ground truth, propagating errors into generated spans. We reopen this design space by combining absorbing and uniform-mixing kernels with region-dependent rates. Missing positions follow absorbing dynamics, while context undergoes low-rate random substitution, exposing the model to observed but uncertain tokens during training. At inference, a heuristic sampler re-injects noise into suspicious context under an annealed intensity and freezes context updates late in the t…

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：arXiv:2610.22446v1 Announce Type: new Abstract: Neural operators approximate solution operators of partial differential equations at a fraction of the cost of numerical solvers. Efficient grid-based architectures such as the Fourier neural operator (FNO) assume uniform rectangular grids, whereas engineering simulations use large, irregular, and locally refined meshes. We introduce L-SplineFNO, a memory-efficient neural operator that couples an FNO backbone with a sparse, learnable tensor-product B-spline transfer between unstructured meshes and a latent Cartesian grid. A local normalised scatter avoids the geometry-dependent solve of analytic spline transformation while preserving compact support, partition of unity, and spline smoothness by constru…

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：NVIDIA has released the full Run:ai GPU orchestration platform as open source under Apache 2.0. The release includes KAI Scheduler, CUDA 13.4 GPU fractioning, quota management, and a local Kind dev environment. The post NVIDIA Open Sources Run:ai Under Apache 2.0 for Kubernetes GPU Orchestration appeared first on MarkTechPost.

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：Post-train open LLMs like Qwen, GLM and Kimi into custom models you own, with SFT or RL. You write the training loop. Together runs the hard infrastructure.

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：An AI agent that reads the web pays 2 kinds of cost. The first is the retrieval charge: what a search or fetch API bills per request. The second is model processing: content passed from retrieved pages into an AI model consumes tokens, while reasoning and generated responses add further costs. TinyFish, a web infrastructure […] The post TinyFish Makes Search Free: What It Really Costs an AI Agent to Read the Web appeared first on MarkTechPost.