公司追踪
NVIDIA 最新 AI 新闻、产品、模型、生态和产业动态。
过去五年，Alphabet、亚马逊、Meta、微软和甲骨文这五大美国科技公司为扩建AI数据中心，债务总额增加了约3500亿美元。尽管投资者对AI前景看好，但亚马逊本周250亿美元的债券发行遇冷，显示市场对巨额投资的担忧。甲骨文因AI支出增加被标普下调评级，而英特尔因债务和战略失误陷入困境。大型云服务商今年计划投入高达7250亿美元，主要投向数据中心和英伟达芯片。
本教程通过 TileGym 探索 NVIDIA 的基于 tile 的 GPU 编程，构建一个可在不同硬件上运行的 Colab 工作流程。我们探测 CUDA 环境，尝试真实的 cuTile 后端，并在标准 Colab GPU 缺乏 cuTile 堆栈时回退到 Triton。我们学习核心 tile 思想：对整个数据块进行操作，而不是单个线程，然后加载、计算和存储它们。我们实现了向量加法、融合 GELU、行级 softmax、分块矩阵乘法和 flash attention，并将每个结果与 PyTorch 进行比较。
本周AI新闻梳理：IBM推出0.7纳米芯片技术，OpenAI与博通发布专为推理设计的Jalapeño芯片，英伟达展示全液冷AI工厂设计；政府监管加强，Anthropic恢复模型访问权限，OpenAI提议向美国政府转让5%股权；工作角色快速演变，前哨工程师、SAP外部招聘与宜家内部培训成为焦点。
本文介绍了 NVIDIA Nemotron 3 模型的独特架构，包括混合 Mamba-Transformer MoE 设计和支持高达 1M token 的上下文长度。亚马逊 SageMaker AI 现在推出针对 Nemotron 3 的无服务器模型定制服务，支持监督微调（SFT）、基于可验证奖励的强化学习（RLVR）和基于 AI 反馈的强化学习（RLAIF）三种技术。文章详细说明了如何通过 SageMaker Studio 控制台或 Python SDK 准备数据、启动定制任务、监控训练进度和评估模型，帮助企业将通用模型转化为领域专用资产。
英伟达CEO黄仁勋提出了一个评估工程师价值的测试：如果一位年薪50万美元的工程师每年使用的AI Token价值不到其薪水一半，他会感到“深切担忧”。他透露英伟达正朝着每年20亿美元的Token账单迈进。这一观点揭示了企业在AI投入与人力成本之间的权衡。尽管许多公司通过裁员来资助AI支出，但Gartner调查显示，约80%的企业在裁员后并未获得相应的回报。文章还探讨了通过缓存、模型路由、RAG等方式优化Token开销的方法，并强调保留人才的重要性。
红杉资本合伙人David Cahn三年前首次计算了硅谷AI基础设施巨额支出的财务影响，他根据Nvidia的GPU收入推导出需要2000亿美元的收入才能收回前期投资。
NVIDIA发布了Nemotron-Labs-3-Puzzle-75B-A9B，这是Nemotron-3-Super的压缩变体，通过迭代式Puzzle压缩技术，将总参数量从120.7B降至75.3B，活跃参数从12.8B降至9.3B。在单个8xB200节点上，吞吐量提升至原模型的2.03倍（100 tok/s每用户）；在单块H100上，1M token并发数从1提升至8。该模型在多项基准测试中保持高精度，但指令跟随和智能体评估略有下降。
随着代理型AI用例增多，实时交互需求推动推理基础设施重构。d-Matrix与NVIDIA合作推出异构计算解决方案，通过堆叠DRAM和逻辑芯片提升内存带宽，实现低延迟快速令牌生成，开启新的营收层级。
DDN首席执行官Alex Bouzari在RAISE峰会上表示，AI数据基础设施决定了GPU投资能否获得回报。全球正在分化成高效利用GPU和闲置GPU的两类组织。DDN参与了12个主权AI项目，其技术使Salesforce的GPU生产力提升了70%，并得到NVIDIA长期使用验证。DDN的Infinidat平台旨在连接分布式边缘到核心的AI架构，解决多数据中心和多云的整合难题。
总部位于杭州的人工智能初创公司DeepSeek正在设计自己的芯片，旨在减少对美国芯片巨头英伟达和华为的依赖。该芯片专注于推理而非训练，以降低服务成本并适应美国出口管制。凭借其在模型与硬件协同设计方面的优势，DeepSeek有望在定价战中进一步压低价格，但面临先进制造和内存受限的挑战。
NVIDIA发布了Nemotron-Labs-3-Puzzle-75B-A9B，这是Nemotron-3-Super的压缩变体。通过迭代式Puzzle压缩，模型参数从120.7B总/12.8B活跃降至75.3B总/9.3B活跃。在单个8xB200节点上，用户吞吐量达到100 tok/s时，总吞吐量提升至Super的2.03倍；在单个H100上，1M令牌并发数从1提升至8。
Prime Intellect 宣布完成1.3亿美元A轮融资，由Radical Ventures领投，NVIDIA、英特尔、戴尔等参投，总融资额超1.5亿美元。公司旨在构建开放超级智能堆栈，利用强化学习（RL）使企业能够拥有自己的模型优化循环，而非依赖少数封闭实验室。其平台涵盖训练、部署和持续改进模型的完整工具链，已拥有超6000家客户，年化收入超1亿美元。未来将聚焦长时程代理、递归语言模型、自动化科研和持续学习等前沿方向。
OpenClaw从一个周末项目成长为全球性开源运动，每周新增450万用户，成为GitHub史上增长最快的仓库。如今，它正式成立501(c)(3)非营利基金会，旨在保持项目开放、独立，并由社区驱动。基金会将提供治理、稳定资金，并雇佣全职团队。合作伙伴包括OpenAI、NVIDIA、微软、密歇根大学等，共同推动个人AI代理的发展。
英伟达与Hugging Face合作，旨在通过开源机器人模型提升物理AI的可访问性和部署，进一步巩固英伟达在该领域的强势地位。
NVIDIA 通过开放数据和合成数据推动智能体 AI 发展，强调数据质量、可检查性和信任。
LangChain与NVIDIA合作推出NemoClaw深度代理蓝图，结合LangChain深度代理代码、NVIDIA Nemotron 3 Ultra和OpenShell，为企业构建开放、受治理的代理系统。该蓝图在代理评估中实现了领先性能，且推理成本降低约10倍。
NVIDIA Nemotron 3 Ultra 与 LangChain 深度代理框架结合，在开放模型中取得最高准确率，同时以比顶级封闭模型低 10 倍的推理成本完成更多任务。该成果无需重新训练模型，而是通过优化模型周围环境实现。Abridge、Amdocs、Box 等企业正在将专业代理嵌入其平台，EY 等系统集成商则基于此开放栈为客户构建定制化代理。
Deep Agents Code现在可作为NVIDIA NemoClaw的治理蓝图运行，使用开放模型Nemotron 3 Ultra，提供默认拒绝网络、人工审批和完整审计日志，适用于敏感代码现代化。
法国AI初创公司ZML在被誉为图灵奖得主Yann LeCun的支持下，推出了一款免费软件，旨在使多种开源大型语言模型能够在包括Nvidia、AMD、Google TPU、Apple Metal和Intel Arc在内的多种芯片上高效运行。
本教程从Colab实际操作角度探索NVIDIA的Cosmos框架，诚实地评估真实Cosmos 3检查点所需的硬件条件。我们检测运行时环境，基于框架的真实结构、CLI界面和输入模式，构建并训练了一个紧凑的全模态混合Transformer模型，该模型共享跨模态注意力，同时将每种模态路由到各自的专家网络。使用合成物理世界数据和自回归滚动，展示了模型如何跨文本、视觉和动作模态预测未来潜在状态。
本文指出，AI的真正瓶颈并非GPU算力，而是内存带宽。这一观点可追溯到2007年Ulrich Drepper的论文《每个程序员都应该了解的内存知识》。近期AMD、高通和英伟达的动向均反映了这一现实。解决方案如FlashAttention和小型语言模型通过优化数据局部性来缓解问题。
本期AINews涵盖了2026年7月6日至7日的广泛AI发展。亮点包括Lilian Weng对递归自我改进中套件工程深入分析、Meta推出Muse Image和预览Muse Video（具有代理生成循环）、以及Anthropic、LangChain和Google在代理平台上的重大产品更新。其他值得注意的内容：NVIDIA的Audex音频模型、Cohere的阿拉伯语ASR、与Hugging Face和NVIDIA的机器人集成、Liquid AI的Antidoom方法减少推理循环失败、以及Anthropic有争议的J-space可解释性研究。还涵盖了代理和法律AI的基准测试、研究自动化和推理效率进展。
NVIDIA发布了Audex，一个统一的音频-文本大语言模型，采用MoE架构（30B总参数，3B激活），基于Nemotron-Cascade-2骨干网络。该模型能处理音频理解、语音识别、翻译、TTS和音频生成，且在多阶段SFT和文本RL训练后，文本性能几乎无退化。在语音识别上领先开源模型（OpenASR WER 6.82），并能生成通用音频。模型以非商业许可发布。
NVIDIA Vera是一种专为AI代理时代设计的新型CPU，强调大规模下的最大单线程性能。它基于自研Olympus核心，相比前代Grace性能提升50%，并配备高带宽内存与低功耗设计。在代理工作负载中，Vera相比x86 CPU提供1.8倍的持续单核性能，并在真实测试中展现出1.5至1.9倍的速度提升。Vera整合了从工具调用到数据处理的全部工作，使AI工厂能最大化GPU利用率。
英伟达推出GPU租赁担保计划，旨在解决AI计算融资瓶颈，促进市场多元化。该计划通过提供最低收入保障，帮助中小云服务商获得融资，从而扩大计算资源可及性，并推动GPU融资市场发展。文章分析了AI资本支出和债务融资的快速增长前景，以及英伟达此举的战略意义。
NVIDIA和Hugging Face合作，将NVIDIA Isaac GR00T 1.7模型和Isaac Teleop框架集成到Hugging Face的开源机器人库LeRobot中，并计划引入NVIDIA Cosmos 3。这些整合为开发者提供了更易访问和标准化的机器人开发路径，推动开放机器人社区的创新。
Palantir首席执行官Alex Karp在CNBC上猛烈抨击AI行业，称其“疯狂”，并指责OpenAI和Anthropic对美国企业征收“财富税”。然而，他实际上强调了主权AI的重要性，即企业应拥有自己的计算、模型和数据。Palantir与Nvidia合作推出了主权AI OS参考架构，允许客户在安全、隔离的环境中部署Nvidia的Nemotron模型，这使股价上涨了9%。
在2026年国际机器学习大会（ICML）上，超过2000篇论文引用了NVIDIA GPU，Nemotron、Cosmos和BioNeMo等开放模型成为机器人、生命科学和合成数据生成等AI研究的基础。NVIDIA有74篇论文被收录，突出了视觉、强化学习和智能体训练等趋势。
各国正在投资国内AI基础设施，包括AI工厂、基于本地数据训练的基础模型以及人才培养，以定制化AI满足本地需求，这一趋势由生成式和代理式AI驱动。来自欧洲、亚洲和拉丁美洲的案例展示了社会效益。
Epoch AI的独立数据库覆盖全球67个大型AI数据中心，通过卫星图像、许可证等公开数据追踪其建设时间线。最大的设施是SpaceXAI在孟菲斯的Colossus 2，IT功率达946 MW，计算能力相当于111.2万块H100 GPU。美国集中了大部分数据中心，尤其在得克萨斯、俄亥俄等州。总IT功率容量达10.8 GW，加上冷却等基础设施后总设施功率达14 GW，超过纽约市峰值需求。硬件以NVIDIA H100、H200、B200 GPU为主，Google和Amazon也使用自研芯片。
美团发布了LongCat-2.0，一个1.6万亿参数的混合专家模型，完全基于国产AI ASIC超级计算机集群训练和部署，没有使用英伟达GPU。该模型在OpenRouter上以Owl Alpha的匿名名称出现，获得高使用量。虽然并非性能最强的模型，但此举证明了国产计算生态的成熟度，为中国AI产业摆脱对英伟达依赖提供了可行路径。
美团发布了LongCat-2.0，一个1.6万亿参数的开源大语言模型，完全使用国产硬件进行训练和推理，标志着中国在AI芯片自主化方面的重要突破。
Nvidia正在资助购买了其GPU的neocloud公司，通过回租闲置容量和收入分成，逐步从硬件公司转变为类似银行的角色。
Anthropic 于 2026 年 6 月 30 日发布了 Claude Science 测试版。该应用基于现有 Claude 模型，采用多智能体架构：一个协调智能体将任务分配给领域专家智能体，一个审查智能体标记并纠正引文和数字，每个图表附带其确切代码、环境和完整消息历史。它管理本地机器、通过 SSH 的 HPC 以及 Modal 上的计算，并连接 60 多个数据库和 NVIDIA BioNeMo 技能。
NVIDIA Research推出HORIZON，一种免手动代理框架，将硬件设计视为基于Git工作树的仓库级代码演化。该框架在所有评估的RTL基准测试中达到100%通过率，但团队指出代理式硬件设计尚未完全解决。
NVIDIA与多所大学团队提出ASPIRE框架，通过编写和调试机器人程序，将验证过的修复转化为可复用的技能库。在LIBERO-Pro上提升高达77分，并零样本迁移到未见过的长时域任务。
NVIDIA Cloud Functions (NVCF) 是一个用于大规模部署、管理和运行 GPU 加速工作负载的开源平台。它支持长期运行的函数和异步任务，利用 Kubernetes 进行编排，并提供统一控制平面、负载均衡路由、多集群自动缩放等功能。本文介绍了 NVCF 的架构、工作负载类型、核心能力以及如何使用 Bazel 构建。
本文深入调查NVIDIA DGX工作站的实际能力，揭露其748GB统一内存中仅252GB为高速HBM3e，其余为低速LPDDR5X。通过Cornell、Snowflake等使用案例和GLM-5.2等基准测试，探讨其能否承载本地前沿模型推理。
一个面向系统管理员、GPU服务器工程师、平台工程师、SRE和MLOps工程师的实用、可引用的知识库，涵盖从物理数据中心和InfiniBand网络到Kubernetes、Slurm、Ray、分布式训练、强化学习后训练和大规模LLM推理服务的GPU集群部署、运维和优化。涵盖NVIDIA全系列产品（Ampere、Hopper、Blackwell数据中心GPU，RTX消费级和工作站卡，DGX系统包括DGX Spark），当前以Blackwell Ultra（B300/GB300 NVL72）为重点更新至2026年中。
Anthropic 推出了 Claude Science 公开测试版，集成了 NVIDIA BioNeMo Agent Toolkit，使科学家能够使用自然语言直接与数字代理对话，执行端到端的研究工作流程，加速计算生命科学研究。
本期涵盖Anthropic的Fable 5重新上线并配备安全兜底，生态系统转向多模型编排。开源模型如GLM-5.2通过ZCode和基准测试取得进展。智能体基础设施引入维基记忆和结构化组合模式，Devin Security Swarm展示基于智能体的漏洞发现。架构进展包括NVIDIA TwoTower和端侧推理突破。
随着 AI 从模型开发转向生产推理，计算需求加速并转向持续运行的 AI 工厂。NVIDIA 推出新战略，通过收入分成和信用支持模式，让初创企业、模型构建者等获得大规模加速计算资源。Sharon AI 和 Firmus 等公司已率先部署。
AWS GovCloud（美国）区域新增对 OpenAI 开源 GPT OSS 模型（120B 和 20B）及 NVIDIA Nemotron 系列模型（Nano 9B v2、Nano 12B v2、Nano 30B、Super 120B）的支持，通过 Amazon Bedrock 提供统一的 API 访问，推理过程完全在美国境内由美国公民运营的基础设施上进行，满足 FedRAMP、DoD SRG 等合规要求。
NVIDIA 及其合作伙伴正在投资美国制造业、供应链、电网和熟练劳动力，以便美国能够生产更好的医疗、突破性科学发现、更强的工业生产力以及全球技术领导地位所需的基础设施。
NVIDIA发布了Nemotron-Labs-TwoTower扩散语言模型，该模型采用双塔架构，在冻结的自回归骨干网络上添加训练过的去噪器，实现了2.42倍的生成吞吐量提升，同时保留了98.7%的基准质量。模型以开放权重形式发布，支持扩散、模拟自回归和自回归三种推理模式。
作者使用NVIDIA Jetson Orin Nano Super和Kokoro-82M模型构建了一个本地文本转语音应用StreamTTS，利用持久流（S2）而非传统请求-响应架构，实现了可共享、可重放的实时音频生成，并解决了慢推理、多用户公平调度和去重等问题。
Hugging Face 与 Cerebras 合作，利用 Gemma 4 模型打造实时语音 AI 系统，通过开放模块化架构显著降低延迟，实现更自然的对话体验。该系统集成 Nvidia 的语音识别、Cerebras 的推理加速和 Alibaba 的语音合成，已在 9000 多台 Reachy Mini 机器人中应用。
Together AI完成8亿美元C轮融资，由Aramco Ventures、NVIDIA、Vista Equity等领投，旨在加速开源AI的普及。公司强调，闭源模型的成本无法规模化，而开源模型结合全栈优化可实现6-20倍成本降低。Together AI已推出FlashAttention-4、Together Megakernel等创新，成为全球最大的AI token生产商之一。
英伟达发布了BioNeMo Agent Toolkit，与Anthropic的Claude Science集成，使科学家能通过自然语言与AI代理交互，加速药物发现、基因组学等生命科学研究。该工具包整合了英伟达的加速模型、库和微服务，包括Parabricks、RAPIDS-singlecell和nvMolKit，显著提升计算速度。全球前20大药企中有18家使用英伟达BioNeMo。Claude Science现已进入公开测试。
Anthropic于周二推出Claude Science，这是一款面向科学家的新应用，可在macOS和Linux上本地运行或远程使用。该工具旨在整合科研人员常用的数据库和工具，如PubMed、Jupyter、R和终端，提供一站式研究环境。目前处于测试阶段，主要面向生命科学领域，但未来计划扩展。Claude Science基于标准Claude模型，通过协调代理访问超过60个数据库，并利用Nvidia BioNeMo工具包连接生命科学模型。它还能生成可视化内容（如3D蛋白质结构），并与高性能计算集群或Modal账户集成，处理大规模计算任务。