AI chips and infrastructure analysis source; summary-only unless authorization is obtained.
xAI正在建造Colossus 2，一個千兆瓦級AI訓練叢集，透過跨州電力供應和與Solaris Energy Infrastructure的合作，實現快速建設。該專案有望在2025年第三季度超越競爭對手，並可能透過中東資金獲得數十億美元融資。
Nvidia 釋出了 Rubin CPX，這是一款專門為預填充階段最佳化的解決方案，單晶片 Rubin CPX 重點強調計算 FLOPS 而非記憶體頻寬。這對推理來說是遊戲規則的改變者，其重要性僅次於 2024 年 3 月釋出的 GB200 NVL72 Oberon 機架級形態。只有為推理的預填充和解碼這兩個截然不同的階段定製硬體，才能充分發揮分解式服務的潛力。Nvidia 的機架系統設計差距已變得如鴻溝般巨大，競爭對手需要重新調整路線圖。
華為正在加速Ascend AI晶片的生產，利用臺積電的Die Bank和SMIC的產能提升。然而，HBM（高頻寬記憶體）的短缺將成為未來生產的最大瓶頸。中國國內HBM供應商CXMT正在快速追趕，但短期內仍無法滿足需求。文章還分析了出口管制對華為的影響以及NVIDIA H20晶片進入中國市場的潛在影響。
兩年前SemiAnalysis曾警告AWS面臨“雲危機”，如今危機顯現：Azure在季度新增雲收入上領先，谷歌雲與AWS差距縮小。但SemiAnalysis逆勢看多，認為AWS將迎來AI復興，核心驅動力是合作伙伴Anthropic。Anthropic 2025年收入從10億美元激增至50億美元，AWS為其建設了超過1.3吉瓦的資料中心，用於部署近百萬顆Trainium2晶片。儘管Trainium2在效能上落後於Nvidia，但其每TCO記憶體頻寬優勢契合Anthropic的強化學習路線。AWS與Anthropic的合作正走向深度硬體-軟體協同設計，有望在2025年底推動AWS雲增速超過20%。
本文深入分析了H100與GB200 NVL72在訓練前沿模型時的基準表現，涵蓋模型浮點利用率（MFU）、總擁有成本（TCO）、每百萬token成本、能耗及可靠性。研究發現，H100在12個月內透過軟體最佳化實現了高達57%的吞吐量提升；而GB200 NVL72雖然在效能上具有優勢，但面臨可靠性挑戰和大規模訓練尚未完成的現狀。文章還提供了具體模型（如GPT-3 175B、Llama 3 405B）的詳細基準資料，並給出對Nvidia的三點建議：增加基準測試透明度、擴充套件至原生PyTorch、改進GB200診斷工具。
GPT-5的釋出讓高階使用者失望，但實際重點是為超過7億的免費使用者鋪平變現之路。文章分析OpenAI如何透過路由器（Router）技術區分查詢意圖，未來可能透過代理購買和交易抽成實現免費使用者的變現，從而打造一個消費者超級應用。
本文提出了業界首個“機器人自主級別”分類法，將機器人自主能力劃分為0到4共五個級別，每個級別基於前一級別逐步解鎖新能力。文章分析了各級別當前部署情況、經濟性、挑戰及進展，並指出通用型機器人正從早期生產階段走向勞動力替代。當前通用機器人已達到2級，3級處於早期試點，而4級仍有待突破。
Meta以約300億美元估值收購Scale AI 49%股份，顯示其資金充裕。儘管資源雄厚，Meta在模型效能上落後於基礎實驗室。Zuckerberg親自領導新“超級智慧”團隊，以鉅額薪酬挖角頂級人才，並徹底改革資料中心策略，採用帳篷式快速建設。同時，Llama 4因注意力機制、資料質量等問題遭遇失敗，但Meta正透過收購和挖角彌補人才差距。