芯片

大型科技公司利用可變利益實體（VIE）等表外融資工具為AI基礎設施籌集資金，這可能掩蓋真實債務水平。專家警告，這種會計處理存在風險，可能重蹈安然醜聞覆轍。

本文進一步強化AI代理的安全措施，包括Docker沙箱隔離、提示注入防禦和輸入驗證。Docker沙箱將工具執行隔離在容器內，防止對主機造成損害。提示注入防禦通過標記和明確指令將工具輸出視為數據。輸入驗證確保所有工具輸入在執行前符合模式。

本教程探討了 NVIDIA 的 srt-slurm 框架，學習如何使用 srtctl 將聲明式 YAML 配置轉換為可重複的 SLURM 基準測試工作流，用於分佈式 LLM 服務。在 Google Colab 中設置項目，檢查內部架構，定義集羣配置，試運行內置和自定義配方，併為 DeepSeek-R1 建模分離的預填充和解碼部署。還生成參數掃描，與類型化 Python API 交互，驗證擴展配置，並通過吞吐量與延遲的帕累託前沿分析模擬的基準測試結果。

Google發佈了Gemini 3.6 Flash和3.5 Flash-Lite，旨在降低企業AI代理的延遲和Token成本。3.6 Flash在多項基準測試中性能提升顯著，而3.5 Flash-Lite則專注於高吞吐量、低延遲的場景。此外，Google還推出了針對網絡安全的3.5 Flash Cyber模型，並集成了客户端計算機使用工具。

NVIDIA Vera Rubin NVL72 正加速生產，與 CoreWeave、Google Cloud、Microsoft Azure 和 Oracle Cloud Infrastructure 等合作伙伴共同部署。該平台通過極致協同設計實現最高的每瓦性能和最低的令牌成本，在 DeepSeek-R1 基準測試中每兆瓦吞吐量比 Grace Blackwell NVL72 提升 10 倍。Vera Rubin 還支持歐洲開放模型時代，與微軟和 Mistral 合作擴展 AI 基礎設施。

NVIDIA宣佈其102.4太比特每秒的Spectrum-6以太網交換機系統已開始交付，該系統作為Vera Rubin平台的一部分，專為千兆級AI工廠設計，提供兩倍於上一代的帶寬。CoreWeave、Microsoft、Nebius等領先AI基礎設施構建者將首批部署。Spectrum-6是Spectrum-X以太網平台的新一代核心，通過智能交換、ConnectX-9 SuperNIC和全棧軟件，實現高達1.6倍的AI網絡性能提升和95%的網絡效率。

在阿聯酋，企業AI的選擇不僅關乎模型能力，更取決於數據運行地點、實際運營成本和法規合規性。前沿模型與本地開源模型的能力差距正在縮小，但自建基礎設施的成本高昂。阿聯酋的監管環境要求嚴格的數據本地化，催生了主權雲和混合架構的解決方案。企業應採用“紅綠燈”路由系統，根據數據敏感度分配模型使用，並先驗證需求再投資硬件。

瞭解如何使用 llama.cpp 本地運行 Qwythos-9B-Claude-Mythos-5-1M 模型，將其連接到 Pi 編碼代理，並通過 MTP 推測解碼和 OpenAI 兼容 API 構建快速的本地編碼工作流。

馬修·特隆普批評喬治·霍茨對AI 2040場景的否定，認為霍茨低估了快速AI突破的可行性、監管的必要性以及未對齊AI的風險。他捍衞Plan A的監管方法，並質疑霍茨的開放源碼AI“Plan L”。

Neverbell是一個AI代理技能，為交易股票、ETF、大宗商品和加密貨幣提供直接市場準入，支持槓桿操作。用户可通過自然語言指令讓代理執行交易、監控市場和管理頭寸，實現7x24小時自動化交易。它並非獨立交易平台或財務顧問，用户完全掌控風險。

谷歌人工智能的困境引發擔憂，中國新模型再次挑戰美國科技主導地位。硅谷工人也採取行動保護自己的工作免受AI影響。其他新聞包括紐約暫停新AI數據中心、IBM股價暴跌、亞馬遜雲服務鉅額賬單、特朗普加密貨幣收入等。

本文介紹了一個由5門免費課程組成的路線圖，從經典算法到從頭訓練大語言模型，幫助有Python基礎的學習者系統掌握AI技能。

阿里巴巴宣佈推出其最新大語言模型Qwen3.8，聲稱僅次於Anthropic的Fable 5，但未提供任何基準測試或模型卡。此舉發生在競爭對手月之暗面發佈Kimi K3並附有詳細技術細節之後。阿里巴巴的聲明缺乏透明度，引發對其發佈時機和動機的質疑。

Anthropic與美國政府談判後重新部署Claude Fable 5，增加網絡安全分類器，並推出Claude Sonnet 5更便宜版本；Google NotebookLM新增TikTok風格視頻摘要，Nano Banana 2 Lite圖像生成器發佈；Etched獲大量投資打造全棧推理硬件，百度AI芯片單元計劃IPO，Agility Robotics通過SPAC上市，DeepSeek擴招，中國發布Longcat 2.0 MoE模型及長週期智能體基準測試。

Enlarger是一款本地圖像放大工具，它不使用生成式AI，而是通過重構已有細節並應用後期處理來保持紋理和質感。支持批量處理、離線運行，一次性付費，無訂閲。適合攝影師、設計師等專業人士。

本期涵蓋Anthropic的AI條約討論、美國政府影響AI模型發佈、OpenAI處理器開發、內存市場影響等話題。

本期播客討論了Anthropic應美國政府要求切斷對Fable 5和Mythos 5的訪問、SpaceX以約60億美元收購AI編碼初創公司Cursor、基礎設施與商業更新（如Anthropic尋求Google支持的租賃、OpenAI財務泄露等）、以及多項開源項目和政策動態。

本期播客討論了Anthropic發佈的Claude Fable 5模型及其安全爭議、Apple在WWDC上宣佈的Siri AI、Google的Gemini 3.5實時翻譯和AI訂閲調價、OpenAI的IPO進展、Prometheus的120億美元融資、DeepSeek的融資計劃、華為對DeepSeek模型的後訓練、Google向SpaceX支付GPU費用、Gemma 4和DiffusionGemma開源模型、以及多項AI安全政策和研究動態。

百時美施貴寶將購買基於英偉達Vera Rubin架構的DGX SuperPOD，用於支持其藥物發現和開發過程中的人工智能應用。這家制藥公司表示，它將成為首家獲得基於Vera Rubin的DGX SuperPOD的生命科學企業。該系統將提供10倍於現有基礎設施的性能功耗比，並支持化合物、蛋白質等科學數據的模型訓練與預測。

本期播客討論了Anthropic發佈Claude Opus 4.8、微軟推出MAI模型、Anthropic IPO以及Minimax-M3等AI新聞。

Zro 是一個面向編碼代理的私有推理端點，在歐盟基礎設施上提供開源權重模型，零數據保留，不訓練用户數據，支持長上下文和多輪編碼會話。它集成了 Claude Code、Codex 等工具，提供 OpenAI 和 Anthropic 兼容的 API。

美國政策制定者正在討論是否通過監管風險來限制中國開源權重模型的使用。Moonshot AI的Kimi K3模型發佈後，這一爭論再次升温。企業面臨的問題不僅是性能，還有未來一年內使用這些模型是否依然暢通無阻。

NVIDIA 推出 Cosmos 3 Edge，一個僅40億參數的開放世界模型，專為設備端運行設計。它能幫助機器人和視覺AI代理理解環境、實時推理，並在本地生成機器人動作。該模型是 Cosmos 3 系列的最小成員，此前已發佈160億參數的 Nano 和640億參數的 Super。Edge 型號針對內存受限的邊緣系統（如工廠、倉庫和醫院）提供數據中心級別的性能。

中國開源AI模型Kimi的發佈，引發了特朗普政府內部AI戰略家的分裂。該模型性能媲美OpenAI和Anthropic的付費模型，卻完全免費，對特朗普的經濟和政治構成挑戰。圍繞如何應對中國AI競爭，各方意見不一，從開放支持到加強管控，分歧加劇。

法國憑藉豐富的核能提供低成本電力，在AI領域獲得競爭優勢，但美國科技巨頭可能搶先將這一資源納入囊中。

AI行業面臨兩大對立策略：一是斥資數千億美元建設核電站以支持更大規模的AI模型，二是發佈可下載的開源模型，使智能幾乎免費。文章指出這兩種策略並非對立，而是對同一個問題的不同賭注：智能是否存在天花板？如果存在，效率陣營（開源、芯片架構）將獲勝；如果需求無上限，蠻力陣營（大規模計算）將勝出。生物學提供了先例：人腦在能量限制下通過架構創新（稀疏性、內存計算）實現了高效。當前開源模型利用這些技巧，但僅覆蓋中等難度的任務，而前沿模型仍保持優勢。真正的勝負取決於智能天花板的位置。

本文提出了 SpecLA，一種針對有狀態線性注意力模型的推測解碼運行時。它通過拓撲感知內核驗證鏈和樹，存儲驗證過程中產生的緊湊因子以恢復接受狀態，並使用置信剪枝和目標對齊的EAGLE風格草案生成器提供有用候選。在NVIDIA H100上使用公共GDN-1.3B目標，SpecLA實現了比自迴歸解碼高達1.70倍的端到端加速。

OpenLanguageModel (OLM) 是一個開源的 PyTorch 庫，用於構建和預訓練小型語言模型，同時保持其內部機制可見。模型代碼直接反映架構，組件如 Block、Residual、Repeat 和 Parallel 描述連接方式。OLM 集成了分詞器、數據集、優化、混合精度、回調、檢查點以及硬件感知的執行，支持從教學筆記本到完整預訓練的無縫遷移。該庫包含 9 個常見模型家族的 27 個預設，並提供從基礎到架構研究的文檔。驗證顯示與獨立參考實現高度一致，348M 參數模型在四 GPU 上弱擴展效率達 90.6%，且早期可用性反饋積極。OLM 採用 MIT 許可證，可通過 PyPI、GitHub 和文檔站點獲取。

本文提出了一種基於算子感知的混合精度容差校準方法，通過挖掘累積的雲GPU運行數據，自動確定張量核正確性測試的最佳絕對容差，相比手工選擇的容差更嚴格，並顯著提高了錯誤檢測召回率。

本文介紹ARGO智能眼鏡平台，利用STM32N6微控制器及其集成NPU實現本地機器學習，保護隱私並降低延遲。通過軟硬件協同設計，部署優化後的YOLOv11模型進行實時城市障礙物識別，引入頭並行注意力機制（HPA）適配NPU，模型僅佔用2.483 MB內存，mAP50-95達24。該平台集成多模態傳感器，以10 FPS運行，200 mAh電池續航約113分鐘，展示了高性能、隱私保護且社交可接受輔助設備的可行性。

表面上平靜的一天，但實際充滿進展：美國政策瞄準中國開源模型，Kimi K3和Qwen 3.8取得進展，以智能體為中心的泛化方法獲得關注，模型展現出超人類數學能力。

加里·馬庫斯指出，中國AI模型Kimi K3已追平美國頂級模型，且作為開源模型免費提供，衝擊了美國AI公司的商業模式。他回顧了自己2025年以來的警告，認為美國過度依賴大語言模型（LLM）戰略失誤，導致如今中美AI競爭陷入僵局。馬庫斯提出七項建議，包括不作為、監管護城河、國有化等，並最終主張AI應成為全球公共品，提議建立類似CERN的國際AI合作項目。

daft-physical-ai 是一個新的開源 Python 庫，基於 Daft 構建，旨在簡化物理 AI 中從原始機器人視頻到訓練模型的數據處理流程。它提供了手部追蹤和獎勵評分等操作，支持懶加載、批處理和分佈式執行，幫助團隊跳過數據管道的基礎設施工作。

Cognition 開發的 AI 軟件工程師 Devin 現可通過 Devin Outposts 在 Modal 沙盒中運行，支持自定義環境（如 GPU）和快速冷啓動。

OpenAI戰略未來主管Dean Ball認為開放權重模型本質上是減速主義的，因為它們抑制資本支出。本文從經濟學角度探討了這一觀點，分析了中國在AI基礎設施方面的投資、訓練範式的轉變以及價值在價值鏈中的遷移。文章認為，開放權重模型可能通過降低成本擴大應用範圍，促進創新，從而實際上是加速主義的。

意大利工程師Vincenzo（又名JustVugg）創建了Colibrì，這是一個概念驗證項目，能夠在僅25GB RAM和1GB/s NVMe的CPU上運行7440億參數的GLM-5.2模型（1.5TB）。儘管速度極慢（每0.05-0.1秒一個token），但利用混合專家（MoE）架構按token加載專家，實現了前沿水平的回答質量。項目開源，旨在探索在消費級硬件上運行大型模型的可行性。

本文探討了SpaceX快速納入納斯達克100指數對指數基金投資者的影響。文章解釋了指數基金的工作原理，討論了人們對埃隆·馬斯克治理方式的擔憂，以及投資者是否應擔心市場中的人工智能集中度。

本文探討了企業級 AI “公司大腦”構建中的檢索增強生成（RAG）技術侷限性，指出標準 RAG 僅擅長處理單一事實類問題，而 GraphRAG 雖然理論上能解決多文檔綜合問題，但其高昂成本、狹窄優勢及實體解析難題使其在多數場景下過於複雜。作者介紹了其公司 QX Labs 的替代方案：“類圖 RAG”——一種基於普通數據庫的輕量級實體-關係系統，無需圖數據庫、預建圖譜或自定義本體，通過惰性總結、固定本體和實體解析瀑布流實現自服務部署，顯著降低了成本與運維負擔。

由英偉達、Meta和三星等創始成員組成的聯盟，旨在減少對芯片中稀有材料的依賴。

Stoke是一個輕量級的Rust網關，在請求到達提供商之前強制實施硬預算上限、循環檢測和速率限制，從而防止失控支出。它還提供跨多台機器的本地優先路由、基於成本/速度的自動路由以及失敗關閉架構。

本文展示瞭如何將 Amazon Quick 作為業務用户的專業代理工作流前端。通過 NVIDIA NeMo Agent Toolkit 構建供應鏈風險示例，幫助規劃人員從 Amazon Quick 儀表盤和知識上下文轉向引導式緩解建議。

舊金山一家新開的餐廳因使用AI生成的菜單圖片而遭到社區強烈批評，甚至被塗鴉破壞。店主不得不撤下圖片，並計劃通過社區活動重建聲譽。

Moonshot AI發佈了最新旗艦模型Kimi K3，這是一個2.8萬億參數的MoE模型，將於7月27日開放權重。K3在多項基準測試中排名靠前，成為最強的開源模型。文章探討了中美AI模型差距縮小、中國開源策略、開源模型的經濟影響以及中國AI的效率優勢。

本文探討了AI如何通過三種方式——將暗數據轉化為信號、擴展概率推理的問題空間、將人的能力與員工數量脱鈎——來解決零售、旅遊和消費品行業中信號與行動之間的鴻溝，並強調治理是真正的競爭優勢。

NVIDIA在SIGGRAPH 2026上宣佈多項創新，包括通過模型上下文協議（MCP）將AI代理集成到創意工具中，推出合成視頻檢測器NIM微服務以識別AI生成視頻，並開源Cosmos 3 Edge世界模型用於本地物理AI。這些進展旨在加速內容創作、媒體驗證和機器人技術。

文章分析了美國AI公司通過封閉和專有化模式維持競爭優勢，但中國通過開放模型策略正在縮小差距。AI模型自身缺乏護城河，用户容易切換，而中國企業利用開放模型獲得分佈優勢，挑戰美國的主導地位。

英國政府AI安全研究所發現，開放權重模型與封閉前沿模型在網絡安全能力上的差距正在縮小。中國公司月之暗面發佈Kimi K3模型，性能接近前沿模型，但存在一定脆性。DeepMind創始人Demis Hassabis提出類似FINRA的AGI監管框架。研究顯示，AI系統可秘密執行側信道任務，極難檢測。

本文是系列文章的第一篇，介紹如何從Go語言直接本地運行大型語言模型。文章解釋了推理的本質：基於凍結的權重進行下一個標記預測，並詳細介紹了自迴歸循環、分詞器工作原理以及GGUF文件格式的結構和加載過程。

百時美施貴寶（BMS）宣佈部署其第二代NVIDIA DGX SuperPOD，基於八套DGX Vera Rubin NVL72系統，成為生命科學領域最強大、最節能的AI集羣。新系統將向所有科學家開放，無需等待或限制，支持藥物發現全流程的AI應用，包括目標識別、化合物庫擴展和先導優化。BMS還整合了現有集羣，形成統一環境，並通過NVIDIA Mission Control提供AI原生工具。

中國領先的人工智能公司Moonshot和阿里巴巴發佈了新模型，聲稱能以更低成本與OpenAI和Anthropic的最佳模型競爭。這些開放源代碼的發佈加劇了中美技術競賽，並質疑美國鉅額投入是否能維持優勢。