芯片

AI行業面臨兩大對立策略：一是斥資數千億美元建設核電站以支持更大規模的AI模型，二是發佈可下載的開源模型，使智能幾乎免費。文章指出這兩種策略並非對立，而是對同一個問題的不同賭注：智能是否存在天花板？如果存在，效率陣營（開源、芯片架構）將獲勝；如果需求無上限，蠻力陣營（大規模計算）將勝出。生物學提供了先例：人腦在能量限制下通過架構創新（稀疏性、內存計算）實現了高效。當前開源模型利用這些技巧，但僅覆蓋中等難度的任務，而前沿模型仍保持優勢。真正的勝負取決於智能天花板的位置。

加里·馬庫斯指出，中國AI模型Kimi K3已追平美國頂級模型，且作為開源模型免費提供，衝擊了美國AI公司的商業模式。他回顧了自己2025年以來的警告，認為美國過度依賴大語言模型（LLM）戰略失誤，導致如今中美AI競爭陷入僵局。馬庫斯提出七項建議，包括不作為、監管護城河、國有化等，並最終主張AI應成為全球公共品，提議建立類似CERN的國際AI合作項目。

daft-physical-ai 是一個新的開源 Python 庫，基於 Daft 構建，旨在簡化物理 AI 中從原始機器人視頻到訓練模型的數據處理流程。它提供了手部追蹤和獎勵評分等操作，支持懶加載、批處理和分佈式執行，幫助團隊跳過數據管道的基礎設施工作。

OpenAI戰略未來主管Dean Ball認為開放權重模型本質上是減速主義的，因為它們抑制資本支出。本文從經濟學角度探討了這一觀點，分析了中國在AI基礎設施方面的投資、訓練範式的轉變以及價值在價值鏈中的遷移。文章認為，開放權重模型可能通過降低成本擴大應用範圍，促進創新，從而實際上是加速主義的。

意大利工程師Vincenzo（又名JustVugg）創建了Colibrì，這是一個概念驗證項目，能夠在僅25GB RAM和1GB/s NVMe的CPU上運行7440億參數的GLM-5.2模型（1.5TB）。儘管速度極慢（每0.05-0.1秒一個token），但利用混合專家（MoE）架構按token加載專家，實現了前沿水平的回答質量。項目開源，旨在探索在消費級硬件上運行大型模型的可行性。

本文探討了SpaceX快速納入納斯達克100指數對指數基金投資者的影響。文章解釋了指數基金的工作原理，討論了人們對埃隆·馬斯克治理方式的擔憂，以及投資者是否應擔心市場中的人工智能集中度。

本文探討了企業級 AI “公司大腦”構建中的檢索增強生成（RAG）技術侷限性，指出標準 RAG 僅擅長處理單一事實類問題，而 GraphRAG 雖然理論上能解決多文檔綜合問題，但其高昂成本、狹窄優勢及實體解析難題使其在多數場景下過於複雜。作者介紹了其公司 QX Labs 的替代方案：“類圖 RAG”——一種基於普通數據庫的輕量級實體-關係系統，無需圖數據庫、預建圖譜或自定義本體，通過惰性總結、固定本體和實體解析瀑布流實現自服務部署，顯著降低了成本與運維負擔。

由英偉達、Meta和三星等創始成員組成的聯盟，旨在減少對芯片中稀有材料的依賴。

Stoke是一個輕量級的Rust網關，在請求到達提供商之前強制實施硬預算上限、循環檢測和速率限制，從而防止失控支出。它還提供跨多台機器的本地優先路由、基於成本/速度的自動路由以及失敗關閉架構。

本文展示瞭如何將 Amazon Quick 作為業務用户的專業代理工作流前端。通過 NVIDIA NeMo Agent Toolkit 構建供應鏈風險示例，幫助規劃人員從 Amazon Quick 儀表盤和知識上下文轉向引導式緩解建議。

舊金山一家新開的餐廳因使用AI生成的菜單圖片而遭到社區強烈批評，甚至被塗鴉破壞。店主不得不撤下圖片，並計劃通過社區活動重建聲譽。

Moonshot AI發佈了最新旗艦模型Kimi K3，這是一個2.8萬億參數的MoE模型，將於7月27日開放權重。K3在多項基準測試中排名靠前，成為最強的開源模型。文章探討了中美AI模型差距縮小、中國開源策略、開源模型的經濟影響以及中國AI的效率優勢。

本文探討了AI如何通過三種方式——將暗數據轉化為信號、擴展概率推理的問題空間、將人的能力與員工數量脱鈎——來解決零售、旅遊和消費品行業中信號與行動之間的鴻溝，並強調治理是真正的競爭優勢。

NVIDIA在SIGGRAPH 2026上宣佈多項創新，包括通過模型上下文協議（MCP）將AI代理集成到創意工具中，推出合成視頻檢測器NIM微服務以識別AI生成視頻，並開源Cosmos 3 Edge世界模型用於本地物理AI。這些進展旨在加速內容創作、媒體驗證和機器人技術。

文章分析了美國AI公司通過封閉和專有化模式維持競爭優勢，但中國通過開放模型策略正在縮小差距。AI模型自身缺乏護城河，用户容易切換，而中國企業利用開放模型獲得分佈優勢，挑戰美國的主導地位。

英國政府AI安全研究所發現，開放權重模型與封閉前沿模型在網絡安全能力上的差距正在縮小。中國公司月之暗面發佈Kimi K3模型，性能接近前沿模型，但存在一定脆性。DeepMind創始人Demis Hassabis提出類似FINRA的AGI監管框架。研究顯示，AI系統可秘密執行側信道任務，極難檢測。

本文是系列文章的第一篇，介紹如何從Go語言直接本地運行大型語言模型。文章解釋了推理的本質：基於凍結的權重進行下一個標記預測，並詳細介紹了自迴歸循環、分詞器工作原理以及GGUF文件格式的結構和加載過程。

百時美施貴寶（BMS）宣佈部署其第二代NVIDIA DGX SuperPOD，基於八套DGX Vera Rubin NVL72系統，成為生命科學領域最強大、最節能的AI集羣。新系統將向所有科學家開放，無需等待或限制，支持藥物發現全流程的AI應用，包括目標識別、化合物庫擴展和先導優化。BMS還整合了現有集羣，形成統一環境，並通過NVIDIA Mission Control提供AI原生工具。

中國領先的人工智能公司Moonshot和阿里巴巴發佈了新模型，聲稱能以更低成本與OpenAI和Anthropic的最佳模型競爭。這些開放源代碼的發佈加劇了中美技術競賽，並質疑美國鉅額投入是否能維持優勢。

空客宣佈將約900個應用從AWS遷移到法國雲服務商Scaleway，以加強數字主權。此舉反映了美國數據保護不可靠的擔憂，但供應鏈管理和AI領域仍面臨挑戰。

月之暗面發佈Kimi K3，一個擁有2.8萬億參數的開放權重模型，採用混合專家架構、量化訓練和Delta注意力機制，以內存池化策略應對美國芯片限制。儘管參數龐大，但模型通過降低計算需求來適配受限硬件，實際部署仍需數據中心級基礎設施，且軟件生態尚未完全就緒。

該公司旨在開發AI軟件，縮短芯片製造商供應鏈中的研究時間並減少稀有金屬的使用。

文章指出，到2026年，AI基礎設施的主要限制將從GPU供應轉向電網容量。預計到2027年，40%的AI數據中心將受到電力限制，新電網連接的審批時間長達24-36個月。文章詳細分析了電力需求、推理驅動電力曲線，並提出了效率提升、調度和地理分佈等策略，同時推廣Spheron的分佈式GPU網絡作為解決方案。

月之暗面AI發佈Kimi K3，在Frontend Code Arena基準測試中奪冠，引發美國AI監管辯論。儘管在前端編碼方面表現強勁，但整體仍落後於Claude Fable 5。該發佈加劇了AI監管和開源模型的政策爭論，對NVIDIA和Anthropic等股票產生影響。

Thinking Machines Lab 發佈了其首個通用開放權重基礎模型 Inkling。該模型擁有 9750 億參數（其中 410 億激活）、100 萬 token 上下文窗口，採用多模態稀疏 MoE 架構，支持文本、圖像和音頻處理。Inkling 以可定製的開源模型形態，面向多模態推理、智能體、編程、工具使用及企業微調場景。本文詳解其架構、訓練、基準測試、部署及微調工作流。

智能體AI是一種能夠自主規劃、決策和採取行動以實現特定目標的人工智能系統，代表了從簡單回應查詢到主動執行任務的重大轉變。本文探討了其定義、發展動力、常見應用、挑戰以及基礎設施的重要性。

在災難檢查、搜索救援等關鍵任務中，通信受限的機器人必須依賴機載決策。低成本的記憶重用可能因環境變化而變得不安全（稱為“記憶陷阱”）。本文提出MemoGuard，一種輕量級自適應運行時，在重用前根據拓撲、資源和結果契約驗證記憶，僅當驗證失敗時才調用回退推理。在走廊巡檢模擬器中，與單純相似性重用相比，電池安全違規減少76.6%，回退調用次數比始終使用推理減少21.4%。在NVIDIA Jetson AGX Xavier上使用本地llama3.2:3b回退推理時，每次試驗節省3.67秒和36.97焦耳。

使用部分信息分解（PID）框架在訓練前選擇最優的MRI對比度組合，以降低多對比度3D MRI腦腫瘤分割的計算成本。研究選取T1c+T2-FLAIR作為最佳輸入對，在輕量級3D U-Nets上表現接近全輸入配置，平均Dice 0.676 vs 0.687，驗證了PID的實際價值。

隨着硅谷大力推動人工智能和裁員，曾被視為經濟贏家的科技工作者正經歷前所未有的不安全感。文章通過個人故事和行業數據，揭示了AI如何改變就業市場、加劇不平等，並引發對未來的焦慮。

本文對比了六款適合單張24GB GPU（如RTX 3090/4090）的開放權重模型，涵蓋Qwen3.6、Gemma 4、Mistral Small等，並解釋了內存分配、量化策略以及各模型的優勢場景。

Headroom是一款30秒的瀏覽器內測試工具，用於測量本地AI推理時GPU內存帶寬的真實上限，無需下載模型，使用合成權重，需要WebGPU支持。它通過三種獨立方法測量帶寬，並檢測導致瀏覽器內LLM輸出錯誤的子組bug。驗證表明，當前瀏覽器引擎受發射開銷限制，硬件仍有2-3倍潛力。

Together AI 和 Y Combinator 宣佈合作，為 YC 初創公司提供首個專用 GPU 集羣，解決計算瓶頸。初創公司可靈活承諾數週而非兩年合同，通過自助服務平台直接管理 GPU，無需經過 YC。該集羣已滿負荷運行，並支持從單節點到大規模擴展的需求。

為AI研究人員整理的免費資源合集，包括超過1000美元的免費計算積分、研究指南、社區論壇等，幫助學生在不花費一分錢的情況下開始AI研究。

台積電首席財務官黃仁昭對CNBC表示，公司正在加速亞利桑那工廠的產能擴張，以應對AI驅動的多年結構性需求。公司額外承諾投資1000億美元，使在美總投資達到2650億美元，並將全年資本支出上調至600-640億美元。台積電正在將5納米產能轉換為先進的3納米節點，2納米技術將成為下一季度營收的新驅動力。

Feyn Labs發佈了SQRL，這是一系列文本到SQL模型，能在生成查詢前通過只讀探針檢查數據庫。旗艦型號SQRL-35B-A3B在BIRD Dev上達到70.6%的執行準確率，略超Claude Opus 4.6，並可蒸餾為可自託管的4B和9B檢查點。

阿里巴巴Qwen團隊預覽了Qwen3.8-Max-Preview，一個2.4萬億參數的多模態MoE模型，號稱“僅次於Fable 5”。該預覽已在Token Plan、Qoder和QoderWork上以標準定價的10%提供。但尚未提供任何基準測試表、模型卡、許可證、每token價格或激活參數數量。本文區分了阿里巴巴確認的內容和僅聲稱的內容。

硅谷出現了一批精通AI、加密貨幣等技術的豪華伴遊，客人為了一次深入對話支付數千美元。但這種現象並非AI獨有：日本藝伎、希臘赫泰拉等早已存在類似模式。技術改變，但人類對關注和陪伴的需求始終未變。

由於Kimi K3需求超出預期，Moonshot AI宣佈暫停新訂閲以保護現有用户體驗。

本週AI領域多項重要進展：Thinking Machines發佈開源975B參數MoE模型Inkling，Moonshot AI推出2.8萬億參數Kimi K3，PrismML展示可在手機上運行的Bonsai 27B模型。OpenAI的GPT-Red通過自博弈實現自動化紅隊測試，並在測試中對GPT-5.1達到84%的攻破率。此外，習近平在上海世界人工智能大會上強調開源AI作為全球公共品，呼籲國際合作。

人工智能正從基於規則的程序設計（軟件1.0）演變為機器學習（軟件2.0），再到如今具有湧現推理能力的自然語言界面（軟件3.0）。大規模語言模型（LLM）是一種通用技術，影響廣泛，但缺乏物理根基。下一個前沿是空間智能與物理AI，推動自動駕駛和人形機器人發展。

Zlvox是一個提供25款免費開發者工具的平台，涵蓋AI、JSON、PDF、圖像處理等，強調隱私保護（客户端處理，零數據存儲）和卓越性能。無需註冊即可使用。

中國三家實驗室的旗艦開源MoE模型——Kimi K3、DeepSeek V4 Pro和GLM-5.2——在基準測試、許可條款和服務成本上各有優劣。Kimi K3性能最強但僅限API，DeepSeek V4 Pro成本最低且立即開源，GLM-5.2平衡了速度與可部署性。

本教程詳細介紹瞭如何在Google Colab上使用單個GPU，通過NVIDIA NeMo AutoModel對Qwen3-0.6B模型進行LoRA參數高效微調。涵蓋環境驗證、源碼安裝、配方加載與調整、命令行訓練、模型評估以及Python API調用。

紐約市長佐蘭·曼達尼發佈《租賃欺詐報告》，要求房東和中介在租房廣告中披露是否使用AI生成或編輯的圖像。此舉旨在打擊虛假房源廣告，保護租客權益，並將推動租户工會合法化、擴大租客談判權等措施。

NVIDIA DeepStream 9.1 引入了13項智能體技能，允許Claude Code和Codex等編碼代理通過自然語言提示構建多攝像頭視頻分析管道。多視角3D追蹤（MV3DT）將每個攝像頭的檢測結果融合到一個共享的3D世界中，並分配全局一致的對象ID，而AutoMagicCalib（AMC）則消除了手動攝像頭校準。該版本還增加了JetPack 7.2支持和一個統一的GitHub開源倉庫。

Talon是一個多平台、可自託管的AI代理框架，支持Telegram、Discord、Microsoft Teams、終端及跨平台的桌面/移動應用。它提供可插拔的後端（Claude Agent SDK、Kilo、OpenCode、Codex、OpenAI Agents）和完整的MCP工具訪問，具備背景代理、目標管理、技能系統、事件總線等功能。項目架構清晰，前端與後端獨立，支持熱重載插件和技能，便於擴展。

人工智能（AI）繁榮日益依賴債務融資，但隨着超大規模企業加大債券發行，投資者需求卻在下降。亞馬遜最近的債券發行不得不提高收益率，訂單倍數下降。AI債券供應激增，但投資者要求更高利差。同時，中國AI模型Kimi K3的突破性性能引發對美國AI支出可持續性的擔憂，可能導致經濟衰退。

PixelUp 是一款專為 Windows 設計的輕量級 AI 視頻放大工具，利用 FSRCNN 和 ESPCN 深度學習模型，在本地硬件上快速將低分辨率視頻提升至高清畫質。它支持 Nvidia CUDA、Vulkan 和 CPU 處理，提供批量任務管理、無損音頻同步，並採用終身許可證模式，一次性付費 $19，無需訂閲，完全保護用户隱私。

AIpine是一款專為iPhone設計的應用，用於查看、預覽和組織AI生成的各類文件，如JSX、HTML、Mermaid圖表、SVG等，支持離線使用，無賬户和雲服務，保護用户隱私。

BaseRT在Apple M5芯片上實現顯著性能提升，比llama.cpp快6.4倍，比MLX快3.9倍。