芯片

在阿聯酋，企業AI的選擇不僅關乎模型能力，更取決於數據運行地點、實際運營成本和法規合規性。前沿模型與本地開源模型的能力差距正在縮小，但自建基礎設施的成本高昂。阿聯酋的監管環境要求嚴格的數據本地化，催生了主權雲和混合架構的解決方案。企業應採用“紅綠燈”路由系統，根據數據敏感度分配模型使用，並先驗證需求再投資硬件。

瞭解如何使用 llama.cpp 本地運行 Qwythos-9B-Claude-Mythos-5-1M 模型，將其連接到 Pi 編碼代理，並通過 MTP 推測解碼和 OpenAI 兼容 API 構建快速的本地編碼工作流。

馬修·特隆普批評喬治·霍茨對AI 2040場景的否定，認為霍茨低估了快速AI突破的可行性、監管的必要性以及未對齊AI的風險。他捍衞Plan A的監管方法，並質疑霍茨的開放源碼AI“Plan L”。

Neverbell是一個AI代理技能，為交易股票、ETF、大宗商品和加密貨幣提供直接市場準入，支持槓桿操作。用户可通過自然語言指令讓代理執行交易、監控市場和管理頭寸，實現7x24小時自動化交易。它並非獨立交易平台或財務顧問，用户完全掌控風險。

谷歌人工智能的困境引發擔憂，中國新模型再次挑戰美國科技主導地位。硅谷工人也採取行動保護自己的工作免受AI影響。其他新聞包括紐約暫停新AI數據中心、IBM股價暴跌、亞馬遜雲服務鉅額賬單、特朗普加密貨幣收入等。

本文介紹了一個由5門免費課程組成的路線圖，從經典算法到從頭訓練大語言模型，幫助有Python基礎的學習者系統掌握AI技能。

阿里巴巴宣佈推出其最新大語言模型Qwen3.8，聲稱僅次於Anthropic的Fable 5，但未提供任何基準測試或模型卡。此舉發生在競爭對手月之暗面發佈Kimi K3並附有詳細技術細節之後。阿里巴巴的聲明缺乏透明度，引發對其發佈時機和動機的質疑。

Anthropic與美國政府談判後重新部署Claude Fable 5，增加網絡安全分類器，並推出Claude Sonnet 5更便宜版本；Google NotebookLM新增TikTok風格視頻摘要，Nano Banana 2 Lite圖像生成器發佈；Etched獲大量投資打造全棧推理硬件，百度AI芯片單元計劃IPO，Agility Robotics通過SPAC上市，DeepSeek擴招，中國發布Longcat 2.0 MoE模型及長週期智能體基準測試。

Enlarger是一款本地圖像放大工具，它不使用生成式AI，而是通過重構已有細節並應用後期處理來保持紋理和質感。支持批量處理、離線運行，一次性付費，無訂閲。適合攝影師、設計師等專業人士。

本期涵蓋Anthropic的AI條約討論、美國政府影響AI模型發佈、OpenAI處理器開發、內存市場影響等話題。

本期播客討論了Anthropic應美國政府要求切斷對Fable 5和Mythos 5的訪問、SpaceX以約60億美元收購AI編碼初創公司Cursor、基礎設施與商業更新（如Anthropic尋求Google支持的租賃、OpenAI財務泄露等）、以及多項開源項目和政策動態。

本期播客討論了Anthropic發佈的Claude Fable 5模型及其安全爭議、Apple在WWDC上宣佈的Siri AI、Google的Gemini 3.5實時翻譯和AI訂閲調價、OpenAI的IPO進展、Prometheus的120億美元融資、DeepSeek的融資計劃、華為對DeepSeek模型的後訓練、Google向SpaceX支付GPU費用、Gemma 4和DiffusionGemma開源模型、以及多項AI安全政策和研究動態。

百時美施貴寶將購買基於英偉達Vera Rubin架構的DGX SuperPOD，用於支持其藥物發現和開發過程中的人工智能應用。這家制藥公司表示，它將成為首家獲得基於Vera Rubin的DGX SuperPOD的生命科學企業。該系統將提供10倍於現有基礎設施的性能功耗比，並支持化合物、蛋白質等科學數據的模型訓練與預測。

本期播客討論了Anthropic發佈Claude Opus 4.8、微軟推出MAI模型、Anthropic IPO以及Minimax-M3等AI新聞。

Zro 是一個面向編碼代理的私有推理端點，在歐盟基礎設施上提供開源權重模型，零數據保留，不訓練用户數據，支持長上下文和多輪編碼會話。它集成了 Claude Code、Codex 等工具，提供 OpenAI 和 Anthropic 兼容的 API。

美國政策制定者正在討論是否通過監管風險來限制中國開源權重模型的使用。Moonshot AI的Kimi K3模型發佈後，這一爭論再次升温。企業面臨的問題不僅是性能，還有未來一年內使用這些模型是否依然暢通無阻。

NVIDIA 推出 Cosmos 3 Edge，一個僅40億參數的開放世界模型，專為設備端運行設計。它能幫助機器人和視覺AI代理理解環境、實時推理，並在本地生成機器人動作。該模型是 Cosmos 3 系列的最小成員，此前已發佈160億參數的 Nano 和640億參數的 Super。Edge 型號針對內存受限的邊緣系統（如工廠、倉庫和醫院）提供數據中心級別的性能。

中國開源AI模型Kimi的發佈，引發了特朗普政府內部AI戰略家的分裂。該模型性能媲美OpenAI和Anthropic的付費模型，卻完全免費，對特朗普的經濟和政治構成挑戰。圍繞如何應對中國AI競爭，各方意見不一，從開放支持到加強管控，分歧加劇。

法國憑藉豐富的核能提供低成本電力，在AI領域獲得競爭優勢，但美國科技巨頭可能搶先將這一資源納入囊中。

AI行業面臨兩大對立策略：一是斥資數千億美元建設核電站以支持更大規模的AI模型，二是發佈可下載的開源模型，使智能幾乎免費。文章指出這兩種策略並非對立，而是對同一個問題的不同賭注：智能是否存在天花板？如果存在，效率陣營（開源、芯片架構）將獲勝；如果需求無上限，蠻力陣營（大規模計算）將勝出。生物學提供了先例：人腦在能量限制下通過架構創新（稀疏性、內存計算）實現了高效。當前開源模型利用這些技巧，但僅覆蓋中等難度的任務，而前沿模型仍保持優勢。真正的勝負取決於智能天花板的位置。

本文提出了 SpecLA，一種針對有狀態線性注意力模型的推測解碼運行時。它通過拓撲感知內核驗證鏈和樹，存儲驗證過程中產生的緊湊因子以恢復接受狀態，並使用置信剪枝和目標對齊的EAGLE風格草案生成器提供有用候選。在NVIDIA H100上使用公共GDN-1.3B目標，SpecLA實現了比自迴歸解碼高達1.70倍的端到端加速。

OpenLanguageModel (OLM) 是一個開源的 PyTorch 庫，用於構建和預訓練小型語言模型，同時保持其內部機制可見。模型代碼直接反映架構，組件如 Block、Residual、Repeat 和 Parallel 描述連接方式。OLM 集成了分詞器、數據集、優化、混合精度、回調、檢查點以及硬件感知的執行，支持從教學筆記本到完整預訓練的無縫遷移。該庫包含 9 個常見模型家族的 27 個預設，並提供從基礎到架構研究的文檔。驗證顯示與獨立參考實現高度一致，348M 參數模型在四 GPU 上弱擴展效率達 90.6%，且早期可用性反饋積極。OLM 採用 MIT 許可證，可通過 PyPI、GitHub 和文檔站點獲取。

本文提出了一種基於算子感知的混合精度容差校準方法，通過挖掘累積的雲GPU運行數據，自動確定張量核正確性測試的最佳絕對容差，相比手工選擇的容差更嚴格，並顯著提高了錯誤檢測召回率。

本文介紹ARGO智能眼鏡平台，利用STM32N6微控制器及其集成NPU實現本地機器學習，保護隱私並降低延遲。通過軟硬件協同設計，部署優化後的YOLOv11模型進行實時城市障礙物識別，引入頭並行注意力機制（HPA）適配NPU，模型僅佔用2.483 MB內存，mAP50-95達24。該平台集成多模態傳感器，以10 FPS運行，200 mAh電池續航約113分鐘，展示了高性能、隱私保護且社交可接受輔助設備的可行性。

表面上平靜的一天，但實際充滿進展：美國政策瞄準中國開源模型，Kimi K3和Qwen 3.8取得進展，以智能體為中心的泛化方法獲得關注，模型展現出超人類數學能力。

加里·馬庫斯指出，中國AI模型Kimi K3已追平美國頂級模型，且作為開源模型免費提供，衝擊了美國AI公司的商業模式。他回顧了自己2025年以來的警告，認為美國過度依賴大語言模型（LLM）戰略失誤，導致如今中美AI競爭陷入僵局。馬庫斯提出七項建議，包括不作為、監管護城河、國有化等，並最終主張AI應成為全球公共品，提議建立類似CERN的國際AI合作項目。

daft-physical-ai 是一個新的開源 Python 庫，基於 Daft 構建，旨在簡化物理 AI 中從原始機器人視頻到訓練模型的數據處理流程。它提供了手部追蹤和獎勵評分等操作，支持懶加載、批處理和分佈式執行，幫助團隊跳過數據管道的基礎設施工作。

OpenAI戰略未來主管Dean Ball認為開放權重模型本質上是減速主義的，因為它們抑制資本支出。本文從經濟學角度探討了這一觀點，分析了中國在AI基礎設施方面的投資、訓練範式的轉變以及價值在價值鏈中的遷移。文章認為，開放權重模型可能通過降低成本擴大應用範圍，促進創新，從而實際上是加速主義的。

意大利工程師Vincenzo（又名JustVugg）創建了Colibrì，這是一個概念驗證項目，能夠在僅25GB RAM和1GB/s NVMe的CPU上運行7440億參數的GLM-5.2模型（1.5TB）。儘管速度極慢（每0.05-0.1秒一個token），但利用混合專家（MoE）架構按token加載專家，實現了前沿水平的回答質量。項目開源，旨在探索在消費級硬件上運行大型模型的可行性。

本文探討了SpaceX快速納入納斯達克100指數對指數基金投資者的影響。文章解釋了指數基金的工作原理，討論了人們對埃隆·馬斯克治理方式的擔憂，以及投資者是否應擔心市場中的人工智能集中度。

本文探討了企業級 AI “公司大腦”構建中的檢索增強生成（RAG）技術侷限性，指出標準 RAG 僅擅長處理單一事實類問題，而 GraphRAG 雖然理論上能解決多文檔綜合問題，但其高昂成本、狹窄優勢及實體解析難題使其在多數場景下過於複雜。作者介紹了其公司 QX Labs 的替代方案：“類圖 RAG”——一種基於普通數據庫的輕量級實體-關係系統，無需圖數據庫、預建圖譜或自定義本體，通過惰性總結、固定本體和實體解析瀑布流實現自服務部署，顯著降低了成本與運維負擔。

由英偉達、Meta和三星等創始成員組成的聯盟，旨在減少對芯片中稀有材料的依賴。

Stoke是一個輕量級的Rust網關，在請求到達提供商之前強制實施硬預算上限、循環檢測和速率限制，從而防止失控支出。它還提供跨多台機器的本地優先路由、基於成本/速度的自動路由以及失敗關閉架構。

本文展示瞭如何將 Amazon Quick 作為業務用户的專業代理工作流前端。通過 NVIDIA NeMo Agent Toolkit 構建供應鏈風險示例，幫助規劃人員從 Amazon Quick 儀表盤和知識上下文轉向引導式緩解建議。

舊金山一家新開的餐廳因使用AI生成的菜單圖片而遭到社區強烈批評，甚至被塗鴉破壞。店主不得不撤下圖片，並計劃通過社區活動重建聲譽。

Moonshot AI發佈了最新旗艦模型Kimi K3，這是一個2.8萬億參數的MoE模型，將於7月27日開放權重。K3在多項基準測試中排名靠前，成為最強的開源模型。文章探討了中美AI模型差距縮小、中國開源策略、開源模型的經濟影響以及中國AI的效率優勢。

本文探討了AI如何通過三種方式——將暗數據轉化為信號、擴展概率推理的問題空間、將人的能力與員工數量脱鈎——來解決零售、旅遊和消費品行業中信號與行動之間的鴻溝，並強調治理是真正的競爭優勢。

NVIDIA在SIGGRAPH 2026上宣佈多項創新，包括通過模型上下文協議（MCP）將AI代理集成到創意工具中，推出合成視頻檢測器NIM微服務以識別AI生成視頻，並開源Cosmos 3 Edge世界模型用於本地物理AI。這些進展旨在加速內容創作、媒體驗證和機器人技術。

文章分析了美國AI公司通過封閉和專有化模式維持競爭優勢，但中國通過開放模型策略正在縮小差距。AI模型自身缺乏護城河，用户容易切換，而中國企業利用開放模型獲得分佈優勢，挑戰美國的主導地位。

英國政府AI安全研究所發現，開放權重模型與封閉前沿模型在網絡安全能力上的差距正在縮小。中國公司月之暗面發佈Kimi K3模型，性能接近前沿模型，但存在一定脆性。DeepMind創始人Demis Hassabis提出類似FINRA的AGI監管框架。研究顯示，AI系統可秘密執行側信道任務，極難檢測。

本文是系列文章的第一篇，介紹如何從Go語言直接本地運行大型語言模型。文章解釋了推理的本質：基於凍結的權重進行下一個標記預測，並詳細介紹了自迴歸循環、分詞器工作原理以及GGUF文件格式的結構和加載過程。

百時美施貴寶（BMS）宣佈部署其第二代NVIDIA DGX SuperPOD，基於八套DGX Vera Rubin NVL72系統，成為生命科學領域最強大、最節能的AI集羣。新系統將向所有科學家開放，無需等待或限制，支持藥物發現全流程的AI應用，包括目標識別、化合物庫擴展和先導優化。BMS還整合了現有集羣，形成統一環境，並通過NVIDIA Mission Control提供AI原生工具。

中國領先的人工智能公司Moonshot和阿里巴巴發佈了新模型，聲稱能以更低成本與OpenAI和Anthropic的最佳模型競爭。這些開放源代碼的發佈加劇了中美技術競賽，並質疑美國鉅額投入是否能維持優勢。

空客宣佈將約900個應用從AWS遷移到法國雲服務商Scaleway，以加強數字主權。此舉反映了美國數據保護不可靠的擔憂，但供應鏈管理和AI領域仍面臨挑戰。

月之暗面發佈Kimi K3，一個擁有2.8萬億參數的開放權重模型，採用混合專家架構、量化訓練和Delta注意力機制，以內存池化策略應對美國芯片限制。儘管參數龐大，但模型通過降低計算需求來適配受限硬件，實際部署仍需數據中心級基礎設施，且軟件生態尚未完全就緒。

該公司旨在開發AI軟件，縮短芯片製造商供應鏈中的研究時間並減少稀有金屬的使用。

文章指出，到2026年，AI基礎設施的主要限制將從GPU供應轉向電網容量。預計到2027年，40%的AI數據中心將受到電力限制，新電網連接的審批時間長達24-36個月。文章詳細分析了電力需求、推理驅動電力曲線，並提出了效率提升、調度和地理分佈等策略，同時推廣Spheron的分佈式GPU網絡作為解決方案。

月之暗面AI發佈Kimi K3，在Frontend Code Arena基準測試中奪冠，引發美國AI監管辯論。儘管在前端編碼方面表現強勁，但整體仍落後於Claude Fable 5。該發佈加劇了AI監管和開源模型的政策爭論，對NVIDIA和Anthropic等股票產生影響。

Thinking Machines Lab 發佈了其首個通用開放權重基礎模型 Inkling。該模型擁有 9750 億參數（其中 410 億激活）、100 萬 token 上下文窗口，採用多模態稀疏 MoE 架構，支持文本、圖像和音頻處理。Inkling 以可定製的開源模型形態，面向多模態推理、智能體、編程、工具使用及企業微調場景。本文詳解其架構、訓練、基準測試、部署及微調工作流。

智能體AI是一種能夠自主規劃、決策和採取行動以實現特定目標的人工智能系統，代表了從簡單回應查詢到主動執行任務的重大轉變。本文探討了其定義、發展動力、常見應用、挑戰以及基礎設施的重要性。