晶片

超級應用Codex每天新增100萬使用者。AI新聞彙總涵蓋編碼代理、開放模型、多模態系統、基準測試和物理AI。

PrismML釋出了Bonsai 27B，這是Qwen3.6-27B的低位表示，並非全新預訓練模型。提供三進位制和二進位制兩種變體，採用Apache 2.0許可證。三進製版本每位僅1.71位元，理想大小為5.9GB；二進位制版本每位1.125位元，大小為3.9GB。效能方面，三進位制保留FP16基線的94.6%，二進位制保留89.5%。該模型支援多模態，上下文長度262K令牌。PrismML聲稱二進位制版本是首個適合手機的27B級模型。

開源AI已達到與封閉模型的能力平價，推理成本在36個月內下降了50倍，開源權重在API呼叫量上佔據主導地位。儘管開發者廣泛採用開源模型（79%），但生產部署仍面臨運營工具和信任度挑戰（僅51%成功部署）。開源不僅是成本選擇，更是主權選擇，尤其在中國和全球南方國家的戰略推動下。

本文深入探討了TPU和GPU叢集拓撲結構，以及用於Transformer訓練和推理的核心集體操作。重點介紹了環狀演算法在大型訊息通訊中的應用，並分析了TPU的2D/3D環面拓撲和頻寬層次結構。

臺灣晶片製造商正在擴大製造能力，以支援日益增長的人工智慧基礎設施需求。

開放模型如NVIDIA Nemotron使企業能夠構建滿足特定需求的AI，提供完全的控制權、定製能力和成本效益，並推動從AI使用到AI擁有的轉變。

在AI工廠中，電力是不可迴避的約束。每瓦效能決定了在固定電力預算內能生成的token數量，直接影響收入和盈利能力。隨著代理型AI推動token需求增長，今天的架構決策將決定誰能擴充套件。NVIDIA Blackwell平臺透過全棧協同設計實現高達25倍的每瓦效能提升，並已在生產中驗證。

軟體是AI產生巨大經濟價值的首個領域，這得益於其可驗證性和“可研磨性”。本文探討了哪些行業將接下來被顛覆，軟體工程師角色的轉變，以及AI利潤最終會流向哪裡的爭議。重點強調了強化學習環境和持續學習能力的關鍵作用。

蘋果起訴OpenAI竊取商業機密，指控三名前蘋果員工（包括前副總裁Tang Tan）將硬體機密帶給OpenAI。此案發生在OpenAI準備IPO和推出硬體裝置的關鍵時刻。法律專家表示，蘋果是頑強的訴訟方，此案可能持續多年。

Databricks Lakebase是一種完全託管的無伺服器Postgres資料庫，專為代理時代構建。它透過統一運營和分析工作負載、消除基礎設施摩擦來幫助企業實現現代化。全球合作伙伴已構建了一系列跨行業和功能的加速器，涵蓋技術、金融、營銷、銷售、供應鏈等領域，以加速資料現代化、MLOps和代理式AI轉型。

一位開發者構建了一個強化學習管道，其中 AI 智慧體編寫訓練作業來訓練小型模型，然後透過強化學習對智慧體本身進行訓練，獎勵其生成更好的模型。結果顯示，在 54 個訓練步驟中，獎勵從約 0.0 上升到約 0.63，並且技能可以轉移到未見過的任務族。總成本約 1,275 美元。

擴充套件LLM的關鍵不是增加GPU，而是消除每個請求中的不必要工作。本文介紹了12種實用的減少延遲和成本的方法。

歐洲核子研究中心（CERN）的大型強子對撞機每秒產生4000萬次粒子碰撞，AI被用於即時過濾資料，尋找可能包含重大發現的碰撞。從希格斯玻色子的發現到未來環形對撞機的設計，AI正在改變粒子物理學的各個階段。

X（原Twitter）推出了託管MCP伺服器，允許AI代理訪問平臺資料。作者Daniel Lemire將AI編碼代理連線到X的MCP伺服器，分析了自己兩個月的發帖歷史。他發現早晨（尤其是9點左右）的帖子中位瀏覽量最高，較長的帖子（300-325字元）比短回覆獲得顯著更多的互動。這一過程展示了AI代理如何簡化社交媒體資料分析。

伯尼·桑德斯提議透過國有化主要AI公司一半股份來建立主權財富基金，引發熱議。文章從自由主義財產權理論到社會主義視角分析其合理性，認為AI應造福全人類。

本文首次演示了基於低功耗MCU的邊緣裝置用於自動車牌識別（ALPR）。該設計利用9核RISC-V處理器GAP8，結合QVGA超低功耗灰度成像器，採用基於SSDlite-MobilenetV2和LPRNet的多模型推理方法，在公共資料集上達到38.9%的mAP和超過99.13%的識別率。在真實世界中可識別小至30x5畫素的車牌。多模型推理（687 MMAC）在GAP8上以1.09 FPS和117 mW執行，相比樹莓派3系統能效提升73倍，且無需硬連線加速引擎。

本文提出了一種混合搜尋框架，結合湯普森取樣與並行自迴避行走，以有效分配低自相關二進位制序列（LABS）問題中的計算資源。該方法模型化為多臂老虎機，動態優先處理有前景的搜尋空間分割槽，在35個序列長度上取得了新的最佳結果，並獲得了因子超過8.0的最長序列。

Melodusk是一款基於瀏覽器的AI音樂生成器，透過文本描述可在2分鐘內生成專業品質的音樂，支援100多種風格，並提供人聲分離等工具，所有音樂免版稅商用。

過去幾天，OpenAI的Codex使用者數突破700萬，6個月內增長超10倍，而Claude Code的增速放緩。Prime Intellect釋出了verifiers v1，用於智慧體強化學習；OpenAI解決了GPT-5.6 Sol的用量問題；Grok Build因上傳整個程式碼庫引發安全爭議；開放模型和量化技術取得進展；持續學習等研究方向重新受到關注。

Meta計劃投資500億美元擴建其路易斯安那州的資料中心，並探索出租多餘計算能力給其他AI實驗室。這表明Meta可能效仿亞馬遜、谷歌等公司，從社交媒體巨頭轉型為雲服務提供商。

大規模AI資料中心投資導致晶片、電腦和電力價格上漲，可能使通脹持續高於美聯儲目標，並促使加息。

OpenAI 最新智慧模型系列 GPT-5.6 Sol、Terra 和 Luna 已在 Amazon Bedrock 上正式可用，帶來旗艦級推理模型 Sol、平衡型模型 Terra 和快速低成本模型 Luna。Amazon Bedrock 的下一代推理引擎提供高效能、安全性和可靠性，支援提示快取（90% 折扣）、區域內推理和晶片級零操作員訪問安全。同時釋出了 ChatGPT Work 和 Codex 代理。

Fleet Deck 是一個本地工具，可即時監控和管理所有正在執行的 Claude Code 會話。它提供一個看板，顯示每個會話的狀態、衝突提醒、需求佇列，並支援任務分配、遠端控制、會話恢復等功能。核心架構零模型呼叫，依靠鉤子事件和確定性邏輯，確保安全與高效。

薩提亞·納德拉（Satya Nadella）警告企業，向AI實驗室付費的同時也在洩露專有資料，形成“反向資訊悖論”。他建議企業建立自有AI學習環境，而微軟則推薦其Copilot和Azure AI Foundry作為解決方案。

PlanWright 是一個為 AI 編碼智慧體設計的控制平面，透過反轉規劃和驗收流程來消除人工瓶頸，使智慧體速度與人類決策解耦，並生成不可篡改的審計鏈。

Amazon SageMaker AI Studio推出了生成式AI推理推薦的低程式碼/無程式碼使用者介面，引導使用者透過預設用例配置、視覺化比較和一鍵部署，無需深厚基礎設施知識即可獲得驗證的配置。

市場普遍預期超大規模企業的自由現金流將在未來幾年翻倍以上，但如果AI回報慢於預期，可能引發現金流失望、科技股拋售波及大盤、以及信貸風險上升。

高盛研究顯示，人工智慧繁榮引發的供應限制正推高記憶體晶片和半導體等關鍵元件價格，導致美國核心PCE通脹每年上升約20個基點，年底前可能翻倍至50個基點，遠超其他發達國家的10個基點平均增幅。

斯坦福大學的研究團隊提出了TRACE系統，透過分析智慧體失敗軌跡，診斷缺失的能力，併為每個能力合成可驗證的訓練環境，利用LoRA介面卡和GRPO演算法進行訓練，最後透過MoE組合實現令牌級路由。在τ²-Bench上提升15.3個百分點，在SWE-bench Verified上達到73.2%的Pass@1，超越了多個基線模型。

Prime Intellect 釋出了 verifiers 0.2.0，預覽了重寫的 v1 核心。v1 將環境分解為任務集（做什麼）、框架（怎麼做）和執行時（在哪裡），並透過攔截伺服器記錄訓練軌跡。任何任務集均可與任何相容框架配合使用，並直接支援 prime-rl 訓練。

隨著AI代理和自動化平臺快速發展，記憶體頻寬成為關鍵瓶頸。蘋果統一記憶體架構、CUDIMM標準以及PC升級潮正在重塑市場，而三星、SK海力士等記憶體製造商因HBM產能分配而獲得結構性利好。

本文提出了一種針對大語言模型推理的高效GPU方法，採用三層矩陣儲存格式，包括稀疏張量核心層、插槽填充層和殘差層，實現稀疏矩陣乘法，在50%稀疏度下首次超越密集矩陣乘法，最高可達1.64倍核心加速和1.41倍端到端加速。

本文介紹了Director，一種新的分散式MoE推理系統，透過預測驅動的線上專家放置最佳化，顯著降低端到端延遲。系統採用輕量級級聯預測器或低位元量化副本預測專家啟用模式，結合近乎零停機的線上遷移模組，以及基於鬆弛最佳化的專家放置演算法，在多項式時間內達到(1+ε)近似比。實驗表明，在Mistral、DeepSeek和Qwen等流行MoE模型上，相比現有工作延遲降低11%~55%。

本文提出有符號對稱量化方法，解決標準對稱量化器因整數範圍不平衡導致的正異常值截斷問題，同時避免非對稱量化的執行時開銷。理論分析表明該方法在ℓ2誤差上條件最優，且88-99%的LLM權重組滿足條件。實驗在Qwen3、Llama3等模型上驗證了困惑度和少樣本準確率的提升。

AVA是一個開源自託管語音AI代理，專為Asterisk/FreePBX設計，提供快速部署、多代理管理、即時儀表盤和多AI引擎支援。最新更新包括穩定性修復、靜默看門狗和每代理語音選擇等功能。

Tinier 是一套免費的瀏覽器內媒體工具，支援影像壓縮、格式轉換、AI 放大和影片轉 GIF，所有處理均在本地裝置完成，無需上傳檔案，保護隱私。

密歇根大學研究團隊推出NeuroVFM，一種基於524萬臨床MRI和CT體積訓練的通用神經影像基礎模型。其Vol-JEPA方法將自監督學習擴充套件到體積醫學影像，無需放射報告標籤即可學習大腦解剖和病理。在156項診斷任務中達到92.68（CT）和92.49（MRI）的AUROC，並支援報告生成、分診和跨模態遷移。

一個Argo CD UI擴充套件，在資源檢視中新增AI助手選項卡，允許使用者用自然語言查詢Kubernetes資源，並附加上下文（清單、事件、可選日誌）。相容任何OpenAI相容後端，需要Argo CD v2.13+。

本文提出將AI使用者未使用的推理代幣眾籌用於科學研究，類比於SETI@home專案。討論了小型團隊利用AI解決數學問題的成功案例，以及眾籌推理能力所需的設計挑戰。

OpenAI和Anthropic致力於構建大型通用模型，但微軟等公司正轉向開發小型專用模型，以降低成本並提高效率。微軟的MAI模型家族正在取代OpenAI的模型，用於其產品中的AI功能。

微軟正在測試Copilot的“PC Insights”功能，可以分析系統資源使用情況，幫助使用者找出效能瓶頸。然而，Copilot本身是一個完整的Web應用，附帶私人版Edge，空閒時佔用高達1GB記憶體，凸顯了其資源消耗的諷刺性。該功能為可選，預設不自動掃描，使用者需授予許可權。

蘋果的自動駕駛汽車專案雖未成功，但其對AI處理的需求催生了神經網路引擎。該引擎首次亮相於iPhone X的A11仿生晶片，現已成為蘋果裝置端AI處理的核心，並延續至M系列晶片。未來，蘋果將加速M7晶片開發，其神經網路引擎大幅升級，M7 Ultra伺服器晶片將支援高達1.5TB記憶體。

蘋果公司指控OpenAI及其兩名前蘋果員工竊取商業機密，用於開發ChatGPT硬體裝置。訴訟稱這是“機構層面的協調不當行為模式”，OpenAI否認並表示沒有興趣竊取其他公司的機密。

AI資料中心需求推動記憶體製造商收入激增，但產能建設滯後可能導致長期高價，若AI需求未達預期，將面臨嚴重衰退。

前沿AI實驗室正從聊天機器人轉向整合系統，模型作為執行時，頻繁釋出強大模型和代理。本週亮點包括OpenAI的GPT-5.6（Sol、Terra、Luna），具備程式化工具呼叫和並行子代理；GPT-Live全雙工音訊；ChatGPT Work用於建立工件；Meta的Muse Spark 1.1擁有百萬token上下文和主動上下文管理；Grok 4.5專注於編碼和知識工作。研究方面，OpenAI審計表明SWE-Bench Pro基準30%任務有問題；Anthropic提出GRAM方法可選擇性移除危險知識；SkillOpt-Lite最佳化代理自我進化；DSpark和Nemotron-Labs-Diffusion改進推理效率。行業新聞包括Lovable融資3億美元，Prime Intellect融資1.3億美元，SambaNova融資10億美元等。

MSK是一款基於iPhone的AI CTO代理應用，提供架構審查、擴充套件建議和創業策略服務。它模擬了擁有15年以上經驗、參與過300多個專案、服務過50多家初創公司的技術長Moeid Saleem Khan的思維方式。使用者可以透過聊天或語音方式諮詢技術、架構、擴充套件、AI、招聘或產品策略等問題。應用免費試用，無需賬戶，並提供高階訂閱服務。

過去五年，Alphabet、亞馬遜、Meta、微軟和甲骨文這五大美國科技公司為擴建AI資料中心，債務總額增加了約3500億美元。儘管投資者對AI前景看好，但亞馬遜本週250億美元的債券發行遇冷，顯示市場對鉅額投資的擔憂。甲骨文因AI支出增加被標普下調評級，而英特爾因債務和戰略失誤陷入困境。大型雲服務商今年計劃投入高達7250億美元，主要投向資料中心和輝達晶片。

TalkFitly是一款專為iPhone設計的社交智慧訓練應用，透過真實場景模擬和AI評分，幫助使用者提高溝通中的清晰度、情緒穩定性、自信和共情能力。包含每日微課程、名言牆和隱私保護功能。

本文詳細解釋了大語言模型在推理過程中的內部機制，包括自迴歸生成、預填充和解碼階段、KV快取的工作原理及其記憶體佔用，以及解碼策略如何影響輸出。

本教程透過 TileGym 探索 NVIDIA 的基於 tile 的 GPU 程式設計，構建一個可在不同硬體上執行的 Colab 工作流程。我們探測 CUDA 環境，嘗試真實的 cuTile 後端，並在標準 Colab GPU 缺乏 cuTile 堆疊時回退到 Triton。我們學習核心 tile 思想：對整個資料塊進行操作，而不是單個執行緒，然後載入、計算和儲存它們。我們實現了向量加法、融合 GELU、行級 softmax、分塊矩陣乘法和 flash attention，並將每個結果與 PyTorch 進行比較。