芯片

本文介紹了Millwright——一種三層數據契約架構，使模型生成的分析結果在不接觸標記、樣式或DOM的情況下渲染。通過類型化的結果構件、語義化版本控制的看板以及僅允許添加的導航頁面，確保安全、可審計且可撤銷的AI集成。

超級應用Codex每天新增100萬用户。AI新聞彙總涵蓋編碼代理、開放模型、多模態系統、基準測試和物理AI。

PrismML發佈了Bonsai 27B，這是Qwen3.6-27B的低位表示，並非全新預訓練模型。提供三進制和二進制兩種變體，採用Apache 2.0許可證。三進製版本每位僅1.71比特，理想大小為5.9GB；二進制版本每位1.125比特，大小為3.9GB。性能方面，三進制保留FP16基線的94.6%，二進制保留89.5%。該模型支持多模態，上下文長度262K令牌。PrismML聲稱二進制版本是首個適合手機的27B級模型。

開源AI已達到與封閉模型的能力平價，推理成本在36個月內下降了50倍，開源權重在API調用量上佔據主導地位。儘管開發者廣泛採用開源模型（79%），但生產部署仍面臨運營工具和信任度挑戰（僅51%成功部署）。開源不僅是成本選擇，更是主權選擇，尤其在中國和全球南方國家的戰略推動下。

本文深入探討了TPU和GPU集羣拓撲結構，以及用於Transformer訓練和推理的核心集體操作。重點介紹了環狀算法在大型消息通信中的應用，並分析了TPU的2D/3D環面拓撲和帶寬層次結構。

台灣芯片製造商正在擴大製造能力，以支持日益增長的人工智能基礎設施需求。

開放模型如NVIDIA Nemotron使企業能夠構建滿足特定需求的AI，提供完全的控制權、定製能力和成本效益，並推動從AI使用到AI擁有的轉變。

在AI工廠中，電力是不可迴避的約束。每瓦性能決定了在固定電力預算內能生成的token數量，直接影響收入和盈利能力。隨着代理型AI推動token需求增長，今天的架構決策將決定誰能擴展。NVIDIA Blackwell平台通過全棧協同設計實現高達25倍的每瓦性能提升，並已在生產中驗證。

軟件是AI產生巨大經濟價值的首個領域，這得益於其可驗證性和“可研磨性”。本文探討了哪些行業將接下來被顛覆，軟件工程師角色的轉變，以及AI利潤最終會流向哪裏的爭議。重點強調了強化學習環境和持續學習能力的關鍵作用。

蘋果起訴OpenAI竊取商業機密，指控三名前蘋果員工（包括前副總裁Tang Tan）將硬件機密帶給OpenAI。此案發生在OpenAI準備IPO和推出硬件設備的關鍵時刻。法律專家表示，蘋果是頑強的訴訟方，此案可能持續多年。

Databricks Lakebase是一種完全託管的無服務器Postgres數據庫，專為代理時代構建。它通過統一運營和分析工作負載、消除基礎設施摩擦來幫助企業實現現代化。全球合作伙伴已構建了一系列跨行業和功能的加速器，涵蓋技術、金融、營銷、銷售、供應鏈等領域，以加速數據現代化、MLOps和代理式AI轉型。

一位開發者構建了一個強化學習管道，其中 AI 智能體編寫訓練作業來訓練小型模型，然後通過強化學習對智能體本身進行訓練，獎勵其生成更好的模型。結果顯示，在 54 個訓練步驟中，獎勵從約 0.0 上升到約 0.63，並且技能可以轉移到未見過的任務族。總成本約 1,275 美元。

擴展LLM的關鍵不是增加GPU，而是消除每個請求中的不必要工作。本文介紹了12種實用的減少延遲和成本的方法。

歐洲核子研究中心（CERN）的大型強子對撞機每秒產生4000萬次粒子碰撞，AI被用於實時過濾數據，尋找可能包含重大發現的碰撞。從希格斯玻色子的發現到未來環形對撞機的設計，AI正在改變粒子物理學的各個階段。

X（原Twitter）推出了託管MCP服務器，允許AI代理訪問平台數據。作者Daniel Lemire將AI編碼代理連接到X的MCP服務器，分析了自己兩個月的發帖歷史。他發現早晨（尤其是9點左右）的帖子中位瀏覽量最高，較長的帖子（300-325字符）比短回覆獲得顯著更多的互動。這一過程展示了AI代理如何簡化社交媒體數據分析。

伯尼·桑德斯提議通過國有化主要AI公司一半股份來建立主權財富基金，引發熱議。文章從自由主義財產權理論到社會主義視角分析其合理性，認為AI應造福全人類。

本文首次演示了基於低功耗MCU的邊緣設備用於自動車牌識別（ALPR）。該設計利用9核RISC-V處理器GAP8，結合QVGA超低功耗灰度成像器，採用基於SSDlite-MobilenetV2和LPRNet的多模型推理方法，在公共數據集上達到38.9%的mAP和超過99.13%的識別率。在真實世界中可識別小至30x5像素的車牌。多模型推理（687 MMAC）在GAP8上以1.09 FPS和117 mW運行，相比樹莓派3系統能效提升73倍，且無需硬連線加速引擎。

本文提出了一種混合搜索框架，結合湯普森採樣與並行自迴避行走，以有效分配低自相關二進制序列（LABS）問題中的計算資源。該方法模型化為多臂老虎機，動態優先處理有前景的搜索空間分區，在35個序列長度上取得了新的最佳結果，並獲得了因子超過8.0的最長序列。

Melodusk是一款基於瀏覽器的AI音樂生成器，通過文本描述可在2分鐘內生成專業品質的音樂，支持100多種風格，並提供人聲分離等工具，所有音樂免版税商用。

過去幾天，OpenAI的Codex用户數突破700萬，6個月內增長超10倍，而Claude Code的增速放緩。Prime Intellect發佈了verifiers v1，用於智能體強化學習；OpenAI解決了GPT-5.6 Sol的用量問題；Grok Build因上傳整個代碼庫引發安全爭議；開放模型和量化技術取得進展；持續學習等研究方向重新受到關注。

Meta計劃投資500億美元擴建其路易斯安那州的數據中心，並探索出租多餘計算能力給其他AI實驗室。這表明Meta可能效仿亞馬遜、谷歌等公司，從社交媒體巨頭轉型為雲服務提供商。

大規模AI數據中心投資導致芯片、電腦和電力價格上漲，可能使通脹持續高於美聯儲目標，並促使加息。

OpenAI 最新智能模型系列 GPT-5.6 Sol、Terra 和 Luna 已在 Amazon Bedrock 上正式可用，帶來旗艦級推理模型 Sol、平衡型模型 Terra 和快速低成本模型 Luna。Amazon Bedrock 的下一代推理引擎提供高性能、安全性和可靠性，支持提示緩存（90% 折扣）、區域內推理和芯片級零操作員訪問安全。同時發佈了 ChatGPT Work 和 Codex 代理。

Fleet Deck 是一個本地工具，可實時監控和管理所有正在運行的 Claude Code 會話。它提供一個看板，顯示每個會話的狀態、衝突提醒、需求隊列，並支持任務分配、遠程控制、會話恢復等功能。核心架構零模型調用，依靠鈎子事件和確定性邏輯，確保安全與高效。

薩提亞·納德拉（Satya Nadella）警告企業，向AI實驗室付費的同時也在泄露專有數據，形成“反向信息悖論”。他建議企業建立自有AI學習環境，而微軟則推薦其Copilot和Azure AI Foundry作為解決方案。

PlanWright 是一個為 AI 編碼智能體設計的控制平面，通過反轉規劃和驗收流程來消除人工瓶頸，使智能體速度與人類決策解耦，並生成不可篡改的審計鏈。

Amazon SageMaker AI Studio推出了生成式AI推理推薦的低代碼/無代碼用户界面，引導用户通過預設用例配置、可視化比較和一鍵部署，無需深厚基礎設施知識即可獲得驗證的配置。

市場普遍預期超大規模企業的自由現金流將在未來幾年翻倍以上，但如果AI回報慢於預期，可能引發現金流失望、科技股拋售波及大盤、以及信貸風險上升。

高盛研究顯示，人工智能繁榮引發的供應限制正推高內存芯片和半導體等關鍵組件價格，導致美國核心PCE通脹每年上升約20個基點，年底前可能翻倍至50個基點，遠超其他發達國家的10個基點平均增幅。

斯坦福大學的研究團隊提出了TRACE系統，通過分析智能體失敗軌跡，診斷缺失的能力，併為每個能力合成可驗證的訓練環境，利用LoRA適配器和GRPO算法進行訓練，最後通過MoE組合實現令牌級路由。在τ²-Bench上提升15.3個百分點，在SWE-bench Verified上達到73.2%的Pass@1，超越了多個基線模型。

Prime Intellect 發佈了 verifiers 0.2.0，預覽了重寫的 v1 核心。v1 將環境分解為任務集（做什麼）、框架（怎麼做）和運行時（在哪裏），並通過攔截服務器記錄訓練軌跡。任何任務集均可與任何兼容框架配合使用，並直接支持 prime-rl 訓練。

隨着AI代理和自動化平台快速發展，內存帶寬成為關鍵瓶頸。蘋果統一內存架構、CUDIMM標準以及PC升級潮正在重塑市場，而三星、SK海力士等內存製造商因HBM產能分配而獲得結構性利好。

本文提出了一種針對大語言模型推理的高效GPU方法，採用三層矩陣存儲格式，包括稀疏張量核心層、插槽填充層和殘差層，實現稀疏矩陣乘法，在50%稀疏度下首次超越密集矩陣乘法，最高可達1.64倍內核加速和1.41倍端到端加速。

本文介紹了Director，一種新的分佈式MoE推理系統，通過預測驅動的在線專家放置優化，顯著降低端到端延遲。系統採用輕量級級聯預測器或低比特量化副本預測專家激活模式，結合近乎零停機的在線遷移模塊，以及基於鬆弛優化的專家放置算法，在多項式時間內達到(1+ε)近似比。實驗表明，在Mistral、DeepSeek和Qwen等流行MoE模型上，相比現有工作延遲降低11%~55%。

本文提出有符號對稱量化方法，解決標準對稱量化器因整數範圍不平衡導致的正異常值截斷問題，同時避免非對稱量化的運行時開銷。理論分析表明該方法在ℓ2誤差上條件最優，且88-99%的LLM權重組滿足條件。實驗在Qwen3、Llama3等模型上驗證了困惑度和少樣本準確率的提升。

AVA是一個開源自託管語音AI代理，專為Asterisk/FreePBX設計，提供快速部署、多代理管理、實時儀表盤和多AI引擎支持。最新更新包括穩定性修復、靜默看門狗和每代理語音選擇等功能。

Tinier 是一套免費的瀏覽器內媒體工具，支持圖像壓縮、格式轉換、AI 放大和視頻轉 GIF，所有處理均在本地設備完成，無需上傳文件，保護隱私。

密歇根大學研究團隊推出NeuroVFM，一種基於524萬臨牀MRI和CT體積訓練的通用神經影像基礎模型。其Vol-JEPA方法將自監督學習擴展到體積醫學影像，無需放射報告標籤即可學習大腦解剖和病理。在156項診斷任務中達到92.68（CT）和92.49（MRI）的AUROC，並支持報告生成、分診和跨模態遷移。

一個Argo CD UI擴展，在資源視圖中添加AI助手選項卡，允許用户用自然語言查詢Kubernetes資源，並附加上下文（清單、事件、可選日誌）。兼容任何OpenAI兼容後端，需要Argo CD v2.13+。

本文提出將AI用户未使用的推理代幣眾籌用於科學研究，類比於SETI@home項目。討論了小型團隊利用AI解決數學問題的成功案例，以及眾籌推理能力所需的設計挑戰。

OpenAI和Anthropic致力於構建大型通用模型，但微軟等公司正轉向開發小型專用模型，以降低成本並提高效率。微軟的MAI模型家族正在取代OpenAI的模型，用於其產品中的AI功能。

微軟正在測試Copilot的“PC Insights”功能，可以分析系統資源使用情況，幫助用户找出性能瓶頸。然而，Copilot本身是一個完整的Web應用，附帶私人版Edge，空閒時佔用高達1GB內存，凸顯了其資源消耗的諷刺性。該功能為可選，默認不自動掃描，用户需授予權限。

蘋果的自動駕駛汽車項目雖未成功，但其對AI處理的需求催生了神經網絡引擎。該引擎首次亮相於iPhone X的A11仿生芯片，現已成為蘋果設備端AI處理的核心，並延續至M系列芯片。未來，蘋果將加速M7芯片開發，其神經網絡引擎大幅升級，M7 Ultra服務器芯片將支持高達1.5TB內存。

蘋果公司指控OpenAI及其兩名前蘋果員工竊取商業機密，用於開發ChatGPT硬件設備。訴訟稱這是“機構層面的協調不當行為模式”，OpenAI否認並表示沒有興趣竊取其他公司的機密。

AI數據中心需求推動內存製造商收入激增，但產能建設滯後可能導致長期高價，若AI需求未達預期，將面臨嚴重衰退。

前沿AI實驗室正從聊天機器人轉向集成系統，模型作為運行時，頻繁發佈強大模型和代理。本週亮點包括OpenAI的GPT-5.6（Sol、Terra、Luna），具備程序化工具調用和並行子代理；GPT-Live全雙工音頻；ChatGPT Work用於創建工件；Meta的Muse Spark 1.1擁有百萬token上下文和主動上下文管理；Grok 4.5專注於編碼和知識工作。研究方面，OpenAI審計表明SWE-Bench Pro基準30%任務有問題；Anthropic提出GRAM方法可選擇性移除危險知識；SkillOpt-Lite優化代理自我進化；DSpark和Nemotron-Labs-Diffusion改進推理效率。行業新聞包括Lovable融資3億美元，Prime Intellect融資1.3億美元，SambaNova融資10億美元等。

MSK是一款基於iPhone的AI CTO代理應用，提供架構審查、擴展建議和創業策略服務。它模擬了擁有15年以上經驗、參與過300多個項目、服務過50多家初創公司的首席技術官Moeid Saleem Khan的思維方式。用户可以通過聊天或語音方式諮詢技術、架構、擴展、AI、招聘或產品策略等問題。應用免費試用，無需賬户，並提供高級訂閲服務。

過去五年，Alphabet、亞馬遜、Meta、微軟和甲骨文這五大美國科技公司為擴建AI數據中心，債務總額增加了約3500億美元。儘管投資者對AI前景看好，但亞馬遜本週250億美元的債券發行遇冷，顯示市場對鉅額投資的擔憂。甲骨文因AI支出增加被標普下調評級，而英特爾因債務和戰略失誤陷入困境。大型雲服務商今年計劃投入高達7250億美元，主要投向數據中心和英偉達芯片。

TalkFitly是一款專為iPhone設計的社交智能訓練應用，通過真實場景模擬和AI評分，幫助用户提高溝通中的清晰度、情緒穩定性、自信和共情能力。包含每日微課程、名言牆和隱私保護功能。

本文詳細解釋了大語言模型在推理過程中的內部機制，包括自迴歸生成、預填充和解碼階段、KV緩存的工作原理及其內存佔用，以及解碼策略如何影響輸出。