芯片

AIAIO 是一款將 AI 代理會話日誌轉化為平台遊戲的創意項目。你的實際提示、錯誤和任務成為遊戲關卡，而“遺忘之牆”則根據你的 token 消耗推進。它既是教育工具，也是自我反思工具。

Inkling 是 Thinking Machines Lab 發佈的通用多模態模型，支持文本、圖像和音頻輸入，輸出文本。模型擁有 9750 億總參數（410 億激活參數），採用稀疏 MoE 架構，上下文窗口達 100 萬 token，在多項基準測試中表現優異，並開放權重供研究和商業使用。

作者詳細介紹了自己構建一台本地AI推理機器（稱為“垃圾生成器”）的過程，包括模型選擇（Qwen 3.6 27B）和硬件選型（Radeon AI Pro R9700 GPU加eGPU擴展塢），並探討了自託管LLM的優勢與挑戰。

德國研究聯合體發佈了Soofi S 30B-A3B的預訓練報告，這是一個面向德語和英語的開放基礎模型。模型採用混合Mamba-Transformer MoE架構，總計約316億參數，每次token激活約32億。在完全開放的基礎模型中，Soofi S在英語和德語綜合得分上最高。

Built Technologies與AWS生成式AI創新中心、AND Digital及AWS賬户團隊合作，創建了可擴展的AI文檔處理引擎，能夠對複雜房地產金融文檔進行分類、拆分、提取、評估和推理。該引擎將原本需要數天的工作流程縮短至數分鐘，支持數百種文檔類型，併為技術團隊和行業專家提供構建和改進文檔處理器的共享環境。

IBM發佈了新的Power服務器系列和軟件，旨在實現基礎設施管理和應用程序開發的自動化。其中包括用於系統管理的自主控制層IBM Power Autonomous Operations，以及面向IBM i環境的AI驅動開發助手IBM Bob Premium Package for i。此外，IBM還推出了緊湊型單插槽Power11服務器Power S1112，專為本地AI推理設計。這些新功能建立在去年Power11發佈的基礎上，強調了自主IT能力的擴展。IBM引用其2026年技術領導者研究，預計到2027年企業將平均部署1661個AI代理，需要能夠自我管理的基礎設施。Power S1112利用Power11的片上矩陣數學加速進行本地推理，性能是Power S914的兩倍，能效提高69%。Power Autonomous Operations通過持續監控系統行為，在3.33分鐘內解決容量問題，比傳統工作流程快15倍。IBM Bob Premium Package for i則幫助開發者更快理解和現代化IBM i應用。

高等教育機構在擴大校園呼叫中心服務質量審查方面面臨挑戰。Databricks 提出一種基於生成式人工智能的解決方案，使用 OpenAI Whisper 進行高精度轉錄，利用 LLM-as-a-judge 根據機構評分標準進行一致評分，並通過 AI 函數進行數據豐富——所有步驟均在統一治理平台上完成，通過 Genie 和 Agent Bricks 實現自然語言洞察。

隨着人工智能成本成為美國企業增長最快的支出之一，一些初創公司開始轉向更便宜的中國AI模型以節省開支。儘管中國模型在能力上落後6到12個月，但其開源特性和低成本吸引了大量用户。

一個研究團隊成功利用分佈在四個國家的14台Mac電腦（包括一台個人MacBook）進行強化學習後訓練，在PaperSearchQA任務上將pass@1從29%提升至63%。該系統通過PULSE權重同步技術實現90MB的增量更新，並採用異步星型拓撲結構，所有通信基於對象存儲，無需專用網絡。這是首次完全使用消費級Mac進行rollout生成的RL後訓練。

一名黑客入侵Suno AI，曝光了其訓練數據來源，包括從YouTube Music、Deezer、Genius等平台抓取的數百萬首歌曲和播客，同時泄露了數十萬用户信息及Stripe支付數據。Suno此前因版權問題被起訴，此次事件進一步揭示了AI公司的數據收集方式。

本文介紹了七種Python工具，工程師在2026年實際使用它們來在本地基礎設施上構建、協調和運行AI代理，涵蓋從模型運行到決策編排的各個層面。

日本作為全球AI中心，正藉助NVIDIA技術構建全棧AI生態系統。NVIDIA與SEGA慶祝合作30週年，宣佈將《VR戰士CROSSROADS》等經典遊戲引入NVIDIA RTX Spark新平台，展現了從圖形技術到AI計算的技術演進。

AIDE2 系統通過八天的自主研究，發現了一個比人類兩年構建的更好的自動研究框架，實現了遞歸自我改進（RSI）的首個實驗證據。該系統採用雙層優化循環，內層循環優化代碼，外層循環優化內層智能體的代碼框架，最終產生了七個改進版本，並在未見過的任務上表現出泛化能力。同時，系統還進化出了防止獎勵黑客行為的機制。

諾基亞於7月15日發佈了其AI-RAN平台，聲稱是業界首個GPU加速的AI無線電平台。該平台基於anyRAN軟件和英偉達的Aerial系統，旨在顯著提升頻譜效率，目前已實現超過20%的提升，目標是到2028年實現翻倍。然而，該平台尚未商用，且面臨愛立信等競爭對手的挑戰。

UltraWork 是一個託管式AI編程環境，每月固定費用399美元，無令牌計量，無需擔心意外賬單。它提供精選模型目錄、智能路由、提示模板庫，面向獨立開發者、機構和小團隊。由具有高性能基礎設施經驗的工程師運營，強調簡單性和可預測的定價。

谷歌於2026年7月9日發佈了LiteRT.js，這是其設備端推理庫LiteRT的JavaScript綁定，允許.tflite模型直接在瀏覽器中運行，利用WebGPU加速。相比其他Web運行時，性能提升可達3倍，GPU/NPU路徑相比CPU路徑提速5-60倍，但需要手動管理張量內存。

Lean64 是一個用 Lean 4 實現的極簡 3D 第一人稱射擊遊戲，靈感來自 Doom 64。它並非 Doom 64 的移植版，而是獨立開發的原型，包含完整的遊戲循環、敵人 AI、武器系統、音效和地圖。所有代碼和素材均為原創，採用 MIT 許可證。

TormentNexus是一個本地優先的開源AI控制平面，為多代理工作流提供持久記憶、MCP工具編排和自主基礎設施管理。它支持38+ AI編碼代理，具有漸進式工具路由、雙層記憶架構和羣集協調等功能。

喬治·盧卡斯認為抵制AI就像拒絕汽車選擇馬車，是一種過時的想法。他認為AI是電影製作的未來，無法阻擋，儘管有人擔心AI會取代人類創造力。

Sogni Unlimited 提供基於訂閲的無限圖像、視頻、音樂和 LLM 生成，使用去中心化的 GPU 網絡。無需按渲染計費，支持開源模型及部分付費合作伙伴模型。訂閲收入的一部分用於支持獨立 GPU 運營商。

本文介紹了Millwright——一種三層數據契約架構，使模型生成的分析結果在不接觸標記、樣式或DOM的情況下渲染。通過類型化的結果構件、語義化版本控制的看板以及僅允許添加的導航頁面，確保安全、可審計且可撤銷的AI集成。

Thinking Machines 發佈了通用多模態模型 Inkling，支持文本、圖像和音頻輸入並生成文本輸出，現可通過 Modal 託管端點使用，採用基於令牌的定價。文章還討論了其獨特的局部注意力架構和 DFlash 推測解碼技術的優勢。

Thinking Machines發佈了Inkling，一個擁有約1萬億參數的開源多模態模型，支持圖像、文本和音頻輸入，可處理高達100萬token的上下文。該模型採用混合專家架構，僅激活410億參數，並配有相對注意力和短卷積等創新設計。Inkling已在Hugging Face上發佈，並得到transformers、SGLang和llama.cpp的即日支持。

Together AI發佈一系列更新，旨在提升生產環境GPU集羣的可靠性與操作控制。新功能包括被動健康檢查、自動節點修復、強化版Slurm-on-K8s棧、集羣詳情視圖、外部OIDC認證、啓動腳本以及可選的驗收測試。這些改進幫助團隊更快發現硬件故障、自動化恢復流程，並提供更細粒度的訪問控制和自定義能力。

Thinking Machines Lab 發佈了 Inkling，一個多模態混合專家模型，專注於高效推理、原生多模態理解和廣泛任務適用性。Together AI 在其推理平台上提供該模型，支持可控推理努力、文本/圖像/音頻輸入，以及 1M 上下文窗口。

超級應用Codex每天新增100萬用户。AI新聞彙總涵蓋編碼代理、開放模型、多模態系統、基準測試和物理AI。

PrismML發佈了Bonsai 27B，這是Qwen3.6-27B的低位表示，並非全新預訓練模型。提供三進制和二進制兩種變體，採用Apache 2.0許可證。三進製版本每位僅1.71比特，理想大小為5.9GB；二進制版本每位1.125比特，大小為3.9GB。性能方面，三進制保留FP16基線的94.6%，二進制保留89.5%。該模型支持多模態，上下文長度262K令牌。PrismML聲稱二進制版本是首個適合手機的27B級模型。

開源AI已達到與封閉模型的能力平價，推理成本在36個月內下降了50倍，開源權重在API調用量上佔據主導地位。儘管開發者廣泛採用開源模型（79%），但生產部署仍面臨運營工具和信任度挑戰（僅51%成功部署）。開源不僅是成本選擇，更是主權選擇，尤其在中國和全球南方國家的戰略推動下。

本文深入探討了TPU和GPU集羣拓撲結構，以及用於Transformer訓練和推理的核心集體操作。重點介紹了環狀算法在大型消息通信中的應用，並分析了TPU的2D/3D環面拓撲和帶寬層次結構。

台灣芯片製造商正在擴大製造能力，以支持日益增長的人工智能基礎設施需求。

開放模型如NVIDIA Nemotron使企業能夠構建滿足特定需求的AI，提供完全的控制權、定製能力和成本效益，並推動從AI使用到AI擁有的轉變。

在AI工廠中，電力是不可迴避的約束。每瓦性能決定了在固定電力預算內能生成的token數量，直接影響收入和盈利能力。隨着代理型AI推動token需求增長，今天的架構決策將決定誰能擴展。NVIDIA Blackwell平台通過全棧協同設計實現高達25倍的每瓦性能提升，並已在生產中驗證。

軟件是AI產生巨大經濟價值的首個領域，這得益於其可驗證性和“可研磨性”。本文探討了哪些行業將接下來被顛覆，軟件工程師角色的轉變，以及AI利潤最終會流向哪裏的爭議。重點強調了強化學習環境和持續學習能力的關鍵作用。

蘋果起訴OpenAI竊取商業機密，指控三名前蘋果員工（包括前副總裁Tang Tan）將硬件機密帶給OpenAI。此案發生在OpenAI準備IPO和推出硬件設備的關鍵時刻。法律專家表示，蘋果是頑強的訴訟方，此案可能持續多年。

Databricks Lakebase是一種完全託管的無服務器Postgres數據庫，專為代理時代構建。它通過統一運營和分析工作負載、消除基礎設施摩擦來幫助企業實現現代化。全球合作伙伴已構建了一系列跨行業和功能的加速器，涵蓋技術、金融、營銷、銷售、供應鏈等領域，以加速數據現代化、MLOps和代理式AI轉型。

一位開發者構建了一個強化學習管道，其中 AI 智能體編寫訓練作業來訓練小型模型，然後通過強化學習對智能體本身進行訓練，獎勵其生成更好的模型。結果顯示，在 54 個訓練步驟中，獎勵從約 0.0 上升到約 0.63，並且技能可以轉移到未見過的任務族。總成本約 1,275 美元。

擴展LLM的關鍵不是增加GPU，而是消除每個請求中的不必要工作。本文介紹了12種實用的減少延遲和成本的方法。

歐洲核子研究中心（CERN）的大型強子對撞機每秒產生4000萬次粒子碰撞，AI被用於實時過濾數據，尋找可能包含重大發現的碰撞。從希格斯玻色子的發現到未來環形對撞機的設計，AI正在改變粒子物理學的各個階段。

X（原Twitter）推出了託管MCP服務器，允許AI代理訪問平台數據。作者Daniel Lemire將AI編碼代理連接到X的MCP服務器，分析了自己兩個月的發帖歷史。他發現早晨（尤其是9點左右）的帖子中位瀏覽量最高，較長的帖子（300-325字符）比短回覆獲得顯著更多的互動。這一過程展示了AI代理如何簡化社交媒體數據分析。

伯尼·桑德斯提議通過國有化主要AI公司一半股份來建立主權財富基金，引發熱議。文章從自由主義財產權理論到社會主義視角分析其合理性，認為AI應造福全人類。

本文首次演示了基於低功耗MCU的邊緣設備用於自動車牌識別（ALPR）。該設計利用9核RISC-V處理器GAP8，結合QVGA超低功耗灰度成像器，採用基於SSDlite-MobilenetV2和LPRNet的多模型推理方法，在公共數據集上達到38.9%的mAP和超過99.13%的識別率。在真實世界中可識別小至30x5像素的車牌。多模型推理（687 MMAC）在GAP8上以1.09 FPS和117 mW運行，相比樹莓派3系統能效提升73倍，且無需硬連線加速引擎。

本文提出了一種混合搜索框架，結合湯普森採樣與並行自迴避行走，以有效分配低自相關二進制序列（LABS）問題中的計算資源。該方法模型化為多臂老虎機，動態優先處理有前景的搜索空間分區，在35個序列長度上取得了新的最佳結果，並獲得了因子超過8.0的最長序列。

Melodusk是一款基於瀏覽器的AI音樂生成器，通過文本描述可在2分鐘內生成專業品質的音樂，支持100多種風格，並提供人聲分離等工具，所有音樂免版税商用。

過去幾天，OpenAI的Codex用户數突破700萬，6個月內增長超10倍，而Claude Code的增速放緩。Prime Intellect發佈了verifiers v1，用於智能體強化學習；OpenAI解決了GPT-5.6 Sol的用量問題；Grok Build因上傳整個代碼庫引發安全爭議；開放模型和量化技術取得進展；持續學習等研究方向重新受到關注。

Meta計劃投資500億美元擴建其路易斯安那州的數據中心，並探索出租多餘計算能力給其他AI實驗室。這表明Meta可能效仿亞馬遜、谷歌等公司，從社交媒體巨頭轉型為雲服務提供商。

大規模AI數據中心投資導致芯片、電腦和電力價格上漲，可能使通脹持續高於美聯儲目標，並促使加息。

OpenAI 最新智能模型系列 GPT-5.6 Sol、Terra 和 Luna 已在 Amazon Bedrock 上正式可用，帶來旗艦級推理模型 Sol、平衡型模型 Terra 和快速低成本模型 Luna。Amazon Bedrock 的下一代推理引擎提供高性能、安全性和可靠性，支持提示緩存（90% 折扣）、區域內推理和芯片級零操作員訪問安全。同時發佈了 ChatGPT Work 和 Codex 代理。

Fleet Deck 是一個本地工具，可實時監控和管理所有正在運行的 Claude Code 會話。它提供一個看板，顯示每個會話的狀態、衝突提醒、需求隊列，並支持任務分配、遠程控制、會話恢復等功能。核心架構零模型調用，依靠鈎子事件和確定性邏輯，確保安全與高效。

薩提亞·納德拉（Satya Nadella）警告企業，向AI實驗室付費的同時也在泄露專有數據，形成“反向信息悖論”。他建議企業建立自有AI學習環境，而微軟則推薦其Copilot和Azure AI Foundry作為解決方案。

PlanWright 是一個為 AI 編碼智能體設計的控制平面，通過反轉規劃和驗收流程來消除人工瓶頸，使智能體速度與人類決策解耦，並生成不可篡改的審計鏈。