晶片

AIAIO 是一款將 AI 代理會話日誌轉化為平臺遊戲的創意專案。你的實際提示、錯誤和任務成為遊戲關卡，而“遺忘之牆”則根據你的 token 消耗推進。它既是教育工具，也是自我反思工具。

Inkling 是 Thinking Machines Lab 釋出的通用多模態模型，支援文本、影像和音訊輸入，輸出文本。模型擁有 9750 億總引數（410 億啟用引數），採用稀疏 MoE 架構，上下文視窗達 100 萬 token，在多項基準測試中表現優異，並開放權重供研究和商業使用。

作者詳細介紹了自己構建一臺本地AI推理機器（稱為“垃圾生成器”）的過程，包括模型選擇（Qwen 3.6 27B）和硬體選型（Radeon AI Pro R9700 GPU加eGPU擴充套件塢），並探討了自託管LLM的優勢與挑戰。

德國研究聯合體釋出了Soofi S 30B-A3B的預訓練報告，這是一個面向德語和英語的開放基礎模型。模型採用混合Mamba-Transformer MoE架構，總計約316億引數，每次token啟用約32億。在完全開放的基礎模型中，Soofi S在英語和德語綜合得分上最高。

Built Technologies與AWS生成式AI創新中心、AND Digital及AWS賬戶團隊合作，建立了可擴充套件的AI文件處理引擎，能夠對複雜房地產金融文件進行分類、拆分、提取、評估和推理。該引擎將原本需要數天的工作流程縮短至數分鐘，支援數百種文件型別，併為技術團隊和行業專家提供構建和改進文件處理器的共享環境。

IBM釋出了新的Power伺服器系列和軟體，旨在實現基礎設施管理和應用程式開發的自動化。其中包括用於系統管理的自主控制層IBM Power Autonomous Operations，以及面向IBM i環境的AI驅動開發助手IBM Bob Premium Package for i。此外，IBM還推出了緊湊型單插槽Power11伺服器Power S1112，專為本地AI推理設計。這些新功能建立在去年Power11釋出的基礎上，強調了自主IT能力的擴充套件。IBM引用其2026年技術領導者研究，預計到2027年企業將平均部署1661個AI代理，需要能夠自我管理的基礎設施。Power S1112利用Power11的片上矩陣數學加速進行本地推理，效能是Power S914的兩倍，能效提高69%。Power Autonomous Operations透過持續監控系統行為，在3.33分鐘內解決容量問題，比傳統工作流程快15倍。IBM Bob Premium Package for i則幫助開發者更快理解和現代化IBM i應用。

高等教育機構在擴大校園呼叫中心服務質量審查方面面臨挑戰。Databricks 提出一種基於生成式人工智慧的解決方案，使用 OpenAI Whisper 進行高精度轉錄，利用 LLM-as-a-judge 根據機構評分標準進行一致評分，並透過 AI 函式進行資料豐富——所有步驟均在統一治理平臺上完成，透過 Genie 和 Agent Bricks 實現自然語言洞察。

隨著人工智慧成本成為美國企業增長最快的支出之一，一些初創公司開始轉向更便宜的中國AI模型以節省開支。儘管中國模型在能力上落後6到12個月，但其開源特性和低成本吸引了大量使用者。

一個研究團隊成功利用分佈在四個國家的14臺Mac電腦（包括一臺個人MacBook）進行強化學習後訓練，在PaperSearchQA任務上將pass@1從29%提升至63%。該系統透過PULSE權重同步技術實現90MB的增量更新，並採用非同步星型拓撲結構，所有通訊基於物件儲存，無需專用網路。這是首次完全使用消費級Mac進行rollout生成的RL後訓練。

一名駭客入侵Suno AI，曝光了其訓練資料來源，包括從YouTube Music、Deezer、Genius等平臺抓取的數百萬首歌曲和播客，同時洩露了數十萬使用者資訊及Stripe支付資料。Suno此前因版權問題被起訴，此次事件進一步揭示了AI公司的資料收集方式。

本文介紹了七種Python工具，工程師在2026年實際使用它們來在本地基礎設施上構建、協調和執行AI代理，涵蓋從模型執行到決策編排的各個層面。

日本作為全球AI中心，正藉助NVIDIA技術構建全棧AI生態系統。NVIDIA與SEGA慶祝合作30週年，宣佈將《VR戰士CROSSROADS》等經典遊戲引入NVIDIA RTX Spark新平臺，展現了從圖形技術到AI計算的技術演進。

AIDE2 系統透過八天的自主研究，發現了一個比人類兩年構建的更好的自動研究框架，實現了遞迴自我改進（RSI）的首個實驗證據。該系統採用雙層最佳化迴圈，內層迴圈最佳化程式碼，外層迴圈最佳化內層智慧體的程式碼框架，最終產生了七個改進版本，並在未見過的任務上表現出泛化能力。同時，系統還進化出了防止獎勵駭客行為的機制。

諾基亞於7月15日釋出了其AI-RAN平臺，聲稱是業界首個GPU加速的AI無線電平臺。該平臺基於anyRAN軟體和輝達的Aerial系統，旨在顯著提升頻譜效率，目前已實現超過20%的提升，目標是到2028年實現翻倍。然而，該平臺尚未商用，且面臨愛立信等競爭對手的挑戰。

UltraWork 是一個託管式AI程式設計環境，每月固定費用399美元，無令牌計量，無需擔心意外賬單。它提供精選模型目錄、智慧路由、提示模板庫，面向獨立開發者、機構和小團隊。由具有高效能基礎設施經驗的工程師運營，強調簡單性和可預測的定價。

谷歌於2026年7月9日釋出了LiteRT.js，這是其裝置端推理庫LiteRT的JavaScript繫結，允許.tflite模型直接在瀏覽器中執行，利用WebGPU加速。相比其他Web執行時，效能提升可達3倍，GPU/NPU路徑相比CPU路徑提速5-60倍，但需要手動管理張量記憶體。

Lean64 是一個用 Lean 4 實現的極簡 3D 第一人稱射擊遊戲，靈感來自 Doom 64。它並非 Doom 64 的移植版，而是獨立開發的原型，包含完整的遊戲迴圈、敵人 AI、武器系統、音效和地圖。所有程式碼和素材均為原創，採用 MIT 許可證。

TormentNexus是一個本地優先的開源AI控制平面，為多代理工作流提供持久記憶、MCP工具編排和自主基礎設施管理。它支援38+ AI編碼代理，具有漸進式工具路由、雙層記憶架構和群集協調等功能。

喬治·盧卡斯認為抵制AI就像拒絕汽車選擇馬車，是一種過時的想法。他認為AI是電影製作的未來，無法阻擋，儘管有人擔心AI會取代人類創造力。

Sogni Unlimited 提供基於訂閱的無限影像、影片、音樂和 LLM 生成，使用去中心化的 GPU 網路。無需按渲染計費，支援開源模型及部分付費合作伙伴模型。訂閱收入的一部分用於支援獨立 GPU 運營商。

本文介紹了Millwright——一種三層資料契約架構，使模型生成的分析結果在不接觸標記、樣式或DOM的情況下渲染。透過型別化的結果構件、語義化版本控制的看板以及僅允許新增的導航頁面，確保安全、可審計且可撤銷的AI整合。

Thinking Machines 釋出了通用多模態模型 Inkling，支援文本、影像和音訊輸入並生成文本輸出，現可透過 Modal 託管端點使用，採用基於令牌的定價。文章還討論了其獨特的區域性注意力架構和 DFlash 推測解碼技術的優勢。

Thinking Machines釋出了Inkling，一個擁有約1萬億引數的開源多模態模型，支援影像、文本和音訊輸入，可處理高達100萬token的上下文。該模型採用混合專家架構，僅啟用410億引數，並配有相對注意力和短卷積等創新設計。Inkling已在Hugging Face上釋出，並得到transformers、SGLang和llama.cpp的即日支援。

Together AI釋出一系列更新，旨在提升生產環境GPU叢集的可靠性與操作控制。新功能包括被動健康檢查、自動節點修復、強化版Slurm-on-K8s棧、叢集詳情檢視、外部OIDC認證、啟動指令碼以及可選的驗收測試。這些改進幫助團隊更快發現硬體故障、自動化恢復流程，並提供更細粒度的訪問控制和自定義能力。

Thinking Machines Lab 釋出了 Inkling，一個多模態混合專家模型，專注於高效推理、原生多模態理解和廣泛任務適用性。Together AI 在其推理平臺上提供該模型，支援可控推理努力、文本/影像/音訊輸入，以及 1M 上下文視窗。

超級應用Codex每天新增100萬使用者。AI新聞彙總涵蓋編碼代理、開放模型、多模態系統、基準測試和物理AI。

PrismML釋出了Bonsai 27B，這是Qwen3.6-27B的低位表示，並非全新預訓練模型。提供三進位制和二進位制兩種變體，採用Apache 2.0許可證。三進製版本每位僅1.71位元，理想大小為5.9GB；二進位制版本每位1.125位元，大小為3.9GB。效能方面，三進位制保留FP16基線的94.6%，二進位制保留89.5%。該模型支援多模態，上下文長度262K令牌。PrismML聲稱二進位制版本是首個適合手機的27B級模型。

開源AI已達到與封閉模型的能力平價，推理成本在36個月內下降了50倍，開源權重在API呼叫量上佔據主導地位。儘管開發者廣泛採用開源模型（79%），但生產部署仍面臨運營工具和信任度挑戰（僅51%成功部署）。開源不僅是成本選擇，更是主權選擇，尤其在中國和全球南方國家的戰略推動下。

本文深入探討了TPU和GPU叢集拓撲結構，以及用於Transformer訓練和推理的核心集體操作。重點介紹了環狀演算法在大型訊息通訊中的應用，並分析了TPU的2D/3D環面拓撲和頻寬層次結構。

臺灣晶片製造商正在擴大製造能力，以支援日益增長的人工智慧基礎設施需求。

開放模型如NVIDIA Nemotron使企業能夠構建滿足特定需求的AI，提供完全的控制權、定製能力和成本效益，並推動從AI使用到AI擁有的轉變。

在AI工廠中，電力是不可迴避的約束。每瓦效能決定了在固定電力預算內能生成的token數量，直接影響收入和盈利能力。隨著代理型AI推動token需求增長，今天的架構決策將決定誰能擴充套件。NVIDIA Blackwell平臺透過全棧協同設計實現高達25倍的每瓦效能提升，並已在生產中驗證。

軟體是AI產生巨大經濟價值的首個領域，這得益於其可驗證性和“可研磨性”。本文探討了哪些行業將接下來被顛覆，軟體工程師角色的轉變，以及AI利潤最終會流向哪裡的爭議。重點強調了強化學習環境和持續學習能力的關鍵作用。

蘋果起訴OpenAI竊取商業機密，指控三名前蘋果員工（包括前副總裁Tang Tan）將硬體機密帶給OpenAI。此案發生在OpenAI準備IPO和推出硬體裝置的關鍵時刻。法律專家表示，蘋果是頑強的訴訟方，此案可能持續多年。

Databricks Lakebase是一種完全託管的無伺服器Postgres資料庫，專為代理時代構建。它透過統一運營和分析工作負載、消除基礎設施摩擦來幫助企業實現現代化。全球合作伙伴已構建了一系列跨行業和功能的加速器，涵蓋技術、金融、營銷、銷售、供應鏈等領域，以加速資料現代化、MLOps和代理式AI轉型。

一位開發者構建了一個強化學習管道，其中 AI 智慧體編寫訓練作業來訓練小型模型，然後透過強化學習對智慧體本身進行訓練，獎勵其生成更好的模型。結果顯示，在 54 個訓練步驟中，獎勵從約 0.0 上升到約 0.63，並且技能可以轉移到未見過的任務族。總成本約 1,275 美元。

擴充套件LLM的關鍵不是增加GPU，而是消除每個請求中的不必要工作。本文介紹了12種實用的減少延遲和成本的方法。

歐洲核子研究中心（CERN）的大型強子對撞機每秒產生4000萬次粒子碰撞，AI被用於即時過濾資料，尋找可能包含重大發現的碰撞。從希格斯玻色子的發現到未來環形對撞機的設計，AI正在改變粒子物理學的各個階段。

X（原Twitter）推出了託管MCP伺服器，允許AI代理訪問平臺資料。作者Daniel Lemire將AI編碼代理連線到X的MCP伺服器，分析了自己兩個月的發帖歷史。他發現早晨（尤其是9點左右）的帖子中位瀏覽量最高，較長的帖子（300-325字元）比短回覆獲得顯著更多的互動。這一過程展示了AI代理如何簡化社交媒體資料分析。

伯尼·桑德斯提議透過國有化主要AI公司一半股份來建立主權財富基金，引發熱議。文章從自由主義財產權理論到社會主義視角分析其合理性，認為AI應造福全人類。

本文首次演示了基於低功耗MCU的邊緣裝置用於自動車牌識別（ALPR）。該設計利用9核RISC-V處理器GAP8，結合QVGA超低功耗灰度成像器，採用基於SSDlite-MobilenetV2和LPRNet的多模型推理方法，在公共資料集上達到38.9%的mAP和超過99.13%的識別率。在真實世界中可識別小至30x5畫素的車牌。多模型推理（687 MMAC）在GAP8上以1.09 FPS和117 mW執行，相比樹莓派3系統能效提升73倍，且無需硬連線加速引擎。

本文提出了一種混合搜尋框架，結合湯普森取樣與並行自迴避行走，以有效分配低自相關二進位制序列（LABS）問題中的計算資源。該方法模型化為多臂老虎機，動態優先處理有前景的搜尋空間分割槽，在35個序列長度上取得了新的最佳結果，並獲得了因子超過8.0的最長序列。

Melodusk是一款基於瀏覽器的AI音樂生成器，透過文本描述可在2分鐘內生成專業品質的音樂，支援100多種風格，並提供人聲分離等工具，所有音樂免版稅商用。

過去幾天，OpenAI的Codex使用者數突破700萬，6個月內增長超10倍，而Claude Code的增速放緩。Prime Intellect釋出了verifiers v1，用於智慧體強化學習；OpenAI解決了GPT-5.6 Sol的用量問題；Grok Build因上傳整個程式碼庫引發安全爭議；開放模型和量化技術取得進展；持續學習等研究方向重新受到關注。

Meta計劃投資500億美元擴建其路易斯安那州的資料中心，並探索出租多餘計算能力給其他AI實驗室。這表明Meta可能效仿亞馬遜、谷歌等公司，從社交媒體巨頭轉型為雲服務提供商。

大規模AI資料中心投資導致晶片、電腦和電力價格上漲，可能使通脹持續高於美聯儲目標，並促使加息。

OpenAI 最新智慧模型系列 GPT-5.6 Sol、Terra 和 Luna 已在 Amazon Bedrock 上正式可用，帶來旗艦級推理模型 Sol、平衡型模型 Terra 和快速低成本模型 Luna。Amazon Bedrock 的下一代推理引擎提供高效能、安全性和可靠性，支援提示快取（90% 折扣）、區域內推理和晶片級零操作員訪問安全。同時釋出了 ChatGPT Work 和 Codex 代理。

Fleet Deck 是一個本地工具，可即時監控和管理所有正在執行的 Claude Code 會話。它提供一個看板，顯示每個會話的狀態、衝突提醒、需求佇列，並支援任務分配、遠端控制、會話恢復等功能。核心架構零模型呼叫，依靠鉤子事件和確定性邏輯，確保安全與高效。

薩提亞·納德拉（Satya Nadella）警告企業，向AI實驗室付費的同時也在洩露專有資料，形成“反向資訊悖論”。他建議企業建立自有AI學習環境，而微軟則推薦其Copilot和Azure AI Foundry作為解決方案。

PlanWright 是一個為 AI 編碼智慧體設計的控制平面，透過反轉規劃和驗收流程來消除人工瓶頸，使智慧體速度與人類決策解耦，並生成不可篡改的審計鏈。