晶片

這篇文章批判了“AI只是工具，如何使用才重要”這一常見說法，指出工具並非中立，它們塑造社會、環境與人性。作者以汽車、椅子為例，說明工具的設計本身帶有政治性。AI作為工具尤為危險，因為它消除了人類應有的掙扎與痛苦，導致批判性思維喪失。文章呼籲重新審視技術設計，關注工具對人類的深層影響。

這是一個由Suhas Bhairav建立的包含50多個開源Next.js AI模板和入門套件的精選集合，涵蓋聊天機器人、RAG、語音代理、影像生成等多種AI應用。

一個包含56個AI概念及其150條關聯的互動視覺化地圖，使用者可透過拖拽、懸停和點選探索人工智慧的關鍵主題。

本文透過一首藍調歌曲的比喻，探討大型語言模型的本質：它們生成文本時是先投擲後瞄準，還是存在內部規劃？作者結合自身使用AI寫作的經歷，反思模型創造的“虛假聲音”以及我們不斷剖析這些系統的行為。

代理推理正在將AI基礎設施的重心從訓練擴充套件轉向上下文感知、記憶增強推理。RAISE峰會強調了三大關鍵洞察：AI堆疊專業化、儲存作為主動記憶體擴充套件、以及資本和資料主權融入基礎設施設計。

Neocloud提供商QumulusAI宣佈透過直接上市在納斯達克交易，股票程式碼QMLS。此舉不僅是一項金融交易，更標誌著以GPU和電力可用性為中心的AI基礎設施層正在成熟。公司專注於快速部署高階GPU容量，利用現有機櫃設施和模組化資料中心，以季度為單位交付產能。直接上市提供了資本靈活性、公眾公司信譽，並抓住了AI基礎設施視窗期。文章還分析了Neocloud的差異化策略及對IT領導者的建議。

米拉·穆拉蒂創立的Thinking Machines Lab今日釋出了其首個基礎模型Inkling，這是一款完全開放權重的巨型模型，擁有9750億引數（混合專家架構，活躍引數410億）。該模型經過45萬億token的文本、影像、音訊和影片訓練，原生支援多模態輸入但僅輸出文本。Inkling旨在填補西方開源AI生態的空白，提供中國模型的替代方案。它具備'思考努力'控制和不確定性標記功能，可減少幻覺。開發者可透過Tinker API進行微調。Thinking Machines計劃透過Tinker平臺收費，而非按API呼叫計費，這可能顛覆當前主流AI商業模式。該模型在九個月內完成開發，使用輝達GB300 NVL72系統訓練。

思考機器實驗室於2026年7月15日釋出了其首個從頭訓練的模型Inkling，採用Apache 2.0開源協議。該模型總引數量9750億，活躍引數410億，支援100萬token上下文視窗，可處理文本、影像和音訊輸入。其核心差異化優勢在於可控制的思考力度，使用者可根據需求調整推理時的token預算，平衡成本與效能。

NVIDIA釋出了基於Thor架構的T3000和T2000模組，專為大規模機器人與邊緣AI應用設計。T3000提供865 FP4 teraflops算力，尺寸和功耗僅為T5000的一半；T2000提供400 FP4 teraflops。新模組支援可擴充套件邊緣AI平臺，並引入智慧體技能實現記憶體最佳化。同時推出Cosmos 3 Edge模型，適用於即時視覺分析。開發者可透過模擬模式立即開始開發，模組將於2027年Q1上市。

Eaon是一款原生Mac應用，整合了49種AI模型，支援本地執行、自帶API金鑰或內建連線，完全免費且開源。它提供模型切換、成本監控、命令面板等功能，並注重隱私和本地化操作。

Cadence Design Systems推出AuraStack，一款用於封裝和PCB設計的AI代理，旨在自動化系統設計工作流程，將設計時間從數天縮短到幾分鐘。

AIAIO 是一款將 AI 代理會話日誌轉化為平臺遊戲的創意專案。你的實際提示、錯誤和任務成為遊戲關卡，而“遺忘之牆”則根據你的 token 消耗推進。它既是教育工具，也是自我反思工具。

Inkling 是 Thinking Machines Lab 釋出的通用多模態模型，支援文本、影像和音訊輸入，輸出文本。模型擁有 9750 億總引數（410 億啟用引數），採用稀疏 MoE 架構，上下文視窗達 100 萬 token，在多項基準測試中表現優異，並開放權重供研究和商業使用。

作者詳細介紹了自己構建一臺本地AI推理機器（稱為“垃圾生成器”）的過程，包括模型選擇（Qwen 3.6 27B）和硬體選型（Radeon AI Pro R9700 GPU加eGPU擴充套件塢），並探討了自託管LLM的優勢與挑戰。

德國研究聯合體釋出了Soofi S 30B-A3B的預訓練報告，這是一個面向德語和英語的開放基礎模型。模型採用混合Mamba-Transformer MoE架構，總計約316億引數，每次token啟用約32億。在完全開放的基礎模型中，Soofi S在英語和德語綜合得分上最高。

Built Technologies與AWS生成式AI創新中心、AND Digital及AWS賬戶團隊合作，建立了可擴充套件的AI文件處理引擎，能夠對複雜房地產金融文件進行分類、拆分、提取、評估和推理。該引擎將原本需要數天的工作流程縮短至數分鐘，支援數百種文件型別，併為技術團隊和行業專家提供構建和改進文件處理器的共享環境。

IBM釋出了新的Power伺服器系列和軟體，旨在實現基礎設施管理和應用程式開發的自動化。其中包括用於系統管理的自主控制層IBM Power Autonomous Operations，以及面向IBM i環境的AI驅動開發助手IBM Bob Premium Package for i。此外，IBM還推出了緊湊型單插槽Power11伺服器Power S1112，專為本地AI推理設計。這些新功能建立在去年Power11釋出的基礎上，強調了自主IT能力的擴充套件。IBM引用其2026年技術領導者研究，預計到2027年企業將平均部署1661個AI代理，需要能夠自我管理的基礎設施。Power S1112利用Power11的片上矩陣數學加速進行本地推理，效能是Power S914的兩倍，能效提高69%。Power Autonomous Operations透過持續監控系統行為，在3.33分鐘內解決容量問題，比傳統工作流程快15倍。IBM Bob Premium Package for i則幫助開發者更快理解和現代化IBM i應用。

高等教育機構在擴大校園呼叫中心服務質量審查方面面臨挑戰。Databricks 提出一種基於生成式人工智慧的解決方案，使用 OpenAI Whisper 進行高精度轉錄，利用 LLM-as-a-judge 根據機構評分標準進行一致評分，並透過 AI 函式進行資料豐富——所有步驟均在統一治理平臺上完成，透過 Genie 和 Agent Bricks 實現自然語言洞察。

隨著人工智慧成本成為美國企業增長最快的支出之一，一些初創公司開始轉向更便宜的中國AI模型以節省開支。儘管中國模型在能力上落後6到12個月，但其開源特性和低成本吸引了大量使用者。

一個研究團隊成功利用分佈在四個國家的14臺Mac電腦（包括一臺個人MacBook）進行強化學習後訓練，在PaperSearchQA任務上將pass@1從29%提升至63%。該系統透過PULSE權重同步技術實現90MB的增量更新，並採用非同步星型拓撲結構，所有通訊基於物件儲存，無需專用網路。這是首次完全使用消費級Mac進行rollout生成的RL後訓練。

Perplexity AI推出SPACE沙箱平臺，為AI代理提供隔離的安全環境，支援長期任務、會話暫停與恢復，並保護使用者憑證。基於AWS Firecracker微虛擬機器技術，效能提升顯著。

一名駭客入侵Suno AI，曝光了其訓練資料來源，包括從YouTube Music、Deezer、Genius等平臺抓取的數百萬首歌曲和播客，同時洩露了數十萬使用者資訊及Stripe支付資料。Suno此前因版權問題被起訴，此次事件進一步揭示了AI公司的資料收集方式。

邊緣AI晶片公司Axelera AI釋出了Voyager Wingman，一個允許開發者透過自然語言請求構建和除錯邊緣晶片應用的AI助手。該工具連線公司的Voyager SDK和全部文件，可幫助組裝計算機視覺管道、建議編譯器設定並診斷錯誤。它作為託管服務執行，知識隨Toolkit版本自動更新。現已提供網頁版和獨立應用，採用免費增值模式。

本文介紹了七種Python工具，工程師在2026年實際使用它們來在本地基礎設施上構建、協調和執行AI代理，涵蓋從模型執行到決策編排的各個層面。

日本作為全球AI中心，正藉助NVIDIA技術構建全棧AI生態系統。NVIDIA與SEGA慶祝合作30週年，宣佈將《VR戰士CROSSROADS》等經典遊戲引入NVIDIA RTX Spark新平臺，展現了從圖形技術到AI計算的技術演進。

AIDE2 系統透過八天的自主研究，發現了一個比人類兩年構建的更好的自動研究框架，實現了遞迴自我改進（RSI）的首個實驗證據。該系統採用雙層最佳化迴圈，內層迴圈最佳化程式碼，外層迴圈最佳化內層智慧體的程式碼框架，最終產生了七個改進版本，並在未見過的任務上表現出泛化能力。同時，系統還進化出了防止獎勵駭客行為的機制。

諾基亞於7月15日釋出了其AI-RAN平臺，聲稱是業界首個GPU加速的AI無線電平臺。該平臺基於anyRAN軟體和輝達的Aerial系統，旨在顯著提升頻譜效率，目前已實現超過20%的提升，目標是到2028年實現翻倍。然而，該平臺尚未商用，且面臨愛立信等競爭對手的挑戰。

UltraWork 是一個託管式AI程式設計環境，每月固定費用399美元，無令牌計量，無需擔心意外賬單。它提供精選模型目錄、智慧路由、提示模板庫，面向獨立開發者、機構和小團隊。由具有高效能基礎設施經驗的工程師運營，強調簡單性和可預測的定價。

谷歌於2026年7月9日釋出了LiteRT.js，這是其裝置端推理庫LiteRT的JavaScript繫結，允許.tflite模型直接在瀏覽器中執行，利用WebGPU加速。相比其他Web執行時，效能提升可達3倍，GPU/NPU路徑相比CPU路徑提速5-60倍，但需要手動管理張量記憶體。

Lean64 是一個用 Lean 4 實現的極簡 3D 第一人稱射擊遊戲，靈感來自 Doom 64。它並非 Doom 64 的移植版，而是獨立開發的原型，包含完整的遊戲迴圈、敵人 AI、武器系統、音效和地圖。所有程式碼和素材均為原創，採用 MIT 許可證。

TormentNexus是一個本地優先的開源AI控制平面，為多代理工作流提供持久記憶、MCP工具編排和自主基礎設施管理。它支援38+ AI編碼代理，具有漸進式工具路由、雙層記憶架構和群集協調等功能。

喬治·盧卡斯認為抵制AI就像拒絕汽車選擇馬車，是一種過時的想法。他認為AI是電影製作的未來，無法阻擋，儘管有人擔心AI會取代人類創造力。

Sogni Unlimited 提供基於訂閱的無限影像、影片、音樂和 LLM 生成，使用去中心化的 GPU 網路。無需按渲染計費，支援開源模型及部分付費合作伙伴模型。訂閱收入的一部分用於支援獨立 GPU 運營商。

本文介紹了Millwright——一種三層資料契約架構，使模型生成的分析結果在不接觸標記、樣式或DOM的情況下渲染。透過型別化的結果構件、語義化版本控制的看板以及僅允許新增的導航頁面，確保安全、可審計且可撤銷的AI整合。

Thinking Machines 釋出了通用多模態模型 Inkling，支援文本、影像和音訊輸入並生成文本輸出，現可透過 Modal 託管端點使用，採用基於令牌的定價。文章還討論了其獨特的區域性注意力架構和 DFlash 推測解碼技術的優勢。

Thinking Machines釋出了Inkling，一個擁有約1萬億引數的開源多模態模型，支援影像、文本和音訊輸入，可處理高達100萬token的上下文。該模型採用混合專家架構，僅啟用410億引數，並配有相對注意力和短卷積等創新設計。Inkling已在Hugging Face上釋出，並得到transformers、SGLang和llama.cpp的即日支援。

Together AI釋出一系列更新，旨在提升生產環境GPU叢集的可靠性與操作控制。新功能包括被動健康檢查、自動節點修復、強化版Slurm-on-K8s棧、叢集詳情檢視、外部OIDC認證、啟動指令碼以及可選的驗收測試。這些改進幫助團隊更快發現硬體故障、自動化恢復流程，並提供更細粒度的訪問控制和自定義能力。

Thinking Machines Lab 釋出了 Inkling，一個多模態混合專家模型，專注於高效推理、原生多模態理解和廣泛任務適用性。Together AI 在其推理平臺上提供該模型，支援可控推理努力、文本/影像/音訊輸入，以及 1M 上下文視窗。

超級應用Codex每天新增100萬使用者。AI新聞彙總涵蓋編碼代理、開放模型、多模態系統、基準測試和物理AI。

PrismML釋出了Bonsai 27B，這是Qwen3.6-27B的低位表示，並非全新預訓練模型。提供三進位制和二進位制兩種變體，採用Apache 2.0許可證。三進製版本每位僅1.71位元，理想大小為5.9GB；二進位制版本每位1.125位元，大小為3.9GB。效能方面，三進位制保留FP16基線的94.6%，二進位制保留89.5%。該模型支援多模態，上下文長度262K令牌。PrismML聲稱二進位制版本是首個適合手機的27B級模型。

開源AI已達到與封閉模型的能力平價，推理成本在36個月內下降了50倍，開源權重在API呼叫量上佔據主導地位。儘管開發者廣泛採用開源模型（79%），但生產部署仍面臨運營工具和信任度挑戰（僅51%成功部署）。開源不僅是成本選擇，更是主權選擇，尤其在中國和全球南方國家的戰略推動下。

本文深入探討了TPU和GPU叢集拓撲結構，以及用於Transformer訓練和推理的核心集體操作。重點介紹了環狀演算法在大型訊息通訊中的應用，並分析了TPU的2D/3D環面拓撲和頻寬層次結構。

臺灣晶片製造商正在擴大製造能力，以支援日益增長的人工智慧基礎設施需求。

開放模型如NVIDIA Nemotron使企業能夠構建滿足特定需求的AI，提供完全的控制權、定製能力和成本效益，並推動從AI使用到AI擁有的轉變。

在AI工廠中，電力是不可迴避的約束。每瓦效能決定了在固定電力預算內能生成的token數量，直接影響收入和盈利能力。隨著代理型AI推動token需求增長，今天的架構決策將決定誰能擴充套件。NVIDIA Blackwell平臺透過全棧協同設計實現高達25倍的每瓦效能提升，並已在生產中驗證。

軟體是AI產生巨大經濟價值的首個領域，這得益於其可驗證性和“可研磨性”。本文探討了哪些行業將接下來被顛覆，軟體工程師角色的轉變，以及AI利潤最終會流向哪裡的爭議。重點強調了強化學習環境和持續學習能力的關鍵作用。

蘋果起訴OpenAI竊取商業機密，指控三名前蘋果員工（包括前副總裁Tang Tan）將硬體機密帶給OpenAI。此案發生在OpenAI準備IPO和推出硬體裝置的關鍵時刻。法律專家表示，蘋果是頑強的訴訟方，此案可能持續多年。

Databricks Lakebase是一種完全託管的無伺服器Postgres資料庫，專為代理時代構建。它透過統一運營和分析工作負載、消除基礎設施摩擦來幫助企業實現現代化。全球合作伙伴已構建了一系列跨行業和功能的加速器，涵蓋技術、金融、營銷、銷售、供應鏈等領域，以加速資料現代化、MLOps和代理式AI轉型。

一位開發者構建了一個強化學習管道，其中 AI 智慧體編寫訓練作業來訓練小型模型，然後透過強化學習對智慧體本身進行訓練，獎勵其生成更好的模型。結果顯示，在 54 個訓練步驟中，獎勵從約 0.0 上升到約 0.63，並且技能可以轉移到未見過的任務族。總成本約 1,275 美元。

擴充套件LLM的關鍵不是增加GPU，而是消除每個請求中的不必要工作。本文介紹了12種實用的減少延遲和成本的方法。