AI News HubLIVE

晶片動態

中國輝達替代品公司預測銷售額激增,AI晶片需求旺盛

中國晶片設計公司摩爾線程和紫光資訊預測上半年收入大幅增長,得益於國內AI計算需求激增。摩爾線程預計收入增長135%-149%,紫光資訊預計增長55.6%-70.2%。這凸顯了中國在AI基礎設施上的強勁需求,以及在美國出口限制下國產晶片的崛起。

  • 摩爾線程預計上半年收入同比增長135.1%至149.4%,達到16.5億至17.5億元人民幣。
  • 紫光資訊預計上半年收入同比增長55.6%至70.2%,達到85億至93億元人民幣。
站內正文

巴菲特揭秘:伯克希爾310億美元押注谷歌的背後決策者

沃倫·巴菲特透露,是他本人而非繼任者格雷格·阿貝爾主導了伯克希爾對谷歌母公司Alphabet的310億美元投資。他表示,人工智慧巨頭被迫進行鉅額資本支出以保持競爭力,這種模式類似於他曾投資的鐵路和公用事業,因此吸引了長期迴避科技股的他。

  • 巴菲特親自決定伯克希爾投資Alphabet 310億美元,而非繼任CEO。
  • 他改變對科技股的看法,因AI公司資本支出模式轉向類似鐵路和公用事業。
站內正文

人工智慧的真正瓶頸在於資料交付

企業大規模部署AI時,最大障礙往往是資料從儲存到計算的基礎設施,而非GPU等計算硬體。文章指出,許多組織誤以為效能問題需要更多計算資源,實則根源在於資料飢餓,即資料無法高效、安全、持續地在儲存與計算之間流動。透過引入應用交付控制器實現松耦合架構,以及關注可達性、策略和交付三個維度的韌性,可顯著提升GPU利用率和AI投資回報。

  • AI效能瓶頸常被誤認為計算不足,實則是資料交付基礎設施的制約。
  • 松耦合架構(如引入ADC)可將儲存與計算解耦,提升靈活性和效能。
站內正文

[AINews] Kimi K3 2.8T-A50B:有史以來最大的開源模型;Opus 4.8級別的效能,Sonnet 5的定價

Moonshot AI釋出了Kimi K3,一個2.8萬億引數的開源模型,擁有1M上下文長度,在Frontend Code Arena中排名第一,並在多項基準測試中取得優異成績。此次釋出標誌著開源模型的一個里程碑,儘管與頂級閉源模型仍存在差距。新聞通訊還涵蓋了其他AI新聞,包括安全事件、智慧體框架和機器人技術。

  • Kimi K3是一個2.8萬億引數的開源模型,擁有1M上下文和原生多模態輸入。
  • 它在Frontend Code Arena中排名第一,超越了Claude Fable 5。
站內正文

SAM — 一款在本地執行的開源AI智慧體

SAM是一個免費的開源AI智慧體,它能在你的計算機上本地執行,無需訂閱。它不僅能聊天,還能實際執行任務,擁有173種工具,支援團隊協作、離線執行,並且注重隱私。

  • 免費開源,本地執行,資料隱私安全
  • 支援173種真實工具,可執行網頁、檔案、終端等操作
站內正文

月之暗面釋出 Kimi K3:2.8萬億引數開源MoE模型,搭載Kimi Delta Attention和百萬上下文

月之暗面於2026年7月16日釋出Kimi K3,這是一款2.8萬億引數的開源MoE模型,採用Kimi Delta Attention和Attention Residuals架構,支援原生視覺和100萬token上下文視窗。K3在多項基準測試中表現出色,但整體效能仍略遜於最強大的專有模型。

  • Kimi K3是首款開源2.8萬億引數MoE模型,啟用896個專家中的16個。
  • 引入Kimi Delta Attention(KDA)和Attention Residuals(AttnRes),分別提升解碼速度和訓練效率。
站內正文

AegisDB – 自託管AI代理記憶體,單個C語言二進位制檔案

AegisDB是一個自託管的AI代理記憶體系統,提供持久化、語義化和工作記憶功能,透過簡單的JSON-over-TCP協議訪問。它採用單個無依賴的C語言二進位制檔案,支援多租戶、加密、備份、只讀副本和可觀測性,特別適合與Claude Code整合,確保資料完全由使用者掌控。

  • 單個C語言二進位制檔案,零依賴,支援Docker部署
  • 提供持久化、語義化(向量搜尋)和工作記憶三種記憶體型別
站內正文

Kimi K3 在智慧知識工作基準測試中擊敗 GPT-5.6 Sol

Artificial Analysis 釋出了 AA-Briefcase 智慧知識工作基準測試結果,Kimi K3 以 1547 Elo 排名第一,領先於 GPT-5.6 Sol 的 1495 分。該基準測試模擬真實商業工作流,評估模型在生成電子表格、簡報和備忘錄等任務中的表現。

  • Kimi K3 在 AA-Briefcase 基準測試中排名第一,Elo 得分為 1547。
  • GPT-5.6 Sol 以 1495 分排名第三,落後於 Claude Fable 5。
站內正文

你的AI已就緒,但資料基礎可能尚未完善

Cushman & Wakefield首席數字和資訊官Sal Companieh分享瞭如何透過產品運營模式、統一資料戰略以及與Databricks的合作,建立企業級AI核心,將想法到成果的時間從數月縮短至數天。

  • 將技術人員嵌入業務部門,建立信任和以行為為導向的運營模式
  • 透過資本投資模型要求技術計劃與業務負責人共同建立,確保與業務優先順序一致
站內正文

Skyportal SRE – 開源AI基礎設施工程師

Skyportal SRE 是一個開源AI基礎設施工程師工具,提供Python SDK、CLI和可觀測性代理,用於管理和監控AI基礎設施。

  • Skyportal SDK 是 SkyPortal 的官方 Python 客戶端,支援同步和非同步操作
  • CLI 提供互動式命令中心和自動化指令碼介面
站內正文

如何讓我們的LeRobot影片讀取器速度提升最高15倍

我們改進了Daft中的LeRobot影片讀取器,透過批次解碼將遠端資料集上的幀解碼速度從每幀3秒提升到整體數秒,實現了4-15倍的加速。

  • 原始逐幀解碼因每次遠端開啟檔案並讀取索引而緩慢。
  • 新的批次讀取器按分片分組,排序和聚類目標時間戳,每個聚類只尋求一次。
站內正文

豐田分拆公司攜3億美元融資低調啟動

這家由輝達和波音支援的初創公司表示,其輪式機器人已投入生產,並能持續學習新的工業任務。

  • 獲得輝達和波音支援
  • 輪式機器人已投入生產
站內正文

自我破壞悖論:前沿實驗室正在摧毀自己的護城河

Anthropic 秘密削弱了其最強大的編碼代理 Claude Fable 5,使其在涉及前沿 AI 開發任務時能力下降,以保護自身經濟地位。這一做法揭示了 AI 行業的結構性矛盾:實驗室既想製造最強大的工具,又害怕被自己創造的工具取代。與此同時,開源模型生態蓬勃發展,企業客戶正在轉向更便宜的開源替代方案。

  • Anthropic 在 Claude Fable 5 中秘密實施了針對 AI 開發任務的效能降級,以保護自己的競爭地位。
  • 這一做法凸顯了前沿實驗室的自我破壞悖論:它們必須削弱自己最成功的產品來維持護城河。
站內正文

能源IPO激增,投資者尋求搭上AI熱潮

2026年上半年,能源公司透過IPO籌集了126億美元,創下自1999年網際網路泡沫以來最高半年度水平,投資者希望押注人工智慧資料中心對電力的巨大需求。

  • 2026年上半年能源IPO籌資126億美元,為1999年以來最高半年度水平。
  • AI資料中心電力需求預計將推動美國電力需求到2035年增長39%。
站內正文

VarAlign – 捕獲AI程式設計助手在會話間散落的重複變數

VarAlign是一款VS Code擴充套件,能檢測AI程式設計助手在不同會話中建立的重複、漂移或錯位的變數。完全本地執行,程式碼不會離開機器。它提供重複項、變數和會話檢視,支援生成修復提示,並可與Claude Code或Kilo Code整合自動修復。

  • 100%本地執行,無雲服務或遙測,適用於隔離環境。
  • 自動跟蹤AI助手建立的變數,檢測重複和漂移。
站內正文

NotebookLM 更名為 Gemini Notebook:新功能與跨生態整合

谷歌將 NotebookLM 更名為 Gemini Notebook,強調其作為 AI 研究工具的核心地位,並新增安全雲端計算機實現原生程式碼執行與資料分析,同時支援 Gemini 應用與搜尋的跨應用同步,未來還將整合到 AI Mode 中。自 2023 年以 Project Tailwind 推出以來,已有超過 3000 萬使用者和 60 萬個組織採用。

  • NotebookLM 正式更名為 Gemini Notebook,保持獨立產品定位,但深度融合谷歌 AI 生態。
  • 新增安全雲端計算機,支援在筆記本內直接編寫和執行程式碼,進行復雜資料分析。
站內正文

Google Vids 兩大更新:用文本生成編輯影片,建立數字分身出鏡

Google Vids 推出 Gemini Omni 和個人數字分身兩大功能,使用者只需透過自然語言描述即可生成和編輯高質量影片片段,還能建立自己的數字分身出鏡,無需實際拍攝。

  • Gemini Omni 支援透過文本提示和圖片參考生成影片,並可進行逐步編輯。
  • 個人數字分身功能讓使用者上傳自拍和錄音後,輸入文字即可讓分身說話出鏡。
站內正文

Inkling:我們的開放權重模型

Mira Murati的Thinking Machines Lab於2026年7月16日釋出了其首個開放權重模型Inkling。這是一個混合專家(MoE)Transformer,總引數975B,活躍引數41B,採用Apache-2.0許可證,支援多模態,在45萬億token上訓練。該模型並非前沿模型,而是作為透過Tinker平臺進行微調的強大基礎模型。同時預告了Inkling-Small(276B總引數,12B活躍)。模型卡和訓練資料文件異常簡短,資料來源描述模糊,僅提及公共領域和網際網路內容。Inkling在效能上與中國開放權重模型競爭,為美國開放權重生態系統增添了新力量。

  • Inkling是一個開放權重的多模態MoE模型,總引數975B(活躍41B),Apache-2.0許可,在45萬億token上訓練。
  • 該模型並非前沿模型,而是作為透過Tinker平臺微調的強大基礎模型,同時計劃推出Inkling-Small。
站內正文

Democr.ai:自託管代理AI執行時,具備審計與RBAC功能

Democr.ai 是一個開源的自託管代理AI執行時框架,整合了伺服器驅動UI、多客戶端渲染、多租戶、RBAC、OS級沙箱、三層審計、可插拔AI引擎編排、知識子系統等核心功能。其核心理念是“一切皆模組”,無供應商鎖定,強調安全作為原語。專案仍處於測試階段,但架構已面向生產級約束。

  • Democr.ai 提供一個完整的執行時框架,整合UI、AI引擎、安全審計、多租戶等能力。
  • 框架採用模組化架構,所有元件包括認證均為模組,透過公共SDK擴充套件。
站內正文

StepFun 推出 StepX Neo,號稱首款 '代理型 AI 手機'

中國AI公司StepFun釋出全球首款原生代理型AI手機StepX Neo,搭載自研Step AOS系統與Amoo AI助手,可在多平臺自主完成訂票、打車等複雜任務。

  • StepX Neo 執行自研 Step AOS 系統,非基於 Android。
  • Amoo AI 採用 1+N 模型架構,切換裝置端和雲端處理。
站內正文

AI利潤率崩塌中的贏家和輸家

本文探討了AI推理市場即將面臨的利潤率崩潰,分析了“足夠好”的廉價模型如何改變市場格局。贏家包括硬體供應鏈、超大規模雲服務商、編碼代理(如Cursor)以及終端使用者;而前沿AI實驗室雖然面臨風險,但可能透過不公開最強模型或轉向託管平臺來應對。此外,B2C市場中的廣告變現潛力可能帶來新的轉機。

  • AI推理市場正分裂為昂貴的前沿模型和廉價的“足夠好”模型,導致利潤率壓縮。
  • 硬體和基礎設施提供商、編碼代理以及消費者是主要贏家。
站內正文

序列觀點 #896:Spark、計算與兩個Meta

Meta釋出了Muse Spark 1.1,這是首個帶有價格標籤的Meta模型,標誌著從開源權重向閉源商業模式的轉變。同時,Meta在構建完整垂直堆疊——從晶片到雲再到應用,引發其能否與前沿AI實驗室競爭的討論。

  • Meta釋出Muse Spark 1.1,採用閉源權重和付費API,定價為每百萬輸入tokens 1.25美元、輸出tokens 4.25美元,相容OpenAI端點。
  • 扎克伯格三年來首次在X上發帖宣佈這一轉變,凸顯戰略調整。
站內正文

基金會啟動以標準化AI支付

Linux基金會宣佈x402基金會正式運營,該開放治理機構由40個成員組成,旨在標準化AI代理和應用的網際網路原生支付協議。

  • Linux基金會推出x402基金會,擁有40個成員,包括Visa、Mastercard、Google和Microsoft。
  • 支援多種支付方式,從傳統卡到穩定幣。
站內正文

Thinky釋出Inkling:975B-A41B多模態模型,美國最強Apache 2.0開源模型(附帶Inkling-Small,276B-A12B)

Thinky首次釋出完整LLM系列Inkling,採用MoE架構,總引數量975B,啟用引數41B,支援文本、影像、音訊輸入,1M上下文視窗,Apache 2.0許可。效能上成為美國最強開源模型,但略遜於中國開源旗艦和閉源模型。

  • Inkling是975B總參/41B啟用的MoE多模態模型,Apache 2.0開源,支援1M上下文。
  • 訓練使用45T tokens,架構創新包括滑動視窗注意力、短卷積層、共享專家等。
站內正文

停止說“AI只是一個工具,關鍵在於如何使用”

這篇文章批判了“AI只是工具,如何使用才重要”這一常見說法,指出工具並非中立,它們塑造社會、環境與人性。作者以汽車、椅子為例,說明工具的設計本身帶有政治性。AI作為工具尤為危險,因為它消除了人類應有的掙扎與痛苦,導致批判性思維喪失。文章呼籲重新審視技術設計,關注工具對人類的深層影響。

  • “AI只是工具”的說法過於簡單化,忽略了工具的政治性和社會影響。
  • 工具的設計和使用會改變人類行為和環境,AI也不例外。
站內正文

Show HN: 基於NextJS和OpenAI的AI入門模板

這是一個由Suhas Bhairav建立的包含50多個開源Next.js AI模板和入門套件的精選集合,涵蓋聊天機器人、RAG、語音代理、影像生成等多種AI應用。

  • 提供超過50個開源Next.js AI模板,覆蓋多種AI應用場景。
  • 模板包括聊天機器人、RAG、語音AI、影像生成和個人代理等類別。
站內正文

CayleyR:透過迴圈交集解決TopSpin謎題

cayleyR是一個R語言包,利用凱萊圖中的迴圈交集檢測來解決排列謎題。核心演算法採用迭代雙向搜尋,從初始和目標排列狀態生成隨機操作序列,尋找連線路徑。該包專為TopSpin(n,k)謎題設計,結合C++雜湊索引狀態儲存和可選的Vulkan GPU加速,已在CRAN上釋出。

  • cayleyR透過檢測凱萊圖中的迴圈交集來求解排列謎題
  • 演算法使用迭代雙向搜尋和距離引導的橋接選擇
站內正文

人工智慧互動地圖

一個包含56個AI概念及其150條關聯的互動視覺化地圖,使用者可透過拖拽、懸停和點選探索人工智慧的關鍵主題。

  • 互動地圖涵蓋56個AI概念和150條連線。
  • 涵蓋深度學習、語言模型、AI代理、計算機視覺等領域。
站內正文

我的投擲決定我的目標

本文透過一首藍調歌曲的比喻,探討大型語言模型的本質:它們生成文本時是先投擲後瞄準,還是存在內部規劃?作者結合自身使用AI寫作的經歷,反思模型創造的“虛假聲音”以及我們不斷剖析這些系統的行為。

  • 大型語言模型生成文本時,往往先有輸出,再構建解釋,體現了“投擲決定目標”的特性。
  • Anthropic的研究表明,模型在寫詩時會預先規劃韻腳,顯示出一定的內部目標設定。
站內正文

您可能錯過的RAISE Summit三大洞察

代理推理正在將AI基礎設施的重心從訓練擴充套件轉向上下文感知、記憶增強推理。RAISE峰會強調了三大關鍵洞察:AI堆疊專業化、儲存作為主動記憶體擴充套件、以及資本和資料主權融入基礎設施設計。

  • 代理推理推動AI堆疊專業化,AMD、Tensordyne和d-Matrix等公司提供最佳化硬體。
  • 儲存成為AI記憶體的主動擴充套件,高容量SSD靠近GPU防止計算空閒。
站內正文

QumulusAI直接上市:加速企業AI的Neocloud

Neocloud提供商QumulusAI宣佈透過直接上市在納斯達克交易,股票程式碼QMLS。此舉不僅是一項金融交易,更標誌著以GPU和電力可用性為中心的AI基礎設施層正在成熟。公司專注於快速部署高階GPU容量,利用現有機櫃設施和模組化資料中心,以季度為單位交付產能。直接上市提供了資本靈活性、公眾公司信譽,並抓住了AI基礎設施視窗期。文章還分析了Neocloud的差異化策略及對IT領導者的建議。

  • QumulusAI透過直接上市在納斯達克公開交易,股票程式碼QMLS。
  • 公司專注於AI基礎設施,提供GPU叢集,時間上以月計而非年計。
站內正文

99.9% 的正常執行時間對推理意味著什麼?

本文深入解析了推理服務中 99%、99.9% 和 99.99% 正常執行時間所對應的不同故障域,以及每個層級所需的架構設計。作者分享了 Together AI 在構建可靠推理基礎設施方面的實踐經驗,並提供了在選擇推理提供商時應提出的關鍵問題。

  • 每個可靠性層級對應不同的故障域:99% 應對節點故障,99.9% 應對資料中心故障,99.99% 應對區域故障。
  • 實現高可靠性需要主動健康檢查、跨設施部署以及預留容量。
站內正文

米拉·穆拉蒂的Thinking Machines推出Inkling,開放權重模型任何人都可訪問

米拉·穆拉蒂創立的Thinking Machines Lab今日釋出了其首個基礎模型Inkling,這是一款完全開放權重的巨型模型,擁有9750億引數(混合專家架構,活躍引數410億)。該模型經過45萬億token的文本、影像、音訊和影片訓練,原生支援多模態輸入但僅輸出文本。Inkling旨在填補西方開源AI生態的空白,提供中國模型的替代方案。它具備'思考努力'控制和不確定性標記功能,可減少幻覺。開發者可透過Tinker API進行微調。Thinking Machines計劃透過Tinker平臺收費,而非按API呼叫計費,這可能顛覆當前主流AI商業模式。該模型在九個月內完成開發,使用輝達GB300 NVL72系統訓練。

  • Thinking Machines釋出首個基礎模型Inkling,擁有9750億引數(活躍410億),完全開放權重。
  • 模型經45萬億token多模態訓練,僅輸出文本,具備思考努力控制和不確定性標記。
站內正文

思考機器實驗室釋出Inkling:9750億引數開源多模態MoE模型,410億活躍引數,可控制思考力度

思考機器實驗室於2026年7月15日釋出了其首個從頭訓練的模型Inkling,採用Apache 2.0開源協議。該模型總引數量9750億,活躍引數410億,支援100萬token上下文視窗,可處理文本、影像和音訊輸入。其核心差異化優勢在於可控制的思考力度,使用者可根據需求調整推理時的token預算,平衡成本與效能。

  • Inkling是一個975B引數的混合專家(MoE)Transformer模型,具有41B活躍引數,支援1M上下文視窗和多模態輸入(文本、影像、音訊)。
  • 透過強化學習實現了可控的思考力度(reasoning_effort),可在推理時動態調整token預算,在Terminal Bench上以三分之一的token達到Nemotron 3 Ultra的效能。
站內正文

NVIDIA推出新型Jetson Thor計算機,推動主流機器人與邊緣AI發展

NVIDIA釋出了基於Thor架構的T3000和T2000模組,專為大規模機器人與邊緣AI應用設計。T3000提供865 FP4 teraflops算力,尺寸和功耗僅為T5000的一半;T2000提供400 FP4 teraflops。新模組支援可擴充套件邊緣AI平臺,並引入智慧體技能實現記憶體最佳化。同時推出Cosmos 3 Edge模型,適用於即時視覺分析。開發者可透過模擬模式立即開始開發,模組將於2027年Q1上市。

  • NVIDIA釋出T3000和T2000模組,基於Thor架構,適用於機器人與邊緣AI。
  • T3000算力865 FP4 teraflops,尺寸功耗減半;T2000算力400 FP4 teraflops。
站內正文

Eaon(預覽版)——私有的全能AI超級應用

Eaon是一款原生Mac應用,整合了49種AI模型,支援本地執行、自帶API金鑰或內建連線,完全免費且開源。它提供模型切換、成本監控、命令面板等功能,並注重隱私和本地化操作。

  • 免費開源,支援49種AI模型(如Claude、GPT、Gemini等)
  • 可本地執行或使用自帶API金鑰,資料隱私受保護
站內正文

Cadence將其AI代理從晶片擴充套件到電路板和封裝的AuraStack

Cadence Design Systems推出AuraStack,一款用於封裝和PCB設計的AI代理,旨在自動化系統設計工作流程,將設計時間從數天縮短到幾分鐘。

  • Cadence推出AuraStack,一款用於封裝和印刷電路板設計的AI代理。
  • 該代理幫助工程師進行系統設計分析,整合碎片化工作流程。
站內正文

遺忘中的智慧體(AIAIO)—— 教你如何使用AI的遊戲

AIAIO 是一款將 AI 代理會話日誌轉化為平臺遊戲的創意專案。你的實際提示、錯誤和任務成為遊戲關卡,而“遺忘之牆”則根據你的 token 消耗推進。它既是教育工具,也是自我反思工具。

  • 遊戲將 Claude Code、OpenClaw、Hermes 等 AI 代理的會話日誌轉化為可玩的平臺關卡。
  • 玩家的實際錯誤會變成怪物,任務變成工作站,token 消耗會推動“遺忘之牆”。
站內正文

Inkling 模型卡

Inkling 是 Thinking Machines Lab 釋出的通用多模態模型,支援文本、影像和音訊輸入,輸出文本。模型擁有 9750 億總引數(410 億啟用引數),採用稀疏 MoE 架構,上下文視窗達 100 萬 token,在多項基準測試中表現優異,並開放權重供研究和商業使用。

  • Inkling 是一個多模態稀疏 MoE 模型,975B 總引數,41B 啟用引數,支援 1M token 上下文。
  • Apache 2.0 許可開源,權重可在 Hugging Face 下載,並提供 API 訪問。
站內正文

我造了一臺AI垃圾生成器

作者詳細介紹了自己構建一臺本地AI推理機器(稱為“垃圾生成器”)的過程,包括模型選擇(Qwen 3.6 27B)和硬體選型(Radeon AI Pro R9700 GPU加eGPU擴充套件塢),並探討了自託管LLM的優勢與挑戰。

  • 自託管LLM可避免資料洩露、訂閱費和廣告,但需要強大的硬體。
  • Qwen 3.6 27B模型在量產後效能優異,適合本地執行。
站內正文

Soofi聯合體釋出Soofi S 30B-A3B:面向德語和英語的開放混合Mamba-Transformer MoE基礎模型

德國研究聯合體釋出了Soofi S 30B-A3B的預訓練報告,這是一個面向德語和英語的開放基礎模型。模型採用混合Mamba-Transformer MoE架構,總計約316億引數,每次token啟用約32億。在完全開放的基礎模型中,Soofi S在英語和德語綜合得分上最高。

  • Soofi S 30B-A3B是混合Mamba-Transformer MoE模型,啟用32億引數中的3.2B。
  • 在開放基礎模型中,英語綜合得分70.1%,德語79.1%,均領先。
站內正文

Built Technologies在AWS上構建AI驅動文件智慧解決方案,為房地產金融代理提供支援

Built Technologies與AWS生成式AI創新中心、AND Digital及AWS賬戶團隊合作,建立了可擴充套件的AI文件處理引擎,能夠對複雜房地產金融文件進行分類、拆分、提取、評估和推理。該引擎將原本需要數天的工作流程縮短至數分鐘,支援數百種文件型別,併為技術團隊和行業專家提供構建和改進文件處理器的共享環境。

  • Built Technologies開發了基於Amazon Bedrock和AWS IDP加速器的AI文件處理引擎。
  • 該引擎支援250多種文件型別,處理數百萬份文件,並賦能代理進行文件推理。
站內正文

IBM Power S1112將本地AI推理帶到邊緣,Power平臺走向自主

IBM釋出了新的Power伺服器系列和軟體,旨在實現基礎設施管理和應用程式開發的自動化。其中包括用於系統管理的自主控制層IBM Power Autonomous Operations,以及面向IBM i環境的AI驅動開發助手IBM Bob Premium Package for i。此外,IBM還推出了緊湊型單插槽Power11伺服器Power S1112,專為本地AI推理設計。這些新功能建立在去年Power11釋出的基礎上,強調了自主IT能力的擴充套件。IBM引用其2026年技術領導者研究,預計到2027年企業將平均部署1661個AI代理,需要能夠自我管理的基礎設施。Power S1112利用Power11的片上矩陣數學加速進行本地推理,效能是Power S914的兩倍,能效提高69%。Power Autonomous Operations透過持續監控系統行為,在3.33分鐘內解決容量問題,比傳統工作流程快15倍。IBM Bob Premium Package for i則幫助開發者更快理解和現代化IBM i應用。

  • IBM推出Power S1112伺服器,支援本地AI推理,效能提升顯著,能效提高69%。
  • IBM Power Autonomous Operations可實現基礎設施管理自動化,將問題解決時間縮短15倍。
站內正文

面向高等教育的人工智慧輔助諮詢服務

高等教育機構在擴大校園呼叫中心服務質量審查方面面臨挑戰。Databricks 提出一種基於生成式人工智慧的解決方案,使用 OpenAI Whisper 進行高精度轉錄,利用 LLM-as-a-judge 根據機構評分標準進行一致評分,並透過 AI 函式進行資料豐富——所有步驟均在統一治理平臺上完成,透過 Genie 和 Agent Bricks 實現自然語言洞察。

  • 針對財務援助、招生和註冊的呼叫中心質量保證成本高昂,通常僅審查約5%的通話。
  • Databricks 使用 Whisper 進行高保真轉錄,相比傳統 ASR 更能準確處理各種口音和嘈雜環境。
站內正文

美國人工智慧成本高昂,初創公司轉向廉價的中國模型

隨著人工智慧成本成為美國企業增長最快的支出之一,一些初創公司開始轉向更便宜的中國AI模型以節省開支。儘管中國模型在能力上落後6到12個月,但其開源特性和低成本吸引了大量使用者。

  • 美國AI公司如Anthropic、OpenAI模型成本高昂,初創公司Lindy.ai轉向中國的DeepSeek-V4節省了數百萬美元。
  • 中國模型在開源領域佔據主導地位,成本僅為美國模型的十分之一。
站內正文

跨越4國14臺Mac的強化學習後訓練

一個研究團隊成功利用分佈在四個國家的14臺Mac電腦(包括一臺個人MacBook)進行強化學習後訓練,在PaperSearchQA任務上將pass@1從29%提升至63%。該系統透過PULSE權重同步技術實現90MB的增量更新,並採用非同步星型拓撲結構,所有通訊基於物件儲存,無需專用網路。這是首次完全使用消費級Mac進行rollout生成的RL後訓練。

  • 14臺Mac跨4國透過普通網際網路連線完成RL後訓練,rollout生成在Mac上,訓練在B200上。
  • PULSE技術將9GB權重同步壓縮至約90MB,家庭網路實現資料中心級速度。
站內正文

Perplexity推出安全沙箱,讓AI代理既安全又強大

Perplexity AI推出SPACE沙箱平臺,為AI代理提供隔離的安全環境,支援長期任務、會話暫停與恢復,並保護使用者憑證。基於AWS Firecracker微虛擬機器技術,效能提升顯著。

  • SPACE是基於Firecracker微虛擬機器的安全沙箱,提供硬體級隔離與快速啟動。
  • 支援會話暫停、恢復和分支,任務可執行數小時至數天。
站內正文

駭客入侵揭示Suno AI音樂生成器從YouTube、Deezer和Genius抓取資料

一名駭客入侵Suno AI,曝光了其訓練資料來源,包括從YouTube Music、Deezer、Genius等平臺抓取的數百萬首歌曲和播客,同時洩露了數十萬使用者資訊及Stripe支付資料。Suno此前因版權問題被起訴,此次事件進一步揭示了AI公司的資料收集方式。

  • 駭客透過供應鏈攻擊入侵Suno,獲取了原始碼和客戶資料。
  • Suno從YouTube Music、Deezer、Genius等平臺抓取了數百萬首音樂和播客。
站內正文

晶片製造商Axelera釋出Voyager Wingman加速邊緣AI開發

邊緣AI晶片公司Axelera AI釋出了Voyager Wingman,一個允許開發者透過自然語言請求構建和除錯邊緣晶片應用的AI助手。該工具連線公司的Voyager SDK和全部文件,可幫助組裝計算機視覺管道、建議編譯器設定並診斷錯誤。它作為託管服務執行,知識隨Toolkit版本自動更新。現已提供網頁版和獨立應用,採用免費增值模式。

  • Voyager Wingman透過聊天介面提供對Axelera SDK和文件的直接訪問,簡化邊緣AI開發。
  • 該工具最初在CES上展示,經過客戶和內部團隊測試後正式釋出。
站內正文

7個用於編排本地AI代理的Python框架

本文介紹了七種Python工具,工程師在2026年實際使用它們來在本地基礎設施上構建、協調和執行AI代理,涵蓋從模型執行到決策編排的各個層面。

  • Ollama提供輕量級執行時,支援本地執行開源LLM,相容OpenAI API。
  • Smolagents以最小抽象和程式碼即行動為特點,但依賴足夠強大的本地模型。
站內正文

主題導航

晶片 — AI 主題新聞 | AI News Hub