駭客入侵揭示Suno AI音樂生成器從YouTube、Deezer和Genius抓取資料
一名駭客入侵Suno AI,曝光了其訓練資料來源,包括從YouTube Music、Deezer、Genius等平臺抓取的數百萬首歌曲和播客,同時洩露了數十萬使用者資訊及Stripe支付資料。Suno此前因版權問題被起訴,此次事件進一步揭示了AI公司的資料收集方式。
- 駭客透過供應鏈攻擊入侵Suno,獲取了原始碼和客戶資料。
- Suno從YouTube Music、Deezer、Genius等平臺抓取了數百萬首音樂和播客。
7個用於編排本地AI代理的Python框架
本文介紹了七種Python工具,工程師在2026年實際使用它們來在本地基礎設施上構建、協調和執行AI代理,涵蓋從模型執行到決策編排的各個層面。
- Ollama提供輕量級執行時,支援本地執行開源LLM,相容OpenAI API。
- Smolagents以最小抽象和程式碼即行動為特點,但依賴足夠強大的本地模型。
NVIDIA與日本攜手,將全棧AI與機器人技術帶入各行各業
日本作為全球AI中心,正藉助NVIDIA技術構建全棧AI生態系統。NVIDIA與SEGA慶祝合作30週年,宣佈將《VR戰士CROSSROADS》等經典遊戲引入NVIDIA RTX Spark新平臺,展現了從圖形技術到AI計算的技術演進。
- 日本是製造業、機器人及基礎設施建設的全球樞紐,正在利用NVIDIA全棧技術加速AI發展。
- NVIDIA與SEGA宣佈為NVIDIA RTX Spark平臺帶來《VR戰士CROSSROADS》等經典遊戲,延續30年合作。
AIDE²:遞迴自我改進的首個證據
AIDE2 系統透過八天的自主研究,發現了一個比人類兩年構建的更好的自動研究框架,實現了遞迴自我改進(RSI)的首個實驗證據。該系統採用雙層最佳化迴圈,內層迴圈最佳化程式碼,外層迴圈最佳化內層智慧體的程式碼框架,最終產生了七個改進版本,並在未見過的任務上表現出泛化能力。同時,系統還進化出了防止獎勵駭客行為的機制。
- AIDE2 系統在八天內自主發現了一個更優的自動研究框架,超越了人類兩年的工作。
- 系統採用雙層最佳化迴圈,內層迴圈最佳化程式碼,外層迴圈最佳化內層智慧體的程式碼框架。
諾基亞AI-RAN平臺:依託輝達的無線電迴歸
諾基亞於7月15日釋出了其AI-RAN平臺,聲稱是業界首個GPU加速的AI無線電平臺。該平臺基於anyRAN軟體和輝達的Aerial系統,旨在顯著提升頻譜效率,目前已實現超過20%的提升,目標是到2028年實現翻倍。然而,該平臺尚未商用,且面臨愛立信等競爭對手的挑戰。
- 諾基亞推出AI-RAN平臺,聲稱是業界首個GPU加速的AI無線電平臺。
- 平臺基於anyRAN軟體和輝達Aerial系統,目標頻譜效率提升超過100%。
什麼樣的AI程式設計工具值得付費?
UltraWork 是一個託管式AI程式設計環境,每月固定費用399美元,無令牌計量,無需擔心意外賬單。它提供精選模型目錄、智慧路由、提示模板庫,面向獨立開發者、機構和小團隊。由具有高效能基礎設施經驗的工程師運營,強調簡單性和可預測的定價。
- UltraWork 提供每月固定費用399美元的AI編碼環境,無令牌計量或超額費用。
- 服務包括託管聊天介面、精選模型目錄(首發為Kimi K2.7 Code)以及智慧路由。
谷歌釋出LiteRT.js:透過WebGPU在瀏覽器中執行.tflite模型的JavaScript繫結
谷歌於2026年7月9日釋出了LiteRT.js,這是其裝置端推理庫LiteRT的JavaScript繫結,允許.tflite模型直接在瀏覽器中執行,利用WebGPU加速。相比其他Web執行時,效能提升可達3倍,GPU/NPU路徑相比CPU路徑提速5-60倍,但需要手動管理張量記憶體。
- LiteRT.js 透過 WebAssembly 在瀏覽器中執行 .tflite 模型,並利用 WebGPU 進行 GPU 加速。
- 效能提升:相比其他 Web 執行時最高 3 倍,GPU/NPU 路徑相比自身 CPU 路徑快 5-60 倍。
Show HN: Lean64 – 基於 Lean 4 的 Doom64 風格 FPS 遊戲
Lean64 是一個用 Lean 4 實現的極簡 3D 第一人稱射擊遊戲,靈感來自 Doom 64。它並非 Doom 64 的移植版,而是獨立開發的原型,包含完整的遊戲迴圈、敵人 AI、武器系統、音效和地圖。所有程式碼和素材均為原創,採用 MIT 許可證。
- Lean64 是使用 Lean 4 語言開發的 Doom 風格第一人稱射擊遊戲原型。
- 遊戲包含完整的移動、射擊、敵人、物品、地圖和 UI 等機制。
TormentNexus:開源AI控制平面,擁有26K+ MCP工具
TormentNexus是一個本地優先的開源AI控制平面,為多代理工作流提供持久記憶、MCP工具編排和自主基礎設施管理。它支援38+ AI編碼代理,具有漸進式工具路由、雙層記憶架構和群集協調等功能。
- 本地執行的開源AI控制平面,整合26K+ MCP工具。
- 支援38+ AI編碼代理,一鍵安裝。
喬治·盧卡斯:抵制AI就像拒絕汽車選擇馬車
喬治·盧卡斯認為抵制AI就像拒絕汽車選擇馬車,是一種過時的想法。他認為AI是電影製作的未來,無法阻擋,儘管有人擔心AI會取代人類創造力。
- 喬治·盧卡斯將抵制AI比作拒絕汽車選擇馬車。
- 他認為AI是進步和未來,無法阻擋。
Sogni Unlimited:去中心化GPU上的無限影像/影片生成,統一費率
Sogni Unlimited 提供基於訂閱的無限影像、影片、音樂和 LLM 生成,使用去中心化的 GPU 網路。無需按渲染計費,支援開源模型及部分付費合作伙伴模型。訂閱收入的一部分用於支援獨立 GPU 運營商。
- 統一月費或年費,可無限制使用開源模型進行渲染。
- 去中心化 GPU 網路,由獨立運營商提供算力支援。
在個人應用中巧妙融合AI與UI
本文介紹了Millwright——一種三層資料契約架構,使模型生成的分析結果在不接觸標記、樣式或DOM的情況下渲染。透過型別化的結果構件、語義化版本控制的看板以及僅允許新增的導航頁面,確保安全、可審計且可撤銷的AI整合。
- Millwright採用三層資料層(構件、看板、頁面)將AI輸出與UI渲染分離。
- 第一層:構件返回型別化的JSON資料而非HTML,確保安全並明確資料契約。
[AINews] 今天沒有什麼大事發生
超級應用Codex每天新增100萬使用者。AI新聞彙總涵蓋編碼代理、開放模型、多模態系統、基準測試和物理AI。
- Codex和ChatGPT Work使用量一週增長2.5倍。
- Bonsai 27B將前沿模型帶到消費裝置上。
PrismML釋出Bonsai 27B:Qwen3.6-27B的1位和三進製版本,可在筆記型電腦和手機上執行
PrismML釋出了Bonsai 27B,這是Qwen3.6-27B的低位表示,並非全新預訓練模型。提供三進位制和二進位制兩種變體,採用Apache 2.0許可證。三進製版本每位僅1.71位元,理想大小為5.9GB;二進位制版本每位1.125位元,大小為3.9GB。效能方面,三進位制保留FP16基線的94.6%,二進位制保留89.5%。該模型支援多模態,上下文長度262K令牌。PrismML聲稱二進位制版本是首個適合手機的27B級模型。
- Bonsai 27B是Qwen3.6-27B的低位版本,非全新預訓練模型。
- 提供三進位制(1.71位元/權重)和二進位制(1.125位元/權重)兩種變體。
作業系統 -> 生產調查
開源AI已達到與封閉模型的能力平價,推理成本在36個月內下降了50倍,開源權重在API呼叫量上佔據主導地位。儘管開發者廣泛採用開源模型(79%),但生產部署仍面臨運營工具和信任度挑戰(僅51%成功部署)。開源不僅是成本選擇,更是主權選擇,尤其在中國和全球南方國家的戰略推動下。
- 開源AI與頂級封閉模型的能力差距縮小至3.3%,在編碼等任務上達到平價。
- GPT-4級推理成本從每百萬token 20美元降至0.40美元,降幅達50倍。
TPU與GPU叢集:集體通訊的解剖
本文深入探討了TPU和GPU叢集拓撲結構,以及用於Transformer訓練和推理的核心集體操作。重點介紹了環狀演算法在大型訊息通訊中的應用,並分析了TPU的2D/3D環面拓撲和頻寬層次結構。
- TPU叢集採用2D或3D環面拓撲,晶片透過ICI直接連線。
- 集體操作如All-Gather和Reduce-Scatter是分散式訓練的基礎。
臺灣第二大晶片製造商實現光子學生產里程碑
臺灣晶片製造商正在擴大製造能力,以支援日益增長的人工智慧基礎設施需求。
- 臺灣第二大晶片製造商在光子學生產上達到重要里程碑
- 擴大產能以滿足AI基礎設施需求
Nemotron Labs:開放模型如何讓企業和國家擁有可信、可控、可定製的人工智慧
開放模型如NVIDIA Nemotron使企業能夠構建滿足特定需求的AI,提供完全的控制權、定製能力和成本效益,並推動從AI使用到AI擁有的轉變。
- 開放模型讓企業能夠定製、檢查和改進AI,滿足業務具體需求。
- 透過後訓練和領域微調,開放模型在特定任務上可達到與領先封閉模型相當的準確性,成本大幅降低。
為什麼每瓦效能是AI基礎設施效率的終極指標
在AI工廠中,電力是不可迴避的約束。每瓦效能決定了在固定電力預算內能生成的token數量,直接影響收入和盈利能力。隨著代理型AI推動token需求增長,今天的架構決策將決定誰能擴充套件。NVIDIA Blackwell平臺透過全棧協同設計實現高達25倍的每瓦效能提升,並已在生產中驗證。
- 每瓦效能是AI工廠盈利的基礎,無法被投機取巧,只能透過實際效果贏得。
- NVIDIA GB300 NVL72相比Hopper代際,在多個前沿模型上實現高達25倍的每瓦效能提升。
編碼是AI真正賺錢的地方,接下來會是什麼?
軟體是AI產生巨大經濟價值的首個領域,這得益於其可驗證性和“可研磨性”。本文探討了哪些行業將接下來被顛覆,軟體工程師角色的轉變,以及AI利潤最終會流向哪裡的爭議。重點強調了強化學習環境和持續學習能力的關鍵作用。
- 編碼因其可驗證性和可研磨性而特別適合AI自動化。
- AI價值正在向形式數學和符號性案頭工作等領域擴充套件,但現實世界任務仍難以突破。
Sam Altman不需要另一場訴訟
蘋果起訴OpenAI竊取商業機密,指控三名前蘋果員工(包括前副總裁Tang Tan)將硬體機密帶給OpenAI。此案發生在OpenAI準備IPO和推出硬體裝置的關鍵時刻。法律專家表示,蘋果是頑強的訴訟方,此案可能持續多年。
- 蘋果指控前員工竊取硬體商業機密幫助OpenAI
- OpenAI正面臨IPO、硬體開發等多重壓力
基礎背景:跨行業和特定功能的Lakebase加速器
Databricks Lakebase是一種完全託管的無伺服器Postgres資料庫,專為代理時代構建。它透過統一運營和分析工作負載、消除基礎設施摩擦來幫助企業實現現代化。全球合作伙伴已構建了一系列跨行業和功能的加速器,涵蓋技術、金融、營銷、銷售、供應鏈等領域,以加速資料現代化、MLOps和代理式AI轉型。
- Lakebase是Databricks平臺上完全託管的無伺服器Postgres資料庫,支援事務和分析工作負載的統一。
- 其創新的寫時複製資料庫分支和智慧自動擴充套件功能消除了基礎設施摩擦。
展示 HN:我訓練了一個使用強化學習來訓練模型的智慧體(花費 –1.3k 美元)
一位開發者構建了一個強化學習管道,其中 AI 智慧體編寫訓練作業來訓練小型模型,然後透過強化學習對智慧體本身進行訓練,獎勵其生成更好的模型。結果顯示,在 54 個訓練步驟中,獎勵從約 0.0 上升到約 0.63,並且技能可以轉移到未見過的任務族。總成本約 1,275 美元。
- 智慧體編寫完整的訓練作業(環境、獎勵、超引數)並提交到 Runpod GPU 進行訓練。
- 外層迴圈使用 Tinker 對智慧體進行強化學習訓練,內層迴圈使用 prime-rl 訓練小型模型。
生產中減少LLM延遲和推理成本的12種方法
擴充套件LLM的關鍵不是增加GPU,而是消除每個請求中的不必要工作。本文介紹了12種實用的減少延遲和成本的方法。
- 測量佇列時間、首token時間、token間延遲和快取命中率等關鍵指標。
- 積極減少輸出token,設定合理的max_tokens限制。
在CERN,AI將推動未來發現
歐洲核子研究中心(CERN)的大型強子對撞機每秒產生4000萬次粒子碰撞,AI被用於即時過濾資料,尋找可能包含重大發現的碰撞。從希格斯玻色子的發現到未來環形對撞機的設計,AI正在改變粒子物理學的各個階段。
- CERN使用神經網路在硬體上實現即時異常檢測,發現未知現象。
- AI幫助過濾海量資料,促成了希格斯玻色子的發現。
X剛剛給了我們可以用於AI代理的介面。我把它指向了我自己的帖子
X(原Twitter)推出了託管MCP伺服器,允許AI代理訪問平臺資料。作者Daniel Lemire將AI編碼代理連線到X的MCP伺服器,分析了自己兩個月的發帖歷史。他發現早晨(尤其是9點左右)的帖子中位瀏覽量最高,較長的帖子(300-325字元)比短回覆獲得顯著更多的互動。這一過程展示了AI代理如何簡化社交媒體資料分析。
- X推出了託管MCP伺服器,使AI代理能夠與平臺資料互動。
- 作者將AI代理連線到X的MCP伺服器,分析了自己兩個月的發帖習慣。
所有人都應歡迎AI國有化
伯尼·桑德斯提議透過國有化主要AI公司一半股份來建立主權財富基金,引發熱議。文章從自由主義財產權理論到社會主義視角分析其合理性,認為AI應造福全人類。
- 桑德斯提議國有化AI公司一半股份,建立主權財富基金。
- 文章引用洛克和諾齊克的理論,探討集體財產權。
基於RISC-V多核MCU視覺系統的低功耗車牌檢測與識別
本文首次演示了基於低功耗MCU的邊緣裝置用於自動車牌識別(ALPR)。該設計利用9核RISC-V處理器GAP8,結合QVGA超低功耗灰度成像器,採用基於SSDlite-MobilenetV2和LPRNet的多模型推理方法,在公共資料集上達到38.9%的mAP和超過99.13%的識別率。在真實世界中可識別小至30x5畫素的車牌。多模型推理(687 MMAC)在GAP8上以1.09 FPS和117 mW執行,相比樹莓派3系統能效提升73倍,且無需硬連線加速引擎。
- 首個基於MCU的低功耗ALPR邊緣裝置,使用9核RISC-V處理器GAP8。
- 多模型方法:SSDlite-MobilenetV2用於檢測(mAP 38.9%),LPRNet用於識別(>99.13%)。
低自相關二進位制序列問題中的搜尋空間區域優先化
本文提出了一種混合搜尋框架,結合湯普森取樣與並行自迴避行走,以有效分配低自相關二進位制序列(LABS)問題中的計算資源。該方法模型化為多臂老虎機,動態優先處理有前景的搜尋空間分割槽,在35個序列長度上取得了新的最佳結果,並獲得了因子超過8.0的最長序列。
- 結合湯普森取樣和自迴避行走進行自適應資源分配
- 在35個序列長度(範圍450-527)及L=573上達到最先進結果
Show HN: Melodusk – 瀏覽器中的AI音樂生成器與音樂工具
Melodusk是一款基於瀏覽器的AI音樂生成器,透過文本描述可在2分鐘內生成專業品質的音樂,支援100多種風格,並提供人聲分離等工具,所有音樂免版稅商用。
- 透過文本描述在2分鐘內生成專業級音樂
- 支援100多種音樂風格,包括流行、搖滾、爵士、古典等
AI新聞:Codex使用者6個月增長超10倍達700萬,超越Claude Code?
過去幾天,OpenAI的Codex使用者數突破700萬,6個月內增長超10倍,而Claude Code的增速放緩。Prime Intellect釋出了verifiers v1,用於智慧體強化學習;OpenAI解決了GPT-5.6 Sol的用量問題;Grok Build因上傳整個程式碼庫引發安全爭議;開放模型和量化技術取得進展;持續學習等研究方向重新受到關注。
- Codex使用者6個月內從約60萬增至700萬,超越Claude Code的增速。
- Prime Intellect釋出verifiers v1,將環境拆分為taskset、harness和runtime,支援長程智慧體RL。
Meta有望成為美國下一個大型雲服務提供商
Meta計劃投資500億美元擴建其路易斯安那州的資料中心,並探索出租多餘計算能力給其他AI實驗室。這表明Meta可能效仿亞馬遜、谷歌等公司,從社交媒體巨頭轉型為雲服務提供商。
- Meta將投資500億美元擴建Hyperion資料中心,功率從2.2吉瓦增至5吉瓦。
- Meta正在考慮出租多餘計算能力,類似於AWS或Azure的模式。
AI基礎設施建設構成最新通脹威脅
大規模AI資料中心投資導致晶片、電腦和電力價格上漲,可能使通脹持續高於美聯儲目標,並促使加息。
- 四大科技公司今年AI投資預計達7200億美元,推高記憶體晶片價格高達400%。
- 蘋果、微軟等企業已提高筆記型電腦、遊戲機等產品價格。
OpenAI GPT-5.6 Sol、Terra 和 Luna 現已正式在 Amazon Bedrock 上可用
OpenAI 最新智慧模型系列 GPT-5.6 Sol、Terra 和 Luna 已在 Amazon Bedrock 上正式可用,帶來旗艦級推理模型 Sol、平衡型模型 Terra 和快速低成本模型 Luna。Amazon Bedrock 的下一代推理引擎提供高效能、安全性和可靠性,支援提示快取(90% 折扣)、區域內推理和晶片級零操作員訪問安全。同時釋出了 ChatGPT Work 和 Codex 代理。
- GPT-5.6 Sol、Terra 和 Luna 在 Amazon Bedrock 上正式可用。
- Sol 是旗艦推理模型,在編碼、安全、藥物發現等領域創下新紀錄;Terra 適合日常生產;Luna 適合高吞吐量低延遲任務。
Show HN:Fleet Deck – 在一面板上檢視機器上所有 Claude Code 會話
Fleet Deck 是一個本地工具,可即時監控和管理所有正在執行的 Claude Code 會話。它提供一個看板,顯示每個會話的狀態、衝突提醒、需求佇列,並支援任務分配、遠端控制、會話恢復等功能。核心架構零模型呼叫,依靠鉤子事件和確定性邏輯,確保安全與高效。
- Fleet Deck 將所有 Claude Code 會話整合到一個本地看板(http://127.0.0.1:4711)上,顯示狀態、衝突和待辦事項。
- 內建衝突雷達,當兩個會話在 30 分鐘內編輯同一檔案時發出警告,並支援工作樹感知。
微軟執行長對前沿AI實驗室態度轉變,警告企業保護智慧財產權
薩提亞·納德拉(Satya Nadella)警告企業,向AI實驗室付費的同時也在洩露專有資料,形成“反向資訊悖論”。他建議企業建立自有AI學習環境,而微軟則推薦其Copilot和Azure AI Foundry作為解決方案。
- 納德拉指出企業為AI支付兩次費用:一次現金,一次是更寶貴的專有知識。
- 微軟自身曾投資OpenAI並推廣資料驅動的AI,此番言論被指充滿諷刺。
Show HN: PlanWright – AI編碼智慧體的控制平面
PlanWright 是一個為 AI 編碼智慧體設計的控制平面,透過反轉規劃和驗收流程來消除人工瓶頸,使智慧體速度與人類決策解耦,並生成不可篡改的審計鏈。
- 反轉規劃:從會議記錄、郵件等非結構化輸入中自動提取目標,人類只需審批意圖。
- 智慧驗收:自動分類機械性檢查,僅將需判斷的事項提交人類,每次批准均簽名。
在Amazon SageMaker AI中推出生成式AI推理推薦使用者介面
Amazon SageMaker AI Studio推出了生成式AI推理推薦的低程式碼/無程式碼使用者介面,引導使用者透過預設用例配置、視覺化比較和一鍵部署,無需深厚基礎設施知識即可獲得驗證的配置。
- 新UI簡化了生成式AI模型部署的最佳化過程,無需手動基準測試。
- 提供預設用例配置(互動、生成、摘要)和最佳化目標(最小化延遲、最大化吞吐量、降低成本)。
AI回報放緩將是所有人的問題
市場普遍預期超大規模企業的自由現金流將在未來幾年翻倍以上,但如果AI回報慢於預期,可能引發現金流失望、科技股拋售波及大盤、以及信貸風險上升。
- 超大規模企業預期現金流可能過於樂觀,尤其在中國模型崛起和代幣價格下跌的背景下。
- AI回報放緩可能導致現金流和盈利不及預期、Mag 7股票拋售蔓延至整個市場、資產負債表壓力增大。
高盛警告:美國將承受AI引發的通脹衝擊
高盛研究顯示,人工智慧繁榮引發的供應限制正推高記憶體晶片和半導體等關鍵元件價格,導致美國核心PCE通脹每年上升約20個基點,年底前可能翻倍至50個基點,遠超其他發達國家的10個基點平均增幅。
- 美國核心PCE通脹因AI每年上升約20個基點,年底可能翻倍。
- AI驅動的通脹分為記憶體晶片、軟體和能源三個浪潮。
斯坦福研究人員推出TRACE:將智慧體反覆失敗轉化為合成RL環境的能力定向訓練系統
斯坦福大學的研究團隊提出了TRACE系統,透過分析智慧體失敗軌跡,診斷缺失的能力,併為每個能力合成可驗證的訓練環境,利用LoRA介面卡和GRPO演算法進行訓練,最後透過MoE組合實現令牌級路由。在τ²-Bench上提升15.3個百分點,在SWE-bench Verified上達到73.2%的Pass@1,超越了多個基線模型。
- TRACE透過對比分析成功和失敗軌跡,識別出關鍵缺失能力。
- 為每個能力合成獨立的可驗證訓練環境,並使用GRPO訓練LoRA介面卡。
Prime Intellect 釋出 Verifiers v1:用於智慧體強化學習訓練和評估的可組合任務集、框架和執行時
Prime Intellect 釋出了 verifiers 0.2.0,預覽了重寫的 v1 核心。v1 將環境分解為任務集(做什麼)、框架(怎麼做)和執行時(在哪裡),並透過攔截伺服器記錄訓練軌跡。任何任務集均可與任何相容框架配合使用,並直接支援 prime-rl 訓練。
- v1 將環境拆分為任務集、框架和執行時三個獨立部分。
- 攔截伺服器代理框架與推理伺服器之間的請求,並記錄軌跡。
AI時代的贏家:記憶體產業的結構性優勢
隨著AI代理和自動化平臺快速發展,記憶體頻寬成為關鍵瓶頸。蘋果統一記憶體架構、CUDIMM標準以及PC升級潮正在重塑市場,而三星、SK海力士等記憶體製造商因HBM產能分配而獲得結構性利好。
- 本地AI推理需要近1TB/s的記憶體頻寬,傳統PC架構難以滿足。
- CUDIMM透過整合時鐘驅動器提升頻率,成為消費級PC最實用的新一代記憶體標準。
利用適度非結構化稀疏權重矩陣加速大語言模型的GPU推理
本文提出了一種針對大語言模型推理的高效GPU方法,採用三層矩陣儲存格式,包括稀疏張量核心層、插槽填充層和殘差層,實現稀疏矩陣乘法,在50%稀疏度下首次超越密集矩陣乘法,最高可達1.64倍核心加速和1.41倍端到端加速。
- 提出三層矩陣儲存格式,聯合利用稀疏張量核心和CUDA核心。
- 在50%左右適度非結構化稀疏度下,首次實現超越密集矩陣乘法效能。
Director:透過線上主動專家放置加速分散式MoE服務
本文介紹了Director,一種新的分散式MoE推理系統,透過預測驅動的線上專家放置最佳化,顯著降低端到端延遲。系統採用輕量級級聯預測器或低位元量化副本預測專家啟用模式,結合近乎零停機的線上遷移模組,以及基於鬆弛最佳化的專家放置演算法,在多項式時間內達到(1+ε)近似比。實驗表明,在Mistral、DeepSeek和Qwen等流行MoE模型上,相比現有工作延遲降低11%~55%。
- 提出預測驅動的線上專家放置方法
- 設計近乎零停機的專家遷移模組
面向低位元整數的有符號對稱量化
本文提出有符號對稱量化方法,解決標準對稱量化器因整數範圍不平衡導致的正異常值截斷問題,同時避免非對稱量化的執行時開銷。理論分析表明該方法在ℓ2誤差上條件最優,且88-99%的LLM權重組滿足條件。實驗在Qwen3、Llama3等模型上驗證了困惑度和少樣本準確率的提升。
- 標準對稱量化器因有符號整數多一個負值導致正異常值被截斷,在低位元時誤差顯著。
- 有符號對稱量化透過符號選擇規則將額外值分配給主要異常值尾端,保持零點為0,保留對稱量化的高效計算。
Show HN: 為Asterisk/FreePBX自託管的語音AI代理
AVA是一個開源自託管語音AI代理,專為Asterisk/FreePBX設計,提供快速部署、多代理管理、即時儀表盤和多AI引擎支援。最新更新包括穩定性修復、靜默看門狗和每代理語音選擇等功能。
- AVA與Asterisk/FreePBX整合,支援Google Live、OpenAI Realtime、Grok等多種AI引擎。
- 快速啟動:克隆倉庫、執行預檢查、啟動管理UI,透過嚮導配置代理和撥號計劃。
Tinier – 在瀏覽器中100%實現影像壓縮、轉換和AI放大
Tinier 是一套免費的瀏覽器內媒體工具,支援影像壓縮、格式轉換、AI 放大和影片轉 GIF,所有處理均在本地裝置完成,無需上傳檔案,保護隱私。
- 所有工具完全在瀏覽器內執行,使用 WebAssembly 和 WebGPU 技術,無需上傳檔案。
- 支援影像壓縮(最高減少70%大小)、格式轉換(JPG/PNG/WebP/SVG)、影片轉 GIF 和 AI 放大(Real-ESRGAN)。
NeuroVFM:基於Vol-JEPA在未經整理的臨床MRI和CT掃描上訓練的新型神經影像基礎模型
密歇根大學研究團隊推出NeuroVFM,一種基於524萬臨床MRI和CT體積訓練的通用神經影像基礎模型。其Vol-JEPA方法將自監督學習擴充套件到體積醫學影像,無需放射報告標籤即可學習大腦解剖和病理。在156項診斷任務中達到92.68(CT)和92.49(MRI)的AUROC,並支援報告生成、分診和跨模態遷移。
- NeuroVFM在566,915項研究的524萬體積上訓練,覆蓋二十年的臨床資料。
- Vol-JEPA採用前景聚焦掩碼的潛在預測,無需重建畫素或依賴報告。
ArgoCD AI助手
一個Argo CD UI擴充套件,在資源檢視中新增AI助手選項卡,允許使用者用自然語言查詢Kubernetes資源,並附加上下文(清單、事件、可選日誌)。相容任何OpenAI相容後端,需要Argo CD v2.13+。
- 作為Argo CD UI擴充套件,提供對Kubernetes資源的自然語言查詢。
- 透過即時資源清單、事件和可選的容器日誌豐富查詢。