EntMTP是一種無需訓練的調度器,通過根據局部生成熵動態切換樹注意力拓撲,在低熵區域進行深度推測,高熵區域保守推測,從而在不犧牲生成質量的前提下,最大化吞吐量。在多個基準測試中,相比Hydra和Medusa分別實現1.15倍和最高1.36倍的加速。
AI 新聞即時情報
即時監測
即時更新
即時追蹤可信來源,保留出處、權限和站內閱讀模式,把噪音壓成可讀情報。
即時更新
一種新的循環神經網絡架構,通過在token進入D層Transformer模塊之前對其進行預上下文化處理,實現了顯著的速度提升,同時保持或超越標準Transformer的性能。
大型語言模型(LLM)智能體在長期多會話交互中需要更新事實,但現有記憶系統存在顯著缺陷。研究發現,即使是最先進的模型(如gpt-5.4),在替換為有界自維護記憶後,準確率從92%下降到77%。這種差距並非由模型規模或記憶容量引起,而是隨對話長度增加而惡化。研究者發佈了Supersede,一個基於強化學習的開源訓練環境,通過獎勵當前事實和懲罰過時事實來訓練智能體。對Qwen2.5-3B模型進行GRPO微調,使真實對話中的更新準確率從9.0%提升至16.7%。
本研究採用發展方法探究神經語言模型(NLM)的統計學習和心理表徵。通過訓練一系列生成式Transformer模型於合成語法,並保存訓練過程中多個階段的模型狀態,分析內部表徵的變化,發現NLM在學習初期獲取最抽象的全局統計知識,隨後學習相對局部的統計依賴。這一學習路徑包含許多早期過度泛化,這些泛化在後期逐漸受到約束。基於此觀察,提出解釋NLM統計學習和語言認知的新框架。
本文介紹了HSA_CORAL團隊在FinCausal 2026共享任務中的提交,旨在通過抽取式問答從金融敍述中提取因果關係的任務。團隊比較了三種模型家族:僅編碼器的令牌標註(多語言BERT)、編碼器-解碼器生成(多語言BART)和僅解碼器的大語言模型(Llama 3.1和GPT變體),並使用了提示優化、少樣本演示和監督微調。結果表明,監督微調帶來了最大的改進,最佳系統是結合英語和西班牙語訓練數據微調的GPT-4.1 Mini,在英語子任務中取得最高分(4.8140),在西班牙語中排名第三(4.7753)。研究強調了任務特定適應和多語言微調在跨語言金融因果關係問答中的價值。
本文系統綜述了自動化演講輔導系統,涵蓋發音、流利度、韻律、多模態及問答練習工具。提出了五維任務分類體系(分段發音、詞彙重音、超音段韻律、節奏、內容忠實性),並映射了現有系統以揭示覆蓋缺口。核心技術包括基於TTS的示例生成和診斷方法。開放挑戰包括標註語料庫稀缺、跨口音公平反饋和實時低延遲診斷。
這篇立場論文指出,“機器遺忘”一詞在大型語言模型研究中被過度使用,應僅用於指代數據集定義的刪除。許多當前標為“遺忘”的任務實際上追求不同的目標,如對齊、抑制、編輯或混淆,需要不同的術語和評估方法。作者呼籲採用更嚴格的術語,並與明確的保證和參考模型掛鈎。
研究者提出了一種評估大型語言模型潛在思維表示的公理框架,定義了因果性、最小性、可分離性和穩定性四條公理,併為每條公理設計了獨立於下游精度的定量指標。對23個推理任務的審計發現,沒有候選表示能同時滿足所有四條公理,且表示在區分任務類型上可靠,但無法區分同一任務內的兩個問題,編碼的信息也未能超越輸入嵌入。這一缺陷在多模型家族中一致存在,表明其結構性本質。
本文提出了一種隱私保護的概率性種族/民族估計(PPRE)方法,用於在美國LinkedIn用户中實現關於種族/民族的公平性度量,同時保護隱私。該方法結合了貝葉斯改進的姓氏地理編碼估計器和稀疏的自報告人口統計調查數據,並應用了安全多方計算、差分隱私和加法同態加密等隱私技術。
該研究評估了十種縮減域邊界處理對地質碳儲存中井底壓力(BHP)和CO2羽流預測準確性的影響。結果表明,保留角點孔隙體積最為關鍵;均勻處理會導致顯著誤差,而角點校正可大幅提升精度。漸變修正結合傳導率校正表現最佳,BHP歸一化均方根誤差低於3.7%,羽流交併比超過0.97。
最新研究揭示,在機械可解釋性中常用的激活補丁技術,其估計的自然間接效應(NIE)不僅包含特定組件的因果效應,還混雜了交互效應(INT)。這些交互效應衡量組件因果效應如何依賴於其他組件的狀態,可能導致因果重要性被高估或低估,甚至遺漏重要機制。研究在GPT-2 IOI電路上演示了這些失敗模式,並證明INT是不可避免的,但可作為診斷工具,提示因果結論的提示依賴性和貪婪排名的侷限性。
研究團隊提出了一種幾何條件化的傅里葉神經算子(FNO),用於求解二維平環面上不同縱橫比下的三次非線性薛定諤方程。該算子將解的實部和虛部以及縱橫比參數作為輸入,學習一步解算子。實驗表明,該算子能捕捉有理環面和無理環面上的不同動力學行為,並重現了Sobolev範數的差異。消融研究顯示,包含縱橫比參數能提高長期預測精度。
Prism Transformer 提出了一種漸進式頭部分配方案,在每層中增加註意力頭數量,形成從局部到全局的表示層次結構。該方法在不增加參數或計算量的情況下,在多個零樣本基準測試上取得了一致改進。
本文研究了在狀態不可觀測且決策週期可能受限的馬爾可夫強盜問題中的遺憾最小化。引入了自退化馬爾可夫強盜模型,並證明在沒有先驗知識時,罕見切換臂的算法的遺憾必然超對數增長。設計的UCB-NOM算法實現了近似對數遺憾,且在給定先驗信息時可達到O(log T)遺憾。
PairSAE通過N-mode SVD將配對張量總結為令牌級交互角色,並利用稀疏自編碼器學習共享的令牌級特徵,這些特徵可同時解碼為序列和配對錶示,從而實現對蛋白質共摺疊模型的機制可解釋性。該方法在Boltz-2模型的激活上進行了評估,特徵與UniProt註釋一致並能預測親和力值。
Darts 自2020年發佈以來,已成為廣泛使用的開源時間序列分析庫。近期,一系列基模型在零樣本預測上取得了精度提升,預示着從定製模型訓練向預訓練通用預測器的範式轉變。然而,這些模型常以孤立包的形式發佈,接口碎片化且與常用工具互操作性有限。Darts 開發了統一的 FoundationModel 類集合(支持 Chronos-2、TimesFM 2.5、TiRex、PatchTST-FM),提供了標準化的全週期預測接口,最小化外部依賴,將基模型集成到生態系統中。現有 Darts 管道只需更改名稱即可使用基模型;新管道可實現零樣本或微調預測、不確定性估計和回測,結合數據處理與評估工具,全部在統一框架內完成。
本文提出了一種新的RANSAC評分方法,通過解析地邊緣化內點尺度,消除了用户提供的尺度參數需求。該方法在近7萬對圖像上的基準測試中表現優於現有技術,即使閾值校準有誤也能保持穩定,且僅需很少的驗證對即可達到近最優精度。
OverFlowLight是一個實時框架,通過多模態傳感器檢測並預防交叉口車輛排隊溢出,採用混合控制(規則基礎+強化學習)動態生成清空相位,在43個交叉口實際部署後,溢出事件減少60.4%,網絡吞吐量提升18.2%。
本文比較了基於智能體的世界模型和參數化世界模型在規劃任務中的表現,提出了GILP方法,通過結合小型參數化模型和LLM推理,將幻覺狀態率從0.176降至0.035,成功率從0.668提升至0.838,額外LLM調用僅增加約22%。
該論文研究了圖世界模型(GWM)中的長期展開誤差。作者提出了一個統一固定邊和動態邊的GWM框架,並開發了圖值展開界限來分離拓撲和模型引起的放大效應。基於分析,他們提出了誤差感知GWM,結合頻譜正則化、展開一致性和關鍵節點加權。實驗表明,展開誤差和規劃遺憾隨地平線增長,動態邊訓練在結構演化時必不可少,而誤差感知GWM能防止長期發散並保持預測精度。
大型語言模型(LLM)在長期規劃任務中常產生不可行或錯誤的解決方案。本文提出一種符號反饋驅動的迭代自我精煉框架,通過自然語言提示機制、符號驗證器和規劃識別器,顯著提升LLM規劃的可行性和正確性,增強系統的魯棒性與可靠性。
本文提出Tree of Evidence (ToE),一種用於自動事實核查的分層證據推理框架。ToE將每個聲明建模為動態擴展的論證樹,集成強化學習驅動的多源檢索代理、證據評估代理和論證樹聚合算法,通過可解釋的證據鏈迭代分解、檢索和驗證聲明。理論分析確保了檢索策略收斂到信息論最優策略。實驗表明,ToE在多個數據集和骨幹LLM上比競爭基線提升4到24個百分點,尤其在對對抗性污染輸入上表現顯著。
研究發現,顯式推理並不一定能提高多模態情感識別(MER)的準確性,但能使預測更具可解釋性。在基於推理的多模態大語言模型中,直接回答的快思維往往優於經過深思熟慮的慢思維。快思維通過更廣泛和更自信的預測提高召回率,而慢思維通過保守過濾錯誤類別偏向精確度。基於此,提出MER-R1,一種強化學習框架,將快慢互補轉化為顯式優化。通過雙目標解耦將召回率和精確度分離為兩個優化信號,並利用快慢置信度校準統一最終答案,在MER-UniBench和MME-Emotion上取得最優性能。
DysLexLens是一個端到端、可追溯證據的低資源大語言模型框架,通過分析Reddit論壇上的討論,研究閲讀障礙學習者使用AI工具的真實體驗。它採用詞典驅動過濾、知識圖譜推理、定量評估和定性驗證等方法,有效從嘈雜的社交媒體中提取相關信息。
本文介紹一種名為ODYSSEY的範疇論框架,用於通過組合“鑄造廠”(foundries)來構建可驗證、局部真值保持的基礎模型。鑄造廠是模塊化架構組件,包含局部上下文、表示族、限制映射、膠合規則、阻塞策略、更新義務和人工視圖。通用鑄造廠學習使用左和右Kan擴展形式化構建過程,鑄造廠SQL提供查詢接口,通過TICKET認證集成外部模型。該系統已在多種領域實現和測試,並將於ICML 2026以教程形式展示。
本文提出了一種統一的三階段訓練範式,使大型語言模型(LLM)智能體能夠內化世界模型,實現前瞻性規劃。該方法通過世界模型智能體中期訓練、格式引出監督微調和前瞻條件強化學習,解決了簡單微調導致的格式-能力差距問題,在搜索和數學推理任務上優於基線。
一項新研究通過操縱大語言模型(LLM)智能體的親和性(Agreeableness)人格特質,在結構化編碼、開放式研究協作和競爭性談判三個任務領域系統評估了個性構成對團隊績效的影響。結果表明,個性效應高度依賴於任務結構:在編碼任務中,低親和性引發對抗性溝通但對里程碑完成率影響甚微;而在開放式協作和談判任務中,同樣的操縱卻顯著降低了團隊表現。該研究為多智能體系統的設計提供了重要啓示,指出了個性操縱的侷限性。
受互聯網發展啓發,本文提出全球AI模型網絡(AI-ModelNet)概念,旨在通過建立模型間通路實現互聯互通、能力共享和協同推理,以解決大模型高昂訓練成本和部署複雜性以及異構模型協作瓶頸問題。論文回顧了單模型和多模型研究現狀,闡述了系統願景和層次架構,並通過原型系統和多樣化應用案例驗證了框架可行性,最後討論了未來研究方向。
本文介紹了六款強大的無代碼工具,幫助AI工程師和開發者快速構建和部署智能應用。這些工具涵蓋RAG系統、多智能體工作流、模型微調等領域,降低了開發門檻,提高了效率。
2026年上半年,芯片製造商的股價大幅上漲,部分公司市值翻倍甚至更多,推動亞太股市走高。投資者紛紛湧入硬件製造商,而一些大型軟件公司則失寵。