本文分析了三種KV緩存量化方案(KV、KQV、QKQV)在公平比特預算下的性能。利用超球面上的Beta分佈,追蹤了QJL對K的內積方差膨脹(因子π/2),並通過softmax的Jensen不等式非線性放大。實驗發現:在n=4時KQV全面佔優;K-V不對稱性無條件存在;以及基於預算的交叉現象。提出了一個充分條件解釋Jensen機制導致交叉的原因。
AI 新聞即時情報
即時監測
即時更新
即時追蹤可信來源,保留出處、權限和站內閱讀模式,把噪音壓成可讀情報。
即時更新
2026-05-12
該論文評估了基礎模型嵌入(Prithvi-EO和ViT-Base)在跨國玉米產量預測中的表現,採用留一國家交叉驗證法,對5個非洲國家的6404塊玉米田進行了測試。結果表明,所有特徵集在跨國測試中表現不佳(R²為負),凍結的Prithvi-EO嵌入並未優於傳統光譜特徵。主要限制是不同國家間的產量分佈差異,而非表示質量。
針對非平穩、非線性、含噪聲的複雜時間序列,提出TTCD框架,利用Transformer集成和非平穩特徵學習器,通過重建引導的因果信號蒸餾實現端到端因果發現,在合成和真實數據集上超越現有方法。
BaLoRA是一種貝葉斯擴展的LoRA方法,通過輸入自適應的貝葉斯參數化,在幾乎不增加參數和計算量的情況下,不僅提供了校準良好的不確定性估計,還顯著提升了預測精度,縮小了與全微調之間的差距。在金屬有機框架的帶隙預測任務中,BaLoRA生成的零樣本不確定性估計與模型誤差的相關性優於訓練好的LoRA集成。
研究人員開發了一種深度學習模型,可在不依賴顯式幾何參數的情況下預測慣性微流控裝置中的粒子升力,從而泛化到未見過的通道幾何形狀。該模型加速了模擬,並與文獻結果一致。
本文提出了一種基於Cramér距離的分佈柔性Actor-Critic算法(C-DSAC),通過在分佈強化學習中最小化平方Cramér距離來學習狀態-動作價值分佈。實驗表明,該算法在複雜機器人控制任務中優於傳統SAC和現有分佈方法,其優勢部分源於置信度驅動的Q值更新,可緩解過估計問題。
PathBoost是一種新的梯度樹提升方法,用於圖級別的分類和迴歸。它直接從輸入圖結構中學習基於路徑的判別特徵,擴展了先前的工作,支持二分類、多節點和邊屬性,並自動選擇錨點節點。在多個基準數據集上,PathBoost在半數測試中優於圖神經網絡和圖核方法,其餘結果相當,尤其在大圖上表現更佳。
提出RL-Kirigami框架,結合最優傳輸條件流匹配與強化學習,實現了剪紙結構的逆向設計,具備高精度與快速激光切割原型能力。
該研究通過一個玩具圖隨機遊走任務,探究大語言模型(LLM)在上下文學習中的機制。實驗結果表明,模型並非單純通過模式匹配或結構推斷單一機制運作,而是同時編碼兩種圖拓撲結構,支持結構推斷與歸納電路並行運作的雙機制假説。
CoCoDA是一個框架,通過組合式代碼DAG實現規劃器與工具庫的協同進化,在固定上下文預算下擴展工具庫。推理時使用類型化DAG檢索逐步縮減候選集,訓練時將成功軌跡摺疊為新工具。實驗表明,8B學生模型在數學推理任務上可媲美32B教師模型。
arXiv新論文介紹了PLACO框架,旨在通過多階段方法優化人機團隊中分類任務的成本效益。該框架基於貝葉斯規則,結合人類和模型輸出,假設二者在給定真實標籤條件下獨立。PLACO利用模型的實例級校準概率和人類的類別級校準概率,實現更可靠的決策。
SkillLens提出了一種分層技能演化框架,將技能組織為四層圖結構(策略、方案、過程、原語),並通過混合粒度檢索實現高效複用。在任務執行中,系統先檢索相關技能種子,經由度數校正隨機遊走擴展,再通過驗證器決定每個單元的接受、分解、重寫或跳過。理論分析表明混合粒度適配在稀疏不匹配假設下具有次線性成本,且演化更新規則單調提升驗證目標。在MuLocbench和ALFWorld上,SkillLens分別取得了6.31個百分點的缺陷定位Acc@1提升和從45.00%到51.31%的成功率提升。
MemQ提出了一種通過將Q學習與資格跡應用於溯源有向無環圖(DAG)來增強LLM代理情景記憶的方法,考慮了記憶間的依賴關係。在六個基準測試中均取得最佳性能,尤其在多步任務上提升顯著。
該論文提出,LLM後訓練應區分“能力激發”(重分配預訓練模型已能產生的行為概率)與“能力創造”(擴展模型可達到的行為空間),並通過自由能框架統一SFT和RL為對預訓練參考分佈的重加權,關鍵區別在於更新是否改變“可達支持集”。
現代人工智能通過自由文本表達意見而非固定選項投票,為集體決策開闢了新途徑。將意見嵌入向量空間後可應用設施位置問題與公平聚類方法,但標準文本嵌入衡量的是語義相似度,而偏好相似度要求參與者與文本的距離反映其同意程度。本文形式化了這一不變性問題,並證明通過合成訓練數據打破語義與偏好之間的相關性,可顯著提升偏好預測效果。
本文提出自動評分獎勵(ARR)框架,將多模態生成模型的獎勵建模從隱式權重優化轉變為顯式、基於標準的分解。ARR通過提取視覺語言模型的內在偏好知識為提示特定的評分標準,將整體意圖轉化為可獨立驗證的質量維度,顯著抑制評估偏差。結合評分策略優化(RPO),在文本到圖像生成和圖像編輯基準上優於成對獎勵模型和VLM評判者,實現了更可靠、數據高效的多模態對齊。
一項新研究表明,在圖表圖像上疊加座標網格進行分析前,能顯著提高大語言模型在數據提取上的準確性,將SMAPE從25.5%降至19.5%。相比之下,元數據優先和思維鏈等語義提示方法未能帶來統計上顯著的改進。
一項研究通過統一的機制探測工具VRP研究了三種視覺語言模型(LLaVA-1.5、PaliGemma、Qwen2-VL),發現注意力圖的清晰度與模型正確性幾乎無關,而隱藏狀態間隔和自我一致性更能預測可靠性。此外,模型架構影響可靠性分佈:晚融合模型依賴脆弱的晚期層,早融合模型則分佈廣泛。
MiniCPM-V 4.6是一款針對移動設備優化的1.3B參數開源多模態語言模型,採用混合4x/16x視覺令牌壓縮技術,大幅降低計算成本,並支持iOS、Android、HarmonyOS演示以及vLLM、SGLang等主流推理框架,為邊緣AI部署提供了高效實用的解決方案。
特斯拉最新的“Vision”軟件能夠預測碰撞並在撞擊前觸發安全氣囊,將氣囊展開時間提前最多70毫秒,從而降低受傷風險。該技術將通過軟件更新的方式添加到現有車輛中,並標配於所有新特斯拉。
SigmaShake Desktop 是一款為桌面環境設計的AI代理護欄工具,無需終端或管理員權限即可使用。它支持Windows、macOS和Linux,提供本地策略執行、默認無遙測、開源CLI以及基於Electrobun的輕量級安裝包。
SSD、內存等PC組件價格飆升,但Best Buy對4TB WD Black SN850X提供了65%的驚人折扣,現價僅600美元,接近AI熱潮前的價格水平。
AI生成的代碼不具有版權,這使得開源許可證的條件無法執行,威脅開源的法律基礎。本文探討了法律和經濟影響。
Motion 是一款由 Mosaic 公司推出的前沿AI視頻代理,專為追求優雅動態設計而生。用户只需提供包含鏈接、X線程、視頻、資產或參考的提示,Motion 便能自動研究、分鏡並製作解説視頻、發佈視頻、Logo動畫或為現有視頻添加動態設計。隨後可進行直接編輯:調整大小、拖放、修改元素或通過聊天迭代。早期訪問階段,在 ProductHunt 上使用邀請碼 phmotion 可免費獲取7天試用,之後每月25美元起。
2026年4月,Anthropic、OpenAI和GitHub等主要AI提供商在短短三週內發佈了五項重大定價和計劃變更,暴露出基於代理的工作負載正在打破傳統的訂閲經濟模式,行業正加速轉向按token計費。
Graft 是一款輕量級本地優先的語義記憶工具,專為 AI 智能體設計。它通過單一二進制文件和 SQLite 數據庫,在毫秒內實現跨會話、跨機器、跨智能體的知識持久化與檢索。支持語義緩存、圖譜記憶、多租户隔離,並與 Claude Code、Codex、ChatGPT 等主流 AI 工具無縫集成。
StoreClaw是首個配備銷售智能體的AI電商平台,可連接現有店鋪,分析數據並提供可執行的增長建議,減輕賣家壓力,提升利潤。
瞭解AutoScout24集團如何利用Codex和ChatGPT加速開發週期、提升代碼質量並擴大AI應用範圍。
團隊利用Codex與GPT-5.5將研究創意轉化為可執行的實驗,並交付生產系統。
參數高爾夫競賽吸引了超過1,000名參與者和2,000份作品,在嚴格限制下探索AI輔助機器學習研究、編碼代理、量化及新型模型設計。