本研究透過邊歸因修補技術,在六個任務和七個模型上測量了語言模型電路的重用性、一致性和特異性。結果發現,雖然任務內元件重用率高且關鍵,但電路缺乏任務特異性,不同任務間的電路重疊嚴重,削弱了電路用於針對性干預的價值。
AI 新聞即時情報
即時監測
即時更新
即時追蹤可信來源,保留出處、權限和站內閱讀模式,把噪音壓成可讀情報。
即時更新
2026-05-12
新研究引入了受控不變性測試(Force和Remove),以確定幻覺檢測方法是在評估推理過程還是僅僅利用了答案層面的偽影。研究還提出TRACT,一種基於詞彙軌跡特徵的輕量級評分器,無需複雜學習表示即可實現穩健檢測。
SalesSim是一個用於評估多模態大語言模型(MLLM)在零售對話中模擬真實使用者行為的新框架。研究發現現有模型在詞彙多樣性和角色一致性上存在不足,並提出了UserGRPO方法,將決策對齊提升13.8%。
該研究實證檢驗了Tian(2025)提出的特徵排斥定理在雙層網路“領悟”現象中的可觀測性,發現符號規則穩健但譜特徵強烈依賴於啟用函式。使用平方啟用時,引數更新譜呈現秩2結構並出現可檢測的譜鎖定訊號;而ReLU啟用下譜保持秩1,檢測器失效。這表明儘管B的符號結構僅依賴於特徵內積,但特徵排斥如何轉化為權重更新關鍵取決於啟用函式的導數。
本文提出安全感知去噪器(SAD),一種在文本擴散模型中整合安全約束的推理時方法。SAD修改迭代去噪過程,引導最終文本樣本落入可證明安全的區域,無需重新訓練模型。實驗表明,SAD顯著減少不安全生成,同時保持生成質量、多樣性和流暢性,優於現有方法。
本文分析了三種KV快取量化方案(KV、KQV、QKQV)在公平位元預算下的效能。利用超球面上的Beta分佈,追蹤了QJL對K的內積方差膨脹(因子π/2),並透過softmax的Jensen不等式非線性放大。實驗發現:在n=4時KQV全面佔優;K-V不對稱性無條件存在;以及基於預算的交叉現象。提出了一個充分條件解釋Jensen機制導致交叉的原因。
該論文評估了基礎模型嵌入(Prithvi-EO和ViT-Base)在跨國玉米產量預測中的表現,採用留一國家交叉驗證法,對5個非洲國家的6404塊玉米田進行了測試。結果表明,所有特徵集在跨國測試中表現不佳(R²為負),凍結的Prithvi-EO嵌入並未優於傳統光譜特徵。主要限制是不同國家間的產量分佈差異,而非表示質量。
針對非平穩、非線性、含噪聲的複雜時間序列,提出TTCD框架,利用Transformer整合和非平穩特徵學習器,透過重建引導的因果訊號蒸餾實現端到端因果發現,在合成和真實資料集上超越現有方法。
BaLoRA是一種貝葉斯擴充套件的LoRA方法,透過輸入自適應的貝葉斯引數化,在幾乎不增加引數和計算量的情況下,不僅提供了校準良好的不確定性估計,還顯著提升了預測精度,縮小了與全微調之間的差距。在金屬有機框架的帶隙預測任務中,BaLoRA生成的零樣本不確定性估計與模型誤差的相關性優於訓練好的LoRA整合。
研究人員開發了一種深度學習模型,可在不依賴顯式幾何引數的情況下預測慣性微流控裝置中的粒子升力,從而泛化到未見過的通道幾何形狀。該模型加速了模擬,並與文獻結果一致。
本文提出了一種基於Cramér距離的分佈柔性Actor-Critic演算法(C-DSAC),透過在分佈強化學習中最小化平方Cramér距離來學習狀態-動作價值分佈。實驗表明,該演算法在複雜機器人控制任務中優於傳統SAC和現有分佈方法,其優勢部分源於置信度驅動的Q值更新,可緩解過估計問題。
PathBoost是一種新的梯度樹提升方法,用於圖級別的分類和迴歸。它直接從輸入圖結構中學習基於路徑的判別特徵,擴充套件了先前的工作,支援二分類、多節點和邊屬性,並自動選擇錨點節點。在多個基準資料集上,PathBoost在半數測試中優於圖神經網路和圖核方法,其餘結果相當,尤其在大圖上表現更佳。
提出RL-Kirigami框架,結合最優傳輸條件流匹配與強化學習,實現了剪紙結構的逆向設計,具備高精度與快速雷射切割原型能力。
該研究透過一個玩具圖隨機遊走任務,探究大語言模型(LLM)在上下文學習中的機制。實驗結果表明,模型並非單純透過模式匹配或結構推斷單一機制運作,而是同時編碼兩種圖拓撲結構,支援結構推斷與歸納電路並行運作的雙機制假說。
CoCoDA是一個框架,透過組合式程式碼DAG實現規劃器與工具庫的協同進化,在固定上下文預算下擴充套件工具庫。推理時使用型別化DAG檢索逐步縮減候選集,訓練時將成功軌跡摺疊為新工具。實驗表明,8B學生模型在數學推理任務上可媲美32B教師模型。
arXiv新論文介紹了PLACO框架,旨在透過多階段方法最佳化人機團隊中分類任務的成本效益。該框架基於貝葉斯規則,結合人類和模型輸出,假設二者在給定真實標籤條件下獨立。PLACO利用模型的例項級校準機率和人類的類別級校準機率,實現更可靠的決策。
SkillLens提出了一種分層技能演化框架,將技能組織為四層圖結構(策略、方案、過程、原語),並透過混合粒度檢索實現高效複用。在任務執行中,系統先檢索相關技能種子,經由度數校正隨機遊走擴充套件,再透過驗證器決定每個單元的接受、分解、重寫或跳過。理論分析表明混合粒度適配在稀疏不匹配假設下具有次線性成本,且演化更新規則單調提升驗證目標。在MuLocbench和ALFWorld上,SkillLens分別取得了6.31個百分點的缺陷定位Acc@1提升和從45.00%到51.31%的成功率提升。
MemQ提出了一種透過將Q學習與資格跡應用於溯源有向無環圖(DAG)來增強LLM代理情景記憶的方法,考慮了記憶間的依賴關係。在六個基準測試中均取得最佳效能,尤其在多步任務上提升顯著。
該論文提出,LLM後訓練應區分“能力激發”(重分配預訓練模型已能產生的行為機率)與“能力創造”(擴充套件模型可達到的行為空間),並透過自由能框架統一SFT和RL為對預訓練參考分佈的重加權,關鍵區別在於更新是否改變“可達支援集”。
現代人工智慧透過自由文本表達意見而非固定選項投票,為集體決策開闢了新途徑。將意見嵌入向量空間後可應用設施位置問題與公平聚類方法,但標準文本嵌入衡量的是語義相似度,而偏好相似度要求參與者與文本的距離反映其同意程度。本文形式化了這一不變性問題,並證明透過合成訓練資料打破語義與偏好之間的相關性,可顯著提升偏好預測效果。
本文提出自動評分獎勵(ARR)框架,將多模態生成模型的獎勵建模從隱式權重最佳化轉變為顯式、基於標準的分解。ARR透過提取視覺語言模型的內在偏好知識為提示特定的評分標準,將整體意圖轉化為可獨立驗證的質量維度,顯著抑制評估偏差。結合評分策略最佳化(RPO),在文本到影像生成和影像編輯基準上優於成對獎勵模型和VLM評判者,實現了更可靠、資料高效的多模態對齊。
一項新研究表明,在圖表影像上疊加座標網格進行分析前,能顯著提高大語言模型在資料提取上的準確性,將SMAPE從25.5%降至19.5%。相比之下,後設資料優先和思維鏈等語義提示方法未能帶來統計上顯著的改進。
一項研究透過統一的機制探測工具VRP研究了三種視覺語言模型(LLaVA-1.5、PaliGemma、Qwen2-VL),發現注意力圖的清晰度與模型正確性幾乎無關,而隱藏狀態間隔和自我一致性更能預測可靠性。此外,模型架構影響可靠性分佈:晚融合模型依賴脆弱的晚期層,早融合模型則分佈廣泛。
MiniCPM-V 4.6是一款針對移動裝置最佳化的1.3B引數開源多模態語言模型,採用混合4x/16x視覺令牌壓縮技術,大幅降低計算成本,並支援iOS、Android、HarmonyOS演示以及vLLM、SGLang等主流推理框架,為邊緣AI部署提供了高效實用的解決方案。
特斯拉最新的“Vision”軟體能夠預測碰撞並在撞擊前觸發安全氣囊,將氣囊展開時間提前最多70毫秒,從而降低受傷風險。該技術將透過軟體更新的方式新增到現有車輛中,並標配於所有新特斯拉。
SigmaShake Desktop 是一款為桌面環境設計的AI代理護欄工具,無需終端或管理員許可權即可使用。它支援Windows、macOS和Linux,提供本地策略執行、預設無遙測、開源CLI以及基於Electrobun的輕量級安裝包。
SSD、記憶體等PC元件價格飆升,但Best Buy對4TB WD Black SN850X提供了65%的驚人折扣,現價僅600美元,接近AI熱潮前的價格水平。
AI生成的程式碼不具有版權,這使得開源許可證的條件無法執行,威脅開源的法律基礎。本文探討了法律和經濟影響。
Motion 是一款由 Mosaic 公司推出的前沿AI影片代理,專為追求優雅動態設計而生。使用者只需提供包含連結、X執行緒、影片、資產或參考的提示,Motion 便能自動研究、分鏡並製作解說影片、釋出影片、Logo動畫或為現有影片新增動態設計。隨後可進行直接編輯:調整大小、拖放、修改元素或透過聊天迭代。早期訪問階段,在 ProductHunt 上使用邀請碼 phmotion 可免費獲取7天試用,之後每月25美元起。
2026年4月,Anthropic、OpenAI和GitHub等主要AI提供商在短短三週內釋出了五項重大定價和計劃變更,暴露出基於代理的工作負載正在打破傳統的訂閱經濟模式,行業正加速轉向按token計費。