該論文提出一種可泛化的文化評估與干預框架,通過情境化行為探測和潛在激活引導,在不重新訓練的情況下調整大語言模型的文化價值對齊。實驗發現文化價值存在潛在糾纏現象,表明價值觀以耦合結構編碼。
AI 新聞即時情報
即時監測
即時更新
即時追蹤可信來源,保留出處、權限和站內閱讀模式,把噪音壓成可讀情報。
即時更新
2026-05-27
一項新研究揭示了大型語言模型(LLM)在處理結構化知識(如圖和表格)時產生幻覺的機制。研究發現,幻覺源於系統性的內部動態,而非隨機噪聲:注意力過度集中於類似捷徑的結構線索,而前饋表示無法將知識接地,導致模型退回到參數記憶。這些模式在不同結構化知識格式中普遍存在,可用於幻覺檢測。
本研究從梯度下降的角度重新審視檢索增強生成(RAG),證明線性自注意力層可以執行統一線性化RAG目標的梯度下降步驟,從而在檢索增強預測與情境內優化之間建立精確對應關係。基於這一發現,作者提出了一種輕量級方法,通過僅前向傳播的更新來優化凍結RAG大語言模型的證據使用接口。在七個問答基準測試中,該方法在保持檢索器和骨幹網絡固定的情況下,顯著提升了基線性能,並能在更低計算成本下接近測試時梯度優化的效果。
檢索正從單次匹配向交互式推理發展,語言代理需迭代檢查證據、重構查詢並再次搜索。訓練此類代理面臨信用分配挑戰:可執行動作(如查詢或摘要)可由檢索器直接評估,而潛在推理步驟無法直接觀察且僅影響未來可執行動作。這種不對稱性使基於最終結果的獎勵分配不可靠。本文提出RICE-PO,一種無需批評者的策略優化框架,將檢索交互轉化為局部學習信號。RICE-PO選擇高不確定性的可執行動作作為錨點,使用檢索指標評估局部反事實分支,並僅在推理到動作的影響強且未來殘餘效應穩定時,將信用傳播給潛在推理步驟。在BRIGHT和BEIR基準上,相同檢索器設置下,RICE-PO一致優於基於提示的代理和基於羣體的強化學習基線。結果表明,代理-環境交互的結構本身可為訓練基於推理的檢索代理提供有效監督。
本文介紹了“每日劑量”(TDD)系統,這是一個由大語言模型驅動的自動化臨牀總結和臨牀試驗識別系統,集成到常規放射腫瘤學實踐中。通過混合方法評估,對55名臨牀醫生進行了調查,結果顯示系統具有良好的可用性、滿意度,並有望節省時間。
CroCo方法將對比偏好調優擴展到多語言場景,利用英語獎勵模型為多語言自生成響應排序,無需語言特定偏好標註。實驗表明,在線內策略數據下,該方法在14種語言的結構化與開放生成任務中顯著提升模型性能。
SPEAR(沙盒化主動回滾提示工程師)是一種自由形式的智能優化器,將代碼即行動範式引入自動提示工程。它配備評估、Python、設置提示和完成四個工具,可自主決策如何使用。其獨特之處在於Python沙盒,允許優化器編寫和執行任意Python代碼以進行結構性錯誤分析。兩個防護欄確保單調改進:指標迴歸時自動回滾和可選防護指標下限。在三個工業LLM裁判套件(13個裁判任務)以及7個BBH任務和GSM8K上評估,SPEAR在所有工業任務的主要指標上獲勝,並在BBH-7上平均準確率0.938。消融實驗顯示Python工具是最重要的槓桿。
本綜述首次統一了預訓練數據暴露(PDE)框架下的成員推理和數據污染研究,形式化定義了不同暴露水平,回顧了攻擊與防禦方法,綜合了實證發現,並指出了開放挑戰和未來方向。
提出自驗證蒸餾(Self-Verified Distillation, SVD)方法,讓大語言模型僅利用無標籤提示進行自我改進,無需外部教師或工具反饋。在數學、科學和編程三個推理領域,Qwen3模型通過SVD訓練後性能顯著提升。
本文提出一種神經規則評估器,將邏輯約束編譯為有向無環圖,並引入奇美拉訓練方法以解決訓練中真實異常樣本稀缺的問題。在CLEVRER、OpenImages和VidOR等數據集上,該方法顯著提升了邏輯異常檢測的性能,尤其在組合性和關係性規則方面。
本文提出李羣嵌入動態神經網絡(LieEDNN),利用伴隨李羣作用解決李羣與加法運算不兼容及動力學在非線性空間中演化的問題,實現穩定可學習的神經動力學,並在SE(3)上以伸縮機械臂為應用驗證。
提出PushCen-ADFL框架,通過質心表示空間耦合通信、聚合與局部穩定,採用保平均推和混合校正聚合偏差,利用輕量質心正則化緩解異質性和陳舊性引起的模型漂移,並引入有界去重緩衝區提升魯棒性。在視覺數據集上準確率提升高達6%,通信成本降低80%以上。
針對時間序列基礎模型(TSFMs)在預訓練中可能遇到評估數據集導致性能評估過於樂觀的問題,本文首次研究了TSFMs的預訓練數據污染審計。提出TSFMAudit方法,基於探測適應動態,通過微調探測後污染數據集更快的損失下降和更小的骨幹網絡移動來檢測污染。在6個TSFMs和187個數據集上評估,優於10個基線方法。
神經貝葉斯順序路由(NBSR)是一種將神經推理建模為有向無環圖上主動證據累積的框架。它利用狄利克雷-分類共軛框架,通過全局知識庫提取正證據向量,並採用Gumbel-Softmax直通估計器實現硬路徑路由。該框架提供不確定性量化、早期退出、分佈外拒絕和成本感知證據獲取機制。理論證明單調精度增長和有界方差,實驗表明其在多種任務中具有競爭力的性能。
SilIF通過對孤立森林的路徑長度向量進行聚類並計算輪廓分數,提升無監督異常檢測性能。在IEEE-CIS欺詐檢測基準上,AUC-PR平均提升0.0080,但在Sparkov合成數據集上未見改進。
AirCast-SR是一個基礎模型,能夠將全球AI天氣預報從0.25度(約28公里)分辨率降尺度到1公里水平分辨率,時間分辨率為每小時。它採用三維U-Net結合潛在一致性模型擴散框架,在美國本土的數據上訓練。該模型實現了近乎零偏差,並保留了精細尺度的大氣結構,經過多個季節的驗證,並展示了在無需重新訓練的情況下對印度和德國的零樣本遷移能力。
該論文提出“約束税”概念,衡量結構化輸出約束對小型語言模型答案准確性的損失。實驗表明,強制遵循JSON等模式雖提升格式正確性,但顯著降低答案准確性,建議採用“先自由推理,後約束打包”的設計模式。
本文提出GEM(幾何熵混合)框架,將數據策展重構為超球面上的變分問題,通過混合平衡正則化器克服聚類坍塌,發現歐幾里得啓發式無法識別的平衡語義結構。結合教師-學生蒸餾擴展到網絡規模語料,引入幾何影響分數(GIS)用於可解釋的類別生成。在1.1B參數模型上的實驗表明,GEM集成了DoReMi和RegMix等混合策略,平均下游準確率提升達1.2%,為可預測的數據混合提供了魯棒的座標系統。
JobBench是一個新的AI代理基準測試,它評估代理在專家認為最值得委派的工作流程上的表現,旨在強調增強而非替代人類。
當前評估大語言模型(LLM)心智理論(ToM)的方法多依賴最終答案,無法揭示模型是否真正構建了心理狀態表徵。本研究提出OmniToM基準,通過顯式建模故事中所有角色的信念結構來直接評估。基準包含信念提取與信念標註兩階段,採用七維標籤體系。基於895個故事和22,343個標註信念命題,藉助人類校準的LLM輔助流程構建。零樣本評估表明,LLM在將敍事事實轉化為角色信念和共享心理狀態時存在瓶頸。
AI智能體正開始完成有價值的長期業務運營任務,但企業工作的訓練和評估環境在真實性、可驗證性和規模之間難以平衡。環境與任務創建經常遭受一種稱為“工件漂移”的失敗模式:當指令、環境、預測器和驗證器由鬆散耦合的過程創建時,它們經常對任務要求產生分歧,導致環境不可解、可獎勵篡改或不一致。本文提出Anchor,一種將領域專家的業務流程規範形式化為約束優化程序的任務生成管道。通過單個參數化規範,管道聯合生成自然語言指令、環境配置、求解器認證的真實解決方案和基於狀態的驗證器。通過改變參數,可產生具有可控難度和已知最優解的新任務,生成僅依賴最終狀態業務正確性的與框架無關的環境。作者應用Anchor創建了ERP-Bench,一個包含300個長期任務的基準測試,涵蓋生產級ERP系統中的採購和製造工作流。實驗發現前沿模型在26.1%的試驗中滿足顯式任務約束,但僅17.4%達到完全最優解。總體而言,Anchor和ERP-Bench為構建可審計的評估環境提供了具體方案,用於評估具有經濟價值的智能體工作。
本文介紹了兩種新穎的自主AI代理框架——DeepTS/DeepCollector和DeepScribe,它們利用混合本地-遠程架構自動化科學工作流程,包括時間序列數據整理和講座報告轉換,並討論了向知識圖譜和高能物理的擴展。
一項名為AgingBench的新基準測試揭示,已部署的AI智能體會通過四種老化機制隨着時間的推移而退化,需要生命週期評估和針對性修復,而不僅僅是更強的初始模型。
約束獲取(CA)及相關研究因缺乏適當基準而進展受限。現有基準多為求解器設計,忽視領域知識工件。本文提出MPMMine基準套件,以一致性、標準化、完整性、可擴展性、開放性和版本控制為指導,採用MiniZinc、CommonMark和JSON開放格式,提供多模型、多實例及大量解與非解,並附有自然語言描述,以支持文本到模型方法。
arXiv新論文提出GEM(治理演化記憶)框架,將長期AI智能體記憶視為新的數據管理工作負載,通過狀態級操作替代記錄級數據庫操作,解決當前記憶系統的四大缺陷。
一項新研究質疑大型語言模型是否具有真正的內省能力,認為現有證據可能僅僅是基於表面線索的模式匹配,而非真正的元認知監控。
BrickAnything是一種幾何條件自迴歸框架,能從多種3D表示生成可構建的磚塊結構。它使用點雲作為統一幾何接口,預測磚塊序列以重建目標形狀,並引入結構感知樹標記化來建模依賴關係,配合偏好對齊、有效性約束解碼和自適應回滾,顯著提升了穩定性和幾何保真度。
AI基礎設施初創公司Fireworks、Baseten和OpenRouter正在籌集鉅額資金,標誌着推理基礎設施成為關鍵的AI平台層。同時,智能體工程、新基準測試和模型更新主導了AI新聞週期。
一位獨立開發者創建了Snipforge,一個包含28種工具的全能AI視頻編輯套件,包括轉錄、智能剪輯、背景去除等功能。定價從免費到團隊版每月15美元。
ACM CAIS 2026註冊已滿,但可加入候補名單。會議將於2026年5月26日至29日在聖何塞舉行,設有主題演講、63篇研究論文和46個系統演示,並已與AI工程師世界博覽會合作。