提出一種基於反事實解釋(CX)的類導向特徵歸因方法,利用生成對抗網路(GAN)和迴圈一致性損失函式,在合成、結核病和BraTS資料集上驗證了有效性。同時提出生成可信反事實例項(CI)的方法和評估技術。
AI 新聞即時情報
即時監測
即時更新
即時追蹤可信來源,保留出處、權限和站內閱讀模式,把噪音壓成可讀情報。
即時更新
2026-05-08
研究人員提出了一種佈局感知表示學習方法,用於開放集身份欺詐檢測。該方法僅使用美國身份證進行訓練,但在加拿大身份證上實現了99.83%的佈局分類準確率,並發現了276個自適應欺詐案例,其中222個未被現有檢測器發現。該方法支援在分佈偏移下進行大規模欺詐發現。
大型語言模型在多輪對話中面臨隱藏惡意意圖的攻擊威脅。攻擊者將惡意目標分散在多個看似無害的輪次中,從而繞過現有安全對齊和防護措施。本研究提出基於輪次的檢測方法TurnGate,透過識別最早使累積互動足以實施惡意行為的輪次來干預,並構建了多輪意圖資料集(MTID)以支援訓練與評估。實驗表明,TurnGate在有害意圖檢測上顯著優於現有基線,同時保持低過度拒絕率,並具備跨領域、攻擊管道和目標模型的泛化能力。
大語言模型(LLM)在生成上下文相關回複方面表現出色,但在多輪對話中,何時發言與說什麼同樣重要。本文提出When2Speak,一個基於真實世界的合成資料集及四階段生成流水線,用於學習群體互動中的干預時機。該資料集包含超過21.5萬個示例,源自1.6萬場2至6人對話,涵蓋多種風格、語氣和參與者動態。監督微調(SFT)使4B+引數模型的平均Macro F1提升60%,但模型仍過於保守,平均錯過干預率(MIR)為0.50。透過應用非對稱獎勵強化學習,MIR降至0.186–0.218,召回率從0.479提升至0.78–0.81。研究表明,時序參與是一個可訓練的語言智慧維度。
研究人員識別並形式化了多模態RAG中的“再次破壞”現象,即新增準確上下文導致模型放棄正確預測。他們提出了BAIR,一種無需引數、推理時框架,可恢復視覺注意力並應用位置懲罰。
一項研究比較了領域訓練的小語言模型Olava Extract與前沿大語言模型在結構化合同提取上的效能。Olava的宏F1為0.812,微F1為0.842,推理成本降低78%至97%,且幻覺更少,挑戰了大型模型的必要性。
一項新研究表明,對擴散語言模型生成的文本進行多次重寫(最多五次)可以有效繞過水印檢測,使檢測率從87.9%降至4.86%。該研究測試了四種開放權重語言模型和五種重寫風格,發現即使單次重寫也能將檢測率降至14%-41%,多次重寫效果更顯著。
ReaComp提出了一種方法,利用編碼代理將少量LLM推理軌跡編譯為可重用的符號程式合成器。這些合成器在測試時無需LLM呼叫,在多個基準測試上表現優異,甚至超越帶測試時擴充套件的LLM。它們還能與LLM搜尋互補,減少token使用量,並跨領域遷移至歷史語言學任務。
SLAM是一種新型白盒水印方案,透過稀疏自編碼器識別殘差流中編碼語言結構的方向,在生成時因果引導這些方向,從而在不犧牲文本質量的前提下實現100%檢測準確率,質量損失僅為1-2獎勵點,遠低於現有方法。
本文提出一種基於證據的模型,從無查詢資料集中自動生成查詢關鍵詞,用於面向查詢的摘要(QFS)。實驗表明,使用生成的證據查詢獲得的摘要ROUGE評分與使用原始查詢的摘要相當。
一項干預研究探討了學生寫作中反駁論點對批判性思維的作用,並比較了AI與人類評估的一致性。研究涉及36名學生,使用6種標準進行評分,結果顯示學生自寫反駁論點包含邏輯要素,且前沿語言模型可有效評估學生作業,與人類評估高度一致。
AdaGATE是一種無需訓練的證據控制器,將多跳RAG中的證據選擇建模為令牌約束的修復問題。它結合實體中心缺口追蹤、目標微查詢生成和效用選擇機制,平衡覆蓋率、一致性、新穎性、冗餘度和相關性。在HotpotQA上,AdaGATE在乾淨資料和冗餘注入資料上分別達到62.3%和71.2%的證據F1,同時令牌使用量比Adaptive-k少2.6倍。
稀疏自編碼器(SAEs)能有效解耦Transformer中的特徵疊加,但組合式啟用控制面臨幾何不穩定性。該論文提出一個高維稀疏錐流形框架,推匯出組合塌縮的漸近閾值,並發現ReLU整流會導致類似棘輪效應的干擾積累。在CLEVR資料集上的實驗驗證了這些預測。
標準Transformer對所有Token應用相同層數。Token-Selective Attention (TSA) 引入一個習得的每Token門控,對簡單Token跳過層,節省高達23%的操作,質量損失極小,無需改變架構。
一種新的非神經框架DVBL透過變分最佳化直接從資料中學習基函式,與神經網路相比,提供可解釋性和數學透明度。
本文提出了MidSteer,一種用於生成模型概念引導的通用仿射框架。作者首先形式化了概念引導的理論,將標準引導方法與LEACE(一種閉式仿射擦除方法)聯絡起來,然後提出了LEACE-Switch框架,並在此基礎上引入MidSteer。實驗表明,MidSteer在視覺擴散模型和大型語言模型等多種任務和架構上表現優異。
一篇新論文介紹了稀疏字首快取,利用迴圈層從單一狀態恢復的能力,透過在稀疏檢查點儲存精確的迴圈狀態來最佳化LLM推理。一個O(NM)動態規劃演算法確定最佳檢查點位置,在實際任務上優於標準啟發式方法,減少了延遲。
本文提出視界約束Rashomon集,首次建立混沌理論中指數發散與預測多重性之間的嚴格聯絡。證明有效Rashomon集隨預測時長指數收縮,收縮速率由最大李雅普諾夫指數決定,並開發決策對齊模型選擇演算法,在多個混沌系統上實現18%-34%的決策質量提升。
提出一種自監督物理資訊神經網路框架,透過可學習混合神經元動態調整物理殘差和資料損失權重,結合遷移學習,在僅87個資料點上實現液態金屬散熱器熱傳遞預測誤差低於8%,優於傳統方法。
SAT提出了一種無需協調器的訓練正規化,用於多LLM團隊協作,具備單調改進和即插即用保證。實驗表明,三個4B代理組成的團隊在AIME基準上超越Qwen3-32B達3.9%,換入兩個8B代理後效能提升10.4%。
研究利用All of Us研究計劃的全國縱向電子健康記錄資料,透過人口分層模型預測慢性鼻竇炎(CRS),實現了0.8461的AUC,比最佳基線提高0.0168。該方法將約11萬個候選編碼壓縮為100個可解釋特徵,並針對六個成人性別和生命階段亞組進行子組特異性調優,展示了常規電子健康記錄資料支援人口代表性CRS風險分層和初級護理早期分診的潛力。
本文質疑了平坦極小值對神經網路泛化能力起決定作用的觀點。作者提出“弱度”(weakness)作為重新引數化不變的度量,能更好地預測泛化,並透過實驗表明平坦性和簡單性的預測能力有限。
本研究提出恆定上下文技能學習框架,將可重複使用的程式編碼到輕量級任務族模組中,推理時僅依賴當前觀測和緊湊狀態塊。在多個基準測試中表現優異,同時將每輪提示令牌減少2-7倍。
LaTA是一種開源的自動評分器,完全在本地硬體上執行,使用LaTeX原生工作流程,透過四階段流水線(攝取、分段、評分、報告)和本地託管的開源權重鏈式思維LLM評分器(gpt-oss:120b)對學生的作業進行評分。在俄勒岡州立大學ME 373課程中部署,約200名學生,每份作業邊際成本為零,評分錯誤率約0.02-0.04%,使用LaTA的班級在期中考試和期末考試中分別比傳統評分班級高出約11%和8%,學生的自信心也有顯著提升。
本文提出FinAgent-RAG,一種針對金融數值推理的智慧檢索增強生成框架,透過迭代檢索-推理迴圈和自驗證機制,結合對比學習檢索器、程式化思維模組和自適應策略路由器,在FinQA、ConvFinQA和TAT-QA資料集上取得領先效能,並降低API成本41.3%。
PRISM框架透過動態問答管道緊密耦合視覺語言模型(VLM)和大型語言模型(LLM),解決了獨立VLM中的感知-推理-決策差距。在ALFWorld和R2R基準測試中,PRISM顯著優於最先進的影像模型,且完全自動化。
本文提出,大型語言模型(LLM)中的諂媚行為是社會對齊與認知完整性之間的邊界失敗。現有研究通常將諂媚行為視為對使用者錯誤信念的附和,但本文認為諂媚應被理解為一種取代獨立認知判斷的對齊行為。作者提出了一個三條件框架來識別諂媚行為,並介紹了包含對齊目標、機制和嚴重程度的分類體系,最後討論了評估與緩解策略。
本研究利用現有閉路電視監控系統結合人工智慧和計算機視覺,評估臨時行人安全島和路緣擴充套件等軟干預措施對車輛速度和安全的影響。在明尼阿波利斯的測試顯示,無訊號交叉口的平均速度和85%分位速度分別下降高達18.75%和16.56%,透過交通量減少12.2%;訊號交叉口也有類似降幅。該框架為快速、低成本、基於證據的交通政策評估提供了新方法。
BALAR 是一種任務無關的演算法,能夠透過維護潛在狀態的信念並透過互資訊最大化選擇澄清性問題,實現大型語言模型與使用者之間的結構化多輪互動。在偵探案例、思維謎題和臨床診斷基準測試上,準確率分別提升了14.6%、38.5%和30.5%。
本文介紹了“部分證據基準”(Partial Evidence Bench),這是一個確定性基準測試,用於衡量當企業AI代理在授權受限環境中執行時,因無法訪問全部證據而導致答案看似完整實則遺漏關鍵資訊的失敗模式。基準包含盡職調查、合規審計和安全事件響應三個場景,共72個任務。測試結果顯示,靜默過濾極度不安全,而明確報告失敗的行為能消除不安全完整性。