本文提出一種基於困惑度差異的簡單方法,通過比較微調模型和參考模型對隨機前文生成的補全的困惑度,能夠有效揭示微調目標。在76個模型生物(0.5至700億參數)上的實驗表明,該方法能識別後門、虛假事實內化、對抗性訓練隱藏行為等,且無需訪問精確預微調檢查點,兼容API模型。
AI 新聞即時情報
即時監測
即時更新
即時追蹤可信來源,保留出處、權限和站內閱讀模式,把噪音壓成可讀情報。
即時更新
2026-05-05
圖解問答需要推理級歸因,即將每個問答對與推導答案所需的所有視覺區域聯繫起來,而不僅僅是包含最終答案的區域。現有註釋工具將界面與數據集特定格式緊密耦合。本文提出的DIAGRAMS是一個輕量級、模式驅動的審查框架,通過內部元模式和數據集適配器將界面邏輯與數據集特定的JSON結構解耦。該系統可基於問答對進行證據選擇並提出所需區域,缺失時自動生成並支持人工驗證。在六個數據集上,其建議證據的精確率達85.39%,召回率達75.30%,表明該框架能減少手動區域創建並保持高一致性。
研究人員提出了H-Probes,一組線性探針,從大語言模型的潛在表徵中提取層次深度和成對距離。實驗表明,這些層次子空間是低維的、對任務性能因果重要,並且能泛化到域內外。在數學推理等真實場景中也發現了類似結構。
PhaseNet++提出了一種頻域自編碼器,利用短時傅里葉變換(STFT)保留相位譜,用於工業控制系統(ICS)的異常檢測。通過相位相干指數(PCI)引導圖注意力網絡,該方法在SWaT基準測試上取得了有競爭力的結果,標誌着該領域首次系統性地探索了相位域方法。
本文對二元分類器的接收者操作特徵(ROC)曲線進行了綜述,並正式證明了曲線下面積(AUC)等於分類器將隨機正樣本排在隨機負樣本之上的概率。此外,文中還給出了當某個假設不成立時該概率與AUC之間誤差的界限。
Haiku是一個三模態對比學習模型,整合了多重免疫熒光、H&E組織學和臨牀元數據,實現了跨模態檢索、臨牀預測和零樣本生物標誌物推斷,並在反事實分析中揭示了癌症進展相關的分子變化。
StyleShield是一種新型流匹配框架,通過條件文本風格遷移在連續詞嵌入空間中操作,實現對AI生成內容檢測器的有效規避。該框架在中文多領域基準測試中實現了94.6%的規避率(針對訓練過的檢測器)和超過99%的規避率(針對三個未見過的檢測器),同時保持0.928的語義相似度。此外,研究提出的RateAudit算法表明檢測分數可被任意設定,直接挑戰基於分數評估的可靠性。
GAZE框架賦予醫學視覺語言模型(VLM)迭代式分析能力,通過調用縮放、窗寬等觀眾級工具及PubMed/Open-i檢索工具,在包含906例罕見腦MRI的NOVA基準上,病灶定位[email protected]達58.2,Top-1診斷準確率34.9%,且對罕見病例提升顯著,揭示了工具使用與模型依賴之間的權衡。
FastSinkhorn是一種純CUDA實現的對數域Sinkhorn算法,通過warp級洗牌歸約和共享內存分塊技術,在極小正則化參數下保持數值穩定性,並在稠密最優傳輸問題中實現12倍加速。
一篇論文從基本原理出發推導並實現了四種經典ODE求解器(歐拉法、顯式中點法、經典龍格-庫塔法RK4、多曼德-普林斯5(4)法),用於流匹配生成模型的採樣。研究發現,RK4在80次函數評估時即可達到歐拉法200次評估的樣本質量;同時觀察到速度場雅可比矩陣在t=1附近急劇硬化,且低階與高階求解器的質量差距在欠訓練模型上更為顯著。
該研究對六種經典與貝葉斯稀疏迴歸方法進行了大規模基準測試,在特徵相關、信號弱、維度增長等現實條件下評估性能。結果顯示,貝葉斯方法(尤其是Horseshoe)在預測誤差和覆蓋率上表現更優,但Lasso在變量選擇上同樣高效,是無需後驗時的實用選擇。
本文提出了一種多項式時間算法,用於在代數多樣性框架中解決羣選擇問題。該算法將對易子組合優化轉化為廣義特徵值問題,複雜度為O(d^2M^2 + d^3),並能以閉式解直接構造最優羣生成器,同時提供可驗證的最優性間隙。
Agentopic是一種基於代理的新工作流,利用大型語言模型的推理能力進行可解釋的主題建模。它通過多個代理協作完成主題識別、驗證、層級分組和自然語言解釋,解決了LDA和BERTopic等傳統方法缺乏透明性的問題。在BBC數據集上,有種子版本的F1分數為0.95,與GPT-4.1相當,優於LDA的0.93,略低於BERTopic的0.98。無種子版本生成了2045個語義連貫的主題,分佈在六個層級上,極大地豐富了原始的五類別結構。
針對智能車輛旅行規劃中的路線優化問題,本文提出了一種智能體AI框架,通過編排代理協調交通、充電和興趣點等專業代理,並構建了旅行規劃優化問題數據集(TOP),實現動態優化。實驗表明該系統在TOP基準上達到77.4%的準確率,顯著優於單一代理和基於工作流的多代理基線。
該研究提出了一種因果框架來定義和量化集體能動性,即多個簡單智能體可能意外形成具有獨特能力和目標的集體智能體。通過因果博弈和因果抽象,作者解決了演員-評論家模型中的激勵難題,並定量評估了不同投票機制下的集體能動性程度。該框架旨在為理解和控制多智能體AI系統中的湧現集體智能體提供基礎。
ARMOR 2025 是一個基於戰爭法、交戰規則和聯合倫理條例的軍事安全基準,用於評估大語言模型在國防應用中的合法合規性。該基準包含12個類別、519個提示,並測試了21個商業模型,結果發現模型在軍事場景中存在顯著的安全對齊缺陷。
一種名為TUR-DPO的直接偏好優化(DPO)新變體,通過引入推理拓撲和不確定性信號,更好地將大語言模型與人類偏好對齊。它在多個基準測試上優於標準DPO,同時保持無強化學習且訓練簡單。
研究表明,在語義干擾存在的情況下,工具增強推理並不總是優於原生思維鏈。作者提出因子化干預框架來分離提示格式成本、工具調用協議開銷和工具執行收益,並引入G-STEP來緩解協議引起的錯誤。
本文提出LOCA方法,通過識別最小可解釋的中間表示變化,因果性地解釋特定越獄提示為何能繞過大型語言模型的安全訓練。這種方法相比全局解釋更精確,平均僅需六次變化即可誘導模型拒絕回答,為理解LLM安全漏洞提供了新視角。
arXiv新論文提出AgentReputation,一種針對去中心化智能AI市場信譽問題的三層框架,分離任務執行、信譽服務和防篡改持久化,引入驗證機制和上下文條件信譽卡,防止信譽混淆。
TADI是一種基於智能體AI的鑽井數據分析系統,利用大語言模型編排12個領域專用工具,整合Equinor Volve油田的異構數據(包括1759份鑽井日報、WITSML實時數據等),通過DuckDB和ChromaDB雙存儲架構實現結構化和語義查詢。系統零錯誤解析所有XML文件,處理三種不一致的井命名規範,並提出了證據接地分數(EGS)作為評估指標。研究表明,領域專用工具設計比模型規模更能提升技術分析質量。
Nylas CLI 是一個新的開源工具,通過單一身份驗證流程,為AI代理提供跨多個提供商(Gmail、Outlook、Exchange、Yahoo、iCloud、IMAP)的真實電子郵件賬户、日曆和聯繫人。它使用模型上下文協議(MCP)為代理提供16種工具,用於發送郵件、搜索線程、創建事件等。
datasette-llm 0.1a7 版本發佈,新增了為特定模型配置默認選項的機制。作為 Datasette 插件生態的一部分,該功能允許插件開發者設定默認參數,例如將所有 enrichment 操作的温度(temperature)設為 0.5。這一改進簡化了 LLM 集成的配置過程。
llm-echo 插件的新版本增加了 -o thinking 1 選項,可以模擬推理塊,用於測試 LLM 0.32a0 及以上版本。
約翰·格魯伯透露,Y Combinator持有OpenAI約0.6%的股份,按當前8520億美元估值計算,價值超過50億美元。
moar 是一款免費的 Chrome 擴展,可將 PDF、DOCX 等文檔轉換為乾淨的 Markdown 或 CSV,供 AI 工具使用,最高節省 95% 的令牌,且完全保護隱私。
蘋果機器學習研究提出隨機KV路由方法,通過在訓練中讓各層隨機選擇關注自身或前一層的鍵值狀態,實現跨層緩存共享,從而在不增加推理延遲的前提下顯著減少KV緩存內存佔用。實驗表明,該技術適用於多種模型,且在數據受限場景中具有正則化效果,甚至能保持或提升性能。
OpenAI擴展了ChatGPT廣告功能,推出測試版自助廣告管理器、每次點擊費用競價和增強的測量工具,旨在保護隱私並將對話與廣告分離。
在馬斯克訴OpenAI一案中,Greg Brockman的證詞和日記顯示他迴避關鍵問題、過於吹毛求疵,並暴露了他的貪婪和機會主義。
Simon Willison 使用 IBM 的 Granite 4.1 3B 模型的 21 個量化變體進行實驗,每個變體都要求生成一張騎自行車的鵜鶘的 SVG 圖像。所有結果都很糟糕,且質量與模型大小無關。