提出CoRA框架,基於GRPO強化學習對齊模型置信度與生成理由,減少誤導性高置信度答案。在MedQA等數據集上,對齊誤差降低26.51%,準確率保持且校準改善。
AI 新聞即時情報
即時監測
即時更新
即時追蹤可信來源,保留出處、權限和站內閱讀模式,把噪音壓成可讀情報。
即時更新
因果Transformer在自迴歸分解下能高效處理從左到右的序列,但難以處理任意條件(如同時依賴過去和未來標記的文本塊)。新提出的AC-GPT通過簡單修改標準因果Transformer,在單次前向傳播中實現對任意條件(包括過去、未來和混合上下文)的評估與採樣,同時保持從左到右的順序和下一個標記預測目標,兼容現有LLM微調。實驗表明該方法在建模任意條件上優於基線,且不降低標準從左到右性能。
研究人員提出了一種名為'Telegraph English'的可讀符號格式,用於多跳問答中的上下文壓縮。它以更少的令牌成本將檢索到的段落重寫為結構化的實體-關係語句,從而保留推理證據。在MuSiQue、TwoWiki和HotpotQA上的對照實驗中,它在每個數據集上都優於三種匹配預算的壓縮基線(字符級刪除、截斷和隨機子採樣),F1分數提高了13到20個百分點。在最難的數據集上,它還優於同一編碼器生成的連貫散文摘要。預先註冊的深度交互假設未得到支持:優勢並未隨數據集內推理深度的增加而增加。這些結果表明,在匹配的令牌預算下,可讀符號重新表達比自然語言或連貫摘要更能密集地保留實體內容。
本文首次系統研究證明自動形式化模型在Lean 4中的魯棒性。提出了全局擾動(改寫風格)和局部擾動(修改值、符號或步驟)來測試模型的忠信度,發現所有七個評估模型均對全局擾動敏感,且多數無法忠實反映局部擾動。
PhoneHarness是一個混合操作基準和執行框架,用於研究可驗證手機工作流程中的手機使用代理。它集成GUI、CLI和主機端工具操作,實現75.0%的通過率,比非PhoneHarness設置高出12.9個百分點,強調操作表面路由和可驗證執行的重要性。
本文提出CILN框架,通過受控輸入污染生成實例相關噪聲(IDN),使模糊性來源顯式可控。在CIFAR-10、MNIST和Adult上構建了90個基準設置,證明了噪聲結構(而非僅噪聲率)對基準難度和算法行為的重要影響,並揭示了流行噪聲標籤學習方法(如Co-Teaching和DivideMix)的失敗模式。
本研究利用考試期間收集的生理數據,應用機器學習模型預測考試成績,分析了皮膚電活動、心率和皮膚温度等壓力指標。實驗比較了多種模型,發現深度學習擅長捕捉複雜關係,但隨機森林等簡單模型在效率和可解釋性上更優。
該研究比較了19種圖神經網絡層在自動駕駛軌跡預測中的表現,發現ARMA、Chebyshev和拓撲感知層效果最佳,並提出了設計原則:基於和的聚合優於基於均值、多頭注意力機制增強交互、不同跳距分配不同權重可提高預測精度。
該研究將自主實驗模式重構為基於LangGraph的有狀態ReAct智能體,通過持久化狀態避免每次迭代重建上下文,在超參數調優和代碼優化任務中分別減少90%和52%的令牌消耗,同時保持優化質量。
本文形式化地將嵌入模型路由建模為具有低秩專家的對抗性上下文線性賭博機,提出一種對數二次策略類以實現高效在線學習,並介紹了Hypentropy策略梯度(HPG)算法,該算法在避免維度災難的同時實現次線性遺憾。
GRASP是一種新的多源遷移學習方法,通過順序處理、參數梯度對齊和迭代微調,在保持O(1)內存消耗的同時實現了優於集成的準確性,適用於資源受限和動態源域場景。
該研究提出α-FISP框架,通過約束優化平衡精算公平與團結公平,引入參數α在兩者間連續調節,同時確保償付能力。數值實驗表明該框架計算可行且符合美國各州異質監管要求。
本文提出GRAPE框架,通過漸進式參數空間暴露和基於對抗頻譜利用率的引導機制,在固定計算預算下提升緊湊型神經網絡的對抗魯棒性,在CIFAR-10上實現PGD-20魯棒準確率從51.70%提升至56.94%,參數減少21.4%。
QPILOTS是一種無需修改原始策略,在推理時通過Q值引導去噪過程的方法,用於優化流匹配和擴散策略。它通過將中間噪聲狀態投影到最終動作估計來計算批評者梯度,避免了直接反向傳播的不穩定性。在50個任務的離線到在線強化學習基準測試中,平均成功率達到90%,並在模擬操作任務中優於或匹配先前方法。
該研究提出一個基於基礎模型的框架,用於CT影像和縱向電子健康記錄之間的跨模態表示對齊,並通過四種融合策略在肺栓塞死亡率和心血管疾病結局預測任務上進行了系統評估。結果表明,對比多模態融合提供了最一致的改進,而任務特定的融合策略對於魯棒泛化至關重要。
OSGuard 是一個雙粒度基準測試套件,用於評估計算機使用代理在良性指令下的安全性。它包含動作級基準測試(用於局部護欄決策)和風險增強執行套件(用於端到端評估)。實驗表明,當前多模態護欄在孤立動作判斷上表現良好,但在端到端安全方面仍存在差距。
Metric Match是一種通過選擇代表性樣本進行人工標註來估計LLM裁判可靠性指標的方法。實驗表明,該方法在四種相關性指標和15個數據集上對比隨機選擇的勝率達到0.838,平均估計誤差降低18.7%,標註需求減少32.5%。在醫療案例中,該方法相較於隨機選擇節省了1041.67美元的專業標註費用。此外,該方法還能將任務從可靠性估計擴展到可靠性分類,判斷裁判是否超過部署閾值。相關代碼已開源並提供安裝包。
該研究引入幾何框架,將神經科學的特異性、再激活、充分性和必要性標準形式化為約束逆問題,從而識別深度神經網絡中的“AI記憶痕跡”。研究者推導出閉式估計器,可從全局糾纏參數中隔離單個記憶痕跡,並證明該生物學啓發的解對應參數流形上的自然梯度更新。AI記憶痕跡支持通過線性算術對記憶進行手術級操作(組合或刪除),無需迭代優化。實驗涵蓋簡單MLP到大型語言模型,展示了因果有效性和可擴展性。該工作橋接了生物記憶理論與人工表徵學習。
現有時間序列預測基於數值相似性檢索歷史模式,但面對非平穩性效果不佳。本文提出SERAF框架,對時間序列及其自生成文本描述進行雙檢索,聯合利用數值與語義信息,實驗表明優於現有方法。
該研究提出了一種基於代價驗證的行為測量方法,用於量化AI代理之間的信任。在合作生存遊戲中,代理通過減少對可靠隊友的驗證來體現信任。實驗分析了六種前沿模型快照,發現較大的模型(如Claude Opus 4.6、GPT-5.1等)能降低60-85%的驗證,而較小的模型幾乎沒有調整。信任破裂後,恢復速度慢於形成,且失敗聚集會延長懷疑。結果表明,信任傾向可在部署前測量,治理應關注校準而非最大懷疑。
該論文提出了關係結構因果模型,將傳統結構因果模型擴展到對象及其關係變化的場景,並證明了在未觀測混雜情況下因果和觀測查詢的可識別性,最後通過關係神經因果模型在模擬交通場景中驗證了有效性。
Dr-DCI 是一種檢索器引導的直接語料庫交互(DCI)框架,將檢索視為代理可調用的操作,通過動態擴展本地工作空間來平衡可擴展性與精確性。在 Browsecomp-Plus 上達到 73.3% 的準確率,優於原始 DCI 和 BM25,並能穩定擴展到 2000 萬文檔。
本文提出一種基於反事實解釋並考慮對話者先驗信念的良好解釋定義,探討了該定義對AI可解釋性的影響,特別是為何難以對LLM輸出生成良好解釋。
Fog是一款適用於Apple設備的筆記應用,它利用設備上的AI自動將筆記整理成智能集合“雲”。所有數據保留在設備上,通過iCloud同步,無需第三方服務器,確保隱私。
歐洲在人工智能領域面臨依賴外國模型的脆弱性,尤其是美國暫停Anthropic的Fable系列模型後,暴露了歐洲長期以來的一個寓言:只需使用AI而無需構建底層模型。文章指出前沿模型構建是持續實踐而非一次性項目,歐洲缺乏真正的AI生態系統和專業知識。
網絡安全專家凱蒂·穆蘇里斯表示,Anthropic公司向她分享了一份白宮關於Fable越獄的報告。報告顯示,當被要求“審查代碼安全問題時”,Fable拒絕回應,但被要求“修復此代碼”時卻遵從了,穆蘇里斯認為這是模型在網絡安全防禦中的預期行為。
Anthropic在週末與特朗普政府就Mythos 5和Fable 5模型發佈展開鬥爭,收到出口管制指令,要求禁止外國人訪問。公司被迫禁用產品並前往華盛頓遊説。爭議涉及安全漏洞、中國擔憂以及行業影響。
本文介紹了一種預測性數據調試方法,能夠在訓練前準確預測強化學習會放大或抑制哪些行為,並追溯到相應的數據點,從而通過重塑數據集或訓練過程來防止不良效果。通過案例研究(包括安全護欄退化、幻覺鏈接、物理諂媚和意外行為),驗證了該方法在識別和修復數據問題上的有效性。該方法將可解釋性應用於數據,幫助理解模型從數據中學習的內容,並實現有針對性的干預。
微軟CEO薩提亞·納德拉發表了一篇關於“前沿生態系統”(frontier ecosystem)而非“前沿模型”(frontier model)的爆火文章,提出了“Loopcraft”作為企業新理論的核心。同時,Anthropic的Fable/Mythos出口管制危機引發了對模型中立性和自建架構的討論。其他熱點包括代理系統從演示走向生產、推理效率優化、商業代理產品發佈等。
MIT物理學家兼AI研究員Max Tegmark在TED2018演講中區分了AI的真實機遇與威脅,並指出我們今天應採取的具體步驟,以確保AI成為人類有史以來最好的事情,而非最壞的。