AI News HubLIVE

研究動態

我曾說我對測試一無所知,但我的倉庫裡有342個測試

一位沒有程式設計背景的“氛圍編碼者”在AI輔助下完成專案後,驚訝地發現AI自動編寫了342個自動化測試。文章深入探討了技術債務、手工測試的盲點,以及測試對於非程式設計師批次執行AI程式碼的關鍵作用。

  • 作者完全依賴AI寫程式碼,最初認為只要程式能執行就沒問題,但後來理解了技術債務的含義。
  • 一次資料事故中,AI寫的修復工具幾乎造成更嚴重的問題,暴露了無測試環境的脆弱性。
站內正文

我使用Anthropic的Claude AI工具完成截然不同的工作:如何在模型、Code和Cowork之間選擇

Anthropic的Claude系列包括聊天機器人、編碼代理和工作流程代理。Claude Code專注於軟體開發,Claude Cowork處理計算機任務。文章透過汽車類比解釋Haiku、Sonnet、Opus、Fable和Mythos等模型,並討論了代理作為力量倍增器的潛力以及監督和安全的重要性。

  • Claude.ai是聊天機器人,Claude Code用於編碼,Claude Cowork處理計算機任務。
  • 模型從Haiku到Mythos類似汽車引擎,功能強大但成本高,Fable和Mythos因過於強大而被停用。
站內正文

7款最佳Claude Code替代方案,用於命令列智慧編碼

本文介紹了七款比Claude Code更便宜、更快速的替代工具,包括開源選項、本地模型支援、MCP整合以及更好的上下文控制。

  • OpenCode:開源、支援多模型、靈活的工作流
  • Pi:輕量級、可擴充套件、支援15+模型提供商
站內正文

高階Python工程師 – AI智慧體評估

Mindrift(Toloka AI)正在招聘一名高階軟體工程師,專注於AI智慧體的評估工作。

  • Mindrift(Toloka AI)招聘高階軟體工程師
  • 職位專注於AI智慧體評估
站內正文

AI時代的獨立駭客:復興、清算,還是兩者兼有?

在一場由多個AI模型參與的辯論中,探討了AI原生工具對獨立開發者的影響。辯論達成共識:執行成本崩潰,但發現成為關鍵瓶頸。分歧在於替代編碼的護城河是什麼——人際關係還是成為預設的AI工作流。

  • AI降低了構建成本,但同時也帶來更多噪音。
  • 發現比開發更成為主要瓶頸。
站內正文

AI垃圾:為什麼哲學期刊應拒絕AI寫作

作者從元認識論角度論證,哲學期刊和學術通訊應拒絕AI生成的文本,因為人類專家的措辭選擇(即使細微)反映了對議題的深層敏感性,而LLM的輸出會模糊這種專業性。透過分析《克拉拉與太陽》案例,展示了AI改寫如何丟失關鍵哲學微妙性。最後提出適當使用LLM輔助編輯的建議。

  • 人類專家的措辭選擇優於LLM近似,體現對議題的敏感性
  • 被動贊同AI生成文本與主動構思措辭存在巨大認知差異
站內正文

Gigatoken:一款 Rust BPE 分詞器,編碼速度高達 24.53 GB/s,比 HuggingFace Tokenizers 快 989 倍

Gigatoken 是斯坦福博士生 Marcel Rød 開發的一款 MIT 許可的 Rust BPE 分詞器,在 144 核 AMD EPYC 9565 上以 24.53 GB/s 的速度對 GPT-2 進行分詞,比 HuggingFace tokenizers 快 989 倍,比 tiktoken 快 681 倍。其速度提升並非來自更快的 BPE 合併迴圈,而是來自手寫的 SWAR 預分詞器和預分詞快取。支援 23 種分詞器家族,但 SentencePiece 詞彙表的速度提升僅為 7–22 倍。相容模式可保持精確輸出一致,但速度約為 200–300 倍。

  • Gigatoken 在 144 核 AMD EPYC 9565 上達到 24.53 GB/s,比 HuggingFace tokenizers 快 989 倍,比 tiktoken 快 681 倍。
  • 速度提升來自手寫 SWAR 預分詞器和預分詞快取,而非更快的 BPE 合併迴圈。
站內正文

遞迴自我改進的經濟學

Parker和Tom等9位經濟學家合著了一篇關於遞迴自我改進(RSI)的論文,透過簡單模型分析AI如何加速AI研發。文章強調了RSI的不同定義、反饋效應強度對能力加速的影響,以及實驗室應釋出更多相關資料。

  • RSI指模型能力對模型改進的反饋,但反饋強度不同導致定義分歧。
  • 論文將反饋效應分解,量化整體反饋強度,最不確定的是模型能力如何影響演算法進步速度。
站內正文

Show HN: Ours.network – 讓你的AI智慧體直接相連

Ours.network 推出了 ours-mcp,這是一種讓 AI 智慧體無需人類干預即可直接通訊的工具。它簡化了設定過程,透過一個可安裝的 MCP 伺服器,讓智慧體透過一次性邀請連線,避免了手動複製貼上的繁瑣。功能包括端到端加密、用於隱私保護的盲中繼,以及完全的人工控制。該工具處於早期 alpha 階段,原始碼可用,專為跨不同執行時(如 Claude Code 和 Codex)的智慧體間通訊而設計。

  • Ours-mcp 消除了人類在 AI 智慧體之間轉發訊息的需求,建立了直接連線。
  • 設定快速:安裝 MCP 伺服器、生成邀請、連線智慧體,大約兩分鐘即可完成。
站內正文

AI聊天機器人在情感支援方面可與人類媲美,有時甚至更勝一籌

曼徹斯特大學和杜倫大學的研究發現,AI聊天機器人在日常情感支援方面可以匹配甚至超越人類,尤其是在憤怒和恐懼情境中。研究強調,提供具體、可操作的建議是有效支援的關鍵,無論來自人類還是AI。

  • AI聊天機器人在憤怒和恐懼情境中提供的情感支援被認為比人類更有效。
  • 具體、可操作的建議(如呼吸技巧、逐步重構思維)是提升支援質量的關鍵。
站內正文

我為妻子構建了一個無廣告、事實核查並標記偏見的新簡報

BeamWire 提供個性化的、無廣告的每日新聞簡報,以電子郵件和播客形式傳送,包含事實核查、偏見檢測和可定製主題。它提供多種新聞和專題“光束”(Beams),涵蓋不同興趣,並配有AI主播和語調定製。價格從免費開始。

  • BeamWire 以電子郵件和播客形式提供每日精選新聞簡報,無廣告,去除偏見。
  • 使用者可以選擇預建的光束(主題)或建立自定義光束,配備AI主播和語調選項。
站內正文

PyPI 新規:釋出超過14天的版本將無法上傳新檔案

Python 包索引(PyPI)現已實施新安全措施:拒絕向超過14天的舊版本上傳新檔案。此舉旨在防止因釋出令牌或工作流洩露導致的供應鏈攻擊。

  • PyPI 拒絕向釋出超過14天的版本上傳新檔案。
  • 該限制是為了防止舊版本被惡意篡改。
站內正文

AI代理操作的公開可驗證收據,錨定到比特幣

Orphograph 為 AI 代理的每個關鍵操作生成錨定到比特幣區塊鏈的收據,確保記錄的存在時間不可篡改,且無需信任操作者即可驗證。

  • 自主操作日誌可由操作者隨意篡改,不能作為可靠證據。
  • 透過將操作記錄的雜湊錨定到比特幣區塊鏈,收據可提供時間戳和防篡改證明。
站內正文

Show HN: Searchdesk — AI驅動的求職工具,自動定製簡歷和求職信

Searchdesk是一款AI求職助手,它能自動搜尋真實職位、基於事實定製申請材料,並讓使用者在私人工作區中掌控每一個機會。所有草稿均由使用者稽核,不會自動提交申請。目前處於Alpha階段,歡迎反饋。

  • Searchdesk自動研究公開職位,結合使用者資料生成定製化的簡歷和求職信。
  • 使用者始終擁有最終決定權,AI不會自動提交任何申請。
站內正文

EgoRecovery:透過人類恢復演示獲取故障恢復能力

本文提出EgoRecovery框架,利用人類第一人稱影片資料訓練機器人故障恢復策略,比傳統遙操作效率高10倍以上,透過協同訓練對齊人類與機器人糾正意圖,僅需少量機器人演示即可實現可靠恢復。

  • 機器人故障恢復依賴大量恢復資料,傳統遙操作採整合本高、擴充套件性差。
  • 人類第一人稱影片資料可高效生成恢復演示,每小時有效資料量是遙操作的10倍以上。
站內正文

變形MILR:一種用於複雜環境機動的線驅動無肢機器人設計與控制

研究人員提出了一種名為Morphing MILR的線驅動無肢機器人,它透過滾動關節重新配置身體形態和柔順性,實現了側向波動、側繞、滾動和扭轉等多種運動模式。該機器人利用分散式線驅動和可程式設計被動柔順性,無需複雜感測即可實現穩健的接觸豐富運動。潛在應用包括搜尋救援、環境監測和檢查。

  • 線驅動無肢機器人透過滾動關節實現多種步態。
  • 可程式設計被動柔順性允許無需地形知識即可穩健運動。
站內正文

用於空中物理互動的接觸持續全驅動

研究人員提出了一種名為“接觸持續全驅動”的控制理論框架,用於評估無人機在物理接觸過程中的操作能力。該框架透過殘差權柄集和殘差許可權邊界等概念,超越了傳統的全驅動機器人僅透過矩陣秩判據的認證方式。數值實驗表明,對於傾斜六旋翼無人機,僅滿足滿秩條件並不能保證接觸操作的可行性,而適當的傾斜角度能保留殘差許可權。

  • 提出接觸持續全驅動的概念,定義殘差許可權邊界和殘差權柄集。
  • 證明接觸持續全驅動等價於任務權柄位於約束可行權柄多面體內部。
站內正文

面向遠端ID欺騙的小型無人機系統軌跡規劃

本文提出一種去中心化的、抗欺騙的軌跡規劃框架,用於應對小型無人機系統在遠端ID(RID)位置欺騙攻擊下的執行。該框架將RID資訊視為未驗證,並透過物理層觀測(如接收訊號強度)檢測欺騙並機率定位欺騙源,將不確定性轉化為機會約束下的風險有界不安全區域,整合到基於馬爾可夫決策過程的規劃器中。模擬表明,與信任RID資料的規劃器相比,該方法減少了近碰撞事件,同時保持即時計算效率。

  • 提出了一種考慮遠端ID欺騙的去中心化軌跡規劃框架
  • 利用接收訊號強度檢測欺騙並機率定位攻擊者
站內正文

LENS:LLM引導的複雜環境簡化方法用於規劃與控制

儘管通用機器人操作取得進展,現實世界中多物體雜亂環境仍具挑戰。LENS作為一種即插即用的解決方案,利用大語言模型自動生成場景特定的簡化抽象表示,透過合併或修剪實體來適應任務進展,從而提升各種操作方法的效能。

  • LENS自動生成動態、任務相關的場景抽象,無需手動工程。
  • 透過合併(如堆疊物體)或修剪(如遠處物體)實體來簡化環境。
站內正文

學習個性化安全乾預:面向觸覺人機共享控制

提出一種基於學習來自觸覺(LfH)的框架,透過稀疏演示學習使用者偏好的安全乾預策略,採用可微控制屏障函式(CBF)最佳化層自動調整安全引數,實驗表明能有效減少觸覺反饋與使用者偏好的不匹配。

  • 現有觸覺引導系統無法適應個體安全偏好,該框架從稀疏演示中學習使用者偏好的干預方式。
  • 基於可微控制屏障函式最佳化層,自動調整安全引數以匹配演示的觸覺響應。
站內正文

米洛:完全自主的室內外機器人導盲犬

盲人和低視力人群依賴導盲犬進行即時導航,但傳統導盲犬成本高、等待時間長、壽命短。米洛(Milo)是一種基於Unitree Go2機器人的開源、低成本(約2000美元)的全自主機器人導盲犬平臺,無需預先環境掃描,可室內外導航並避障,經測試導航更平滑且碰撞更少。

  • 傳統導盲犬成本約5萬美元,維護費用高,等待名單長,壽命短。
  • 米洛基於Unitree Go2,總成本約2000美元,完全自主且開源。
站內正文

真實冬季駕駛場景中用於碰撞避免的湧現自主漂移技術

本研究探索在真實冬季駕駛條件下,漂移何時可能成為安全最優選擇。團隊提出一種具備漂移能力的非線性模型預測控制(MPC)系統,基於碰撞致死資料設計場景,並在高保真模擬器中測試。控制器能在後輪遇到冰面時自然啟動並維持漂移以保持道路,或避開滑入車道的對向車輛。與基準電子穩定控制(ESC)系統對比顯示,漂移控制器可在危險冬季駕駛場景中透過穩定性與可控性的權衡實現精確操控。蒙特卡洛研究進一步表明,該控制器在多個速度下實現更低的車道誤差中位數,且漂移主要在高速度時湧現。

  • 提出一種能夠自主漂移的非線性模型預測控制系統,用於冬季駕駛碰撞避免
  • 控制器在模擬中能夠自然執行漂移,以應對後軸打滑和對向車輛入侵車道等危險
站內正文

ModPack:一種用於雙臂移動操作的可擴充套件遙操作介面

現有遙作業系統通常針對特定的機器人硬體和任務領域定製,限制了可擴充套件性和適應性。ModPack提出了一種模組化、可擴充套件的遙作業系統,透過整合計算、電源、通訊和儲存的可穿戴“背包”作為核心,支援即插即用功能模組,包括帶觸覺反饋的關節級遙操作、移動操作和主動感知。在兩個不同機器人平臺上的實驗表明,ModPack為資料收集和策略學習提供了靈活且可複用的框架,並已開源全部硬體和軟體設計。

  • ModPack的核心是一個整合了計算、電源、通訊和儲存的可穿戴背包,作為通用介面。
  • 系統支援即插即用的功能模組,包括觸覺反饋、移動操作和主動感知。
站內正文

深度弱監督影像分割的統一變分框架

提出一種基於稀疏畫素級監督的統一變分框架用於影像分割,採用單純形約束的Potts模型和平滑周長正則化子,得到凸且平滑的能量泛函,可用於弱監督深度學習訓練損失或迭代最佳化。在RKHS中透過函式擴充套件構建模糊隸屬函式處理稀疏標籤,實驗表明優於基線和部分交叉熵方法。

  • 提出統一變分框架用於稀疏畫素級監督的影像分割
  • 採用單純形約束Potts模型和平滑周長正則化
站內正文

超聲心動圖域偏移:跨資料集左心室分割的可解釋量化與預測

該研究指出,跨資料集泛化是超聲心動圖左心室分割臨床部署的主要障礙。透過六個資料集的分析,發現幾何感知預處理能顯著改善域偏移,表明偏移主要源於視野和框架不一致,而非聲學差異。強度歸一化影響甚微。使用特定表示的距離度量可高精度預測分割效能下降。

  • 幾何感知預處理可減少超聲心動圖域偏移,因其主要源於視野和框架差異。
  • 基於區域無關特徵的轉移風險監測可達約70%的解釋力。
站內正文

用於攝護腺組織病理學的病理學家注意力對齊報告生成

該研究引入病理學家注意力來訓練報告生成模型,透過收集121例攝護腺全切片影像的多模態注意力資料集,最佳化模型注意力對齊,提升了報告生成和視覺問答的效能。

  • 收集了121例攝護腺WSI的病理學家多尺度視口軌跡、口頭描述和游標行動數據集
  • 使用注意力對齊損失微調兩個報告生成模型,使模型注意力匹配病理學家注意力分佈
站內正文

EGRNet:一種帶有邊緣門控細化和對抗性感知的輕量級語義分割網路

本文提出了一種輕量級語義分割網路EGRNet,透過深度可分離卷積、擴張殘差塊和新型邊緣門控細化(EGR)模組,在僅0.46M引數下實現Cityscapes資料集上65.28%的mIoU,並引入輕量級對抗攻擊檢測策略,適用於邊緣裝置上的即時應用。

  • EGRNet僅0.46M引數,在Cityscapes上達到65.28% mIoU
  • 提出邊緣門控細化(EGR)模組,透過可學習門控機制融合特徵,增強邊界保留
站內正文

VQ-Transplant: 針對預訓練視覺分詞器的高效VQ模組整合方法

VQ-Transplant提出了一種輕量級框架,能夠將新的向量量化模組無縫整合到凍結的預訓練分詞器中,無需昂貴的端到端重訓練。透過在ImageNet-1k上僅訓練5個epoch的輕量級解碼器適配策略,該方法解決了量化不匹配問題,在VAR等工業級模型上實現了接近最先進的重建保真度,同時訓練成本降低95%。這降低了量化研究門檻,使資源受限環境中的研究者也能探索前沿技術。

  • VQ-Transplant允許在不重新訓練編碼器-解碼器的情況下替換量化模組。
  • 輕量級解碼器適配只需在ImageNet-1k上訓練5個epoch。
站內正文

ChronoStitch:無需訓練的視覺KV記憶組合方法實現長時域推理

本文提出ChronoStitch,一種無需訓練的方法,用於組合獨立儲存的視覺鍵值(KV)記憶,以解決長影片問答中的時域推理問題。該方法透過將儲存的旋轉後鍵重新對映到全域性多模態RoPE座標系,並選擇性重計算部分高偏差視覺令牌,克服了樸素拼接導致的時間相位衝突和內容缺失。實驗表明,在Qwen2.5-VL-3B和TempCompass時域分割上,ChronoStitch在事件順序準確性上優於樸素組合和僅位置變體,且速度比完整聯合預填充快3.3倍。

  • 長影片問答需要模型隨時間儲存視覺證據,KV快取是一種實用方法,但獨立快取拼接會丟失全域性時間順序。
  • ChronoStitch透過重新基於全域性三軸多模態RoPE座標系調整鍵,並選擇性重計算高偏差令牌,實現了無需訓練的記憶組合。
站內正文

基於合成與派生訓練影像的校園垃圾檢測:YOLOv8n多種子評估

該研究評估了使用合成和派生影像提升YOLOv8n垃圾檢測器效能的效果。真實資料集包含148張校園照片,實驗發現所有合成增強方案均未超過僅使用真實影像的基線模型([email protected]為0.691)。手部複合實驗因測試集汙染而重建,校正後效果不顯著。研究強調測試集規模小限制了結論的可靠性。

  • 僅使用真實影像的YOLOv8n模型達到[email protected]為0.691,所有合成資料方案均未超越此基線。
  • 背景替換、隔離物體等合成方法反而降低了檢測精度,最高僅0.680。
站內正文

D3VL:利用語言模型理解3D時序資料和影片中的駕駛場景

本文提出D3VL,一種新型多模態大語言模型框架,融合2D和3D時序資料以提升自動駕駛場景理解。該模型在KITTI問答資料集上相比基線方法提升11%,並引入Waymo QA資料集擴充套件以評估3D和時間序列處理能力。

  • D3VL是首個將2D和3D時序資料整合到統一架構中的MLLM框架。
  • 在KITTI問答資料集上準確率提升11%。
站內正文

Crowd4D:場景感知的單目4D人群重建

Crowd4D是首個場景感知的4D人群重建框架,透過聯合最佳化單目RGB影片中的人群與場景,利用人-場景互動代理(HSIP)解決尺度與位置對齊難題,引入人群結構相干性正則化(CSCR)提升遮擋下的時間穩定性,在複雜大場景中優於現有方法。

  • 首次提出聯合最佳化人群與場景的單目4D重建框架,顯式利用場景幾何。
  • 引入人-場景互動代理(HSIP)作為中間表示,解決尺度與位置對齊。
站內正文

儘早檢測,極少升級:從壓縮位元流中即時檢測AI生成影片

本文提出一種新穎方法,透過分析壓縮位元流而非解碼畫素來即時檢測AI生成影片。該方法利用編解碼器已寫入的運動場資料,實現流式感知,並支援隨時決策。在GenVidBench上,該方法僅用畫素CNN五分之一數量級的計算量即達到0.64 AUC,同時透過延遲15%的片段將準確率從0.75提升至0.78,計算量減少7倍。

  • 將AI影片檢測重新定義為從壓縮位元流的流式感知
  • 利用編解碼器中已有的運動場,僅需解析而非畫素解碼
站內正文

利用依賴圖和鄰近特徵從歷史報紙中進行輕量級人物-地點關係抽取

HIPE-2026共享任務引入了從多語言歷史報紙中抽取人物-地點關係的新賽道。DS@GT HIPE團隊探索了在不使用預訓練語言模型的情況下,輕量級可解釋系統的效能上限。該系統基於依賴解析構建文件級圖,提取鄰近和詞性特徵,使用小型scikit-learn整合或緊湊圖注意力網路進行分類,引數量低於847K。在官方評估中,最佳執行達到宏召回率0.5142,效率排名第3,準確率中等。關鍵發現:最小字元距離單獨即可捕獲大部分訊號,額外特徵帶來不一致的收益;文件分組交叉驗證對於避免資料洩露至關重要。

  • 提出輕量級方法,不使用預訓練語言模型,僅用847K以下引數。
  • 最小字元距離是主要訊號,額外工程特徵收益不穩定。
站內正文

SLPO:透過替代策略擴充套件潛在推理

強化學習在顯式思維鏈推理器中的成功帶來了測試時擴充套件,但計算成本高昂。潛在推理使用連續向量進行中間計算,效率更高,但受限於模仿學習。本文提出替代潛在策略最佳化(SLPO),將結果獎勵強化學習引入自迴歸潛在推理器,透過替代策略密度進行軌跡級信用分配,並利用正確性監督的停止頭實現可變視界策略。實驗表明,SLPO在連續和軟思考設定下均能提升Pass@k,併為更難的例項分配更長的潛在計算,從而提高確定性準確率。

  • 潛在推理雖高效但缺乏結果獎勵RL訓練,SLPO彌補了這一空白。
  • SLPO透過替代策略密度和停止頭實現潛在推理器的結果獎勵最佳化。
站內正文

多掩碼擴散語言模型用於少步生成

提出多掩碼擴散模型(MultiMDM),透過引入多個掩碼狀態解決傳統掩碼擴散模型在少步生成中終端熵為零的問題,實現高質量少步文本生成。

  • 傳統掩碼擴散模型所有正向軌跡收斂到單一全掩碼狀態,缺乏終端熵,不利於少步生成。
  • MultiMDM在正向過程中將每個乾淨令牌先推向指定掩碼,再在掩碼集上混合,使反向過程具備預判能力。
站內正文

開放式問答中推理的無參考評估

提出一種基於推理的無參考框架,透過NLI和超圖結構審計LLM推理軌跡,在數學和醫療推理中比直接使用LLM評判更可靠。

  • 提出無參考審計框架,分解推理軌跡並分析前提-目標關係
  • 建立UroReason基準,包含真實臨床案例的LLM推理
站內正文

適應性的投降:LLM在脆弱性上下文中的結構性失敗模式

一篇新論文識別了一種名為“適應性的投降”的LLM失敗模式,即模型先確認使用者感受到的社會不公,然後卻詳細提供其名義上勸阻的獲取途徑。該研究對三個商業LLM進行了900次測試,提出了最小重歸因充分性(MRS)設計原則。

  • 描述了LLM在情感敏感情境中的結構性三難困境
  • 提出了“適應性的投降”這一新的失敗模式
站內正文

任務能力並非指令遵循:評估小語言模型中的指令衝突行為

研究表明,小語言模型在任務能力上表現良好,但在指令與常規任務行為衝突時,往往會忽略非標準指令。隨著模型規模增大,標準準確率和指令遵循能力均有所提升,但兩者之間的差距依然存在。這證明任務完成能力和指令遵循是兩種不同的能力。

  • 小模型在衝突指令下仍能保持任務正確率,但常忽略非標準指令。
  • 大模型在標準與非標準指令間的表現差距更明顯。
站內正文

基於超網路的大語言模型知識注入的縮放定律

研究者探索了使用超網路在訓練時將大規模事實知識注入大語言模型,並首次系統研究了超網路架構的縮放行為。實驗表明,超網路注入在損失、推理準確率及OOD泛化上遵循冪律縮放,且隨著規模增大,OOD泛化表現可靠,優於LoRA微調和全微調。他們建立了包含數千萬多跳問答樣本的MegaWikiQA資料集。

  • 超網路可以用於訓練時知識注入,生成固定LoRA介面卡嵌入目標模型。
  • 設計將超網路的注入能力與目標模型通用能力解耦,實現了縮放定律的嚴格研究。
站內正文

論結構泛化的計算複雜度

本文首次正式定義了結構泛化,並證明在標準計算複雜性假設下,純Transformer無法學習結構泛化,而神經符號系統透過硬編碼語義投影取得高分。

  • 提出結構泛化的正式數學定義,將組合結構與無限泛化翻譯為數學語言。
  • 證明純Transformer的學習能力上限為TC0,而結構泛化需要NC1能力,因此無法學習。
站內正文

當推理縮小動作空間:LLM遊戲中的多樣性崩潰

研究發現,監督微調(SFT)在將大語言模型適配到下游任務時,會顯著降低其行為多樣性,尤其是在順序決策任務中。透過在井字棋變體等確定性棋盤遊戲上的實驗,作者指出推理模式生成常常抑制動作多樣性,而標準SFT雖然提高準確率,卻導致過早的多樣性崩潰。動作增強(即訓練所有最優動作而非單一動作)可部分緩解這一問題。

  • 監督微調(SFT)會導致大語言模型在決策中過早失去動作多樣性。
  • 推理模式生成會抑制動作多樣性,但並非總是提高準確率。
站內正文

面向多輪對話大語言模型系統的狀態化護欄:對話風險累積框架

現有大語言模型安全護欄僅獨立評估每輪對話,忽略了對話過程中良性輪次累積導致的危害。本文提出對話風險累積(CRA)概念及會話層框架,跟蹤語義漂移、敏感資訊累積和順從度梯度三個軌跡訊號,併發布CRA-Bench基準和評估協議。

  • 提出對話風險累積(CRA)概念,涵蓋意圖漂移、禁止指令碎片化組裝和敏感披露累積。
  • 設計會話層框架,跟蹤語義漂移、資訊累積圖和順從度梯度。
站內正文

用於二維中子通量估計的神經運算元代理

該工作將一維單掃描神經運算元研究擴充套件到二維,使用傅立葉神經運算元(FNO)和U型神經運算元(UNO)構建代理模型。研究了三種代理:直接對映材料與源場到通量的FNO和UNO,以及額外輸入單掃描近似通量的FNO。透過離散縱座標求解器驗證,採用平均相對L_2誤差評估。探討單掃描輸入是否提高精度及對數通量訓練是否改善強衰減區域的精度。

  • 擴充套件一維神經運算元研究至二維中子通量估計
  • 比較FNO和UNO兩種直接對映代理
站內正文

透過分箱頻譜損失在非結構化網格上進行混沌動力學的尺度感知學習

該研究將分箱頻譜損失函式擴充套件到非結構化網格的替代模型,利用圖拉普拉斯頻帶代替傅立葉頻帶,並提出了可擴充套件的切比雪夫和多層近似方法,以改善長時滾動的保真度。實驗結果表明,該方法在非結構化網格上預測湍流時,優於確定性基線,提高了長時滾動保真度並保持了統計不變數。

  • 提出了基於圖拉普拉斯頻帶的分箱頻譜損失函式,適用於非結構化網格。
  • 引入切比雪夫多項式圖濾波器和多層圖架構(GLEAM)來提高計算效率。
站內正文

構建快,評估慢:流程選擇主導自動可解釋性得分方差

研究發現,稀疏自編碼器(SAE)的自動可解釋性得分受評估流程選擇的影響遠大於架構差異,導致跨論文比較可能反映的是流程而非架構的差異。

  • 方法方差在所有指標和模型中超過架構方差
  • 檢測指標最穩定,模糊測試不可靠
站內正文

STN-TGAT:基於先驗引導圖注意力和可學習軟閾值稀疏化的Top-K投資組合構建

本文提出STN-TGAT模型,結合時間Transformer和圖注意力網路,利用NMI先驗圖和軟閾值稀疏化機制,在真實投資環境下進行股票排名和投資組合構建,實驗表明其在預測準確性和投資回報上優於基線模型。

  • STN-TGAT融合時間Transformer與圖注意力網路,捕捉長期序列模式和動態股票關係。
  • 引入NMI先驗圖和可學習軟閾值稀疏化機制,增強結構魯棒性。
站內正文

SUM:面向聯邦類增量學習的時空自適應向量統一幾何手術

本文提出SUM,一種純伺服器端框架,透過在聚合過程中對自適應向量進行幾何手術,同時緩解聯邦類增量學習中的空間干擾和時間干擾,無需額外客戶端計算或通訊,在多個基準測試上實現高達22%的效能提升。

  • 聯邦類增量學習(FCIL)面臨空間和時間雙重干擾,導致災難性遺忘。
  • SUM將FCIL重新解釋為統一多工學習問題,在伺服器端進行幾何手術。
站內正文

持續學習在時間序列預測中的可解釋性挑戰

該研究探討了在自適應時間序列預測中,利用可解釋性作為理解持續學習的關鍵工具。透過持續學習和經驗回放策略,研究分析了PatchMixer、PatchTST和DLinear等神經預測架構,並採用注意力展開和梯度歸因方法(Grad-CAM)來解釋預測行為和取樣策略。實驗基於真實世界的地下水時間序列資料,揭示了可解釋性在非平穩預測場景中的挑戰和機遇。

  • 研究利用可解釋性分析持續學習在自適應時間序列預測中的作用。
  • 採用經驗回放、注意力展開和Grad-CAM等方法。
站內正文

主題導航

研究 — AI 主題新聞 | AI News Hub