AI News HubLIVE

研究動態

構建交易助手:Jefferies如何利用AI優化前台交易操作

Jefferies 使用 Strands Agents、Amazon Bedrock 和 MCP 工具構建了代理型 AI 交易助手,使交易員能夠通過自然語言查詢數據,減少對 IT 的依賴並加速洞察。

  • Jefferies 部署了集成了 Strands Agents、Amazon Bedrock 和 MCP 工具的 AI 交易助手。
  • 交易員可以通過自然語言提問,實時獲取 SQL 生成的洞察和可視化結果。
站內正文

在Amazon QuickSight中使用Highcharts構建多區域可視化

本文介紹如何使用Highcharts自定義可視化在QuickSight中構建多區域運營商績效儀表板,克服原生圖表限制,同時通過QuickSight聯合數據集能力維護跨AWS區域的數據主權。解決方案包括生產就緒的圖表配置,並滿足安全、合規和可擴展性要求。

  • 通過Highcharts自定義可視化解決QuickSight原生圖表無法處理多區域運營商績效數據的結構差異問題。
  • 利用QuickSight聯合數據集實現跨區域數據聚合,無需移動原始數據,滿足數據主權要求。
站內正文

面向Amazon Bedrock託管知識庫的智能檢索

經典檢索在應對多部分、比較性和探索性問題時表現不佳,而智能檢索通過規劃循環分解查詢、逐意圖檢索並評估充分性,提供更精準的結果。本文深入探討智能檢索的工作原理、API使用方法及適用場景。

  • 單次檢索在多意圖查詢中難以有效工作。
  • 智能檢索使用基礎模型分解查詢、迭代檢索並判斷是否足夠。
站內正文

一篇關於LLM內部“工作空間”的論文剛剛發現了我們提示詞中的錯誤

一篇2026年7月的可解釋性論文發現,語言模型在大量自動處理層之上保持一個小的、可報告的“工作空間”——這個結構並非人為設計,而是從訓練中湧現的。Hamo AI創始人Chris Cheng分析了該論文的發現,指出它與Hamo自身的架構和療法有三次相同的結構對應,並據此改進了提示詞設計:將禁止性規則改為正面範圍聲明、進一步分離臨牀決策和措辭、為模型的不同意見提供記錄空間等。論文還提供了一個操作定義來追蹤“洞察時刻”。

  • Anthropic論文發現LLM內部存在可報告的工作空間,與Hamo的客户端狀態模型和療法本質是同一結構。
  • 基於白熊效應,Hamo將禁止性提示詞改為正面範圍聲明。
站內正文

自戀、馬基雅維利主義與最依賴AI的人

研究揭示人格暗黑特質與AI聊天機器人成癮之間的關係。自戀傾向強的人更容易過度使用AI,而機器提供的即時滿足與無限關注可能加劇原有的心理問題。

  • 自戀、馬基雅維利主義等暗黑特質與AI成癮存在顯著相關
  • 對不確定性的不容忍是導致過度使用的重要中介因素
站內正文

物理AI的前沿模型評估:GPT-5.6 vs Claude Fable 5

JuliaHub對最新前沿模型(GPT-5.6系列與Claude Fable 5)在物理AI領域的表現進行了評估。測試涵蓋五個難度遞增的密封問題,結果顯示Claude Fable 5在得分上領先,但成本最高;GPT-5.6 Sol在性價比上表現最佳。

  • Claude Fable 5以0.889的加權得分位居第一,但每次試驗成本高達9.60美元。
  • GPT-5.6 Sol以0.814的得分和1.74美元的成本成為性價比之選。
站內正文

立法者準備提出要求人工智能‘緊急停止開關’的法案

一項兩黨法案《人工智能緊急停止開關法案》將要求人工智能公司在國土安全部命令下關閉其系統,適用於大規模傷亡或重大經濟損失的緊急情況,違規罰款每日高達2000萬美元。

  • 眾議員特德·劉(加州民主黨)和納撒尼爾·莫蘭(得克薩斯州共和黨)預計週四提出該法案。
  • 國土安全部在諮詢商務部長和國家情報總監後,可在失控場景中下令關閉,如造成至少10人死亡或超過1億美元經濟損失。
站內正文

蘋果起訴OpenAI,爭奪後智能手機時代的定義權

蘋果指控OpenAI通過招聘前員工竊取硬件製造等商業機密,引發了一場關於AI行業合法性及OpenAI未來走向的訴訟。OpenAI面臨資金壓力、高管離職和IPO不確定性,此案可能威脅其消費市場佈局。

  • 蘋果起訴OpenAI竊取與硬件製造相關的商業機密,涉及前Apple員工在面試中索要機密信息。
  • OpenAI否認指控,但專家認為此類訴訟在行業中常見,只是涉案公司規模和影響力罕見。
站內正文

我曾説我對測試一無所知,但我的倉庫裏有342個測試

一位沒有編程背景的“氛圍編碼者”在AI輔助下完成項目後,驚訝地發現AI自動編寫了342個自動化測試。文章深入探討了技術債務、手工測試的盲點,以及測試對於非程序員批量運行AI代碼的關鍵作用。

  • 作者完全依賴AI寫代碼,最初認為只要程序能運行就沒問題,但後來理解了技術債務的含義。
  • 一次數據事故中,AI寫的修復工具幾乎造成更嚴重的問題,暴露了無測試環境的脆弱性。
站內正文

我使用Anthropic的Claude AI工具完成截然不同的工作:如何在模型、Code和Cowork之間選擇

Anthropic的Claude系列包括聊天機器人、編碼代理和工作流程代理。Claude Code專注於軟件開發,Claude Cowork處理計算機任務。文章通過汽車類比解釋Haiku、Sonnet、Opus、Fable和Mythos等模型,並討論了代理作為力量倍增器的潛力以及監督和安全的重要性。

  • Claude.ai是聊天機器人,Claude Code用於編碼,Claude Cowork處理計算機任務。
  • 模型從Haiku到Mythos類似汽車引擎,功能強大但成本高,Fable和Mythos因過於強大而被禁用。
站內正文

7款最佳Claude Code替代方案,用於命令行智能編碼

本文介紹了七款比Claude Code更便宜、更快速的替代工具,包括開源選項、本地模型支持、MCP集成以及更好的上下文控制。

  • OpenCode:開源、支持多模型、靈活的工作流
  • Pi:輕量級、可擴展、支持15+模型提供商
站內正文

高級Python工程師 – AI智能體評估

Mindrift(Toloka AI)正在招聘一名高級軟件工程師,專注於AI智能體的評估工作。

  • Mindrift(Toloka AI)招聘高級軟件工程師
  • 職位專注於AI智能體評估
站內正文

AI時代的獨立黑客:復興、清算,還是兩者兼有?

在一場由多個AI模型參與的辯論中,探討了AI原生工具對獨立開發者的影響。辯論達成共識:執行成本崩潰,但發現成為關鍵瓶頸。分歧在於替代編碼的護城河是什麼——人際關係還是成為默認的AI工作流。

  • AI降低了構建成本,但同時也帶來更多噪音。
  • 發現比開發更成為主要瓶頸。
站內正文

AI垃圾:為什麼哲學期刊應拒絕AI寫作

作者從元認識論角度論證,哲學期刊和學術通信應拒絕AI生成的文本,因為人類專家的措辭選擇(即使細微)反映了對議題的深層敏感性,而LLM的輸出會模糊這種專業性。通過分析《克拉拉與太陽》案例,展示了AI改寫如何丟失關鍵哲學微妙性。最後提出適當使用LLM輔助編輯的建議。

  • 人類專家的措辭選擇優於LLM近似,體現對議題的敏感性
  • 被動贊同AI生成文本與主動構思措辭存在巨大認知差異
站內正文

Gigatoken:一款 Rust BPE 分詞器,編碼速度高達 24.53 GB/s,比 HuggingFace Tokenizers 快 989 倍

Gigatoken 是斯坦福博士生 Marcel Rød 開發的一款 MIT 許可的 Rust BPE 分詞器,在 144 核 AMD EPYC 9565 上以 24.53 GB/s 的速度對 GPT-2 進行分詞,比 HuggingFace tokenizers 快 989 倍,比 tiktoken 快 681 倍。其速度提升並非來自更快的 BPE 合併循環,而是來自手寫的 SWAR 預分詞器和預分詞緩存。支持 23 種分詞器家族,但 SentencePiece 詞彙表的速度提升僅為 7–22 倍。兼容模式可保持精確輸出一致,但速度約為 200–300 倍。

  • Gigatoken 在 144 核 AMD EPYC 9565 上達到 24.53 GB/s,比 HuggingFace tokenizers 快 989 倍,比 tiktoken 快 681 倍。
  • 速度提升來自手寫 SWAR 預分詞器和預分詞緩存,而非更快的 BPE 合併循環。
站內正文

遞歸自我改進的經濟學

Parker和Tom等9位經濟學家合著了一篇關於遞歸自我改進(RSI)的論文,通過簡單模型分析AI如何加速AI研發。文章強調了RSI的不同定義、反饋效應強度對能力加速的影響,以及實驗室應發佈更多相關數據。

  • RSI指模型能力對模型改進的反饋,但反饋強度不同導致定義分歧。
  • 論文將反饋效應分解,量化整體反饋強度,最不確定的是模型能力如何影響算法進步速度。
站內正文

Show HN: Ours.network – 讓你的AI智能體直接相連

Ours.network 推出了 ours-mcp,這是一種讓 AI 智能體無需人類干預即可直接通信的工具。它簡化了設置過程,通過一個可安裝的 MCP 服務器,讓智能體通過一次性邀請連接,避免了手動複製粘貼的繁瑣。功能包括端到端加密、用於隱私保護的盲中繼,以及完全的人工控制。該工具處於早期 alpha 階段,源代碼可用,專為跨不同運行時(如 Claude Code 和 Codex)的智能體間通信而設計。

  • Ours-mcp 消除了人類在 AI 智能體之間轉發消息的需求,建立了直接連接。
  • 設置快速:安裝 MCP 服務器、生成邀請、連接智能體,大約兩分鐘即可完成。
站內正文

AI聊天機器人在情感支持方面可與人類媲美,有時甚至更勝一籌

曼徹斯特大學和杜倫大學的研究發現,AI聊天機器人在日常情感支持方面可以匹配甚至超越人類,尤其是在憤怒和恐懼情境中。研究強調,提供具體、可操作的建議是有效支持的關鍵,無論來自人類還是AI。

  • AI聊天機器人在憤怒和恐懼情境中提供的情感支持被認為比人類更有效。
  • 具體、可操作的建議(如呼吸技巧、逐步重構思維)是提升支持質量的關鍵。
站內正文

我為妻子構建了一個無廣告、事實核查並標記偏見的新簡報

BeamWire 提供個性化的、無廣告的每日新聞簡報,以電子郵件和播客形式發送,包含事實核查、偏見檢測和可定製主題。它提供多種新聞和專題“光束”(Beams),涵蓋不同興趣,並配有AI主播和語調定製。價格從免費開始。

  • BeamWire 以電子郵件和播客形式提供每日精選新聞簡報,無廣告,去除偏見。
  • 用户可以選擇預建的光束(主題)或創建自定義光束,配備AI主播和語調選項。
站內正文

PyPI 新規:發佈超過14天的版本將無法上傳新文件

Python 包索引(PyPI)現已實施新安全措施:拒絕向超過14天的舊版本上傳新文件。此舉旨在防止因發佈令牌或工作流泄露導致的供應鏈攻擊。

  • PyPI 拒絕向發佈超過14天的版本上傳新文件。
  • 該限制是為了防止舊版本被惡意篡改。
站內正文

AI代理操作的公開可驗證收據,錨定到比特幣

Orphograph 為 AI 代理的每個關鍵操作生成錨定到比特幣區塊鏈的收據,確保記錄的存在時間不可篡改,且無需信任操作者即可驗證。

  • 自主操作日誌可由操作者隨意篡改,不能作為可靠證據。
  • 通過將操作記錄的哈希錨定到比特幣區塊鏈,收據可提供時間戳和防篡改證明。
站內正文

Show HN: Searchdesk — AI驅動的求職工具,自動定製簡歷和求職信

Searchdesk是一款AI求職助手,它能自動搜索真實職位、基於事實定製申請材料,並讓用户在私人工作區中掌控每一個機會。所有草稿均由用户審核,不會自動提交申請。目前處於Alpha階段,歡迎反饋。

  • Searchdesk自動研究公開職位,結合用户資料生成定製化的簡歷和求職信。
  • 用户始終擁有最終決定權,AI不會自動提交任何申請。
站內正文

EgoRecovery:通過人類恢復演示獲取故障恢復能力

本文提出EgoRecovery框架,利用人類第一人稱視頻數據訓練機器人故障恢復策略,比傳統遙操作效率高10倍以上,通過協同訓練對齊人類與機器人糾正意圖,僅需少量機器人演示即可實現可靠恢復。

  • 機器人故障恢復依賴大量恢復數據,傳統遙操作採集成本高、擴展性差。
  • 人類第一人稱視頻數據可高效生成恢復演示,每小時有效數據量是遙操作的10倍以上。
站內正文

變形MILR:一種用於複雜環境機動的線驅動無肢機器人設計與控制

研究人員提出了一種名為Morphing MILR的線驅動無肢機器人,它通過滾動關節重新配置身體形態和柔順性,實現了側向波動、側繞、滾動和扭轉等多種運動模式。該機器人利用分佈式線驅動和可編程被動柔順性,無需複雜傳感即可實現穩健的接觸豐富運動。潛在應用包括搜索救援、環境監測和檢查。

  • 線驅動無肢機器人通過滾動關節實現多種步態。
  • 可編程被動柔順性允許無需地形知識即可穩健運動。
站內正文

用於空中物理交互的接觸持續全驅動

研究人員提出了一種名為“接觸持續全驅動”的控制理論框架,用於評估無人機在物理接觸過程中的操作能力。該框架通過殘差權柄集和殘差權限邊界等概念,超越了傳統的全驅動機器人僅通過矩陣秩判據的認證方式。數值實驗表明,對於傾斜六旋翼無人機,僅滿足滿秩條件並不能保證接觸操作的可行性,而適當的傾斜角度能保留殘差權限。

  • 提出接觸持續全驅動的概念,定義殘差權限邊界和殘差權柄集。
  • 證明接觸持續全驅動等價於任務權柄位於約束可行權柄多面體內部。
站內正文

面向遠程ID欺騙的小型無人機系統軌跡規劃

本文提出一種去中心化的、抗欺騙的軌跡規劃框架,用於應對小型無人機系統在遠程ID(RID)位置欺騙攻擊下的運行。該框架將RID信息視為未驗證,並通過物理層觀測(如接收信號強度)檢測欺騙並概率定位欺騙源,將不確定性轉化為機會約束下的風險有界不安全區域,集成到基於馬爾可夫決策過程的規劃器中。仿真表明,與信任RID數據的規劃器相比,該方法減少了近碰撞事件,同時保持實時計算效率。

  • 提出了一種考慮遠程ID欺騙的去中心化軌跡規劃框架
  • 利用接收信號強度檢測欺騙並概率定位攻擊者
站內正文

LENS:LLM引導的複雜環境簡化方法用於規劃與控制

儘管通用機器人操作取得進展,現實世界中多物體雜亂環境仍具挑戰。LENS作為一種即插即用的解決方案,利用大語言模型自動生成場景特定的簡化抽象表示,通過合併或修剪實體來適應任務進展,從而提升各種操作方法的性能。

  • LENS自動生成動態、任務相關的場景抽象,無需手動工程。
  • 通過合併(如堆疊物體)或修剪(如遠處物體)實體來簡化環境。
站內正文

學習個性化安全乾預:面向觸覺人機共享控制

提出一種基於學習來自觸覺(LfH)的框架,通過稀疏演示學習用户偏好的安全乾預策略,採用可微控制屏障函數(CBF)優化層自動調整安全參數,實驗表明能有效減少觸覺反饋與用户偏好的不匹配。

  • 現有觸覺引導系統無法適應個體安全偏好,該框架從稀疏演示中學習用户偏好的干預方式。
  • 基於可微控制屏障函數優化層,自動調整安全參數以匹配演示的觸覺響應。
站內正文

米洛:完全自主的室內外機器人導盲犬

盲人和低視力人羣依賴導盲犬進行實時導航,但傳統導盲犬成本高、等待時間長、壽命短。米洛(Milo)是一種基於Unitree Go2機器人的開源、低成本(約2000美元)的全自主機器人導盲犬平台,無需預先環境掃描,可室內外導航並避障,經測試導航更平滑且碰撞更少。

  • 傳統導盲犬成本約5萬美元,維護費用高,等待名單長,壽命短。
  • 米洛基於Unitree Go2,總成本約2000美元,完全自主且開源。
站內正文

真實冬季駕駛場景中用於碰撞避免的湧現自主漂移技術

本研究探索在真實冬季駕駛條件下,漂移何時可能成為安全最優選擇。團隊提出一種具備漂移能力的非線性模型預測控制(MPC)系統,基於碰撞致死數據設計場景,並在高保真模擬器中測試。控制器能在後輪遇到冰面時自然啓動並維持漂移以保持道路,或避開滑入車道的對向車輛。與基準電子穩定控制(ESC)系統對比顯示,漂移控制器可在危險冬季駕駛場景中通過穩定性與可控性的權衡實現精確操控。蒙特卡洛研究進一步表明,該控制器在多個速度下實現更低的車道誤差中位數,且漂移主要在高速度時湧現。

  • 提出一種能夠自主漂移的非線性模型預測控制系統,用於冬季駕駛碰撞避免
  • 控制器在模擬中能夠自然執行漂移,以應對後軸打滑和對向車輛入侵車道等危險
站內正文

ModPack:一種用於雙臂移動操作的可擴展遙操作接口

現有遙操作系統通常針對特定的機器人硬件和任務領域定製,限制了可擴展性和適應性。ModPack提出了一種模塊化、可擴展的遙操作系統,通過集成計算、電源、通信和存儲的可穿戴“背包”作為核心,支持即插即用功能模塊,包括帶觸覺反饋的關節級遙操作、移動操作和主動感知。在兩個不同機器人平台上的實驗表明,ModPack為數據收集和策略學習提供了靈活且可複用的框架,並已開源全部硬件和軟件設計。

  • ModPack的核心是一個集成了計算、電源、通信和存儲的可穿戴背包,作為通用接口。
  • 系統支持即插即用的功能模塊,包括觸覺反饋、移動操作和主動感知。
站內正文

深度弱監督圖像分割的統一變分框架

提出一種基於稀疏像素級監督的統一變分框架用於圖像分割,採用單純形約束的Potts模型和平滑周長正則化子,得到凸且平滑的能量泛函,可用於弱監督深度學習訓練損失或迭代優化。在RKHS中通過函數擴展構建模糊隸屬函數處理稀疏標籤,實驗表明優於基線和部分交叉熵方法。

  • 提出統一變分框架用於稀疏像素級監督的圖像分割
  • 採用單純形約束Potts模型和平滑周長正則化
站內正文

超聲心動圖域偏移:跨數據集左心室分割的可解釋量化與預測

該研究指出,跨數據集泛化是超聲心動圖左心室分割臨牀部署的主要障礙。通過六個數據集的分析,發現幾何感知預處理能顯著改善域偏移,表明偏移主要源於視野和框架不一致,而非聲學差異。強度歸一化影響甚微。使用特定表示的距離度量可高精度預測分割性能下降。

  • 幾何感知預處理可減少超聲心動圖域偏移,因其主要源於視野和框架差異。
  • 基於區域無關特徵的轉移風險監測可達約70%的解釋力。
站內正文

用於前列腺組織病理學的病理學家注意力對齊報告生成

該研究引入病理學家注意力來訓練報告生成模型,通過收集121例前列腺全切片圖像的多模態注意力數據集,優化模型注意力對齊,提升了報告生成和視覺問答的性能。

  • 收集了121例前列腺WSI的病理學家多尺度視口軌跡、口頭描述和光標移動數據集
  • 使用注意力對齊損失微調兩個報告生成模型,使模型注意力匹配病理學家注意力分佈
站內正文

EGRNet:一種帶有邊緣門控細化和對抗性感知的輕量級語義分割網絡

本文提出了一種輕量級語義分割網絡EGRNet,通過深度可分離卷積、擴張殘差塊和新型邊緣門控細化(EGR)模塊,在僅0.46M參數下實現Cityscapes數據集上65.28%的mIoU,並引入輕量級對抗攻擊檢測策略,適用於邊緣設備上的實時應用。

  • EGRNet僅0.46M參數,在Cityscapes上達到65.28% mIoU
  • 提出邊緣門控細化(EGR)模塊,通過可學習門控機制融合特徵,增強邊界保留
站內正文

VQ-Transplant: 針對預訓練視覺分詞器的高效VQ模塊集成方法

VQ-Transplant提出了一種輕量級框架,能夠將新的向量量化模塊無縫集成到凍結的預訓練分詞器中,無需昂貴的端到端重訓練。通過在ImageNet-1k上僅訓練5個epoch的輕量級解碼器適配策略,該方法解決了量化不匹配問題,在VAR等工業級模型上實現了接近最先進的重建保真度,同時訓練成本降低95%。這降低了量化研究門檻,使資源受限環境中的研究者也能探索前沿技術。

  • VQ-Transplant允許在不重新訓練編碼器-解碼器的情況下替換量化模塊。
  • 輕量級解碼器適配只需在ImageNet-1k上訓練5個epoch。
站內正文

ChronoStitch:無需訓練的視覺KV記憶組合方法實現長時域推理

本文提出ChronoStitch,一種無需訓練的方法,用於組合獨立存儲的視覺鍵值(KV)記憶,以解決長視頻問答中的時域推理問題。該方法通過將存儲的旋轉後鍵重新映射到全局多模態RoPE座標系,並選擇性重計算部分高偏差視覺令牌,克服了樸素拼接導致的時間相位衝突和內容缺失。實驗表明,在Qwen2.5-VL-3B和TempCompass時域分割上,ChronoStitch在事件順序準確性上優於樸素組合和僅位置變體,且速度比完整聯合預填充快3.3倍。

  • 長視頻問答需要模型隨時間保存視覺證據,KV緩存是一種實用方法,但獨立緩存拼接會丟失全局時間順序。
  • ChronoStitch通過重新基於全局三軸多模態RoPE座標系調整鍵,並選擇性重計算高偏差令牌,實現了無需訓練的記憶組合。
站內正文

基於合成與派生訓練圖像的校園垃圾檢測:YOLOv8n多種子評估

該研究評估了使用合成和派生圖像提升YOLOv8n垃圾檢測器性能的效果。真實數據集包含148張校園照片,實驗發現所有合成增強方案均未超過僅使用真實圖像的基線模型([email protected]為0.691)。手部複合實驗因測試集污染而重建,校正後效果不顯著。研究強調測試集規模小限制了結論的可靠性。

  • 僅使用真實圖像的YOLOv8n模型達到[email protected]為0.691,所有合成數據方案均未超越此基線。
  • 背景替換、隔離物體等合成方法反而降低了檢測精度,最高僅0.680。
站內正文

D3VL:利用語言模型理解3D時序數據和視頻中的駕駛場景

本文提出D3VL,一種新型多模態大語言模型框架,融合2D和3D時序數據以提升自動駕駛場景理解。該模型在KITTI問答數據集上相比基線方法提升11%,並引入Waymo QA數據集擴展以評估3D和時間序列處理能力。

  • D3VL是首個將2D和3D時序數據集成到統一架構中的MLLM框架。
  • 在KITTI問答數據集上準確率提升11%。
站內正文

Crowd4D:場景感知的單目4D人羣重建

Crowd4D是首個場景感知的4D人羣重建框架,通過聯合優化單目RGB視頻中的人羣與場景,利用人-場景交互代理(HSIP)解決尺度與位置對齊難題,引入人羣結構相干性正則化(CSCR)提升遮擋下的時間穩定性,在複雜大場景中優於現有方法。

  • 首次提出聯合優化人羣與場景的單目4D重建框架,顯式利用場景幾何。
  • 引入人-場景交互代理(HSIP)作為中間表示,解決尺度與位置對齊。
站內正文

儘早檢測,極少升級:從壓縮比特流中實時檢測AI生成視頻

本文提出一種新穎方法,通過分析壓縮比特流而非解碼像素來實時檢測AI生成視頻。該方法利用編解碼器已寫入的運動場數據,實現流式感知,並支持隨時決策。在GenVidBench上,該方法僅用像素CNN五分之一數量級的計算量即達到0.64 AUC,同時通過延遲15%的片段將準確率從0.75提升至0.78,計算量減少7倍。

  • 將AI視頻檢測重新定義為從壓縮比特流的流式感知
  • 利用編解碼器中已有的運動場,僅需解析而非像素解碼
站內正文

利用依賴圖和鄰近特徵從歷史報紙中進行輕量級人物-地點關係抽取

HIPE-2026共享任務引入了從多語言歷史報紙中抽取人物-地點關係的新賽道。DS@GT HIPE團隊探索了在不使用預訓練語言模型的情況下,輕量級可解釋系統的性能上限。該系統基於依賴解析構建文檔級圖,提取鄰近和詞性特徵,使用小型scikit-learn集成或緊湊圖注意力網絡進行分類,參數量低於847K。在官方評估中,最佳運行達到宏召回率0.5142,效率排名第3,準確率中等。關鍵發現:最小字符距離單獨即可捕獲大部分信號,額外特徵帶來不一致的收益;文檔分組交叉驗證對於避免數據泄露至關重要。

  • 提出輕量級方法,不使用預訓練語言模型,僅用847K以下參數。
  • 最小字符距離是主要信號,額外工程特徵收益不穩定。
站內正文

SLPO:通過替代策略擴展潛在推理

強化學習在顯式思維鏈推理器中的成功帶來了測試時擴展,但計算成本高昂。潛在推理使用連續向量進行中間計算,效率更高,但受限於模仿學習。本文提出替代潛在策略優化(SLPO),將結果獎勵強化學習引入自迴歸潛在推理器,通過替代策略密度進行軌跡級信用分配,並利用正確性監督的停止頭實現可變視界策略。實驗表明,SLPO在連續和軟思考設置下均能提升Pass@k,併為更難的實例分配更長的潛在計算,從而提高確定性準確率。

  • 潛在推理雖高效但缺乏結果獎勵RL訓練,SLPO彌補了這一空白。
  • SLPO通過替代策略密度和停止頭實現潛在推理器的結果獎勵優化。
站內正文

多掩碼擴散語言模型用於少步生成

提出多掩碼擴散模型(MultiMDM),通過引入多個掩碼狀態解決傳統掩碼擴散模型在少步生成中終端熵為零的問題,實現高質量少步文本生成。

  • 傳統掩碼擴散模型所有正向軌跡收斂到單一全掩碼狀態,缺乏終端熵,不利於少步生成。
  • MultiMDM在正向過程中將每個乾淨令牌先推向指定掩碼,再在掩碼集上混合,使反向過程具備預判能力。
站內正文

開放式問答中推理的無參考評估

提出一種基於推理的無參考框架,通過NLI和超圖結構審計LLM推理軌跡,在數學和醫療推理中比直接使用LLM評判更可靠。

  • 提出無參考審計框架,分解推理軌跡並分析前提-目標關係
  • 創建UroReason基準,包含真實臨牀案例的LLM推理
站內正文

適應性的投降:LLM在脆弱性上下文中的結構性失敗模式

一篇新論文識別了一種名為“適應性的投降”的LLM失敗模式,即模型先確認用户感受到的社會不公,然後卻詳細提供其名義上勸阻的獲取途徑。該研究對三個商業LLM進行了900次測試,提出了最小重歸因充分性(MRS)設計原則。

  • 描述了LLM在情感敏感情境中的結構性三難困境
  • 提出了“適應性的投降”這一新的失敗模式
站內正文

任務能力並非指令遵循:評估小語言模型中的指令衝突行為

研究表明,小語言模型在任務能力上表現良好,但在指令與常規任務行為衝突時,往往會忽略非標準指令。隨着模型規模增大,標準準確率和指令遵循能力均有所提升,但兩者之間的差距依然存在。這證明任務完成能力和指令遵循是兩種不同的能力。

  • 小模型在衝突指令下仍能保持任務正確率,但常忽略非標準指令。
  • 大模型在標準與非標準指令間的表現差距更明顯。
站內正文

基於超網絡的大語言模型知識注入的縮放定律

研究者探索了使用超網絡在訓練時將大規模事實知識注入大語言模型,並首次系統研究了超網絡架構的縮放行為。實驗表明,超網絡注入在損失、推理準確率及OOD泛化上遵循冪律縮放,且隨着規模增大,OOD泛化表現可靠,優於LoRA微調和全微調。他們創建了包含數千萬多跳問答樣本的MegaWikiQA數據集。

  • 超網絡可以用於訓練時知識注入,生成固定LoRA適配器嵌入目標模型。
  • 設計將超網絡的注入能力與目標模型通用能力解耦,實現了縮放定律的嚴格研究。
站內正文

論結構泛化的計算複雜度

本文首次正式定義了結構泛化,並證明在標準計算複雜性假設下,純Transformer無法學習結構泛化,而神經符號系統通過硬編碼語義投影取得高分。

  • 提出結構泛化的正式數學定義,將組合結構與無限泛化翻譯為數學語言。
  • 證明純Transformer的學習能力上限為TC0,而結構泛化需要NC1能力,因此無法學習。
站內正文

主題導航

研究 — AI 主題新聞 | AI News Hub