AI News HubLIVE

模型動態

我們再次被告知人工智慧可能有意識——我研究意識,但我持懷疑態度 | 阿尼爾·塞思

儘管Anthropic聲稱其模型Claude內部出現意識跡象,但神經科學家阿尼爾·塞思認為,這不過是模擬,就像天氣預報系統不會產生真實颶風一樣。

  • Anthropic研究稱在其語言模型Claude中發現意識跡象,但未宣稱其與人類意識相同。
  • 塞思教授指出,意識需要生物學基礎和因果作用,而AI只是統計模式。
站內正文

將臨床決策權從LLM中剝離

本文介紹了一種用於AI治療的系統設計,該系統透過確定性管道決定臨床行動,不讓LLM自行決策。系統包括評分、狀態桶、准入表、動作選擇、微實踐和危機預篩查等步驟,僅在評分和生成階段使用LLM。文章還討論了該方法的成本與侷限性。

    站內正文

    結合對比學習的聯合嵌入預測:面向結構MRI的表徵學習新框架

    自監督學習在醫學影像領域潛力巨大,但標註資料稀缺。本文提出COJEPA框架,結合聯合嵌入預測架構和對比損失,在無標註的T1加權腦部MRI上訓練,實現了優異的區域性預測性和全域性判別性。在零樣本雙胞胎檢索、腦腫瘤分割和年齡迴歸任務中表現突出,尤其在同卵雙胞胎識別和年齡預測誤差方面達到最先進水平。

    • COJEPA將聯合嵌入預測架構(JEPA)與對比損失(CO)相結合,同時提升區域性預測性和全域性判別性。
    • 該框架在2286例T1加權結構MRI資料上訓練,擴充套件I-JEPA至3D,採用前景感知塊掩蔽、分層卷積塊嵌入和世界空間正弦位置編碼。
    站內正文

    基於VLM描述比較的異常幀檢測:利用影片內自相似性提取專家特定動作與情境決策場景

    本文提出一種新方法,透過視覺語言模型(VLM)生成逐幀描述,並比較兩個任務影片間的幀相似度及段內自相似性,自動檢測異常幀,從而提取包含專家特定動作和情境決策知識的候選場景。在模擬配電板維護實驗(27個任務場景)中,該方法動作候選提取率達65%,決策場景候選提取率達61%,優於傳統方法的59%和33%。

    • 利用VLM生成逐幀視覺描述,透過幀間描述比較提取專家特定動作。
    • 透過影片內描述的自相似性分析,發現情境決策場景。
    站內正文

    GenDiff:劑量與解剖感知的擴散模型及結構先驗細化用於低劑量CT重建與泛化

    GenDiff是一種新型擴散模型框架,透過聯合建模連續輻射劑量和解剖資訊,實現低劑量CT重建。它整合了劑量-解剖編碼器、冷擴散主幹、物理一致性更新和結構先驗細化模組,在多種臨床資料集上優於現有方法,展現出強大的魯棒性和泛化能力。

    • GenDiff同時考慮輻射劑量和解剖區域,提升LDCT重建的魯棒性。
    • 框架包含劑量-解剖編碼器、冷擴散、物理一致性更新和結構先驗細化模組。
    站內正文

    TSCA-Net:面向可解釋多模態行人軌跡預測的時空團注意力網路

    TSCA-Net透過三個互補模組(時空團注意力、跨行人團勢、自適應KAN網格細化)顯著提升擁擠環境中的行人軌跡預測精度,在ETH/UCY和SDD基準上達到最先進效能。

    • 提出TSCA模組,引入可學習時間門控實現歷史觀測與候選目標的時間感知調變
    • CPCP模組透過動態團勢框架建模非對稱行人互動
    站內正文

    低資源澳大利亞原住民語言識別的混合持續學習方法

    提出兩種混合持續學習方法(RA-EWC和CGKD),用於低資源澳大利亞原住民語言識別,有效緩解災難性遺忘,在Warlpiri、Dalabon和Dharawal三種語言上表現優於現有基線。

    • 提出RA-EWC和CGKD兩種混合持續學習方法
    • 針對低資源原住民語言識別
    站內正文

    信念與現實分離存在於語言模型中對共享值槽的路由中

    該論文揭示了語言模型如何區分角色的信念與現實。研究發現,這種分離基於兩個可分離的機制:一個通用值槽繫結屬性值,一個路由器根據查詢選擇讀取的框架。值槽可以透過兩種方式填充:直接斷言和基於可見性的推導。分離位於獨立的路由子空間中,而不是值槽本身。這些結果在多種架構中得到驗證,且該行為在3B至7B引數規模的模型中出現。

    • 語言模型透過值槽和路由器實現信念與現實分離。
    • 值槽填充有斷言和推導兩種路徑。
    站內正文

    MAGE:理解多元件提示最佳化中的穩定性-效能權衡

    本文透過MAGE框架研究多元件提示最佳化中不同元件的相互作用,揭示了提示最佳化耦合效應(POCE):多個隨機最佳化訊號在閉環反射回路中相互作用,同時提升效能與放大方差。關鍵發現包括:基於失敗反思不可或缺、MAGE在GSM8K-Hard上優於GEPA、增大候選多樣性使POCE訊號最明顯、POCE依賴於基礎模型能力空間、低資料場景下固定提示優於最佳化器。

    • MAGE是一個用於研究提示最佳化元件互動的分析框架,整合了情景記憶、多目標Pareto選擇和自適應評估。
    • 發現提示最佳化耦合效應(POCE):隨機訊號相互作用提升效能但放大方差,無法透過獨立分析預測。
    站內正文

    透過知識蒸餾將LLM轉化為高效交叉編碼器用於RAG重排序

    本研究透過兩階段流水線(監督微調+4位量化)將LLaMA 3 (8B)微調為高效的替代重排序器,在RAG管道中替代傳統交叉編碼器,在保持高準確率的同時顯著降低推理成本。在領域特定問答基準上,微調模型在答案相關性、上下文精度、答案相似度和答案正確性上分別提升14%、16%、19%和21%。

    • 傳統交叉編碼器在RAG重排序中準確率高但推理成本為二次複雜度,限制即時部署。
    • 提出兩階段方法:使用Unsloth框架和LoRA介面卡進行監督微調,然後進行4位量化。
    站內正文

    TAKE:用於文本資料集蒸餾的軌跡感知知識估計

    本文提出了一種基於軌跡感知知識估計(TAKE)的文本資料集蒸餾框架,利用影響函式和訓練軌跡計算每個樣本的知識得分,並透過最優傳輸選擇原型樣本,可將語料庫壓縮至原始大小的0.1%,同時保持下游任務效能。該方法在文本分類和自然語言推理任務上驗證了有效性,為資料高效AI提供了理論支撐。

    • 提出TAKE框架,將語料庫壓縮至0.1%而保持任務保真度。
    • 利用影響函式和訓練軌跡計算每個樣本的知識得分。
    站內正文

    基於圖的俄羅斯與烏克蘭Telegram頻道虛假資訊敘事擴散檢測

    本文提出一種基於圖的框架,結合弱監督與傳播圖分析,檢測Telegram生態系統中的虛假資訊敘事。該方法將語義相關的宣告聚合為敘事級聚類,並建模其在互連頻道間的擴散,從而發現僅透過帖子級分析難以捕捉的協調放大行為。實驗表明,融合文本訊號與網路結構可提供可擴充套件的檢測方法,並揭示虛假資訊在大型訊息環境中的傳播機制。

    • 提出結合弱監督與傳播圖分析的圖框架,用於檢測Telegram中的虛假資訊敘事。
    • 將語義相關的宣告聚合成敘事級聚類,建模跨頻道擴散。
    站內正文

    抱歉,我無法幫助盲文:揭示最先進大語言模型在無障礙方面的失敗

    一項新研究評估了最先進的大語言模型在韓語-盲文雙向翻譯上的表現,發現輸出質量差且不穩定,與人類判斷存在顯著分歧。相比之下,對小型T5-small模型進行監督微調後,所有標準指標均大幅提升。研究表明,當前LLM缺乏盲文感知的標記化,且與盲文模式對齊薄弱,揭示了無障礙關鍵模態中的系統性限制。

    • LLM在韓語-盲文翻譯上表現糟糕,輸出不穩定且與人類判斷不一致。
    • 問題根源在於缺少盲文感知的標記化和韓語-盲文模式弱對齊。
    站內正文

    G-SHARE:基於準則的結構化推理框架用於人因事件診斷

    本研究提出G-SHARE框架,將核電站人因事件診斷的CNNP九步準則轉化為多階段診斷流程,包括證據提取、逐步推理和一致性修復。在真實資料集上,G-SHARE顯著優於一次性提示和傳統機器學習方法,表明結構化推理和一致性約束對穩健診斷至關重要。

    • G-SHARE將CNNP九步準則操作化為多階段診斷管線,包含證據提取、逐步推理和事後一致性修復。
    • 在核工業真實資料集上,G-SHARE在準確率和宏F1上全面超越基線模型。
    站內正文

    CANDI:面向專業領域問答的上下文對齊方法

    本文介紹了CANDI-QA資料集,用於評估大型語言模型在醫學診斷和金融諮詢等專業領域的上下文對齊能力。資料集包含資訊輔助和應用推理兩類問題。研究評估了十多個模型,並提出了輕量級神經符號框架MTSS-Net作為基線。結果表明,當前LLM在專業領域實現上下文對齊仍面臨重大挑戰。

    • CANDI-QA資料集專門用於評估LLM在專業領域的上下文對齊能力,分為資訊輔助和應用推理兩類問題。
    • 研究評估了超過十種語言模型,從緊湊開源模型到尖端專有系統。
    站內正文

    擴充套件點及時語言模型

    本研究透過擴充套件規模,大幅縮小了點及時語言模型與不受時間約束模型之間的效能差距。研究者訓練了多達40億引數的解碼器專用Transformer模型,使用FineWeb中1萬億按時間順序篩選的令牌,構建了從2013年到2024年的月度模型檢查點序列。在常識推理和語言理解基準測試中,這些模型接近了同等規模的領先開放權重模型(如Gemma-3-4B和LLaMA-7B)的效能。透過LoRA進行指令微調進一步提升了下游可用性。研究團隊釋出了完整的流水線,以實現可復現的點及時語言建模。

    • 點及時語言模型透過僅訓練每個日曆日期之前的文本來消除未來資訊的洩漏,避免前瞻偏差。
    • 訓練了多達40億引數的模型,使用1萬億時間過濾令牌,實現了接近不受時間約束模型的效能。
    站內正文

    BattVAE-GP: 基於不確定量化的長週期電池退化生成模型

    研究人員提出BattVAE-GP框架,結合變分自編碼器和高斯過程,高效模擬鋰離子電池在不同充電速率下的長期退化軌跡,並量化不確定性。該方法降低了計算成本,為電池健康預測提供了高效替代模型。

    • BattVAE-GP使用VAE編碼電池退化資料,將高維特徵對映到二維潛在空間,區分不同充電協議。
    • 稀疏多工高斯過程在潛在空間中對迴圈數和C-rate進行插值,提供連續退化動態及不確定性估計。
    站內正文

    CARE-LoRA: 用於記憶體高效LoRA的壓縮啟用重建

    隨著大型預訓練模型規模增長,微調中的記憶體瓶頸日益突出。LoRA透過低秩適應減少引數,但啟用值儲存成為新的瓶頸。CARE-LoRA利用LoRA投影結構,將完整輸入啟用替換為低秩壓縮啟用,並計算輕量重建矩陣用於反向傳播,大幅降低記憶體佔用,同時保持或提升效能。

    • CARE-LoRA透過壓縮啟用重建解決LoRA微調中的啟用記憶體瓶頸。
    • 利用LoRA分支自然產生的低秩啟用替代完整啟用,減少儲存。
    站內正文

    資料科學的數學基礎

    本文介紹了由Afonso S. Bandeira、Amit Singer和Thomas Strohmer合著的新書《資料科學的數學基礎》,該書全面涵蓋了高維詛咒與祝福、奇異值分解、線性迴歸、圖論與聚類、非線性降維、隨機投影、最佳化、分類、深度學習、圖拉普拉斯、集中不等式、壓縮感知等主題,為資料科學提供了堅實的數學基礎。

    • 新書《資料科學的數學基礎》系統介紹了資料科學的數學理論基礎。
    • 內容涵蓋高維資料分析、降維、迴歸、分類、深度學習等16個章節。
    站內正文

    映象視界:可行路徑熵作為有界反射的度量

    映象理論提出透過可行路徑熵(VPE)度量智慧系統在反覆反射下維持連貫延續的能力。實驗表明,增加token預算可擴充套件驗證可達性,且模型能力並非僅取決於引數數量。

    • 可行路徑熵(VPE)衡量有限預算下的驗證延續能力
    • VPE分解為可達機率和驗證模式多樣性
    站內正文

    半直積傅立葉增量注意力:基於相位控制的增量記憶與構造性塊WY核

    線性注意力模型透過固定大小的迴圈狀態取代softmax注意力的KV快取,但限制了精確狀態跟蹤和長上下文記憶。本文提出半直積傅立葉增量注意力(SFDA),一種相位控制的泛化方法,將實對角衰減替換為塊旋轉傅立葉控制。主要貢獻是構造性塊WY分解,實現了精確的仿射塊傳輸、形式化穩定性和複雜度界限,以及相位加低秩記憶的緊湊表徵。實驗表明SFDA能學習迴圈記憶,而相位停用的KDA基線接近隨機。

    • SFDA透過相位控制(傅立葉塊旋轉)改進線性注意力,解決狀態跟蹤和長上下文記憶限制。
    • 提出構造性塊WY分解,將秩增長限制在固定塊內,實現高效傳輸和穩定性保證。
    站內正文

    對話代理的多維評估操作化:一種可擴充套件、可管控的流水線,支援選擇性重新評估和模型基準測試

    本文提出GenAI Evaluation,一種配置驅動的流水線,用於大規模評估零售對話系統。透過規範化、分片、非同步執行和模式約束的LLM評分,評估有幫助性、真實性、清晰度、語氣一致性和翻譯維度。選擇性重新評估僅處理無效記錄,支援模式鎖定和版本化配置。每日處理約5萬條記錄,已評估超200萬次互動。在12,980條人工標註記錄上取得宏F1 0.93和翻譯準確率89%。

    • GenAI Evaluation流水線解決LLM-as-a-judge在生產中的治理和可擴充套件性挑戰。
    • 透過選擇性重新評估僅處理不完整或無效記錄,降低計算成本。
    站內正文

    圖反饋控制開源語言模型群體中的共識與派系形成

    本研究探討了多智慧體語言模型系統中互動圖結構如何影響共識形成。透過命名遊戲協議,研究人員分析了開源語言模型(1.1B-32B引數)群體中的約定形成過程。研究發現,同質性閾值相似性路由會加劇碎片化,而橋樑尋找路由在有記憶的情況下可修復碎片化。在異質模型群體中,閾值相似性導致共識失敗,而狀態元件和標籤分歧橋樑可恢復共識。同質模型群體中,保留歷史通常促進共識,其中Qwen2.5-32B模型在所有保留歷史設定中均達到穩定共識。該研究還驗證了結果對狀態閾值、群體規模和詞彙表大小的魯棒性,並表明早期視窗圖能量特徵可作為有效的網格內診斷工具。

    • 多智慧體語言模型系統的互動圖結構對共識形成有重要影響。
    • 同質性閾值相似性路由加劇碎片化,橋樑尋找路由在有記憶時可修復碎片化。
    站內正文

    為AI網路代理設計代理就緒網站:面向機器可讀性、可操作性和決策可靠性的框架

    論文提出了一個“代理就緒網站”設計框架,旨在增強電商平臺對AI代理的可讀性、可解釋性、可驗證性和可操作性。實驗表明,代理就緒網站將嚴格成功率從49.3%提升至89.3%,部分成功結果從43降至3,平均步驟數從9.31降至6.49。

    • 代理就緒網站框架圍繞三個維度:代理可解釋性、代理可執行性和代理決策可靠性。
    • 實驗使用GPT-4.1、Gemini-2.5 Flash和Grok-4 Fast三種代理模型,在五個任務上進行了300次評估。
    站內正文

    最佳化並非萬能

    本文批判了人工智慧中的最佳化文化,指出最佳化過程雖然能衡量文本的不可預測性,但無法區分錯誤與創新。儘管如此,最佳化已在短短五年內取代了傳統機構,掌握了定義合法語言權威的地位。

    • OpenAI 在 2019 年釋出了 GPT-2 輸出以幫助檢測機器生成文本。
    • 對齊技術的成功被視為工程成就,但作者認為這是最佳化文化的體現。
    站內正文

    GRID:面向企業SQL生成的語法約束解碼引擎

    GRID是一種基於語法約束的解碼引擎,透過將LALR(1)解析器狀態作為掩碼鍵,確保SQL輸出語法正確且符合角色許可權策略,提供可證明的保證、恆定時間成本及完整審計追蹤。在Spider資料集上,0.5B模型執行準確率提升13%,7B模型透過修復達到94.5%可執行率。

    • 利用LALR(1)解析器狀態而非令牌序列生成下一令牌掩碼,保證語法合規性。
    • 角色訪問控制直接編譯進語法,禁止動詞和識別符號在掩碼層面不可達。
    站內正文

    本體增強蒸餾與情境審計:面向主權企業語言模型的組合機制驗證與負結果方法研究

    該研究結合了本體增強蒸餾與情境審計兩項方法,針對受資料居留規則約束的金融機構,提出租戶自有語言模型的構建與治理方案。蒸餾實驗表明,Qwen3.6-27B學生模型在40項越南語金融任務中達到36項正確,與GPT-5相當,但統計功效不足以證明等價;情境審計試點的結果表明殘存情境性為零,直接影響與構造耦合才是有效訊號。研究不支援當前模型的可部署性、安全性或優越性。

    • 透過監督微調與本體對齊的偏好最佳化,將Qwen3.6-27B蒸餾至Foundation AgenticOS本體,在40項越南語金融任務中達到90%正確率。
    • 與GPT-5基線相比,統計功效不足,無法證明等價或超越。
    站內正文

    非平穩環境下的上下文強化學習綜述

    本文綜述了非平穩環境下的上下文強化學習(ICRL),即預訓練或微調的決策模型如何僅透過互動上下文推斷潛在任務規則並改進未來行為,而無需在測試時更新引數。在變化的環境中,累積的上下文可能變得過時甚至誤導,因此策略必須推斷當前決策規則並識別哪些歷史證據仍然有效。論文圍繞三個核心問題組織文獻:什麼在變化、變化如何展開以及變化對智慧體的可觀察程度,並將其與元強化學習、決策序列建模、檢索增強強化學習等方法聯絡起來。

    • ICRL使決策模型能從互動上下文中學習,無需更新引數。
    • 現有綜述主要關注預訓練目標等,對非平穩性關注不足。
    站內正文

    最優自適應做市:永續期貨市場高收益流動性提供的理論框架

    本文提出了一個嚴格的永續期貨市場最優做市理論框架,將做市問題建模為隨機最優控制問題,貢獻包括損益分解定理、HJB方程、高APY區域定理等。數值分析揭示了盈利與非盈利區間的相變。

    • 建立了零做市商費用的永續期貨市場隨機最優控制模型
    • 提出損益分解定理,區分價差收入、逆向選擇損失、庫存持有成本、對沖摩擦和資金費率風險
    站內正文

    GPT-5.6 Sol、Terra、Luna在智慧與成本上的對比

    GPT-5.6系列中,Sol和Luna在任何智慧水平上的成本效率均優於Terra,尤其是Luna表現出極高的價效比。

    • Sol和Luna在所有智慧水平上均領先於Terra
    • Luna是成本效率最高的模型
    站內正文

    PrismML釋出Bonsai 27B:Qwen3.6-27B的1位和三進製版本,可在筆記型電腦和手機上執行

    PrismML釋出了Bonsai 27B,這是Qwen3.6-27B的低位表示,並非全新預訓練模型。提供三進位制和二進位制兩種變體,採用Apache 2.0許可證。三進製版本每位僅1.71位元,理想大小為5.9GB;二進位制版本每位1.125位元,大小為3.9GB。效能方面,三進位制保留FP16基線的94.6%,二進位制保留89.5%。該模型支援多模態,上下文長度262K令牌。PrismML聲稱二進位制版本是首個適合手機的27B級模型。

    • Bonsai 27B是Qwen3.6-27B的低位版本,非全新預訓練模型。
    • 提供三進位制(1.71位元/權重)和二進位制(1.125位元/權重)兩種變體。
    站內正文

    simonw/pedalican

    Simon Willison 在 Codex Desktop 中意外啟用了一個“寵物”功能,並利用 GPT-5.6 Sol 和 gpt-image-2 建立了一個騎腳踏車的鵜鶘寵物,命名為 Pedalican。他記錄了整個生成過程,包括提示詞和中間步驟,並開源了相關技能。

    • Simon Willison 意外發現了 Codex Desktop 的寵物功能,並建立了自定義寵物 Pedalican。
    • 使用 GPT-5.6 Sol 和 gpt-image-2 生成精靈圖資產,過程完全由 AI 驅動。
    站內正文

    Mistral Vibe for Code vs Claude Code vs Cursor vs Codex:四大AI程式設計代理在腳手架到PR任務中的對比評分

    本文對比了四種主流的AI程式設計代理:Mistral Vibe for Code、Claude Code、Cursor和OpenAI Codex,針對從功能腳手架到拉取請求的完整工作流進行評分。Mistral Vibe以22/25的總分領先,憑藉成本、開放性和控制力獲勝;Claude Code和Codex並列21/25;Cursor得16/25。文章詳細分析了每個工具在腳手架、測試迴圈、PR及非同步工作流、覆蓋範圍、成本與開放性五個維度的表現。

    • Mistral Vibe for Code以22/25總分領先,提供低價、開源和自託管選項。
    • Claude Code和OpenAI Codex並列第二(21/25),但前者在原始編碼質量上更強。
    站內正文

    幫助AI模型適應現實世界

    MIT教授Devavrat Shah透過研究和創業,致力於設計能夠利用有限計算資源進行即時決策的AI方法。他共同創立的Ikigai Labs開發了基於表格時間序列資料的基礎模型,被Celonis收購後,有望整合到企業流程管理中,實現大規模預測和最佳化。

    • Devavrat Shah專注於設計在有限計算資源下進行秒級決策的AI方法。
    • 他共同創立了Ikigai Labs,構建了針對表格時間序列資料的基礎模型。
    站內正文

    引用阿明·羅納赫:軟體專案的共享語言

    阿明·羅納赫在一篇關於AI代理和軟體工程的文章中強調,軟體專案的共享語言並非英語或Python,而是對概念、邊界、不變數、所有權和系統形態的共同理解。他指出,在AI代理出現之前,這種理解透過“摩擦”維持——如閱讀程式碼、提問、協調——這種摩擦雖然緩慢且部分浪費,但同步了人們。這篇文章由Simon Willison於2026年7月14日引用。

    • 軟體專案的共享語言是對概念、邊界、不變數等的共同理解,而非程式語言或自然語言。
    • 在AI代理時代之前,這種理解透過開發過程中的摩擦(如程式碼審查、討論)來維持。
    站內正文

    什麼是元提示及其工作原理?

    元提示是一種先進的提示工程技術,要求模型在執行任務前先設計可複用的提示模板、清單或工作流程。本文詳細解析了元提示的定義、四步工作流程、具體模板示例及其與普通提示、少樣本提示、思維鏈提示的對比。

    • 元提示將模型從直接執行者轉變為提示設計者,透過設計可複用模板提升一致性。
    • 工作流程包括定義目標、新增約束、生成可複用提示、測試與改進四步。
    站內正文

    谷歌現在用更多你的資料訓練AI,除非你選擇退出——方法如下

    谷歌更新了隱私政策,現在你的圖片、語音搜尋和影片可能被用於訓練其AI模型。使用者被自動預設開啟,需手動關閉以保護隱私。本指南將教你如何退出。

    • 谷歌將使用者在搜尋服務中產生的媒體(圖片、音訊、影片)用於訓練AI模型。
    • 所有使用者預設開啟此項設定,須在設定中手動關閉。
    站內正文

    Nemotron Labs:開放模型如何讓企業和國家擁有可信、可控、可定製的人工智慧

    開放模型如NVIDIA Nemotron使企業能夠構建滿足特定需求的AI,提供完全的控制權、定製能力和成本效益,並推動從AI使用到AI擁有的轉變。

    • 開放模型讓企業能夠定製、檢查和改進AI,滿足業務具體需求。
    • 透過後訓練和領域微調,開放模型在特定任務上可達到與領先封閉模型相當的準確性,成本大幅降低。
    站內正文

    我是如何讓AI墮入黑暗面的

    研究員Dave Kuszmar發現了多個系統性漏洞,使他能夠繞過大型語言模型的安全限制,獲取危險指令。這些漏洞幾乎影響所有主流LLM,揭示了行業範圍的安全問題。Kuszmar呼籲減緩部署、提高透明度,並在進一步將LLM融入社會前開展大規模安全研究。

    • 研究員發現“時間盜賊”和“盜夢空間”兩種漏洞,可繞過LLM安全控制。
    • 漏洞影響多家公司的主流LLM,包括OpenAI、Anthropic、Google等。
    站內正文

    符號帝國——符號學歷史與大型語言模型之間的聯絡

    本文探討了符號學歷史與大型語言模型之間的聯絡,借鑑了索緒爾、巴特和德里達等思想家的理論,分析了語言符號的差異性與AI生成內容的關係。

    • 符號學為理解LLM的語義生成提供了理論框架
    • 索緒爾、巴特和德里達的符號理論對AI語言模型有啟發意義
    站內正文

    Mistral AI 釋出機器人導航視覺模型

    Mistral AI 推出了一款新型視覺模型,機器人僅需一個RGB攝像頭和自然語言指令即可在陌生環境中導航。

    • 模型僅需單個RGB攝像頭
    • 支援自然語言指令導航
    站內正文

    Mnemo AI – 本地代理助手,能從失敗中學習,支援任何LLM

    Mnemo AI 是一個本地代理型AI助手,利用LangGraph和LangChain整合多種LLM提供商(如Ollama、Amazon Bedrock、OpenAI、Anthropic等)。它具備MCP工具系統、RAG能力、使用者檔案學習、情景記憶以及ACE劇本——一種能從成功和失敗中學習策略的機制。此外,還支援網路搜尋、影像分析、檔案操作、bash執行等功能。

    • 支援多種LLM提供商,包括本地和雲端模型
    • 整合MCP工具系統和RAG文件檢索
    站內正文

    生產中減少LLM延遲和推理成本的12種方法

    擴充套件LLM的關鍵不是增加GPU,而是消除每個請求中的不必要工作。本文介紹了12種實用的減少延遲和成本的方法。

    • 測量佇列時間、首token時間、token間延遲和快取命中率等關鍵指標。
    • 積極減少輸出token,設定合理的max_tokens限制。
    站內正文

    谷歌DeepMind CEO哈薩比斯呼籲建立全球AI監管機構——應由美國領導

    谷歌DeepMind聯合創始人兼CEO德米斯·哈薩比斯呼籲建立一個全球AI監管機構,該機構有權在前沿模型過於危險時剎車。他認為美國應主導這一倡議,並希望在今年年底前成立該機構。

    • 哈薩比斯提議建立類似金融業監管局的全球AI監管機構,由獨立專家和開源社群代表組成。
    • 該機構將有權在AI模型釋出前進行評估,並在判斷風險過高時協調全行業放緩部署。
    站內正文

    Blume:一個開源、零配置的文件框架,從Markdown資料夾生成AI就緒文件

    Hayden Bleasel 釋出了 Blume,一個開源、MIT 許可的文件框架。它讀取 Markdown 或 MDX 資料夾,生成隱藏的 Astro 專案,輸出靜態的 AI 就緒文件,包含本地搜尋、30+ MDX 元件、llms.txt 和內建 MCP 伺服器。

    • Blume 是一個零配置的文件框架,只需將 Markdown 放入資料夾即可生成完整文件站點。
    • 它基於隱藏的 Astro 和 Vite 專案,支援熱過載,並可提升為獨立的 Astro 應用。
    站內正文

    Mistral AI 釋出 Robostral Navigate:8B 模型僅憑單 RGB 攝像頭讓機器人導航複雜環境

    Mistral AI 推出了 Robostral Navigate,一個 8B 引數的具身導航模型。該模型僅使用單個 RGB 攝像頭,無需 LiDAR 或深度感測器,即可根據自然語言指令驅動機器人。在 R2R-CE 驗證未見過的場景中,它達到了 76.6% 的成功率,這得益於其指向方法、字首快取訓練和 CISPO 線上強化學習。

    • Robostral Navigate 是 Mistral AI 首個面向具身導航的 8B 模型。
    • 僅用單 RGB 攝像頭,無需深度感測器,在 R2R-CE 驗證未見場景達到 76.6% 成功率。
    站內正文

    透過VLAC-Cut引導管道最大化大規模機器人後訓練中的人力效率

    本文提出一種人效後訓練管道,透過專業化分工(遠端操作員和地面操作員)和自動軌跡分割工具VLAC-CUT,實現少量人員監督多臺機器人。在四個真實操作任務中,最終策略成功率達80%-95%,吞吐量提升1.7-4.2倍,優於純人類參與訓練。

    • 提出人效後訓練管道,透過角色專業化減少任務切換和培訓成本。
    • 引入VLAC-CUT自動軌跡分割工具,篩選有效資料用於迭代訓練。
    站內正文

    一種風險場增強的閉環數字孿生框架用於自動駕駛安全驗證

    該論文提出了一種風險場增強的閉環數字孿生框架,用於自動駕駛系統的安全驗證。框架整合了物理資料採集、虛擬重建、風險感知場景生成和演算法評估,並透過駕駛風險場作為統一中間表示來識別高風險場景,為強化學習策略提供安全指導。實驗表明該方法提高了驗證的針對性和可解釋性,但實際效果受模型保真度和模擬到現實遷移的限制。

    • 提出風險場增強的閉環數字孿生框架
    • 駕駛風險場作為統一中間表示描述多種風險
    站內正文

    以LLM為核心的無人機蜂群代理型AI:架構、使能技術與開放問題

    無人機蜂群在搜尋救援和環境監測中潛力巨大,但受限於態勢感知不足、連線中斷和網路安全風險。本文提出以LLM為核心的代理型AI框架(LAUS),整合感知、記憶、推理規劃與行動,實現自適應蜂群行為,同時分析了攻擊面擴大、優先順序操縱攻擊等威脅,並指出了抗幻覺推理、SWaP約束下的機載LLM部署等開放挑戰。

    • 提出LAUS架構,將LLM與閉環認知系統結合,實現無人機蜂群的自主與自適應操作。
    • 梳理了邊緣計算、5G/6G、多模態智慧等使能技術,並重點分析了優先順序操縱攻擊(PMA)等安全威脅。
    站內正文

    EgoSteer:一種面向從第一人稱影片實現可控靈巧操作的全棧系統

    EgoSteer是一個全棧系統,透過從第一人稱人類影片中大規模預訓練視覺-語言-動作(VLA)模型,實現可控的靈巧操作。它整合了EgoSmith資料流水線(9.6K小時高質量資料,吞吐量提升9倍)、統一遙操作機器人平臺和世界模型增強的VLA策略。實驗表明,EgoSteer在40多種任務中穩定執行自然語言指令,具備故障恢復和泛化能力,並可透過少量樣本適應複雜長時任務(如摺疊紙箱),成功率超75%。系統、資料和模型已開源。

    • EgoSteer是一個全棧系統,從第一人稱影片中學習可控靈巧操作。
    • EgoSmith資料流水線提供9.6K小時高質量預訓練資料,吞吐量是此前最優的9倍。
    站內正文

    主題導航

    模型 — AI 主題新聞 | AI News Hub