AI News HubLIVE

政策動態

AIpine – iPhone上AI工件的瑞士軍刀

AIpine是一款專為iPhone設計的應用,用於查看、預覽和組織AI生成的各類文件,如JSX、HTML、Mermaid圖表、SVG等,支持離線使用,無賬户和雲服務,保護用户隱私。

  • AIpine提供對AI生成文件的預覽和源代碼查看,支持多種格式。
  • 應用完全離線工作,文件存儲在本地,無需賬户或雲服務。
站內正文

為什麼AI公司的logo看起來像屁眼?

AI公司的logo普遍採用帶有中心開口的圓形漸變色設計,被調侃為像肛門。文章分析了這種現象背後的設計心理學、生物模仿和跟風效應,並回顧了科技設計的潮流演變。

  • 許多AI公司logo具有圓形、漸變和中心開口特徵,被戲稱為“肛門風格”。
  • 這種現象源於圓形帶來的安全感、無意識的生物模仿以及行業跟風。
站內正文

Go Micro:Go語言智能體與服務框架

Go Micro 是一個用 Go 語言編寫的智能體運行時和服務框架。它將服務轉化為 AI 可調用的工具,支持 MCP、A2A 和 x402 協議,內置規劃、委派、內存和護欄,幫助開發者輕鬆構建分佈式智能體系統。

  • Go Micro 將智能體運行時與微服務架構深度整合,工具即服務,智能體即服務。
  • 支持 MCP 工具協議、A2A 智能體協議以及 x402 付費工具協議。
站內正文

追逐AI的高潮:黏土、窯爐與紅皇后競賽

本文探討了過度依賴AI編碼代理的陷阱,引用《鏡中世界》中的紅皇后競賽。作者認為,移除軟件開發中的人類摩擦(如代碼審查和設計辯論)會導致脆弱的、未經“燒製”的黏土代碼,無法承受壓力。文章警告,為了更快交付而使用AI的競賽創造了一個增加複雜性和脆弱性的死亡循環。

  • AI生成的代碼就像未燒製的黏土:塑形快但缺乏結構完整性。
  • 紅皇后競賽比喻説明了AI如何迫使團隊為了保持競爭力而跑得更快,從而增加複雜性。
站內正文

韓國在美國Mythos出口管制後打造主權網絡安全AI

韓國計劃在年底前推出一個主權網絡安全AI模型,以應對日益增長的數字威脅以及美國對Anthropic的Mythos 5等先進AI模型的出口管制。科學部長裴京勳還討論了將白帽黑客合法化,並旨在將韓國的人工智能競爭力排名提升至第二位。

  • 韓國將在2026年底前開發主權網絡安全AI,以應對美國對Mythos 5的出口限制。
  • 科學部長裴京勳強調需要前沿模型來應對生成式AI驅動的威脅。
站內正文

舊金山要求蘋果和谷歌從應用商店移除“脱衣”應用

舊金山市檢察官邱信福致信蘋果和谷歌,要求移除多款利用AI技術生成非自願親密圖像的“脱衣”應用,並援引加州深度偽造法律。研究顯示70%的換臉應用可被用於色情化處理。同時,xAI的Grok因生成兒童性虐待材料而受到關注,給應用商店帶來更大壓力。

  • 舊金山市檢察官要求蘋果和谷歌移除違反深度偽造法律的脱衣應用
  • 研究發現70%的換臉應用可能被用於生成不雅圖像
站內正文

AI與創造力

Patreon創始人兼CEO Jack Conte在主題演講中探討了AI對創造力的影響,將當前對AI的擔憂與歷史上對合成器等新技術的抵制進行類比。他認為AI是一種工具,能夠改變創作過程,但不會取代人類藝術家。真正的藝術價值在於故事和人文連接,而AI生成的“垃圾”作品只是暫時的現象。

  • Jack Conte將AI比作歷史上的合成器,認為新技術起初總會遭到抵制,但最終會拓展創作可能性。
  • AI改變的是創作過程,而非藝術本身;人類的故事和情感連接仍然是核心。
站內正文

Sakana AI 的誤差擴散訓練符合戴爾原則的雙流網絡,無需反向傳播即可在MNIST上達到96.7%,在CIFAR-10上達到61.7%

Sakana AI 提出的誤差擴散(Error Diffusion)是一種局部學習規則,無需權重傳輸或反向傳播即可訓練神經網絡,並遵循戴爾原則(Dale's principle)。該方法採用雙流架構,將每一層分為興奮性和抑制性流,並通過模誤差路由擴展到多類分類,在MNIST上達到96.7%,在CIFAR-10上達到61.7%。研究還發現,三項分類創新在不同任務上的重要性截然不同,併成功將誤差擴散應用於強化學習。

  • 誤差擴散無需反向傳播或權重傳輸,即可訓練符合戴爾原則的網絡。
  • 模誤差路由將誤差擴散從二分類擴展到MNIST和CIFAR-10多類分類。
站內正文

埃隆·馬斯克的孟菲斯人工智能帝國成為數據中心抵制的中心

埃隆·馬斯克在孟菲斯快速建造人工智能數據中心,引發居民對噪音和排放的不滿,全國範圍內出現政策提案、抗議和訴訟。

  • 馬斯克的xAI數據中心Colossus和Colossus II使用燃氣輪機,造成噪音和污染。
  • 紐約州和新澤西州已通過法規限制或規範數據中心建設。
站內正文

面部價值:AI如何重塑信任、身份與詐騙

Malwarebytes發佈的2026年報告顯示,85%的人難以區分真實與AI生成內容,50%遭遇過AI驅動的詐騙,Z世代風險最高。人們因AI威脅而減少在線分享,但行動不足。報告還揭示了AI使用中的道德矛盾:許多人既害怕深度偽造,又認為使用AI進行個人用途是可以接受的。

  • 85%的受訪者表示現在難以區分真偽,較去年的66%大幅上升。
  • 50%的成年人遭遇過AI驅動的詐騙,Z世代接觸率高達67%。
站內正文

Patreon 阻止 AI 爬蟲複製內容:“創作者應獲報酬”

Patreon 宣佈與 Cloudflare 合作,在網絡層面阻止 AI 訓練爬蟲抓取平台內容。CEO Jack Conte 強調創作者應獲得同意、署名和補償。此舉旨在保護創作者權益,同時允許搜索爬蟲幫助內容被發現。

  • Patreon 與 Cloudflare 合作,從網絡層面阻止 AI 訓練爬蟲。
  • CEO Jack Conte 在 Instagram 上宣佈,稱創作者值得同意、署名和補償。
站內正文

習近平發起新的人工智能聯盟WAICO

中國國家主席習近平在上海世界人工智能大會上呼籲各國合作發展AI,並宣佈成立由29個國家組成的世界人工智能合作組織(WAICO),旨在制定全球AI規則。此舉被視為中國挑戰美國在AI領域主導地位的舉措。

  • 習近平呼籲AI發展不應是“單個國家的獨奏”,而是國際合作。
  • 中國牽頭成立WAICO,29個創始成員國包括印尼、巴西、俄羅斯等。
站內正文

Linus Torvalds 對 Linux 中 AI 編碼的批評者説:“不認同就分叉,或者直接離開。”

Linus Torvalds 為 AI 編碼工具在 Linux 開發中的使用進行辯護,稱 AI 是基於技術價值的實用工具。他承認 AI 並不完美,但認為批評者應先審視人類自身的缺陷。儘管有研究顯示使用 AI 工具的開發者生產力可能下降,但 Torvalds 強調其實際價值,並透露自己已在項目中使用“氛圍編程”工具。

  • Torvalds 認為 AI 是實用工具,批評應基於技術價值而非恐懼。
  • 他承認 AI 不完美,但指出人類代碼維護者也有類似問題。
站內正文

我們為自主代理構建了沙盒基礎設施

NeoSigma公司構建了一套沙盒基礎設施,為自主代理提供安全、隔離且功能完整的執行環境,使其能夠像在真實開發環境中一樣工作,同時確保每一操作都受控、可重現且可丟棄。

  • 沙盒提供控制平面、執行平面、安全與網絡平面、數據平面四大核心架構。
  • 通過預熱池和意圖預測減少啓動延遲,代理幾乎可以即時開始工作。
站內正文

科技藉助AI發展,金融守護利潤空間

隨着AI原生公司的擴張,財務團隊必須利用實時、受治理的數據來保護單位經濟效益。Databricks的Genie One作為AI同事,幫助CFO跟蹤利潤率、消費收入和計算支出。

  • AI原生公司的毛利率在2026年約為52%,遠低於傳統軟件的70-90%。
  • 財務部門需要實時數據和本體論來理解數字背後的業務意義。
站內正文

Meta被指控利用AI挑選有健康問題的員工進行裁員

26名Meta員工起訴公司,指控其使用人工智能系統針對休病假或家庭假的員工進行裁員,違反了保護孕婦、殘疾人和休假員工的法律。Meta否認指控,稱裁員決定由人而非AI做出。

  • 26名員工起訴Meta,稱AI系統在裁員中歧視休保護假期的員工。
  • Meta在5月裁員約8000人,佔全球員工10%。
站內正文

證明金融服務業中代理型AI的投資回報率

文章討論了金融服務業中代理型AI(Agentic AI)的ROI證明問題,指出傳統監控工具無法處理多代理系統的動態成本結構。通過兩個實際用例——RFP處理流程自動化和反洗錢合規監控,展示瞭如何利用LangChain平台(含LangSmith和LangGraph)與Pay-i經濟智能平台結合,將工程級可觀測性連接到業務價值,從而向領導層證明AI投資回報。

  • 多代理系統的成本結構是動態的,傳統FinOps工具無法處理。
  • LangSmith提供工程級可觀測性,Pay-i將成本與業務成果關聯。
站內正文

蘋果起訴OpenAI:意圖何在?

蘋果正在起訴OpenAI。訴狀可讀性強且激烈,但許多專家認為很多指控只是行業常規做法。蘋果的真實意圖是什麼?為何公開鬥爭?本期節目探討蘋果的訴訟歷史,分析其是否擔心競爭對手或趁機打擊OpenAI。同時,蘋果發佈新版公測軟件,重點是新Siri AI。此外,還有OpenAI設備、Pixel手機泄露,一加退出美歐市場等新聞。最後快速回顧Brendan Carr、X平台混亂、裂開表情符號等話題。

  • 蘋果起訴OpenAI,專家認為指控多為行業常規。
  • 分析蘋果動機:擔憂競爭還是利用OpenAI弱勢?
站內正文

跟隨問題,走向深處

貝利·弗拉尼根是一位跨學科研究者,現任麻省理工學院施瓦茨曼計算機學院、政治學系和電氣工程與計算機科學系的聯合教員。她的研究聚焦於利用計算和數學工具促進民主參與,開發了用於隨機選擇公民大會參與者的算法,並部署在Panelot.org平台上。

  • 貝利·弗拉尼根從醫學、公共衞生到經濟學,最終轉向計算機科學和政治學的跨學科研究。
  • 她開發的算法幫助隨機選擇公民大會參與者,平衡代表性與公平性。
站內正文

在Databricks上構建足球教練應用

教練視角(Coach's Corner)是一款基於Databricks平台的應用,能將每秒25幀的比賽追蹤數據轉化為亞秒級的2D/3D戰術板,集回放、事件分析、球探聊天和對手檔案代理於一體。通過Lakeflow管道、DBSQL和Lakebase實現數據的高效處理與快速查詢,並利用Genie、向量搜索和代理技術提供基於治理數據的AI洞察,解決了高頻數據在決策中的可用性鴻溝。

  • 教練視角應用統一了數據攝取、轉換和AI,在單個平台上提供實時的戰術洞察。
  • 採用Spark聲明式管道處理5100萬行數據,通過DBSQL實現1-3秒查詢響應。
站內正文

Smartsheet如何在AWS上構建遠程MCP服務器

本文從高層次概述了Smartsheet遠程MCP架構,重點介紹了其背後的AWS基礎設施,包括安全性、治理、擴展和部署,以及Smartsheet在AWS上構建的AI特定優化。

  • Smartsheet構建了一個遠程MCP服務器,使AI客户端能夠直接訪問其數據和功能。
  • 架構中關鍵AWS服務包括AWS Fargate、Amazon Kinesis、Amazon Bedrock等。
站內正文

從 Jira、Linear、GitHub Issues 或 Markdown 運行 AI 代理

Startup Factory 是一個開源框架,可將項目管理工具(如 Jira、Linear、GitHub Issues、Markdown)轉化為由 AI 代理驅動的受控交付系統。它提供分層安全邊界、確定性調度和多模型支持。

  • Startup Factory 將項目管理工具與 AI 代理連接,實現端到端產品交付。
  • 內置確定性 PM 監督員,每 3 分鐘檢查面板,路由任務並強制執行安全策略。
站內正文

AI記憶可移植性:新鎖定機制與中立標準的必要性

本文探討AI記憶可移植性問題,指出記憶正成為新供應商鎖定機制,現有導出功能無法實現真正的可移植性。文章分析行為、上下文和關係三種鎖定類型,介紹Cognee和ByteRover等早期嘗試,並呼籲建立中立記憶交換標準。

  • AI記憶可移植性在2026年7月仍不存在,遷移意味着從頭開始。
  • 記憶成為新鎖定,分為行為、上下文和關係三種類型,關係鎖定最難遷移。
站內正文

Bunkerhill 融資5500萬美元,將代理型AI擴展至醫療系統

Bunkerhill Health 完成5500萬美元B輪融資,用於擴展其代理型AI平台 Carebricks。該平台已在美國多家醫療系統運行,包括克利夫蘭診所、得克薩斯大學醫學分部(UTMB)等。UTMB 已部署超過20個AI代理,在臨牀、運營和管理方面取得初步成效,如降低專家等待時間、提高隨訪率等。

  • Bunkerhill Health 獲得5500萬美元B輪融資,投資方包括紅杉資本、Khosla Ventures等。
  • 其平台 Carebricks 允許醫院構建自有AI代理,已用於影像分析、預授權、行政管理等。
站內正文

特朗普指責中國竊取選舉數據,習近平則在上海AI峯會上展示中國領導力

在特朗普指責中國竊取美國選舉數據的同時,習近平在上海人工智能峯會上強調中國希望引領全球AI發展,並倡導AI為全球公共產品。中美在AI領域的競爭日益激烈,雙方在技術、安全規則和國際影響力上展開博弈。

  • 特朗普指控中國竊取2.2億美國選民數據,中國否認。
  • 習近平在上海AI峯會上呼籲AI發展應造福人類,反對將國家安全概念泛化。
站內正文

"不做這個他們就會死":DoorDash為智能體提供的CLI或許是出於必要

DoorDash發佈了一個命令行界面(dd-cli),使AI智能體無需人類批准即可在其平台上直接下單。此舉雖然讓開發者受益,但也引發了關於去中介化及DoorDash商業模式的爭議。專家警告,如果智能體主導下單成為常態,拒絕提供這樣的API可能會帶來更大風險。

  • DoorDash推出dd-cli,允許AI智能體通過命令行直接訂購食品。
  • 該CLI取消了人工審核步驟,實現智能體自主購買。
站內正文

企業AI:部署之後必須證明其價值

企業不再僅僅滿足於部署AI,而是更關注可衡量的商業價值、工作流程再造以及成功擴展AI所需的治理。

  • 企業AI的重點從部署轉向證明實際商業價值
  • 工作流程重新設計是最大化AI效益的關鍵
站內正文

我們該如何為孩子準備好迎接AI?

AI雖然改變了眾多行業,但在教育領域進展緩慢,因為學習的關鍵在於意義優先於技巧,需要關愛的人類參與。文章提出雙軌制教育方法:課程軌(保留傳統路徑)和兒童主導軌(激發興趣)。強調在AI時代,應注重培養意義感和真實世界項目,通過認知學徒制等方式讓孩子為未來做好準備。

  • AI尚未根本改變教育,因為學習需要意義和關懷,而不僅僅是技巧。
  • 建議採用雙軌制:課程軌維持傳統學業路徑,兒童主導軌培養興趣和自主性。
站內正文

Meta 的 Muse Spark 1.1 現已在 Databricks 上可用,完全由 Unity AI Gateway 管理

Meta 的新模型 Muse Spark 1.1 現可通過 Databricks 的 Unity AI Gateway 中的模型提供商服務(MPS)使用。該服務允許組織在 Unity Catalog 中註冊提供商一次,消除 API 密鑰氾濫,並通過熟悉的權限、速率限制和護欄實現集中治理。此外,自動跟蹤每次請求的令牌使用量、延遲、成本歸屬和審計日誌,提供端到端的可觀察性。

    站內正文

    ‘SaaS末日論’被誇大:Workday等軟件供應商如何藉助AI求生存

    專家警告,AI代理將顛覆企業軟件收入模式,但SaaS末日論被誇大。供應商通過強化核心能力來應對去中介化風險。

    • AI代理將導致高達2340億美元的企業應用支出面臨代理套利風險。
    • 供應商如Workday、Freshworks和Snowflake通過信任、數據和專業化保持競爭力。
    站內正文

    專為AI代理打造的瀏覽器自動化CLI工具

    BrowserAct是一個瀏覽器自動化CLI,專為AI代理設計,能夠突破反爬蟲封鎖、支持人工接管、並行任務無干擾,並隔離多個賬號。它通過環境層、執行層和人工層三層機制突破封鎖,提供三種瀏覽器模式,並針對LLM推理優化輸出格式。

    • 三層突破機制:環境層(指紋偽裝、TLS輪換)、執行層(自動驗證碼、提取)、人工層(遠程協助)。
    • 三種瀏覽器模式:複用本地Chrome、隱身隱私模式、隱身固定身份模式。
    站內正文

    5個免費的智能體AI學習資源

    本文介紹了五個免費的智能體AI學習資源,涵蓋從入門到理論、從實踐到評估的各個方面,幫助學習者深入理解並有效構建智能體。

    • 微軟的《AI Agents for Beginners》課程提供結構化學習路徑,涵蓋基礎到高級模式。
    • Hugging Face的智能體課程強調動手實踐,對比多種框架。
    站內正文

    針對國家審查的通用人工智能倫理標準提案

    最近對不同國家AI模型的測試顯示嚴重的地域審查現象。作者提議建立自願的國際認證標準,以優先考慮事實而非政治利益。

    • 來自印度、中國、歐洲和美國的AI模型在歷史、種姓、生物學和移民等話題上表現出不同的審查方式。
    • 當前審查由法律恐懼和意識形態控制驅動,降低AI的真實性。
    站內正文

    代理開發的合理規格程度

    本文探討了在代理開發中規格説明的必要性,指出零規格和過度規格都有成本,最佳平衡點取決於任務類型,並強調了規格驗證和可執行測試的重要性。

    • 零規格看似高效,實則隱藏了糾正循環的成本。
    • 適度的規格結合可執行檢查能降低總成本。
    站內正文

    改變我對AI在軟件工程中看法的五項研究

    本文總結了五項最近關於AI在軟件工程領域的研究論文,這些論文共同揭示了AI正在壓縮軟件工程的上游工作,但下游瓶頸隨之出現。主要發現包括:GitHub Copilot使PR吞吐量增加約40%,且呈劑量反應關係;AI在代碼生成階段的增益(高達+180%)在交付過程中大幅衰減(最終僅+30%的發佈量);生產力與開發者體驗出現脱鈎;開發者希望AI更多用於驗證任務而非代碼生成;以及“認知債務”和“意圖債務”正在成為新的軟件健康問題。

    • GitHub Copilot的劑量反應分析顯示,高使用率時PR吞吐量提升約40%,且效果在大型PR中更顯著。
    • AI在代碼生成階段的增益在交付過程中逐步衰減,最終對發佈量的影響僅為+30%。
    站內正文

    太空編程、AI-XR 和開發者的新交互範式

    JetBrains 研究團隊探討了 AI 與擴展現實(XR)結合如何為技術創作者帶來新的交互範式。通過專家訪談,他們總結了五個主題:人類如何向 AI-XR 系統傳達意圖、AI 如何使 XR 環境理解並適應個人、阻礙 XR-AI 主流化的因素、AI-XR 如何改變創作方式,以及隱私和倫理風險。研究指出,XR 硬件和 AI 的融合將徹底改變技術創作,但面臨技術、認知和組織上的挑戰。

    • AI 與 XR 的融合可能帶來 60 年來首次人機交互革命。
    • 研究通過 13 位專家訪談,確定了五個核心主題。
    站內正文

    結構化分塊、預嵌入SQLite語料庫:歐盟AI法案

    該數據集提供了一個歐盟AI法案(法規(EU) 2024/1689)的單文件、預嵌入SQLite語料庫,按法律結構分塊(每條款段落、每序言、每附件點、每第3條定義),包含BGE-M3密集嵌入、元數據、風險等級標籤等,可直接本地查詢,用於研究與工程。

    • 包含933個分塊:180條序言、522個條款段落、68個第3條定義、163個附件點
    • 使用BGE-M3嵌入(1024維浮點數,L2歸一化),支持語義搜索
    站內正文

    羅伯特·萊德洛:《現實吞噬者》專輯評論

    這張NMC首秀專輯展示了萊德洛將科學與古典音樂融合的複雜而富有想象力的作品,包括以愛因斯坦場方程為靈感創作的鋼琴協奏曲《扭曲》。

    • 萊德洛的專輯《現實吞噬者》探索了愛因斯坦場方程、牛頓萬有引力定律和人工智能等主題
    • 鋼琴協奏曲《扭曲》提出了一種對愛因斯坦場方程的音樂解答
    站內正文

    歐盟迫使谷歌共享搜索數據並向競爭對手AI公司開放安卓系統

    歐盟發佈兩項新規,要求谷歌共享搜索數據並開放安卓系統,以便競爭對手AI公司能公平接入。此舉旨在打破科技巨頭的數字壟斷,促進創新,但谷歌警告可能會危及用户隱私和數據安全。

    • 歐盟要求谷歌分享匿名化搜索數據,並允許第三方AI助手在安卓設備上以同等水平運行。
    • 谷歌需在2027年1月前開始與競爭對手共享搜索數據,並允許語音激活和後台任務執行。
    站內正文

    力量永不嫌晚: 利用反應式力注入加速VLA後訓練

    本文提出LIFT框架,通過在預訓練視覺-語言-動作(VLA)策略後訓練中注入反應式力,解決接觸場景下純視覺方法失敗的問題。LIFT嫁接反應式動作專家,利用因果力記憶和零初始化交叉注意力注入6D力,並結合在線DAgger循環應對分佈偏移。在毛巾摺疊、書籍插入和漢諾塔放置任務中,LIFT相比純視覺後訓練學習更快、性能更高。

    • LIFT為VLA策略添加接觸反應能力,同時保留通用操作知識。
    • 通過反應式動作專家、因果力記憶和在線DAgger循環實現力反饋注入。
    站內正文

    語義音頻驅動的動態人形全身控制

    本研究提出了一種新穎的多模態編排框架,實現語義音頻驅動的人形機器人控制。系統通過音頻指紋和語義嵌入實時處理音樂或語音輸入,動態選擇並執行動作策略,在仿真和Unitree G1人形機器人上驗證了魯棒的模擬到現實遷移。

    • 提出語義音頻驅動的人形全身控制框架,支持實時自主運動技能選擇。
    • 系統區分音樂和語音輸入,分別採用音頻指紋和模仿學習技能庫進行映射。
    站內正文

    具有不確定關節剛度的電機位置控制柔性關節機器人的自適應控制

    研究人員提出一種針對柔性關節機器人的自適應控制方法,以應對不確定的關節剛度。該方法通過隱式控制律和依賴於控制輸入的迴歸矩陣,在線更新每個關節的非線性扭矩-偏轉關係估計,並分析了其對電機位置控制器誤差的魯棒性。在具有非線性剛度特性的柔性關節上的實驗結果驗證了該方法的有效性。

    • 柔性關節機器人的模型控制依賴於精確的剛度模型,但實際中這些模型常因工況和老化而不可用。
    • 提出的自適應控制方法在線更新不確定的非線性扭矩-偏轉關係。
    站內正文

    SD-MAR:通過合成數據和強化學習實現多圖像分析推理

    SD-MAR是一個用於訓練和評估視覺語言模型(VLM)在多圖像分析推理任務上的框架。它通過受控擾動構建成對視覺場景,並生成涉及語義變化歸因和定量比較的推理任務。採用GRPO-lite與後向折扣分配(BDA)的強化學習方法,去除KL正則化以增強策略優化。在Qwen2.5-VL-7B和InternVL3-8B上的實驗表明,域內準確率提升高達36.95%,且Qwen2.5-VL-7B在SD-MAR基準上超越GPT-4.1。域外泛化性能保持或提升,在MME、MMMU-Pro、MathVista上波動在1%以內,在MMBench上提升達4%。

    • 提出SD-MAR框架,通過合成數據生成多圖像分析推理任務。
    • 採用GRPO-lite與BDA強化學習方法,聚焦後期推理步驟。
    站內正文

    推理時概念抑制與面向視頻的文本到視頻模型評估

    本文提出SIRUS,一種無需訓練的推理時框架,用於文本到視頻(T2V)模型中的概念級遺忘。SIRUS通過定位與目標概念相關的提示證據並在採樣過程中抑制其表達,無需更新文本編碼器或去噪網絡。同時,引入面向視頻的評估框架,分別測量目標遺忘、非目標保持、視頻質量、越獄魯棒性和效率。在CogVideoX上,SIRUS在五個安全、物體和風格概念上平均遺忘成功率達70.4%,幀命中率25.7%,優於VideoEraser的44.4%和47.2%,並將VBench質量平均下降從-0.043降至-0.016。在Wan2.2上的遷移實驗表明SIRUS可泛化至現代T2V骨幹網絡。

    • SIRUS是一種無需訓練的推理時概念遺忘框架,通過定位並抑制提示中的目標概念實現T2V模型控制。
    • 提出面向視頻的評估體系,分別衡量遺忘、保持、質量、魯棒性和效率。
    站內正文

    持續提示:評估視覺語言模型中的重複蘇格拉底式提問

    研究提出JKP框架,通過重複挑戰性提問評估視覺語言模型的穩定性。測試GPT-4o、Gemini 2.5 Pro和Qwen3-VL-30B發現,模型在持續追問下表現不穩定,答案頻繁翻轉,且不同模型響應模式各異。

    • JKP框架通過三種策略(對抗性否定、純蘇格拉底式質詢、上下文感知蘇格拉底式總結)對VLM進行最多10輪追問。
    • 在STAR基準測試中,模型總體準確率變化不大,但軌跡分析顯示大量答案翻轉和不穩定。
    站內正文

    閉環知識動力學:飽和與逃逸的操作框架

    該研究分析了閉環知識系統(如大型語言模型、強化學習)為何在重複內部反饋下趨於飽和,並提出了一個三層次操作框架,通過結構干預實現逃逸。使用李雅普諾夫漂移條件刻畫穩定性,並通過干預引起的吸引子位移和KL下界表徵逃逸。案例研究包括LLM代碼修復、稀疏獎勵強化學習和貝葉斯優化。

    • 閉環系統在重複內部反饋下收益遞減,需外部信息突破吸引子。
    • 提出三層次框架:知識狀態通過結構參數θ的轉移核演化,結構干預可檢測。
    站內正文

    多域檢索中的認證域一致性:基於共形風險保證的無標籤逐域污染控制

    本文提出C3R,一種即插即用的控制層,通過推斷域後驗,無需查詢時標籤,在可行時認證逐域污染預算,否則棄權而非違規。該方法基於風險控制預測集的兩階段方案,保證最困難域污染減少,實驗表明穩定性好,召回率優於傳統方法。

    • C3R是一種無標籤、逐域污染控制層,可保證最困難域的污染減少。
    • 採用兩階段風險控制預測集方案,有限樣本傳輸邊界可估計並支持異構預算。
    站內正文

    主題導航

    政策 — AI 主題新聞 | AI News Hub