AI News HubLIVE

政策動態

專為AI代理打造的瀏覽器自動化CLI工具

BrowserAct是一個瀏覽器自動化CLI,專為AI代理設計,能夠突破反爬蟲封鎖、支持人工接管、並行任務無干擾,並隔離多個賬號。它通過環境層、執行層和人工層三層機制突破封鎖,提供三種瀏覽器模式,並針對LLM推理優化輸出格式。

  • 三層突破機制:環境層(指紋偽裝、TLS輪換)、執行層(自動驗證碼、提取)、人工層(遠程協助)。
  • 三種瀏覽器模式:複用本地Chrome、隱身隱私模式、隱身固定身份模式。
站內正文

5個免費的智能體AI學習資源

本文介紹了五個免費的智能體AI學習資源,涵蓋從入門到理論、從實踐到評估的各個方面,幫助學習者深入理解並有效構建智能體。

  • 微軟的《AI Agents for Beginners》課程提供結構化學習路徑,涵蓋基礎到高級模式。
  • Hugging Face的智能體課程強調動手實踐,對比多種框架。
站內正文

針對國家審查的通用人工智能倫理標準提案

最近對不同國家AI模型的測試顯示嚴重的地域審查現象。作者提議建立自願的國際認證標準,以優先考慮事實而非政治利益。

  • 來自印度、中國、歐洲和美國的AI模型在歷史、種姓、生物學和移民等話題上表現出不同的審查方式。
  • 當前審查由法律恐懼和意識形態控制驅動,降低AI的真實性。
站內正文

代理開發的合理規格程度

本文探討了在代理開發中規格説明的必要性,指出零規格和過度規格都有成本,最佳平衡點取決於任務類型,並強調了規格驗證和可執行測試的重要性。

  • 零規格看似高效,實則隱藏了糾正循環的成本。
  • 適度的規格結合可執行檢查能降低總成本。
站內正文

改變我對AI在軟件工程中看法的五項研究

本文總結了五項最近關於AI在軟件工程領域的研究論文,這些論文共同揭示了AI正在壓縮軟件工程的上游工作,但下游瓶頸隨之出現。主要發現包括:GitHub Copilot使PR吞吐量增加約40%,且呈劑量反應關係;AI在代碼生成階段的增益(高達+180%)在交付過程中大幅衰減(最終僅+30%的發佈量);生產力與開發者體驗出現脱鈎;開發者希望AI更多用於驗證任務而非代碼生成;以及“認知債務”和“意圖債務”正在成為新的軟件健康問題。

  • GitHub Copilot的劑量反應分析顯示,高使用率時PR吞吐量提升約40%,且效果在大型PR中更顯著。
  • AI在代碼生成階段的增益在交付過程中逐步衰減,最終對發佈量的影響僅為+30%。
站內正文

太空編程、AI-XR 和開發者的新交互範式

JetBrains 研究團隊探討了 AI 與擴展現實(XR)結合如何為技術創作者帶來新的交互範式。通過專家訪談,他們總結了五個主題:人類如何向 AI-XR 系統傳達意圖、AI 如何使 XR 環境理解並適應個人、阻礙 XR-AI 主流化的因素、AI-XR 如何改變創作方式,以及隱私和倫理風險。研究指出,XR 硬件和 AI 的融合將徹底改變技術創作,但面臨技術、認知和組織上的挑戰。

  • AI 與 XR 的融合可能帶來 60 年來首次人機交互革命。
  • 研究通過 13 位專家訪談,確定了五個核心主題。
站內正文

結構化分塊、預嵌入SQLite語料庫:歐盟AI法案

該數據集提供了一個歐盟AI法案(法規(EU) 2024/1689)的單文件、預嵌入SQLite語料庫,按法律結構分塊(每條款段落、每序言、每附件點、每第3條定義),包含BGE-M3密集嵌入、元數據、風險等級標籤等,可直接本地查詢,用於研究與工程。

  • 包含933個分塊:180條序言、522個條款段落、68個第3條定義、163個附件點
  • 使用BGE-M3嵌入(1024維浮點數,L2歸一化),支持語義搜索
站內正文

羅伯特·萊德洛:《現實吞噬者》專輯評論

這張NMC首秀專輯展示了萊德洛將科學與古典音樂融合的複雜而富有想象力的作品,包括以愛因斯坦場方程為靈感創作的鋼琴協奏曲《扭曲》。

  • 萊德洛的專輯《現實吞噬者》探索了愛因斯坦場方程、牛頓萬有引力定律和人工智能等主題
  • 鋼琴協奏曲《扭曲》提出了一種對愛因斯坦場方程的音樂解答
站內正文

歐盟迫使谷歌共享搜索數據並向競爭對手AI公司開放安卓系統

歐盟發佈兩項新規,要求谷歌共享搜索數據並開放安卓系統,以便競爭對手AI公司能公平接入。此舉旨在打破科技巨頭的數字壟斷,促進創新,但谷歌警告可能會危及用户隱私和數據安全。

  • 歐盟要求谷歌分享匿名化搜索數據,並允許第三方AI助手在安卓設備上以同等水平運行。
  • 谷歌需在2027年1月前開始與競爭對手共享搜索數據,並允許語音激活和後台任務執行。
站內正文

力量永不嫌晚: 利用反應式力注入加速VLA後訓練

本文提出LIFT框架,通過在預訓練視覺-語言-動作(VLA)策略後訓練中注入反應式力,解決接觸場景下純視覺方法失敗的問題。LIFT嫁接反應式動作專家,利用因果力記憶和零初始化交叉注意力注入6D力,並結合在線DAgger循環應對分佈偏移。在毛巾摺疊、書籍插入和漢諾塔放置任務中,LIFT相比純視覺後訓練學習更快、性能更高。

  • LIFT為VLA策略添加接觸反應能力,同時保留通用操作知識。
  • 通過反應式動作專家、因果力記憶和在線DAgger循環實現力反饋注入。
站內正文

語義音頻驅動的動態人形全身控制

本研究提出了一種新穎的多模態編排框架,實現語義音頻驅動的人形機器人控制。系統通過音頻指紋和語義嵌入實時處理音樂或語音輸入,動態選擇並執行動作策略,在仿真和Unitree G1人形機器人上驗證了魯棒的模擬到現實遷移。

  • 提出語義音頻驅動的人形全身控制框架,支持實時自主運動技能選擇。
  • 系統區分音樂和語音輸入,分別採用音頻指紋和模仿學習技能庫進行映射。
站內正文

具有不確定關節剛度的電機位置控制柔性關節機器人的自適應控制

研究人員提出一種針對柔性關節機器人的自適應控制方法,以應對不確定的關節剛度。該方法通過隱式控制律和依賴於控制輸入的迴歸矩陣,在線更新每個關節的非線性扭矩-偏轉關係估計,並分析了其對電機位置控制器誤差的魯棒性。在具有非線性剛度特性的柔性關節上的實驗結果驗證了該方法的有效性。

  • 柔性關節機器人的模型控制依賴於精確的剛度模型,但實際中這些模型常因工況和老化而不可用。
  • 提出的自適應控制方法在線更新不確定的非線性扭矩-偏轉關係。
站內正文

SD-MAR:通過合成數據和強化學習實現多圖像分析推理

SD-MAR是一個用於訓練和評估視覺語言模型(VLM)在多圖像分析推理任務上的框架。它通過受控擾動構建成對視覺場景,並生成涉及語義變化歸因和定量比較的推理任務。採用GRPO-lite與後向折扣分配(BDA)的強化學習方法,去除KL正則化以增強策略優化。在Qwen2.5-VL-7B和InternVL3-8B上的實驗表明,域內準確率提升高達36.95%,且Qwen2.5-VL-7B在SD-MAR基準上超越GPT-4.1。域外泛化性能保持或提升,在MME、MMMU-Pro、MathVista上波動在1%以內,在MMBench上提升達4%。

  • 提出SD-MAR框架,通過合成數據生成多圖像分析推理任務。
  • 採用GRPO-lite與BDA強化學習方法,聚焦後期推理步驟。
站內正文

推理時概念抑制與面向視頻的文本到視頻模型評估

本文提出SIRUS,一種無需訓練的推理時框架,用於文本到視頻(T2V)模型中的概念級遺忘。SIRUS通過定位與目標概念相關的提示證據並在採樣過程中抑制其表達,無需更新文本編碼器或去噪網絡。同時,引入面向視頻的評估框架,分別測量目標遺忘、非目標保持、視頻質量、越獄魯棒性和效率。在CogVideoX上,SIRUS在五個安全、物體和風格概念上平均遺忘成功率達70.4%,幀命中率25.7%,優於VideoEraser的44.4%和47.2%,並將VBench質量平均下降從-0.043降至-0.016。在Wan2.2上的遷移實驗表明SIRUS可泛化至現代T2V骨幹網絡。

  • SIRUS是一種無需訓練的推理時概念遺忘框架,通過定位並抑制提示中的目標概念實現T2V模型控制。
  • 提出面向視頻的評估體系,分別衡量遺忘、保持、質量、魯棒性和效率。
站內正文

持續提示:評估視覺語言模型中的重複蘇格拉底式提問

研究提出JKP框架,通過重複挑戰性提問評估視覺語言模型的穩定性。測試GPT-4o、Gemini 2.5 Pro和Qwen3-VL-30B發現,模型在持續追問下表現不穩定,答案頻繁翻轉,且不同模型響應模式各異。

  • JKP框架通過三種策略(對抗性否定、純蘇格拉底式質詢、上下文感知蘇格拉底式總結)對VLM進行最多10輪追問。
  • 在STAR基準測試中,模型總體準確率變化不大,但軌跡分析顯示大量答案翻轉和不穩定。
站內正文

閉環知識動力學:飽和與逃逸的操作框架

該研究分析了閉環知識系統(如大型語言模型、強化學習)為何在重複內部反饋下趨於飽和,並提出了一個三層次操作框架,通過結構干預實現逃逸。使用李雅普諾夫漂移條件刻畫穩定性,並通過干預引起的吸引子位移和KL下界表徵逃逸。案例研究包括LLM代碼修復、稀疏獎勵強化學習和貝葉斯優化。

  • 閉環系統在重複內部反饋下收益遞減,需外部信息突破吸引子。
  • 提出三層次框架:知識狀態通過結構參數θ的轉移核演化,結構干預可檢測。
站內正文

多域檢索中的認證域一致性:基於共形風險保證的無標籤逐域污染控制

本文提出C3R,一種即插即用的控制層,通過推斷域後驗,無需查詢時標籤,在可行時認證逐域污染預算,否則棄權而非違規。該方法基於風險控制預測集的兩階段方案,保證最困難域污染減少,實驗表明穩定性好,召回率優於傳統方法。

  • C3R是一種無標籤、逐域污染控制層,可保證最困難域的污染減少。
  • 採用兩階段風險控制預測集方案,有限樣本傳輸邊界可估計並支持異構預算。
站內正文

用於閉環1型糖尿病控制的可解釋語言模型

一種名為LLM-T1D的新方法將強化學習與大語言模型相結合,創建了一種可解釋的胰島素泵控制器,用於1型糖尿病,實現了73.5%的時間在目標血糖範圍內,同時提供清晰的解釋。

  • 結合強化學習和大語言模型實現透明決策
  • 微調LLaMA 3.1 8B和Qwen3 8B模型
站內正文

用於搜索與救援的自主無人機羣智能三級學習架構

一篇新論文提出了一種三級分層學習架構,用於執行搜索與救援任務的自主無人機羣,整合了赫布神經可塑性、基於圖神經網絡和行為樹的多智能體強化學習,以及帶BDI推理和數字孿生的元學習。該框架提供形式化保證,並引入羣體元認知。

  • 三級架構靈感來自反射、技能和推理的生物層次。
  • 使用赫布神經可塑性、MARL與GNN/行為樹以及元學習與BDI/數字孿生。
站內正文

通過語義合約重獲對AI生成代碼的信任

針對AI生成代碼速度快於人類審查而導致的信任危機,本文提出“語義合約”——一種類型安全、編譯時檢查的藍圖,位於需求與代碼之間,確保任何實現(無論人工還是AI編寫)的正確性。文章通過排序算法和電商結賬示例展示了語義合約的構建塊、狀態處理和集成方式。

  • AI代碼生成速度快,但缺乏可解釋性和可審計性,導致信任危機。
  • 語義合約是一種結構化、可驗證的業務邏輯藍圖,位於需求和代碼之間。
站內正文

人工智能的真正瓶頸在於數據交付

企業大規模部署AI時,最大障礙往往是數據從存儲到計算的基礎設施,而非GPU等計算硬件。文章指出,許多組織誤以為性能問題需要更多計算資源,實則根源在於數據飢餓,即數據無法高效、安全、持續地在存儲與計算之間流動。通過引入應用交付控制器實現松耦合架構,以及關注可達性、策略和交付三個維度的韌性,可顯著提升GPU利用率和AI投資回報。

  • AI性能瓶頸常被誤認為計算不足,實則是數據交付基礎設施的制約。
  • 松耦合架構(如引入ADC)可將存儲與計算解耦,提升靈活性和性能。
站內正文

Gradle Technologies 更名為 Develocity

Gradle Technologies 現已更名為 Develocity,專注於 AI 驅動的軟件交付管道治理與效率。公司表示,AI 已將軟件交付瓶頸從人類轉移到管道上。

  • Gradle Technologies 更名為 Develocity,專注於 AI 驅動的軟件交付。
  • AI 已將瓶頸從開發者轉移到管道。
站內正文

Preempt AI v2:AI強大,但也需確保安全

Preempt AI v2 推出,為AI應用提供安全標準,利用ML技術防禦提示注入、越獄和數據泄露。支持多種語言,延遲低於10毫秒,準確率達99.65%。

  • Preempt AI v2 提供針對AI應用的安全防護層,防禦提示注入、越獄攻擊和數據泄露。
  • 採用機器學習模型,檢測準確率99.65%,支持12多種語言和41多種攻擊類型。
站內正文

Meta關閉允許標記Instagram用户生成其AI圖像的功能

Meta推出新AI工具Muse Image後,因允許用户標記他人賬户並利用其照片生成AI圖像而遭到批評。該公司已禁用此功能,但用户仍需手動關閉權限以防止照片被用於AI生成。該功能默認開啓,引發隱私擔憂。

  • Meta的Muse Image工具允許用户通過標記Instagram賬户生成AI圖像,但遭批評後已禁用此功能。
  • 用户需手動在設置中關閉權限,否則公開照片可能被用於AI生成。
站內正文

VulnHunter:智能體驅動的AI安全工具

VulnHunter 是一個開源的智能體AI安全工具,採用攻擊者優先的主動分析方法,直接從源代碼中識別可被利用的漏洞,並提出證據支持的修復方案。它由 Capital One 內部開發並開源,旨在應對現代軟件供應鏈中的安全挑戰。

  • 與傳統被動式SAST掃描器不同,VulnHunter模擬攻擊者思維進行正向分析,減少誤報。
  • 包含假證引擎,主動嘗試否定自身發現的漏洞,確保高優先級告警的準確性。
站內正文

微軟以企業級規模交付AI代理

微軟的Foundry平台現已支持超過8萬家企業構建AI代理。在產品副總裁Marco Casalaina的訪談中,他解釋了原型與生產環境代理之間的關鍵差異、代理框架的重要性,以及微軟如何構建上下文層以確保代理的可靠性。

  • 原型代理無法在生產環境中存活,失敗原因通常在於模型之外的框架。
  • 生產環境中,代理的‘框架’(包括運行時、工具、身份層等)與模型本身同等重要。
站內正文

Forall:基於規範驅動、附帶形式驗證的AI編程工具

Astrio 推出 Forall(∀),一個通過規範驅動生成代碼並附帶機器可驗證證明的編程助手。支持 CLI 和 MCP 兩種使用方式,目前兼容 TypeScript、Java 和 Rust,基於 Apache-2.0 開源。

  • Forall 是一款由 Astrio 開發的編程助手,根據用户編寫的規範自動生成代碼和形式化證明。
  • 支持 CLI 全功能代理和 MCP 集成(僅驗證)兩種模式。
站內正文

美國版權局:AI生成內容不受版權保護

美國版權局裁定,完全由AI生成的內容不具備版權。一位作者因未保留AI生成的原始草稿,無法證明書中哪些部分由人類創作,面臨版權申請被拒的情況。

  • 美國版權局明確表示,AI生成的材料不能獲得版權。
  • 一位作者因未保存AI生成的初始內容,導致無法區分人機創作部分。
站內正文

《毀滅戰士》教會了我們什麼:AI輔助事件響應

Rootly AI實驗室開發了《毀滅戰士》競技場(Doom Agent Arena),一個開源實時遊戲環境基準測試,用於測試AI智能體在事件響應中的推理、適應和決策能力。通過讓LLM控制遊戲角色,研究發現更長的思考時間並不總是帶來更好的結果,智能體編寫自己的“運行手冊”能夠提高效率,而快速決策雖然不直接決定勝負,但可以累積節省時間。這些發現為設計更高效的AI輔助事件響應系統提供了啓示。

  • 《毀滅戰士》競技場基準測試通過MCP讓AI智能體觀察遊戲狀態並制定高等級計劃,測試其在動態環境中的推理能力。
  • 研究發現,更長的思考時間並不總是與更好的表現相關;有時延遲是陷入困境的信號。
站內正文

血染數據中心

本文深入探討19世紀盧德運動的歷史真相,分析其策略、成敗得失,並論證為何現代反AI運動不能簡單效仿盧德主義。作者指出,盧德運動的特定歷史背景、地方性特徵和具體訴求與當前AI擔憂存在根本差異。

  • 盧德運動是19世紀英國紡織工匠對機器自動化的暴力反抗
  • 運動雖被鎮壓,但取得了一些短期勝利並影響了後來的勞工改革
站內正文

MemDecay:區域感知的KV緩存淘汰策略,提升LLM代理推理效率

研究提出MemDecay,一種訓練無關的區域感知KV緩存淘汰策略,通過為不同語義區域的令牌分配不同優先級和衰減率,在固定緩存預算下保留關鍵信息。實驗表明,系統令牌的半衰期遠長於暫存區令牌,且固定策略能在全部設置中保持完美準確率,而現有基線最多僅保留13/24。

  • MemDecay利用LLM代理的語義結構進行區域感知緩存管理。
  • 系統令牌的半衰期(148-189步)比暫存區令牌(14-16步)長一個數量級。
站內正文

OpenAI 推出 GPT-Red 測試 AI 模型安全

OpenAI 通過 GPT-Red 結合人類與 AI 進行紅隊測試,創新地評估模型安全性,但企業仍需確保模型符合自身業務和安全需求。

  • GPT-Red 結合人類專家和 AI 代理進行紅隊測試
  • 這一方法在模型安全測試中屬首創
站內正文

冷靜應對人工智能蒸餾行為

本文質疑將中國實驗室大規模蒸餾美國前沿模型視為盜竊的論調,指出現行知識產權法不支持這種説法。建議政策應聚焦於保護模型訪問安全,而非擴大知識產權保護。

  • 蒸餾在AI開發中常見,不等於竊取模型權重。
  • 大規模蒸餾違反服務條款,但根據現行法律不太可能構成商業秘密盜竊。
站內正文

從實驗到洞察:Dotmatics Luma和Databricks如何讓AI就緒的科學成為現實

Dotmatics Luma與Databricks的集成方案通過持續採集、標準化和治理科學數據,打破儀器數據孤島,構建AI就緒的數據基礎,加速科研洞察。

  • Luma提供科學上下文和儀器連接,Databricks提供企業級存儲、治理和AI工具,互補設計。
  • 通過統一數據管道,實現FAIR合規數據,支持跨實驗模式分析和AI應用。
站內正文

在 Amazon Bedrock 上推出 Grok

xAI 的 Grok 4.3 現已通過 Amazon Bedrock 提供,它具有可配置的推理能力、強大的工具調用和指令遵循能力,支持 100 萬個 token 的上下文窗口,適用於代理和企業工作負載。本文介紹了其特性、訪問方式以及基本用法。

  • Grok 4.3 在 Amazon Bedrock 上可用,通過 Mantle 推理引擎以 OpenAI 兼容 API 提供。
  • 支持可配置的推理力度(無、低、中、高),可適應不同任務需求。
站內正文

OpenAI詳解GPT-Red:內部自動化紅隊模型在提示注入方面以84%對13%擊敗人類紅隊

OpenAI開發了內部自動化紅隊模型GPT-Red,通過自我對弈強化學習訓練,在間接提示注入測試中以84%的成功率遠超人類紅隊的13%。該模型還發現了一種新型“虛假思維鏈”攻擊,並將GPT-5.6 Sol在最難直接注入基準上的失敗率降低了6倍。但OpenAI承認,在多輪和基於圖像的攻擊方面仍需人類參與。

  • GPT-Red是OpenAI內部使用的自動化紅隊模型,通過自我對弈強化學習訓練。
  • 在複製的間接提示注入環境中,GPT-Red對GPT-5.1的攻擊成功率達84%,而人類紅隊僅為13%。
站內正文

AI對私人信貸的顛覆:BDC對軟件公司的風險敞口(國際清算銀行)

國際清算銀行最新公報指出,商業發展公司(BDC)向軟件公司提供了約1150億美元貸款,佔其總貸款的五分之一,佔其快速增長的科技投資組合的80%以上。生成式人工智能帶來的收入不確定性尚未影響這些貸款,但近期信用利差收窄降低了緩衝能力。

  • BDC對軟件公司貸款約1150億美元,佔科技投資組合的80%以上。
  • 生成式AI尚未影響這些貸款的風險定價。
站內正文

Linus Torvalds 駁斥 Linux 內核代碼審查中的反 AI 立場

Linus Torvalds 在 Linux 內核郵件列表中明確表態支持 AI 輔助工具,反對禁止 AI 生成代碼的立場。他稱 AI 是“有用的工具”,並強調 Linux 不是反 AI 項目。此評論源於對 Sashiko 工具(一種多階段代碼審查工具)的討論,該工具能發現 53.6% 的補丁漏洞,但存在約 20% 的誤報率。Torvalds 指出,AI 工具正在快速進化,並批評了抵制者的態度。

  • Torvalds 支持 AI 輔助代碼審查工具 Sashiko,反對禁止 AI 貢獻。
  • Sashiko 能發現 53.6% 的補丁錯誤,誤報率在 20% 以內。
站內正文

請停止自動讓我加入AI功能

用户對科技公司默認開啓AI功能感到不滿,Instagram因默認啓用AI聊天機器人功能而遭到強烈反對,三天後不得不撤回。隱私專家呼籲採用更保護隱私的默認設置,並指出需要聯邦法規來約束企業行為。

  • Instagram默認啓用AI聊天機器人功能,引發用户強烈反對,三天後撤回。
  • 用户和企業界人士對默認加入AI功能感到厭倦,認為應默認選擇退出。
站內正文

統一上下文:企業AI同事缺失的關鍵層

AI助手在表層工作迅速普及,但無法改變實際業務決策,因為關鍵上下文分散在各系統與定義中。Databricks推出Genie One與Genie Ontology,通過統一上下文層使AI同事基於共享業務視圖運作,自動繼承治理規則,從而支持真實決策。

  • 企業AI同事需要統一上下文來支持實際決策,而非僅完成簡單任務。
  • Genie One利用統一上下文層在Slack、Teams等工具中提供基於治理數據的答案與行動。
站內正文

紐約州長利用人工智能分析全州“每一條規則”

紐約州長凱西·霍楚簽署暫停新建AI數據中心的行政令,但同時她正利用AI分析州內所有法規,以刪除過時法律。AI在數月內完成了原本需五年的人工審查,揭示了諸如帶狗打獵需付25美元費用等陳舊規定。紐約成為首個暫停大型數據中心建設的州,以制定保護居民免受公用事業成本上漲和自然資源威脅的法規。

  • 霍楚使用AI審核全州規則、法規和政策,識別過時立法。
  • AI在幾個月內完成了需要五年的人工審查工作。
站內正文

我開發了一款Mac應用,可將母語草稿轉為地道英語

Echoo是一款Mac AI寫作助手,讓你用母語起草,一鍵轉換為自然英語。它運行在常用Mac應用中,無需複製粘貼,保護隱私。提供免費試用,Pro版每月$6.99。

  • Echoo支持在Slack、郵件等Mac應用中直接改寫文本,無需切換窗口。
  • 用户可在母語中起草,通過快捷鍵快速獲得地道英語翻譯。
站內正文

AI上下文鴻溝:企業AI組織面臨的是信任問題,而非檢索問題——多數仍在構建解決方案

VentureBeat Pulse Research對101家企業的調查顯示,57%的企業在過去半年中遇到過AI代理因上下文缺失或不一致而給出自信但錯誤的答案。檢索增強生成(RAG)已成為默認上下文來源,但提供商原生檢索(如OpenAI文件搜索和Google Vertex AI搜索)已悄然超越專用向量數據庫。然而,多數企業表示傾向於保持最佳組件獨立,而非整合到單一提供商堆棧。混合檢索被期望在2026年底主導,但治理語義層仍在建設中。

  • 57%的企業在半年內遭遇AI代理因不良上下文給出自信但錯誤的答案
  • 提供商原生檢索(OpenAI 40%,Google 38%)已領先專用向量數據庫
站內正文

歐盟迫使谷歌與其它AI和搜索引擎分享其“玩具”

歐盟委員會發布兩項決定,要求谷歌向競爭對手開放搜索數據,並增強Android系統AI互操作性,允許第三方AI助手深度集成。谷歌強烈反對,稱此舉危及隱私和安全。

  • 歐盟要求谷歌允許第三方AI助手在Android設備上替代Gemini,並可代表用户執行操作。
  • 谷歌必須匿名化搜索數據並共享給其他搜索引擎和AI聊天機器人,以促進競爭。
站內正文

解析Google DeepMind的AI生物彈性計劃

Google DeepMind與Isomorphic Labs發佈了一項生物彈性計劃,旨在防止AI在生物學領域的濫用,同時協助疫情應對。該計劃在過去一年已建立超過15個合作伙伴關係,涵蓋政府機構、生物安全組織和研究團體。

  • 計劃基於三大支柱:防止濫用、加速檢測、及時應對。
  • 與勞倫斯利弗莫爾國家實驗室、英國AI安全研究所等機構合作。
站內正文

Agent評估差距:企業AI組織存在現實對齊問題而非覆蓋問題——但多數仍將產品推向生產

VentureBeat Pulse Research對157家企業進行調研,發現組織在賦予AI Agent更多自主權的同時,對用於把關的評估的信任度卻在下降。50%的組織曾部署通過內部評估但在客户面前失敗的Agent;僅5%完全信任自動化評估;最主要的問題在於評估與現實結果不一致。然而,三分之二的組織已經允許或正在構建完全自動化(無人工干預)的部署流程。評估差距——自主權與信任之間的距離——正在擴大。

  • 50%的企業曾部署通過評估但在客户面前失敗的Agent,25%發生過多次。
  • 僅5%的企業完全信任自動化評估,主要限制是評估與現實結果不一致。
站內正文

AI供應商找到了基礎設施費用的買單者:你

Forrester警告稱,隨着AI供應商通過漲價和按使用量收費將基礎設施成本轉嫁給客户,明年的軟件預算將大幅增長。報告指出,Anthropic、OpenAI、GitHub和微軟等公司已轉向基於使用量的計費模式,導致企業成本擔憂。同時,儘管存在“AI裁員”現象,IT人員支出並未下降,2025年仍佔IT預算的35%。Forrester建議企業調整FinOps實踐以管理不可預測的AI成本。

  • Forrester預測AI供應商將通過漲價和按使用量收費轉嫁基礎設施成本,推高軟件預算。
  • Anthropic、OpenAI、GitHub和微軟等公司已轉向基於使用量的計費模式。
站內正文

青少年為何應獲得安全的人工智能

OpenAI 正在通過適齡保護、學習工具、家長控制和專家合作,讓 ChatGPT 對青少年更安全。

  • OpenAI 推出針對青少年的安全措施,包括內容過濾和敏感話題限制。
  • 提供學習輔助工具,幫助青少年有效利用 AI 進行教育。
站內正文

馬斯克的xAI起訴用户涉嫌使用Grok生成兒童性虐待材料

埃隆·馬斯克的AI初創公司xAI起訴一名南卡羅來納州男子,指控其利用公司AI系統Grok生成兒童性虐待材料,這是AI公司首次因其用户涉嫌生成此類內容而提起訴訟。

  • xAI起訴用户Terry Harwood,他今年早些時候因性侵未成年人被捕。
  • 訴訟指控Harwood違反服務條款,使用Grok創建兒童性虐待材料。
站內正文

使用Pi編程代理

本文介紹了Pi,一款極簡的AI編程代理,專注於核心功能並通過擴展點增強。文章討論了其設計理念、安裝過程、以及如何構建自定義擴展,並評估了其在實際使用中的優勢。

  • Pi是一款極簡的編程代理,旨在對抗AI編程工具中的臃腫。
  • 它僅提供四種核心工具:讀取、寫入、編輯和bash,並鼓勵用户自行構建擴展。
站內正文

主題導航

政策 — AI 主題新聞 | AI News Hub