AI News HubLIVE

政策動態

專為AI代理打造的瀏覽器自動化CLI工具

BrowserAct是一個瀏覽器自動化CLI,專為AI代理設計,能夠突破反爬蟲封鎖、支援人工接管、並行任務無干擾,並隔離多個賬號。它透過環境層、執行層和人工層三層機制突破封鎖,提供三種瀏覽器模式,並針對LLM推理最佳化輸出格式。

  • 三層突破機制:環境層(指紋偽裝、TLS輪換)、執行層(自動驗證碼、提取)、人工層(遠端協助)。
  • 三種瀏覽器模式:複用本地Chrome、隱身隱私模式、隱身固定身份模式。
站內正文

5個免費的智慧體AI學習資源

本文介紹了五個免費的智慧體AI學習資源,涵蓋從入門到理論、從實踐到評估的各個方面,幫助學習者深入理解並有效構建智慧體。

  • 微軟的《AI Agents for Beginners》課程提供結構化學習路徑,涵蓋基礎到高階模式。
  • Hugging Face的智慧體課程強調動手實踐,對比多種框架。
站內正文

針對國家審查的通用人工智慧倫理標準提案

最近對不同國家AI模型的測試顯示嚴重的地域審查現象。作者提議建立自願的國際認證標準,以優先考慮事實而非政治利益。

  • 來自印度、中國、歐洲和美國的AI模型在歷史、種姓、生物學和移民等話題上表現出不同的審查方式。
  • 當前審查由法律恐懼和意識形態控制驅動,降低AI的真實性。
站內正文

代理開發的合理規格程度

本文探討了在代理開發中規格說明的必要性,指出零規格和過度規格都有成本,最佳平衡點取決於任務型別,並強調了規格驗證和可執行測試的重要性。

  • 零規格看似高效,實則隱藏了糾正迴圈的成本。
  • 適度的規格結合可執行檢查能降低總成本。
站內正文

改變我對AI在軟體工程中看法的五項研究

本文總結了五項最近關於AI在軟體工程領域的研究論文,這些論文共同揭示了AI正在壓縮軟體工程的上游工作,但下游瓶頸隨之出現。主要發現包括:GitHub Copilot使PR吞吐量增加約40%,且呈劑量反應關係;AI在程式碼生成階段的增益(高達+180%)在交付過程中大幅衰減(最終僅+30%的釋出量);生產力與開發者體驗出現脫鉤;開發者希望AI更多用於驗證任務而非程式碼生成;以及“認知債務”和“意圖債務”正在成為新的軟體健康問題。

  • GitHub Copilot的劑量反應分析顯示,高使用率時PR吞吐量提升約40%,且效果在大型PR中更顯著。
  • AI在程式碼生成階段的增益在交付過程中逐步衰減,最終對釋出量的影響僅為+30%。
站內正文

太空程式設計、AI-XR 和開發者的新互動正規化

JetBrains 研究團隊探討了 AI 與擴充套件現實(XR)結合如何為技術創作者帶來新的互動正規化。透過專家訪談,他們總結了五個主題:人類如何向 AI-XR 系統傳達意圖、AI 如何使 XR 環境理解並適應個人、阻礙 XR-AI 主流化的因素、AI-XR 如何改變創作方式,以及隱私和倫理風險。研究指出,XR 硬體和 AI 的融合將徹底改變技術創作,但面臨技術、認知和組織上的挑戰。

  • AI 與 XR 的融合可能帶來 60 年來首次人機互動革命。
  • 研究透過 13 位專家訪談,確定了五個核心主題。
站內正文

結構化分塊、預嵌入SQLite語料庫:歐盟AI法案

該資料集提供了一個歐盟AI法案(法規(EU) 2024/1689)的單檔案、預嵌入SQLite語料庫,按法律結構分塊(每條款段落、每序言、每附件點、每第3條定義),包含BGE-M3密集嵌入、後設資料、風險等級標籤等,可直接本地查詢,用於研究與工程。

  • 包含933個分塊:180條序言、522個條款段落、68個第3條定義、163個附件點
  • 使用BGE-M3嵌入(1024維浮點數,L2歸一化),支援語義搜尋
站內正文

羅伯特·萊德洛:《現實吞噬者》專輯評論

這張NMC首秀專輯展示了萊德洛將科學與古典音樂融合的複雜而富有想象力的作品,包括以愛因斯坦場方程為靈感創作的鋼琴協奏曲《扭曲》。

  • 萊德洛的專輯《現實吞噬者》探索了愛因斯坦場方程、牛頓萬有引力定律和人工智慧等主題
  • 鋼琴協奏曲《扭曲》提出了一種對愛因斯坦場方程的音樂解答
站內正文

歐盟迫使谷歌共享搜尋資料並向競爭對手AI公司開放安卓系統

歐盟釋出兩項新規,要求谷歌共享搜尋資料並開放安卓系統,以便競爭對手AI公司能公平接入。此舉旨在打破科技巨頭的數字壟斷,促進創新,但谷歌警告可能會危及使用者隱私和資料安全。

  • 歐盟要求谷歌分享匿名化搜尋資料,並允許第三方AI助手在安卓裝置上以同等水平執行。
  • 谷歌需在2027年1月前開始與競爭對手共享搜尋資料,並允許語音啟用和後臺任務執行。
站內正文

力量永不嫌晚: 利用反應式力注入加速VLA後訓練

本文提出LIFT框架,透過在預訓練視覺-語言-動作(VLA)策略後訓練中注入反應式力,解決接觸場景下純視覺方法失敗的問題。LIFT嫁接反應式動作專家,利用因果力記憶和零初始化交叉注意力注入6D力,並結合線上DAgger迴圈應對分佈偏移。在毛巾摺疊、書籍插入和漢諾塔放置任務中,LIFT相比純視覺後訓練學習更快、效能更高。

  • LIFT為VLA策略新增接觸反應能力,同時保留通用操作知識。
  • 透過反應式動作專家、因果力記憶和線上DAgger迴圈實現力反饋注入。
站內正文

語義音訊驅動的動態人形全身控制

本研究提出了一種新穎的多模態編排框架,實現語義音訊驅動的人形機器人控制。系統透過音訊指紋和語義嵌入即時處理音樂或語音輸入,動態選擇並執行動作策略,在模擬和Unitree G1人形機器人上驗證了魯棒的模擬到現實遷移。

  • 提出語義音訊驅動的人形全身控制框架,支援即時自主運動技能選擇。
  • 系統區分音樂和語音輸入,分別採用音訊指紋和模仿學習技能庫進行對映。
站內正文

具有不確定關節剛度的電機位置控制柔性關節機器人的自適應控制

研究人員提出一種針對柔性關節機器人的自適應控制方法,以應對不確定的關節剛度。該方法透過隱式控制律和依賴於控制輸入的迴歸矩陣,線上更新每個關節的非線性扭矩-偏轉關係估計,並分析了其對電機位置控制器誤差的魯棒性。在具有非線性剛度特性的柔性關節上的實驗結果驗證了該方法的有效性。

  • 柔性關節機器人的模型控制依賴於精確的剛度模型,但實際中這些模型常因工況和老化而不可用。
  • 提出的自適應控制方法線上更新不確定的非線性扭矩-偏轉關係。
站內正文

SD-MAR:透過合成資料和強化學習實現多影像分析推理

SD-MAR是一個用於訓練和評估視覺語言模型(VLM)在多影像分析推理任務上的框架。它透過受控擾動構建成對視覺場景,並生成涉及語義變化歸因和定量比較的推理任務。採用GRPO-lite與後向折扣分配(BDA)的強化學習方法,去除KL正則化以增強策略最佳化。在Qwen2.5-VL-7B和InternVL3-8B上的實驗表明,域內準確率提升高達36.95%,且Qwen2.5-VL-7B在SD-MAR基準上超越GPT-4.1。域外泛化效能保持或提升,在MME、MMMU-Pro、MathVista上波動在1%以內,在MMBench上提升達4%。

  • 提出SD-MAR框架,透過合成資料生成多影像分析推理任務。
  • 採用GRPO-lite與BDA強化學習方法,聚焦後期推理步驟。
站內正文

推理時概念抑制與面向影片的文本到影片模型評估

本文提出SIRUS,一種無需訓練的推理時框架,用於文本到影片(T2V)模型中的概念級遺忘。SIRUS透過定位與目標概念相關的提示證據並在取樣過程中抑制其表達,無需更新文本編碼器或去噪網路。同時,引入面向影片的評估框架,分別測量目標遺忘、非目標保持、影片質量、越獄魯棒性和效率。在CogVideoX上,SIRUS在五個安全、物體和風格概念上平均遺忘成功率達70.4%,幀命中率25.7%,優於VideoEraser的44.4%和47.2%,並將VBench質量平均下降從-0.043降至-0.016。在Wan2.2上的遷移實驗表明SIRUS可泛化至現代T2V骨幹網路。

  • SIRUS是一種無需訓練的推理時概念遺忘框架,透過定位並抑制提示中的目標概念實現T2V模型控制。
  • 提出面向影片的評估體系,分別衡量遺忘、保持、質量、魯棒性和效率。
站內正文

持續提示:評估視覺語言模型中的重複蘇格拉底式提問

研究提出JKP框架,透過重複挑戰性提問評估視覺語言模型的穩定性。測試GPT-4o、Gemini 2.5 Pro和Qwen3-VL-30B發現,模型在持續追問下表現不穩定,答案頻繁翻轉,且不同模型響應模式各異。

  • JKP框架透過三種策略(對抗性否定、純蘇格拉底式質詢、上下文感知蘇格拉底式總結)對VLM進行最多10輪追問。
  • 在STAR基準測試中,模型總體準確率變化不大,但軌跡分析顯示大量答案翻轉和不穩定。
站內正文

閉環知識動力學:飽和與逃逸的操作框架

該研究分析了閉環知識系統(如大型語言模型、強化學習)為何在重複內部反饋下趨於飽和,並提出了一個三層次操作框架,透過結構干預實現逃逸。使用李雅普諾夫漂移條件刻畫穩定性,並透過干預引起的吸引子位移和KL下界表徵逃逸。案例研究包括LLM程式碼修復、稀疏獎勵強化學習和貝葉斯最佳化。

  • 閉環系統在重複內部反饋下收益遞減,需外部資訊突破吸引子。
  • 提出三層次框架:知識狀態透過結構引數θ的轉移核演化,結構干預可檢測。
站內正文

多域檢索中的認證域一致性:基於共形風險保證的無標籤逐域汙染控制

本文提出C3R,一種即插即用的控制層,透過推斷域後驗,無需查詢時標籤,在可行時認證逐域汙染預算,否則棄權而非違規。該方法基於風險控制預測集的兩階段方案,保證最困難域汙染減少,實驗表明穩定性好,召回率優於傳統方法。

  • C3R是一種無標籤、逐域汙染控制層,可保證最困難域的汙染減少。
  • 採用兩階段風險控制預測集方案,有限樣本傳輸邊界可估計並支援異構預算。
站內正文

用於閉環1型糖尿病控制的可解釋語言模型

一種名為LLM-T1D的新方法將強化學習與大語言模型相結合,建立了一種可解釋的胰島素泵控制器,用於1型糖尿病,實現了73.5%的時間在目標血糖範圍內,同時提供清晰的解釋。

  • 結合強化學習和大語言模型實現透明決策
  • 微調LLaMA 3.1 8B和Qwen3 8B模型
站內正文

用於搜尋與救援的自主無人機群智慧三級學習架構

一篇新論文提出了一種三級分層學習架構,用於執行搜尋與救援任務的自主無人機群,整合了赫布神經可塑性、基於圖神經網路和行為樹的多智慧體強化學習,以及帶BDI推理和數字孿生的元學習。該框架提供形式化保證,並引入群體元認知。

  • 三級架構靈感來自反射、技能和推理的生物層次。
  • 使用赫布神經可塑性、MARL與GNN/行為樹以及元學習與BDI/數字孿生。
站內正文

透過語義合約重獲對AI生成程式碼的信任

針對AI生成程式碼速度快於人類審查而導致的信任危機,本文提出“語義合約”——一種型別安全、編譯時檢查的藍圖,位於需求與程式碼之間,確保任何實現(無論人工還是AI編寫)的正確性。文章透過排序演算法和電商結賬示例展示了語義合約的構建塊、狀態處理和整合方式。

  • AI程式碼生成速度快,但缺乏可解釋性和可審計性,導致信任危機。
  • 語義合約是一種結構化、可驗證的業務邏輯藍圖,位於需求和程式碼之間。
站內正文

人工智慧的真正瓶頸在於資料交付

企業大規模部署AI時,最大障礙往往是資料從儲存到計算的基礎設施,而非GPU等計算硬體。文章指出,許多組織誤以為效能問題需要更多計算資源,實則根源在於資料飢餓,即資料無法高效、安全、持續地在儲存與計算之間流動。透過引入應用交付控制器實現松耦合架構,以及關注可達性、策略和交付三個維度的韌性,可顯著提升GPU利用率和AI投資回報。

  • AI效能瓶頸常被誤認為計算不足,實則是資料交付基礎設施的制約。
  • 松耦合架構(如引入ADC)可將儲存與計算解耦,提升靈活性和效能。
站內正文

Gradle Technologies 更名為 Develocity

Gradle Technologies 現已更名為 Develocity,專注於 AI 驅動的軟體交付管道治理與效率。公司表示,AI 已將軟體交付瓶頸從人類轉移到管道上。

  • Gradle Technologies 更名為 Develocity,專注於 AI 驅動的軟體交付。
  • AI 已將瓶頸從開發者轉移到管道。
站內正文

Preempt AI v2:AI強大,但也需確保安全

Preempt AI v2 推出,為AI應用提供安全標準,利用ML技術防禦提示注入、越獄和資料洩露。支援多種語言,延遲低於10毫秒,準確率達99.65%。

  • Preempt AI v2 提供針對AI應用的安全防護層,防禦提示注入、越獄攻擊和資料洩露。
  • 採用機器學習模型,檢測準確率99.65%,支援12多種語言和41多種攻擊型別。
站內正文

Meta關閉允許標記Instagram使用者生成其AI影像的功能

Meta推出新AI工具Muse Image後,因允許使用者標記他人賬戶並利用其照片生成AI影像而遭到批評。該公司已停用此功能,但使用者仍需手動關閉許可權以防止照片被用於AI生成。該功能預設開啟,引發隱私擔憂。

  • Meta的Muse Image工具允許使用者透過標記Instagram賬戶生成AI影像,但遭批評後已停用此功能。
  • 使用者需手動在設定中關閉許可權,否則公開照片可能被用於AI生成。
站內正文

VulnHunter:智慧體驅動的AI安全工具

VulnHunter 是一個開源的智慧體AI安全工具,採用攻擊者優先的主動分析方法,直接從原始碼中識別可被利用的漏洞,並提出證據支援的修復方案。它由 Capital One 內部開發並開源,旨在應對現代軟體供應鏈中的安全挑戰。

  • 與傳統被動式SAST掃描器不同,VulnHunter模擬攻擊者思維進行正向分析,減少誤報。
  • 包含假證引擎,主動嘗試否定自身發現的漏洞,確保高優先順序告警的準確性。
站內正文

微軟以企業級規模交付AI代理

微軟的Foundry平臺現已支援超過8萬家企業構建AI代理。在產品副總裁Marco Casalaina的訪談中,他解釋了原型與生產環境代理之間的關鍵差異、代理框架的重要性,以及微軟如何構建上下文層以確保代理的可靠性。

  • 原型代理無法在生產環境中存活,失敗原因通常在於模型之外的框架。
  • 生產環境中,代理的‘框架’(包括執行時、工具、身份層等)與模型本身同等重要。
站內正文

Forall:基於規範驅動、附帶形式驗證的AI程式設計工具

Astrio 推出 Forall(∀),一個透過規範驅動生成程式碼並附帶機器可驗證證明的程式設計助手。支援 CLI 和 MCP 兩種使用方式,目前相容 TypeScript、Java 和 Rust,基於 Apache-2.0 開源。

  • Forall 是一款由 Astrio 開發的程式設計助手,根據使用者編寫的規範自動生成程式碼和形式化證明。
  • 支援 CLI 全功能代理和 MCP 整合(僅驗證)兩種模式。
站內正文

美國版權局:AI生成內容不受版權保護

美國版權局裁定,完全由AI生成的內容不具備版權。一位作者因未保留AI生成的原始草稿,無法證明書中哪些部分由人類創作,面臨版權申請被拒的情況。

  • 美國版權局明確表示,AI生成的材料不能獲得版權。
  • 一位作者因未儲存AI生成的初始內容,導致無法區分人機創作部分。
站內正文

《毀滅戰士》教會了我們什麼:AI輔助事件響應

Rootly AI實驗室開發了《毀滅戰士》競技場(Doom Agent Arena),一個開源即時遊戲環境基準測試,用於測試AI智慧體在事件響應中的推理、適應和決策能力。透過讓LLM控制遊戲角色,研究發現更長的思考時間並不總是帶來更好的結果,智慧體編寫自己的“執行手冊”能夠提高效率,而快速決策雖然不直接決定勝負,但可以累積節省時間。這些發現為設計更高效的AI輔助事件響應系統提供了啟示。

  • 《毀滅戰士》競技場基準測試透過MCP讓AI智慧體觀察遊戲狀態並制定高等級計劃,測試其在動態環境中的推理能力。
  • 研究發現,更長的思考時間並不總是與更好的表現相關;有時延遲是陷入困境的訊號。
站內正文

血染資料中心

本文深入探討19世紀盧德運動的歷史真相,分析其策略、成敗得失,並論證為何現代反AI運動不能簡單效仿盧德主義。作者指出,盧德運動的特定歷史背景、地方性特徵和具體訴求與當前AI擔憂存在根本差異。

  • 盧德運動是19世紀英國紡織工匠對機器自動化的暴力反抗
  • 運動雖被鎮壓,但取得了一些短期勝利並影響了後來的勞工改革
站內正文

MemDecay:區域感知的KV快取淘汰策略,提升LLM代理推理效率

研究提出MemDecay,一種訓練無關的區域感知KV快取淘汰策略,透過為不同語義區域的令牌分配不同優先順序和衰減率,在固定快取預算下保留關鍵資訊。實驗表明,系統令牌的半衰期遠長於暫存區令牌,且固定策略能在全部設定中保持完美準確率,而現有基線最多僅保留13/24。

  • MemDecay利用LLM代理的語義結構進行區域感知快取管理。
  • 系統令牌的半衰期(148-189步)比暫存區令牌(14-16步)長一個數量級。
站內正文

OpenAI 推出 GPT-Red 測試 AI 模型安全

OpenAI 透過 GPT-Red 結合人類與 AI 進行紅隊測試,創新地評估模型安全性,但企業仍需確保模型符合自身業務和安全需求。

  • GPT-Red 結合人類專家和 AI 代理進行紅隊測試
  • 這一方法在模型安全測試中屬首創
站內正文

冷靜應對人工智慧蒸餾行為

本文質疑將中國實驗室大規模蒸餾美國前沿模型視為盜竊的論調,指出現行智慧財產權法不支援這種說法。建議政策應聚焦於保護模型訪問安全,而非擴大智慧財產權保護。

  • 蒸餾在AI開發中常見,不等於竊取模型權重。
  • 大規模蒸餾違反服務條款,但根據現行法律不太可能構成商業秘密盜竊。
站內正文

從實驗到洞察:Dotmatics Luma和Databricks如何讓AI就緒的科學成為現實

Dotmatics Luma與Databricks的整合方案透過持續採集、標準化和治理科學資料,打破儀器資料孤島,構建AI就緒的資料基礎,加速科研洞察。

  • Luma提供科學上下文和儀器連線,Databricks提供企業級儲存、治理和AI工具,互補設計。
  • 透過統一資料管道,實現FAIR合規資料,支援跨實驗模式分析和AI應用。
站內正文

在 Amazon Bedrock 上推出 Grok

xAI 的 Grok 4.3 現已透過 Amazon Bedrock 提供,它具有可配置的推理能力、強大的工具呼叫和指令遵循能力,支援 100 萬個 token 的上下文視窗,適用於代理和企業工作負載。本文介紹了其特性、訪問方式以及基本用法。

  • Grok 4.3 在 Amazon Bedrock 上可用,透過 Mantle 推理引擎以 OpenAI 相容 API 提供。
  • 支援可配置的推理力度(無、低、中、高),可適應不同任務需求。
站內正文

OpenAI詳解GPT-Red:內部自動化紅隊模型在提示注入方面以84%對13%擊敗人類紅隊

OpenAI開發了內部自動化紅隊模型GPT-Red,透過自我對弈強化學習訓練,在間接提示注入測試中以84%的成功率遠超人類紅隊的13%。該模型還發現了一種新型“虛假思維鏈”攻擊,並將GPT-5.6 Sol在最難直接注入基準上的失敗率降低了6倍。但OpenAI承認,在多輪和基於影像的攻擊方面仍需人類參與。

  • GPT-Red是OpenAI內部使用的自動化紅隊模型,透過自我對弈強化學習訓練。
  • 在複製的間接提示注入環境中,GPT-Red對GPT-5.1的攻擊成功率達84%,而人類紅隊僅為13%。
站內正文

AI對私人信貸的顛覆:BDC對軟體公司的風險敞口(國際清算銀行)

國際清算銀行最新公報指出,商業發展公司(BDC)向軟體公司提供了約1150億美元貸款,佔其總貸款的五分之一,佔其快速增長的科技投資組合的80%以上。生成式人工智慧帶來的收入不確定性尚未影響這些貸款,但近期信用利差收窄降低了緩衝能力。

  • BDC對軟體公司貸款約1150億美元,佔科技投資組合的80%以上。
  • 生成式AI尚未影響這些貸款的風險定價。
站內正文

Linus Torvalds 駁斥 Linux 核心程式碼審查中的反 AI 立場

Linus Torvalds 在 Linux 核心郵件列表中明確表態支援 AI 輔助工具,反對禁止 AI 生成程式碼的立場。他稱 AI 是“有用的工具”,並強調 Linux 不是反 AI 專案。此評論源於對 Sashiko 工具(一種多階段程式碼審查工具)的討論,該工具能發現 53.6% 的補丁漏洞,但存在約 20% 的誤報率。Torvalds 指出,AI 工具正在快速進化,並批評了抵制者的態度。

  • Torvalds 支援 AI 輔助程式碼審查工具 Sashiko,反對禁止 AI 貢獻。
  • Sashiko 能發現 53.6% 的補丁錯誤,誤報率在 20% 以內。
站內正文

請停止自動讓我加入AI功能

使用者對科技公司預設開啟AI功能感到不滿,Instagram因預設啟用AI聊天機器人功能而遭到強烈反對,三天後不得不撤回。隱私專家呼籲採用更保護隱私的預設設定,並指出需要聯邦法規來約束企業行為。

  • Instagram預設啟用AI聊天機器人功能,引發使用者強烈反對,三天後撤回。
  • 使用者和企業界人士對預設加入AI功能感到厭倦,認為應預設選擇退出。
站內正文

統一上下文:企業AI同事缺失的關鍵層

AI助手在表層工作迅速普及,但無法改變實際業務決策,因為關鍵上下文分散在各系統與定義中。Databricks推出Genie One與Genie Ontology,透過統一上下文層使AI同事基於共享業務檢視運作,自動繼承治理規則,從而支援真實決策。

  • 企業AI同事需要統一上下文來支援實際決策,而非僅完成簡單任務。
  • Genie One利用統一上下文層在Slack、Teams等工具中提供基於治理資料的答案與行動。
站內正文

紐約州長利用人工智慧分析全州“每一條規則”

紐約州長凱西·霍楚簽署暫停新建AI資料中心的行政令,但同時她正利用AI分析州內所有法規,以刪除過時法律。AI在數月內完成了原本需五年的人工審查,揭示了諸如帶狗打獵需付25美元費用等陳舊規定。紐約成為首個暫停大型資料中心建設的州,以制定保護居民免受公用事業成本上漲和自然資源威脅的法規。

  • 霍楚使用AI稽核全州規則、法規和政策,識別過時立法。
  • AI在幾個月內完成了需要五年的人工審查工作。
站內正文

我開發了一款Mac應用,可將母語草稿轉為地道英語

Echoo是一款Mac AI寫作助手,讓你用母語起草,一鍵轉換為自然英語。它執行在常用Mac應用中,無需複製貼上,保護隱私。提供免費試用,Pro版每月$6.99。

  • Echoo支援在Slack、郵件等Mac應用中直接改寫文本,無需切換視窗。
  • 使用者可在母語中起草,透過快捷鍵快速獲得地道英語翻譯。
站內正文

AI上下文鴻溝:企業AI組織面臨的是信任問題,而非檢索問題——多數仍在構建解決方案

VentureBeat Pulse Research對101家企業的調查顯示,57%的企業在過去半年中遇到過AI代理因上下文缺失或不一致而給出自信但錯誤的答案。檢索增強生成(RAG)已成為預設上下文來源,但提供商原生檢索(如OpenAI檔案搜尋和Google Vertex AI搜尋)已悄然超越專用向量資料庫。然而,多數企業表示傾向於保持最佳元件獨立,而非整合到單一提供商堆疊。混合檢索被期望在2026年底主導,但治理語義層仍在建設中。

  • 57%的企業在半年內遭遇AI代理因不良上下文給出自信但錯誤的答案
  • 提供商原生檢索(OpenAI 40%,Google 38%)已領先專用向量資料庫
站內正文

歐盟迫使谷歌與其它AI和搜尋引擎分享其“玩具”

歐盟委員會發布兩項決定,要求谷歌向競爭對手開放搜尋資料,並增強Android系統AI互操作性,允許第三方AI助手深度整合。谷歌強烈反對,稱此舉危及隱私和安全。

  • 歐盟要求谷歌允許第三方AI助手在Android裝置上替代Gemini,並可代表使用者執行操作。
  • 谷歌必須匿名化搜尋資料並共享給其他搜尋引擎和AI聊天機器人,以促進競爭。
站內正文

解析Google DeepMind的AI生物彈性計劃

Google DeepMind與Isomorphic Labs釋出了一項生物彈性計劃,旨在防止AI在生物學領域的濫用,同時協助疫情應對。該計劃在過去一年已建立超過15個合作伙伴關係,涵蓋政府機構、生物安全組織和研究團體。

  • 計劃基於三大支柱:防止濫用、加速檢測、及時應對。
  • 與勞倫斯利弗莫爾國家實驗室、英國AI安全研究所等機構合作。
站內正文

Agent評估差距:企業AI組織存在現實對齊問題而非覆蓋問題——但多數仍將產品推向生產

VentureBeat Pulse Research對157家企業進行調研,發現組織在賦予AI Agent更多自主權的同時,對用於把關的評估的信任度卻在下降。50%的組織曾部署透過內部評估但在客戶面前失敗的Agent;僅5%完全信任自動化評估;最主要的問題在於評估與現實結果不一致。然而,三分之二的組織已經允許或正在構建完全自動化(無人工干預)的部署流程。評估差距——自主權與信任之間的距離——正在擴大。

  • 50%的企業曾部署透過評估但在客戶面前失敗的Agent,25%發生過多次。
  • 僅5%的企業完全信任自動化評估,主要限制是評估與現實結果不一致。
站內正文

AI供應商找到了基礎設施費用的買單者:你

Forrester警告稱,隨著AI供應商透過漲價和按使用量收費將基礎設施成本轉嫁給客戶,明年的軟體預算將大幅增長。報告指出,Anthropic、OpenAI、GitHub和微軟等公司已轉向基於使用量的計費模式,導致企業成本擔憂。同時,儘管存在“AI裁員”現象,IT人員支出並未下降,2025年仍佔IT預算的35%。Forrester建議企業調整FinOps實踐以管理不可預測的AI成本。

  • Forrester預測AI供應商將透過漲價和按使用量收費轉嫁基礎設施成本,推高軟體預算。
  • Anthropic、OpenAI、GitHub和微軟等公司已轉向基於使用量的計費模式。
站內正文

青少年為何應獲得安全的人工智慧

OpenAI 正在透過適齡保護、學習工具、家長控制和專家合作,讓 ChatGPT 對青少年更安全。

  • OpenAI 推出針對青少年的安全措施,包括內容過濾和敏感話題限制。
  • 提供學習輔助工具,幫助青少年有效利用 AI 進行教育。
站內正文

馬斯克的xAI起訴使用者涉嫌使用Grok生成兒童性虐待材料

埃隆·馬斯克的AI初創公司xAI起訴一名南卡羅來納州男子,指控其利用公司AI系統Grok生成兒童性虐待材料,這是AI公司首次因其使用者涉嫌生成此類內容而提起訴訟。

  • xAI起訴使用者Terry Harwood,他今年早些時候因性侵未成年人被捕。
  • 訴訟指控Harwood違反服務條款,使用Grok建立兒童性虐待材料。
站內正文

使用Pi程式設計代理

本文介紹了Pi,一款極簡的AI程式設計代理,專注於核心功能並透過擴充套件點增強。文章討論了其設計理念、安裝過程、以及如何構建自定義擴充套件,並評估了其在實際使用中的優勢。

  • Pi是一款極簡的程式設計代理,旨在對抗AI程式設計工具中的臃腫。
  • 它僅提供四種核心工具:讀取、寫入、編輯和bash,並鼓勵使用者自行構建擴充套件。
站內正文

主題導航

政策 — AI 主題新聞 | AI News Hub