AI News HubLIVE

政策動態

Phia遭抨擊:隱私越界、全頁HTML捕獲與Cookie填充

Phoebe Gates的AI購物擴展Phia被指控過度收集用户數據,包括全頁HTML捕獲和Cookie填充,引發隱私擔憂。

  • Phia AI購物擴展被曝存在隱私越界行為
  • 該擴展可捕獲用户訪問的完整頁面HTML
站內正文

AI智能體爬蟲現在需要許可:如何獲取

Cloudflare將於9月15日起默認阻止AI智能體爬蟲訪問廣告支持的頁面,將爬蟲分為搜索、智能體和訓練三類。此舉迫使AI公司重新協商訪問權限,並催生了按使用付費模式。

  • Cloudflare將AI爬蟲分為搜索、智能體和訓練三類,並默認阻止後兩類在廣告頁面上的訪問。
  • 從9月15日起,新接入Cloudflare的域名和現有免費用户將自動適用新默認設置。
站內正文

DiscoMCP – 將未知的MCP轉化為AI代理可重複使用的操作技能

DiscoMCP是一個開源工具,通過分析用户的實際使用模式,將任意MCP服務器轉化為AI代理可用的定製技能,而非通用工具列表。它保證只讀操作,一鍵啓動,並顯著減少代理與複雜服務器交互的往返次數。

  • DiscoMCP通過分析用户工作流生成定製技能,而非列出所有工具。
  • 默認只讀,拒絕任何寫入或修改操作,保護生產環境安全。
站內正文

AI輔助開發中的前端驗證差距

AI工具能快速生成看似完整的前端界面,但在可訪問性、鍵盤導航、焦點管理、錯誤處理等關鍵方面常常存在不足。文章指出,團隊需要更強的驗證流程,包括使用設計系統和明確提示,並測試用户實際行為而非僅檢查渲染結果。

  • AI生成的前端代碼外觀完整,但可能存在可訪問性、焦點管理等隱藏問題。
  • 開發團隊應通過持久化指令和任務特定提示明確工程期望。
站內正文

Plumrocket AI Connector 擴展

AI Connector 是一個 Magento 2 擴展,充當商店與大型語言模型之間的統一橋樑,支持 Claude、ChatGPT、Gemini 等,通過單一 REST API 和 PHP 集成層提供 AI 功能。

  • 通過單一接口連接多個 AI 提供商,如 Claude、ChatGPT、Gemini
  • 支持 OpenRouter,可訪問 60+ 提供商和 400+ 模型
站內正文

從待辦清單到AI代理

本文探討了如何將傳統的待辦清單演變為智能AI代理,通過自動化任務管理和決策來提升效率。

  • 傳統待辦清單無法適應複雜任務管理
  • AI代理能夠自主執行和優化任務
站內正文

人工智能與達克效應:不再彌合的能力鴻溝

本文探討了在AI時代,達克效應(能力認知差距)如何被放大。作者假設AI提升了人們的自信,並將真實能力分為“有工具”和“無工具”兩種,導致原本隨經驗而彌合的差距不再消失。這對企業而言,內在能力從生產力問題轉變為治理問題,且會在不知不覺中侵蝕。

  • AI使初學者產出看似專業的成果,提升自信,但隱藏了失敗,阻斷了經驗教訓的傳遞。
  • 真實能力分裂為“輔助能力”和“內在能力”,後者在缺少工具時顯現,且隨代際可能更弱。
站內正文

TactiDex:面向類人靈巧操作的真實世界觸覺引導基準

TactiDex是一個真實世界的觸覺引導基準,旨在推動靈巧操作超越運動學模仿,實現接觸級別的類人操作。它提供了整合全手觸覺信號與多粒度運動學和物體狀態的數據集,並提出了基於觸覺獎勵的TactiSkill框架,在單雙手任務中表現出色。

  • TactiDex提供了對齊全手觸覺信號與運動學和物體狀態的數據集及評估指標。
  • 提出TactiSkill框架,利用三組件觸覺獎勵實現人類演示到機器人執行的轉化。
站內正文

FlowDAgger:潛在空間中生成式機器人策略的人機協同自適應方法

FlowDAgger是一種樣本和計算高效的方法,通過人類干預在潛在空間中自適應凍結的生成式機器人策略。其核心思想是動作反演,將人類專家動作映射為在基礎策略下產生該動作的噪聲,然後訓練輕量級潛在策略來引導基礎模型。該方法在仿真和真實雙機械臂及單臂操作任務中均優於監督微調和潛在空間強化學習基線,並能保留預訓練技能。

  • FlowDAgger通過人類干預在潛在空間中自適應預訓練的生成式機器人策略,避免大規模數據收集或在線強化學習。
  • 採用動作反演技術,將人類專家動作轉換為噪聲,從而訓練輕量級潛在策略來調整基礎模型。
站內正文

AgenticFocus: 從人類第一人稱視頻中保留物體的混合現實合成以用於靈巧類人機器人學習

AgenticFocus是一種混合現實合成流程,將普通的第一人稱視頻轉換為機器人可訓練的演示,通過恢復被遮擋的物體幾何、重建全手運動並重新定位到人形機器人,實現了更低的軌跡誤差和更平滑的手腕運動。

  • AgenticFocus通過混合現實合成將普通人類第一人稱視頻轉換為機器人訓練數據。
  • 該流程克服了手-物體遮擋、簡化運動等問題,無需專門硬件。
站內正文

C-GAP:類別感知與在線提示提升視覺語言模型在不平衡類別上的性能

C-GAP是一種新型框架,通過使用大語言模型(LLM)迭代優化語言提示,無需重新訓練或額外標註,即可顯著提升視覺語言模型對稀有類別的檢測能力。該方法由兩階段組成:首先建立複合字幕基線,結合場景描述與類別數量上下文;其次,LLM基於少數類平均精度(AP)動態閾值,逐個圖像地優化字幕,直至達到足夠的性能增益。實驗表明,C-GAP在多個基準上將少數類平均精度提升高達53%,在COCO數據集上相對基線提升約81%。

  • C-GAP採用了兩階段方法:複合字幕基線與LLM迭代優化。
  • 無需更新檢測器權重或額外標註,即可顯著提升少數類檢測性能。
站內正文

AgentKGV: 面向知識圖譜事實驗證的智能LLM-RAG框架與兩階段訓練

知識圖譜自動構建中常含事實錯誤,AgentKGV提出結合動態路由與迭代查詢重寫的智能LLM-RAG框架,並通過兩階段訓練(基於蒸餾的SFT和軌跡級GRPO)提升準確性與成本效率。在T-REx基準上,宏F1比單輪RAG提升14.9個百分點,搜索調用次數減半。

  • 提出AgentKGV框架,利用動態路由和迭代查詢重寫處理文檔級檢索中的表面形式不匹配問題。
  • 兩階段訓練策略:蒸餾SFT將大模型推理能力遷移至小模型,GRPO優化搜索策略減少不必要的檢索。
站內正文

MedRealMM:面向中文在線醫療諮詢的真實世界多模態基準

MedRealMM是一個基於中國互聯網醫院真實醫患對話的大規模多模態基準,包含5,620個案例,覆蓋64個科室。它通過多模態臨牀挑戰點(MCCP)框架提取關鍵臨牀時刻,並評估19個通用和醫學專用大語言模型。結果表明,圖像信息對臨牀性能至關重要,當前前沿模型雖在某些正面指標上接近醫生,但觸發更多負面指標,安全敏感性錯誤避免仍是主要瓶頸。

  • MedRealMM從中國互聯網醫院收集真實醫患對話,構建了5,620個多模態案例,涵蓋64個科室。
  • 採用多模態臨牀挑戰點(MCCP)框架識別諮詢中臨牀要求高的時刻,並生成標準化任務。
站內正文

L-MAD:法律推理中多智能體辯論結構的系統評估

L-MAD框架系統評估了多智能體辯論在法律文本藴含任務中的不同結構與聚合方法。通過賦予智能體不同專家角色,相比強單智能體基線最高提升8%。研究發現增加智能體數量可降低不一致性並提高準確率,但延長討論輪次會導致“過度審議漂移”,智能體互相強化錯誤。該成果為高風險法律推理中協同多智能體系統的部署劃定了實際邊界與安全裕度。

  • 提出L-MAD框架,系統評估多智能體辯論在法律推理中的效果。
  • 分配專家角色使性能比單智能體提升最多8%。
站內正文

神經代理控制:一種基於深度學習的LLM驅動代理AI框架用於控制安全控制器

本文介紹了一種神經代理控制框架,結合LLM規劃器與時間序列基礎模型(TimesFM),通過反事實物理注入機制確保物理安全,在SWaT數據集上表現優於LSTM和TCN,零幻覺動作執行。

  • 提出神經代理控制框架,結合LLM規劃器與TimesFM基礎模型。
  • 引入反事實物理注入機制,在動作執行前模擬干預影響並拒絕不安全動作。
站內正文

ARCANA:一種用於ARC-AGI-2推理的反思性多智能體程序合成框架

ARCANA是一種協作式多智能體框架,用於在嚴格的測試時間和硬件約束下解決ARC-AGI-2任務。它將每個任務分解為迭代感知、假設生成、符號執行和反思性改進,通過共享可微分黑板和元控制器調度,結合結構化程序搜索與自適應多輪校正,顯著提升了抽象變換任務的推理效率和解決方案質量。

  • ARCANA採用多智能體協作框架,通過感知、假設、執行和反思四個階段解決ARC-AGI-2任務。
  • 框架包含感知基礎智能體、潛在程序策略、符號執行器和反思智能體,共享可微分黑板並受元控制器調度。
站內正文

弗拉索夫方程平均場推導的形式化:AI輔助的Lean形式化作為策略遊戲

研究人員將Vlasov方程平均場推導的形式化過程重構為一場策略遊戲,由數學家指導AI系統將LaTeX文檔轉化為Lean 4證明助手代碼。該案例成功完成了非線性Vlasov方程適定性問題的完整形式化,包括存在性、唯一性、穩定性估計和平均場極限,以及短時間疊加原理。其中約六分之一的形式化代碼可作為獨立模塊被數學庫複用。核心定理約一週完成,整個開發約一個月。

  • 形式化過程被框架化為策略遊戲,數學家負責指導,AI執行
  • 成功在Lean 4中形式化非線性Vlasov方程的適定性問題
站內正文

通過格遍歷實現多層感知器的區間認證

本文提出了一種針對人工智能安全基礎問題——對抗魯棒性的嚴格理論框架,將對抗魯棒性問題轉化為格遍歷問題。引入聲音認證和完全認證兩種區間認證,開發了格遍歷算子,並揭示了優化複雜性的不對稱性:完全認證可在多項式時間內求解,而聲音認證具有強難解性。最後通過ParallelepipedoNN系統進行了實證評估。

  • 將多層感知器的對抗魯棒性歸結為區間上的格遍歷問題。
  • 聲音認證保證在區間內預測不變;完全認證保證區間外預測變化。
站內正文

新方法旨在保護兒童免受非法AI生成內容的侵害

麻省理工學院和Thorn的研究人員開發了一種審計技術,通過分析模型的內部調整而非生成輸出,來檢測生成式AI模型是否被專門用於生成兒童性虐待材料(CSAM)。該方法在測試中達到100%準確率,具有可擴展性,且成本低廉,有望幫助平台和執法機構識別並移除有害模型。

  • 新審計方法通過高斯探測分析LoRA適配器,無需生成任何內容即可檢測模型是否具備生成CSAM的能力。
  • 在測試中,該方法以100%的準確率識別出被專門用於生成CSAM的模型變體。
站內正文

中國配音演員被迫證明自己是人類,對抗AI克隆

31歲的配音演員沈安宇因AI克隆其聲音而面臨職業危機。AI語音複製品大量出現在網絡上,導致平台將其真實錄音誤標為合成內容,影響收入。他與妻子花大量時間追蹤侵權內容,但維權困難。AI語音克隆工具正在衝擊中國短劇、有聲書和短視頻行業,許多配音演員遭遇類似困境,收入下降,職業前景堪憂。

  • 沈安宇的AI克隆聲音廣泛傳播,平台誤標其真實錄音,導致收入減少。
  • 他和妻子投入大量時間收集證據、聯繫上傳者、準備法律訴訟。
站內正文

Show HN: Baton – 知道你哪個AI編碼代理需要你

Baton 是一款 macOS 菜單欄工具,可以監控 Claude Code 和 Codex 等 AI 編碼代理,實時顯示等待你處理的會話數量。它利用 FSEvents 實現即時更新,並支持點擊跳轉到特定會話。

  • 在 macOS 菜單欄中實時顯示待處理的 AI 代理會話數量。
  • 支持 Claude Code 和 Codex,按工具和狀態分組顯示。
站內正文

Tinier – 在瀏覽器中100%實現圖像壓縮、轉換和AI放大

Tinier 是一套免費的瀏覽器內媒體工具,支持圖像壓縮、格式轉換、AI 放大和視頻轉 GIF,所有處理均在本地設備完成,無需上傳文件,保護隱私。

  • 所有工具完全在瀏覽器內運行,使用 WebAssembly 和 WebGPU 技術,無需上傳文件。
  • 支持圖像壓縮(最高減少70%大小)、格式轉換(JPG/PNG/WebP/SVG)、視頻轉 GIF 和 AI 放大(Real-ESRGAN)。
站內正文

OneDev AI:將AI作為團隊成員融入問題、拉取請求和CI

OneDev 將 AI 用户嵌入到開發平台中,使其能夠像團隊成員一樣處理問題、提交拉取請求、參與代碼審查以及響應 CI/CD 失敗。這種集成方式保持了需求、實現和審查在同一平台中可見,提高了透明度和問責性。

  • AI 用户可以直接在 OneDev 中處理分配的問題、創建拉取請求並根據反饋進行迭代。
  • 問題作為唯一真實來源,包含需求、附件和討論,AI 據此工作。
站內正文

AI代理初創公司使用自己的AI代理主導1億美元融資

總部位於新澤西州澤西城的初創公司Lyzr利用其AI代理系統SivaClaw成功完成了1億美元的B輪融資。該系統處理了130多名投資者的提問,起草了投資備忘錄,並跟蹤了投資者對演示文稿的關注點,從而證明了產品的實用性。

  • Lyzr使用其AI代理SivaClaw完成了1億美元的B輪融資。
  • SivaClaw處理了130多名投資者的提問並起草了投資備忘錄。
站內正文

Show HN:面向AI代理和團隊的協作上下文記憶平台

xysq.ai是一個協作記憶平台,為AI原生團隊和企業構建。它連接多種AI工具和應用程序,從團隊工作流中捕獲上下文,構建動態知識圖譜,並在AI代理需要時提供正確的上下文。支持團隊記憶隔離、基於角色的訪問、文檔組織,並承諾不將用户數據用於訓練。

  • xysq.ai作為AI代理和團隊的協作記憶層,連接Slack、Gmail、GitHub等工具。
  • 捕獲事件、流程和語義三種記憶類型,構建動態知識圖譜。
站內正文

您現在可以在Chatbrat上創建和與AI媽媽聊天

Chatbrat.ai 提供免費、安全的AI媽媽聊天機器人,無需下載或註冊。用户可以創建自定義角色,擁有持久記憶和個性化性格,適用於聊天、角色扮演和遊戲場景。文章介紹了功能、優勢及與同類產品的對比,並強調其作為情感陪伴而非替代真實親人的定位。

  • Chatbrat.ai 提供免費、無需註冊的AI媽媽聊天機器人,支持在瀏覽器中直接使用。
  • 用户可以自定義角色的性格、記憶和對話方式,打造專屬的AI媽媽。
站內正文

SelfAssay:個人生物黑客決策支持平台

SelfAssay是一個整合同行評審研究、真實世界報告和知識圖譜的平台,為生物黑客提供基於證據的決策支持,通過交叉驗證和校準信心來評估化合物效果。

  • 平台整合超過114,000項研究和181,000份真實世界報告,提供可追溯的引用來源
  • 通過交叉驗證不同來源的信號,呈現一致性和衝突
站內正文

AI是新式印刷機(又一個陳詞濫調)

作者將人工智能比作印刷機,認為AI並非創造了新的信息生成方式,而是大幅提升了信息生成和重組的效率。通過空氣動力學類比,解釋了AI如何通過規模定律逼近人類智能,並預測AI可能像語言一樣對人類大腦產生深遠的生物學影響。

  • AI與印刷機一樣,沒有發明信息本身,而是使信息傳播和生成變得極其高效。
  • AI通過數據、模型和計算規模的擴展來近似人類智能,而非模仿人類思維。
站內正文

AI會毀掉我的“算法一百天”嗎?

八年前,作者開始了“算法一百天”挑戰,通過手寫代碼學習算法。如今回顧,項目存在諸多缺陷,如最大流算法不完整、圖算法錯誤等。作者反思,若當年有AI輔助,可能會促進學習但也可能導致走捷徑。最終決定保留代碼作為歷史記錄,並更新README。

  • 作者八年前啓動“算法一百天”挑戰,手寫實現算法以鞏固學習。
  • 項目經GPT-5.6審核,發現多處實現有缺陷,如最大流存根、BFS行為異常等。
站內正文

愛思唯爾全球調查:3000名研究人員僅不到一半有足夠時間做研究,但認為AI可帶來變革

愛思唯爾發佈《未來研究者》報告,基於對113個國家3200多名研究人員的調查,揭示研究人員面臨時間不足、資金壓力等挑戰,但AI工具採用率從2024年的37%躍升至58%。中國研究人員對AI的信心遠高於美國和英國。同時,研究人員的國際流動意願下降,但跨學科合作增加。

  • 僅45%的研究人員有足夠時間做研究,68%表示發表壓力增大。
  • AI工具使用率從2024年的37%增至58%,但僅32%認為機構有良好AI治理。
站內正文

AI的記憶。在你的機器上,由你掌控。

exxperts 是一個本地優先的智能體運行時,提供持久的 AI 房間,帶有受管控的、需審批的記憶功能。所有內容都在本地運行,數據以文件形式存儲在你的磁盤上,確保隱私和控制權。它提供 Web 應用和 CLI/TUI 兩種界面。

  • exxperts 提供持久 AI 房間,記憶寫入需用户審批,用户完全控制 AI 的記憶。
  • 所有數據都存儲在本地,位於 ~/.exxperts 目錄下,無遙測數據。
站內正文

開源模型只剩下6個月的生命?

當前開源AI面臨着最嚴峻的生存考驗。白宮正討論通過行政命令限制開源模型,特別是針對中國模型和政府用途。同時,蒸餾和前沿能力的政策討論正在同時進行,可能導致在未來6個月內禁止或推遲開源模型。文章批評了Anthropic的監管捕獲行為,認為蒸餾問題的解決方案實際上有利於推動者。API並不比開源模型更安全,而全面禁止開源模型並非良策。開源社區需要團結一致,積極遊説,確保安全部署。

  • 白宮討論通過行政命令限制開源模型,可能在未來6個月內禁止或推遲達到GPT-5.5或Claude Opus 4.8能力水平的開源模型。
  • 蒸餾爭論本質上是監管捕獲,Anthropic藉此推動有利於自己的政策,而非真正解決安全問題。
站內正文

一步陷阱(人工智能研究中的常見錯誤)

在人工智能研究中,一步陷阱是指錯誤地認為所有或大多數學習到的預測可以是一步預測,而長期預測可以通過迭代一步預測得到。雖然這種想法吸引人,但由於誤差累積和計算複雜性問題,在實踐中往往效果不佳。本文分析了這一陷阱及其危害,並提出了使用時間抽象模型(如選項和GVF)的解決方案。

  • 一步預測的微小誤差會在迭代過程中累積,導致長期預測嚴重失真。
  • 在隨機環境中,長期預測的計算複雜度隨預測長度呈指數增長,難以實現。
站內正文

Windows 11 Copilot 告訴你什麼拖慢了電腦,而它自己卻佔用1GB內存

微軟正在測試Copilot的“PC Insights”功能,可以分析系統資源使用情況,幫助用户找出性能瓶頸。然而,Copilot本身是一個完整的Web應用,附帶私人版Edge,空閒時佔用高達1GB內存,凸顯了其資源消耗的諷刺性。該功能為可選,默認不自動掃描,用户需授予權限。

  • Copilot新增“PC Insights”功能,可讀取CPU、內存、存儲等系統信息並回答相關問題。
  • 功能為可選,需用户授權,不會在後台自動掃描。
站內正文

利用AI讓歷史講述銀行擠兑的故事

研究人員編制了1863-1934年間超過3000次銀行擠兑的數據庫,發現大多數擠兑並未導致銀行倒閉,並分析了時空模式。

  • 大多數銀行擠兑並未導致倒閉。
  • 銀行擠兑在1873、1893、1907和大蕭條等重大危機期間激增。
站內正文

三星強制用户分享健康數據訓練AI,否則無法正常使用

三星健康應用新增AI訓練數據共享要求,用户若不授權則無法同步健康數據,可能導致手錶功能受限。

  • 三星健康應用要求用户同意使用個人健康數據訓練AI模型,否則無法同步數據。
  • 數據包括活動、健康記錄、藥物和月經週期,可能有人工審查。
站內正文

蘋果起訴OpenAI竊取商業機密

蘋果公司指控OpenAI及其兩名前蘋果員工竊取商業機密,用於開發ChatGPT硬件設備。訴訟稱這是“機構層面的協調不當行為模式”,OpenAI否認並表示沒有興趣竊取其他公司的機密。

  • 蘋果起訴OpenAI竊取商業機密,涉及前員工唐探和劉暢。
  • OpenAI否認指控,稱仍在審查訴訟文件。
站內正文

Linux of AI:減少AI供應商鎖定的開源工具集

Linux of AI是一個由七個開源項目組成的生態系統,旨在幫助組織構建可移植、可審計、可衡量且不依賴於單一供應商的人工智能基礎設施。它通過提供便攜式本體、策略代碼、模型替換基準測試、審計日誌、成本測量等工具,解決供應商鎖定、成本不可預測、治理薄弱等問題。該項目採用MIT許可證,所有核心軟件免費開源。

  • 一個包含七個開源項目的生態系統,用於減少AI供應商鎖定。
  • 提供便攜式本體、治理策略、模型替換、審計日誌和成本測量工具。
站內正文

完美命中錯誤目標:AI代碼評審基準的故事

本文深入分析了AI代碼評審基準的侷限性,指出其未能從第一性原理定義問題,忽略了AI代碼評審已分化為人類理解和機器驗證兩個不同問題。作者Shrijith Venkatramana認為,基準衡量的是代理指標而非軟件實際成果,並強調了生產結果和嚴重性的重要性。

  • AI代碼評審基準看似客觀權威,但缺乏對問題本質的深入定義。
  • AI代碼評審實際包含兩個不同問題:人類理解(優先級推薦)和機器驗證(自動化修復)。
站內正文

令人印象深刻的AI演示已死:真正進入生產的是什麼

AI項目在演示階段後常常停滯。康fluent的2026年數據流報告顯示,只有32%的組織將代理AI投入生產,數據基礎設施和技能短缺是主要障礙。實時數據管道和治理對於生產級AI至關重要。

  • 僅32%的組織報告代理AI已投入生產。
  • 數據基礎設施和質量是AI成功的主要障礙。
站內正文

AI數據中心的鬥爭才剛剛開始

近年來,AI數據中心因高能耗和環境問題引發廣泛抗議。從2015年蘋果在愛爾蘭的數據中心項目受阻,到如今美國各地社區反對新建項目,民眾、地方政府和國會都在採取行動。本文回顧了這場鬥爭的起源、現狀及未來走向。

  • 2015年蘋果在愛爾蘭的數據中心計劃因居民抗議最終擱淺。
  • 2026年第一季度,美國已有833個活躍抗議團體,至少75個項目被推遲或阻撓。
站內正文

人工智能反彈波及大學:法學院學生被禁止使用筆記本電腦和手機

芝加哥大學宣佈,從今年秋季開始,將在一年級法學院課堂上禁止使用手機、平板和筆記本電腦,以應對人工智能的衝擊,確保學生學會不依賴AI進行批判性和獨立性思考。同時,學校將推行AI韌性教學和倫理使用AI的課程。

  • 芝加哥大學禁止一年級法學院學生在課堂上使用電子設備,旨在遏制AI依賴。
  • 禁令於今年秋季生效,教授有權決定特定技術活動的設備使用。
站內正文

追求新技能、迴歸基礎、推動集體行動:軟件工程師如何適應人工智能

曾經穩定高薪的軟件工程職業正受到人工智能的衝擊。工程師們通過學習新技能、專注於基礎知識和組織集體行動來適應。行業面臨裁員、就業不足以及從編寫代碼轉向審查AI生成代碼的變化。

  • 人工智能正在改變軟件工程,谷歌75%的代碼現已由AI編寫。
  • 像Matt這樣的工程師避免使用AI以保持技能,而George Dover等人則通過提升技能保持競爭力。
站內正文

Show HN: Runeward — 使用策略門控對AI代理進行沙盒隔離

Runeward是一個開源工具,通過聲明式配置文件為AI代理提供受治理的執行單元(基於Docker或Kubernetes)。它採用默認拒絕的出站規則、防篡改審計賬本、人工介入策略門控以及成本/循環防護欄,支持REST、MCP、CLI和Web儀表板。與普通沙盒相比,它增加了策略執行、審計跟蹤和成本控制等治理層。

  • Runeward為AI代理提供隔離沙盒,並默認拒絕出站網絡,從而限制潛在損害。
  • 其治理層包括防篡改的哈希鏈簽名審計賬本和人工審批門控。
站內正文

流行AI模型的政治中立性基準

一項新的基準測試顯示,來自12個實驗室的18個AI模型的108個測量位置中,有97個位於左傾。結果呈現一致的進步傾向,但在經濟、外交政策和宗教方面存在例外。xAI的Grok模型最接近中心,而許多模型拒絕回答某些問題,影響了得分。

  • 97/108的測量位置左傾
  • 環境維度進步傾向最強(-0.82)
站內正文

Attestor:面向AI代理的零信任執行邊界

Attestor是一個開源的零信任執行邊界工具,旨在為AI代理操作提供決策點和事後審計記錄。它在代理執行前進行策略檢查、審批驗證和證據審查,返回准入、限制、審查或阻止等決策,並通過客户擁有的網關強制執行,適用於支付、數據訪問、基礎設施變更等多種場景。

  • Attestor在AI代理執行前提供策略檢查、審批驗證和證據審查,返回結構化決策。
  • 支持影子模式觀察代理風險而不實際執行,降低部署風險。
站內正文

AI應當構建自己的研究世界模型

本文通過一個ARC-AGI謎題實驗,展示了AI如何在沒有規則的環境中自主探索、命名事物、發現數學結構並利用離線推理來高效解決問題。實驗表明,顯式的世界模型比僅依賴神經網絡權重更有效。

  • AI在完全未知的環境中自主命名對象並記錄規則,建立顯式世界模型。
  • AI發現並抽象了P和Q兩種操作,利用數學符號進行離線推演。
站內正文

人工智能使用的十誡

一篇幽默且批判性的文章,列出了十條負責任地使用AI的規則,警告過度依賴AI和喪失獨立思考的危險。每條誡命都指出了常見陷阱,從使用不明代碼到向AI詢問問題以顯得聰明。文章最後諷刺地指出,最需要這些建議的人可能會將其粘貼到AI中尋求解釋。

  • 避免使用不理解其原理的AI生成代碼。
  • 相信自己的大腦,在行動前核實AI輸出。
站內正文

AI發現Linux內核漏洞,潛伏15年未被發現

Nebula Security藉助AI工具VEGA發現Linux內核中存在15年的提權漏洞(CVE-2026-43499),可讓任何登錄用户獲取root權限。該漏洞自2011年起默認存在於幾乎所有主流發行版中,已在4月修復,但補丁分發不均。

  • Linux內核存在15年的use-after-free漏洞,影響所有主流發行版。
  • Nebula Security使用AI工具VEGA發現該漏洞,並獲得$92,337獎勵。
站內正文

主題導航

政策 — AI 主題新聞 | AI News Hub