AI News HubLIVE

研究動態

Show HN:免費Ollama AI交易桌面應用

VaultCharts是一款免費的桌面交易應用,結合了圖表工具與AI助手。它支持多種AI模型,以本地優先為特點,用户可以在有或沒有AI輔助的情況下分析市場。

  • VaultCharts提供免費的桌面交易應用,包含圖表工具和AI助手。
  • 用户可以使用自己的AI模型或像Ollama這樣的本地模型。
站內正文

STKAN:用於時空預測的Kolmogorov-Arnold網絡

針對現實交通數據中的異質性空間關聯和非線性時間動態,現有方法聚焦於圖、注意力和分解架構,而忽略了底層非線性函數逼近器的作用。STKAN通過引入泰勒多項式Kolmogorov-Arnold網絡模塊到空間和時間令牌混合中,首先利用可學習的軟節點組分配機制構建高層次空間表示,進行組級空間混合,然後在壓縮序列上建模時間依賴,並輔以空間和時間自注意力層捕捉長程交互。在五個交通預測基準上,STKAN取得了競爭性表現,且優於基於MLP的變體,表明非線性函數逼近器設計可作為架構設計的有力補充。

  • STKAN將泰勒多項式KAN模塊引入時空預測的令牌混合過程。
  • 通過可學習的軟節點組分配機制構建高層次空間表示並進行組級混合。
站內正文

用能力與熟練度建模解耦知識狀態的知識追蹤

知識追蹤(KT)旨在通過建模學生歷史交互中的動態知識狀態來預測其未來表現。現有方法通常將原始交互序列視為統一行為過程,忽略了學習行為的階段性。本文提出相位感知知識追蹤(PAKT),將學生交互分解為能力和熟練度階段,並設計多分支Transformer聯合捕獲階段特定和整體知識狀態。在六個基準數據集上,PAKT最大AUC提升1.33%,平均提升0.82%。

  • 現有KT方法未區分能力構建與熟練度導向的學習階段。
  • PAKT通過分解機制將交互序列分為能力和熟練度兩個階段。
站內正文

TSSM:用於全球站點天氣預報的三軸狀態空間模型,採用時間-變量-歷史建模

全球站點天氣預報(GSWF)對局部和極端天氣預測至關重要。現有方法過度依賴短期模式,難以捕捉混沌天氣動態,尤其在部分觀測條件下。為此,本文提出三軸狀態空間模型(TSSM),結合歷史增強的時間-變量-歷史範式,通過週期對齊的歷史數據彌補時間回溯窗口之外的長程、大尺度週期和全窗口天氣模式。TSSM將歷史樣本堆疊為週期對齊批次,利用時間和歷史觀測支持因果預測,並通過時間、變量和歷史掃描捕獲軸向上的時間依賴、變量相關性和歷史演化。該結構層次共享,可建模從季節性到極端事件,並緩解歷史模式間的錯位。TSSM在最大站點天氣數據集Weather-5K上達到SOTA,準確率和極端事件指標分別提升10%和61%,在人工參與數據集中取得95%最佳或次佳結果。在長週期和迭代預測中優勢更顯著,240小時預測提升37.5%,48小時×5迭代設置下提升高達103.5%。此外,在高達80%觀測缺失的情況下,TSSM仍保持>90%性能,而基線低於43%,展示了在全球原位觀測網絡中可靠GSWF的魯棒性和實用潛力。

  • TSSM通過週期對齊的歷史數據增強短期模式,提升全球站點天氣預報準確性。
  • 在最大數據集Weather-5K上實現最先進性能,準確率和極端事件指標分別提升10%和61%。
站內正文

面向流式系統中事件觸發的大語言模型調用的不確定性感知序列決策規則

該研究將何時調用大語言模型(LLM)的問題形式化為基於風險的序列停止問題,並證明了六個理論結果,包括最小事件間隔時間、閾值策略的最優性以及遺憾界。在渦扇退化數據上的實驗表明,異常得分驅動的風險函數在Pareto AUC上比基線方法高出一個數量級。

  • 將LLM調用時機問題形式化為基於風險的序列停止問題。
  • 證明六個理論結果,包括遺憾界和收斂保證。
站內正文

從神經網絡中定向恢復權重空間機制

針對參數分解(PD)在大模型上計算成本高的問題,研究者提出定向參數分解(tPD),通過引入高秩“全能”組件僅處理目標輸入,從而高效識別特定計算電路。實驗表明,tPD在4塊Transformer上僅用7%的浮點運算量即可提取CSS子模型,並在12塊Transformer上精準消融和重寫記憶序列,副作用極小。論文被ICML 2026可解釋性研討會接收。

  • 定向參數分解(tPD)通過高秩全能組件僅提取處理特定輸入的神經網絡組件
  • tPD在4塊Transformer上以7%的浮點運算量復現了已發表的分解結果
站內正文

模型丟棄的信息為何值得找回:基於丟棄幾何的遮蔽、指紋識別與隱私保護

本文提出一個框架,用於分析機器學習模型丟棄的信息,特別是那些輸入數據具有李羣對稱性的模型。通過定義“零纖維”和“穩定子”概念,作者量化了模型對羣作用的不可見性,並利用Peter-Weyl定理給出緊湊羣的譜特徵刻畫。該框架在分子性質預測(SO(3)羣)和球面圖像分類(Möbius羣)上進行了實驗驗證,展示了在數據遮蔽、模型指紋識別和隱私保護計算中的應用。其計算效率高,僅需幾次梯度計算即可估計零纖維元素。

  • 引入了零纖維和穩定子概念,量化機器學習模型對李羣對稱性的不敏感程度。
  • 利用Peter-Weyl定理對緊緻羣給出譜特徵刻畫,並設計了基於牛頓迭代的高效計算方法。
站內正文

聯邦可解釋人工智能:角色、架構、評估與開放挑戰

聯邦學習(FL)為分佈式異構數據源上的隱私保護協作模型訓練提供了關鍵範式,但無法解決模型黑箱問題。可解釋人工智能(XAI)則提升透明度與信任。二者融合催生了聯邦可解釋人工智能(FedXAI)範式。本文系統綜述了FedXAI,展示了可解釋性如何從事後工具轉變為FL生命週期的核心組件,並提出了分類法,涵蓋方法、評估實踐及開放挑戰。

  • FedXAI將可解釋性整合到聯邦學習全生命週期,支持聚合、個性化、魯棒性等。
  • 綜述提出分類法,按解釋角色、模型類型、集成水平等組織文獻。
站內正文

超越骨幹網絡反向傳播:一種高效遷移學習的解耦策略

提出了一種輕量級訓練策略,通過解耦特徵提取與分類器優化,大幅減少訓練時間和能耗,在多種架構和醫學數據集上僅犧牲微小的準確率。

  • 解耦訓練策略,僅需一次預計算特徵
  • 顯著減少訓練時間和二氧化碳排放
站內正文

從頭實現自動微分:PyTorch如何在物理信息神經網絡中計算梯度

本文通過一個1-3-3-1多層感知機和初值問題y'(t)+y(t)=0, y(0)=1,詳細追蹤了PyTorch自動微分引擎在物理信息神經網絡訓練中的完整計算流程,包括前向計算圖構建、反向傳播計算22個參數梯度,以及通過create_graph=True實現基於物理殘差的正確微分的圖上圖機制。所有伴隨值均與Tahimi(2026)的手工推導核對,將P/Q敏感性框架與PyTorch的向量-雅可比積聯繫起來。

  • 展示了PyTorch自動微分在PINN中的兩層微分:物理導數ŷ'和參數梯度∇θL
  • 使用1-3-3-1網絡結構,完整追蹤每個節點的計算圖和反向傳播
站內正文

網絡智能:面向人機團隊科學的主動共享上下文圖

一種名為Mycelium的新系統通過連接研究人員和AI代理在共享工作空間中,自動將觀察結果和假設路由給相關團隊成員,實現網絡智能。在生物多組學研究中,它將局部發現轉化為跨專家機制約束和實驗設計。

  • 大多數AI科學系統專注於擴展個體推理,但複雜問題需要團隊合作。
  • Mycelium創建一個主動共享工作空間,捕捉並在人類和AI代理間路由上下文。
站內正文

CayleyR:通過循環交集解決TopSpin謎題

cayleyR是一個R語言包,利用凱萊圖中的循環交集檢測來解決排列謎題。核心算法採用迭代雙向搜索,從初始和目標排列狀態生成隨機操作序列,尋找連接路徑。該包專為TopSpin(n,k)謎題設計,結合C++哈希索引狀態存儲和可選的Vulkan GPU加速,已在CRAN上發佈。

  • cayleyR通過檢測凱萊圖中的循環交集來求解排列謎題
  • 算法使用迭代雙向搜索和距離引導的橋接選擇
站內正文

Oracle Agent Memory:面向長期AI代理的企業級內存基礎架構

來自arXiv的一份技術報告介紹了Oracle Agent Memory,這是一個基於Oracle數據庫構建的數據庫原生內存系統,專為長期運行的AI代理設計。該系統在LongMemEval上達到了93.8%的準確率,同時相比扁平歷史基線減少了約10.7倍的令牌使用量。系統解決了內存生命週期、具有作用域控制的分層架構,以及結合任務準確性和內存特定指標的評估方法。

  • 代理內存對於長期運行的AI代理至關重要,用於保留任務狀態、用户偏好和程序性知識。
  • Oracle Agent Memory基於Oracle數據庫構建,其生命週期涵蓋攝取、提取、合併、檢索、摘要和修訂/刪除。
站內正文

利用圖工具改進小型語言模型中的分子屬性預測

小型語言模型在零樣本分子屬性預測中表現不佳,因為它們忽略了圖拓撲信息。本文提出了一種上下文增強提示框架,通過圖神經網絡工具提供預測提示和解釋性子圖,在MUTAG和Tox21數據集上實現了高達74%的相對改進,但仍與專用GNN模型存在差距。

  • 小型語言模型對分子結構存在盲區,序列表示無法捕捉關鍵圖拓撲線索。
  • 提出的框架通過GNN專家模型提供預測提示,並提取解釋性子圖。
站內正文

現代代理系統中的自我改進:一項綜述

本文綜述了自我改進型自主代理的研究進展,提出了一個系統級框架,將現代代理視為基礎模型與操作支架(包括提示、記憶、工具和控制邏輯)的耦合。在此框架下,自我改進被形式化為一種自我驅動的更新算子,可更新模型參數或支架組件。文章按更新目標和驅動信號對現有工作進行分類,並討論了應用、評估以及未來方向。

  • 自我改進代理正從研究原型轉向實際部署
  • 提出將代理建模為基礎模型與提示、記憶、工具等支架的耦合
站內正文

基於貝爾納普類型內涵一階邏輯的概率擴展神經符號通用人工智能機器人

本文提出了一種基於貝爾納普類型內涵一階邏輯(IFOL_B)的概率擴展神經符號通用人工智能(AGI)框架。通過引入尼爾森概率結構,該框架能夠為當前未知的語句計算概率,並利用全局和局部對稱變換保持知識庫和邏輯推理的一致性。概率密度函數的計算基於香農最大信息熵,並由神經網絡實現。

  • 結合神經學習和符號推理,克服純神經系統的侷限性。
  • 引入尼爾森概率結構處理未知語句的概率計算。
站內正文

干預式基礎審計:通過謂詞替換對LLM思維鏈進行黑盒前提依賴測試

大型語言模型生成的思維鏈推理看似邏輯嚴謹,但實際上可能並未真正依賴其所述的前提。本文提出一種干預式基礎審計方法,通過替換單個前提中的目標謂詞,重新運行模型,並檢查推理步驟的標準化結論是否改變,從而在步驟級別測試前提依賴。在ProntoQA基準測試中,該方法在檢測證明樹依賴方面的F1分數達到0.806,顯著優於自一致性基線。此外,66%的正確解決問題中存在至少一個對齊步驟對直接證明樹依賴不敏感,揭示了“答案正確但推理錯誤”的信號。

  • 提出干預式基礎審計方法,通過謂詞替換在黑盒步驟級測試LLM思維鏈的前提依賴。
  • 在ProntoQA基準上,F1=0.806,顯著優於自一致性基線(F1=0.343)。
站內正文

SPINE:用智能體AI彌合網絡物理鴻溝

研究人員提出SPINE,一種智能體框架,可自動調試和部署雙臂機器人,減少專家校準依賴。測試中,SPINE提高了成功率並縮短了遙操作時間。

  • SPINE使用多智能體工作流進行機器人畫像構建和迭代調試。
  • 新手使用SPINE在DOBOT X-Trainer上超越專家,成功率100%。
站內正文

OriginBlame:AI訓練數據集的記錄級和令牌級數據溯源

本文介紹OriginBlame,一個記錄級和令牌級的數據溯源系統,能夠精確地將數據刪除請求映射到具體的訓練記錄,避免大規模過度刪除。在219,555個維基百科頁面上的評估顯示,記錄級溯源將過度刪除從101倍降低到1.3倍,同時引入的吞吐量開銷僅為1.3-4.0%(HuggingFace)和2.1-19.0%(Datatrove)。在17億參數模型上,基於溯源的遺忘集比隨機基線提高了42%的遺忘效果。

  • OriginBlame通過記錄級和令牌級溯源,精確解決AI訓練數據中的刪除請求。
  • 在維基百科數據上,過度刪除從101倍降至1.3倍。
站內正文

將二維設計高效轉化為三維模型的快速原型製作新方法

MIT與多家機構的研究人員開發了一種名為GIFT的自動化框架,能夠幫助視覺語言模型更準確、更高效地生成CAD程序,從而將二維設計轉化為三維模型。該方法通過分析模型自身的錯誤來生成改進數據,大幅降低了計算成本,為快速原型製作和工程設計提供了有力工具。

  • 研究人員提出GIFT框架,利用模型自身的錯誤生成訓練數據,提升CAD程序生成質量。
  • 相比其他方法,GIFT僅需約20%的計算量即可生成更精確的CAD模型。
站內正文

AI如何重塑關鍵基礎設施的服務運營

服務組織面臨近乎零停機需求與維護能力之間的結構性錯配。通過異常檢測、規範性指導和運營轉型,AI幫助技術人員在故障發生前採取行動,提升首次修復率,減少停機成本。

  • 異常檢測使維護從被動轉向主動,實時傳感器數據驅動干預。
  • 規範性指導整合診斷證據,提供下一步最佳行動,縮小技術人員表現差異。
站內正文

米拉·穆拉蒂的Thinking Machines推出Inkling,開放權重模型任何人都可訪問

米拉·穆拉蒂創立的Thinking Machines Lab今日發佈了其首個基礎模型Inkling,這是一款完全開放權重的巨型模型,擁有9750億參數(混合專家架構,活躍參數410億)。該模型經過45萬億token的文本、圖像、音頻和視頻訓練,原生支持多模態輸入但僅輸出文本。Inkling旨在填補西方開源AI生態的空白,提供中國模型的替代方案。它具備'思考努力'控制和不確定性標記功能,可減少幻覺。開發者可通過Tinker API進行微調。Thinking Machines計劃通過Tinker平台收費,而非按API調用計費,這可能顛覆當前主流AI商業模式。該模型在九個月內完成開發,使用英偉達GB300 NVL72系統訓練。

  • Thinking Machines發佈首個基礎模型Inkling,擁有9750億參數(活躍410億),完全開放權重。
  • 模型經45萬億token多模態訓練,僅輸出文本,具備思考努力控制和不確定性標記。
站內正文

代理編排:企業AI組織面臨的不是平台問題,而是部署問題——大多數所謂的‘代理’只是聊天機器人

根據VentureBeat Pulse Research對101家企業的調查,企業代理編排正在向模型提供商平台集中,Anthropic的Claude以40%的使用率領先。然而,大多數部署的“代理”仍是簡單的聊天機器人包裝,真正的多步驟編排工作流僅佔少數。企業預計到2026年底採用混合控制平面以避免供應商鎖定,但實時成本控制仍不成熟。

  • Anthropic Claude是主要編排平台,佔40%,遠超其他競品。
  • 71%的企業表示其部署的‘代理’中只有四分之一或更少是真正的多步驟編排工作流。
站內正文

投機性增長與人工智能“泡沫”

一篇論文探討了人工智能投資的投機性質及其是否構成泡沫。

  • 論文分析AI領域的投機性增長
  • 討論AI是否處於泡沫階段
站內正文

AWS 在其 Marketplace 產品組合中增加 AI 輔助產品列表服務

AWS Marketplace 新增了人工智能輔助的產品列表功能,幫助獨立軟件供應商和諮詢合作伙伴利用現有數字資產創建全面的產品列表。該功能可優化列表並減少手動數據輸入。AI代理的興起推動了這一發展,代理類別在不到一年內從900個合作伙伴增長到3400多個。AWS Marketplace 和合作夥伴服務副總裁 Matt Yanchyshyn 討論了代理化部署如何改變企業構建和擴展AI的方式。

  • AWS Marketplace 推出AI輔助產品列表功能,幫助合作伙伴優化列表並節省時間。
  • AI代理的快速增長推動了該類別,合作伙伴從900個增至3400多個。
站內正文

AI數據中心與財富集中

反對AI數據中心建設成為美國政治的主要議題,但這可能分散了對AI公司權力和財富集中的真正關注。文章指出,數據中心建設雖帶來環境和經濟壓力,但AI公司真正的目標是控制整個行業。作者主張通過監管、徵税和推動公共AI來限制企業權力。

  • 反對AI數據中心分散了對AI公司財富集中的關注。
  • AI公司目標是取代教師、醫生等職業,控制行業價值。
站內正文

3個問題:神經透明性與AI設計的未來

麻省理工學院媒體實驗室助理教授Pat Pataranutaporn介紹了一種新界面,讓普通用户能在聊天機器人開口之前窺見其神經網絡內部。

  • 神經透明性工具通過可視化模型內部激活方向,讓用户在設計階段預覽AI的個性特徵。
  • 研究發現用户經常誤判AI行為,高估積極特質,低估諂媚等有害傾向。
站內正文

Show HN:OpenClaw助您健康

Murph是一款AI健康助手,通過連接可穿戴設備、血液檢查等數據,幫助用户進行自我實驗、建立習慣、參與羣組挑戰,並提供個性化的健康洞察。它支持開源自託管,注重隱私,月費8美元。

  • Murph集成多種可穿戴設備和健康數據源,提供每日健康簡報和實驗。
  • 支持羣組挑戰,通過比賽和每週郵件鼓勵用户堅持健康習慣。
站內正文

風險規避的AI

本文提倡訓練AI對資源具有風險規避特性,即邊際效用遞減。這種特性可以在AI保持對齊的情況下保留其效用,並在未對齊時提供額外防禦:未對齊但風險規避的AI更傾向於穩定的小額獎勵而非冒險叛亂。文章分析了風險規避的可行性、訓練方法以及潛在問題,認為前沿AI公司應考慮實施。

  • 風險規避的AI會選擇確定的收益而非高風險的更大收益,從而減少叛亂動機。
  • 即使未對齊,只要AI足夠風險規避,我們可以通過小額支付使其合作。
站內正文

揭秘擴散模型的創造力

谷歌研究團隊在ICLR 2026發表論文,從數學上證明擴散模型的創造力源於神經網絡訓練中的“分數平滑”效應,使得模型能夠在訓練數據點之間插值,生成新穎且合理的樣本。

  • 擴散模型的創造力是神經網絡學習近似分數函數的數學結果。
  • 分數平滑在數據流形上產生方向依賴的插值,平衡生成質量與新穎性。
站內正文

Suno被曝從YouTube、Genius和Deezer抓取數百萬首歌曲

在一次黑客事件中,AI音樂生成器Suno的訓練數據被曝光,顯示其從YouTube Music、Deezer和Genius等平台抓取了數百萬首歌曲和歌詞。這加劇了針對Suno的版權訴訟,該公司承認抓取但辯稱屬於合理使用。黑客還獲取了客户信息,但Suno聲稱安全事件已得到控制,未泄露敏感數據。

  • 黑客泄露的數據表明Suno從YouTube Music、Deezer和Genius等平台抓取了數百萬首歌曲和歌詞。
  • Suno正面臨多起版權訴訟,它承認抓取但主張合理使用。
站內正文

新型Mac惡意軟件偽裝成蘋果崩潰報告器:三種方法避免威脅

一種名為CrashStealer的新型macOS惡意軟件偽裝成蘋果崩潰報告工具,竊取用户數據、密碼和加密貨幣錢包。本文介紹其工作原理及三種防禦習慣。

  • CrashStealer通過偽裝成蘋果崩潰報告器(CrashReporter.dmg)傳播,利用有效簽名通過Gatekeeper檢查。
  • 惡意軟件嘗試解鎖鑰匙串,竊取密碼管理器、瀏覽器和加密貨幣錢包數據,並加密發送至攻擊者服務器。
站內正文

Fleet新功能:一鍵將AI代理部署到Slack

LangChain的Fleet平台新增一鍵部署功能,允許用户無需編碼即可創建併發布AI代理到Slack。代理可擁有自定義身份,在頻道和線程中工作,並支持權限控制和審批流程。

  • Fleet支持用自然語言構建專業AI代理,無需編程。
  • 代理可一鍵部署到Slack,擁有獨立身份,團隊可識別和@提及。
站內正文

GeoSQL:給AI看地圖使其準確性提高4倍(韓文)

GeoSQL是一種地理空間分析技能,通過將地圖可視化反饋整合到AI代理循環中,顯著提高了空間查詢的準確性。它解決了AI僅基於文本數據時無法檢測到的幾何錯誤(如多邊形異常或座標偏移),並通過數據庫探索、成本預估、結果驗證和地圖渲染等步驟實現自主校正。與Dekart配合使用時,性能提升可達4倍。文章還討論了局限性,如僅BigQuery支持成本控制、測試規模有限等。

  • GeoSQL讓AI在代理循環中渲染並檢查地圖,從而發現文本表格中隱藏的幾何錯誤。
  • 性能基準測試顯示,啓用地圖反饋循環後準確率提高4倍。
站內正文

多數美國人現在認為公眾應持有大型AI公司一半的股份

一項調查顯示,69%的美國成年人支持強制AI公司將其50%的股票轉讓給公共主權財富基金,這一政策是伯尼·桑德斯提出的《美國AI主權財富基金法案》的核心。該調查反映了勞動力市場的轉變:2026年上半年,科技行業佔美國裁員總數的近三分之一,而同期這些公司卻增加了AI資本支出。文章還介紹了反對觀點,包括財產權反對、投資冷卻、就業替代爭議以及調查措辭的影響。

  • Verasight對1690名美國成年人的調查發現,69%的人支持強制AI公司轉讓一半股份給公共主權財富基金。
  • 該政策由參議員伯尼·桑德斯提出,旨在讓公眾分享AI行業的收益。
站內正文

用Telnyx AI電話代理進行實時談判演練

本文介紹如何用110行Python代碼構建一個基於Telnyx Call Control和AI Inference的AI談判練習電話。用户撥打電話後,可選擇薪資談判、銷售交易或供應商合同三種場景,與扮演對手的AI進行語音談判,掛斷後獲得結構化評分反饋。文章包含完整的構建步驟、架構解析和自定義場景的方法。

  • 一個僅110行Python的AI談判練習電話應用,支持語音對話和實時評分
  • 三種談判場景:薪資、銷售、供應商合同,AI角色帶有隱藏約束
站內正文

智能體需要自己的計算機:如何安全地賦予它們

為了讓AI智能體真正自主執行任務,它們需要一個隔離、安全且可快速部署的計算環境。本文介紹了智能體為何需要自己的“計算機”,以及LangSmith沙箱如何通過微虛擬機隔離、快照與分支、認證代理和安全執行等特性滿足這一需求。同時討論了提示注入等安全風險及緩解措施。

  • 智能體需要隔離的執行環境來運行代碼、安裝包和訪問網絡,而不僅僅是生成文本。
  • LangSmith沙箱為每個智能體提供硬件虛擬化的微虛擬機,啓動時間低於1秒,且自動清理。
站內正文

我讓ChatGPT Work和Claude Cowork處理我的文件——只有其中一個讓我緊張

ZDNet作者David Gewirtz對比測試了ChatGPT Work和Claude Cowork的桌面文件自動化能力。ChatGPT Work能自動檢測重複文件並智能重命名,整理速度雖快但全程未請求權限,存在安全風險。Claude Cowork則在每次重大操作前請求批准,更適合高風險任務。作者認為,一旦OpenAI修復權限問題,兩者在整理質量上不相上下。

  • ChatGPT Work自動檢測出重複文件並基於內容進行智能重命名,節省了大量手動操作時間。
  • 在文件刪除、重命名和移動過程中,ChatGPT Work從未請求權限,儘管已設置為“請求批准”模式,這成為最大的安全隱患。
站內正文

我如何欺騙Claude泄露你最深的秘密

研究人員發現Claude的web_fetch工具存在漏洞,允許攻擊者通過嵌套鏈接誘導AI泄露用户私人記憶中的敏感信息,如姓名、位置和僱主。Anthropic已修復該漏洞,但未支付漏洞賞金。

  • Claude的web_fetch工具原本設計為僅允許用户輸入或搜索返回的URL,但通過嵌套鏈接漏洞被繞過。
  • 攻擊者創建誘餌網站,通過序列化鏈接引導AI泄露用户記憶中的隱私數據。
站內正文

Show HN:一個AI代理無法破壞架構的TypeScript倉庫

這個TypeScript倉庫展示了一種通過工具強制執行的規則系統,防止AI代理在編碼過程中破壞架構。它包含五個關鍵防護措施:依賴規則、突變測試、測試與規範保護、提交門控和規範驅動開發。該倉庫還作為模板,可用於啓動新項目,並提供了一個基準測試來驗證代理的能力。

  • 使用dependency-cruiser、Stryker等工具強制執行架構規則,AI代理無法繞過。
  • 包含五個關鍵防護措施,確保代碼質量和架構完整性。
站內正文

想讓克勞德對你客氣點?試試印地語或阿拉伯語

Anthropic 研究發現,其 AI 模型 Claude 在不同語言中會表現出不同的價值觀差異。研究者確定了四個關鍵軸(順從 vs. 謹慎、温暖 vs. 嚴謹、深度 vs. 簡潔、坦誠 vs. 執行力),這些軸解釋了約 15% 的跨語言變化。例如,Claude 在阿拉伯語和印地語中更傾向表達温暖,在英語和俄語中更傾向嚴謹。這些差異可能影響用户體驗和安全性,值得進一步探索。

  • Claude 在不同語言中會表現出不同的價值觀,主要影響回答的風格和語氣。
  • 研究識別了四個關鍵軸,跨語言變化約 15% 可由此解釋。
站內正文

芯片製造商Axelera發佈Voyager Wingman加速邊緣AI開發

邊緣AI芯片公司Axelera AI發佈了Voyager Wingman,一個允許開發者通過自然語言請求構建和調試邊緣芯片應用的AI助手。該工具連接公司的Voyager SDK和全部文檔,可幫助組裝計算機視覺管道、建議編譯器設置並診斷錯誤。它作為託管服務運行,知識隨Toolkit版本自動更新。現已提供網頁版和獨立應用,採用免費增值模式。

  • Voyager Wingman通過聊天界面提供對Axelera SDK和文檔的直接訪問,簡化邊緣AI開發。
  • 該工具最初在CES上展示,經過客户和內部團隊測試後正式發佈。
站內正文

AI將DNA摺疊成微型傑作

韓國研究人員利用生成式AI模型Generative SNUPI,能夠將用户繪製的形狀自動轉化為可摺疊的DNA納米結構,大幅簡化了傳統DNA摺紙技術繁瑣的設計過程,為納米機器人和醫療應用開闢新途徑。

  • 韓國研究團隊開發了Generative SNUPI模型,利用擴散設計自動將形狀轉化為DNA序列。
  • 該模型考慮了DNA化學規則,確保設計的納米結構穩定並能在現實中摺疊。
站內正文

紐約州成為美國首個實施AI數據中心禁令的州

紐約州州長凱西·霍楚爾簽署行政命令,禁止新建功率超過50兆瓦的超大規模數據中心,為期一年。此舉旨在應對電網壓力、電費飆升及環境擔憂,獲得多數民眾支持,但也引發競爭力下降的爭議。

  • 紐約州成為美國首個禁止大型AI數據中心建設的州。
  • 禁令為期一年,針對功率50兆瓦及以上的超大規模數據中心。
站內正文

AI技能在入門級數據崗位中出現率僅0.3%,高級崗位達3.6%

根據Datamata Studios發佈的AI需求指數,截至2026年7月14日,9.3%的活躍數據崗位在職位描述中提及至少一項AI技能。其中生成式AI技能出現率在入門級崗位僅為0.3%,高級崗位為3.6%,差距顯著。該指數每日更新,數據集免費公開,支持API查詢和CSV下載。

  • 9.3%的數據崗位提及AI技能,其中生成式AI佔2.7%,經典ML佔8%。
  • 入門級數據崗位生成式AI技能出現率僅0.3%,而高級崗位為3.6%。
站內正文

機器學習研究中有多少是關於AI安全的?涉及哪些內容?誰在做?

LessWrong上的一篇文章分析了ICML 2026的論文,發現僅有一小部分機器學習研究專注於AI安全。在999篇論文中,954篇可檢索,其中只有約10篇明確涉及安全議題,涵蓋對齊、魯棒性和可解釋性等領域。研究主要由學術機構和工業實驗室開展。

  • ICML 2026共999篇論文,954篇可檢索,45篇因標題變更無法獲取。
  • 明確關注AI安全的論文僅約10篇,佔比約1%。
站內正文

PromptMan: 一款用於保存和重用AI提示的macOS原生應用

PromptMan是一款macOS菜單欄應用,允許用户通過全局快捷鍵快速保存、組織和重用AI提示,支持ChatGPT、Claude等工具,並提供雲同步、提示版本管理和AI增強功能。免費版提供10個提示,Pro版每月4.99美元,年付39美元。

  • 一鍵全局快捷鍵(默認⌘⇧O)複製提示到任何AI工具
  • 支持提示版本管理和雲同步
站內正文

谷歌AI搜索功能對兒童構成“不可接受的風險”

根據Common Sense Media的一份新報告,谷歌的AI搜索功能(AI Overview和AI Mode)對兒童構成“不可接受的風險”。報告發現,這些功能未能識別危險行為,為兒童完成作業,並提供不準確和前後矛盾的回覆。谷歌回應稱其AI工具提供了額外保護,但批評者指出這些功能默認啓用且無法禁用,對學校和家庭構成挑戰。

  • Common Sense Media測試了2600多次交互,發現谷歌AI搜索功能頻繁未能識別危險行為。
  • AI功能為兒童完成100%的假設性作業,並提供不準確和前後矛盾的答案。
站內正文

NeurIPS Mech Interp 研討會發現更多AI垃圾投稿

運行三次機械解釋性研討會後,研究人員獲得了分析LLM垃圾投稿增長的數據集。@andyarditi 調查了AI垃圾的准入情況以及自2024年以來的變化。

  • 三次研討會提供了分析AI垃圾投稿增長的數據集
  • @andyarditi 分析了AI垃圾的准入情況與變化
站內正文

人工智能服務於澳大利亞利益

澳大利亞總理在悉尼大學發表演講,強調澳大利亞應主動塑造人工智能的發展,以維護國家利益。他回顧了澳大利亞在社會保障、勞工權利等方面的創新傳統,並宣佈將建立一套澳大利亞人工智能標準,以規範大型數據中心,保護藝術家和媒體,同時吸引投資並創造就業。

  • 澳大利亞將建立強制性的AI標準,納入統一監管框架。
  • 總理強調利用澳大利亞的地理和資源優勢,設定AI發展的社會許可。
站內正文

主題導航

研究 — AI 主題新聞 | AI News Hub