國際AI風險專家調查顯示，未來五年內AI導致災難性後果的概率至少為10%。專家呼籲立即採取行動，重點應對AI網絡攻擊、武器開發、競爭壓力和治理失敗等風險。

在北京，Daniel Wang付費讓一台人形機器人進入家中收集訓練數據，實際家務由人類管家完成。這反映了全球機器人開發面臨的數據短缺問題，中國通過低成本勞動力提供真實環境數據，加速人形機器人訓練。

第25屆國際自主代理與多代理系統會議（AAMAS 2026）於2025年5月25日至29日在塞浦路斯帕福斯舉行，頒發了最佳論文、最佳學生論文和最佳藍思論文三個獎項。最佳論文獎授予《制定人機團隊指南：多利益相關者視角》，最佳學生論文獎授予《通過RSA預先規劃：在動態環境中通過預測用户意識實現高效信號傳遞》，最佳藍思論文獎授予《超越靜態環境的學習、驗證和可靠適應的基礎世界模型》。

本教程詳細介紹瞭如何在 Google Colab 中設置 Microsoft Fara 並運行一個完整的瀏覽器使用工作流程。通過創建模擬 OpenAI 兼容端點，無需依賴真實模型即可測試代理循環。教程涵蓋了環境搭建、端點配置、Playwright 安裝及實際運行 Fara CLI 的完整步驟，並提供了切換到真實 Fara-7B 部署的多種方案。

Anthropic公佈內部數據，顯示Claude已生成超過80%的生產代碼，工程師每日代碼提交量是2024年的八倍。公司目標是實現自我改進的AI，可能引發開發速度急劇加速，因此推動可驗證的全球開發暫停選項，並承諾若其他前沿實驗室同樣暫停也會停止。

一種稱為CDE（組合定向演化）的AI安全框架，通過固定模型並組合經審核的工具，避免了RSI（遞歸自我改進）帶來的不可控風險。該框架使用靜態分析確保安全，將防禦從對抗性運行時轉移到可加固的組件上，同時保持能力增長。

Cloudflare AI Gateway 引入了消費限額功能，允許用户根據模型、提供商或自定義元數據設置預算。當累計消費達到限額時，AI Gateway 會阻止進一步請求並可選擇回退到更便宜的模型。

Anthropic聯合創始人Jack Clark警告稱，人工智能技術即將達到無需人類輸入即可發展的臨界點，呼籲為AI研發設置“剎車踏板”。目前AI系統只有加速器，缺乏減速機制。Clark指出，Anthropic的Claude聊天機器人已有80%的代碼由系統自行編寫，預計兩年內可達100%。他強調需要通過政府政策保持對AI系統的控制，並借鑑石油行業的監管經驗。儘管特朗普總統的行政令對AI公司相對寬鬆，Clark仍敦促社會嚴肅討論AI持續進步的影響，包括經濟 disruption 和就業替代。他建議年輕人培養創造力和人文素養，以在AI經濟中保持優勢。

Boson AI 發佈了 Higgs Audio v3 TTS 模型，這是一個具有 4B 參數、支持 100 多種語言、零樣本語音克隆和情感控制的先進文本轉語音模型。該模型專為語音聊天設計，能夠生成富有表現力的對話式語音，並以研究和非商業用途許可發佈。

由於Zcash Orchard池存在嚴重偽造漏洞，理論上可讓攻擊者無限鑄造ZEC，ZEC價格在24小時內下跌超過30%。漏洞由安全工程師Taylor Hornby使用Anthropic的Claude Opus 4.8發現，並於6月3日通過硬分叉修復。但自2022年5月以來該漏洞是否存在濫用無法通過密碼學證明，引發市場擔憂。

Snill.ai 是一款 AI 驅動的平台，只需用自然語言描述您的業務，即可在數秒內生成完整的多用户應用，包括數據庫、儀表盤、REST API 和 Webhook。它由 restdb.io 和 codehooks.io 團隊打造，旨在幫助沒有編程背景的創始人、顧問和運營人員快速構建自定義內部工具。

今天的AI新聞涵蓋了NVIDIA的Nemotron 3 Ultra和3.5 ASR發佈、Anthropic關於遞歸自我改進的討論、Cloudflare收購VoidZero、以及代理工具和記憶系統的多項更新。

娜奧米·格萊特是Meta（原Facebook）任職時間最長的員工之一，她在公司成立初期加入，如今擔任產品主管。她談到了對老闆扎克伯格的看法、AI代理對小型企業的潛力以及AI對就業的影響。

SpaceX發佈了面向散户投資者的IPO路演視頻，CFO Bret Johnsen闡述了公司火箭、衞星和AI業務的協同發展。該視頻突出了Starlink、AI解決方案、太空數據中心、點對點旅行及小行星採礦等遠大目標，並設定了毛利率和淨利率的提升目標。此次IPO估值約1.77萬億美元，定於6月11日定價，代碼SPCX。

工黨議員傑絲·阿薩託（Jess Asato）發起測試案件後，其他原告也站出來，準備對埃隆·馬斯克（Elon Musk）的xAI公司提起法律訴訟，原因是其Grok AI工具生成的侮辱性色情內容。

英偉達創始人兼CEO黃仁勳本週訪問首爾，與韓國AI生態系統的合作伙伴和建設者會面，聚焦AI供應鏈、機器人技術和物理AI的機遇。

最新研究認為，僅憑行為無法判斷意識是否存在，無論是能討論哲學的聊天機器人還是尋找花蜜的蜜蜂。科學家們轉而關注大腦和計算機的內部機制，結論是當前的人工智能很可能沒有意識，但保留了對昆蟲和未來機器具備意識的可能性。

一位大學副校長承認在為一澳大利亞主流媒體撰寫評論時使用了AI，且未事先披露，這凸顯了人們使用AI與信任AI之間的差距。Roy Morgan數據顯示，58%的14歲以上澳大利亞人每月使用AI。

《攔截》調查發現，美國軍方通過AI驅動的內容網站La Tilde向拉丁美洲用户傳播宣傳，該網站偽裝成現代媒體品牌，實為特種作戰司令部南部分隊的心理戰平台，內容多由AI生成，缺乏透明度。

Nouri是一款由AI驅動的全方位健康應用，提供即時食物掃描、個性化膳食計劃、適應性鍛鍊程序和餐廳推薦。它提供每日健康評分，並作為PWA在iPhone和Android上使用。

本文探討了利用AI科學家智能體加速神經科學研究的願景。作者指出，通過創建大腦圖譜、數字孿生體以及結合真實實驗驗證，可以大幅提升研究效率。文章還提出了資助者應優先支持的項目類型，包括高質量數據集、新型神經技術、數字孿生模型和基準測試。

蘋果全球開發者大會（WWDC）將於6月8日至12日舉行，預計將發佈重大軟件更新，包括由Gemini支持的全新Siri、iOS 27等操作系統，以及可能的AI照片編輯工具。此外，有傳聞稱蘋果計劃推出“Ultra”系列設備，包括摺疊屏iPhone，但硬件發佈可能推遲至9月。

本研究提出一種自監督表示學習框架，僅利用關節編碼器實現足式機器人接觸檢測，無需力傳感器。該方法在足式機器人里程計估計中優於傳統監督方法和基線概率方法，並公開代碼。

FlowPRO 提出了一種無獎勵的離線強化微調框架，用於流匹配視覺-語言-動作（VLA）模型。其核心算法 RPRO 結合對比優化器和顯式鄰近正則化，消除了獎勵破解問題。通過遙操作干預-回滾範式收集成對軌跡，並結合平滑插值和批量混合，實現密集狀態監督。在四個長時程雙臂任務中，FlowPRO 取得了最高成功率，超越了四種基線方法。

本文提出了一種使用神經常微分方程（ODE）在黎曼流形上進行從示範學習（LfD）的新方法。傳統LfD在歐幾里得空間中進行，而機器人狀態（如方向）自然存在於彎曲空間。該方法通過神經ODE高效估計測地線，實現流形上任意兩點間的自然運動生成，並將測地線解碼回任務空間用於機器人部署。仿真實驗驗證了該框架的有效性。

MoDex是一種基於擴散模型的策略，使靈巧手能夠在保持已抓取物體的同時，順序抓取多個物體。通過條件化對掌空間和點雲，每次抓取僅使用部分手指自由度。兩階段訓練（模仿學習+強化學習微調）提升了仿真與現實中的成功率。

VASO是一個框架，通過形式化驗證引導大語言模型生成的機器人技能合約的自我進化。在Clearpath Jackal和PX4四旋翼任務上，VASO在不到100個優化樣本下達到了97.2%的規範符合度，優於執行反饋、提示優化和微調基線。這是首個將形式化驗證與自進化技能閉環的框架。

針對機器人控制中路徑跟蹤問題，提出了一種在李羣上高效計算點到曲線距離的方法。該方法將曲線表示為G-多項式，通過利用其結構將問題轉化為少量多項式求根計算，顯著降低了計算時間並保持精度。在SE(3)羣上給出了實用公式，並通過機械臂實驗驗證。相關計算包已開源。

研究人員提出了一種新穎的4段8關節四元數關節纜驅動冗餘機械臂配置，該配置能在更低硬件成本下實現更廣泛的工作空間。結合殘差強化學習，該控制方法在位置和方向精度上比現有最先進的FABRIK算法提高了三個數量級，且控制實現更簡單，為新型纜驅動機械臂的設計與控制提供了有力工具。

提出OLIVE框架，通過低秩殘差分解實現外骨骼控制的在線個性化適應，僅依賴本體傳感器反饋，無需離線軌跡，在多種地形上提升步態平滑度、減少努力並增強穩定性。