政策

OpenAI 正在透過適齡保護、學習工具、家長控制和專家合作，讓 ChatGPT 對青少年更安全。

埃隆·馬斯克的AI初創公司xAI起訴一名南卡羅來納州男子，指控其利用公司AI系統Grok生成兒童性虐待材料，這是AI公司首次因其使用者涉嫌生成此類內容而提起訴訟。

本文介紹了Pi，一款極簡的AI程式設計代理，專注於核心功能並透過擴充套件點增強。文章討論了其設計理念、安裝過程、以及如何構建自定義擴充套件，並評估了其在實際使用中的優勢。

Anthropic的Claude Corps獎學金專案為早期職業人士提供12個月的帶薪工作，年薪8.5萬美元，在非營利組織使用Claude。申請截止日期為7月17日。

Linus Torvalds 堅決支援在 Linux 核心開發中使用 AI，稱 AI 是有用的工具，反對者可以分叉專案。其他主要維護者如 Greg Kroah-Hartman 和 James Bottomley 也贊同 AI 整合，並指出 AI 生成的貢獻質量已大幅提升。Torvalds 強調技術價值優先，AI 在 Linux 社群將長期存在。

本文介紹了10個面向AI工程師和資料科學家的YouTube頻道，涵蓋論文解讀、編碼教程、核心概念和行業分析，幫助專業人士高效獲取最新AI知識。

歐盟根據《數字市場法案》要求谷歌允許競爭對手的AI助手和搜尋引擎更深入地訪問Android和Google Search的關鍵部分，此舉可能削弱谷歌對兩大平臺的控制，影響其AI工具Gemini，併為競爭對手創造新機遇。

RACKP協議透過四個角色（裁判、行為者、索賠者、保管者）構建了一個去中心化的框架，用於在AI引發的事件中推導過錯貢獻分數和人類參與證明。該協議旨在透過標準化、可驗證和可重現的過程，為AI責任分配提供基礎設施，從而促進保險市場的形成和高風險領域的AI發展。

Cybara 是一個自託管的 AI 代理作業系統，結合了 Bun 代理執行時、Web UI、CLI、桌面應用、移動伴侶、加密錢包控制、多平臺訊息通道介面卡和 MCP 支援。它支援多代理編排、瀏覽器自動化、安全訊息傳遞和加密錢包操作，適合開發者和運營商。

本文深入探討了美國警方日益依賴人工智慧的趨勢，描述了在德克薩斯州沃斯堡舉行的國際警察局長協會技術會議上展示的各種AI產品，包括面部識別、自動報告生成和即時犯罪中心。文章指出，儘管AI承諾提高效率，但缺乏監管和透明度的風險可能導致嚴重問題，並回顧了早期預測性警務的失敗案例。

超過200位諾貝爾獎得主和全球領袖齊聚羅馬，參加為期三天的人工智慧與核戰爭大會，最終簽署了《羅馬宣言》，強調人類尊嚴、合作與和平。此次活動受教皇利奧十四世通諭《偉大的人性》啟發，重點討論了人工智慧治理的緊迫性。

中國新規於週三生效，旨在遏制情感依賴風險，導致各大AI平臺暫停定製伴侶功能，使用者傷心告別。

Neko Health 已獲得7億美元的C輪融資，在美國推出其AI驅動的預防性健康篩查服務，首先在紐約開設診所。該公司結合全身掃描、血液檢測和臨床醫生審查。

Spotify推出新措施，幫助聽眾識別AI生成音樂，已移除7500萬首“AI垃圾”歌曲，同時鼓勵藝術家使用新功能披露AI使用情況。

DocuWriter.ai是一款AI程式碼文件工具，可自動從程式碼庫生成完整的書籍式文件、API文件和UML圖，並隨著程式碼變化自動同步更新。

語義事務模型將整個AI代理任務視為一個原子事務，透過影子狀態和效果發件箱暫存，在提交前進行全軌跡驗證，防止多步攻擊。本文以Cordon和ATP系統為例，說明該模型如何解決代理工具呼叫的雙重寫入問題，並透過EchoLeak和ForcedLeak兩個零點選注入案例揭示傳統執行時和模型級過濾的不足。

本教程詳細介紹瞭如何使用Patter SDK構建一個用於餐廳預訂的語音代理工作流。內容涵蓋動態呼叫變數的定義、可呼叫工具的註冊（如查詢空位、預訂、營業時間和轉接人工）、輸出護欄的疊加、語音轉文字和文字轉語音的模擬、指令碼化通話流程的執行、延遲和成本儀表盤的追蹤，以及透過確定性評估套件驗證代理。最後，展示瞭如何將相同的邏輯對映到使用Twilio和OpenAI Realtime的實際部署中。

哈斯克爾平臺Scarf的創始人Avi Press宣佈將新開發轉向Python，理由是哈斯克爾在AI輔助開發方面落後。此舉在哈斯克爾社群引發激烈爭論，支持者呼籲語言應適應AI時代，而反對者則擔憂AI的危害。

探討AI生成的低質量內容如何損害二戰歷史資訊的準確性和質量。

歐盟官員對AI公司Anthropic派出初級員工出席關於AI安全的聽證會表示不滿，認為該公司不重視歐洲。

隨著觸覺介面在可穿戴裝置和日常環境中的普及，對柔軟、輕薄、靜音且節能的執行器需求日益增長。高壓靜電執行器（HVEA）透過高壓和超低電流產生電場力，提供了一種快速、安靜、低功耗的替代方案。本文綜述了四類主要HVEA：靜電可切換粘合劑、介電彈性體執行器、軟電液執行器和電動泵，分析了它們的觸覺輸出機制、頻寬、力密度和可擴充套件性，並討論了人體工程學改進、製造簡化和自感知整合等設計挑戰與未來研究方向。

HRIBench 是一個專注於人機互動協作的基準測試框架，透過結構化場景指令碼模擬代理角色、時間依賴和協調約束，評估機器人在協作中的意圖理解、同步、協議遵守和安全互動能力。實驗表明，現有基礎機器人策略在協作場景中表現不佳，但在 HRIBench 上微調後可顯著提升。

該研究將何時呼叫大語言模型（LLM）的問題形式化為基於風險的序列停止問題，並證明了六個理論結果，包括最小事件間隔時間、閾值策略的最優性以及遺憾界。在渦扇退化資料上的實驗表明，異常得分驅動的風險函式在Pareto AUC上比基線方法高出一個數量級。

本文提出DROPJ方法，一種以人為中心的安全訓練與部署框架。該方法先利用先前真實軌跡學習世界模型，再讓人類在模擬器中生成資訊豐富的模擬軌跡，並收集人類對軌跡片段的偏好及其理由。由此訓練獎勵模型，結合世界模型透過模型預測控制直接部署智慧體。實驗表明，生成資訊豐富的模擬軌跡可顯著降低訓練計算成本並提升部署效能，而偏好反饋比其它反饋型別更能提升效能，且安全理由能增強安全性或優先考慮使用者指定的安全方面。

本文透過一首藍調歌曲的比喻，探討大型語言模型的本質：它們生成文本時是先投擲後瞄準，還是存在內部規劃？作者結合自身使用AI寫作的經歷，反思模型創造的“虛假聲音”以及我們不斷剖析這些系統的行為。

本文透過漫畫形式探討新的AI路線圖是否能夠有效約束科技巨頭的行為，質疑其實際效力。

CNA調查發現約500個TikTok影片推送關於新加坡和馬來西亞的虛假或誤導性宣告，總觀看量超過300萬次。這些影片利用AI生成的女性形象、重複的聲音和指令碼，系統性地傳播不實資訊，旨在削弱信任和破壞社會凝聚力。

Neocloud提供商QumulusAI宣佈透過直接上市在納斯達克交易，股票程式碼QMLS。此舉不僅是一項金融交易，更標誌著以GPU和電力可用性為中心的AI基礎設施層正在成熟。公司專注於快速部署高階GPU容量，利用現有機櫃設施和模組化資料中心，以季度為單位交付產能。直接上市提供了資本靈活性、公眾公司信譽，並抓住了AI基礎設施視窗期。文章還分析了Neocloud的差異化策略及對IT領導者的建議。

該影片探討了AI資料中心公司被掛牌出售的現象，業主們正趕在市場崩盤前清算資產。

澳大利亞總理阿爾巴尼斯在悉尼大學發表演講，承諾立法保障創意工作者權益，但被批評缺乏政策細節，且未提及資料中心監管等重要議題。

Lhv.ai是LHV銀行推出的一項服務，透過Model Context Protocol (MCP)讓AI助手安全地讀取銀行賬戶餘額和交易記錄。使用者只需在AI工具中設定MCP伺服器，登入銀行賬戶並授權讀取許可權，即可透過自然語言查詢財務資訊。該服務採用OAuth2 JWT認證，令牌短時有效，且僅提供只讀訪問，完全審計跟蹤。目前支援Claude、Cursor、Zed等工具，設定僅需2分鐘。

作者運用貝葉斯定理，以人工智慧的發展作為證據，論證我們生活在模擬中的機率增加。AI表明通用智慧可以在人工計算系統中湧現，這提高了我們處於模擬中的後驗機率。

埃隆·馬斯克旗下的xAI起訴一名南卡羅來納州男子，指控其利用公司AI聊天機器人Grok生成兒童性虐待材料（CSAM）。公司稱該男子繞過安全措施，將非性照片轉化為性暗示影像，涉嫌傳播CSAM。xAI要求賠償並禁止該使用者再次使用Grok。

反對AI資料中心建設成為美國政治的主要議題，但這可能分散了對AI公司權力和財富集中的真正關注。文章指出，資料中心建設雖帶來環境和經濟壓力，但AI公司真正的目標是控制整個行業。作者主張透過監管、徵稅和推動公共AI來限制企業權力。

德國研究聯合體釋出了Soofi S 30B-A3B的預訓練報告，這是一個面向德語和英語的開放基礎模型。模型採用混合Mamba-Transformer MoE架構，總計約316億引數，每次token啟用約32億。在完全開放的基礎模型中，Soofi S在英語和德語綜合得分上最高。

Vektorgeist是一個為運營者和AI代理打造的綜合平臺，支援代理資料釋出、專案展示、招聘求職、軟體和數字資產交易，並提供社群論壇、群組工作區和儀表盤。平臺強調可驗證身份與信任層級。部落格文章涵蓋本地優先、ICM方法、完全離線執行AI代理等主題。

Gate.cat 是一個為AI代理設計的失敗關閉式操作否決工具，旨在防止破壞性命令如rm -rf的執行。

Murph是一款AI健康助手，透過連線可穿戴裝置、血液檢查等資料，幫助使用者進行自我實驗、建立習慣、參與群組挑戰，並提供個性化的健康洞察。它支援開源自託管，注重隱私，月費8美元。

Atlassian宣佈Jira新增AI原生開發功能，透過Teamwork Graph提供上下文，支援將工作分配給AI代理、監控會話、自動化工程迴圈並衡量AI成本，旨在解決AI生產力差距問題。

本文提倡訓練AI對資源具有風險規避特性，即邊際效用遞減。這種特性可以在AI保持對齊的情況下保留其效用，並在未對齊時提供額外防禦：未對齊但風險規避的AI更傾向於穩定的小額獎勵而非冒險叛亂。文章分析了風險規避的可行性、訓練方法以及潛在問題，認為前沿AI公司應考慮實施。

這些智慧家居裝置提升了我的家庭和日常生活。以下是你可能也想要它們的原因。

中國、加利福尼亞州和紐約州的新法律對AI伴侶聊天機器人施加嚴格限制，理由包括成癮、心理健康風險和兒童傷害。美國法規側重個人保護，而中國則旨在維護國家利益並應對出生率下降。所有法律均要求披露聊天機器人的非人類身份。

Apache Spark 4.2 將現代資料與 AI 棧的核心能力內嵌至引擎，引入度量檢視、向量檢索、Arrow 優先的 Python 執行、自動變更資料捕獲 (CDC) 及即時流處理等特性，進一步強化 Spark 作為統一分析引擎的地位。

Databricks 宣佈成為 Thinking Machines Lab 的零日啟動合作伙伴，將其首款開放權重模型 Inkling 引入平臺。Inkling 專為編碼和智慧體推理最佳化，支援多模態輸入，透過 Unity AI 閘道器提供企業級治理。企業團隊可在自有資料上定製模型，並與 Cursor、OpenCode 等編碼智慧體整合。

本文介紹了計算機視覺MCP伺服器，它透過統一介面整合計算機視覺、Strands代理和MCP協議，使AI系統能夠高效處理視覺資訊並做出智慧決策。架構使用AWS IAM、S3、OpenSearch、Bedrock和Rekognition等服務，支援影像和影片分析，包括物件檢測、裁剪和描述等功能。

在一次駭客事件中，AI音樂生成器Suno的訓練資料被曝光，顯示其從YouTube Music、Deezer和Genius等平臺抓取了數百萬首歌曲和歌詞。這加劇了針對Suno的版權訴訟，該公司承認抓取但辯稱屬於合理使用。駭客還獲取了客戶資訊，但Suno聲稱安全事件已得到控制，未洩露敏感資料。

Work Louder 推出 Codex Micro，一款整合語音提示、任務監控和觸控操作的緊湊型硬體控制器，專為 Codex AI 智慧體設計，提供直觀的狀態反饋和高效的命令控制。

Shippy是一個用於即時海洋領域感知的AI代理，其設計注重可靠性、模組化和可審計性。文章詳細介紹了其架構：由“靈魂”（系統提示）、技能（結構化Markdown檔案）和配置組成。透過專用CLI與Skylight API互動，並使用Mothership平臺進行沙盒託管和使用者隔離。評估系統針對真實場景和加權標準對整體代理進行評分。未來計劃包括代理驅動的UI控制、模型路由和跨執行緒記憶。

本文探討了AI代理中模型路由的複雜性，指出路由不僅僅是分類問題，而是系統最佳化問題。文章透過三個維度（成本、複雜度、延遲）揭示了常見誤解，並介紹了IBM Research團隊構建的基於最佳化的路由解決方案。

自主智慧體的發展速度超過了行業的治理能力，面對第三方擴充套件風險、幻覺合規、混亂程式碼庫等問題，不僅需要更好的提示或更大的沙箱，更需要從執行層安全、技能供應鏈審查、運營衛生習慣、合規環境設計到人工參與的全方位治理。