Show HN: Gate.cat – 在AI編碼代理執行rm -RF之前阻止它
Gate.cat 是一個為AI代理設計的失敗關閉式操作否決工具,旨在防止破壞性命令如rm -rf的執行。
- Gate.cat 是一種針對AI代理的操作否決機制。
- 它採用失敗關閉模式,確保安全。
日報
2026-07-16 精選 10 條,按主題聚合。其餘新聞摺疊歸檔。
Gate.cat 是一個為AI代理設計的失敗關閉式操作否決工具,旨在防止破壞性命令如rm -rf的執行。
隨着克里斯托弗·諾蘭的《奧德賽》即將上映,電影工作室Fountain 0宣佈推出AI生成的《奧德修斯:隕落》,試圖借諾蘭的熱度營銷其AI服務。該片製作成本僅數萬美元,視覺效果粗糙,被批評為AI垃圾,缺乏藝術價值。
Atlassian宣佈Jira新增AI原生開發功能,通過Teamwork Graph提供上下文,支持將工作分配給AI代理、監控會話、自動化工程循環並衡量AI成本,旨在解決AI生產力差距問題。
本文提倡訓練AI對資源具有風險規避特性,即邊際效用遞減。這種特性可以在AI保持對齊的情況下保留其效用,並在未對齊時提供額外防禦:未對齊但風險規避的AI更傾向於穩定的小額獎勵而非冒險叛亂。文章分析了風險規避的可行性、訓練方法以及潛在問題,認為前沿AI公司應考慮實施。
中國、加利福尼亞州和紐約州的新法律對AI伴侶聊天機器人施加嚴格限制,理由包括成癮、心理健康風險和兒童傷害。美國法規側重個人保護,而中國則旨在維護國家利益並應對出生率下降。所有法律均要求披露聊天機器人的非人類身份。
JointJS+ 和 JointJS 提供了 AI 工作流構建器的演示,支持通過拖拽界面設計 AI 代理,包含自動佈局、自定義形狀、導航器等多種功能,適用於商業和開源項目。
Databricks 宣佈成為 Thinking Machines Lab 的零日啓動合作伙伴,將其首款開放權重模型 Inkling 引入平台。Inkling 專為編碼和智能體推理優化,支持多模態輸入,通過 Unity AI 網關提供企業級治理。企業團隊可在自有數據上定製模型,並與 Cursor、OpenCode 等編碼智能體集成。
Murph是一款AI健康助手,通過連接可穿戴設備、血液檢查等數據,幫助用户進行自我實驗、建立習慣、參與羣組挑戰,並提供個性化的健康洞察。它支持開源自託管,注重隱私,月費8美元。
這些智能家居設備提升了我的家庭和日常生活。以下是你可能也想要它們的原因。
Limits是一款iOS應用,可在設備上監控Codex、Claude Code和Cursor等AI工具的使用配額。它提供實時通知、重置提醒和預測性警告,幫助用户避免超出限制。所有數據本地處理,無服務器存儲,賬户信息通過iOS鑰匙串加密保存。
Built Technologies與AWS生成式AI創新中心、AND Digital及AWS賬户團隊合作,創建了可擴展的AI文檔處理引擎,能夠對複雜房地產金融文檔進行分類、拆分、提取、評估和推理。該引擎將原本需要數天的工作流程縮短至數分鐘,支持數百種文檔類型,併為技術團隊和行業專家提供構建和改進文檔處理器的共享環境。
本文介紹了計算機視覺MCP服務器,它通過統一接口整合計算機視覺、Strands代理和MCP協議,使AI系統能夠高效處理視覺信息並做出智能決策。架構使用AWS IAM、S3、OpenSearch、Bedrock和Rekognition等服務,支持圖像和視頻分析,包括對象檢測、裁剪和描述等功能。
根據Dice的最新報告,73%的科技職位描述要求具備AI技能,而2024年1月這一比例僅為15%。求職者需要展示AI熟練度、獲得認證、通過項目成果證明能力,並制定個人技能提升計劃。
IBM發佈了新的Power服務器系列和軟件,旨在實現基礎設施管理和應用程序開發的自動化。其中包括用於系統管理的自主控制層IBM Power Autonomous Operations,以及面向IBM i環境的AI驅動開發助手IBM Bob Premium Package for i。此外,IBM還推出了緊湊型單插槽Power11服務器Power S1112,專為本地AI推理設計。這些新功能建立在去年Power11發佈的基礎上,強調了自主IT能力的擴展。IBM引用其2026年技術領導者研究,預計到2027年企業將平均部署1661個AI代理,需要能夠自我管理的基礎設施。Power S1112利用Power11的片上矩陣數學加速進行本地推理,性能是Power S914的兩倍,能效提高69%。Power Autonomous Operations通過持續監控系統行為,在3.33分鐘內解決容量問題,比傳統工作流程快15倍。IBM Bob Premium Package for i則幫助開發者更快理解和現代化IBM i應用。
Work Louder 推出 Codex Micro,一款集成語音提示、任務監控和觸控操作的緊湊型硬件控制器,專為 Codex AI 智能體設計,提供直觀的狀態反饋和高效的命令控制。
高等教育機構在擴大校園呼叫中心服務質量審查方面面臨挑戰。Databricks 提出一種基於生成式人工智能的解決方案,使用 OpenAI Whisper 進行高精度轉錄,利用 LLM-as-a-judge 根據機構評分標準進行一致評分,並通過 AI 函數進行數據豐富——所有步驟均在統一治理平台上完成,通過 Genie 和 Agent Bricks 實現自然語言洞察。
Shippy是一個用於實時海洋領域感知的AI代理,其設計注重可靠性、模塊化和可審計性。文章詳細介紹了其架構:由“靈魂”(系統提示)、技能(結構化Markdown文件)和配置組成。通過專用CLI與Skylight API交互,並使用Mothership平台進行沙盒託管和用户隔離。評估系統針對真實場景和加權標準對整體代理進行評分。未來計劃包括代理驅動的UI控制、模型路由和跨線程記憶。
本文探討了AI代理中模型路由的複雜性,指出路由不僅僅是分類問題,而是系統優化問題。文章通過三個維度(成本、複雜度、延遲)揭示了常見誤解,並介紹了IBM Research團隊構建的基於優化的路由解決方案。
一種名為CrashStealer的新型macOS惡意軟件偽裝成蘋果崩潰報告工具,竊取用户數據、密碼和加密貨幣錢包。本文介紹其工作原理及三種防禦習慣。
隨着人工智能成本成為美國企業增長最快的支出之一,一些初創公司開始轉向更便宜的中國AI模型以節省開支。儘管中國模型在能力上落後6到12個月,但其開源特性和低成本吸引了大量用户。
LangChain的Fleet平台新增一鍵部署功能,允許用户無需編碼即可創建併發布AI代理到Slack。代理可擁有自定義身份,在頻道和線程中工作,並支持權限控制和審批流程。
OtoDock是一個自託管的AI Agent平台,讓你可以在自己的基礎設施上以Agent團隊的形式運行Claude Code和Codex。它提供實時儀表盤、安全沙箱、多Agent會議、自動化調度、文檔生成等功能,支持消費級訂閲、API密鑰或本地模型。採用公平源碼許可(FSL-1.1-Apache-2.0),支持Docker一鍵部署。
傳統的VPN無法滿足AI代理的訪問需求,企業需要統一的身份網絡和特權訪問管理,以安全地支持人類和代理的混合工作負載。Tailscale專家將於7月28日舉辦網絡研討會探討解決方案。
Mindlas 是一款開源工具,通過確定性儀表盤實時監測 AI 編碼會話中的上下文惡化、驗證債務、變更影響範圍等問題,並在問題累積前提供具體糾正措施,無需網絡調用且完全本地運行。
OpenAI與鍵盤製造商Work Louder合作推出了一款名為Codex Micro的方形按鍵設備,用於監控和管理Codex編碼平台上的AI代理。該設備售價230美元,限量發售,與OpenAI和Jony Ive合作的另一硬件項目無關。
谷歌研究團隊在ICLR 2026發表論文,從數學上證明擴散模型的創造力源於神經網絡訓練中的“分數平滑”效應,使得模型能夠在訓練數據點之間插值,生成新穎且合理的樣本。
在一次黑客事件中,AI音樂生成器Suno的訓練數據被曝光,顯示其從YouTube Music、Deezer和Genius等平台抓取了數百萬首歌曲和歌詞。這加劇了針對Suno的版權訴訟,該公司承認抓取但辯稱屬於合理使用。黑客還獲取了客户信息,但Suno聲稱安全事件已得到控制,未泄露敏感數據。
一個研究團隊成功利用分佈在四個國家的14台Mac電腦(包括一台個人MacBook)進行強化學習後訓練,在PaperSearchQA任務上將pass@1從29%提升至63%。該系統通過PULSE權重同步技術實現90MB的增量更新,並採用異步星型拓撲結構,所有通信基於對象存儲,無需專用網絡。這是首次完全使用消費級Mac進行rollout生成的RL後訓練。
在《機器人總動員》的場景類比下,作者反思AI生成的平庸內容如同“機場食物”,雖然可接受但毫無特色,容易讓人麻木地接受,失去判斷力。
Painterly是一款桌面應用,通過貪心算法模擬畫筆筆觸將圖像轉化為數字繪畫,完全不需要生成式AI。它逐筆繪製,可產生高質量效果,但處理時間較長。
OpenAI與Work Louder合作推出Codex Micro發光鍵盤,這是其首款品牌硬件。鍵盤為現有第三方硬件的修改版,但帶有OpenAI標誌和“You can just build things”標語。該產品限量發售,反映了OpenAI向硬件領域擴張的雄心。