Show HN: Gate.cat – 在AI編碼代理執行rm -RF之前阻止它
Gate.cat 是一個為AI代理設計的失敗關閉式操作否決工具,旨在防止破壞性命令如rm -rf的執行。
- Gate.cat 是一種針對AI代理的操作否決機制。
- 它採用失敗關閉模式,確保安全。
日報
2026-07-16 精選 10 條,按主題聚合。其餘新聞折疊歸檔。
Gate.cat 是一個為AI代理設計的失敗關閉式操作否決工具,旨在防止破壞性命令如rm -rf的執行。
隨著克里斯托弗·諾蘭的《奧德賽》即將上映,電影工作室Fountain 0宣佈推出AI生成的《奧德修斯:隕落》,試圖借諾蘭的熱度營銷其AI服務。該片製作成本僅數萬美元,視覺效果粗糙,被批評為AI垃圾,缺乏藝術價值。
Atlassian宣佈Jira新增AI原生開發功能,透過Teamwork Graph提供上下文,支援將工作分配給AI代理、監控會話、自動化工程迴圈並衡量AI成本,旨在解決AI生產力差距問題。
本文提倡訓練AI對資源具有風險規避特性,即邊際效用遞減。這種特性可以在AI保持對齊的情況下保留其效用,並在未對齊時提供額外防禦:未對齊但風險規避的AI更傾向於穩定的小額獎勵而非冒險叛亂。文章分析了風險規避的可行性、訓練方法以及潛在問題,認為前沿AI公司應考慮實施。
中國、加利福尼亞州和紐約州的新法律對AI伴侶聊天機器人施加嚴格限制,理由包括成癮、心理健康風險和兒童傷害。美國法規側重個人保護,而中國則旨在維護國家利益並應對出生率下降。所有法律均要求披露聊天機器人的非人類身份。
JointJS+ 和 JointJS 提供了 AI 工作流構建器的演示,支援透過拖拽介面設計 AI 代理,包含自動佈局、自定義形狀、導航器等多種功能,適用於商業和開源專案。
Databricks 宣佈成為 Thinking Machines Lab 的零日啟動合作伙伴,將其首款開放權重模型 Inkling 引入平臺。Inkling 專為編碼和智慧體推理最佳化,支援多模態輸入,透過 Unity AI 閘道器提供企業級治理。企業團隊可在自有資料上定製模型,並與 Cursor、OpenCode 等編碼智慧體整合。
Murph是一款AI健康助手,透過連線可穿戴裝置、血液檢查等資料,幫助使用者進行自我實驗、建立習慣、參與群組挑戰,並提供個性化的健康洞察。它支援開源自託管,注重隱私,月費8美元。
這些智慧家居裝置提升了我的家庭和日常生活。以下是你可能也想要它們的原因。
Limits是一款iOS應用,可在裝置上監控Codex、Claude Code和Cursor等AI工具的使用配額。它提供即時通知、重置提醒和預測性警告,幫助使用者避免超出限制。所有資料本地處理,無伺服器儲存,賬戶資訊透過iOS鑰匙串加密儲存。
Built Technologies與AWS生成式AI創新中心、AND Digital及AWS賬戶團隊合作,建立了可擴充套件的AI文件處理引擎,能夠對複雜房地產金融文件進行分類、拆分、提取、評估和推理。該引擎將原本需要數天的工作流程縮短至數分鐘,支援數百種文件型別,併為技術團隊和行業專家提供構建和改進文件處理器的共享環境。
本文介紹了計算機視覺MCP伺服器,它透過統一介面整合計算機視覺、Strands代理和MCP協議,使AI系統能夠高效處理視覺資訊並做出智慧決策。架構使用AWS IAM、S3、OpenSearch、Bedrock和Rekognition等服務,支援影像和影片分析,包括物件檢測、裁剪和描述等功能。
根據Dice的最新報告,73%的科技職位描述要求具備AI技能,而2024年1月這一比例僅為15%。求職者需要展示AI熟練度、獲得認證、透過專案成果證明能力,並制定個人技能提升計劃。
IBM釋出了新的Power伺服器系列和軟體,旨在實現基礎設施管理和應用程式開發的自動化。其中包括用於系統管理的自主控制層IBM Power Autonomous Operations,以及面向IBM i環境的AI驅動開發助手IBM Bob Premium Package for i。此外,IBM還推出了緊湊型單插槽Power11伺服器Power S1112,專為本地AI推理設計。這些新功能建立在去年Power11釋出的基礎上,強調了自主IT能力的擴充套件。IBM引用其2026年技術領導者研究,預計到2027年企業將平均部署1661個AI代理,需要能夠自我管理的基礎設施。Power S1112利用Power11的片上矩陣數學加速進行本地推理,效能是Power S914的兩倍,能效提高69%。Power Autonomous Operations透過持續監控系統行為,在3.33分鐘內解決容量問題,比傳統工作流程快15倍。IBM Bob Premium Package for i則幫助開發者更快理解和現代化IBM i應用。
Work Louder 推出 Codex Micro,一款整合語音提示、任務監控和觸控操作的緊湊型硬體控制器,專為 Codex AI 智慧體設計,提供直觀的狀態反饋和高效的命令控制。
高等教育機構在擴大校園呼叫中心服務質量審查方面面臨挑戰。Databricks 提出一種基於生成式人工智慧的解決方案,使用 OpenAI Whisper 進行高精度轉錄,利用 LLM-as-a-judge 根據機構評分標準進行一致評分,並透過 AI 函式進行資料豐富——所有步驟均在統一治理平臺上完成,透過 Genie 和 Agent Bricks 實現自然語言洞察。
Shippy是一個用於即時海洋領域感知的AI代理,其設計注重可靠性、模組化和可審計性。文章詳細介紹了其架構:由“靈魂”(系統提示)、技能(結構化Markdown檔案)和配置組成。透過專用CLI與Skylight API互動,並使用Mothership平臺進行沙盒託管和使用者隔離。評估系統針對真實場景和加權標準對整體代理進行評分。未來計劃包括代理驅動的UI控制、模型路由和跨執行緒記憶。
本文探討了AI代理中模型路由的複雜性,指出路由不僅僅是分類問題,而是系統最佳化問題。文章透過三個維度(成本、複雜度、延遲)揭示了常見誤解,並介紹了IBM Research團隊構建的基於最佳化的路由解決方案。
一種名為CrashStealer的新型macOS惡意軟體偽裝成蘋果崩潰報告工具,竊取使用者資料、密碼和加密貨幣錢包。本文介紹其工作原理及三種防禦習慣。
隨著人工智慧成本成為美國企業增長最快的支出之一,一些初創公司開始轉向更便宜的中國AI模型以節省開支。儘管中國模型在能力上落後6到12個月,但其開源特性和低成本吸引了大量使用者。
LangChain的Fleet平臺新增一鍵部署功能,允許使用者無需編碼即可建立併發布AI代理到Slack。代理可擁有自定義身份,在頻道和執行緒中工作,並支援許可權控制和審批流程。
OtoDock是一個自託管的AI Agent平臺,讓你可以在自己的基礎設施上以Agent團隊的形式執行Claude Code和Codex。它提供即時儀表盤、安全沙箱、多Agent會議、自動化排程、文件生成等功能,支援消費級訂閱、API金鑰或本地模型。採用公平原始碼許可(FSL-1.1-Apache-2.0),支援Docker一鍵部署。
傳統的VPN無法滿足AI代理的訪問需求,企業需要統一的身份網路和特權訪問管理,以安全地支援人類和代理的混合工作負載。Tailscale專家將於7月28日舉辦網路研討會探討解決方案。
Mindlas 是一款開源工具,透過確定性儀表盤即時監測 AI 編碼會話中的上下文惡化、驗證債務、變更影響範圍等問題,並在問題累積前提供具體糾正措施,無需網路呼叫且完全本地執行。
OpenAI與鍵盤製造商Work Louder合作推出了一款名為Codex Micro的方形按鍵裝置,用於監控和管理Codex編碼平臺上的AI代理。該裝置售價230美元,限量發售,與OpenAI和Jony Ive合作的另一硬體專案無關。
谷歌研究團隊在ICLR 2026發表論文,從數學上證明擴散模型的創造力源於神經網路訓練中的“分數平滑”效應,使得模型能夠在訓練資料點之間插值,生成新穎且合理的樣本。
在一次駭客事件中,AI音樂生成器Suno的訓練資料被曝光,顯示其從YouTube Music、Deezer和Genius等平臺抓取了數百萬首歌曲和歌詞。這加劇了針對Suno的版權訴訟,該公司承認抓取但辯稱屬於合理使用。駭客還獲取了客戶資訊,但Suno聲稱安全事件已得到控制,未洩露敏感資料。
一個研究團隊成功利用分佈在四個國家的14臺Mac電腦(包括一臺個人MacBook)進行強化學習後訓練,在PaperSearchQA任務上將pass@1從29%提升至63%。該系統透過PULSE權重同步技術實現90MB的增量更新,並採用非同步星型拓撲結構,所有通訊基於物件儲存,無需專用網路。這是首次完全使用消費級Mac進行rollout生成的RL後訓練。
在《機器人總動員》的場景類比下,作者反思AI生成的平庸內容如同“機場食物”,雖然可接受但毫無特色,容易讓人麻木地接受,失去判斷力。
Painterly是一款桌面應用,透過貪心演算法模擬畫筆筆觸將影像轉化為數字繪畫,完全不需要生成式AI。它逐筆繪製,可產生高質量效果,但處理時間較長。
OpenAI與Work Louder合作推出Codex Micro發光鍵盤,這是其首款品牌硬體。鍵盤為現有第三方硬體的修改版,但帶有OpenAI標誌和“You can just build things”標語。該產品限量發售,反映了OpenAI向硬體領域擴張的雄心。