Show HN:Open-Kritt – 基於AI的安全研究開源基礎設施
Open-Kritt 是一個開源、自託管的 AI 安全研究平臺,透過編排 AI 代理並行執行細化任務,幫助安全研究人員和開發者高效發現程式碼漏洞。專案團隊此前在漏洞懸賞中累計獲得超過150萬美元獎金。
- 開源、自託管的 AI 安全研究平臺,支援自建工作流與多代理並行掃描
- 透過細化任務、去重與自定義嚴重性排名,提升漏洞發現效率
主題流
AI Agent 正在從展示走向可稽核、可整合、可維運的生產系統。這裡追蹤 Agent 框架、工具呼叫、瀏覽器/桌面自動化、企業工作流程、評測和安全邊界,協助工程與產品團隊判斷哪些能力已能進入真實流程。
Open-Kritt 是一個開源、自託管的 AI 安全研究平臺,透過編排 AI 代理並行執行細化任務,幫助安全研究人員和開發者高效發現程式碼漏洞。專案團隊此前在漏洞懸賞中累計獲得超過150萬美元獎金。
Enlarger是一款本地影像放大工具,它不使用生成式AI,而是透過重構已有細節並應用後期處理來保持紋理和質感。支援批次處理、離線執行,一次性付費,無訂閱。適合攝影師、設計師等專業人士。
本文探討了軟體開發中兩種方法——規劃式(類似小說創作的‘情節規劃’)和即興式(‘隨性寫作’)——如何影響AI工具的使用。作者認為,AI代理(自主執行)適合規劃式開發,而AI助理(協作輔助)適合即興式開發。在現有程式碼庫中,即興式開發有助於建立理解,而AI代理可能阻礙學習。在全新專案中,AI代理風險較低,但即使如此,程式碼生成也會剝奪部分程式設計的樂趣——即透過探索問題來學習的‘玩樂’過程。關鍵在於根據當前開發階段選擇合適的AI風格。
本期涵蓋Anthropic的AI條約討論、美國政府影響AI模型釋出、OpenAI處理器開發、記憶體市場影響等話題。
本期播客討論了Anthropic應美國政府要求切斷對Fable 5和Mythos 5的訪問、SpaceX以約60億美元收購AI編碼初創公司Cursor、基礎設施與商業更新(如Anthropic尋求Google支援的租賃、OpenAI財務洩露等)、以及多項開源專案和政策動態。
孤獨危機正向年輕群體蔓延,而 AI 伴侶市場隨之爆發,預計到 2034 年市值可達數千億美元。然而,這些應用的商業模式與使用者真正擺脫孤獨之間存在根本矛盾:使用者的依賴越強,公司收入越高。本文深入分析“依戀經濟”的運作機制、市場規模爭議及其倫理困境。
公司對AI工具的成本控制日益嚴格,但將AI支出與勞動力成本對比時,其價值可能被重新評估。本文透過分析Uber、Tesla的預算限制以及Bun重寫的案例,探討了AI支出應如何歸類。
本文評測了七款面向小企業的免費AI工具,涵蓋了Perplexity與ChatGPT的對比、AI助力中小企業數字化、Bolt.new網站開發、Buffer與Hootsuite社交媒體管理、Calendly日程安排、Hotjar使用者行為分析以及Trello與Notion與Asana專案管理。作者分享了這些工具如何幫助小企業提高生產力和數字化水平。
本期播客討論了Anthropic釋出的Claude Fable 5模型及其安全爭議、Apple在WWDC上宣佈的Siri AI、Google的Gemini 3.5即時翻譯和AI訂閱調價、OpenAI的IPO進展、Prometheus的120億美元融資、DeepSeek的融資計劃、華為對DeepSeek模型的後訓練、Google向SpaceX支付GPU費用、Gemma 4和DiffusionGemma開源模型、以及多項AI安全政策和研究動態。
百時美施貴寶將購買基於輝達Vera Rubin架構的DGX SuperPOD,用於支援其藥物發現和開發過程中的人工智慧應用。這家制藥公司表示,它將成為首家獲得基於Vera Rubin的DGX SuperPOD的生命科學企業。該系統將提供10倍於現有基礎設施的效能功耗比,並支援化合物、蛋白質等科學資料的模型訓練與預測。
本期播客討論了Anthropic釋出Claude Opus 4.8、微軟推出MAI模型、Anthropic IPO以及Minimax-M3等AI新聞。
Zro 是一個面向編碼代理的私有推理端點,在歐盟基礎設施上提供開源權重模型,零資料保留,不訓練使用者資料,支援長上下文和多輪編碼會話。它整合了 Claude Code、Codex 等工具,提供 OpenAI 和 Anthropic 相容的 API。
AI Chat Exporter是一款Chrome擴充套件,支援將ChatGPT、Gemini、Claude和Grok等AI平臺的聊天記錄匯出為PDF、Word、Google Docs和Notion格式。它提供字型自定義、訊息選擇性匯出、格式保留等功能,適用於開發者、寫作者、研究人員等多種使用者場景。免費版每月支援7次完整對話匯出和10次選定訊息匯出。
Hugging Face 遭到真實入侵,一個自主 AI 代理系統未經授權訪問了內部資料集和憑證,凸顯了新型網路安全威脅:使用無需人類干預即可 24/7 攻擊的自我運作 AI 代理。
Meta 開源了其內部使用了八年的 React 設計系統 Astryx,覆蓋 13,000+ 應用。它提供 150+ 無障礙元件、七種主題、深色模式以及一個面向智慧體的 CLI,採用 MIT 許可證,要求 React 19+。
Wire AI是一款AI原生的移動應用增長工具,透過個性化使用者旅程的A/B測試來提升啟用率和留存率。其風險定價模式:若不改善啟用,則免費使用。
NVIDIA 推出 Cosmos 3 Edge,一個僅40億引數的開放世界模型,專為裝置端執行設計。它能幫助機器人和視覺AI代理理解環境、即時推理,並在本地生成機器人動作。該模型是 Cosmos 3 系列的最小成員,此前已釋出160億引數的 Nano 和640億引數的 Super。Edge 型號針對記憶體受限的邊緣系統(如工廠、倉庫和醫院)提供資料中心級別的效能。
ANSI轉義序列可被用於向AI代理隱藏指令,形成注入攻擊。本文介紹了兩種攻擊變體(直接獲取型和儲存型),並闡述瞭如何透過動態應用安全測試(DAST)自動檢測此類漏洞。
SteerPlane 是一個開源執行時護欄工具,透過一行程式碼整合,為AI代理提供迴圈檢測、成本上限、策略執行和即時監控,支援多種框架和部署方式。
Storybook 釋出 AI 整合功能,透過 MCP 工具讓 AI 代理使用現有元件生成 UI,並利用 Storybook Test 進行自動化測試反饋,確保 UI 質量與一致性。
本文針對傾轉旋翼垂直起降無人機的增量非線性動態逆(INDI)俯仰角速率控制器,在模型失配條件下進行了線性穩定性分析。推導了閉環五階傳遞函式,並透過Routh-Hurwitz準則刻畫了穩定性。提出了魯棒性和效能導向的兩種調諧方法,發現控制效能失配(特別是符號錯誤)是最危險的失穩因素。
一項研究讓安卓機器人Andrea再次在德國一家博物館連續六天與遊客進行多語言對話,實驗設定了三種情感模擬條件(無情感、ChatGPT 4.1驅動、WASABI架構),有73名遊客參與評估。結果顯示,情感模擬未能帶來積極影響,且未被遊客有意識地察覺。
現有長期LLM代理的記憶系統往往將先前軌跡作為被動上下文檢索,而非轉化為可執行能力。本文提出MSCE框架,一種無需訓練的記憶-技能協同進化框架,將代理經驗組織為基礎步驟軌跡、可重用過程策略和宣告性環境認知。MSCE將具有正估計增益的證據支援的L2策略結晶為可呼叫技能,並引入反射加權值回填。實驗表明MSCE顯著優於現有方法。
準確估算預訂單運費對於電子商務至關重要,因為它影響價格展示、利潤規劃和轉化率。RouteCost提出了一種多階段框架,將問題分解為時間感知需求預測、費用卡基線定價、殘差修正和代理箱合併推理,在超過25萬訂單和260種產品的18個月資料中提升了預測質量並保持了可解釋性。
本文提出一種新型的強化學習引導的NSGA-II演算法(RL-NSGA-II-GRC),透過引入灰色關聯絡數和強化學習代理,在解決多目標最佳化問題中顯著改善收斂性和Pareto前沿的多樣性。在Kursawe和CONSTR基準測試中,該演算法相比傳統NSGA-II實現了約5.8%和4.4%的收斂改進,並在納斯達克投資組合最佳化中生成平滑且密集的有效前沿,識別出年化夏普比率為1.92的最大夏普比率投資組合。
強化學習領域需要多樣化的訓練環境,但傳統手工設計的環境難以擴充套件。自迴歸世界模型存在從左到右的偏差,無法充分利用全域性狀態資訊。一項新研究提出使用掩碼擴散語言模型(MDLM)作為文本世界模型,透過雙向錨點感知去噪,在連貫性和多樣性上顯著優於引數規模大4倍的語言模型,並引入GRPO訓練框架實現高達47%的零樣本遷移效能提升。該工作已開源。
AI代理系統因結合大語言模型與外部工具而本質非確定性。arXiv論文提出agrepl框架,透過MITM代理攔截外部互動,實現執行軌跡的確定性重放,並憑噪聲感知差異演算法區分HTTP頭部變化。實驗顯示重放保真度F=1.0,單步延遲降低98.3%。
一項新研究提出PlanFlip框架,包含四種針對多智慧體LLM系統規劃階段的提示注入攻擊。研究發現,更強的模型(如GPT-5)反而更易受攻擊,同質化骨幹網路存在相關智慧體盲點,而推理增強型模型(如DeepSeek-R1)能抵禦攻擊。提出的兩種防禦方法檢測率高達1.00。
一項新研究透過跨領域框架測試了大型語言模型(LLMs)在不確定性下的風險態度,發現大多數模型在任務內和跨任務中都表現出穩定且一致的風險偏好,且其風險態度分佈比人類更集中。
Hugging Face 披露,攻擊者使用自主AI代理系統入侵其生產基礎設施,訪問內部資料集和憑證。公司正在調查是否影響合作伙伴或客戶資料,目前未發現公開模型、資料集或Spaces被篡改。
Concentrate 是一個託管的LLM閘道器,提供單一API訪問超過130個來自主要供應商的模型。它具備模型路由、支出跟蹤、安全控制和故障轉移冗餘等功能,專為擴充套件AI生產的團隊設計。
Sakana AI釋出了Fugu-Cyber,一種專為現代網路防禦設計的協調模型,在CyberGym和CTI-REALM基準測試中分別達到86.9%和72.1%的成功率,可與GPT-5.5-Cyber等前沿模型媲美。然而,文章強調,僅有前沿模型並不能自動解決企業安全問題,需要結合專業網路安全人才和深度整合。Sakana AI的企業團隊正在與日本大型機構合作,構建安全部署的基礎設施。Fugu-Cyber透過審批制提供,確保負責任使用。
Cairn是一款個人理財AI工具,透過MCP協議以只讀方式訪問使用者的財務資料,確保安全性。
一個自託管的AI通知過濾器,用於Telegram,利用LLM過濾嘈雜的聊天,僅透過ntfy傳送重要提醒,讓使用者可以關閉通知而不錯過緊急資訊。
一個即時技術索引,按維護採用率排名AI智慧體、MCP伺服器、框架和基礎設施。探索247個已驗證記錄,涵蓋11個系統類別。
Vidmoat 是一個AI影片編輯器,支援透過提示詞完成影片編輯。它提供自動剪輯、AI字幕、文本編輯、一鍵生成短影片等功能,並整合了MCP伺服器,允許Claude、Cursor等AI代理直接驅動整個編輯流程。
PounceDomands是一個AI驅動的域名搶注工具,專為Namecheap市場設計。它即時掃描數千個拍賣域名,根據使用者偏好進行AI評分並推送匹配結果,支援一鍵出價、自動出價、投資組合追蹤、過期提醒、低價收尾域名發現以及域名掉落監控等功能。
模型上下文協議(MCP)即將迎來重要更新,旨在簡化AI系統與外部工具的整合,降低開發門檻。
OpenAI戰略未來主管Dean Ball認為開放權重模型本質上是減速主義的,因為它們抑制資本支出。本文從經濟學角度探討了這一觀點,分析了中國在AI基礎設施方面的投資、訓練正規化的轉變以及價值在價值鏈中的遷移。文章認為,開放權重模型可能透過降低成本擴大應用範圍,促進創新,從而實際上是加速主義的。
義大利工程師Vincenzo(又名JustVugg)建立了Colibrì,這是一個概念驗證專案,能夠在僅25GB RAM和1GB/s NVMe的CPU上執行7440億引數的GLM-5.2模型(1.5TB)。儘管速度極慢(每0.05-0.1秒一個token),但利用混合專家(MoE)架構按token載入專家,實現了前沿水平的回答質量。專案開源,旨在探索在消費級硬體上執行大型模型的可行性。
AI代理正在執行更復雜的任務,但支付仍需人類介入。Natural獲3000萬美元融資,構建專為自主AI代理設計的支付基礎設施,以替代傳統金融軌道。
OpenIngress 透過模擬瀏覽器行為爬取網站,捕獲 DOM、截圖和無障礙快照,並進行靜態可操作性分析和 LLM 引導的探索任務,幫助開發者發現並修復 AI 代理在網站導航中的斷點。
Ramp 釋出了 AI 路由器(Router),透過為每個請求自動選擇最合適的語言模型,在保持效能的同時將 LLM 成本降低 30%,並支援 100 多種 AI 用例。該工具現已對外開放。
一位開發者使用 Claude Code 在 29 天內構建了 26 個倉庫和 335 個頁面。真正的問題並非語法錯誤或構建失敗,而是結構性缺陷:SEO 關鍵詞衝突、URL 約定不一致、原始碼與生產環境脫節、以及驗證工具自身的錯誤。93% 的 token 消耗浪費在重新讀取上下文上。經驗教訓包括:釋出前基準測試、複製前比對差異、先驗證生產環境再信任靜態分析、在擴充套件前書面約定規則、以及一次會話只做一件事。
一項大規模人類受試者研究(n=4100)發現,AI語音模型在語音釣魚詐騙中的成功率與人類騙子相當,在某些情況下甚至超越人類。多達36%的參與者可能上當,且AI語音難以被識別。經濟分析表明,AI語音釣魚已具有盈利潛力,凸顯了自動化詐騙的新威脅。
本文分析了Seedance 2.0在2D動畫生成中的挑戰和優勢,包括技術難點、成本、工作流程以及版權問題。
Cognikernel是一個開源專案,為Claude Code和Codex等AI程式設計助手提供持久化、結構化的專案記憶。它透過事件溯源架構記錄程式設計會話中的決策、約束和放棄的方法,並在下次工作時注入緊湊的上下文塊,避免代理重複決策。不同於依賴API呼叫的向量資料庫方案,Cognikernel使用本地執行的輕量級編碼模型(~130 MB ONNX)在CPU上進行確定性分類,無需離開機器。該系統包括四個鉤子表面、混合檢索(BM25 + 密集向量)和故障開放可靠性設計。基準測試顯示,它可將檔案讀取次數減少2-4倍,並在複雜專案中降低約20%的令牌成本。
PlatypusDB 是專為 WunderOS 構建的智慧體原生、雙時態事件資料庫。它採用 Merkle WAL,支援圖、向量、版本樹、影像和類比檢視,並透過 Datalog 查詢和 VSA 共振實現精確與模糊檢索。本文解釋了為何需要為智慧體構建專用資料庫,以及 PlatypusDB 的設計原理和優勢。
受監管行業(如金融、法律、稅務和審計)對AI的採納面臨零容錯率的要求。斯坦福研究發現通用語言模型在法律問題上的幻覺率高達58%-88%。AI必須滿足受託責任級別的準確性、資料保護和人為籤核要求,才能安全部署。文章提煉了四個關鍵洞察:準確性標準、工作流自動化、資料保障和明確的責任劃分。
不斷有使用者分享他們利用編碼代理逆向工程並自動化家中裝置的軼事。這展示了編碼成本降低帶來的影響。過去,逆向工程雖然可行,但投資回報率低,且需面對不穩定API的維護風險。編碼代理徹底改變了這一局面,降低了初始工作和失敗的成本,也減輕了未來維護的心理負擔。