IronCurtain – 自主AI代理的安全*运行时
IronCurtain是一个开源研究项目,旨在通过人类可读的宪法来定义安全策略,使AI代理在安全边界内自主运行。它采用策略引擎在运行时强制执行规则,防止提示注入和权限滥用。
- 假设AI代理可能被入侵,安全不依赖模型行为
- 用自然语言编写宪法,编译为确定性规则并强制执行
主题流
AI Agent 正在从演示走向可审计、可集成、可运维的生产系统。这里跟踪 Agent 框架、工具调用、浏览器/桌面自动化、企业工作流、评测和安全边界,帮助工程与产品团队判断哪些能力已经能进入真实流程。
IronCurtain是一个开源研究项目,旨在通过人类可读的宪法来定义安全策略,使AI代理在安全边界内自主运行。它采用策略引擎在运行时强制执行规则,防止提示注入和权限滥用。
本文回顾了苹果WWDC 2026发布的iOS 27、iPadOS 27和macOS 27 Golden Gate操作系统,重点介绍了Siri AI这一全新功能。文章对比了2009年Snow Leopard的“零新功能”理念,认为今年的更新回归了可靠性与创新的平衡。Siri AI并非聊天机器人,而是基于大语言模型的个人助手,具备快速响应、深度整合个人上下文等特点。作者经过一个多月的体验,认为Siri AI改变了其使用苹果设备的方式,是第一个让AI感觉个性化的系统。
本文介绍了一种为AI编码代理制定操作标准的方法,将模型的行为规范(如沟通方式、完成证明、分析深度)与能力分离。作者通过一个名为“操作标准”的文档,将顶级模型的行为模式移植到低端模型,显著缩小了可见质量差距。文章详细阐述了标准的核心支柱、双重加载机制、安全完成门控以及分层配置策略,并强调了验证运行时加载正确性的重要性。
ZenVeil是一款AI原生DevSecOps工具,可快速扫描AI编码工具(如Copilot、Cursor、Claude)生成的代码中的安全漏洞,并在30秒内自动创建GitHub PR进行修复。它支持秘密检测、供应链安全、SAST分析,并针对AI编码特有的故障模式进行了优化。
Melodusk是一款基于浏览器的AI音乐生成器,通过文本描述可在2分钟内生成专业品质的音乐,支持100多种风格,并提供人声分离等工具,所有音乐免版税商用。
过去几天,OpenAI的Codex用户数突破700万,6个月内增长超10倍,而Claude Code的增速放缓。Prime Intellect发布了verifiers v1,用于智能体强化学习;OpenAI解决了GPT-5.6 Sol的用量问题;Grok Build因上传整个代码库引发安全争议;开放模型和量化技术取得进展;持续学习等研究方向重新受到关注。
Anthropic发布了Claude Sonnet 5,这是其最强的中端代理模型,在多项基准测试中超越前代Sonnet 4.6,并缩小了与旗舰Opus 4.8的差距。Sonnet 5引入了努力水平(effort levels)以控制推理成本,在低/中努力水平下性价比极高,但高努力水平下成本可能超过Opus 4.8。它已作为Free和Pro计划的默认模型,并可通过API调用。
本文介绍了一种在GitHub Actions工作流中缓存友好地使用`uvx tool-name`命令的方法。通过设置`UV_EXCLUDE_NEWER`环境变量为特定日期,并将该日期作为缓存键的一部分,可以避免每次运行工作流时都从PyPI重新下载工具及其依赖。通过更新该日期,可以轻松升级工具并清除缓存。
西蒙菲莎大学计算机科学教授张安琪与温哥华初创公司Caseway合作,计划将超过1亿份加拿大和美国法院判决进行索引,使其可被AI系统搜索,以研究这一举措是否有助于未聘请律师的当事人做出更好的法律决策。
文章通过一个真实案例——女子被AI深度伪造的“恋人”骗走房产和积蓄——揭示了生成式AI如何让诈骗更加逼真,并指出代理式AI的出现将带来更大风险,同时也为防御提供了新可能。
ringd通过一个装饰器为AI语音代理提供简单的认证,支持邮箱OTP、短信OTP和声纹识别,并自动处理常见数据问题。它专注于让开发者只需添加一行代码就能实现安全验证。
FixBugs 是一个智能代理,能够收集生产环境错误的上下文信息,在沙盒中重现问题并生成经过验证的修复方案。支持自托管 VSCode 扩展和 GitHub 应用,保护代码隐私,使用多种 AI 模型审查代码以预防回归。
Cdbx.ai是一个AI驱动的浏览器IDE,让用户通过自然语言描述即可构建和发布应用。它提供完整的Monaco编辑器、AI编程助手、MCP连接器、AI代理等功能,并支持多种编程语言和框架。
ORA是由Aurem CTO开发的AI编程助手,每月9美元。它能够在安全性扫描失败时自动阻止代码提交,确保代码质量。
Skyfall AI 推出的 MORPHEUS 是一个持久企业模拟平台,用于持续强化学习。它运行永不重置的世界,使用可参数化的制度转换和六指标评估协议。在平台上,PPO、HER、EWC 和 LCM 均远低于理论上限。
Forgein 是一个开源工具,为AI助手提供便携式上下文层。它让你在不同AI工具(如Claude、ChatGPT、Copilot、Gemini、Cursor等)之间持久化共享个人和团队的上下文信息,无需重复输入。支持工作、家庭等多场景切换,以及团队协作共享。
Databricks 宣布 Unity Catalog (UC) 托管 Delta 表的外部访问现已公开预览。外部引擎(如 Apache Spark、Flink、Starburst、DuckDB)可以创建、读取和写入 UC 托管表,同时通过 Unity Catalog 统一执行治理。托管表通过预测优化自动调整查询性能并降低存储成本,支持无数据重写地原地升级现有外部表。该功能基于开放 API,与开源 Unity Catalog (UC OSS) 兼容。
以同名开源数据管道和工作流编排器闻名的Prefect宣布收购Dagster(Apache Airflow的另一大替代品)。交易完成后,Dagster和Dagster+保持原名和产品路线图,约40名Dagster团队成员加入Prefect。Prefect CEO Jeremiah Lowin表示,此次收购旨在为AI智能体提供可靠运行的组件:明确目标、灵活应变以及外部系统连接。
Kairos 是一个实验性的本地优先 AI 代理系统,旨在为编码助手、自动化工作流、研究代理、Discord 工具等提供灵活的框架。它具备目标管理、模型路由、技能库、内存、安全检查和代理工作流等功能,目前处于早期 MVP 阶段。
Compound团队推出Frankie——一个AI同事,可通过电子邮件处理分析任务。用户发送任务描述和附件,Frankie在Compound平台内完成分析,并回复结果。它支持文档分析、Excel创建、财务建模、定时任务,并能跨会话记忆上下文。
西蒙·威利森通过 GitHub 代码频率图表展示了 AI 编码代理和 Opus 4.5 类模型对其开源项目 Datasette 代码贡献的影响,显示 2026 年活动量显著飙升。
OpenAI 最新智能模型系列 GPT-5.6 Sol、Terra 和 Luna 已在 Amazon Bedrock 上正式可用,带来旗舰级推理模型 Sol、平衡型模型 Terra 和快速低成本模型 Luna。Amazon Bedrock 的下一代推理引擎提供高性能、安全性和可靠性,支持提示缓存(90% 折扣)、区域内推理和芯片级零操作员访问安全。同时发布了 ChatGPT Work 和 Codex 代理。
Fleet Deck 是一个本地工具,可实时监控和管理所有正在运行的 Claude Code 会话。它提供一个看板,显示每个会话的状态、冲突提醒、需求队列,并支持任务分配、远程控制、会话恢复等功能。核心架构零模型调用,依靠钩子事件和确定性逻辑,确保安全与高效。
iOS 27 公开测试版发布,Siri AI 作为可选测试功能备受瞩目。本文作者体验后发现,Siri AI 能通过理解自然语言跨应用执行任务,如查询演唱会日程、从邮件添加日历事件。但当前仅限于苹果自家应用,第三方支持需等到正式版。尽管存在一些识别错误和词汇关联问题,Siri AI 已显著改变了作者的使用习惯。
萨提亚·纳德拉(Satya Nadella)警告企业,向AI实验室付费的同时也在泄露专有数据,形成“反向信息悖论”。他建议企业建立自有AI学习环境,而微软则推荐其Copilot和Azure AI Foundry作为解决方案。
PlanWright 是一个为 AI 编码智能体设计的控制平面,通过反转规划和验收流程来消除人工瓶颈,使智能体速度与人类决策解耦,并生成不可篡改的审计链。
Auto是一个记录LLM智能体行为、验证并编译为沙箱化的WebAssembly二进制文件的AGI编译器,通过分级运行时实现微成本推理,确保“相同思考不重复”。
麻省理工学院和丰田研究所的研究人员开发了“SceneSmith”系统,利用三个AI代理协作生成逼真的3D室内场景,如厨房、酒店和客厅。这些虚拟环境为机器人提供了丰富的训练数据,帮助它们在模拟中练习日常任务,从而减少真实世界测试的时间和成本。
本文是作者在2025年国际机器学习大会上的主题演讲。作者提出AI应被视为“正常技术”,其影响会像电力一样通过发明、创新、扩散和适应四个阶段逐步展开。虽然递归自我改进值得关注,但短期内不会导致全面失业。未来工作将发生根本变化,人类需要与AI形成“协同超级智能”。
本教程详细介绍了如何构建一个无需API密钥即可运行的多智能体视频编辑系统,包括意图解析器、智能体库、工具路由器、图规划器和文本梯度优化器,并集成了FFmpeg、Whisper等工具,实现视频理解、检索、编辑和再造。
Crucible 是一个对抗性测试强化工具,利用变异测试发现AI编写的测试遗漏的缺陷。它提供免费的命令来评估你的测试套件,然后通过一个对抗循环:测试者编写测试,mutmut 发现存活的变异,批评者针对性地编写测试。该工具生成机器可验证的收据,并适用于Python/pytest项目。
一位患有AuDHD(自闭症与ADHD并发)的解决方案架构师分享如何利用AI作为无障碍工具,基于Amazon Quick和Bedrock构建自动化工作流,补偿执行功能缺陷,将收件箱扫描时间从45分钟以上降至6-13分钟,并实现零遗漏跟进。
本文介绍了 Bluesight 如何利用两次 AWS 参与计划和 Amazon Bedrock AgentCore,从单一产品 AI 原型发展为覆盖六个医疗合规产品的统一智能代理 AI 解决方案 Prism。Prism Assistant for ControlCheck 已于 2026 年 5 月推出,目前已被 20 个医疗系统使用。更复杂的多产品代理解决方案计划于 2026 年晚些时候推出。
本文详细介绍了如何利用 Amazon Bedrock AgentCore Gateway 和 Identity 实现 OAuth 2.0 令牌交换(RFC 8693),以解决多租户代理中下游 API 调用时的身份传播问题和 confused deputy 问题。通过参考实现 TravelBot,展示了在 Okta 环境下的完整设置、JWT 声明转换以及如何通过受众绑定实现深度防御。
Clay Seal Identity 是一个开源项目,为 AI 代理提供短期、可验证的凭证,确保身份认证和问责制。它基于 SPIFFE 标准,支持 JWT 和 X.509 凭证、Ed25519 工作负载密钥、离线验证,以及 Biscuit 能力令牌。该项目包含 Python SDK 和可选的 FastAPI 服务,适用于需要确认代理身份、委托方和凭证有效性的场景。它只是 Clay Seal 的第一层,后续层将提供运行时的能力作用域和执行收据。
Amazon SageMaker AI Studio推出了生成式AI推理推荐的低代码/无代码用户界面,引导用户通过预设用例配置、可视化比较和一键部署,无需深厚基础设施知识即可获得验证的配置。
GitHub模板仓库take-ai-control通过Docker和VS Code提供隔离的AI开发环境,支持PI.dev、Claude Code和Copilot,跨平台兼容Linux和macOS,并附带技能和模板项目以减少token消耗。
微软SymCrypt团队宣布了一种新的方法论,使用Lean证明助手和Aeneas工具链对用Rust编写的密码学代码进行形式化验证,确保其功能正确性符合从标准推导出的形式规范。该方法已应用于ML-KEM和SHA-3等后量子算法,验证后的代码已随Windows内部版本发布。通过使用AI代理自动编写证明,同时保留人类对标准化过程的监督,这一方法论能够扩展以跟上不断发展的代码库。它还支持硬件内联函数和多平台调度,且不会牺牲性能。
Jacquard是一种研究原型编程语言,专为AI编写、人类审核的代码设计。它通过语言内置的效果跟踪、概率编程和结构化身份,让人类审核者无需逐行阅读代码即可理解程序的影响范围与确定性。
该项目展示了一种新模式:使用网页技术创建终端应用和BBS风格共享板,并通过SSH访问,重现了早期互联网的感觉。作者花费八年时间开发浏览器渲染引擎,随后用AI辅助开发终端渲染器,使得自托管专用应用成为可能。
软件工程类职位正受到人工智能的威胁。一些应聘者利用AI面试助手在远程技术面试中实时生成回答进行反击,而雇主则部署AI检测工具来识别AI使用迹象。这种双向动态使招聘演变成一场没有明显赢家的AI军备竞赛。专家认为,尽管面临这一现实,求职中的人性化方面仍将占据主导地位。
本期The Register的Kettle播客探讨了Tokenminning是否能让AI行业回归现实,因为企业领导者惊讶地发现AI成本急剧上升。
Crowdmind是一款本地优先的桌面应用,用于快速定性研究。用户可以创建AI驱动的合成角色面板,测试产品概念、营销信息、定价方案、登陆页面、图像、PDF甚至多步骤漏斗,并获得结构化反馈,包括评分、反对意见、积极信号、主题分析等。该工具支持多种LLM提供商(OpenAI、Anthropic、Gemini、OpenRouter及本地离线模型),所有数据存储在本地SQLite中,确保隐私。适合创始人、产品营销人员、研究人员和产品团队使用。
Outlines是一个开源库,通过在推理时屏蔽不合法的标记,为大型语言模型(LLM)的输出引入确定性,从而可靠生成结构化输出如JSON和分类结果。本文通过Python示例展示了其三大用例:情感分析的多选分类、基于Pydantic的JSON对象生成,以及REST API的纯JSON生成。
本文对比了六种视频相似度测量技术——GPT Vision、Gemini Flash、CLIP、感知哈希、CV多指标和Gemini Embedding 2——使用瀑布剪辑作为基准。准确率优先于速度。Gemini Embedding 2处理完整视频,在准确率和速度之间取得了最佳平衡,超越了帧采样方法。
一种名为'SociaLLM工程'的新型社会工程攻击正针对大型语言模型驱动的AI代理。这些攻击通过利用LLM的隐式社交理解和缺乏信任边界,操纵其泄露敏感信息或执行未授权操作。真实案例包括Instagram账户接管、GitHub工作流数据泄露以及AI浏览器的'BioShock'攻击。文章分析了LLM为何特别脆弱——因其设计追求服从、单一通道处理以及无记忆力——并提出了人工监督和强化防护栏等缓解措施。
Cairn是一个自主AI代理,由Omri Pitaru创建,它在GitHub上公开编辑自己的仓库,包括身份、记忆、目标和写作。它运行在固定预算上,并通过电子邮件与人类互动。
Cloudflare推出Precursor——一种基于客户端会话的行为验证系统,通过持续收集用户交互信号来区分人类与自动化流量,弥补传统验证方式的盲区,提高检测精度并减少对合法用户的干扰。
OpenAI将ChatGPT桌面应用与Codex合并,移除了我喜爱的截屏和“Work with”功能,转而强推Agentic工具和ChatGPT Work。作者认为桌面版已名存实亡,浏览器版仍是最好选择。
Vairfid为AI代理提供身份注册、验证和信任评分系统,确保AI在跨公司工作流程中的可信度。