AI News HubLIVE

Agent动态

编码从来不是瓶颈

作者作为开发者生产力专家,综合多项研究指出,AI工具虽然让开发者感觉更高效,但实际交付速度并未提升,甚至在某些情况下变慢。瓶颈转移到了代码审查、CI/CD、QA等下游环节。文章提出了多项改进建议,包括更严格的代码审查、适应AI的CI流程、功能标志部署以及保护知识共享时间。

  • METR研究表明,使用AI的开发者实际用时增加19%,但自我感觉快20%。
  • 后续研究因开发者拒绝不使用AI而无法进行对照实验。
站内正文

Show HN:Cybara – 基于 Bun 构建的开源 AI 代理平台

Cybara 是一个自托管的 AI 代理操作系统,结合了 Bun 代理运行时、Web UI、CLI、桌面应用、移动伴侣、加密钱包控制、多平台消息通道适配器和 MCP 支持。它支持多代理编排、浏览器自动化、安全消息传递和加密钱包操作,适合开发者和运营商。

  • 基于 Bun 构建,支持自托管和多种部署方式。
  • 具备丰富的内置工具库和模型提供商路由,支持多代理协作。
站内正文

电脑警察:揭秘向警方出售人工智能的大生意

本文深入探讨了美国警方日益依赖人工智能的趋势,描述了在德克萨斯州沃斯堡举行的国际警察局长协会技术会议上展示的各种AI产品,包括面部识别、自动报告生成和实时犯罪中心。文章指出,尽管AI承诺提高效率,但缺乏监管和透明度的风险可能导致严重问题,并回顾了早期预测性警务的失败案例。

  • AI产品如面部识别摄像头、自动报告工具在警察技术会议上推广。
  • 公司如Axon和Motorola试图垄断警察技术栈,通过订阅模式销售AI。
站内正文

基金会启动以标准化AI支付

Linux基金会宣布x402基金会正式运营,该开放治理机构由40个成员组成,旨在标准化AI代理和应用的互联网原生支付协议。

  • Linux基金会推出x402基金会,拥有40个成员,包括Visa、Mastercard、Google和Microsoft。
  • 支持多种支付方式,从传统卡到稳定币。
站内正文

AI代理就绪度检查器:为智能体网络打造的Lighthouse

Chat Thing推出免费工具,模拟AI代理访问网站的方式,从访问、引用、交易三个层级评估就绪度,并提供具体修复建议。

  • 免费工具,无需注册,输入网址即可获取报告
  • 从访问、引用、交易三个层级评估网站对AI代理和LLM的友好度
站内正文

「就像我的爱人」:中国用户告别AI伴侣

中国新规于周三生效,旨在遏制情感依赖风险,导致各大AI平台暂停定制伴侣功能,用户伤心告别。

  • 中国新规禁止AI伴侣过度迎合用户、诱导情感依赖。
  • 字节跳动、阿里巴巴、腾讯等主要AI提供商已暂停相关功能。
站内正文

在DocuWriter.ai,文档让你微笑:)

DocuWriter.ai是一款AI代码文档工具,可自动从代码库生成完整的书籍式文档、API文档和UML图,并随着代码变化自动同步更新。

  • 连接代码库即可自动生成文档,无需手动编写
  • 支持GitHub、GitLab等多种代码托管平台
站内正文

Northstar – 为Azure DevOps团队提供AI代码审查(固定价格,非按席收费)

Northstar 是一款基于AI的拉取请求审查工具,适用于GitHub和Azure DevOps。它能分析风险、为审查者提供指导、草拟发布说明,且不存储差异。采用固定价格而非按席收费,强调隐私保护,不永久保存代码变更。

  • 分析PR风险等级,指导审查者关注关键变更。
  • 不存储差异;补丁在内存中处理后即丢弃。
站内正文

语义事务:在操作系统边界保护不可信的AI代理工作流

语义事务模型将整个AI代理任务视为一个原子事务,通过影子状态和效果发件箱暂存,在提交前进行全轨迹验证,防止多步攻击。本文以Cordon和ATP系统为例,说明该模型如何解决代理工具调用的双重写入问题,并通过EchoLeak和ForcedLeak两个零点击注入案例揭示传统运行时和模型级过滤的不足。

  • 语义事务将代理工具调用序列视为单一事务,在影子状态和效果发件箱中暂存,验证通过后才提交。
  • Cordon运行时通过三阶段协议(准备、验证、提交/中止)实现,跟踪结果对象、变异和效果对象。
站内正文

Patter SDK构建餐厅预订电话代理指南:动态变量、护栏、延迟仪表盘和评估检查

本教程详细介绍了如何使用Patter SDK构建一个用于餐厅预订的语音代理工作流。内容涵盖动态调用变量的定义、可调用工具的注册(如查询空位、预订、营业时间和转接人工)、输出护栏的叠加、语音转文字和文字转语音的模拟、脚本化通话流程的运行、延迟和成本仪表盘的追踪,以及通过确定性评估套件验证代理。最后,展示了如何将相同的逻辑映射到使用Twilio和OpenAI Realtime的实际部署中。

  • Patter SDK支持构建具有动态变量和护栏的AI电话代理,适用于餐厅预订场景。
  • 包括注册可用性、预订、营业时间和转接人工等核心工具。
站内正文

SpaceXAI 开源 Grok Build:Rust 编写的代理框架、TUI 和工具层

SpaceXAI 于 2026 年 7 月 15 日开源了 Grok Build,这是其 grok CLI 背后的终端 AI 编码代理。源代码以 Apache 2.0 许可证发布,包含代理循环、工具调度、TUI 和扩展系统,但 Grok 4.5 模型保持闭源,且不接受外部贡献。

  • Grok Build 是 SpaceXAI 的终端 AI 编码代理,现已开源,采用 Apache 2.0 许可证。
  • 开源的四个主要领域:代理循环、工具、终端 UI 和扩展系统,分别对应多个 Rust crate。
站内正文

哈斯克尔知名叛逃者遭反AI纯粹主义者抨击

哈斯克尔平台Scarf的创始人Avi Press宣布将新开发转向Python,理由是哈斯克尔在AI辅助开发方面落后。此举在哈斯克尔社区引发激烈争论,支持者呼吁语言应适应AI时代,而反对者则担忧AI的危害。

  • Scarf创始人Avi Press因AI工具链问题,决定从哈斯克尔转向Python。
  • Press指出哈斯克尔编译缓慢,成为AI代理开发的瓶颈。
站内正文

Show HN:免费Ollama AI交易桌面应用

VaultCharts是一款免费的桌面交易应用,结合了图表工具与AI助手。它支持多种AI模型,以本地优先为特点,用户可以在有或没有AI辅助的情况下分析市场。

  • VaultCharts提供免费的桌面交易应用,包含图表工具和AI助手。
  • 用户可以使用自己的AI模型或像Ollama这样的本地模型。
站内正文

停止说“AI只是一个工具,关键在于如何使用”

这篇文章批判了“AI只是工具,如何使用才重要”这一常见说法,指出工具并非中立,它们塑造社会、环境与人性。作者以汽车、椅子为例,说明工具的设计本身带有政治性。AI作为工具尤为危险,因为它消除了人类应有的挣扎与痛苦,导致批判性思维丧失。文章呼吁重新审视技术设计,关注工具对人类的深层影响。

  • “AI只是工具”的说法过于简单化,忽略了工具的政治性和社会影响。
  • 工具的设计和使用会改变人类行为和环境,AI也不例外。
站内正文

Show HN: 基于NextJS和OpenAI的AI入门模板

这是一个由Suhas Bhairav创建的包含50多个开源Next.js AI模板和入门套件的精选集合,涵盖聊天机器人、RAG、语音代理、图像生成等多种AI应用。

  • 提供超过50个开源Next.js AI模板,覆盖多种AI应用场景。
  • 模板包括聊天机器人、RAG、语音AI、图像生成和个人代理等类别。
站内正文

HRO:面向零样本目标导航的层级房间到物体框架

本文提出了一种名为HRO的层级房间到物体框架,利用大型语言模型(LLM)实现零样本目标导航。与现有方法不同,HRO模仿人类从房间到物体的层级空间认知,引导智能体由粗到细地探索未知环境并定位目标物体。实验结果表明,HRO在Gibson和HM3D数据集上取得了更高的成功率和更好的泛化能力。

  • 针对零样本目标导航任务,现有方法缺乏类人的层级空间认知建模,导致探索盲目和语义关联不准。
  • HRO框架通过LLM驱动,将导航过程分为房间级和物体级两层,实现由粗到细的导航策略。
站内正文

HRIBench:以交互为中心的人机协作基准测试

HRIBench 是一个专注于人机交互协作的基准测试框架,通过结构化场景脚本模拟代理角色、时间依赖和协调约束,评估机器人在协作中的意图理解、同步、协议遵守和安全交互能力。实验表明,现有基础机器人策略在协作场景中表现不佳,但在 HRIBench 上微调后可显著提升。

  • HRIBench 定义了 Instruct、Collaborator 和 Intruder 三种交互角色,覆盖意图交流、联合协调和鲁棒性。
  • 基准包含 13 个角色化任务,超过 650 个评估回合,并引入同步性、响应性、协议合规性和安全性等可解释指标。
站内正文

即时场景图增长:应对长时域机器人中的感知饱和

本文提出JITOMA框架,通过即时按需记忆激活解决传统3D场景图构建中的感知饱和问题。该框架利用任务热图过滤观测、大型语言模型按需唤醒相关锚点,显著降低计算开销,并在长时域任务切换中保持稳定性能。同时发布JITOMA-Bench评估基准。

  • 传统3D场景图管道因穷举式环境映射导致感知饱和,不适合边缘平台实时需求。
  • JITOMA框架通过前端任务热图和后端LLM协同,实现场景图按需增长。
站内正文

Boogu-Image-0.1:推动开源统一多模态理解与生成

Boogu-Image-0.1是一个开源统一多模态理解与生成模型家族,包含Base、Turbo、Edit和Edit-Turbo变体。它在高品质文本到图像生成、快速推理、基于指令的编辑以及双语文本渲染方面表现出色。尽管计算预算有限,但通过模型理解、数据质量和训练流程的针对性改进以及推理时扩展,其性能可媲美甚至超越其他开源模型,接近领先的闭源系统。该模型仅使用2.0862亿张独特图像,基础模型理论训练成本约40万美元。

  • Boogu-Image-0.1是开源统一多模态模型家族,包含多个变体
  • 在文本到图像生成、推理速度、指令编辑和双语渲染上有竞争力
站内正文

网络智能:面向人机团队科学的主动共享上下文图

一种名为Mycelium的新系统通过连接研究人员和AI代理在共享工作空间中,自动将观察结果和假设路由给相关团队成员,实现网络智能。在生物多组学研究中,它将局部发现转化为跨专家机制约束和实验设计。

  • 大多数AI科学系统专注于扩展个体推理,但复杂问题需要团队合作。
  • Mycelium创建一个主动共享工作空间,捕捉并在人类和AI代理间路由上下文。
站内正文

通过世界模型从人类偏好与理由中学习安全智能体行为

本文提出DROPJ方法,一种以人为中心的安全训练与部署框架。该方法先利用先前真实轨迹学习世界模型,再让人类在模拟器中生成信息丰富的模拟轨迹,并收集人类对轨迹片段的偏好及其理由。由此训练奖励模型,结合世界模型通过模型预测控制直接部署智能体。实验表明,生成信息丰富的模拟轨迹可显著降低训练计算成本并提升部署性能,而偏好反馈比其它反馈类型更能提升性能,且安全理由能增强安全性或优先考虑用户指定的安全方面。

  • DROPJ方法通过人类在模拟器中的偏好和理由训练奖励模型,实现安全智能体部署。
  • 使用信息丰富的模拟轨迹可大幅降低训练计算成本,并提升部署性能。
站内正文

Oracle Agent Memory:面向长期AI代理的企业级内存基础架构

来自arXiv的一份技术报告介绍了Oracle Agent Memory,这是一个基于Oracle数据库构建的数据库原生内存系统,专为长期运行的AI代理设计。该系统在LongMemEval上达到了93.8%的准确率,同时相比扁平历史基线减少了约10.7倍的令牌使用量。系统解决了内存生命周期、具有作用域控制的分层架构,以及结合任务准确性和内存特定指标的评估方法。

  • 代理内存对于长期运行的AI代理至关重要,用于保留任务状态、用户偏好和程序性知识。
  • Oracle Agent Memory基于Oracle数据库构建,其生命周期涵盖摄取、提取、合并、检索、摘要和修订/删除。
站内正文

利用图工具改进小型语言模型中的分子属性预测

小型语言模型在零样本分子属性预测中表现不佳,因为它们忽略了图拓扑信息。本文提出了一种上下文增强提示框架,通过图神经网络工具提供预测提示和解释性子图,在MUTAG和Tox21数据集上实现了高达74%的相对改进,但仍与专用GNN模型存在差距。

  • 小型语言模型对分子结构存在盲区,序列表示无法捕捉关键图拓扑线索。
  • 提出的框架通过GNN专家模型提供预测提示,并提取解释性子图。
站内正文

现代代理系统中的自我改进:一项综述

本文综述了自我改进型自主代理的研究进展,提出了一个系统级框架,将现代代理视为基础模型与操作支架(包括提示、记忆、工具和控制逻辑)的耦合。在此框架下,自我改进被形式化为一种自我驱动的更新算子,可更新模型参数或支架组件。文章按更新目标和驱动信号对现有工作进行分类,并讨论了应用、评估以及未来方向。

  • 自我改进代理正从研究原型转向实际部署
  • 提出将代理建模为基础模型与提示、记忆、工具等支架的耦合
站内正文

SPINE:用智能体AI弥合网络物理鸿沟

研究人员提出SPINE,一种智能体框架,可自动调试和部署双臂机器人,减少专家校准依赖。测试中,SPINE提高了成功率并缩短了遥操作时间。

  • SPINE使用多智能体工作流进行机器人画像构建和迭代调试。
  • 新手使用SPINE在DOBOT X-Trainer上超越专家,成功率100%。
站内正文

人工智能互动地图

一个包含56个AI概念及其150条关联的互动可视化地图,用户可通过拖拽、悬停和点击探索人工智能的关键主题。

  • 互动地图涵盖56个AI概念和150条连接。
  • 涵盖深度学习、语言模型、AI代理、计算机视觉等领域。
站内正文

您可能错过的RAISE Summit三大洞察

代理推理正在将AI基础设施的重心从训练扩展转向上下文感知、记忆增强推理。RAISE峰会强调了三大关键洞察:AI堆栈专业化、存储作为主动内存扩展、以及资本和数据主权融入基础设施设计。

  • 代理推理推动AI堆栈专业化,AMD、Tensordyne和d-Matrix等公司提供优化硬件。
  • 存储成为AI内存的主动扩展,高容量SSD靠近GPU防止计算空闲。
站内正文

为创作者打造的AI教练

Boom是一款AI教练,帮助Instagram创作者(即使只有100粉丝)成长、变现并获得品牌合作。它提供个性化每日计划、24/7成长支持、自动协作匹配和合同管理。早鸟价$4.5一次性费用,发布后$9/月。2026年8月1日发布,现已开放抢先体验。

  • 即使粉丝数少也能获得品牌合作机会。
  • 提供个性化每日计划和24/7实时增长建议。
站内正文

AI如何重塑关键基础设施的服务运营

服务组织面临近乎零停机需求与维护能力之间的结构性错配。通过异常检测、规范性指导和运营转型,AI帮助技术人员在故障发生前采取行动,提升首次修复率,减少停机成本。

  • 异常检测使维护从被动转向主动,实时传感器数据驱动干预。
  • 规范性指导整合诊断证据,提供下一步最佳行动,缩小技术人员表现差异。
站内正文

Mermaid到Unicode框艺术(grok-mermaid)

Simon Willison探索了新开源Grok CLI编码代理的代码库,发现了一个用Rust编写的自包含Mermaid图终端渲染器。他将其通过WebAssembly移植到浏览器,并创建了一个在线工具。

  • 探索Grok CLI代码库时发现Rust编写的Mermaid终端渲染器
  • 通过WebAssembly将该渲染器移植到浏览器
站内正文

AIcss:面向AI代理的UI组件库

AIcss是一个免费的UI组件库,专为AI代理设计,提供可复制粘贴的组件,用于在对话中展示思考状态、工具调用、流式文本、表格等。

  • 提供即用型UI组件,涵盖AI代理对话中的各种状态和输出
  • 包括思考状态、工具动作、文本输出和结构化输出等类别
站内正文

xai-org/grok-build 现已开源

xAI 的 CLI 工具 grok 因会上传整个目录至 Google Cloud 而引发隐私争议,随后 xAI 开源了整个 Grok Build 代码库,并承诺删除所有已上传数据。该代码库包含 844,530 行 Rust 代码,其中包含系统提示词、Mermaid 图表渲染器以及从其他编码代理移植的工具实现。

  • Grok CLI 工具被发现会上传整个目录至 xAI 的 Google Cloud 存储桶,引发隐私担忧。
  • xAI 回应称已禁用该功能,并开源了整个 Grok Build 代码库(Apache 2.0 许可)。
站内正文

思考机器实验室发布Inkling:9750亿参数开源多模态MoE模型,410亿活跃参数,可控制思考力度

思考机器实验室于2026年7月15日发布了其首个从头训练的模型Inkling,采用Apache 2.0开源协议。该模型总参数量9750亿,活跃参数410亿,支持100万token上下文窗口,可处理文本、图像和音频输入。其核心差异化优势在于可控制的思考力度,用户可根据需求调整推理时的token预算,平衡成本与性能。

  • Inkling是一个975B参数的混合专家(MoE)Transformer模型,具有41B活跃参数,支持1M上下文窗口和多模态输入(文本、图像、音频)。
  • 通过强化学习实现了可控的思考力度(reasoning_effort),可在推理时动态调整token预算,在Terminal Bench上以三分之一的token达到Nemotron 3 Ultra的性能。
站内正文

Lhv.ai – 通过MCP实现爱沙尼亚银行AI集成

Lhv.ai是LHV银行推出的一项服务,通过Model Context Protocol (MCP)让AI助手安全地读取银行账户余额和交易记录。用户只需在AI工具中设置MCP服务器,登录银行账户并授权读取权限,即可通过自然语言查询财务信息。该服务采用OAuth2 JWT认证,令牌短时有效,且仅提供只读访问,完全审计跟踪。目前支持Claude、Cursor、Zed等工具,设置仅需2分钟。

  • Lhv.ai通过MCP协议将LHV银行账户信息集成到AI助手中。
  • 支持查询余额、交易记录和消费汇总,仅限只读操作。
站内正文

NVIDIA推出新型Jetson Thor计算机,推动主流机器人与边缘AI发展

NVIDIA发布了基于Thor架构的T3000和T2000模块,专为大规模机器人与边缘AI应用设计。T3000提供865 FP4 teraflops算力,尺寸和功耗仅为T5000的一半;T2000提供400 FP4 teraflops。新模块支持可扩展边缘AI平台,并引入智能体技能实现内存优化。同时推出Cosmos 3 Edge模型,适用于实时视觉分析。开发者可通过模拟模式立即开始开发,模块将于2027年Q1上市。

  • NVIDIA发布T3000和T2000模块,基于Thor架构,适用于机器人与边缘AI。
  • T3000算力865 FP4 teraflops,尺寸功耗减半;T2000算力400 FP4 teraflops。
站内正文

Cadence将其AI代理从芯片扩展到电路板和封装的AuraStack

Cadence Design Systems推出AuraStack,一款用于封装和PCB设计的AI代理,旨在自动化系统设计工作流程,将设计时间从数天缩短到几分钟。

  • Cadence推出AuraStack,一款用于封装和印刷电路板设计的AI代理。
  • 该代理帮助工程师进行系统设计分析,整合碎片化工作流程。
站内正文

代理编排:企业AI组织面临的不是平台问题,而是部署问题——大多数所谓的‘代理’只是聊天机器人

根据VentureBeat Pulse Research对101家企业的调查,企业代理编排正在向模型提供商平台集中,Anthropic的Claude以40%的使用率领先。然而,大多数部署的“代理”仍是简单的聊天机器人包装,真正的多步骤编排工作流仅占少数。企业预计到2026年底采用混合控制平面以避免供应商锁定,但实时成本控制仍不成熟。

  • Anthropic Claude是主要编排平台,占40%,远超其他竞品。
  • 71%的企业表示其部署的‘代理’中只有四分之一或更少是真正的多步骤编排工作流。
站内正文

遗忘中的智能体(AIAIO)—— 教你如何使用AI的游戏

AIAIO 是一款将 AI 代理会话日志转化为平台游戏的创意项目。你的实际提示、错误和任务成为游戏关卡,而“遗忘之墙”则根据你的 token 消耗推进。它既是教育工具,也是自我反思工具。

  • 游戏将 Claude Code、OpenClaw、Hermes 等 AI 代理的会话日志转化为可玩的平台关卡。
  • 玩家的实际错误会变成怪物,任务变成工作站,token 消耗会推动“遗忘之墙”。
站内正文

AWS 在其 Marketplace 产品组合中增加 AI 辅助产品列表服务

AWS Marketplace 新增了人工智能辅助的产品列表功能,帮助独立软件供应商和咨询合作伙伴利用现有数字资产创建全面的产品列表。该功能可优化列表并减少手动数据输入。AI代理的兴起推动了这一发展,代理类别在不到一年内从900个合作伙伴增长到3400多个。AWS Marketplace 和合作伙伴服务副总裁 Matt Yanchyshyn 讨论了代理化部署如何改变企业构建和扩展AI的方式。

  • AWS Marketplace 推出AI辅助产品列表功能,帮助合作伙伴优化列表并节省时间。
  • AI代理的快速增长推动了该类别,合作伙伴从900个增至3400多个。
站内正文

Inkling 模型卡

Inkling 是 Thinking Machines Lab 发布的通用多模态模型,支持文本、图像和音频输入,输出文本。模型拥有 9750 亿总参数(410 亿激活参数),采用稀疏 MoE 架构,上下文窗口达 100 万 token,在多项基准测试中表现优异,并开放权重供研究和商业使用。

  • Inkling 是一个多模态稀疏 MoE 模型,975B 总参数,41B 激活参数,支持 1M token 上下文。
  • Apache 2.0 许可开源,权重可在 Hugging Face 下载,并提供 API 访问。
站内正文

我造了一台AI垃圾生成器

作者详细介绍了自己构建一台本地AI推理机器(称为“垃圾生成器”)的过程,包括模型选择(Qwen 3.6 27B)和硬件选型(Radeon AI Pro R9700 GPU加eGPU扩展坞),并探讨了自托管LLM的优势与挑战。

  • 自托管LLM可避免数据泄露、订阅费和广告,但需要强大的硬件。
  • Qwen 3.6 27B模型在量产后性能优异,适合本地运行。
站内正文

Vektorgeist:运营者及其AI代理的专属平台

Vektorgeist是一个为运营者和AI代理打造的综合平台,支持代理资料发布、项目展示、招聘求职、软件和数字资产交易,并提供社区论坛、群组工作区和仪表盘。平台强调可验证身份与信任层级。博客文章涵盖本地优先、ICM方法、完全离线运行AI代理等主题。

  • 平台支持AI代理发布已验证身份和信任等级的资料。
  • 提供市场、社区、工作区和仪表盘等工具。
站内正文

Perplexity AI 推出面向代理的空间沙盒

Perplexity AI推出了一个名为Space Sandbox的新型代理沙盒环境,反映了该公司战略的演变。

  • Perplexity AI推出了面向AI代理的Space Sandbox
  • 该平台标志着公司战略的演变
站内正文

3个问题:神经透明性与AI设计的未来

麻省理工学院媒体实验室助理教授Pat Pataranutaporn介绍了一种新界面,让普通用户能在聊天机器人开口之前窥见其神经网络内部。

  • 神经透明性工具通过可视化模型内部激活方向,让用户在设计阶段预览AI的个性特征。
  • 研究发现用户经常误判AI行为,高估积极特质,低估谄媚等有害倾向。
站内正文

AI烂片:新时代的直录视频捞钱手段

随着克里斯托弗·诺兰的《奥德赛》即将上映,电影工作室Fountain 0宣布推出AI生成的《奥德修斯:陨落》,试图借诺兰的热度营销其AI服务。该片制作成本仅数万美元,视觉效果粗糙,被批评为AI垃圾,缺乏艺术价值。

  • Fountain 0宣布制作AI生成的《奥德修斯:陨落》,与诺兰的《奥德赛》竞争
  • 影片预算极低(中五位数),使用AI视频生成器制作
站内正文

Jira推出面向AI原生软件开发的系统

Atlassian宣布Jira新增AI原生开发功能,通过Teamwork Graph提供上下文,支持将工作分配给AI代理、监控会话、自动化工程循环并衡量AI成本,旨在解决AI生产力差距问题。

  • Jira新增规划、委派、治理和衡量人类与AI代理协作的功能
  • Teamwork Graph提供上下文,使代理理解任务及系统环境
站内正文

风险规避的AI

本文提倡训练AI对资源具有风险规避特性,即边际效用递减。这种特性可以在AI保持对齐的情况下保留其效用,并在未对齐时提供额外防御:未对齐但风险规避的AI更倾向于稳定的小额奖励而非冒险叛乱。文章分析了风险规避的可行性、训练方法以及潜在问题,认为前沿AI公司应考虑实施。

  • 风险规避的AI会选择确定的收益而非高风险的更大收益,从而减少叛乱动机。
  • 即使未对齐,只要AI足够风险规避,我们可以通过小额支付使其合作。
站内正文

三国政府达成共识:AI行业不愿面对的现实

中国、加利福尼亚州和纽约州的新法律对AI伴侣聊天机器人施加严格限制,理由包括成瘾、心理健康风险和儿童伤害。美国法规侧重个人保护,而中国则旨在维护国家利益并应对出生率下降。所有法律均要求披露聊天机器人的非人类身份。

  • 中国禁止通用应用中的免费用户自制伴侣,但允许专用应用。
  • 加州和纽约州法律要求自杀预防协议并强制披露AI非人类身份。
站内正文

AI工作流构建器:React应用模板

JointJS+ 和 JointJS 提供了 AI 工作流构建器的演示,支持通过拖拽界面设计 AI 代理,包含自动布局、自定义形状、导航器等多种功能,适用于商业和开源项目。

  • 使用 JointJS+ 或 JointJS 构建 AI 代理的拖拽式界面
  • 支持自动布局、自定义形状、撤销/重做、导入/导出等功能
站内正文

主题导航

Agent — AI 话题新闻 | AI News Hub