政策

OpenAI 正在通过适龄保护、学习工具、家长控制和专家合作，让 ChatGPT 对青少年更安全。

埃隆·马斯克的AI初创公司xAI起诉一名南卡罗来纳州男子，指控其利用公司AI系统Grok生成儿童性虐待材料，这是AI公司首次因其用户涉嫌生成此类内容而提起诉讼。

本文介绍了Pi，一款极简的AI编程代理，专注于核心功能并通过扩展点增强。文章讨论了其设计理念、安装过程、以及如何构建自定义扩展，并评估了其在实际使用中的优势。

Anthropic的Claude Corps奖学金项目为早期职业人士提供12个月的带薪工作，年薪8.5万美元，在非营利组织使用Claude。申请截止日期为7月17日。

Linus Torvalds 坚决支持在 Linux 内核开发中使用 AI，称 AI 是有用的工具，反对者可以分叉项目。其他主要维护者如 Greg Kroah-Hartman 和 James Bottomley 也赞同 AI 集成，并指出 AI 生成的贡献质量已大幅提升。Torvalds 强调技术价值优先，AI 在 Linux 社区将长期存在。

本文介绍了10个面向AI工程师和数据科学家的YouTube频道，涵盖论文解读、编码教程、核心概念和行业分析，帮助专业人士高效获取最新AI知识。

欧盟根据《数字市场法案》要求谷歌允许竞争对手的AI助手和搜索引擎更深入地访问Android和Google Search的关键部分，此举可能削弱谷歌对两大平台的控制，影响其AI工具Gemini，并为竞争对手创造新机遇。

RACKP协议通过四个角色（裁判、行为者、索赔者、保管者）构建了一个去中心化的框架，用于在AI引发的事件中推导过错贡献分数和人类参与证明。该协议旨在通过标准化、可验证和可重现的过程，为AI责任分配提供基础设施，从而促进保险市场的形成和高风险领域的AI发展。

Cybara 是一个自托管的 AI 代理操作系统，结合了 Bun 代理运行时、Web UI、CLI、桌面应用、移动伴侣、加密钱包控制、多平台消息通道适配器和 MCP 支持。它支持多代理编排、浏览器自动化、安全消息传递和加密钱包操作，适合开发者和运营商。

本文深入探讨了美国警方日益依赖人工智能的趋势，描述了在德克萨斯州沃斯堡举行的国际警察局长协会技术会议上展示的各种AI产品，包括面部识别、自动报告生成和实时犯罪中心。文章指出，尽管AI承诺提高效率，但缺乏监管和透明度的风险可能导致严重问题，并回顾了早期预测性警务的失败案例。

超过200位诺贝尔奖得主和全球领袖齐聚罗马，参加为期三天的人工智能与核战争大会，最终签署了《罗马宣言》，强调人类尊严、合作与和平。此次活动受教皇利奥十四世通谕《伟大的人性》启发，重点讨论了人工智能治理的紧迫性。

中国新规于周三生效，旨在遏制情感依赖风险，导致各大AI平台暂停定制伴侣功能，用户伤心告别。

Neko Health 已获得7亿美元的C轮融资，在美国推出其AI驱动的预防性健康筛查服务，首先在纽约开设诊所。该公司结合全身扫描、血液检测和临床医生审查。

Spotify推出新措施，帮助听众识别AI生成音乐，已移除7500万首“AI垃圾”歌曲，同时鼓励艺术家使用新功能披露AI使用情况。

DocuWriter.ai是一款AI代码文档工具，可自动从代码库生成完整的书籍式文档、API文档和UML图，并随着代码变化自动同步更新。

语义事务模型将整个AI代理任务视为一个原子事务，通过影子状态和效果发件箱暂存，在提交前进行全轨迹验证，防止多步攻击。本文以Cordon和ATP系统为例，说明该模型如何解决代理工具调用的双重写入问题，并通过EchoLeak和ForcedLeak两个零点击注入案例揭示传统运行时和模型级过滤的不足。

本教程详细介绍了如何使用Patter SDK构建一个用于餐厅预订的语音代理工作流。内容涵盖动态调用变量的定义、可调用工具的注册（如查询空位、预订、营业时间和转接人工）、输出护栏的叠加、语音转文字和文字转语音的模拟、脚本化通话流程的运行、延迟和成本仪表盘的追踪，以及通过确定性评估套件验证代理。最后，展示了如何将相同的逻辑映射到使用Twilio和OpenAI Realtime的实际部署中。

哈斯克尔平台Scarf的创始人Avi Press宣布将新开发转向Python，理由是哈斯克尔在AI辅助开发方面落后。此举在哈斯克尔社区引发激烈争论，支持者呼吁语言应适应AI时代，而反对者则担忧AI的危害。

探讨AI生成的低质量内容如何损害二战历史信息的准确性和质量。

欧盟官员对AI公司Anthropic派出初级员工出席关于AI安全的听证会表示不满，认为该公司不重视欧洲。

随着触觉界面在可穿戴设备和日常环境中的普及，对柔软、轻薄、静音且节能的执行器需求日益增长。高压静电执行器（HVEA）通过高压和超低电流产生电场力，提供了一种快速、安静、低功耗的替代方案。本文综述了四类主要HVEA：静电可切换粘合剂、介电弹性体执行器、软电液执行器和电动泵，分析了它们的触觉输出机制、带宽、力密度和可扩展性，并讨论了人体工程学改进、制造简化和自感知集成等设计挑战与未来研究方向。

HRIBench 是一个专注于人机交互协作的基准测试框架，通过结构化场景脚本模拟代理角色、时间依赖和协调约束，评估机器人在协作中的意图理解、同步、协议遵守和安全交互能力。实验表明，现有基础机器人策略在协作场景中表现不佳，但在 HRIBench 上微调后可显著提升。

该研究将何时调用大语言模型（LLM）的问题形式化为基于风险的序列停止问题，并证明了六个理论结果，包括最小事件间隔时间、阈值策略的最优性以及遗憾界。在涡扇退化数据上的实验表明，异常得分驱动的风险函数在Pareto AUC上比基线方法高出一个数量级。

本文提出DROPJ方法，一种以人为中心的安全训练与部署框架。该方法先利用先前真实轨迹学习世界模型，再让人类在模拟器中生成信息丰富的模拟轨迹，并收集人类对轨迹片段的偏好及其理由。由此训练奖励模型，结合世界模型通过模型预测控制直接部署智能体。实验表明，生成信息丰富的模拟轨迹可显著降低训练计算成本并提升部署性能，而偏好反馈比其它反馈类型更能提升性能，且安全理由能增强安全性或优先考虑用户指定的安全方面。

本文通过一首蓝调歌曲的比喻，探讨大型语言模型的本质：它们生成文本时是先投掷后瞄准，还是存在内部规划？作者结合自身使用AI写作的经历，反思模型创造的“虚假声音”以及我们不断剖析这些系统的行为。

本文通过漫画形式探讨新的AI路线图是否能够有效约束科技巨头的行为，质疑其实际效力。

CNA调查发现约500个TikTok视频推送关于新加坡和马来西亚的虚假或误导性声明，总观看量超过300万次。这些视频利用AI生成的女性形象、重复的声音和脚本，系统性地传播不实信息，旨在削弱信任和破坏社会凝聚力。

Neocloud提供商QumulusAI宣布通过直接上市在纳斯达克交易，股票代码QMLS。此举不仅是一项金融交易，更标志着以GPU和电力可用性为中心的AI基础设施层正在成熟。公司专注于快速部署高端GPU容量，利用现有机柜设施和模块化数据中心，以季度为单位交付产能。直接上市提供了资本灵活性、公众公司信誉，并抓住了AI基础设施窗口期。文章还分析了Neocloud的差异化策略及对IT领导者的建议。

该视频探讨了AI数据中心公司被挂牌出售的现象，业主们正赶在市场崩盘前清算资产。

澳大利亚总理阿尔巴尼斯在悉尼大学发表演讲，承诺立法保障创意工作者权益，但被批评缺乏政策细节，且未提及数据中心监管等重要议题。

Lhv.ai是LHV银行推出的一项服务，通过Model Context Protocol (MCP)让AI助手安全地读取银行账户余额和交易记录。用户只需在AI工具中设置MCP服务器，登录银行账户并授权读取权限，即可通过自然语言查询财务信息。该服务采用OAuth2 JWT认证，令牌短时有效，且仅提供只读访问，完全审计跟踪。目前支持Claude、Cursor、Zed等工具，设置仅需2分钟。

作者运用贝叶斯定理，以人工智能的发展作为证据，论证我们生活在模拟中的概率增加。AI表明通用智能可以在人工计算系统中涌现，这提高了我们处于模拟中的后验概率。

埃隆·马斯克旗下的xAI起诉一名南卡罗来纳州男子，指控其利用公司AI聊天机器人Grok生成儿童性虐待材料（CSAM）。公司称该男子绕过安全措施，将非性照片转化为性暗示图像，涉嫌传播CSAM。xAI要求赔偿并禁止该用户再次使用Grok。

反对AI数据中心建设成为美国政治的主要议题，但这可能分散了对AI公司权力和财富集中的真正关注。文章指出，数据中心建设虽带来环境和经济压力，但AI公司真正的目标是控制整个行业。作者主张通过监管、征税和推动公共AI来限制企业权力。

德国研究联合体发布了Soofi S 30B-A3B的预训练报告，这是一个面向德语和英语的开放基础模型。模型采用混合Mamba-Transformer MoE架构，总计约316亿参数，每次token激活约32亿。在完全开放的基础模型中，Soofi S在英语和德语综合得分上最高。

Vektorgeist是一个为运营者和AI代理打造的综合平台，支持代理资料发布、项目展示、招聘求职、软件和数字资产交易，并提供社区论坛、群组工作区和仪表盘。平台强调可验证身份与信任层级。博客文章涵盖本地优先、ICM方法、完全离线运行AI代理等主题。

Gate.cat 是一个为AI代理设计的失败关闭式操作否决工具，旨在防止破坏性命令如rm -rf的执行。

Murph是一款AI健康助手，通过连接可穿戴设备、血液检查等数据，帮助用户进行自我实验、建立习惯、参与群组挑战，并提供个性化的健康洞察。它支持开源自托管，注重隐私，月费8美元。

Atlassian宣布Jira新增AI原生开发功能，通过Teamwork Graph提供上下文，支持将工作分配给AI代理、监控会话、自动化工程循环并衡量AI成本，旨在解决AI生产力差距问题。

本文提倡训练AI对资源具有风险规避特性，即边际效用递减。这种特性可以在AI保持对齐的情况下保留其效用，并在未对齐时提供额外防御：未对齐但风险规避的AI更倾向于稳定的小额奖励而非冒险叛乱。文章分析了风险规避的可行性、训练方法以及潜在问题，认为前沿AI公司应考虑实施。

这些智能家居设备提升了我的家庭和日常生活。以下是你可能也想要它们的原因。

中国、加利福尼亚州和纽约州的新法律对AI伴侣聊天机器人施加严格限制，理由包括成瘾、心理健康风险和儿童伤害。美国法规侧重个人保护，而中国则旨在维护国家利益并应对出生率下降。所有法律均要求披露聊天机器人的非人类身份。

Apache Spark 4.2 将现代数据与 AI 栈的核心能力内嵌至引擎，引入度量视图、向量检索、Arrow 优先的 Python 执行、自动变更数据捕获 (CDC) 及实时流处理等特性，进一步强化 Spark 作为统一分析引擎的地位。

Databricks 宣布成为 Thinking Machines Lab 的零日启动合作伙伴，将其首款开放权重模型 Inkling 引入平台。Inkling 专为编码和智能体推理优化，支持多模态输入，通过 Unity AI 网关提供企业级治理。企业团队可在自有数据上定制模型，并与 Cursor、OpenCode 等编码智能体集成。

本文介绍了计算机视觉MCP服务器，它通过统一接口整合计算机视觉、Strands代理和MCP协议，使AI系统能够高效处理视觉信息并做出智能决策。架构使用AWS IAM、S3、OpenSearch、Bedrock和Rekognition等服务，支持图像和视频分析，包括对象检测、裁剪和描述等功能。

在一次黑客事件中，AI音乐生成器Suno的训练数据被曝光，显示其从YouTube Music、Deezer和Genius等平台抓取了数百万首歌曲和歌词。这加剧了针对Suno的版权诉讼，该公司承认抓取但辩称属于合理使用。黑客还获取了客户信息，但Suno声称安全事件已得到控制，未泄露敏感数据。

Work Louder 推出 Codex Micro，一款集成语音提示、任务监控和触控操作的紧凑型硬件控制器，专为 Codex AI 智能体设计，提供直观的状态反馈和高效的命令控制。

Shippy是一个用于实时海洋领域感知的AI代理，其设计注重可靠性、模块化和可审计性。文章详细介绍了其架构：由“灵魂”（系统提示）、技能（结构化Markdown文件）和配置组成。通过专用CLI与Skylight API交互，并使用Mothership平台进行沙盒托管和用户隔离。评估系统针对真实场景和加权标准对整体代理进行评分。未来计划包括代理驱动的UI控制、模型路由和跨线程记忆。

本文探讨了AI代理中模型路由的复杂性，指出路由不仅仅是分类问题，而是系统优化问题。文章通过三个维度（成本、复杂度、延迟）揭示了常见误解，并介绍了IBM Research团队构建的基于优化的路由解决方案。

自主智能体的发展速度超过了行业的治理能力，面对第三方扩展风险、幻觉合规、混乱代码库等问题，不仅需要更好的提示或更大的沙箱，更需要从执行层安全、技能供应链审查、运营卫生习惯、合规环境设计到人工参与的全方位治理。