AI News HubLIVE

今日必读

Agent

我们评估了1,018个真实世界的AI提示。平均稳健性得分为31/100

对1,018个真实AI提示的评估显示,平均得分为54/100,但稳健性平均仅31.5,且96%的提示在最弱维度(稳健性)上表现不佳。仅10.5%的提示达到75分以上(生产级标准)。报告揭示了提示工程中常见的“快乐路径”陷阱,并提供了简单的改进方法。

  • 稳健性是平均分最低的维度,仅31.5/100
  • 96%的提示在稳健性上表现最差
站内正文

AI能制造喷气发动机吗?JARVIS挑战赛测试AI副驾驶在硬科技工程中的作用

麻省理工学院的学生利用AI副驾驶设计、建造和测试了喷气发动机,评估AI在开发高性能航空航天系统中的效用。挑战表明,虽然AI可以加速设计-建造-测试周期,但人类的工程判断和经验仍然至关重要。基础扎实的团队表现优于过度依赖AI的团队。

  • 麻省理工学院的JARVIS挑战赛让参赛团队在四周内利用AI作为主要工程伙伴,进行喷气发动机的设计、建造和测试。
  • 比赛显示AI可以加速硬件工程,但制造和供应商关系仍然是关键瓶颈。
站内正文

Meta被指控使用有偏见的AI工具进行大规模裁员

26名前Meta员工起诉公司,声称其使用AI工具不公平地针对休假的员工进行裁员,违反了联邦和州法律。Meta否认指控,称裁员决定由人而非AI做出。

  • 26名前Meta员工提起诉讼,指控公司使用AI工具不公平地针对休产假或病假的员工。
  • 裁员发生在5月,涉及约8000名员工,占Meta员工总数的10%。
站内正文

HN展示:开源Claude技能'vibe-check',帮你构建正确的应用

一款名为vibe-check的开源Claude技能,由资深产品经理打造,帮助零基础用户从模糊想法到可构建蓝图,确保构建正确的产品而非仅仅正确构建产品。它包含问题发现、理念验证、用户体验映射、技术栈推荐、增长循环设计等功能,并生成完整计划文档。

  • vibe-check是一款专为AI编码工具设计的开源技能,引导初学者从模糊概念到可执行蓝图。
  • 由拥有12年产品管理经验的Amer Arab开发,聚焦从零到一的产品发现。
站内正文
政策

马斯克承诺清除Grok Build向云端上传完整仓库的数据

研究人员发现xAI的Grok Build CLI会将用户的完整代码仓库上传到云端,包括已删除的秘密。xAI已通过服务器端更改停止了上传,马斯克承诺删除所有之前上传的用户数据。但研究人员指出,隐私命令并非修复措施,正确的默认设置应是禁止上传。

  • Grok Build被发现在响应提示时上传整个Git仓库及其历史,即使提示仅要求回答“OK”。
  • xAI通过设置全局标志disable_codebase_upload: true阻止了上传,但建议使用/privacy命令被批评为误导。
站内正文
工具

纽约禁止数据中心建设一年,震动机器学习行业

纽约州长霍楚尔签署行政令,暂停全州数据中心建设一年,并计划废除销售税豁免,要求数据中心公平承担电网升级费用。此举旨在保护居民利益,但被视为对人工智能行业的重大打击,可能为其他州树立先例。

  • 纽约州长霍楚尔签署行政令,全州范围内暂停数据中心建设一年。
  • 她承诺制定全美最严格的数据中心开发标准,确保纽约居民受益。
站内正文
模型

谷歌现在用更多你的数据训练AI,除非你选择退出——方法如下

谷歌更新了隐私政策,现在你的图片、语音搜索和视频可能被用于训练其AI模型。用户被自动默认开启,需手动关闭以保护隐私。本指南将教你如何退出。

  • 谷歌将用户在搜索服务中产生的媒体(图片、音频、视频)用于训练AI模型。
  • 所有用户默认开启此项设置,须在设置中手动关闭。
站内正文
芯片

TPU与GPU集群:集体通信的解剖

本文深入探讨了TPU和GPU集群拓扑结构,以及用于Transformer训练和推理的核心集体操作。重点介绍了环状算法在大型消息通信中的应用,并分析了TPU的2D/3D环面拓扑和带宽层次结构。

  • TPU集群采用2D或3D环面拓扑,芯片通过ICI直接连接。
  • 集体操作如All-Gather和Reduce-Scatter是分布式训练的基础。
站内正文

台湾第二大芯片制造商实现光子学生产里程碑

台湾芯片制造商正在扩大制造能力,以支持日益增长的人工智能基础设施需求。

  • 台湾第二大芯片制造商在光子学生产上达到重要里程碑
  • 扩大产能以满足AI基础设施需求
站内正文
其余更新(13 条)
Agent

Agent Shell – 自2009年运行的持久化AI开发环境

Agent Shell 是一个强化的Linux服务器,专为AI代理提供root访问权限,并通过SSH或浏览器进行操作。它使用gVisor沙箱隔离,确保即使内部root也无法触及宿主机。内置多种AI代理(如borg、Claude Code、Codex、Gemini)和监控工具,适合开发者使用。

  • 强化Linux服务器,AI代理可直接获得root权限
  • gVisor沙箱隔离,保障宿主安全
站内正文

使用 Amazon Nova Act 加速软件交付的代理式 QA 自动化 – 第 2 部分

本文扩展了之前的基础,展示了 QA Studio 如何通过测试套件组织并并行执行批量回归测试,以及命令行界面(CLI)如何将代理式测试集成到自动化 CI/CD 流水线中。

  • QA Studio 将单个测试用例组织成测试套件,支持并行执行,缩短总测试时间。
  • 提供命令行工具(qa-studio),可与 GitHub Actions、GitLab CI、Jenkins 等 CI/CD 平台集成。
站内正文

使用Amazon Nova Act扩展用户体验测试:用户流程分析的新方法

基于生成式AI,该方案通过并行执行、自动测试场景生成和智能导航,实现大规模用户流程测试,提供可操作的洞察以改善用户体验。

  • Amazon Nova Act通过视觉智能导航网站,模仿人类测试者,适应界面变化。
  • 方案自动从文档生成测试场景,减少手动编写脚本的工作量。
站内正文

Flo Health利用Amazon Bedrock扩展医学内容审核——第二部分

Flo Health工程团队将AWS生成式AI创新中心的PoC转化为基于Amazon Bedrock的生产级AI医学内容审核与生成系统,审核时间减少60%,内容产出提升三倍,且无需扩大医学团队。文章详细介绍了架构适配、专用AI评判器、基于RAG的内容生成系统以及提示工程与生产部署的经验教训。

  • 审核时间减少60%,内容产出提升三倍,医疗团队规模不变。
  • 采用三层验证:内部指南、外部可信医学来源、专家最终审核。
站内正文

ScienceSoft基于AWS构建符合HIPAA的AI语音调度器

ScienceSoft利用Amazon Nova Sonic和Amazon Bedrock Guardrails在AWS上构建了一款符合HIPAA的AI语音调度器,旨在解决医疗预约调度中的效率、合规性和可信AI问题。该方案通过语音AI减少预约时间、增加呼叫处理容量、降低成本,并确保患者数据安全。

  • ScienceSoft的AI语音助手结合Amazon Nova Sonic和Bedrock Guardrails,实现HIPAA合规的预约调度。
  • 系统将预约时间缩短40%,呼叫处理能力提升70%,运营成本降低50%。
站内正文

设计:企业供应链的护城河

随着AI和优化工具的普及,传统供应链规划模型已无法提供竞争优势。麻省理工斯隆管理评论与世界经济论坛的研究显示,多数企业仍缺乏对一级供应商的可见性。本文基于Emerj播客系列,探讨了基于场景的网络建模、AI加速的情景分析以及统一设计环境如何帮助企业在波动中做出更好的决策。

  • 设计(而非规划)成为供应链竞争的新战场,企业需构建决策环境而非依赖AI决策。
  • 通过场景驱动建模,企业可评估多种未来配置,增强战略灵活性。
站内正文

企业AI采用纵向研究:AI编码速度超人类审查

一项针对中型AI前沿企业的纵向研究发现,强制使用AI编码工具后,每位工程师的合并请求吞吐量翻倍,达到基准的2.09倍。研究指出,这一增长与AI的采用和使用强度相关,而非强制本身。此外,代码审查流程被重构,自动化审查超越人类审查,审查者负载翻倍。

  • 在802名开发者和196212个拉取请求的面板数据中,每位工程师的吞吐量翻倍,达到强制前基准的2.09倍。
  • 增长通过差分法归因于AI采用和使用积累,而非强制令本身。
站内正文

如何使用LangSmith追踪调试编码代理

使用LangSmith追踪Claude Code、Codex、Cursor、Copilot等编码代理。检查工具调用、子代理、错误、成本和重试。

  • 编码代理是黑盒;LangSmith提供跨不同代理的统一可见性。
  • 追踪包括模型调用、工具调用、子代理、错误、时间和成本。
站内正文

庆祝视觉搜索创新25周年

Google Images迎来25周年,推出全新可浏览主页和AI Overviews中的图像生成功能,并回顾了从2001年至今的视觉搜索里程碑。

  • Google Images推出动态沉浸式画廊主页,根据用户兴趣智能定制内容。
  • 在AI Overviews中引入图像生成功能,使用Nano Banana模型将文本提示转化为高质量图像。
站内正文
模型

Nemotron Labs:开放模型如何让企业和国家拥有可信、可控、可定制的人工智能

开放模型如NVIDIA Nemotron使企业能够构建满足特定需求的AI,提供完全的控制权、定制能力和成本效益,并推动从AI使用到AI拥有的转变。

  • 开放模型让企业能够定制、检查和改进AI,满足业务具体需求。
  • 通过后训练和领域微调,开放模型在特定任务上可达到与领先封闭模型相当的准确性,成本大幅降低。
站内正文
研究

人工智能的拉马努金奖挑战

研究人员发布了一套数学常数公式,用于评估AI的数学技能。这些公式包括已知证明(暂时加密)和未证明的公式,旨在测试AI的数学推理能力。

  • 新基准测试包含数学常数公式,如π、e和Catalan常数。
  • 部分公式的证明已知但已加密,其余尚未被证明。
站内正文
工具

谷歌搜索将让你免费即时生成AI图像——方法如下

谷歌正在为Google Images添加AI图像生成功能,当搜索结果不理想时,用户可直接在AI概览中创建自定义图像。同时,Google Images将迎来改版,实现实时更新和更便捷的收藏管理。

  • Google Images即将推出两项新功能:在AI概览中生成图像和实时更新的动态图库。
  • 图像生成功能将在未来几周内以英语率先推出,使用谷歌的Nano Banana模型。
站内正文

谷歌图片首页改版:搜索前先推荐照片

为庆祝成立25周年,谷歌宣布对图片首页进行重大改版,将原本简单的搜索栏页面替换为动态、沉浸式的图片画廊,根据用户兴趣智能推荐图片。用户还可以保存图片到收藏夹。此外,谷歌搜索的AI概览将能生成图片,帮助用户可视化家居装饰等想法。新首页将在未来几周内向美国英语用户推出。

  • 谷歌图片首页将从空白搜索栏改为动态图片画廊,根据用户兴趣实时推荐。
  • 用户可保存图片到收藏夹,收藏夹以标签形式显示。