跳到主要内容本期精选
芯片在 Amazon EKS 上使用 NVIDIA Run:ai GPU 分片
- 在单个 A10G GPU 上成功运行两个 Pod,每个 Pod 分配 6 GiB 内存,限制为 8 GiB。
- GPU 分片在 MPS 基础上增加了 Kubernetes 调度集成、按 Pod 内存限制和指标。
Amazon SageMaker HyperPod 推出增强型基础设施可观测性
- 提供默认和高级指标采集,默认指标每30秒采集一次,CPU开销约1-2%,内存占用250-300 MB。
- 诊断摘要利用 CloudWatch DetectGroupOutliers API 进行 GPU 离群检测,并通过静态规则识别 XID 错误、ECC 内存错误、EFA 吞吐下降、热节流等常见故障模式。
模型llm-gemini 0.38.1 修复 Gemini 4 Hydrogen 与 Neon 的 xhigh 推理等级支持
- 修复了插件中 Gemini 4 Hydrogen 和 Neon 的 xhigh 推理等级缺失
- Hydrogen 在 xhigh 下输出令牌从 5,311 增至 31,477,成本从 3.99 美分升至 23.61 美分
NVIDIA 与微软扩大加速计算合作:从 Azure 延伸到 Windows PC
- Azure 数据中心已运行 NVIDIA Vera Rubin NVL72 系统,并推进机密计算和能效优化。
- 微软 Foundry 新增 NVIDIA Nemotron 3.5 系列模型支持,EY 案例显示准确率提升 55%、成本降低 15 倍。
Amazon Bedrock AgentCore harness 升级:采用 Strands 默认配置、内置工具与生命周期钩子
- AgentCore harness 现在使用 Apache 2.0 许可的 Strands harness,提供推荐模型、任务导向系统提示、自动提示缓存和主动上下文管理。
- 新增内置工具包括规划、网页检索、文件系统访问、上下文卸载和任务委派,提升长任务处理能力。
AgentToken欺诈已经出现,而且情况很糟(YouTube)
- ChatPRD 创始人 Claire Vo 披露免费试用被大规模滥用,用于转售 token 或支撑其他商业项目
- 有一家国际 Roblox 与 Fortnite 地图工作室通过循环使用免费试用和优惠码,接入她的 agent 来制作地图
Amazon Bedrock AgentCore 支付让 AI 代理通过 AWS Marketplace 购买 x402 产品
- 代理可以自主购买 AWS Marketplace 中支持 x402 的产品,费用计入开发者的 AWS 账单。
- 通过 AgentCore policy 设置消费限额和批准卖家,支付会话上限由 AgentCore payments 强制执行。
工具沃尔特·艾萨克森谈AI时代的好奇心与创造力
- 艾萨克森与肯特·沃克讨论达·芬奇、富兰克林和洛夫莱斯对AI时代创造力的启示
- 历史性突破始终是团队合作的结果,而非个人天才的独角戏
Pinecone 现已支持以 FOCUS 格式导出成本与用量数据
- 导出数据采用 FOCUS v1.4 格式,为 FOCUS v1.4 CSV 文件的压缩包,可直接加载到支持 FOCUS 的 FinOps 工具中
- 可按过去一年内任意时间窗口创建导出,支持控制台 Usage 页面或 Admin API 的 cost-usage-exports 端点
研究PostgreSQL 19 发布
- PostgreSQL 19 因处理 AI 报告的安全漏洞而延迟发布
- 新增 WAIT FOR LSN 命令实现读从库的读己之写一致性