在TechEx北美大会上,专家强调AI的成功依赖于强大的基础设施,包括电力、数据中心、边缘计算和网络安全。大会讨论了从演示到实际部署的差距、数字孪生的实用价值以及影子AI带来的风险。
AI 新闻实时情报
实时监测
实时更新
实时跟踪可信来源,保留出处、权限和站内阅读模式,把噪声压成可读情报。
实时更新
2026-05-19
SuperInfer是一种针对超级芯片(如NVIDIA GH200)上LLM推理的高性能系统,通过SLO感知的旋转调度和全双工内存管理,显著提高TTFT SLO达标率,同时保持相当的TBT和吞吐量。
NeoTube是一款AI驱动的工具,允许用户对视频内容提问并获取精确时间戳的回答。目前它已索引了超过2,645个可汗学院课程,用户可观看视频、提问并立即获得答案。该平台还提供账户注册以保存对话历史。创建者希望让教育视频更易于重新访问。
BudgetBites是一款AI驱动的个人厨房助手,可生成预算友好的食谱,帮助用户节省杂货开支。该应用提供登录页面供用户访问其功能。
Simon Willison在PyCon US 2026上的五分钟闪电演讲,总结了LLM领域过去六个月的关键进展。2025年11月成为转折点:编码代理变得实用,最佳模型多次易手,同时涌现出OpenClaw等个人AI助手,以及Gemini 3.1 Pro、GLM-5.1、Qwen3.6等强大本地模型。
Freu AI 是一款能够自动化任何 Mac 应用程序的工具,零重复运行成本。
随着AI智能体逐渐取代人类成为主要用户,企业需要调整产品策略,从面向人类的设计转向面向智能体的设计,包括提供程序化接口、多表面支持、智能体可读文档、安全原语以及融入智能体生态系统。同时,衡量指标也需要从DAU转向DAA(日活跃智能体)等新指标。
Leaping AI提供能执行多日电话和短信营销活动的AI代理。
Tamarillo 团队对 GitHub 上超过 40 万个包含 AI 编码助手(如 Cursor、Copilot、Claude 等)配置文件的公开仓库进行了大规模分析。研究覆盖了市场份额、采用动态、配置表面解剖、多工具共存模式以及仓库人口统计数据(星级、语言、所有者类型)。该分析反映了配置意图,是实际采用情况的下限。
现代大语言模型(LLM)可处理百万级token的上下文,但键值(KV)缓存随对话历史线性增长,导致内存不足。现有压缩方法多在处理完整个上下文后才驱逐缓存,峰值内存不受控,且查询依赖的驱逐会窄化缓存语义。本文提出EpiCache,一种免训练的KV缓存管理框架,通过分块预填充限制缓存增长,并通过片段式KV压缩保留主题相关上下文。在三个基准测试上,EpiCache准确率提升高达30%,在4-6倍压缩下接近全缓存准确率,延迟和峰值内存分别降低2.4倍和3.7倍。
Meta本周承诺投入1450亿美元用于AI基础设施,同时裁员约8000人。渣打银行也宣布裁员7000多人,并直言以“低价值人力资本”被AI投资取代。教皇利奥十四世宣布将于5月25日与Anthropic的克里斯托弗·奥拉联合发布首份AI通谕。
在编码代理生产负载下,Together Inference Engine 相比 TensorRT-LLM 每秒令牌数提升 31%,饱和时首令牌延迟提升 2 倍,成本比 Claude Opus 4.6 低 76%。
今日发布了六个新的Sentence Transformers交叉编码重排序器,基于Ettin ModernBERT编码器构建,通过蒸馏训练,在各自规模上达到最先进水平。这些模型与嵌入模型配对使用,可高效提升检索排序质量。
Anthropic与Modal宣布推出Claude托管代理与Modal Sandboxes的集成,允许开发者在自己托管的可定制沙盒中运行工具调用,具有快速启动、成本效益和可扩展性。早期采用者包括Mason AI、DoorDash和Blend。
陪审团裁决为OpenAI今年进行备受期待的IPO扫清了道路,并损害了SpaceX和X所有者马斯克的声誉。
伦敦国王学院的一项调查发现,三分之一的大学生认为人工智能将迅速导致失业,从而引发社会动荡。调查还显示,近一半的公众倾向于避免使用AI。
陪审团裁定Sam Altman、OpenAI及其总裁Greg Brockman对Elon Musk关于违背创始合同的指控不承担责任,这场法律战以Altman一方胜利告终。
在戴尔科技世界大会上,戴尔和NVIDIA宣布了新一代AI基础设施,包括基于NVIDIA Vera Rubin NVL72的Dell PowerEdge XE9812,可将每个token的推理成本降低10倍。戴尔CEO迈克尔·戴尔表示,全球AI基础设施支出到2030年可能达到3-4万亿美元,代币消耗量增长3400%。NVIDIA CEO黄仁勋强调需求呈抛物线式增长。企业AI已从试点转向大规模代理AI和推理部署。戴尔AI工厂与NVIDIA合作,提供从桌面到数据中心的全面AI解决方案,包括保密计算和开放模型支持。
英伟达副总裁 Ian Buck 亲手将首款 Vera CPU 系统交付给 Anthropic、OpenAI、SpaceXAI 和甲骨文云基础设施。Vera 专为智能体 AI 工作负载设计,拥有 88 个定制内核、1.2 TB/s 内存带宽和 50% 的单核性能提升。
MemPrivacy是一个由MemTensor、荣耀和同济大学联合提出的框架,旨在解决LLM驱动代理中云内存系统暴露用户隐私的问题。它通过在设备端用类型化占位符替换敏感数据,再发送到云端处理,从而在保护隐私的同时保持内存效用。该框架引入了四级隐私分类法(PL1-PL4),并允许用户配置保护阈值。最佳模型MemPrivacy-4B-RL在基准测试中F1得分达85.97%,且内存效用损失控制在1.6%以内。
Skilled 是一款终端仪表盘工具,可读取 Claude Code、OpenCode、Codex、Grok 和 Droid 等 AI 编码工具的本地历史文件,实时展示技能使用频率、周趋势、小时分布、按项目分解和审计启发(如上升/下降/闲置技能)。完全本地运行,无网络、无遥测、无账户、无配置。
伯克利实验室开发了MatterChat框架,通过连接大型语言模型与基于物理的原子间势能模型,使AI能理解材料科学的3D原子结构。该模型在预测材料属性上显著优于GPT-4,有望加速新材料发现。
现代语言模型因token分布极不均匀面临优化挑战:常见token的参数频繁接收梯度更新,而罕见token的参数可能数百步无有效信号。标准SGD以相同学习率更新所有参数,导致罕见token权重难以学习。Adam通过方差归一化自动为罕见token提供更大的有效学习率,使其快速收敛。在控制实验中,使用频率跨四个数量级的六个token,SGD对最罕见token的权重仅学到0.15(真实值为1.0),而Adam使其接近1.0。
根据Mandiant的年度企业安全报告,攻击者利用AI实现更快入侵,而人类仍是薄弱环节。文章提出了五种结构性网络防御策略,包括将虚拟化平台列为Tier-0资产、解耦备份环境、部署高级威胁检测、审计SaaS集成以及实施基于行为的安全模型。
SandboxAQ宣布将其大型定量模型(LQMs)与Anthropic的Claude集成,研究人员现在可以通过自然语言界面运行药物发现、材料科学等领域的复杂模拟。首个可用的模型是用于催化剂发现的AQCat吸附自旋,药物发现模型即将推出。
Agentic AI基金会(AAIF)宣布在过去一个季度新增43名成员,包括4名黄金级、27名白银级和12名准会员,使总成员数达到180家。新成员涵盖金融、政府、学术界和企业技术领域,带来从应用交付到支付处理、网络安全、机器人技术和云原生开发的全栈技术专长。AAIF执行董事Mazin Gilbert表示,围绕智能体AI的讨论已根本转变,组织正选择投资开放标准,因为碎片化的专有方法无法扩展。新黄金级成员包括F5、GoDaddy、Stripe和TRON,白银级和准会员名单亦已公布。AAIF作为开放标准智能体AI栈的中立家园,通过透明治理推动标准采纳。
教宗利奥将在其首部重要教宗文件中探讨人工智能的快速发展,该文件将于下周在梵蒂冈发布,届时Anthropic联合创始人克里斯托弗·奥拉将出席。
漏洞赏金计划长期以来是网络安全的核心机制之一,但AI辅助提交的报告泛滥迫使GitHub收紧标准:要求提供可工作的概念验证,低严重性发现可能仅获得公司礼品。此举反映了业界对AI生成低质量报告的普遍担忧。
经过三周庭审,马斯克诉奥特曼案因诉讼时效被驳回,但揭示了AI领域高层人士普遍缺乏可信度。案件涉及OpenAI的控制权争斗、安全审查问题以及双方互相指责。公众对AI的担忧达到历史新高,而行业领袖的行为加剧了不信任。
了解如何使用基于 MLCommons AILuminate 评估标准的结构化和自由形式方法来引导 Amazon Nova 2 Lite 进行内容审核。这些提示技术允许通过编辑提示来更新审核策略,而无需重新训练模型,同时提供了与其他基础模型在公共数据集上的基准测试结果。