芯片

开源AI已达到与封闭模型的能力平价，推理成本在36个月内下降了50倍，开源权重在API调用量上占据主导地位。尽管开发者广泛采用开源模型（79%），但生产部署仍面临运营工具和信任度挑战（仅51%成功部署）。开源不仅是成本选择，更是主权选择，尤其在中国和全球南方国家的战略推动下。

本文深入探讨了TPU和GPU集群拓扑结构，以及用于Transformer训练和推理的核心集体操作。重点介绍了环状算法在大型消息通信中的应用，并分析了TPU的2D/3D环面拓扑和带宽层次结构。

台湾芯片制造商正在扩大制造能力，以支持日益增长的人工智能基础设施需求。

开放模型如NVIDIA Nemotron使企业能够构建满足特定需求的AI，提供完全的控制权、定制能力和成本效益，并推动从AI使用到AI拥有的转变。

在AI工厂中，电力是不可回避的约束。每瓦性能决定了在固定电力预算内能生成的token数量，直接影响收入和盈利能力。随着代理型AI推动token需求增长，今天的架构决策将决定谁能扩展。NVIDIA Blackwell平台通过全栈协同设计实现高达25倍的每瓦性能提升，并已在生产中验证。

软件是AI产生巨大经济价值的首个领域，这得益于其可验证性和“可研磨性”。本文探讨了哪些行业将接下来被颠覆，软件工程师角色的转变，以及AI利润最终会流向哪里的争议。重点强调了强化学习环境和持续学习能力的关键作用。

苹果起诉OpenAI窃取商业机密，指控三名前苹果员工（包括前副总裁Tang Tan）将硬件机密带给OpenAI。此案发生在OpenAI准备IPO和推出硬件设备的关键时刻。法律专家表示，苹果是顽强的诉讼方，此案可能持续多年。

Databricks Lakebase是一种完全托管的无服务器Postgres数据库，专为代理时代构建。它通过统一运营和分析工作负载、消除基础设施摩擦来帮助企业实现现代化。全球合作伙伴已构建了一系列跨行业和功能的加速器，涵盖技术、金融、营销、销售、供应链等领域，以加速数据现代化、MLOps和代理式AI转型。

一位开发者构建了一个强化学习管道，其中 AI 智能体编写训练作业来训练小型模型，然后通过强化学习对智能体本身进行训练，奖励其生成更好的模型。结果显示，在 54 个训练步骤中，奖励从约 0.0 上升到约 0.63，并且技能可以转移到未见过的任务族。总成本约 1,275 美元。

扩展LLM的关键不是增加GPU，而是消除每个请求中的不必要工作。本文介绍了12种实用的减少延迟和成本的方法。

欧洲核子研究中心（CERN）的大型强子对撞机每秒产生4000万次粒子碰撞，AI被用于实时过滤数据，寻找可能包含重大发现的碰撞。从希格斯玻色子的发现到未来环形对撞机的设计，AI正在改变粒子物理学的各个阶段。

X（原Twitter）推出了托管MCP服务器，允许AI代理访问平台数据。作者Daniel Lemire将AI编码代理连接到X的MCP服务器，分析了自己两个月的发帖历史。他发现早晨（尤其是9点左右）的帖子中位浏览量最高，较长的帖子（300-325字符）比短回复获得显著更多的互动。这一过程展示了AI代理如何简化社交媒体数据分析。

伯尼·桑德斯提议通过国有化主要AI公司一半股份来建立主权财富基金，引发热议。文章从自由主义财产权理论到社会主义视角分析其合理性，认为AI应造福全人类。

本文首次演示了基于低功耗MCU的边缘设备用于自动车牌识别（ALPR）。该设计利用9核RISC-V处理器GAP8，结合QVGA超低功耗灰度成像器，采用基于SSDlite-MobilenetV2和LPRNet的多模型推理方法，在公共数据集上达到38.9%的mAP和超过99.13%的识别率。在真实世界中可识别小至30x5像素的车牌。多模型推理（687 MMAC）在GAP8上以1.09 FPS和117 mW运行，相比树莓派3系统能效提升73倍，且无需硬连线加速引擎。

本文提出了一种混合搜索框架，结合汤普森采样与并行自回避行走，以有效分配低自相关二进制序列（LABS）问题中的计算资源。该方法模型化为多臂老虎机，动态优先处理有前景的搜索空间分区，在35个序列长度上取得了新的最佳结果，并获得了因子超过8.0的最长序列。

Melodusk是一款基于浏览器的AI音乐生成器，通过文本描述可在2分钟内生成专业品质的音乐，支持100多种风格，并提供人声分离等工具，所有音乐免版税商用。

过去几天，OpenAI的Codex用户数突破700万，6个月内增长超10倍，而Claude Code的增速放缓。Prime Intellect发布了verifiers v1，用于智能体强化学习；OpenAI解决了GPT-5.6 Sol的用量问题；Grok Build因上传整个代码库引发安全争议；开放模型和量化技术取得进展；持续学习等研究方向重新受到关注。

Meta计划投资500亿美元扩建其路易斯安那州的数据中心，并探索出租多余计算能力给其他AI实验室。这表明Meta可能效仿亚马逊、谷歌等公司，从社交媒体巨头转型为云服务提供商。

大规模AI数据中心投资导致芯片、电脑和电力价格上涨，可能使通胀持续高于美联储目标，并促使加息。

OpenAI 最新智能模型系列 GPT-5.6 Sol、Terra 和 Luna 已在 Amazon Bedrock 上正式可用，带来旗舰级推理模型 Sol、平衡型模型 Terra 和快速低成本模型 Luna。Amazon Bedrock 的下一代推理引擎提供高性能、安全性和可靠性，支持提示缓存（90% 折扣）、区域内推理和芯片级零操作员访问安全。同时发布了 ChatGPT Work 和 Codex 代理。

Fleet Deck 是一个本地工具，可实时监控和管理所有正在运行的 Claude Code 会话。它提供一个看板，显示每个会话的状态、冲突提醒、需求队列，并支持任务分配、远程控制、会话恢复等功能。核心架构零模型调用，依靠钩子事件和确定性逻辑，确保安全与高效。

萨提亚·纳德拉（Satya Nadella）警告企业，向AI实验室付费的同时也在泄露专有数据，形成“反向信息悖论”。他建议企业建立自有AI学习环境，而微软则推荐其Copilot和Azure AI Foundry作为解决方案。

PlanWright 是一个为 AI 编码智能体设计的控制平面，通过反转规划和验收流程来消除人工瓶颈，使智能体速度与人类决策解耦，并生成不可篡改的审计链。

Amazon SageMaker AI Studio推出了生成式AI推理推荐的低代码/无代码用户界面，引导用户通过预设用例配置、可视化比较和一键部署，无需深厚基础设施知识即可获得验证的配置。

市场普遍预期超大规模企业的自由现金流将在未来几年翻倍以上，但如果AI回报慢于预期，可能引发现金流失望、科技股抛售波及大盘、以及信贷风险上升。

高盛研究显示，人工智能繁荣引发的供应限制正推高内存芯片和半导体等关键组件价格，导致美国核心PCE通胀每年上升约20个基点，年底前可能翻倍至50个基点，远超其他发达国家的10个基点平均增幅。

斯坦福大学的研究团队提出了TRACE系统，通过分析智能体失败轨迹，诊断缺失的能力，并为每个能力合成可验证的训练环境，利用LoRA适配器和GRPO算法进行训练，最后通过MoE组合实现令牌级路由。在τ²-Bench上提升15.3个百分点，在SWE-bench Verified上达到73.2%的Pass@1，超越了多个基线模型。

Prime Intellect 发布了 verifiers 0.2.0，预览了重写的 v1 核心。v1 将环境分解为任务集（做什么）、框架（怎么做）和运行时（在哪里），并通过拦截服务器记录训练轨迹。任何任务集均可与任何兼容框架配合使用，并直接支持 prime-rl 训练。

随着AI代理和自动化平台快速发展，内存带宽成为关键瓶颈。苹果统一内存架构、CUDIMM标准以及PC升级潮正在重塑市场，而三星、SK海力士等内存制造商因HBM产能分配而获得结构性利好。

本文提出了一种针对大语言模型推理的高效GPU方法，采用三层矩阵存储格式，包括稀疏张量核心层、插槽填充层和残差层，实现稀疏矩阵乘法，在50%稀疏度下首次超越密集矩阵乘法，最高可达1.64倍内核加速和1.41倍端到端加速。

本文介绍了Director，一种新的分布式MoE推理系统，通过预测驱动的在线专家放置优化，显著降低端到端延迟。系统采用轻量级级联预测器或低比特量化副本预测专家激活模式，结合近乎零停机的在线迁移模块，以及基于松弛优化的专家放置算法，在多项式时间内达到(1+ε)近似比。实验表明，在Mistral、DeepSeek和Qwen等流行MoE模型上，相比现有工作延迟降低11%~55%。

本文提出有符号对称量化方法，解决标准对称量化器因整数范围不平衡导致的正异常值截断问题，同时避免非对称量化的运行时开销。理论分析表明该方法在ℓ2误差上条件最优，且88-99%的LLM权重组满足条件。实验在Qwen3、Llama3等模型上验证了困惑度和少样本准确率的提升。

AVA是一个开源自托管语音AI代理，专为Asterisk/FreePBX设计，提供快速部署、多代理管理、实时仪表盘和多AI引擎支持。最新更新包括稳定性修复、静默看门狗和每代理语音选择等功能。

Tinier 是一套免费的浏览器内媒体工具，支持图像压缩、格式转换、AI 放大和视频转 GIF，所有处理均在本地设备完成，无需上传文件，保护隐私。

密歇根大学研究团队推出NeuroVFM，一种基于524万临床MRI和CT体积训练的通用神经影像基础模型。其Vol-JEPA方法将自监督学习扩展到体积医学影像，无需放射报告标签即可学习大脑解剖和病理。在156项诊断任务中达到92.68（CT）和92.49（MRI）的AUROC，并支持报告生成、分诊和跨模态迁移。

一个Argo CD UI扩展，在资源视图中添加AI助手选项卡，允许用户用自然语言查询Kubernetes资源，并附加上下文（清单、事件、可选日志）。兼容任何OpenAI兼容后端，需要Argo CD v2.13+。

本文提出将AI用户未使用的推理代币众筹用于科学研究，类比于SETI@home项目。讨论了小型团队利用AI解决数学问题的成功案例，以及众筹推理能力所需的设计挑战。

OpenAI和Anthropic致力于构建大型通用模型，但微软等公司正转向开发小型专用模型，以降低成本并提高效率。微软的MAI模型家族正在取代OpenAI的模型，用于其产品中的AI功能。

微软正在测试Copilot的“PC Insights”功能，可以分析系统资源使用情况，帮助用户找出性能瓶颈。然而，Copilot本身是一个完整的Web应用，附带私人版Edge，空闲时占用高达1GB内存，凸显了其资源消耗的讽刺性。该功能为可选，默认不自动扫描，用户需授予权限。

苹果的自动驾驶汽车项目虽未成功，但其对AI处理的需求催生了神经网络引擎。该引擎首次亮相于iPhone X的A11仿生芯片，现已成为苹果设备端AI处理的核心，并延续至M系列芯片。未来，苹果将加速M7芯片开发，其神经网络引擎大幅升级，M7 Ultra服务器芯片将支持高达1.5TB内存。

苹果公司指控OpenAI及其两名前苹果员工窃取商业机密，用于开发ChatGPT硬件设备。诉讼称这是“机构层面的协调不当行为模式”，OpenAI否认并表示没有兴趣窃取其他公司的机密。

AI数据中心需求推动内存制造商收入激增，但产能建设滞后可能导致长期高价，若AI需求未达预期，将面临严重衰退。

前沿AI实验室正从聊天机器人转向集成系统，模型作为运行时，频繁发布强大模型和代理。本周亮点包括OpenAI的GPT-5.6（Sol、Terra、Luna），具备程序化工具调用和并行子代理；GPT-Live全双工音频；ChatGPT Work用于创建工件；Meta的Muse Spark 1.1拥有百万token上下文和主动上下文管理；Grok 4.5专注于编码和知识工作。研究方面，OpenAI审计表明SWE-Bench Pro基准30%任务有问题；Anthropic提出GRAM方法可选择性移除危险知识；SkillOpt-Lite优化代理自我进化；DSpark和Nemotron-Labs-Diffusion改进推理效率。行业新闻包括Lovable融资3亿美元，Prime Intellect融资1.3亿美元，SambaNova融资10亿美元等。

MSK是一款基于iPhone的AI CTO代理应用，提供架构审查、扩展建议和创业策略服务。它模拟了拥有15年以上经验、参与过300多个项目、服务过50多家初创公司的首席技术官Moeid Saleem Khan的思维方式。用户可以通过聊天或语音方式咨询技术、架构、扩展、AI、招聘或产品策略等问题。应用免费试用，无需账户，并提供高级订阅服务。

过去五年，Alphabet、亚马逊、Meta、微软和甲骨文这五大美国科技公司为扩建AI数据中心，债务总额增加了约3500亿美元。尽管投资者对AI前景看好，但亚马逊本周250亿美元的债券发行遇冷，显示市场对巨额投资的担忧。甲骨文因AI支出增加被标普下调评级，而英特尔因债务和战略失误陷入困境。大型云服务商今年计划投入高达7250亿美元，主要投向数据中心和英伟达芯片。

TalkFitly是一款专为iPhone设计的社交智能训练应用，通过真实场景模拟和AI评分，帮助用户提高沟通中的清晰度、情绪稳定性、自信和共情能力。包含每日微课程、名言墙和隐私保护功能。

本文详细解释了大语言模型在推理过程中的内部机制，包括自回归生成、预填充和解码阶段、KV缓存的工作原理及其内存占用，以及解码策略如何影响输出。

本教程通过 TileGym 探索 NVIDIA 的基于 tile 的 GPU 编程，构建一个可在不同硬件上运行的 Colab 工作流程。我们探测 CUDA 环境，尝试真实的 cuTile 后端，并在标准 Colab GPU 缺乏 cuTile 堆栈时回退到 Triton。我们学习核心 tile 思想：对整个数据块进行操作，而不是单个线程，然后加载、计算和存储它们。我们实现了向量加法、融合 GELU、行级 softmax、分块矩阵乘法和 flash attention，并将每个结果与 PyTorch 进行比较。

作者在Mac Studio上运行Qwen3.5-122B模型时，遇到了三个导致缓存失效的bug，修复后对话预填充时间从几分钟降至亚秒级，大幅提升了长上下文场景下的使用体验。文章还讨论了模型选择、混合注意力机制以及性能指标的正确衡量方式。

AgentTransfer 是一个为 AI 代理设计的开源文件传输工具，允许代理传输最大 5GB 的文件，发现对等体，并在空间中协调。它使用电子邮件作为控制平面，HTTPS 进行数据传输，代理注册无需人工干预。该工具是一个单一的 Go 二进制文件，可以自托管或使用托管实例。