芯片

本文提出将AI用户未使用的推理代币众筹用于科学研究，类比于SETI@home项目。讨论了小型团队利用AI解决数学问题的成功案例，以及众筹推理能力所需的设计挑战。

OpenAI和Anthropic致力于构建大型通用模型，但微软等公司正转向开发小型专用模型，以降低成本并提高效率。微软的MAI模型家族正在取代OpenAI的模型，用于其产品中的AI功能。

微软正在测试Copilot的“PC Insights”功能，可以分析系统资源使用情况，帮助用户找出性能瓶颈。然而，Copilot本身是一个完整的Web应用，附带私人版Edge，空闲时占用高达1GB内存，凸显了其资源消耗的讽刺性。该功能为可选，默认不自动扫描，用户需授予权限。

苹果的自动驾驶汽车项目虽未成功，但其对AI处理的需求催生了神经网络引擎。该引擎首次亮相于iPhone X的A11仿生芯片，现已成为苹果设备端AI处理的核心，并延续至M系列芯片。未来，苹果将加速M7芯片开发，其神经网络引擎大幅升级，M7 Ultra服务器芯片将支持高达1.5TB内存。

苹果公司指控OpenAI及其两名前苹果员工窃取商业机密，用于开发ChatGPT硬件设备。诉讼称这是“机构层面的协调不当行为模式”，OpenAI否认并表示没有兴趣窃取其他公司的机密。

AI数据中心需求推动内存制造商收入激增，但产能建设滞后可能导致长期高价，若AI需求未达预期，将面临严重衰退。

前沿AI实验室正从聊天机器人转向集成系统，模型作为运行时，频繁发布强大模型和代理。本周亮点包括OpenAI的GPT-5.6（Sol、Terra、Luna），具备程序化工具调用和并行子代理；GPT-Live全双工音频；ChatGPT Work用于创建工件；Meta的Muse Spark 1.1拥有百万token上下文和主动上下文管理；Grok 4.5专注于编码和知识工作。研究方面，OpenAI审计表明SWE-Bench Pro基准30%任务有问题；Anthropic提出GRAM方法可选择性移除危险知识；SkillOpt-Lite优化代理自我进化；DSpark和Nemotron-Labs-Diffusion改进推理效率。行业新闻包括Lovable融资3亿美元，Prime Intellect融资1.3亿美元，SambaNova融资10亿美元等。

MSK是一款基于iPhone的AI CTO代理应用，提供架构审查、扩展建议和创业策略服务。它模拟了拥有15年以上经验、参与过300多个项目、服务过50多家初创公司的首席技术官Moeid Saleem Khan的思维方式。用户可以通过聊天或语音方式咨询技术、架构、扩展、AI、招聘或产品策略等问题。应用免费试用，无需账户，并提供高级订阅服务。

过去五年，Alphabet、亚马逊、Meta、微软和甲骨文这五大美国科技公司为扩建AI数据中心，债务总额增加了约3500亿美元。尽管投资者对AI前景看好，但亚马逊本周250亿美元的债券发行遇冷，显示市场对巨额投资的担忧。甲骨文因AI支出增加被标普下调评级，而英特尔因债务和战略失误陷入困境。大型云服务商今年计划投入高达7250亿美元，主要投向数据中心和英伟达芯片。

TalkFitly是一款专为iPhone设计的社交智能训练应用，通过真实场景模拟和AI评分，帮助用户提高沟通中的清晰度、情绪稳定性、自信和共情能力。包含每日微课程、名言墙和隐私保护功能。

本文详细解释了大语言模型在推理过程中的内部机制，包括自回归生成、预填充和解码阶段、KV缓存的工作原理及其内存占用，以及解码策略如何影响输出。

本教程通过 TileGym 探索 NVIDIA 的基于 tile 的 GPU 编程，构建一个可在不同硬件上运行的 Colab 工作流程。我们探测 CUDA 环境，尝试真实的 cuTile 后端，并在标准 Colab GPU 缺乏 cuTile 堆栈时回退到 Triton。我们学习核心 tile 思想：对整个数据块进行操作，而不是单个线程，然后加载、计算和存储它们。我们实现了向量加法、融合 GELU、行级 softmax、分块矩阵乘法和 flash attention，并将每个结果与 PyTorch 进行比较。

作者在Mac Studio上运行Qwen3.5-122B模型时，遇到了三个导致缓存失效的bug，修复后对话预填充时间从几分钟降至亚秒级，大幅提升了长上下文场景下的使用体验。文章还讨论了模型选择、混合注意力机制以及性能指标的正确衡量方式。

AgentTransfer 是一个为 AI 代理设计的开源文件传输工具，允许代理传输最大 5GB 的文件，发现对等体，并在空间中协调。它使用电子邮件作为控制平面，HTTPS 进行数据传输，代理注册无需人工干预。该工具是一个单一的 Go 二进制文件，可以自托管或使用托管实例。

Mesh LLM是一种新型分布式AI计算系统，通过iroh网络将多台机器的GPU和内存池化，提供一个OpenAI兼容的API。用户可以在本地或对等节点上运行模型，甚至将大型模型拆分到多台机器上。它解决了AI计算成本高、缺乏控制的问题，支持私有部署和公共网格，无需依赖中央服务器。

TradingSpy是一个开源的本地化AI交易研究工作站，集成市场热力图、新闻催化、策略生成、Backtrader回测和透明代理运行于一个Docker应用。它采用本地优先架构，所有数据存储在本地，无任何隐私担忧，支持多种LLM提供商和广泛的金融市场数据源，适合交易者和开发者进行策略研究、回测和信号分析。

30 Seconds of Knowledge 是一款浏览器扩展，每次打开新标签页时展示一段真实代码片段，帮助开发者保持编程敏锐度，对抗AI时代的思维惰性。该扩展内置超过1500个来自14个类库的代码片段，涵盖多种语言、框架和面试题，已有超过25,000名开发者使用。

科里·多克托罗探讨了AI的悖论：为什么有些用户热爱它而另一些则憎恨它。他引入了'半人马'（人类借助AI）和'反向半人马'（人类充当AI的责任吸收器）的概念。他认为AI是一个即将破裂的泡沫，但像Whisper这样的开源模型将留下有益的残余。关键在于谁控制AI，而非技术本身。

谷歌发布LiteRT.js，将高性能AI推理带入浏览器，支持CPU、GPU和NPU硬件加速，性能比现有方案提升最多3倍，并集成YOLO等模型。

openpilot 0.11.1 版本在驾驶员监控、热管理、横向控制报告和车辆支持方面进行了多项改进。新模型利用大型视觉语言模型（VLM）改善手机检测，减少了误报，并提高了驾驶员手机使用的检测准确性。热阈值从75°C提高到85°C，显著减少了热阻断。新增横向机动报告功能，便于调整转向控制。还修复了多个汽车品牌的问题，并新增了对Acura MDX 2022-24和Rivian R1S/R1T 2025的支持。

在短短24小时内，OpenAI、SpaceXAI和Meta相继发布新模型，但共同点是降价竞争。价格战正在重塑AI市场，企业需构建模型组合以优化成本与性能。

Ypipe是一款基于Java的免费本地AI客户端，集成了MCP编排功能，无需Python环境即可运行。它支持私有代理聊天、本地模型管理、一键集成，并可与SAP、Oracle等遗留系统对接，确保数据主权。提供零配置便携性、跨平台支持及无头模式，适合企业级本地AI部署。

本文介绍了millfolio如何通过混合标签系统高效处理本地AI推理：使用确定性字符串和引用标签覆盖大多数交易，仅对模糊尾部使用设备端AI标签。标签在索引时计算一次并存储，查询时不重复运行。回填使用批处理、去重和优先级调度器以避免过载。性能数据显示每个不同描述约650ms，有效行速8.5行/秒。系统包含预览机制，用户可在保存前验证标签效果。

GDP.pdf是一个新的基准测试，评估AI模型处理现实世界PDF文档的能力。测试涵盖金融、法律、医疗等10个领域，结果显示即使是顶尖模型（如GPT-5.5）的得分也低于30%。文章强调了PDF作为全球经济命脉的重要性，并指出模型在关键任务中的失败可能导致严重后果。

作者尝试用Claude AI复刻1986年的经典游戏《Thrust》，但AI生成的版本质量很差。然而，通过用AI分析原始6502汇编代码，作者深入理解了游戏的物理、音效和绘图机制，最终成功用TypeScript实现了忠于原作的复刻版。

MuScriptor是Kyutai与Mirelo合作开发的开源权重解码器专用Transformer模型，能够将多乐器音频转录为MIDI。模型采用三阶段训练：在145万合成MIDI上预训练、17万真实录音（超1.1万小时）上微调、300首人工验证曲目上强化学习。在DTest基准上，其Multi F1达48.2%，远超YourMT3+的21.9%。提供103M、307M和1.4B三种参数规模，推理代码采用MIT许可，权重采用CC BY-NC 4.0。

本教程介绍如何基于DeepAnalyze-8B构建一个自主数据科学代理。我们准备稳定的Colab运行时，安装依赖，以4位模式加载模型以适配有限GPU内存。添加沙盒执行环境，使模型能生成并安全运行Python代码，观察结果并持续迭代。最后，代理处理多文件电子商务工作区，完成数据清洗、连接、分析、可视化和生成分析报告。

西北大学研究人员受小脑启发，开发出一种新型忆晶体管，能以极低能耗快速检测异常事件。在实验中，该设备仅用五分之一个心跳时间就识别出心律失常，准确率超98%，能耗仅为传统AI的万分之一。

本文回顾了2025年5月至2026年6月期间生成式空间AI的快速发展，从文本到网格、视频生成、交互式世界模型、相机可控生成、本地化生产管线到AI原生CAD，记录了技术从演示到生产就绪的转变，并讨论了剩余挑战。

SK海力士在美上市融资265亿美元，成为史上最大外资IPO，超越阿里巴巴2014年250亿美元的纪录。公司被呼吁在美国建设新工厂。

尼莱·帕特尔在The Vergecast分享他对增强现实眼镜的看法，强调其不可避免的隐私问题。

本周AI新闻梳理：IBM推出0.7纳米芯片技术，OpenAI与博通发布专为推理设计的Jalapeño芯片，英伟达展示全液冷AI工厂设计；政府监管加强，Anthropic恢复模型访问权限，OpenAI提议向美国政府转让5%股权；工作角色快速演变，前哨工程师、SAP外部招聘与宜家内部培训成为焦点。

Tensorlake 重建了沙箱的网络入口架构，将数据路径从 L7 反向代理迁移到 L4 字节转发，利用内核 TLS（kTLS）和 splice(2) 实现零拷贝，大幅提升吞吐量并降低 CPU 开销。架构变化包括分离数据路径和控制平面、使用 kTLS 在内核中完成加解密、通过字节流监测实现自适应超时。性能测试显示，单连接吞吐量从 1.12 GB/s 提升至 2.50 GB/s，每 GB 的 CPU 消耗从 0.90 CPU 秒降至 0.49 CPU 秒。

本文介绍了 NVIDIA Nemotron 3 模型的独特架构，包括混合 Mamba-Transformer MoE 设计和支持高达 1M token 的上下文长度。亚马逊 SageMaker AI 现在推出针对 Nemotron 3 的无服务器模型定制服务，支持监督微调（SFT）、基于可验证奖励的强化学习（RLVR）和基于 AI 反馈的强化学习（RLAIF）三种技术。文章详细说明了如何通过 SageMaker Studio 控制台或 Python SDK 准备数据、启动定制任务、监控训练进度和评估模型，帮助企业将通用模型转化为领域专用资产。

亨利·沙因公司开发了Image Verify，这是一个基于Amazon SageMaker AI的AI驱动系统，可实时评估牙科X光片质量，减少保险理赔拒付。该系统在数月内从概念扩展到超过10,000个场所，处理了数百万张X光片，中位延迟低于2秒。

了解在 AWS 上部署 Unsloth 量化模型的四种模式：使用 EC2 进行直接访问，使用 SageMaker AI 进行托管服务，以及使用 EKS/ECS 进行容器化推理。理解 Unsloth 的动态量化技术、模型格式（GGUF、safetensors）和运维最佳实践。

本文介绍了如何使用vLLM在Amazon SageMaker HyperPod上通过HyperPod推理运算符实现分离式预填充和解码（DPD）。DPD通过将预填充和解码阶段分配到不同的GPU池，消除了长提示对令牌生成的干扰，从而降低了首令牌延迟和令牌间延迟，提高了推理性能。

经过多年争夺人工智能芯片和计算能力，企业领导者发现获取基础设施可能比有效使用更容易。

人工智能终结了“学习编程”的时代，将再技能培训的责任转移给了雇主。代码路易斯维尔等培训项目的关闭凸显了就业市场的变化，并为未来的劳动力发展提供了重要教训。

SmolVLM2-2.2B在能力和规模之间取得了实用平衡，可在单个消费级GPU上运行，并生成真正有用的视频摘要。本文构建了一个本地管道，提取帧、用SmolVLM2分析并输出结构化JSON摘要。

英伟达CEO黄仁勋提出了一个评估工程师价值的测试：如果一位年薪50万美元的工程师每年使用的AI Token价值不到其薪水一半，他会感到“深切担忧”。他透露英伟达正朝着每年20亿美元的Token账单迈进。这一观点揭示了企业在AI投入与人力成本之间的权衡。尽管许多公司通过裁员来资助AI支出，但Gartner调查显示，约80%的企业在裁员后并未获得相应的回报。文章还探讨了通过缓存、模型路由、RAG等方式优化Token开销的方法，并强调保留人才的重要性。

MathNut AI 是一款专为 iPhone 设计的数学求解器，允许用户拍摄印刷或手写数学题的照片，并通过 AI 获得逐步解析。支持算术、代数、几何等多个领域，并提供互动聊天功能加深理解。免费版每日有限次扫描，高级版订阅后可解锁无限制使用和更多学习工具。

作者通过对比童年电脑与当今的B300 GPU系统，反思AI技术的快速发展。探讨了LLMs的争议、符号AI与统计AI的差异、智能的本质以及未来的梦想与现实。文章还包含与朋友的关于确定性和记忆的讨论。

红杉资本合伙人David Cahn三年前首次计算了硅谷AI基础设施巨额支出的财务影响，他根据Nvidia的GPU收入推导出需要2000亿美元的收入才能收回前期投资。

OpenAI 发布了三款新 GPT-5.6 模型——Sol、Terra 和 Luna，同时更新了应用层，推出 ChatGPT Work 和 Codex 集成。新模型在基准测试中以更低成本展现了强大性能，其中 Sol 能力最强。独立评估显示其在编码和代理任务上接近前沿水平。

SK海力士作为先进存储芯片供应商，受益于全球AI数据中心建设热潮，利润飙升。公司于周五确定其巨额美国上市定价，计划融资265亿美元，成为全球最大规模股票发行之一。

蚂蚁集团旗下具身智能部门Robbyant发布了LingBot-World-Infinity（LingBot-World 2.0），这是一个140亿参数的因果视频生成模型，可作为交互式世界模拟器。其核心技术是双向自回归混合注意力掩码（MoBA）和分布匹配蒸馏，旨在解决长时程漂移问题。该模型配备由视觉语言模型（VLM）和扩散变换器（DiT）组成的导演-飞行员智能体框架，支持无限持续的视频生成。尽管研究论文展示了60分钟不间断会话，但开源发布仅包含单个检查点和480P参考脚本，缺乏部署代码和定量基准，且采用非商业许可证。

TensorSharp是一个基于.NET 10的本地LLM推理引擎，支持GGUF模型、GPU加速，并提供命令行工具、浏览器聊天服务器及兼容Ollama和OpenAI的API。它强调隐私性、零按token费用，并支持多种硬件后端。文中还提供了快速入门指南和性能基准测试比较。

UST 与 Anthropic 合作，将 Claude 集成到其工程平台中，用于半导体、汽车等行业的物理 AI 任务，并计划培训 20,000 名员工使用 Claude。

OpenAI今日发布ChatGPT Work，一款基于GPT-5.6的自主代理工具，可跨应用、文件和工具执行复杂任务，同时推出GPT-5.6系列模型和Sites功能，旨在提升企业工作效率。