芯片

Inkling 是 Thinking Machines Lab 发布的通用多模态模型，支持文本、图像和音频输入，输出文本。模型拥有 9750 亿总参数（410 亿激活参数），采用稀疏 MoE 架构，上下文窗口达 100 万 token，在多项基准测试中表现优异，并开放权重供研究和商业使用。

作者详细介绍了自己构建一台本地AI推理机器（称为“垃圾生成器”）的过程，包括模型选择（Qwen 3.6 27B）和硬件选型（Radeon AI Pro R9700 GPU加eGPU扩展坞），并探讨了自托管LLM的优势与挑战。

德国研究联合体发布了Soofi S 30B-A3B的预训练报告，这是一个面向德语和英语的开放基础模型。模型采用混合Mamba-Transformer MoE架构，总计约316亿参数，每次token激活约32亿。在完全开放的基础模型中，Soofi S在英语和德语综合得分上最高。

Built Technologies与AWS生成式AI创新中心、AND Digital及AWS账户团队合作，创建了可扩展的AI文档处理引擎，能够对复杂房地产金融文档进行分类、拆分、提取、评估和推理。该引擎将原本需要数天的工作流程缩短至数分钟，支持数百种文档类型，并为技术团队和行业专家提供构建和改进文档处理器的共享环境。

IBM发布了新的Power服务器系列和软件，旨在实现基础设施管理和应用程序开发的自动化。其中包括用于系统管理的自主控制层IBM Power Autonomous Operations，以及面向IBM i环境的AI驱动开发助手IBM Bob Premium Package for i。此外，IBM还推出了紧凑型单插槽Power11服务器Power S1112，专为本地AI推理设计。这些新功能建立在去年Power11发布的基础上，强调了自主IT能力的扩展。IBM引用其2026年技术领导者研究，预计到2027年企业将平均部署1661个AI代理，需要能够自我管理的基础设施。Power S1112利用Power11的片上矩阵数学加速进行本地推理，性能是Power S914的两倍，能效提高69%。Power Autonomous Operations通过持续监控系统行为，在3.33分钟内解决容量问题，比传统工作流程快15倍。IBM Bob Premium Package for i则帮助开发者更快理解和现代化IBM i应用。

高等教育机构在扩大校园呼叫中心服务质量审查方面面临挑战。Databricks 提出一种基于生成式人工智能的解决方案，使用 OpenAI Whisper 进行高精度转录，利用 LLM-as-a-judge 根据机构评分标准进行一致评分，并通过 AI 函数进行数据丰富——所有步骤均在统一治理平台上完成，通过 Genie 和 Agent Bricks 实现自然语言洞察。

随着人工智能成本成为美国企业增长最快的支出之一，一些初创公司开始转向更便宜的中国AI模型以节省开支。尽管中国模型在能力上落后6到12个月，但其开源特性和低成本吸引了大量用户。

一个研究团队成功利用分布在四个国家的14台Mac电脑（包括一台个人MacBook）进行强化学习后训练，在PaperSearchQA任务上将pass@1从29%提升至63%。该系统通过PULSE权重同步技术实现90MB的增量更新，并采用异步星型拓扑结构，所有通信基于对象存储，无需专用网络。这是首次完全使用消费级Mac进行rollout生成的RL后训练。

一名黑客入侵Suno AI，曝光了其训练数据来源，包括从YouTube Music、Deezer、Genius等平台抓取的数百万首歌曲和播客，同时泄露了数十万用户信息及Stripe支付数据。Suno此前因版权问题被起诉，此次事件进一步揭示了AI公司的数据收集方式。

本文介绍了七种Python工具，工程师在2026年实际使用它们来在本地基础设施上构建、协调和运行AI代理，涵盖从模型运行到决策编排的各个层面。

日本作为全球AI中心，正借助NVIDIA技术构建全栈AI生态系统。NVIDIA与SEGA庆祝合作30周年，宣布将《VR战士CROSSROADS》等经典游戏引入NVIDIA RTX Spark新平台，展现了从图形技术到AI计算的技术演进。

AIDE2 系统通过八天的自主研究，发现了一个比人类两年构建的更好的自动研究框架，实现了递归自我改进（RSI）的首个实验证据。该系统采用双层优化循环，内层循环优化代码，外层循环优化内层智能体的代码框架，最终产生了七个改进版本，并在未见过的任务上表现出泛化能力。同时，系统还进化出了防止奖励黑客行为的机制。

诺基亚于7月15日发布了其AI-RAN平台，声称是业界首个GPU加速的AI无线电平台。该平台基于anyRAN软件和英伟达的Aerial系统，旨在显著提升频谱效率，目前已实现超过20%的提升，目标是到2028年实现翻倍。然而，该平台尚未商用，且面临爱立信等竞争对手的挑战。

UltraWork 是一个托管式AI编程环境，每月固定费用399美元，无令牌计量，无需担心意外账单。它提供精选模型目录、智能路由、提示模板库，面向独立开发者、机构和小团队。由具有高性能基础设施经验的工程师运营，强调简单性和可预测的定价。

谷歌于2026年7月9日发布了LiteRT.js，这是其设备端推理库LiteRT的JavaScript绑定，允许.tflite模型直接在浏览器中运行，利用WebGPU加速。相比其他Web运行时，性能提升可达3倍，GPU/NPU路径相比CPU路径提速5-60倍，但需要手动管理张量内存。

Lean64 是一个用 Lean 4 实现的极简 3D 第一人称射击游戏，灵感来自 Doom 64。它并非 Doom 64 的移植版，而是独立开发的原型，包含完整的游戏循环、敌人 AI、武器系统、音效和地图。所有代码和素材均为原创，采用 MIT 许可证。

TormentNexus是一个本地优先的开源AI控制平面，为多代理工作流提供持久记忆、MCP工具编排和自主基础设施管理。它支持38+ AI编码代理，具有渐进式工具路由、双层记忆架构和群集协调等功能。

乔治·卢卡斯认为抵制AI就像拒绝汽车选择马车，是一种过时的想法。他认为AI是电影制作的未来，无法阻挡，尽管有人担心AI会取代人类创造力。

Sogni Unlimited 提供基于订阅的无限图像、视频、音乐和 LLM 生成，使用去中心化的 GPU 网络。无需按渲染计费，支持开源模型及部分付费合作伙伴模型。订阅收入的一部分用于支持独立 GPU 运营商。

本文介绍了Millwright——一种三层数据契约架构，使模型生成的分析结果在不接触标记、样式或DOM的情况下渲染。通过类型化的结果构件、语义化版本控制的看板以及仅允许添加的导航页面，确保安全、可审计且可撤销的AI集成。

Thinking Machines 发布了通用多模态模型 Inkling，支持文本、图像和音频输入并生成文本输出，现可通过 Modal 托管端点使用，采用基于令牌的定价。文章还讨论了其独特的局部注意力架构和 DFlash 推测解码技术的优势。

Thinking Machines发布了Inkling，一个拥有约1万亿参数的开源多模态模型，支持图像、文本和音频输入，可处理高达100万token的上下文。该模型采用混合专家架构，仅激活410亿参数，并配有相对注意力和短卷积等创新设计。Inkling已在Hugging Face上发布，并得到transformers、SGLang和llama.cpp的即日支持。

Together AI发布一系列更新，旨在提升生产环境GPU集群的可靠性与操作控制。新功能包括被动健康检查、自动节点修复、强化版Slurm-on-K8s栈、集群详情视图、外部OIDC认证、启动脚本以及可选的验收测试。这些改进帮助团队更快发现硬件故障、自动化恢复流程，并提供更细粒度的访问控制和自定义能力。

Thinking Machines Lab 发布了 Inkling，一个多模态混合专家模型，专注于高效推理、原生多模态理解和广泛任务适用性。Together AI 在其推理平台上提供该模型，支持可控推理努力、文本/图像/音频输入，以及 1M 上下文窗口。

超级应用Codex每天新增100万用户。AI新闻汇总涵盖编码代理、开放模型、多模态系统、基准测试和物理AI。

PrismML发布了Bonsai 27B，这是Qwen3.6-27B的低位表示，并非全新预训练模型。提供三进制和二进制两种变体，采用Apache 2.0许可证。三进制版本每位仅1.71比特，理想大小为5.9GB；二进制版本每位1.125比特，大小为3.9GB。性能方面，三进制保留FP16基线的94.6%，二进制保留89.5%。该模型支持多模态，上下文长度262K令牌。PrismML声称二进制版本是首个适合手机的27B级模型。

开源AI已达到与封闭模型的能力平价，推理成本在36个月内下降了50倍，开源权重在API调用量上占据主导地位。尽管开发者广泛采用开源模型（79%），但生产部署仍面临运营工具和信任度挑战（仅51%成功部署）。开源不仅是成本选择，更是主权选择，尤其在中国和全球南方国家的战略推动下。

本文深入探讨了TPU和GPU集群拓扑结构，以及用于Transformer训练和推理的核心集体操作。重点介绍了环状算法在大型消息通信中的应用，并分析了TPU的2D/3D环面拓扑和带宽层次结构。

台湾芯片制造商正在扩大制造能力，以支持日益增长的人工智能基础设施需求。

开放模型如NVIDIA Nemotron使企业能够构建满足特定需求的AI，提供完全的控制权、定制能力和成本效益，并推动从AI使用到AI拥有的转变。

在AI工厂中，电力是不可回避的约束。每瓦性能决定了在固定电力预算内能生成的token数量，直接影响收入和盈利能力。随着代理型AI推动token需求增长，今天的架构决策将决定谁能扩展。NVIDIA Blackwell平台通过全栈协同设计实现高达25倍的每瓦性能提升，并已在生产中验证。

软件是AI产生巨大经济价值的首个领域，这得益于其可验证性和“可研磨性”。本文探讨了哪些行业将接下来被颠覆，软件工程师角色的转变，以及AI利润最终会流向哪里的争议。重点强调了强化学习环境和持续学习能力的关键作用。

苹果起诉OpenAI窃取商业机密，指控三名前苹果员工（包括前副总裁Tang Tan）将硬件机密带给OpenAI。此案发生在OpenAI准备IPO和推出硬件设备的关键时刻。法律专家表示，苹果是顽强的诉讼方，此案可能持续多年。

Databricks Lakebase是一种完全托管的无服务器Postgres数据库，专为代理时代构建。它通过统一运营和分析工作负载、消除基础设施摩擦来帮助企业实现现代化。全球合作伙伴已构建了一系列跨行业和功能的加速器，涵盖技术、金融、营销、销售、供应链等领域，以加速数据现代化、MLOps和代理式AI转型。

一位开发者构建了一个强化学习管道，其中 AI 智能体编写训练作业来训练小型模型，然后通过强化学习对智能体本身进行训练，奖励其生成更好的模型。结果显示，在 54 个训练步骤中，奖励从约 0.0 上升到约 0.63，并且技能可以转移到未见过的任务族。总成本约 1,275 美元。

扩展LLM的关键不是增加GPU，而是消除每个请求中的不必要工作。本文介绍了12种实用的减少延迟和成本的方法。

欧洲核子研究中心（CERN）的大型强子对撞机每秒产生4000万次粒子碰撞，AI被用于实时过滤数据，寻找可能包含重大发现的碰撞。从希格斯玻色子的发现到未来环形对撞机的设计，AI正在改变粒子物理学的各个阶段。

X（原Twitter）推出了托管MCP服务器，允许AI代理访问平台数据。作者Daniel Lemire将AI编码代理连接到X的MCP服务器，分析了自己两个月的发帖历史。他发现早晨（尤其是9点左右）的帖子中位浏览量最高，较长的帖子（300-325字符）比短回复获得显著更多的互动。这一过程展示了AI代理如何简化社交媒体数据分析。

伯尼·桑德斯提议通过国有化主要AI公司一半股份来建立主权财富基金，引发热议。文章从自由主义财产权理论到社会主义视角分析其合理性，认为AI应造福全人类。

本文首次演示了基于低功耗MCU的边缘设备用于自动车牌识别（ALPR）。该设计利用9核RISC-V处理器GAP8，结合QVGA超低功耗灰度成像器，采用基于SSDlite-MobilenetV2和LPRNet的多模型推理方法，在公共数据集上达到38.9%的mAP和超过99.13%的识别率。在真实世界中可识别小至30x5像素的车牌。多模型推理（687 MMAC）在GAP8上以1.09 FPS和117 mW运行，相比树莓派3系统能效提升73倍，且无需硬连线加速引擎。

本文提出了一种混合搜索框架，结合汤普森采样与并行自回避行走，以有效分配低自相关二进制序列（LABS）问题中的计算资源。该方法模型化为多臂老虎机，动态优先处理有前景的搜索空间分区，在35个序列长度上取得了新的最佳结果，并获得了因子超过8.0的最长序列。

Melodusk是一款基于浏览器的AI音乐生成器，通过文本描述可在2分钟内生成专业品质的音乐，支持100多种风格，并提供人声分离等工具，所有音乐免版税商用。

过去几天，OpenAI的Codex用户数突破700万，6个月内增长超10倍，而Claude Code的增速放缓。Prime Intellect发布了verifiers v1，用于智能体强化学习；OpenAI解决了GPT-5.6 Sol的用量问题；Grok Build因上传整个代码库引发安全争议；开放模型和量化技术取得进展；持续学习等研究方向重新受到关注。

Meta计划投资500亿美元扩建其路易斯安那州的数据中心，并探索出租多余计算能力给其他AI实验室。这表明Meta可能效仿亚马逊、谷歌等公司，从社交媒体巨头转型为云服务提供商。

大规模AI数据中心投资导致芯片、电脑和电力价格上涨，可能使通胀持续高于美联储目标，并促使加息。

OpenAI 最新智能模型系列 GPT-5.6 Sol、Terra 和 Luna 已在 Amazon Bedrock 上正式可用，带来旗舰级推理模型 Sol、平衡型模型 Terra 和快速低成本模型 Luna。Amazon Bedrock 的下一代推理引擎提供高性能、安全性和可靠性，支持提示缓存（90% 折扣）、区域内推理和芯片级零操作员访问安全。同时发布了 ChatGPT Work 和 Codex 代理。

Fleet Deck 是一个本地工具，可实时监控和管理所有正在运行的 Claude Code 会话。它提供一个看板，显示每个会话的状态、冲突提醒、需求队列，并支持任务分配、远程控制、会话恢复等功能。核心架构零模型调用，依靠钩子事件和确定性逻辑，确保安全与高效。

萨提亚·纳德拉（Satya Nadella）警告企业，向AI实验室付费的同时也在泄露专有数据，形成“反向信息悖论”。他建议企业建立自有AI学习环境，而微软则推荐其Copilot和Azure AI Foundry作为解决方案。

PlanWright 是一个为 AI 编码智能体设计的控制平面，通过反转规划和验收流程来消除人工瓶颈，使智能体速度与人类决策解耦，并生成不可篡改的审计链。

Amazon SageMaker AI Studio推出了生成式AI推理推荐的低代码/无代码用户界面，引导用户通过预设用例配置、可视化比较和一键部署，无需深厚基础设施知识即可获得验证的配置。