Unstructured发布新指南，深入讲解高级检索增强生成（RAG）技术，涵盖智能分块、元数据过滤、GraphRAG、混合搜索和代理工作流等，旨在帮助开发者构建可扩展的企业级AI管道。

Unstructured 宣布一系列更新，包括简化的拖放界面、生成式精炼技术以提高输出保真度，以及简化的定价方案。新工作流程结合高分辨率分区与视觉语言模型增强，实现更高精度和结构保存。

大多数团队仍以每秒Token数和每百万Token成本评估LLM，但这些指标无法预测生产行为。本文揭示了速度、成本和质量之间的真实权衡，介绍了帕累托前沿作为评估框架，并强调了TTFT、p99延迟等关键生产指标。

本文详细介绍了六种经过生产验证的LLM推理优化策略，帮助团队匹配特定瓶颈与最高效的优化方法，包括批处理、预填充与解码优化、KV缓存优化、注意力与内存优化、并行化以及离线批处理推理。

本文介绍了2026年最佳的开源小型语言模型（SLM），包括Qwen3.5-0.8B、Gemma-3n-E2B-IT、Phi-4-mini-instruct、SmolLM3-3B和Ministral-3-3B-Instruct-2512，并探讨了它们在资源受限环境下的生产部署适用性、优缺点以及常见问题。

本文介绍了2026年最优秀的开源图像生成模型，包括FLUX.2、Stable Diffusion、GLM-Image和Z-Image-Turbo，并分析了它们的优势、注意事项以及适用场景。

本文全面解析GPU内存（VRAM）在大型语言模型（LLM）推理中的作用，涵盖模型权重、KV缓存和框架开销的内存消耗，提供内存计算公式，解释为何模型“理论上”能运行却遭遇OOM，并介绍量化、张量并行、KV缓存优化等策略，以及BentoML推理平台如何简化这些优化。

本文全面介绍DeepSeek系列模型，包括V3、R1、V3.1及其变体，对比它们的特点、性能和应用场景，帮助选择最合适的模型并安全部署。

本文介绍了2026年最优秀的开源大语言模型，包括DeepSeek-V4、MiMo-V2.5-Pro和Kimi-K2.6，并解答了关于性能优化、自托管部署等常见问题。

本文详细介绍了截至2026年4月ChatGPT各付费层级的使用限制，包括消息上限、模型切换及上下文窗口大小。分析了限制存在的原因：基础设施负载、成本控制、公平访问和防止滥用。此外，还探讨了专有模型的其他局限性，如性能不稳定、数据隐私风险、缺乏定制化和成本不可预测。最后，推荐自托管开源LLM作为摆脱所有限制的解决方案。

一份关于训练自定义EAGLE-3草图头部的全面指南，用于推测解码，在不牺牲输出质量的情况下，将LLM推理延迟降低1.5-2.5倍。涵盖数据集准备、超参数调优、训练流程、评估和部署。

本文提出了优化 AI 调度框架的三个通用模式：保持 .md 文件精简且由人工编写、使用 R.P.I. 框架（研究-规划-执行）进行提示词结构化、以及利用子代理（并行扇出和流水线）维护干净的上下文窗口。强调调度框架而非模型本身才是工程判断发挥作用的关键，并建议用户选择并持续迭代一个调度框架，而不是频繁更换。

NVIDIA Nemotron 3 Nano Omni 是一款开源的多模态基础模型，将音频、图像、视频和文本统一到单一上下文中。基于 Nemotron 3 Nano 骨干网络构建，为智能体工作流中的子智能体提供高效且准确的推理能力。Baseten 现已支持该模型，提供高性能推理、多云容量管理和企业级安全。

Baseten 发布 Frontier Gateway，这是一个托管 API 网关，基于 Baseten Dedicated Inference，允许 AI 实验室以自有域名服务模型，无需自建或购买第三方网关，降低工程负担并提升性能。

本文介绍了DFlash，一种新型推测解码技术，通过并行预测多个令牌突破EAGLE的2倍加速上限。Baseten的实现基于Qwen3-8B模型，在各种基准测试中实现约3倍加速，比vLLM快10-30%。文章详细解释了DFlash的工作原理、训练方法及与EAGLE和vLLM的性能对比。

Baseten通过vLLM-Omni优化Qwen3-TTS，实现了每百万字符仅需3-4美元的成本，比闭源替代方案低90%，同时保持高语音保真度。本文详细介绍了多种优化技术，包括分离式声学令牌生成与解码、CUDA图优化、说话人嵌入缓存、动态帧累积以及单词时间戳添加，并探讨了微调定制语音的可能性。

OpenRouter发布@openrouter/agent SDK，这是一个模型无关的TypeScript工具包，支持工具执行、多轮循环、停止条件、流式传输、成本跟踪和工具审批，简化了代理工作流的构建。

OpenRouter 推出了两个用于构建代理工具（harness）的技能：create-agent-tui（终端 UI）和 create-headless-agent（无头代理）。两者都能生成完整的 TypeScript 项目，利用 Agent SDK 提供可定制功能，并可与任何 OpenRouter 模型集成。这些技能提供了精细控制、最小化部署和教育价值。主要特性包括交互式清单、可定制的 UI、会话持久化、安全重试和结构化输出。

Anthropic 为 Claude Opus 4.7 引入新分词器，导致相同输入消耗更多 token，成本增加 12-27%。OpenRouter 基于百万级请求分析发现，长提示词的成本上涨被缓存部分抵消，短提示词因输出缩短反而更便宜。

OpenRouter 发布了四月重大更新：视频生成功能、多项目隔离的工作区、以及可将任何模型转化为智能体的 TypeScript SDK。此外还包括重排序模型、模型融合、提示历史记录、基准测试、知识截止日期等功能，以及 GPT-5.5、DeepSeek V4 Pro 等前沿模型的上线。

OpenRouter 推出响应缓存功能，允许开发者缓存相同的 API 请求，以毫秒级响应返回结果且不计费。缓存位于供应商之前，对请求细节进行哈希处理。支持流式和非流式，适用于多种端点，并提供 TTL 控制和缓存清除等功能。适用于代理重试、测试套件和重复提示等场景。

OpenRouter 新增两个专用音频端点：文本转语音和语音转文本，提供更快速、更经济的模型选择，支持 OpenAI、Google、Mistral 等供应商。

OpenRouter 的 Agent SDK 新增第四种工具类型：人机协同 (HITL) 工具。通过一个钩子函数，代理可以自动处理常规调用，在高风险场景下暂停等待人类介入，支持按每次调用自动解决或升级。

Cursor宣布与SpaceX合作，利用xAI的Colossus基础设施加速AI模型训练，突破算力瓶颈。

Cursor推出了SDK，允许开发者用几行TypeScript代码构建与Cursor桌面应用、CLI和Web应用相同的代理。该SDK支持本地、云端或自托管运行，提供智能上下文管理、MCP服务器、技能、钩子和子代理等功能，并使用任何前沿模型。目前处于公开测试阶段。

Cursor团队分享了他们如何像开发软件产品一样持续优化AI编程助手背后的agent引擎。文章详细介绍了上下文窗口的演变（从静态上下文到动态获取）、评估引擎改进的两种方式（离线基准与在线A/B测试）、跟踪和修复退化问题的机制（错误分类与自动化告警）、为不同模型定制引擎的策略，以及支持中途切换模型的挑战与解决方案。最后展望了多智能体协作的未来。

Cursor团队介绍了Composer中的自动安装功能，该功能利用早期模型版本自动配置RL训练环境，提高训练效率。通过两阶段过程，模型能完成复杂的环境设置，并在实际项目中成功应用。此方法显著提升了Composer 2在终端基准测试中的表现。

Bugbot 从每月每席位 40 美元的订阅模式转向基于使用量的计费方式，适用于团队版和个人版计划。现有客户可在 2026 年 6 月 8 日之后的续费周期开始新计费，也可通过仪表盘提前切换。每次 Bugbot 运行平均花费 1 到 1.5 美元，取决于 PR 的大小和复杂度。新推出的审查力度选项允许用户配置默认或高力度审查，其中高力度可多发现 35% 的 bug，且解决率仍保持 80%。

Cursor推出了新工具，用于配置云代理的开发环境，包括多仓库支持、Dockerfile配置改进、增强的代理设置和治理控制，使团队能够运行并行代理并端到端处理任务。

Cursor 采用混合在线-离线评估流程来衡量编码代理的模型质量。其内部评估套件 CursorBench 基于真实开发会话，更好地反映了开发者体验。公共基准存在对齐、评分和数据污染等问题，而 CursorBench 在模型区分度和与在线指标一致性方面表现更优。