公司追踪
Hugging Face 最新 AI 新闻、产品、模型、生态和产业动态。
Perplexity AI 开源了用Rust重写的Unigram分词器，实现了比Hugging Face tokenizers crate低5倍的p50延迟，并将生产环境CPU利用率降低了5-6倍。优化包括双数组trie、位图打包和大页面支持。
Artificial Analysis与IBM联合推出ITBench-AA，这是首个针对企业IT智能体任务的基准测试，专注于站点可靠性工程（SRE）。前沿模型得分均低于50%，其中Claude Opus 4.7以47%领先。该基准测试评估模型在Kubernetes事件响应中的表现，要求从日志和追踪中诊断故障。
本文详细介绍了如何为Reachy Mini机器人部署完全本地的语音对话管道，无需云端或API密钥。采用级联方式，结合VAD、STT、LLM和TTS，推荐使用llama.cpp与Gemma 4、Silero VAD、Parakeet-TDT 0.6B v3 STT和Qwen3-TTS。提供了多种LLM运行选项，包括本地MLX、Transformers、vLLM或远程Responses API。
本文旨在厘清AI智能体领域中常被混淆的术语，如“harness”（执行层）与“scaffold”（行为定义层）的区别，并解释模型、智能体、工具使用、子智能体等概念，同时涵盖训练相关术语。
NVIDIA 发布 Nemotron-Labs 扩散语言模型系列，通过并行生成与迭代精炼技术，在保持高准确率的同时，相比传统自回归模型实现最高 6.4 倍的推理速度提升。模型支持自回归、扩散和自推测三种模式，8B 版本在准确率上超越 Qwen3 8B 1.2%，并已开源。
一家公司在AI采购中发现，一个30亿参数的专业化模型在质量、成本和生产稳定性上均优于所有商业前沿API，成本低了约52倍。这挑战了“参数越多越好”的默认假设，表明训练历史与任务的分布对齐（分布对齐）比参数数量更关键。
开源运动正将AI的突破性进展引入机器人领域，降低开发门槛。从ROS框架到英伟达、Hugging Face和阿里巴巴的开源模型，机器人推理、决策和行动的能力正变得对更多人可用。但商业激励与学术初心之间的张力也带来新挑战。
精选目前Hugging Face上最佳的小型语言模型，介绍每个模型的实际优势、支撑其性能的基准测试数据，以及快速上手的代码示例。
Allen AI 发布了 OlmoEarth v1.1，通过合并不同分辨率的令牌，将计算成本降低高达三倍，同时保持 v1 的性能。新模型适用于大规模遥感分析，合作伙伴已在全球部署。
今日发布了六个新的Sentence Transformers交叉编码重排序器，基于Ettin ModernBERT编码器构建，通过蒸馏训练，在各自规模上达到最先进水平。这些模型与嵌入模型配对使用，可高效提升检索排序质量。
本文介绍了如何通过参数高效微调技术LoRA和DoRA，在单个GPU上微调NVIDIA Cosmos Predict 2.5世界模型，生成用于机器人学习的合成视频轨迹。文章详细说明了数据处理、适配器初始化、训练循环、推理方法及评估指标。
IBM研究团队推出开放智能体排行榜（Open Agent Leaderboard），这是一个用于比较完整智能体系统（而不仅仅是模型）的开放基准。它评估智能体在多种真实场景中的通用性，并同时报告质量和成本。该排行榜结合了六个基准测试，涵盖编码、客服、技术支持和研究等任务。初步结果显示，通用智能体已能与专用系统媲美，且智能体架构对结果的影响日益显著。所有代码、数据和论文均已开源。
IBM发布Granite Embedding Multilingual R2系列，包含97M和311M参数两个多语言嵌入模型，均基于ModernBERT架构，支持32K令牌上下文，覆盖200+语言，并在MTEB多语言检索基准上取得领先成绩。97M模型在子1亿参数模型中排名第一，311M模型在5亿参数以下模型中排名第二。
一款名为GLiNER2-PII的开源模型，仅有0.3B参数，在PII检测任务上取得了最先进性能，在SPY基准测试中超越了OpenAI的隐私过滤器。该模型能识别42种实体类型，并基于多语言合成语料库训练。模型已在Hugging Face上公开发布。
理解现代AI架构变得越来越困难。本文介绍了一种简单的方法：通过将Hugging Face模型URL中的“huggingface.co”替换为“hfviewer.com”，即可立即将模型结构转化为交互式可视化图表。该工具支持Transformer、视觉和多模态模型，无需任何设置。此外，还提供了终端命令和浏览器扩展两种快速访问方式。
本文解释了如何通过分离CPU和GPU工作负载来大幅提升推理性能。连续批处理通过紧密打包批次提高了GPU利用率，但同步操作导致CPU和GPU交替等待，造成近四分之一的运行时间浪费。通过使用非默认CUDA流和事件实现异步批处理，可以让CPU和GPU并行工作，消除空闲间隙，实现免费的24%加速。文章详细介绍了CUDA流、事件机制以及如何将它们应用于连续批处理，并提供了在transformers库中的实现代码。
一个伪装成OpenAI发布的恶意Hugging Face仓库向Windows机器传递了信息窃取型恶意软件，在被移除前记录了约244,000次下载。研究人员警告，公开的AI模型注册中心在开发者将模型克隆到企业环境时构成了供应链风险。
本文分析了AWS在基础模型预训练、后训练和推理中的基础设施组件，包括GPU实例、弹性网络适配器（EFA）、Lustre文件系统及UltraCluster/UltraServer架构，并强调开源软件在资源管理和监控中的作用。
本指南详细介绍了在AMD Strix Halo APU（gfx1151）上对大语言模型进行全微调和LoRA微调的步骤，绕过了官方ROCm支持的限制，使用HuggingFace Trainer直接训练。
Unsloth，一家专注于开源AI优化的公司，正式被纳入PyTorch生态系统。该组织以提供高效的模型训练、量化工具及Unsloth Studio UI著称，并已与PyTorch团队在FP8强化学习、手机端ExecuTorch部署及量化感知训练等方面展开合作。目前，Unsloth在Hugging Face上拥有超过250万次模型下载和200多名贡献者。
MachinaCheck是一个基于AMD MI300X的多智能体AI系统，通过上传STEP文件快速生成CNC可制造性评估报告，无需手动读取图纸。系统采用本地化部署保护知识产权，结合几何解析与LLM推理，可在30秒内完成全套分析。
Crusoe与NVIDIA Dynamo合作开发了fastokens，一个开源的Rust BPE分词器，平均速度比HuggingFace分词器快9.1倍，在长上下文工作负载中TTFT最多降低40%。
Hugging Face联合创始人兼CEO Clem Delangue在采访中讨论了开源AI的现状，并引用了西西弗斯神话来比喻AI发展的持续性挑战。他认为开源AI生态系统正在蓬勃发展，但需要避免过度简化的类比。
OncoAgent是一个开源、隐私保护的肿瘤临床决策支持系统。它采用双层大语言模型架构（9B快速模型和27B深度推理模型）、多智能体LangGraph拓扑、纠正性RAG流程（涵盖70余项NCCN和ESMO指南）以及三层反射安全验证器。系统通过复杂性评分路由查询，在AMD Instinct MI300X上微调，实现了56倍的吞吐量加速，并支持本地部署以确保数据主权。
CyberSecQwen-4B是一个基于Qwen3-4B-Instruct微调的小型网络安全专用模型，旨在解决防御性网络安全中对数据隐私、成本和离线部署的需求。该模型在CTI-Bench基准测试中，以4B参数量匹配甚至超过8B的Cisco Foundation-Sec-Instruct模型，同时完全在单个AMD MI300X GPU上训练和运行。文章详细介绍了训练方法、数据来源、基准结果以及未来方向。
艾伦人工智能研究所发布EMO模型，这是一种端到端预训练的混合专家（MoE）模型，其模块结构直接从数据中涌现，无需人工定义先验。EMO支持仅使用12.5%的专家子集即可保持接近全模型的性能，同时在全专家使用时仍能作为强大的通用模型。相比标准MoE，EMO的专家子集在选择性使用时性能下降显著更小。
gnucleus-ai在Hugging Face上发布了一个开源FreeCAD数据集，包含100个参数化CAD模型（如轴、轴承、法兰等），每个模型带有关键参数、图像和.FCAD文件，适用于CAD生成任务。数据集采用Apache-2.0许可，包含多种机械零件，支持3D、图像和文本模态。
本文详细介绍了如何使用AMD MI300X和ROCm，通过LoRA微调Qwen3-1.7B模型在MedMCQA数据集上构建临床问答系统。整个流程无需CUDA，训练仅需5分钟，充分证明了HuggingFace生态系统在ROCm上的兼容性。
学习如何在一个会话中使用Goose和Together的专用容器推理部署任何HuggingFace模型。跳过复杂设置——一个提示就能让你的模型在发布当天在生产级GPU环境中运行。
ServiceNow AI团队在将强化学习训练管线从vLLM V0迁移到V1时，发现了四个后端问题：logprobs语义、运行时默认值、飞行中权重更新和fp32 lm_head。他们优先修复后端正确性，再考虑目标侧修正，最终实现了与V0参考的完全对齐。
Open ASR排行榜引入Appen和DataoceanAI提供的高质量私有数据集，通过可切换的评估选项防止benchmaxxing，提供更全面的语音识别性能衡量。
本文评测了ML Intern，一款开源机器学习助手，它超越传统AutoML，覆盖数据探索、编码、调试到模型发布的完整工作流。通过一个客户支持工单分类案例，展示了从数据集选择、烟雾测试到训练计划生成的步骤。
本文探讨了AI评估成本的急剧上升，特别是针对智能体基准测试，指出评估已成为新的计算瓶颈。静态基准测试可压缩100-200倍，但智能体和训练中基准测试难以压缩。可靠性要求多次运行，成本倍增。高评估成本可能导致验证能力集中在资金充足的实验室。
IBM Granite 4.1 是一个密集解码器仅LLM系列（3B、8B、30B），在多阶段预训练中使用了约15万亿个token，包括长达512K token的长上下文扩展。模型通过监督微调（约410万个高质量样本）和基于策略的GRPO与DAPO损失的强化学习进一步优化。8B指令模型在性能上匹配甚至超越了之前的32B MoE模型，所有模型均在Apache 2.0许可下发布。
DeepInfra 成为 Hugging Face Hub 上最新的推理提供商，提供100多个模型的低成本无服务器推理服务，初始支持对话和文本生成任务，用户可通过 UI 或 SDK 轻松使用。
NVIDIA发布了Nemotron 3 Nano Omni，这是一个全新的全模态理解模型，能够处理文本、图像、视频和音频。它基于混合Mamba-Transformer-MoE架构，结合C-RADIOv4-H视觉编码器和Parakeet-TDT-0.6B-v2音频编码器，在多个基准测试中取得领先成绩。该模型专为文档分析、自动语音识别、长音频-视频理解、智能体计算机使用和通用多模态推理设计，并提供了高效的视频采样和动态分辨率处理能力。
本文介绍如何使用Scikit-LLM库中的文本摘要功能，通过构建自定义转换器集成Hugging Face的预训练摘要模型，并将其嵌入scikit-learn流水线中，实现从长文本到分类的端到端流程。
本文介绍了如何利用OpenAI新发布的开源隐私过滤器（Privacy Filter）构建三个可扩展的Web应用：文档隐私探索器、图像匿名化器和智能编辑粘贴板。每个应用都展示了该模型的不同能力，并通过gradio.Server实现高效的后端处理和自定义前端。
DeepSeek发布V4模型，拥有百万token上下文窗口，专为代理任务优化。通过混合注意力机制（CSA和HCA）大幅降低KV缓存和FLOPs，并引入跨工具调用的交错推理、专用工具调用格式以及用于强化学习训练的DSec沙箱。在多个代理基准测试中达到领先水平。
本文详细介绍了在Manifest V3 Chrome扩展中集成Transformers.js的架构设计与实践，包括服务工作者托管模型、侧边栏聊天UI、内容脚本页面交互、消息通信、工具调用循环以及数据持久化策略。
QIMMA（阿拉伯语意为“高峰”）是一个以质量为先的阿拉伯语大模型排行榜，它会在评估模型之前先验证基准数据的质量。通过多模型自动评估与人工审核相结合的方法，QIMMA 发现了多个广泛使用的阿拉伯语基准测试中存在系统性的质量问题。该排行榜整合了来自14个基准测试的109个子集，涵盖7个领域，总计超过52,000个样本，并首次在阿拉伯语大模型评估中加入了代码能力测试。
本文探讨了AI在网络安全中的角色，特别是新模型Mythos如何利用系统级能力发现和修补漏洞。强调开放性在防御中的结构性优势，主张采用半自主AI代理以保持人类控制，并指出开放生态比专有系统更能应对日益复杂的攻击。
一种学习导向的工作流程，用于理解新发布的开源权重模型。从官方技术报告开始，但论文往往不够详细；然后利用Hugging Face上的配置文件和参考实现来获取架构细节。这个过程主要是手动的，适合开源权重模型，并且手动操作是学习架构的最佳练习之一。
Ecom-RLVE 将 RLVE 框架从单轮推理扩展到多轮工具增强的电商对话，提供 8 个可验证环境（产品发现、替换、购物车构建、退货、订单追踪、政策问答、套餐规划、多意图旅程），每个环境具备程序化问题生成、12 轴难度课程和可验证奖励。使用 DAPO 在 300 步内训练 Qwen 3 8B 模型，初步结果表明环境缩放和自适应难度可迁移至实际任务完成。
DeepSeek 发布 V2.5-1210 版本，作为 V2.5 系列的最终版本，新增互联网搜索功能，在数学、编程、写作和角色扮演等基准测试中表现提升，开源模型已上传至 Hugging Face。团队感谢用户支持，并预告下一代基础模型即将到来。