印度公司因AI成本高昂转向中国大语言模型
印度企业越来越多地使用DeepSeek、阿里巴巴和Moonshot AI等中国大语言模型来降低人工智能成本,这进一步加深了印度对中国尖端技术的依赖,尽管两国之间长期存在冲突。
- 印度公司转向中国LLM以削减AI成本
- DeepSeek、阿里巴巴和Moonshot AI是主要供应商
长尾标签
跟踪 DeepSeek 模型、API、开源权重、推理效率、生态合作和全球影响。
印度企业越来越多地使用DeepSeek、阿里巴巴和Moonshot AI等中国大语言模型来降低人工智能成本,这进一步加深了印度对中国尖端技术的依赖,尽管两国之间长期存在冲突。
本文介绍了Director,一种新的分布式MoE推理系统,通过预测驱动的在线专家放置优化,显著降低端到端延迟。系统采用轻量级级联预测器或低比特量化副本预测专家激活模式,结合近乎零停机的在线迁移模块,以及基于松弛优化的专家放置算法,在多项式时间内达到(1+ε)近似比。实验表明,在Mistral、DeepSeek和Qwen等流行MoE模型上,相比现有工作延迟降低11%~55%。
作者从个人编码和审计经验出发,对2026年中的主流AI模型进行非正式分级,涵盖Anthropic Fable、OpenAI Sol、Mistral、Gemini和DeepSeek等模型,并融入美国出口管制和欧洲视角的评论。
DeepSeek V3.2 现已登陆 Hugging Bay,这是一个开源 AI 工件注册平台,提供来源验证、许可证审核和可信托管服务。
DeepSeek发布了DSpark模块,通过半自回归草案模型结合马尔可夫头,同时解决了推测解码中草案质量低和验证浪费两大问题。在DeepSeek-V4上,它使每用户生成速度提升60-85%,且不降低模型质量。本文深入解析其工作原理、开源工具DeepSpec的使用方法及实验结果。
研究表明,具备推理能力的大语言模型容易因逻辑不一致的提示而陷入“过度思考”,导致输出长度激增,可能被利用发动拒绝服务攻击。浙江大学与阿里巴巴的研究人员开发了一种进化算法,能够生成恶意提示,使模型输出长度最高增加26倍,影响包括DeepSeek-R1、Qwen3-Thinking、GPT-o3和Gemini 2.5 Flash在内的主流推理模型。
中国开发的AI模型正逐渐缩小与领先美国竞争对手的性能差距,同时保持显著的价格优势,因此在美国公司中越来越受欢迎。最近DeepSeek和Z.ai等中国公司发布的模型被认为与Anthropic和OpenAI等前沿系统高度竞争。这些进步正值许多美国AI实验室最先进模型的token价格上涨,使企业面临与使用该技术相关的意外高成本。
DeepSeek V4 模型自2026年4月发布以来,在OpenRouter上的代币份额从年初的9%翻倍至18%,主要由代理型工作负载驱动。其成本效益比(每百万代币输入0.09美元,输出0.18美元)领先业界,吸引各类用户采用,并推动中国模型整体超越美国模型。
美国开发者和小型企业正在转向中国AI模型以降低成本。尽管性能仍落后于美国顶尖模型,但中国模型能以极低价格处理大多数任务。微软也在考虑使用DeepSeek等开源模型作为更低成本的替代方案。然而,中国公司面临将流行度转化为可观收入的挑战。
DeepSeek开源了DSpark,一种投机解码框架,通过附加草稿模块到现有DeepSeek-V4权重上。它结合并行草稿骨干和轻量级马尔可夫头以减少后缀衰减,并加入基于置信度的调度验证,根据实时GPU负载调整检查的令牌数量。离线测试中,接受长度比DFlash和Eagle3提升16-31%;生产环境下,每用户生成速度比MTP-1基线提升57-85%,且无损。训练代码库DeepSpec采用MIT许可证。
cwmail是一款基于Go语言和Bubbletea v2开发的终端邮件客户端,支持HTML邮件渲染、内嵌图片显示、多账户IMAP管理、IDLE推送通知以及由DeepSeek V4 Pro驱动的AI回复起草功能。它提供快速本地搜索、撤销删除、草稿自动保存、CLI发送模式等特性,且不依赖任何云服务,用户数据完全本地存储。
Inferize公司宣布成功在20秒内部署DeepSeek-V4-Pro模型,实现极快且高效的LLM服务,并邀请用户加入等待列表。
本文通过数据分析了前沿AI模型的发布节奏,发现Anthropic和OpenAI的发布频率在加速,而谷歌、Meta和DeepSeek并未出现类似趋势。作者探讨了递归自我改进的可能性,并指出了验证这一假设的下一步观察点。
本周三大看点:DeepSeek获腾讯领投74亿美元A轮融资,显示中国AI投资正转向非生态系统参与者;日本计划到2040年投入650亿美元公私合作建设物理AI基础设施;智谱AI的GLM 5.2模型在设计基准测试中超越Anthropic的Claude,直接挑战西方AI性能标准。
VibeThinker-3B是一个仅30亿参数的开源推理模型,在可验证基准测试中匹配DeepSeek V3.2和Kimi K2.5等千亿级模型。它采用频谱到信号后训练流水线,通过监督微调、强化学习和自蒸馏实现高效推理,并引入测试时缩放方法CLR进一步提升性能。
微软已成为中国市场上OpenAI模型的主要供应商,向字节跳动、蚂蚁集团、美团和腾讯等大型互联网公司销售GPT系列模型,尽管OpenAI和Anthropic出于知识产权和滥用风险拒绝直接进入中国市场。该业务为微软带来独特优势,使其成为唯一一家向中国销售美国AI模型的美国供应商。据彭博社报道,微软Azure在中国的AI收入增长迅猛,2025财年约增长三倍。微软通过其与OpenAI的独家合同提供这些模型,并采取监控措施防止模型蒸馏,但中国客户面临审查有限。同时,微软也在测试中国模型DeepSeek用于西方企业,形成双向贸易。
本文提出一种面向混合专家模型的结构化剪枝框架,通过将剪枝比率分配转化为通道分数覆盖最大化问题,并利用基于归因的近似方法高效求解。实验表明,在50%或25%结构化剪枝结合4位量化条件下,该方法在DeepSeek和Qwen MoE模型上保持了模型精度,并在Qwen3-30B-A3B上实现5.27倍内存压缩,超越现有基准。
cwcode是一个基于Go语言的终端编码代理,利用DeepSeek V4 Pro等模型,提供文件编辑、子代理、语义记忆和自动恢复等功能。它强调低成本(每小时约0.40美元)、高效缓存(85%以上命中率),并支持本地模型和多种API。
中国国家安全部警告使用西方AI模型存在安全风险,同时美国企业因成本优势纷纷采用中国开源模型。双方在AI领域相互牵制,用户绕道访问对方模型的现象加剧了技术博弈。
Pythagoras-Prover是一个计算高效的Lean定理证明器家族,包含4B和32B的自回归模型以及4B的扩散模型。它通过分层课程SFT和动态证明过滤提高训练效率,并引入增强型Lean形式化(ALF)扩展验证语料库。实验显示,4B模型在MiniF2F-Test上以86.1%的pass@32超越DeepSeek-Prover-V2-671B(82.4%),而32B模型达到93.0%的新开源最佳水平,并在PutnamBench上解决93个问题。
2026年6月,Deepseek成为Ramp平台上最受欢迎的付费软件供应商,美国企业直接向其发送数据。Ramp首席经济学家Ara Kharazian指出成本意识是驱动因素,但警告使用中国模型的安全风险。
DigitalOcean 宣布成为 OpenRouter 的模型提供商,提供 DeepSeek V3.2、Kimi K2.6 和 DeepSeek V4 Flash 模型。此举表明该公司正从云基础设施扩展到 AI 推理领域。
一篇新综述论文指出,自主AI智能体的真正瓶颈并非语言模型本身,而是围绕其构建的软件层。工具、记忆、测试和权限边界将无状态模型转变为可工作的智能体。Deepseek已在北京组建专门的“Harness”团队,其核心公式验证了该论点:模型加Harness等于AI智能体。
本周AI新闻要点:Anthropic公开了此前仅限国防承包商使用的顶级模型Mythos,使五角大楼级AI能力向开发者开放;DeepMind CEO哈萨比斯将AGI时间线提前至2029年;Starlette框架爆出严重认证绕过漏洞,影响数百万AI代理;CrowdStrike等联合摧毁Glassworm僵尸网络;法国巴黎银行与Mistral达成主权AI安全合作;中国限制阿里和深度求索顶尖AI工程师出境;Uber AI预算超支、ClickUp裁员并引入数千AI代理,同时MIT技术评论数据显示AI暴露岗位失业率更低,奥特曼撤回白领失业预言。
DeepSeek V4系列发布一个月后,开源社区推出Reasonix工具,专为DeepSeek设计,通过优化缓存机制将账单成本降低至原来的五分之一左右。该工具缓存命中率高达99.82%,实现4亿+token从61美元降至12美元。
Deepseek宣布其顶级模型V4-Pro的75%折扣永久生效。输入令牌每百万仅需0.435美元,至少比GPT-5.5便宜11.5倍,输出令牌便宜34倍以上。对于令牌消耗巨大的代理系统,这一价格可能对西方供应商造成巨大压力。
阿里通义千问团队发布Qwen3.7-Max,专为长时间自主代理任务设计。在基准测试中匹配Claude Opus 4.6,超越DeepSeek V4 Pro和Kimi K2.6等中国对手。团队还展示了该模型操控四足机器人。
DeepSeek宣布V4-Pro API永久降价,宁德时代、京东、网易等巨头正洽谈参投其首轮融资。梁文锋明确表示优先追求AGI,坚持开源路线。
Deepseek正筹集约100亿美元资金,估值约450亿美元。创始人梁文峰向投资者表示,将通用人工智能(AGI)研究置于短期盈利之上。
本文提出一种新的量化指标“扁平度”来衡量异常值分布,并据此推导出理论最优解。作者进一步提出双向对角量化(BDQ)框架,通过学习到的对角操作将异常值分散到矩阵维度中,显著提升了大语言模型低位宽量化的性能。实验表明,BDQ在LLaMA-3-8B上W4A4量化精度下降不足1%,在DeepSeek-R1-Distill-LLaMA-70B的W2A4KV16任务中性能差距缩小39.1%。
HELLoRA是一种针对混合专家(MoE)模型的高效微调方法,仅对每层最活跃的专家附加LoRA模块,从而减少可训练参数和适配器带来的计算量,同时提升下游任务性能。在OlMoE、Mixtral和DeepSeekMoE等模型上,HELLoRA在数学推理、代码生成和安全对齐任务中均优于现有方法,例如在OlMoE上仅使用15.7%的参数,减少38.7%的FLOPs,吞吐量提升1.9倍,准确率提高9.2%。
2025年AI研究从聊天机器人转向推理系统、自主代理和多模态系统。十大论文包括DeepSeek-R1(强化学习)、Gemini 2.5(多模态推理)、Qwen2.5(开源模型)、Large Concept Models(概念级语言建模)、ESG分析抗漂绿、VideoWorld(世界模型)、AI Scientist-v2(自主研究)、SWE-Lancer(编码代理基准)、OLMo 2(完全开源)和Mixture-of-Recursions(高效推理)。
研究人员提出了分组查询潜在注意力(GQLA),这是对DeepSeek多头潜在注意力(MLA)的改进,在不重新训练的情况下提供两种硬件自适应的解码路径。该方法能在H100和H20 GPU上实现高效推理,并包含TransGQLA用于转换预训练的GQA模型。
本月开放前沿实验室纷纷发布新模型,包括DeepSeek V4、Gemma 4、Kimi K2.6等。CAISI评估指出开放模型落后于美国前沿,且差距在扩大,但评估方法受到质疑,实际能力差距可能被高估。文章还介绍了多个亮点模型。
从Gemma 4到DeepSeek V4,本文探讨了新的开源LLM如何通过跨层KV共享、逐层嵌入、注意力预算、压缩卷积注意力和mHC等架构技术降低长上下文成本。
我们对DeepSeek V4 Pro和Flash进行了与Claude Opus 4.7和Kimi K2.6相同的FlowGraph基准测试。Pro得分77/100,价格$2.25;Flash得分60/100,价格$0.02。Pro在性能上介于Opus(91)和Kimi(68)之间,但存在构建和租赁处理问题。Flash成本极低,但输出缺少关键部分。
Violin是一个完全开源的AI视频翻译工具,结合语音识别、大型语言模型翻译和语音合成,使视频内容跨越语言障碍。它提供网络应用、命令行界面和代理技能,支持视频内容问答和个性化语音选择。使用Together API,利用Whisper、DeepSeek和Cartesia等模型,以MIT许可证发布。
腾讯宣布计划在2026年下半年大幅增加AI基础设施支出,原因是国内芯片制造商正在提升AI芯片产量。公司还公布了强劲的第一季度业绩,并正在谈判入股Deepseek。
该论文挑战了链式思维推理能减少偏见的普遍假设,通过实验表明在多选题中,推理轨迹越长,立场偏差(位置偏好)越严重。研究涵盖13种配置,发现12种显示轨迹长度与立场偏差分数正相关,截断实验证明因果关系,且671B参数的DeepSeek-R1虽整体偏差低,但长轨迹下仍存在偏差。此外,直接回答的立场偏差是独立现象。论文建议不应默认推理模型对选项顺序鲁棒,并提供了诊断工具包。
DeepSeek首轮融资目标最高500亿元,梁文锋个人出资200亿,估值飙升至3500亿元。同时,V4.1模型定档6月发布,公司从理想主义实验室转向商业化运营。
DeepSeek正在以450亿美元的估值进行首次外部融资,反映了中国对本土人工智能公司的大力支持。
Deepseek计划进行高达73.5亿美元的融资,创中国AI公司历史纪录,其V4.1版本将于6月发布。与此同时,由前OpenAI研究员Jerry Tworek仅六周前创立的Core Automation,估值目标已达40亿美元。
Redis创始人antirez为DeepSeek V4 Flash打造专用推理引擎ds4.c,在Mac上实现本地高性能运行,支持2-bit量化、KV缓存硬盘化及API兼容层,引发对模型专属推理框架的讨论。
ZAYA1-8B是一款基于MoE++架构的推理型混合专家模型,激活参数仅7亿,总参数80亿,在AMD全栈计算平台上训练。它在数学和编程基准测试中与DeepSeek-R1-0528相当甚至超越,并提出了Markovian RSA测试时计算方法,进一步提升推理性能。
DeepSeek-V4通过混合注意力设计(CSA、HCA、SWA)压缩KV缓存,将百万Token上下文从模型挑战转变为推理系统挑战。Together AI在NVIDIA HGX B200上的早期部署经验展示了缓存策略、前缀缓存和端点配置对长上下文工作负载性能的关键影响。
Zyphra AI发布了ZAYA1-8B,一款仅有7.6亿活跃参数的小型混合专家(MoE)语言模型,但在数学和编程基准测试中击败了多个体量更大的开源模型。该模型采用MoE++架构,包含压缩卷积注意力(CCA)、MLP路由器和PID控制器偏置平衡等创新,并引入了马尔可夫递归自聚合(Markovian RSA)测试时计算方法,在HMMT'25上超越Claude 4.5 Sonnet,逼近DeepSeek-V3.2。模型完全在AMD Instinct MI300硬件上训练,并以Apache 2.0许可发布。
随着AI进入Agent时代,Token需求爆发。无问芯穹作为国内中立AGI基础设施头部厂商,累计融资超22亿元,日均Token调用量较2025年底增长超20倍。该公司支撑Kimi、GLM、MiniMax、DeepSeek等主流国产模型,成为Token经济的关键枢纽。
据英国《金融时报》报道,Deepseek即将完成一轮融资,估值约450亿美元。中国国家集成电路产业投资基金(大基金)领投,腾讯也在洽谈入股。创始人梁文峰持有89.5%股份,可能个人投资。估值在数周内从200亿美元攀升。
qlaud推出包含qcode编程代理、Router API网关和Platform托管后端的全栈AI工具集。qcode在桌面本地运行,支持Claude、GPT、DeepSeek、Llama等前沿模型,保障代码隐私;Router提供统一的API接口,具备故障转移和延迟监控;Platform提供持久化线程、MCP连接器和向量搜索等能力。
亚马逊SageMaker AI现在包含一个AI代理,帮助开发者用自然语言描述用例,自动推荐训练方法、准备数据、启动训练并提供可编辑的Jupyter笔记本代码。支持Llama、Qwen、Deepseek和Nova等模型系列。
跟踪 AI 编程助手、代码生成、IDE 插件、开发者工作流和软件工程自动化。
跟踪 Model Context Protocol、工具调用、连接器、Agent 上下文和企业集成。
跟踪开源权重模型、开放许可、社区评测、模型蒸馏和本地部署。
跟踪推理价格、延迟、吞吐、缓存、量化、服务商成本和部署效率。
跟踪 Agent 框架、编排、记忆、评测、工作流自动化和生产部署。
跟踪中国 AI 公司、模型、政策、芯片生态、开源社区和商业化进展。
跟踪 GPU、数据中心、集群网络、AI 云、训练基础设施和供应链。
跟踪模型 API 价格、套餐、上下文窗口、免费额度、单位 token 成本和商业模式。
跟踪 Qwen/通义千问模型、开源权重、多模态、Agent 能力、API 和企业落地。