印度公司因AI成本高昂轉向中國大語言模型
印度企業越來越多地使用DeepSeek、阿里巴巴和Moonshot AI等中國大語言模型來降低人工智能成本,這進一步加深了印度對中國尖端技術的依賴,儘管兩國之間長期存在衝突。
- 印度公司轉向中國LLM以削減AI成本
- DeepSeek、阿里巴巴和Moonshot AI是主要供應商
長尾標籤
追蹤 DeepSeek 模型、API、開源權重、推理效率、生態合作和全球影響。
印度企業越來越多地使用DeepSeek、阿里巴巴和Moonshot AI等中國大語言模型來降低人工智能成本,這進一步加深了印度對中國尖端技術的依賴,儘管兩國之間長期存在衝突。
本文介紹了Director,一種新的分佈式MoE推理系統,通過預測驅動的在線專家放置優化,顯著降低端到端延遲。系統採用輕量級級聯預測器或低比特量化副本預測專家激活模式,結合近乎零停機的在線遷移模塊,以及基於鬆弛優化的專家放置算法,在多項式時間內達到(1+ε)近似比。實驗表明,在Mistral、DeepSeek和Qwen等流行MoE模型上,相比現有工作延遲降低11%~55%。
作者從個人編碼和審計經驗出發,對2026年中的主流AI模型進行非正式分級,涵蓋Anthropic Fable、OpenAI Sol、Mistral、Gemini和DeepSeek等模型,並融入美國出口管制和歐洲視角的評論。
DeepSeek V3.2 現已登陸 Hugging Bay,這是一個開源 AI 工件註冊平台,提供來源驗證、許可證審核和可信託管服務。
DeepSeek發佈了DSpark模塊,通過半自迴歸草案模型結合馬爾可夫頭,同時解決了推測解碼中草案質量低和驗證浪費兩大問題。在DeepSeek-V4上,它使每用户生成速度提升60-85%,且不降低模型質量。本文深入解析其工作原理、開源工具DeepSpec的使用方法及實驗結果。
研究表明,具備推理能力的大語言模型容易因邏輯不一致的提示而陷入“過度思考”,導致輸出長度激增,可能被利用發動拒絕服務攻擊。浙江大學與阿里巴巴的研究人員開發了一種進化算法,能夠生成惡意提示,使模型輸出長度最高增加26倍,影響包括DeepSeek-R1、Qwen3-Thinking、GPT-o3和Gemini 2.5 Flash在內的主流推理模型。
中國開發的AI模型正逐漸縮小與領先美國競爭對手的性能差距,同時保持顯著的價格優勢,因此在美國公司中越來越受歡迎。最近DeepSeek和Z.ai等中國公司發佈的模型被認為與Anthropic和OpenAI等前沿系統高度競爭。這些進步正值許多美國AI實驗室最先進模型的token價格上漲,使企業面臨與使用該技術相關的意外高成本。
DeepSeek V4 模型自2026年4月發佈以來,在OpenRouter上的代幣份額從年初的9%翻倍至18%,主要由代理型工作負載驅動。其成本效益比(每百萬代幣輸入0.09美元,輸出0.18美元)領先業界,吸引各類用户採用,並推動中國模型整體超越美國模型。
美國開發者和小型企業正在轉向中國AI模型以降低成本。儘管性能仍落後於美國頂尖模型,但中國模型能以極低價格處理大多數任務。微軟也在考慮使用DeepSeek等開源模型作為更低成本的替代方案。然而,中國公司面臨將流行度轉化為可觀收入的挑戰。
DeepSeek開源了DSpark,一種投機解碼框架,通過附加草稿模塊到現有DeepSeek-V4權重上。它結合並行草稿骨幹和輕量級馬爾可夫頭以減少後綴衰減,並加入基於置信度的調度驗證,根據實時GPU負載調整檢查的令牌數量。離線測試中,接受長度比DFlash和Eagle3提升16-31%;生產環境下,每用户生成速度比MTP-1基線提升57-85%,且無損。訓練代碼庫DeepSpec採用MIT許可證。
cwmail是一款基於Go語言和Bubbletea v2開發的終端郵件客户端,支持HTML郵件渲染、內嵌圖片顯示、多賬户IMAP管理、IDLE推送通知以及由DeepSeek V4 Pro驅動的AI回覆起草功能。它提供快速本地搜索、撤銷刪除、草稿自動保存、CLI發送模式等特性,且不依賴任何雲服務,用户數據完全本地存儲。
Inferize公司宣佈成功在20秒內部署DeepSeek-V4-Pro模型,實現極快且高效的LLM服務,並邀請用户加入等待列表。
本文通過數據分析了前沿AI模型的發佈節奏,發現Anthropic和OpenAI的發佈頻率在加速,而谷歌、Meta和DeepSeek並未出現類似趨勢。作者探討了遞歸自我改進的可能性,並指出了驗證這一假設的下一步觀察點。
本週三大看點:DeepSeek獲騰訊領投74億美元A輪融資,顯示中國AI投資正轉向非生態系統參與者;日本計劃到2040年投入650億美元公私合作建設物理AI基礎設施;智譜AI的GLM 5.2模型在設計基準測試中超越Anthropic的Claude,直接挑戰西方AI性能標準。
VibeThinker-3B是一個僅30億參數的開源推理模型,在可驗證基準測試中匹配DeepSeek V3.2和Kimi K2.5等千億級模型。它採用頻譜到信號後訓練流水線,通過監督微調、強化學習和自蒸餾實現高效推理,並引入測試時縮放方法CLR進一步提升性能。
微軟已成為中國市場上OpenAI模型的主要供應商,向字節跳動、螞蟻集團、美團和騰訊等大型互聯網公司銷售GPT系列模型,儘管OpenAI和Anthropic出於知識產權和濫用風險拒絕直接進入中國市場。該業務為微軟帶來獨特優勢,使其成為唯一一家向中國銷售美國AI模型的美國供應商。據彭博社報道,微軟Azure在中國的AI收入增長迅猛,2025財年約增長三倍。微軟通過其與OpenAI的獨家合同提供這些模型,並採取監控措施防止模型蒸餾,但中國客户面臨審查有限。同時,微軟也在測試中國模型DeepSeek用於西方企業,形成雙向貿易。
本文提出一種面向混合專家模型的結構化剪枝框架,通過將剪枝比率分配轉化為通道分數覆蓋最大化問題,並利用基於歸因的近似方法高效求解。實驗表明,在50%或25%結構化剪枝結合4位量化條件下,該方法在DeepSeek和Qwen MoE模型上保持了模型精度,並在Qwen3-30B-A3B上實現5.27倍內存壓縮,超越現有基準。
cwcode是一個基於Go語言的終端編碼代理,利用DeepSeek V4 Pro等模型,提供文件編輯、子代理、語義記憶和自動恢復等功能。它強調低成本(每小時約0.40美元)、高效緩存(85%以上命中率),並支持本地模型和多種API。
中國國家安全部警告使用西方AI模型存在安全風險,同時美國企業因成本優勢紛紛採用中國開源模型。雙方在AI領域相互牽制,用户繞道訪問對方模型的現象加劇了技術博弈。
Pythagoras-Prover是一個計算高效的Lean定理證明器家族,包含4B和32B的自迴歸模型以及4B的擴散模型。它通過分層課程SFT和動態證明過濾提高訓練效率,並引入增強型Lean形式化(ALF)擴展驗證語料庫。實驗顯示,4B模型在MiniF2F-Test上以86.1%的pass@32超越DeepSeek-Prover-V2-671B(82.4%),而32B模型達到93.0%的新開源最佳水平,並在PutnamBench上解決93個問題。
2026年6月,Deepseek成為Ramp平台上最受歡迎的付費軟件供應商,美國企業直接向其發送數據。Ramp首席經濟學家Ara Kharazian指出成本意識是驅動因素,但警告使用中國模型的安全風險。
DigitalOcean 宣佈成為 OpenRouter 的模型提供商,提供 DeepSeek V3.2、Kimi K2.6 和 DeepSeek V4 Flash 模型。此舉表明該公司正從雲基礎設施擴展到 AI 推理領域。
一篇新綜述論文指出,自主AI智能體的真正瓶頸並非語言模型本身,而是圍繞其構建的軟件層。工具、記憶、測試和權限邊界將無狀態模型轉變為可工作的智能體。Deepseek已在北京組建專門的“Harness”團隊,其核心公式驗證了該論點:模型加Harness等於AI智能體。
本週AI新聞要點:Anthropic公開了此前僅限國防承包商使用的頂級模型Mythos,使五角大樓級AI能力向開發者開放;DeepMind CEO哈薩比斯將AGI時間線提前至2029年;Starlette框架爆出嚴重認證繞過漏洞,影響數百萬AI代理;CrowdStrike等聯合摧毀Glassworm殭屍網絡;法國巴黎銀行與Mistral達成主權AI安全合作;中國限制阿里和深度求索頂尖AI工程師出境;Uber AI預算超支、ClickUp裁員並引入數千AI代理,同時MIT技術評論數據顯示AI暴露崗位失業率更低,奧特曼撤回白領失業預言。
DeepSeek V4系列發佈一個月後,開源社區推出Reasonix工具,專為DeepSeek設計,通過優化緩存機制將賬單成本降低至原來的五分之一左右。該工具緩存命中率高達99.82%,實現4億+token從61美元降至12美元。
Deepseek宣佈其頂級模型V4-Pro的75%折扣永久生效。輸入令牌每百萬僅需0.435美元,至少比GPT-5.5便宜11.5倍,輸出令牌便宜34倍以上。對於令牌消耗巨大的代理系統,這一價格可能對西方供應商造成巨大壓力。
阿里通義千問團隊發佈Qwen3.7-Max,專為長時間自主代理任務設計。在基準測試中匹配Claude Opus 4.6,超越DeepSeek V4 Pro和Kimi K2.6等中國對手。團隊還展示了該模型操控四足機器人。
DeepSeek宣佈V4-Pro API永久降價,寧德時代、京東、網易等巨頭正洽談參投其首輪融資。梁文鋒明確表示優先追求AGI,堅持開源路線。
Deepseek正籌集約100億美元資金,估值約450億美元。創始人梁文峯向投資者表示,將通用人工智能(AGI)研究置於短期盈利之上。
本文提出一種新的量化指標“扁平度”來衡量異常值分佈,並據此推導出理論最優解。作者進一步提出雙向對角量化(BDQ)框架,通過學習到的對角操作將異常值分散到矩陣維度中,顯著提升了大語言模型低位寬量化的性能。實驗表明,BDQ在LLaMA-3-8B上W4A4量化精度下降不足1%,在DeepSeek-R1-Distill-LLaMA-70B的W2A4KV16任務中性能差距縮小39.1%。
HELLoRA是一種針對混合專家(MoE)模型的高效微調方法,僅對每層最活躍的專家附加LoRA模塊,從而減少可訓練參數和適配器帶來的計算量,同時提升下游任務性能。在OlMoE、Mixtral和DeepSeekMoE等模型上,HELLoRA在數學推理、代碼生成和安全對齊任務中均優於現有方法,例如在OlMoE上僅使用15.7%的參數,減少38.7%的FLOPs,吞吐量提升1.9倍,準確率提高9.2%。
2025年AI研究從聊天機器人轉向推理系統、自主代理和多模態系統。十大論文包括DeepSeek-R1(強化學習)、Gemini 2.5(多模態推理)、Qwen2.5(開源模型)、Large Concept Models(概念級語言建模)、ESG分析抗漂綠、VideoWorld(世界模型)、AI Scientist-v2(自主研究)、SWE-Lancer(編碼代理基準)、OLMo 2(完全開源)和Mixture-of-Recursions(高效推理)。
研究人員提出了分組查詢潛在注意力(GQLA),這是對DeepSeek多頭潛在注意力(MLA)的改進,在不重新訓練的情況下提供兩種硬件自適應的解碼路徑。該方法能在H100和H20 GPU上實現高效推理,幷包含TransGQLA用於轉換預訓練的GQA模型。
本月開放前沿實驗室紛紛發佈新模型,包括DeepSeek V4、Gemma 4、Kimi K2.6等。CAISI評估指出開放模型落後於美國前沿,且差距在擴大,但評估方法受到質疑,實際能力差距可能被高估。文章還介紹了多個亮點模型。
從Gemma 4到DeepSeek V4,本文探討了新的開源LLM如何通過跨層KV共享、逐層嵌入、注意力預算、壓縮卷積注意力和mHC等架構技術降低長上下文成本。
我們對DeepSeek V4 Pro和Flash進行了與Claude Opus 4.7和Kimi K2.6相同的FlowGraph基準測試。Pro得分77/100,價格$2.25;Flash得分60/100,價格$0.02。Pro在性能上介於Opus(91)和Kimi(68)之間,但存在構建和租賃處理問題。Flash成本極低,但輸出缺少關鍵部分。
Violin是一個完全開源的AI視頻翻譯工具,結合語音識別、大型語言模型翻譯和語音合成,使視頻內容跨越語言障礙。它提供網絡應用、命令行界面和代理技能,支持視頻內容問答和個性化語音選擇。使用Together API,利用Whisper、DeepSeek和Cartesia等模型,以MIT許可證發佈。
騰訊宣佈計劃在2026年下半年大幅增加AI基礎設施支出,原因是國內芯片製造商正在提升AI芯片產量。公司還公佈了強勁的第一季度業績,並正在談判入股Deepseek。
該論文挑戰了鏈式思維推理能減少偏見的普遍假設,通過實驗表明在多選題中,推理軌跡越長,立場偏差(位置偏好)越嚴重。研究涵蓋13種配置,發現12種顯示軌跡長度與立場偏差分數正相關,截斷實驗證明因果關係,且671B參數的DeepSeek-R1雖整體偏差低,但長軌跡下仍存在偏差。此外,直接回答的立場偏差是獨立現象。論文建議不應默認推理模型對選項順序魯棒,並提供了診斷工具包。
DeepSeek首輪融資目標最高500億元,梁文鋒個人出資200億,估值飆升至3500億元。同時,V4.1模型定檔6月發佈,公司從理想主義實驗室轉向商業化運營。
DeepSeek正在以450億美元的估值進行首次外部融資,反映了中國對本土人工智能公司的大力支持。
Deepseek計劃進行高達73.5億美元的融資,創中國AI公司歷史紀錄,其V4.1版本將於6月發佈。與此同時,由前OpenAI研究員Jerry Tworek僅六週前創立的Core Automation,估值目標已達40億美元。
Redis創始人antirez為DeepSeek V4 Flash打造專用推理引擎ds4.c,在Mac上實現本地高性能運行,支持2-bit量化、KV緩存硬盤化及API兼容層,引發對模型專屬推理框架的討論。
ZAYA1-8B是一款基於MoE++架構的推理型混合專家模型,激活參數僅7億,總參數80億,在AMD全棧計算平台上訓練。它在數學和編程基準測試中與DeepSeek-R1-0528相當甚至超越,並提出了Markovian RSA測試時計算方法,進一步提升推理性能。
DeepSeek-V4通過混合注意力設計(CSA、HCA、SWA)壓縮KV緩存,將百萬Token上下文從模型挑戰轉變為推理系統挑戰。Together AI在NVIDIA HGX B200上的早期部署經驗展示了緩存策略、前綴緩存和端點配置對長上下文工作負載性能的關鍵影響。
Zyphra AI發佈了ZAYA1-8B,一款僅有7.6億活躍參數的小型混合專家(MoE)語言模型,但在數學和編程基準測試中擊敗了多個體量更大的開源模型。該模型採用MoE++架構,包含壓縮卷積注意力(CCA)、MLP路由器和PID控制器偏置平衡等創新,並引入了馬爾可夫遞歸自聚合(Markovian RSA)測試時計算方法,在HMMT'25上超越Claude 4.5 Sonnet,逼近DeepSeek-V3.2。模型完全在AMD Instinct MI300硬件上訓練,並以Apache 2.0許可發佈。
隨着AI進入Agent時代,Token需求爆發。無問芯穹作為國內中立AGI基礎設施頭部廠商,累計融資超22億元,日均Token調用量較2025年底增長超20倍。該公司支撐Kimi、GLM、MiniMax、DeepSeek等主流國產模型,成為Token經濟的關鍵樞紐。
據英國《金融時報》報道,Deepseek即將完成一輪融資,估值約450億美元。中國國家集成電路產業投資基金(大基金)領投,騰訊也在洽談入股。創始人梁文峯持有89.5%股份,可能個人投資。估值在數週內從200億美元攀升。
qlaud推出包含qcode編程代理、Router API網關和Platform託管後端的全棧AI工具集。qcode在桌面本地運行,支持Claude、GPT、DeepSeek、Llama等前沿模型,保障代碼隱私;Router提供統一的API接口,具備故障轉移和延遲監控;Platform提供持久化線程、MCP連接器和向量搜索等能力。
亞馬遜SageMaker AI現在包含一個AI代理,幫助開發者用自然語言描述用例,自動推薦訓練方法、準備數據、啓動訓練並提供可編輯的Jupyter筆記本代碼。支持Llama、Qwen、Deepseek和Nova等模型系列。
追蹤 AI 編程助理、程式碼生成、IDE 插件、開發者工作流程和軟件工程自動化。
追蹤 Model Context Protocol、工具調用、連接器、Agent 上下文和企業整合。
追蹤開源權重模型、開放授權、社群評測、模型蒸餾和本地部署。
追蹤推理價格、延遲、吞吐、快取、量化、服務商成本和部署效率。
追蹤 Agent 框架、編排、記憶、評測、工作流程自動化和生產部署。
追蹤中國 AI 公司、模型、政策、芯片生態、開源社群和商業化進展。
追蹤 GPU、數據中心、集群網絡、AI 雲、訓練基礎設施和供應鏈。
追蹤模型 API 價格、方案、上下文窗口、免費額度、單位 token 成本和商業模式。
追蹤 Qwen/通義千問模型、開源權重、多模態、Agent 能力、API 和企業落地。