2026年7月6日,騰訊Hy團隊正式發佈Hy3模型,這是一款基於混合專家(Mixture-of-Experts, MoE)架構的大語言模型。Hy3擁有2950億總參數,其中活躍參數為210億,幷包含38億的MTP層參數。該模型以Apache 2.0開源許可發佈,允許廣泛的研究和商業使用。
騰訊表示,Hy3在性能上顯著超越了同等參數規模的模型,並且能夠與參數規模大2至5倍的旗艦級開源模型競爭。這一成果源於4月底Hy3 Preview發佈後,團隊收集了超過50個產品的反饋,並利用更高質量的數據進行了擴展式後訓練,從而大幅提升了模型的實用性和生產力。
Hy3已在Hugging Face平台上線,完整模型大小為598GB,同時提供FP8量化版本,體積縮減至300GB,便於部署和推理。模型支持256K的上下文長度,能夠處理超長文本任務,如文檔分析和長對話。此外,用户可以在OpenRouter上免費使用Hy3,該免費服務將持續到2026年7月21日,之後可能轉為付費。
知名開發者Simon Willison在測試中要求模型“生成一隻鸕鷀騎自行車的SVG”,模型成功輸出了簡潔的矢量圖形,展示了其圖像生成能力。這一發布不僅豐富了騰訊在AI領域的產品線,也為開源社區提供了又一個強大且開放的模型選擇。Hy3的出現有望推動更多開發者探索MoE架構的應用,並在多種場景中降低推理成本。