2026年7月6日,騰訊Hy團隊正式釋出Hy3模型,這是一款基於混合專家(Mixture-of-Experts, MoE)架構的大語言模型。Hy3擁有2950億總引數,其中活躍引數為210億,幷包含38億的MTP層引數。該模型以Apache 2.0開源許可釋出,允許廣泛的研究和商業使用。
騰訊表示,Hy3在效能上顯著超越了同等引數規模的模型,並且能夠與引數規模大2至5倍的旗艦級開源模型競爭。這一成果源於4月底Hy3 Preview釋出後,團隊收集了超過50個產品的反饋,並利用更高質量的資料進行了擴充套件式後訓練,從而大幅提升了模型的實用性和生產力。
Hy3已在Hugging Face平臺上線,完整模型大小為598GB,同時提供FP8量化版本,體積縮減至300GB,便於部署和推理。模型支援256K的上下文長度,能夠處理超長文本任務,如文件分析和長對話。此外,使用者可以在OpenRouter上免費使用Hy3,該免費服務將持續到2026年7月21日,之後可能轉為付費。
知名開發者Simon Willison在測試中要求模型“生成一隻鸕鷀騎腳踏車的SVG”,模型成功輸出了簡潔的向量圖形,展示了其影像生成能力。這一發布不僅豐富了騰訊在AI領域的產品線,也為開源社群提供了又一個強大且開放的模型選擇。Hy3的出現有望推動更多開發者探索MoE架構的應用,並在多種場景中降低推理成本。