騰訊 Hy4 正式開源,混元 LLM 系列實現全量開放
IT之家 11 月 20 日消息,騰訊混元團隊今日宣佈 Hy4 大模型正式開源,模型權重已在 GitHub、Hugging Face、ModelScope 和 GitCode 四個平臺同步上線,開發者可自行下載部署。至此,混元 LLM 系列已完成全部開源,覆蓋 Hy3 preview、Hy3、Hy4 preview、Hy4 及 Hy4 flash 等版本。Hy4 正式版最早於 11 月 4 日發佈,本次開源的是此前預告的模型權重。Hy4 採用 MoE 混合專家架構,總參數 770B,激活參數 49B,上下文窗口突破 100 萬 Token。IT之家此前報道,與旗艦版 Hy4 同步開放的還有主打性價比的 Hy4 flash。Hy4 flash 總參數約 2200 億,其中包含約 635 億 Engram 參數,每個 Token 僅激活約 120 億參數,同樣支持最高 100 萬 Token 的上下文窗口,並支持文本與圖像輸入。兩者形成從旗艦能力到低成本規模化落地的梯次搭配。開源協議方面,Hy4 及 Hy4 preview 採用 Apache 2.0 許可證,允許商業使用與修改。騰訊混元同步發佈了 Hy4 模型安全評估卡片(System Card),披露了網絡安全與生物安全等維度的評估結果。據官方說明,Hy4 訓練數據僅納入 PoC 生成、漏洞修復等防守性網絡安全內容,剔除了漏洞利用、逆向工程與滲透等攻擊性數據;騰訊玄武與科恩實驗室的審計未發現明顯的進攻性能力風險。參考資料[GitHub] https://github.com/Tencent-Hunyuan/Hy4[Hugging Face] https://huggingface.co/tencent/Hy4[ModelScope] https://modelscope.cn/models/Tencent-Hunyuan/Hy4[GitCode] https://ai.gitcode.com/tencent_hunyuan/Hy4[GGUF] https://huggingface.co/AngelSlim/Hy4-GGUF[開源協議] https://huggingface.co/tencent/Hy4/blob/main/LICENSE[模型安全評估卡片] https://hy.tencent.ai/Hy4_system_card.pdf