商湯發佈 SenseNova Loop-9B 模型:部署顯存需求低至 10 GB 內
IT之家 11 月 17 日消息,商湯科技今天(17 日)晚間正式發佈 SenseNova Loop-9B 模型。該模型延續了 Preview 版本對參數效率的探索:通過 Loop 結構複用模型層的參數,並結合流形約束超連接(mHC),在約 9B 參數規模下擴展計算深度,面向複雜推理、代碼、工具調用和多模態任務。模型得益於 Loop 的高效循環結構,官方 4bit 量化後權重僅約 4.9GB,部署顯存需求低至 10 GB 內,能顯著拓寬可部署的硬件範圍,讓低顯存芯片獲得前沿 27B 級別模型性能成爲可能。SenseNova Loop-9B 總參數量約爲 9B。模型通過兩次執行共享的中間層,將 32 個物理解碼層擴展爲 56 次層計算;支持文本、圖像輸入和文本輸出,上下文長度最高可達 512K tokens。官方表示,在 Agent 與數據分析評測中,模型展現出與 Qwen3.8-27B 相當的競爭力:NL2Repo 得分爲 41.36,接近後者的 44.60;AIDABench 得分爲 65.31,高於後者的 65.01。共享循環模塊:將第 4–27 層組成共享權重的循環模塊,並執行兩次,使模型在一次前向傳播中完成 56 次解碼器層計算。雙流 mHC:通過可學習映射,對循環模塊中的兩條殘差流進行信息路由與融合。混合注意力:解碼器以四層爲一組,採用三層線性注意力與一層全注意力相結合的配置。長上下文多模態:訓練方案覆蓋文本、圖像、代碼和工具調用軌跡,上下文長度最高擴展至 512K tokens。低資源私有化部署友好:採用 4bit 權重量化與 8bit KV 緩存時,256K 長上下文推理的顯存需求約爲 15 GiB,有助於降低本地與私有化部署門檻。官方量化版 Day 0 提供:模型發佈首日同步提供官方 AWQ 4bit 量化版本,方便用戶快速部署。SenseNova Loop-9B 已開放模型權重與相關代碼,供開發者和研究者下載、部署與探索。圍繞通用 Agent、代碼和數據分析等任務,評測結果顯示,SenseNova Loop-9B 正式版在多個榜單上的表現較 Preview 版本有明顯提升;並在約 9B 參數規模下,展現出與 Qwen3.8-27B 比肩的性能表現。IT之家附 Hugging Face 倉庫:https://huggingface.co/collections/sensenova/sensenova-loop