中國 AI 旗艦模型集體收緊網絡攻擊能力,加強 AI 技術出口管制
IT之家 11 月 17 日消息,彭博社今日報道稱,阿里、騰訊、月之暗面最新發布的新一代模型普遍限制了網絡進攻能力,同時強化了漏洞檢測與防禦功能。彭博社指出,阿里最新旗艦模型 Qwen4-Max 刻意過濾了訓練數據中可用於網絡攻擊的材料,保留了對漏洞檢測等防禦場景有用的能力。而且該版本暫未公開模型權重,用戶無法自行下載部署無審查版本。IT之家注意到,該系列模型此前深受開源社區青睞,阿里 Qwen 系列曾是全球下載量最高的開放權重模型家族之一。除阿里外,騰訊在 Hy4 正式版發佈之前已明確限制了模型的網絡安全功能,並將漏洞利用生成相關數據從訓練流程中剔除。月之暗面 10 月 23 日宣佈 Kimi K3.1 Pro 時,同樣從後訓練的兩個階段移除了網絡攻擊相關材料。據該公司披露,過濾後的模型在內部漏洞利用基準測試中得分爲 81.0%,低於未過濾版本的 90.5%。智譜則在 8 月開放 GLM-5.3 權重之前進行了安全審查,並向有關部門通報了系統漏洞。作爲背景,CrowdStrike 在 10 月底發佈的報告中披露,一個名爲 VAPOR PANDA 的組織使用 DeepSeek 模型配合 ARTEX 框架,在 11 天窗口內針對至少 14 個國家的 200 餘家機構發起入侵。騰訊首席 AI 科學家姚順雨 11 月 7 日在香港出席科學會議時表示,模型的網絡能力以及“很快到來的生物能力”將觸及可能造成實際危害的閾值。AI 安全公司 Fangcun AI 創始人李曉健對彭博社表示,從訓練中剔除攻擊性材料是在成本與效果之間的一種平衡,但“目前沒有方法能完全消除模型的風險”。政策方面,今年 10 月 16 日,商務部聯合科學技術部發布公告,就修訂《中國禁止出口限制出口技術目錄》公開徵求意見,擬將 AI 驅動的惡意代碼生成與變異技術等納入出口管制或限制範圍,涉及人工智能領域共 23 項技術。11 月初,國家發展改革委官員表示正在加快推出面向 AI 開發者的安全標準與倫理準則,並強調在開發過程中嵌入安全措施。相關閱讀:《歐盟網絡安全局警告:超市冰箱遭黑客攻擊後,家用電器可能是下一個目標》《360、阿里雲等首批 18 家網絡產品安全漏洞收集平臺簽署自律公約》