Newsora
IT之家11/21 17:57 · 25m ago

華中科技大學與阿里巴巴聯合成立 AI 前沿安全研究中心,課題覆蓋大模型安全攻防等

IT之家 11 月 21 日消息,華中科技大學與阿里巴巴集團於 11 月 18 日簽署合作協議,聚焦 AI 安全共建“智能攻防與前沿安全聯合研究中心”,首批啓動 9 個課題。IT之家獲悉,聯合研究中心首批啓動的 9 個課題,覆蓋大模型安全攻防、智能體與終端安全、智能化系統與軟件安全、數據協同與隱私保護四大方向,以下爲官方公開的案例:當 AI 智能體開始替用戶操作手機、完成複雜任務時,屏幕畫面可能被僞造,操作過程也可能受到惡意誘導。對此,聯合研究中心設立“圖像對抗樣本與終端威脅研判”課題,探索相關安全風險的識別與防護技術。當用戶在購物、地圖、外賣等應用之間切換時,既希望享受數據互通帶來的便捷,又擔心個人信息在協同過程中泄露。針對這一問題,“隱私保護關係圖譜”課題將探索通過密態計算等技術,實現數據“可用不可見、協同不透傳”,讓便利與隱私保護不再成爲單選題。

Aggregator site: only the publisher's summary is shown here. Read the full story at the source.
Read full story →