Newsora
IT之家11/21 10:03 · 8m ago

近 200 萬條請求揭開 AI 隱私漏洞:“零數據保留”也會泄密

IT之家 11 月 21 日消息,科技媒體 Ars Technica 今天(11 月 21 日)發佈博文,報道稱安全公司 Dragos 首席研究官 HD Moore 向多家 AI 服務商發送近 200 萬條帶有可追蹤“誘餌”的請求,發現 AI 服務鏈存在黑客竊取提示詞、轉售商泄露數據及未遵守隱私設置等問題。研究人員故意把一批可追蹤的“測試祕密”(並非從真實用戶渠道收集)發給 AI,觀察之後有沒有其他程序或人拿它們去訪問系統,從而判斷數據是否流出、可能從哪條服務鏈流出。調查發現,至少三家服務商出現遭入侵跡象,攻擊者利用竊取的誘餌密鑰發起數萬次雲服務接口調用,嘗試尋找更多憑證、開通服務並維持訪問權限。部分密鑰在提交後數小時內便被使用,甚至有請求在模型運行前已遭拒絕,其中的密鑰仍被盜走。風險還來自層層轉手的服務鏈。許多 AI 應用通過中間商分配請求,內容可能經過多個平臺,並在各環節解密處理。研究還發現,部分轉售商記錄並外傳請求;一些標記“零數據保留”或“禁止數據收集”的請求,其私密網址仍在數日後遭到抓取。Moore 建議,敏感業務可考慮本地部署;無法自建的用戶應儘量直接選擇可信服務商,並明確指定上游提供方。IT之家附上參考地址Three breaches, endless leaks: Your AI supply chain needs canaries

Aggregator site: only the publisher's summary is shown here. Read the full story at the source.
Read full story →