微軟披露"Whisper Leak"漏洞:AI聊天服務(wù)面臨新型隱私威脅快訊
Whisper Leak通過分析加密網(wǎng)絡(luò)流量中的元數(shù)據(jù)——包括數(shù)據(jù)包大小、時(shí)序與序列模式——來推測用戶的對話主題,微軟安全研究團(tuán)隊(duì)近日披露了一項(xiàng)名為"Whisper Leak"的高風(fēng)險(xiǎn)隱私漏洞,當(dāng)前AI服務(wù)普遍采用的token-by-token流式傳輸方式。
【TechWeb】據(jù)媒體報(bào)道,微軟安全研究團(tuán)隊(duì)近日披露了一項(xiàng)名為"Whisper Leak"的高風(fēng)險(xiǎn)隱私漏洞,該漏洞專門針對現(xiàn)代AI聊天服務(wù),構(gòu)成一種新型側(cè)信道攻擊,可能危及用戶隱私安全。
與傳統(tǒng)攻擊需破解加密內(nèi)容不同,Whisper Leak通過分析加密網(wǎng)絡(luò)流量中的元數(shù)據(jù)——包括數(shù)據(jù)包大小、時(shí)序與序列模式——來推測用戶的對話主題。研究人員指出,當(dāng)前AI服務(wù)普遍采用的token-by-token流式傳輸方式,雖提升了交互體驗(yàn),但在網(wǎng)絡(luò)層面留下了可辨識的通信"指紋",使攻擊成為可能。
為驗(yàn)證攻擊有效性,微軟團(tuán)隊(duì)訓(xùn)練了專門的機(jī)器學(xué)習(xí)模型,收集了大量AI應(yīng)答過程中的加密數(shù)據(jù)軌跡。實(shí)驗(yàn)結(jié)果顯示,不同主題的對話會形成系統(tǒng)性差異的元數(shù)據(jù)模式。例如,涉及"洗錢"等敏感話題的響應(yīng)數(shù)據(jù),在包體大小與傳輸節(jié)奏上明顯區(qū)別于日常對話。在實(shí)驗(yàn)環(huán)境中,分類器識別特定敏感話題的準(zhǔn)確率超過98%,表明該技術(shù)在現(xiàn)實(shí)中具備高精度、大規(guī)模主題監(jiān)控的潛力。
這一漏洞暴露出AI聊天服務(wù)面臨的系統(tǒng)性威脅。互聯(lián)網(wǎng)服務(wù)提供商、公共Wi-Fi中的攻擊者等均可利用Whisper Leak觀察用戶流量,識別并標(biāo)記敏感對話。記者、社會活動人士、尋求法律或醫(yī)療協(xié)助的用戶尤其面臨風(fēng)險(xiǎn)——即便對話內(nèi)容經(jīng)加密保護(hù),其談?wù)撝黝}仍可能遭到泄露,進(jìn)而引發(fā)審查或人身威脅。
在微軟依據(jù)負(fù)責(zé)任披露原則向行業(yè)通報(bào)后,多家主流AI廠商已著手部署緩解方案。目前主要應(yīng)對策略包括三類:通過隨機(jī)填充或內(nèi)容混淆,弱化數(shù)據(jù)包長度與語義間的關(guān)聯(lián);采用token批處理發(fā)送,降低傳輸過程的時(shí)間精度;以及主動插入虛擬流量,干擾元數(shù)據(jù)模式識別。
然而,這些防御手段也帶來響應(yīng)延遲增加與帶寬開銷上升等代價(jià),迫使服務(wù)商在隱私保護(hù)與用戶體驗(yàn)之間作出權(quán)衡。
對普通用戶而言,當(dāng)前可行的自保方式包括:在處理高度敏感內(nèi)容時(shí)關(guān)閉流式應(yīng)答功能,并避免在不可信網(wǎng)絡(luò)環(huán)境中進(jìn)行相關(guān)查詢。(Suky)
1.TMT觀察網(wǎng)遵循行業(yè)規(guī)范,任何轉(zhuǎn)載的稿件都會明確標(biāo)注作者和來源;
2.TMT觀察網(wǎng)的原創(chuàng)文章,請轉(zhuǎn)載時(shí)務(wù)必注明文章作者和"來源:TMT觀察網(wǎng)",不尊重原創(chuàng)的行為TMT觀察網(wǎng)或?qū)⒆肪控?zé)任;
3.作者投稿可能會經(jīng)TMT觀察網(wǎng)編輯修改或補(bǔ)充。
