微軟披露"Whisper Leak"漏洞：AI聊天服務(wù)面臨新型隱私威脅快訊
Whisper Leak通過分析加密網(wǎng)絡(luò)流量中的元數(shù)據(jù)——包括數(shù)據(jù)包大小、時(shí)序與序列模式——來推測用戶的對話主題，微軟安全研究團(tuán)隊(duì)近日披露了一項(xiàng)名為"Whisper Leak"的高風(fēng)險(xiǎn)隱私漏洞，當(dāng)前AI服務(wù)普遍采用的token-by-token流式傳輸方式。
【TechWeb】據(jù)媒體報(bào)道，微軟安全研究團(tuán)隊(duì)近日披露了一項(xiàng)名為"Whisper Leak"的高風(fēng)險(xiǎn)隱私漏洞，該漏洞專門針對現(xiàn)代AI聊天服務(wù)，構(gòu)成一種新型側(cè)信道攻擊，可能危及用戶隱私安全。
與傳統(tǒng)攻擊需破解加密內(nèi)容不同，Whisper Leak通過分析加密網(wǎng)絡(luò)流量中的元數(shù)據(jù)——包括數(shù)據(jù)包大小、時(shí)序與序列模式——來推測用戶的對話主題。研究人員指出，當(dāng)前AI服務(wù)普遍采用的token-by-token流式傳輸方式，雖提升了交互體驗(yàn)，但在網(wǎng)絡(luò)層面留下了可辨識的通信"指紋"，使攻擊成為可能。
為驗(yàn)證攻擊有效性，微軟團(tuán)隊(duì)訓(xùn)練了專門的機(jī)器學(xué)習(xí)模型，收集了大量AI應(yīng)答過程中的加密數(shù)據(jù)軌跡。實(shí)驗(yàn)結(jié)果顯示，不同主題的對話會形成系統(tǒng)性差異的元數(shù)據(jù)模式。例如，涉及"洗錢"等敏感話題的響應(yīng)數(shù)據(jù)，在包體大小與傳輸節(jié)奏上明顯區(qū)別于日常對話。在實(shí)驗(yàn)環(huán)境中，分類器識別特定敏感話題的準(zhǔn)確率超過98%，表明該技術(shù)在現(xiàn)實(shí)中具備高精度、大規(guī)模主題監(jiān)控的潛力。
這一漏洞暴露出AI聊天服務(wù)面臨的系統(tǒng)性威脅。互聯(lián)網(wǎng)服務(wù)提供商、公共Wi-Fi中的攻擊者等均可利用Whisper Leak觀察用戶流量，識別并標(biāo)記敏感對話。記者、社會活動人士、尋求法律或醫(yī)療協(xié)助的用戶尤其面臨風(fēng)險(xiǎn)——即便對話內(nèi)容經(jīng)加密保護(hù)，其談?wù)撝黝}仍可能遭到泄露，進(jìn)而引發(fā)審查或人身威脅。
在微軟依據(jù)負(fù)責(zé)任披露原則向行業(yè)通報(bào)后，多家主流AI廠商已著手部署緩解方案。目前主要應(yīng)對策略包括三類：通過隨機(jī)填充或內(nèi)容混淆，弱化數(shù)據(jù)包長度與語義間的關(guān)聯(lián)；采用token批處理發(fā)送，降低傳輸過程的時(shí)間精度；以及主動插入虛擬流量，干擾元數(shù)據(jù)模式識別。
然而，這些防御手段也帶來響應(yīng)延遲增加與帶寬開銷上升等代價(jià)，迫使服務(wù)商在隱私保護(hù)與用戶體驗(yàn)之間作出權(quán)衡。
對普通用戶而言，當(dāng)前可行的自保方式包括：在處理高度敏感內(nèi)容時(shí)關(guān)閉流式應(yīng)答功能，并避免在不可信網(wǎng)絡(luò)環(huán)境中進(jìn)行相關(guān)查詢。（Suky）
1.TMT觀察網(wǎng)遵循行業(yè)規(guī)范，任何轉(zhuǎn)載的稿件都會明確標(biāo)注作者和來源；
2.TMT觀察網(wǎng)的原創(chuàng)文章，請轉(zhuǎn)載時(shí)務(wù)必注明文章作者和"來源：TMT觀察網(wǎng)"，不尊重原創(chuàng)的行為TMT觀察網(wǎng)或?qū)⒆肪控?zé)任；
3.作者投稿可能會經(jīng)TMT觀察網(wǎng)編輯修改或補(bǔ)充。
