11月10日消息，微軟據(jù)媒體報(bào)道，披露微軟安全研究團(tuán)隊(duì)近日披露了一項(xiàng)名為“Whisper Leak”的側(cè)信高風(fēng)險(xiǎn)隱私漏洞，該漏洞針對(duì)現(xiàn)代AI聊天服務(wù)，道攻構(gòu)成一種新型側(cè)信道攻擊。窺探
與需破解加密內(nèi)容的天內(nèi)傳統(tǒng)攻擊不同，Whisper Leak通過(guò)分析加密網(wǎng)絡(luò)流量中的微軟元數(shù)據(jù)——包括數(shù)據(jù)包大小、時(shí)序與序列模式——來(lái)推測(cè)用戶的披露對(duì)話主題。其攻擊得以實(shí)現(xiàn)的側(cè)信關(guān)鍵在于，當(dāng)前AI服務(wù)普遍采用token-by-token的道攻流式傳輸方式以提升交互體驗(yàn)，而這一機(jī)制在網(wǎng)絡(luò)層面遺留下可辨識(shí)的窺探通信“指紋”。
研究人員通過(guò)訓(xùn)練機(jī)器學(xué)習(xí)模型驗(yàn)證了攻擊有效性。天內(nèi)他們收集了大量AI應(yīng)答過(guò)程中的微軟加密數(shù)據(jù)軌跡，發(fā)現(xiàn)不同主題的披露對(duì)話會(huì)形成系統(tǒng)性差異的元數(shù)據(jù)模式。例如，側(cè)信涉及“洗錢”等敏感話題的響應(yīng)數(shù)據(jù)，在包體大小與傳輸節(jié)奏上明顯區(qū)別于日常對(duì)話。在實(shí)驗(yàn)環(huán)境下，分類器識(shí)別特定敏感話題的準(zhǔn)確率超過(guò)98%，表明該技術(shù)在現(xiàn)實(shí)中有潛力用于高精度、大規(guī)模的主題監(jiān)控。
該漏洞暴露出AI聊天服務(wù)面臨的系統(tǒng)性威脅?；ヂ?lián)網(wǎng)服務(wù)提供商、公共Wi-Fi中的攻擊者等均可利用Whisper Leak觀察用戶流量，識(shí)別并標(biāo)記敏感對(duì)話。記者、社會(huì)活動(dòng)人士、尋求法律或醫(yī)療協(xié)助的用戶尤其面臨風(fēng)險(xiǎn)——即便對(duì)話內(nèi)容經(jīng)加密保護(hù)，其談?wù)撝黝}仍可能遭到泄露，進(jìn)而引發(fā)審查或人身威脅。
在微軟依據(jù)負(fù)責(zé)任披露原則向行業(yè)通報(bào)后，多家主流AI廠商已著手部署緩解方案。目前主要應(yīng)對(duì)策略包括三類：通過(guò)隨機(jī)填充或內(nèi)容混淆，弱化數(shù)據(jù)包長(zhǎng)度與語(yǔ)義間的關(guān)聯(lián)；采用 token 批處理發(fā)送，降低傳輸過(guò)程的時(shí)間精度；主動(dòng)插入虛擬流量，干擾元數(shù)據(jù)模式識(shí)別。
不過(guò)，這些防御手段也帶來(lái)響應(yīng)延遲增加與帶寬開(kāi)銷上升等代價(jià)，迫使服務(wù)商在隱私保護(hù)與用戶體驗(yàn)之間作出權(quán)衡。
對(duì)普通用戶而言，當(dāng)前可行的自保方式包括：在處理高度敏感內(nèi)容時(shí)關(guān)閉流式應(yīng)答功能，并避免在不可信網(wǎng)絡(luò)環(huán)境中進(jìn)行相關(guān)查詢。
