零信任聚合實現(xiàn)隱私分析

我們推出了一種隱私分析解決方案，該方案結(jié)合了一種新型加密協(xié)議用于安全聚合，并利用可信執(zhí)行環(huán)境的透明性特性，實現(xiàn)了業(yè)界領(lǐng)先的隱私和安全保障。

通過在本地處理數(shù)據(jù)，設(shè)備端AI能夠提供增強的保護和及時預(yù)警，同時保持用戶信息的私密性。例如，Android使用名為SafetyCore的系統(tǒng)來提供保護隱私的設(shè)備端功能和通用基礎(chǔ)設(shè)施，以保護用戶免受不良內(nèi)容的侵害。在開發(fā)設(shè)備端技術(shù)時，團隊需要了解他們的系統(tǒng)在數(shù)百萬臺智能手機上的運行效果，每臺設(shè)備都有獨特的數(shù)據(jù)分布、不同的硬件限制和不同的用戶行為。為了以僅揭示集體趨勢而不泄露個人用戶數(shù)據(jù)的方式實現(xiàn)這一目標，團隊可以利用加密安全聚合作為關(guān)鍵構(gòu)建模塊。與所有加密協(xié)議一樣，安全聚合使用先進的數(shù)學(xué)工具來提供安全保證。

今天，我們?yōu)殡[私分析服務(wù)中的高效加密聚合設(shè)定了更高的標準。我們遵循零信任原則，旨在減少對任何單一實體的信任需求。我們通過結(jié)合加密和硬件保護機制的新安全設(shè)計來實現(xiàn)這一目標。我們的解決方案利用了一種新的加密聚合方法，可證明地保證Google只能獲得關(guān)于群體的匿名化聚合洞察。此外，可信執(zhí)行環(huán)境被用于提供嚴格的認證和透明性層。

設(shè)備端模型部署的挑戰(zhàn)

當(dāng)模型在設(shè)備端本地部署時，僅僅知道模型"正在運行"并不足以理解其行為、有效性或故障模式。這限制了回答關(guān)鍵問題的能力，比如模型在真實世界條件下的表現(xiàn)如何、哪些功能被使用最多、在什么情況下模型會失敗等。這就是隱私分析成為必要橋梁的地方，它能夠在不泄露個人用戶內(nèi)容的情況下，提供關(guān)于群體的匿名化聚合洞察。

Google團隊使用聯(lián)邦分析來獲取這種聚合的隱私洞察，應(yīng)用于Pixel錄音機、Gboard等產(chǎn)品。聯(lián)邦分析需要一個私密的聚合路徑，其中來自各個設(shè)備的數(shù)據(jù)在合并成總和之前受到保護。在這種情況下，已經(jīng)出現(xiàn)了兩種保護用戶數(shù)據(jù)的范式：基于硬件的隔離（可信執(zhí)行環(huán)境）和加密協(xié)議。

基于硬件的隔離

硬件方法以可信執(zhí)行環(huán)境為中心，例如Intel TDX、AMD SEV-SNP等。核心思想是創(chuàng)建一個"安全飛地"——本質(zhì)上是處理器和內(nèi)存的受保護部分，與設(shè)備的其余部分隔離。在這個飛地內(nèi)，數(shù)據(jù)可以以明文形式解密和處理，即使操作系統(tǒng)被攻陷或存在惡意虛擬機監(jiān)控程序也能受到保護。

通過稱為認證的過程，可信執(zhí)行環(huán)境可以計算在飛地內(nèi)運行的確切固件和軟件狀態(tài)的硬件支持的加密"指紋"。對于用戶或?qū)徲媶T來說，認證提供了可驗證的保證，即數(shù)據(jù)正在由他們期望的特定防篡改程序處理，而不是旨在泄露信息的修改版本。Google已經(jīng)在Pixel錄音機應(yīng)用中部署了基于可信執(zhí)行環(huán)境的差分隱私聚合，用于計算AI系統(tǒng)的洞察。

然而，可信執(zhí)行環(huán)境隔離機制在不斷演進。研究人員定期發(fā)現(xiàn)側(cè)信道漏洞，攻擊者可以利用這些漏洞使可信執(zhí)行環(huán)境保證失效，或使應(yīng)用程序級別的特定保證失效。雖然社區(qū)正在努力加固現(xiàn)有解決方案以抵御已知的側(cè)信道攻擊，但預(yù)計會發(fā)現(xiàn)新的側(cè)信道漏洞。因此，在理想的系統(tǒng)中，數(shù)據(jù)應(yīng)該受到多層安全保護，這樣即使可信執(zhí)行環(huán)境的安全模型失敗，數(shù)據(jù)也不會被泄露。

加密協(xié)議的局限性

另一方面，加密協(xié)議依賴于數(shù)學(xué)技術(shù)，這些技術(shù)帶有可證明的保證，即個人數(shù)據(jù)無法被重建，唯一可見的值是聚合的匿名化輸出。Google已經(jīng)大規(guī)模部署了兩代安全聚合協(xié)議。然而，其廣泛使用受到復(fù)雜性的限制，因為它要求用戶設(shè)備在長時間的多輪協(xié)議中保持在線。

單次提交的加密協(xié)議

我們的新解決方案引入了一種新穎的加密協(xié)議，允許用戶設(shè)備在單次一次性消息中安全提交其信息，克服了傳統(tǒng)交互式方案的障礙。通過啟用單次消息提交，我們消除了設(shè)備需要在線進行多輪與服務(wù)器交互的需求。

集成到Google的機密聯(lián)邦分析系統(tǒng)中，我們將這種更高效的協(xié)議與可信執(zhí)行環(huán)境內(nèi)的執(zhí)行相結(jié)合，創(chuàng)建了一個多層防御架構(gòu)。通過這個解決方案，機密性不再完全依賴于硬件保護。加密層確保個人原始數(shù)據(jù)永遠不會在任何服務(wù)器內(nèi)存中暴露或重建——即使在硬件保護的范圍內(nèi)也不會。唯一一次在設(shè)備外處理未加密數(shù)據(jù)是在最后階段，此時數(shù)據(jù)已經(jīng)被聚合和匿名化。此外，我們的解決方案利用可信執(zhí)行環(huán)境認證機制，為所有參與者提供高保證的可驗證證明，證明安全聚合協(xié)議正在按預(yù)期執(zhí)行，即通過編譯和運行正確的公開可用代碼。

技術(shù)實現(xiàn)原理

在核心層面，我們的加密解決方案由一種創(chuàng)新的基于格的協(xié)議驅(qū)動，該協(xié)議允許客戶端以一種方式加密其數(shù)據(jù)，使得生成的密文可以被聚合，同時聚合底層消息以及加密密鑰。現(xiàn)在，使服務(wù)器能夠獲得聚合值所需的唯一東西是一個只能解密聚合值的解密密鑰。為了幫助完成這項任務(wù)，我們在客戶端之間組成小型委員會，這些委員會持有提示，幫助解鎖用額外的差分隱私噪聲掩蓋的聚合值。客戶端根據(jù)其可用性不經(jīng)常地在委員會中服務(wù)，并促進這樣的特性：任何解密密鑰都在多個方之間共享，每個方都保護加密數(shù)據(jù)的機密性。

實際應(yīng)用案例

Android系統(tǒng)SafetyCore是一個面向Android 9+設(shè)備的Google系統(tǒng)服務(wù)，為Android安全功能提供保護隱私的設(shè)備端支持。在設(shè)備端安全領(lǐng)域，像SafetyCore這樣的工具發(fā)揮著關(guān)鍵作用。然而，為了讓這些工具不斷演進，開發(fā)人員需要了解它們在真實世界中的性能——具體來說，哪些威脅被捕獲，以及在哪些方面有機會進一步完善檢測能力，所有這些都不會損害用戶隱私。

為了彌合這一差距，我們與Android SafetyCore團隊合作，使用我們最先進的隱私分析解決方案來提高分類器的準確性，同時保護隱私。依賴聚合的保護隱私的匿名化洞察在這里至關(guān)重要；它允許工程師在全球多樣化設(shè)備群中測量安全模型的"真陽性"率，而無需看到觸發(fā)本地警報的私密敏感內(nèi)容。通過觀察這些高層次趨勢，開發(fā)人員可以優(yōu)化模型閾值并部署更新，更好地保護用戶，確保安全系統(tǒng)對新興威脅保持有效，同時保持原始數(shù)據(jù)的私密性并嚴格隔離在設(shè)備上。Android SafetyCore將利用我們的零信任隱私分析來評估指示其工具有效性的元數(shù)據(jù)，同時尊重其隱私承諾，即用戶內(nèi)容僅保留在設(shè)備上。我們很高興推出一項技術(shù)，幫助Android實現(xiàn)更廣泛的使命，即在保護用戶隱私的同時保護用戶安全。

未來展望

用于安全計算的加密技術(shù)帶來了基于數(shù)學(xué)證明的強大安全保證。我們展示了如何以與大規(guī)模分布式系統(tǒng)部署兼容的方式設(shè)計安全聚合協(xié)議。與現(xiàn)有安全機制集成的最終解決方案提高了隱私分析的安全標準。展望未來，我們正在探索在此模型中擴展支持的計算集的機會。

Q&A

Q1：什么是零信任聚合隱私分析解決方案？

A：這是一種結(jié)合了新型加密協(xié)議和可信執(zhí)行環(huán)境的隱私保護技術(shù)。它允許在不泄露個人用戶數(shù)據(jù)的情況下，從數(shù)百萬臺設(shè)備中獲取匿名化的聚合洞察。該方案采用多層防御架構(gòu)，即使硬件安全模型失效，數(shù)據(jù)也不會被泄露。

Q2：為什么傳統(tǒng)的安全聚合協(xié)議使用受限？

A：傳統(tǒng)加密協(xié)議要求用戶設(shè)備在長時間的多輪協(xié)議中保持在線狀態(tài)，這在實際應(yīng)用中很難實現(xiàn)。新方案通過單次消息提交克服了這一障礙，設(shè)備只需發(fā)送一次性消息即可完成數(shù)據(jù)提交，無需持續(xù)在線。

Q3：Android SafetyCore如何使用這項技術(shù)？

A：SafetyCore利用零信任隱私分析來評估其安全工具的有效性元數(shù)據(jù)，例如測量安全模型的真陽性率，幫助開發(fā)人員優(yōu)化威脅檢測能力。整個過程中用戶的敏感內(nèi)容始終保留在設(shè)備上，只有匿名化的聚合趨勢數(shù)據(jù)被分析。