PrimiHub一款由密碼學專家團隊打造的開源隱私計算平臺，專注於分享資料安全、密碼學、聯邦學習、同態加密等隱私計算領域的技術和內容。
目前，數字經濟正面臨著一個巨大的問題。一方面個人資料處理能力的指數級增長創造了一系列前所未有的可能性，人類可以透過人工智慧獲得非常有價值的資訊。另一方面這些人工智慧技術正在給我們帶來新的隱私威脅。
在此背景下，大多數關於隱私發展的會議都提出了新的隱私增強技術（PETs）如何在人工智慧和機器學習背景下去保護隱私資料。人工智慧成為2022-2023年IAPP隱私、安全風險會議的主題，也是2022年IAPP資料保護大會的主導話題。在資料保護機構年度會議上——全球隱私大會的分論文“隱私的未來論壇”舉辦了三場關於隱私增強技術的會外活動，一些業界知名人士也分享了他們的觀點。
新興的隱私增強技術也受到了各國政府和監管機構的重視，他們圍繞 PETs的制定了大量的政策，這也從側面印證了隱私增強技術領域的飛速發展。
本文我們將從技術定義、技術目的、隱私監管、技術分類、政策支援和未來趨勢六個方面來一覽全球隱私計算技術現狀。
隱私增強技術（隱私保護機器學習）嘗試將資料探勘、利用與隱私和道德相結合，涵蓋越來越多的新方法，包括聯邦學習、差異隱私、可信執行環境、多方計算、同態加密、零知識證明和合成資料。這些技術有著相同的目標：在協作訓練、使用機器學習模型時保護個人資訊的安全和隱私，同時保持資訊的可用性。
隱私增強技術不是一個新概念，其可以追溯到一份題為“隱私增強技術（PETs）：匿名之路”的報告，該報告由加拿大和荷蘭隱私當局於 1995 年首次釋出。該報告表示，“隱私增強指的是：透過最大限度地減少或消除可識別資料的收集來保護個人隱私的各種技術”。另一個早期定義源於經濟合作與發展組織 2002 年釋出的《隱私增強技術清單》，其中將隱私增強技術定義為“有助於保護個人隱私的廣泛技術”。
而目前的各大公司對隱私增強技術的定義強調了它們富有的獨特的資料協作機會。
目前，通常把隱私增強技術定位為解決“隱私與公用事業平衡”的重要方案。這表明隱私增強技術提供隱私資料的保護能力，同時可以從資料中分析出有價值的資訊。一般來說，想減輕披露風險就會對資料效用產生不利影響，損害資料集的分析完整性和有效性。
歐盟網路安全域性 2022 年關於資料保護工程的報告中包括 2001 年對隱私增強技術的定義，將隱私增強技術描述為“一個連貫的資訊通訊技術系統，透過消除或減少個人資料或防止不必要或不期望被收集的個人資料來保護隱私” 。
這些新興的隱私增強技術也包括多方計算（MPC），MPC 允許多方根據個人資料計算共同結果，而無需向彼此透露各自的資料輸入，其計算過程是基於加密協議，因此不會影響計算結果的準確性。
同樣，差異隱私使一種用於資料分析或查詢系統的獨特方法。其目標是儘可能多地瞭解資料集，同時保持任何結果的“合理的否認性”，這意味著答案無法確定地追溯到任何特定的受訪者。這是透過向資料集新增隨機噪聲來實現的，以保護個人隱私而不影響查詢結果。
而合成資料是由在真實資料集上訓練出的模型二次生成的，建立的出類比真實資料的模擬資料，從而取代原始資料，同時再現原始資料集的統計屬性和模式。
這些方法都非常有用，例如在衛生部門，根據美國健康保險流通和責任法案等隱私法規規定：共享資料必須要剝離特定識別符號的資料。去標識化旨在降低身份洩露風險，但也可能導致資訊丟失，使資料集不再用於研究目的。此外，去標識化的健康資料仍然可以定期重新識別。相比之下，新興的隱私增強技術可以改善披露和重新識別風險緩解，同時保持資料資訊價值的有效性。
由於隱私法規與技術無關，因此隱私法規中很少明確提及隱私增強技術的解決方案。
隱私設計框架最初由加拿大安大略省前隱私專員 Ann Cavoukian 於 2010 年以七項基本原則的形式建立，如今隱私保護設計已慢慢融入世界各地的隱私和資料保護法。
最突出的例子是歐盟《通用資料保護條例》第 25 條（英國 GDPR 也包含相同的措辭），其中規定資料控制者有義務“考慮現有技術水平、實施成本以及性質、範圍、 處理的背景和目的，以及處理對自然人的權利和自由造成的不同可能性和嚴重程度的風險。” 此外，第 25 條要求以有效的方式實施“旨在實施資料保護原則（例如資料最小化）的適當技術和組織措施（……）”，“在確定保護資料的方法時” 處理以及處理本身時。”
在美國，聯邦貿易委員會十多年前就非常重視隱私保護框架設計。在 2012 年的一份報告中，聯邦貿易委員會提出了基本原則：“公司應在整個組織內以及在產品和服務開發的每個階段促進消費者隱私。”
在世界各地的隱私法中也有類似的規定。巴西《通用資料保護法》第 46 條規定“代理人應採取能夠保護個人資料的安全、技術和管理措施。” 印度擬議的《2022 年數字個人資料保護法案》第 9.3 章規定“資料受託人應實施適當的技術和組織措施。”
法律法規沒有對隱私保護設計的實施進行詳細定義，因此適當措施的指導原則是目前實踐中被描述為“最先進”的原則。這句話的含義並不是一成不變的。相反，它依賴於技術進步和一定程度的主觀性。
ENISA 與德國 TeleTrust 最近將最先進的技術定義為“市場上可實現合法 IT 安全目標的 IT 安全措施的最佳效能”。當“現有科學知識和研究”達到市場成熟度或在市場上推出並儘可能引用國際標準時，通常會出現這種情況。
適當的技術和組織措施在不同時間、不同背景下可能意味著不同的事情。幾年前足夠好的東西可能不符合當今終端使用者和資料處理者的最佳利益。一個典型的例子是線上安全的演變。以前的行業標準（使用未加密的 HTTP 連線訪問網站）已不再適用。當前“最先進”的安全性需要帶有 TLS 證書的 HTTPS，這意味著在訪問網站時與網路伺服器的加密連線。
因此，資料控制者必須考慮現有技術的當前進展，並及時瞭解最新的技術進步，為其特定功能選擇侵入性最小的系統設計，同時保持遵守適當的隱私法規。這也是隱私專業人士調查新興隱私增強技術的主要原因之一。
一些組織和倡議已經接受了根據新興隱私增強技術的基礎技術、應用或功能對其進行分類的挑戰。示例包括：
- 英國皇家學會關於隱私增強技術在資料治理和協作分析中的作用的新報告
- 舊金山聯邦儲備銀行關於隱私增強技術的報告
- 英國資料倫理與創新中心基於用例的 PET 採用指南
- 聯合國4月份釋出的隱私增強技術使用指南
- 至於如何分類，英國資訊專員辦公室去年提出的草案針對隱私增強技術指出：
- 可以降低個人的可識別性並有助於實現資料最小化原則，例如差異隱私和合成資料生成。
- 專注於隱藏和遮蔽資料以實現更好的安全性，例如同態加密、零知識證明和可信執行環境。
- 可以分割或控制對個人資料的訪問，滿足資料最小化和更強的安全原則，例如聯邦學習和 MPC。
過去幾年隱私增強技術領域的快速發展在隱私工程和資料科學界引發了大量討論。由於隱私增強技術在保護或匿名化資料和資料最小化方面的增強能力，同時保持資料實用性，因此也越來越受到立法者和公共當局的關注。
在歐洲，ENISA 強調了幾種新興的隱私增強技術作為資料保護工程的新技術，並特別強調 MPC 和零知識證明作為先進的假名化技術。歐洲資料保護委員會也認可 MPC 作為國際個人資料傳輸的補充技術措施。歐盟委員會聯合研究中心發表了一份關於研究過程中合成資料有用性的分析報告。
2021年初，美國參議院出臺了《促進數字隱私技術法案》，計劃支援隱私技術的研究、部署和標準化。美國國土安全部也表示有興趣用技術術語定義隱私，並舉辦了一次研討會，重點展示新興隱私增強技術的案例。在加拿大，隱私專員辦公室最近也釋出了有關合成資料各個方面的需要考慮的因素。
2022 年 7 月，新加坡資訊通訊媒體發展局啟動了一項為期六個月的沙盒計劃，以支援有興趣採用新興隱私增強技術的企業。2022 年 5 月，韓國個人資訊保護委員會牽頭開發了 11 項核心隱私增強技術，並將在未來四年內繼續開發。
發展不僅僅是國內的。2022 年，聯合國發起了隱私增強技術驗室倡議，這是一項全球駭客馬拉松，旨在應對安全和負責任地使用隱私增強技術方面的挑戰。2021 年，美國和英國贊助了一項雙邊有獎挑戰賽，以促進隱私增強技術的採用。新加坡 IMDA 和蒙特利爾國際人工智慧促進中心於 2022 年 6 月簽署了一份關於隱私增強技術跨境合作的諒解備忘錄。韓國和法國資料保護當局很快也簽署了一項協議， 共同研究隱私增強技術。
隨著更多隱私增強技術的開發和實施，挑戰將變得越來越明顯。隱私增強技術處於起步階段，還需要更多的技術專家，尤其是政府在未來使用更加嚴格的資料管理方法。同樣，用例示例或現成的解決方案也很少，這使得隱私工程師很難確定隱私增強技術在日常操作中的適用性。
而且，隱私增強技術並不是保護個人資訊的“靈丹妙藥”解決方案。當然，隱私保護框架設計不能簡化為具體技術的實現。正如 ENISA 所說，隱私保護框架設計“是一個涉及各種技術和組織元件的過程，透過部署包括隱私增強技術的技術和組織措施來實施隱私原則。”
新興的隱私增強技術缺乏監管指南可能會使隱私增強技術處理的資料陷入不穩定狀態；結果是否可以被視為匿名、去識別化或假名化？當資料處理跨越多個司法管轄區時，這個問題可能會變得更加難以回答。理想情況下，監管機構和資料權威機構將繼續圍繞這些技術展開討論和標準化，以使它們更容易在全球範圍內採用和使用。
原文地址：Cheering emerging PETs: Global privacy tech support on the rise
原文作者：Brandon Lalonde Katharina Koerner
翻譯 & 整理：開放隱私計算 & PrimiHub