Google如何識別侵入式移動應用？

文/ Google 安全與隱私團隊 Martin Pelikan、Giles Hogben 和 Ulfar Erlingsson

移動應用為我們帶來娛樂和便利，方便我們與親友交流，並提供諸如地圖和電子錢包之類的各種工具。但這些應用也可能尋求超過執行任務所需的裝置資訊，例如個人資料和來自攝像頭與 GPS 追蹤器等元件的感測器資料。

為保護我們的使用者和幫助開發者應對這一複雜的環境，Google 對 Google Play 中每款應用的隱私和安全訊號進行了分析。然後，我們將此應用與具有類似功能的其他應用（即 功能對等應用）進行對比。通過建立對等組，我們可以校準我們對使用者期望的預測，為可能被認為不安全或侵入性的行為設定充分的邊界。

這一過程有助於檢測在並非明顯必要的情況下收集或傳送敏感資料的應用，也讓使用者更加容易發現既提供適當功能又尊重其隱私的應用。例如，大多數塗色書應用的執行並不需要知道使用者的準確位置，通過分析其他塗色書應用即可清楚這一點。而地圖和導航應用則需要知道使用者的位置，而且經常需要訪問 GPS 感測器。

建立應用對等組的方法之一是建立一組固定類別，然後將每個應用分配至一個或多個類別中，例如工具、生產力和遊戲。然而，固定的類別過於寬泛和死板，無法體現和跟蹤日新月異的移動應用集的許多特性。人工管理和維護這些類別，既單調乏味，又容易出錯。

為解決這一問題，Google 開發出一種機器學習演算法，將具有類似功能的移動應用匯聚在一起。我們的方法是通過向量嵌入的深度學習，並使用文字描述等應用後設資料以及安裝量等使用者指標來識別具有類似功能的對等應用組。然後，利用這些對等組，根據每個應用請求的許可權及觀測到的應用行為，識別與隱私及安全有關的異常、潛在有害訊號。不同對等組與其安全訊號之間的相關性可幫助各個 Google 團隊決定哪些應用應加以推廣，以及確定哪些應用值得我們的隱私安全專家進行更嚴格的審查。我們還根據審查結果幫助應用開發者加強其應用的隱私性和安全性。

▲ 將應用劃分到功能類似的應用組中，在由類似應用組成的每個應用組中，通過既定的基準尋找異常的隱私和安全訊號。

這些技巧源自之前的一些想法，例如使用對等組分析隱私相關訊號，通過語言模型深度學習完善這些對等組，以及通過自動化資料分析推導結論。

Google 的多個團隊密切合作，開發出此演算法和相關流程。在此感謝以下團隊骨幹成員：Andrew Ahn、Vikas Arora、Hongji Bao、Jun Hong、Nwokedi Idika、Iulia Ion、Suman Jana、Daehwan Kim、Kenny Lim、Jiahui Liu、Sai Teja Peddinti、Sebastian Porst、Gowdy Rajappan、Aaron Rothman、Monir Sharif、Sooel Son、Michael Vrable 和 Qiang Yan。

如需詳細瞭解 Google 在檢測和防範 Android 潛在有害應用 (PHA) 方面所做的努力，請參閱 Google Android 安全團隊對潛在有害應用的分類：

https://source.android.com/security/reports/Google_Android_Security_PHA_classifications.pdf

檢視全文及文中連結，請點選文末“閱讀原文”。