聯邦學習城市應用實戰指南
導讀:本文將為大家分享聯邦學習在城市應用實戰的一些經驗。
主要內容包括:
聯邦學習與隱私計算是什麼
聯邦學習架構
聯邦學習在城市中的案例
現狀與未來
分享嘉賓|呂長彬 京東科技 軟體開發工程師
編輯整理|李曉 網易
出品社群|DataFun
01
聯邦學習與隱私計算是什麼
1. 隱私計算
可信計算環境:主要是硬體方面的技術。其效能、通用性和安全性都比較高,但缺點是開發部署困難,需要硬體廠商的支援。 多方安全計算:在無可信第三方情況下,透過多方安全完成某種協同計算,也就是參與者各完成計算的一部分,最後的結果是由部分參與者掌握或公開的共享,主要優點是安全性高,通用性高,但計算和通訊的開銷比較大。多方安全計算包含了秘密分享、不經意傳輸、混淆電路、零知識證明、同態加密等技術,各項技術的優缺點可以參考上圖中的表格。 聯邦學習:結合了密碼學和分散式計算,基於可信環境實現多方協作的機器學習,在人工智慧領域開闢了新的天地。聯邦學習是綜合運用多方安全計算、差分隱私、同態加密方法,用於 AI 模型訓練和預測。聯邦學習在效能、通用性和安全性上都是中等,可信方可以採用可信計算環境。
02
1. 聯邦學習的功能架構
應用場景:主要包括信用、金融、營銷、公安。 資料服務:是對上層應用的支撐,包括特徵庫、模型庫、畫像庫、標籤庫、指標庫。 跨域應用:包括跨域訓練、跨域推理、跨域分析、資料共享。 安全加密:涉及到全鏈路加密、硬體加密,以及安全多方計算。 聯邦演算法:支援聯邦 Boosting、聯邦森林、聯邦神經網路、聯邦隔離森林、聯邦極端森林、聯邦邏輯迴歸、聯邦線性迴歸、混合演算法。 特徵工程:主要是對相關演算法的支撐與抽取,包括 ID Mapping、聯邦資料清洗、聯邦資料取樣、聯邦特徵分箱、聯邦特徵轉換、聯邦特徵選擇、OneHot Encoder。 資料接入:底層資料包括本地、MySQL、API、Oracle、HDFS 等多種資料來源的支撐。 專案管理:包括建立成員角色等基礎管理。 模型生命週期管理:在模型整個訓練週期內,包括驗證報告、模型釋出、版本管理、推斷記錄、部署等功能。 訓練任務週期管理:包括狀態同步、狀態啟停、實時日誌、流量監控。
應用層:包含地塊打分、信用評級、受災應急、金融服務、安全交換服務等服務場景,有聯邦查詢、聯邦數字閘道器和聯邦知識融合提供支撐。 服務層:包含從應用模型,到推理,再到資料共享服務。 任務訓練層:包括多方協同、元件通訊、任務管理、資訊仲裁、監控和日誌。底層有排程系統來支撐。 演算法層:支援八大基礎聯邦演算法。 資料預處理層:包括資料來源的管理、後設資料、資料 ETL,到資料異構交換,最後輸入計算引擎進行儲存和計算。 資料來源:支援所有主流資料來源。 執行環境:適配雲主機、物理機、虛擬機器和容器雲平臺等環境。
普通模式:OAuth2,RSA+動態 AES 加強模式:金融級加密(ACES 內部自研)、支援國密演算法,任務級別隔離 HTTPS 協議進行網路安全通訊傳輸 IP 白名單校驗
資料計算過程加密混淆,即用即銷 資料儲存靜態加密,生命週期完成及時刪除
一鍵部署:安裝包混淆,目錄摘要與授權。 MD5 進行一致性比較,防止部署過程中篡改。
03
IEEE 聯邦學習標準專案,首批核心成員單位制定標準。 國內最早進行聯邦學習技術研究、產品化落地的企業之一。
底層通訊協議 聯邦學習演算法 11 項專利申請、3 篇國際論文 、1 項軟著、1 項安全資質
豐富的資料資源是聯邦學習最大的基石 打破傳統企業機構的資料邊界,利用聯邦學習達到資料知識共享 發現使用者需求並將聯邦學習產業應用落地 達成各行業聯手,共建全行業的聯邦學習生態
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/70024922/viewspace-2933156/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- 【深入淺出Seata原理及實戰】「入門基礎專題」探索Seata服務的AT模式下的分散式開發實戰指南(2)
- 【Redis實戰專題】「效能監控系列」全方位探索Redis的效能監控以及最佳化指南
- 天空衛士參與編寫的《資料安全治理實踐指南(2.0)》正式釋出
- 每日互動方毅:深挖資料要素價值,以“數智綠波”助力城市交通治理效能科學提升|愛分析訪談
- 軟通動力參編《工業網際網路園區指南(2.0版本)》正式釋出
- 2022版中國移動新型智慧城市白皮書(附下載)
- 天貓DTC企業經營指南:快速響應,產品致勝(附下載)
- 智慧城市展廳建設需要注意哪幾個方面
- 【Java應用服務體系】「序章入門」全方位盤點和總結調優技術專題指南
- 精華推薦 | 【JVM深層系列】「GC底層調優系列」一文帶你徹底加強夯實底層原理之GC垃圾回收技術的分析指南(GC原理透析)
- 【Redis技術專區】「最佳化案例」談談使用Redis慢查詢日誌以及Redis慢查詢分析指南
- Sam Altman的成功學|升維指南
- 數字化轉型推進現代化智慧城市治理