人工智慧破新局 恆昌以AI構建“可信安全”

近年來，隨著人工智慧相關技術的持續演進，人工智慧已融入人類生活的方方面面，產業化深度融合，商業化程式不斷加快，成為引領新一輪科技革命和產業變革的戰略性技術、重要驅動力量，但同時也對人工智慧賦能過程中產生的“可信安全”風險提出了挑戰。

　　對於具有高度資料化特點的金融行業而言，伴隨著高質量的大資料積累，得益於在深度學習演算法上的突破，“AI+金融”加速落地，催生了金融行業一系列產品和業務模式的創新。與此同時，不斷出臺的政策為人工智慧在金融領域的應用提供了良好的發展環境。人工智慧與金融業務的深度融合，已經成為推動金融機構數智化轉型的新引擎和防範化解金融風險的新利器。

　　但是，人工智慧在推動金融服務走向主動化、個性化、智慧化發展的同時，所帶來的風險與挑戰也已引發廣泛關注。首先，人工智慧存在洩漏敏感資料的可能。人工智慧的應用建立在大量資料分析的基礎之上，然而資料的流透過程涉及到多個方面，包括應用方、提供方和個人使用者，使用過程中會涉及同行間、跨行業、個人和機構以及機構內部的資料整合等各方，使得人工智慧存在洩漏敏感資料的可能，因而人工智慧可靠性難以得到足夠的信任。其次，人工智慧傳統技術正規化存在天然的演算法漏洞和缺陷，技術風險也在持續放大。如深度學習模型存在脆弱和易受攻擊的缺陷，黑箱模型因演算法不透明容易引發不確定性風險，此外演算法產生的結果過度依賴訓練資料，如果訓練資料中存在偏見歧視，就會導致不公平的智慧決策產生。

　　因此，中國資訊通訊研究院近日釋出的《人工智慧白皮書(2022 年)》中就指出，“可信安全”逐漸成為人工智慧賦能過程中不可或缺的保障。人工智慧的“可信安全”最早由學術界提出，近年來圍繞著安全性、穩定性、可解釋性、隱私保護、公平性等方面的可信人工智慧研究持續升溫。具體到金融行業，2021年3月26日，人民銀行釋出並實施《人工智慧演算法金融應用評價規範》，作為一部由人民銀行提出，全國金融標準化技術委員會歸口的檔案，其也規定了人工智慧演算法在金融領域應用的基本要求、評價方法和判定標準，適用於開展人工智慧演算法金融應用的金融機構、演算法提供商及第三方安全評估機構等。

　　人工智慧可信安全是人工智慧大規模應用的前提和必備條件。對於金融行業而言，風險控制是金融業最核心的能力和挑戰，可信安全尤為突出。一直以來，資料、演算法、算力是人工智慧的三駕馬車。對於金融行業而言，以資料安全支援智慧決策，用演算法安全賦能感官感知，資料安全、演算法安全顯得尤為重要。為此，作為金融科技企業之一，恆昌透過打造資料安全與演算法安全兩大核心能力，解決資料強依賴帶來的隱私洩漏等隱患，同時提升演算法可靠性。

　　在資料安全領域，經過多年的科技創新及實踐積累，恆昌已從不同維度建立了完善的資料安全防護體系。技術層面，恆昌嚴格採用符合業界標準的安全防護措施，以匿名化、密碼學、許可權控制、加密儲存、資料脫敏等業內通行的安全技術來防止客戶個人資訊洩露、損壞或丟失。制度層面，恆昌透過建立資料分類分級、資料安全策略、安全開發規範，制定和實施相應的管理制度等方式來保護客戶個人隱私，保障資訊保安。安全事件管控方面，恆昌組建了專門的應急響應團隊。一旦發生安全事件，會立即啟動安全預案，實施處置並報送資訊，最大程度進行止損、分析、定位、補救，聯合相關部門進行溯源和打擊。

　　在演算法安全領域，人工智慧系統面臨病毒攻擊、對抗攻擊等特有攻擊，這加大了安全性方面的挑戰。目前，人工智慧系統穩定性技術重點逐步從數字域擴充套件到物理域。以人臉識別演算法模型為例，刷臉支付與驗證常態下，人臉識別演算法被廣泛應用，但技術和演算法風險所帶來的諸如換臉，或以干擾圖案破解身份驗證等問題也隨之出現，給金融行業反欺詐帶來挑戰。為此，針對人工智慧在刷臉支付與驗證等的實際應用中，因演算法缺陷出現的突出風險問題，恆昌積極調整與落地安全解決方案。例如，針對模型安全性進行加固，針對人臉偽造問題，建立深度偽造內容檢測平臺，快速、精準對多種格式與質量的影像與影片進行真偽鑑別。

　　當下，金融機構數智化轉型正在如火如荼地進行，人工智慧作為數智化轉型的重要手段之一，因其可構建涵蓋智慧投顧、智慧營銷、智慧風控、智慧客服等全流程的智慧金融服務模式，正在成為加速金融數智化轉型、重塑金融業務的關鍵力量。然而“AI+金融”加速落地之下，金融服務更加便捷化、智慧化的同時，也為金融科技安全賦予了全新的內容，對金融科技安全提出了新的挑戰。

　　目前，發展“可信安全”人工智慧已經成為全球共識。作為金融科技企業之一，恆昌圍繞“隱私資料安全、演算法模型安全”兩大核心能力初步構建人工智慧“可信安全”能力。未來，恆昌將透過“安全可信”人工智慧技術的研究和突破，提升AI生產部署的“安全可信”支撐能力，增強多方資料生產要素的融合能力，為數字經濟社會提供更高效率、更低成本、更低門檻的高質量可持續服務。