隨著人工智慧的不斷髮展，安全及合規問題變得越來越重要。當前機器學習比較大的一個侷限性在於其學習模型都是基於關聯框架，這種框架存在樣本選擇偏差的問題，且其穩定性也較差。而因果推理模型的出現，給機器學習開啟了一個新的思路。美團技術團隊特別邀請到清華大學計算機學院長聘副教授崔鵬老師，請他為美團技術團隊的同學分享了因果推斷技術最新的發展趨勢，以及現階段取得的一些成果。
| 分享嘉賓：崔鵬，清華大學計算機系長聘副教授，博士生導師
| 研究興趣聚焦於大資料驅動的因果推理和穩定預測、大規模網路表徵學習等。在資料探勘及人工智慧領域頂級國際會議發表論文100餘篇，先後5次獲得頂級國際會議或期刊論文獎，並先後兩次入選資料探勘領域頂級國際會議KDD最佳論文專刊。擔任IEEE TKDE、ACM TOMM、ACM TIST、IEEE TBD等國際頂級期刊編委。曾獲得國家自然科學二等獎、教育部自然科學一等獎、電子學會自然科學一等獎、北京市科技進步一等獎、中國計算機學會青年科學家獎、國際計算機協會（ACM）傑出科學家。
背景
預計未來十到二十年內，人工智慧會在很多風險敏感性的領域得到更加廣泛的應用，包括醫療、司法、生產、金融科技等等。之前，人工智慧大部分是應用在網際網路之上，而網際網路是一個風險不敏感的領域，不過隨著這兩年各種法律法規的出臺，讓各大網際網路平臺處在了「風口浪尖」，越來越多的人開始看到網際網路中各種潛在的風險，並且還面臨著被巨集觀政策調控的風險。因此，從這個層面上來講，人工智慧技術所帶來的風險亟待被關注。
對人工智慧風險的防控，可謂「只知其然，不知其所以然」。大家知道怎樣去做預測，但很難去回答「Why」，比如為什麼要做這樣的決策？什麼時候可以相信系統的判斷？很多問題的模型我們都無法給出一個相對準確的答案。這樣的話，就會帶來一系列的問題。首先是不可解釋性，這也導致了「人機協同」模式很難在現實世界中落地，比如人工智慧技術很難應用於醫療行業，因為醫生不知道系統判斷的依據是什麼，所以目前人工智慧技術在落地時有很大的侷限性。第二，當前主流的人工智慧方法基於獨立同分布的假設，這要求模型的訓練集資料和測試集資料來自同一分佈，而在實際應用中，很難保證模型會被應用於什麼樣的資料中，因為模型最終的效能取決於訓練集和測試集分佈的擬合度有多高。第三，人工智慧技術在應用於社會性問題時會引入公平性風險，比如在美國，收入、教育等背景完全一致的兩個人，系統判斷黑人的犯罪率可能是白人的十倍。最後是不可回溯性，無法通過調整輸入來獲取想要的輸出，因為推理和預測的過程是不可回溯的。
而出現以上問題的主要根源在於：當前人工智慧是基於關聯的框架。在基於關聯的框架下，可以得出收入-犯罪率和膚色-犯罪率都是強關聯關係。而在基於因果的框架下，當我們需要判斷某個變數T對輸出Y是否有因果效果時，不是直接度量T和Y的關聯關係，而是在控制住X的情況下去看T和Y之間的關聯關係。比如，在兩組對照組中X（收入水平）是分佈是一樣的（要麼都有錢，要麼都沒錢），然後再通過調整T（膚色）去觀察兩組的Y（犯罪率）是否會有顯著的差異，然後我們會發現黑人和白人的犯罪率並沒有顯著性的差異。那麼，為什麼在基於關聯的框架中會得出膚色與犯罪率是強關聯關係呢？這是因為大部分黑人的收入都比較低，從而導致整體的犯罪率偏高，但這並不是由膚色導致的。
究其根本，問題並不是出在關聯模型上，而是出在如何使用機器學習的方式上。總的來說，產生關聯一共有三種方式，第一種是因果機制，因果關係是穩定、可解釋且可回溯的。第二種是混淆效應，如果X同時導致了T和Y，T和Y之間就會產生虛假關聯。第三種是樣本選擇偏差。比如在狗和草地的案例中，當更換了沙灘環境之後，模型無法識別出狗，這是由於我們選擇了大量草地環境下的狗作為樣本，所以模型會認為狗和草地之間存在關聯關係，這也是一種虛假關聯。
在以上三種方式中，除了因果關係產生的關聯關係是靠譜的，其他兩種方式產生的關聯都不太靠譜。但目前的機器學習領域並沒有區分這三種產生關聯的方式，其中存在著很多的虛假關聯，這就導致了模型的可解釋性、穩定性、公平性、可回溯性都存在一定的問題。如果想要從根本上突破當前機器學習的侷限性，就需要用一種更嚴格的統計邏輯，比如使用因果統計去替代原來的關聯統計。
把因果推理應用到機器學習層面面臨著很多挑戰，因為因果推理原本研究的範圍主要是在統計領域（包括哲學領域），這些領域所面向的環境都是小資料的控制環境，整個資料的產生過程是可控的。比如一個檢測疫苗是否有效的行為學實驗，我們可以控制哪些人打疫苗，哪些人不打疫苗。但是在機器學習中，資料的產生過程是不可控的。在一個大資料的觀測研究中，我們需要考慮大資料的高維、高噪聲、弱先驗性等因素，資料的產生過程是不可知的，這些對傳統的因果推理框架都帶來了非常大的挑戰。另外，因果推理和機器學習的目標也存在很大的區別：因果推理需要去理解資料的產生機制，而機器學習（包括在網際網路領域的很多的應用）主要是去預知未來到底會發生什麼樣的變化。
那麼，怎樣去彌合因果推理和機器學習之間的鴻溝呢？我們提出了一個因果啟發的學習推理和決策評估的一套方法體系。第一個要解決問題的是如何在大規模資料中識別出其中的因果結構。第二個要解決的問題是在有了因果結構後怎樣去和機器學習做融合，現在的因果啟發的穩定學習模型、公平無偏見的學習模型都是以此為目標。第三個要解決的問題是從預測問題進一步到設計決策機制，怎樣利用這些因果結構去幫助我們做決策上的優化，也就是反事實推理和決策優化機制。
因果推理的兩個基本正規化
結構因果模型
因果推理有兩個基本正規化。第一種正規化是結構因果模型（Structure Causal Model），這個框架的核心是怎樣在一個已知的因果圖中去做推理。比如怎樣去識別其中的任意一個變數，這個變數對另一個變數的影響程度是多少。目前已有較為成熟的判斷準則如後門準則（Back Door）、前門準則（Front Door）等去除其中的混淆，通過Do-Calculus方式進行因果估計（Causal Estimation）。目前這種方法面對的核心問題是我們無法在做觀測研究時定義因果圖，雖然在一些領域（比如考古）可以通過專家知識來定義因果圖，但這就又走到了“專家系統”的老路上。總的來說，核心問題還是怎樣去發現因果結構。
這裡有一個衍生技術是因果發現（Causal Discovery），可以基於條件獨立性檢測和現有的資料去定義因果圖，使用現有的變數去頻繁地做條件獨立性等一系列的獨立性判斷來定義因果圖，這是一個NP問題，可能會出現組合爆炸的問題。這是結構因果模型應用於大規模資料時所面臨的一個瓶頸，最近也有一些研究比如使用可微分因果發現去解決這個問題。
潛在結果框架
第二種正規化是潛在結果框架（Potential Outcome Framework），這個框架的核心是不需要知道所有變數的因果結構，而只需要知道其中一個變數對於輸出是否有因果影響，對於其他變數之間的影響不在意，但我們需要知道這個變數和輸出之間有哪些干擾因素（Confounders），並假設其中所有的干擾因素都已經被觀測到。
以上就是一些背景知識和理論方面的介紹。接下來，主要講一下我們最近的一些思考和嘗試，以及如何把這兩個正規化結合到具體的問題中去。
可微分因果發現以及在推薦系統中的應用
因果發現和問題定義
因果發現的定義是對於給定的一組樣本，其中每個樣本都由一些變數去表徵，我們希望通過一些可觀測資料去找到這些變數之間的因果結構。找到的因果圖，可以認為是一個圖模型，從生成式模型的角度來講，我們希望找到一個因果圖使得它能夠按照其中的因果結構去生成這樣的一組樣本，這組樣本的似然性是最高的。
這裡引入一個叫做Functional Causal Model(FCMs)的概念，所謂的FCM就是，對於某一類變數X，由於因果圖是一個有向無環圖（DAG），這個變數一定有它的父節點，那它的值一定是由它所有的父節點通過一個函式的作用再加上噪聲來生成的。比如線上性框架下，這個問題就變成：怎樣找到一組W，使得X的重構是最優的。
有向無環圖的優化一直是一個開放性問題，2018年的一篇論文[1]提出來了一個優化方法：可以在全空間的有向無環圖內去做梯度優化，通過增加DAG限制和稀疏限制（l1或l2正則），使得最終X的重構誤差最小。
我們在具體實施這個框架時發現了一些問題，這個框架的基本假設是所有變數的噪聲必須是高斯分佈，且噪聲的規模應該差不多，如果不滿足這個假設就會出現一些問題，比方說擁有最小重構誤差的結構可能並不是真實值（Ground Truth），這是可微分因果發現方法的一個侷限性。我們可以通過施加一個獨立性限制去解決這個問題，把獨立性判斷準則轉化為可優化的形式去進行優化。具體的實現細節在這裡不再贅述，感興趣的同學可以閱讀論文[2]。
可微分因果發現在推薦系統中的應用
整個推薦系統存在I.I.D（Independent and Identically Distributed, 獨立同分布）的假設，也就是說使用者和物品的訓練集、測試集需要來自同一個分佈，但實際上推薦系統中存在各種各樣的OOD（Out Of Distribution，分佈外）問題。第一種是自然偏移（Natural Shift），比如基於北京、上海的資料訓練得到的模型，在面向重慶的使用者時就不一定有效。第二種是由推薦系統機制引起的非自然偏移（Artificial Shift）。
我們希望能提出一種比較通用的方式，去抵抗推薦系統中存在的各種OOD問題或者偏差問題的推薦演算法。針對這個問題，我們也做了一些研究工作[3]。在OOD推薦系統中存在一個不變性假設——一個人看到了一個商品後是否購買是不會隨著環境變化而改變的。因此只要保證使用者對物品的偏好不變，就可以使得這樣的不變性假設成立，從而給出比較合理的推薦結果，這是解決OOD問題的核心。
如何保證使用者偏好是不變的？有一個基本共識是，不變性和因果關係是存在某種等價性的轉化關係的。如果可以保證一個結構在各種各樣的環境下都具有同等的預測效應，那麼這個結構一定是一個因果結構，而且一個因果結構在各種環境下的效能都是相對穩定的。因此，找到不變的使用者偏好，就轉化為一個因果偏好學習的問題。在推薦系統中有一個特殊的結構叫做二部圖，我們需要基於這樣的特殊結構去設計因果發現的方法。在這個最終學到的模型中，只需要輸入使用者的表徵，就可以知道這個使用者會喜歡什麼樣的物品。
很顯然，這種方法對於提升推薦系統的可解釋性、透明性以及穩定性都會一定的好處，我們也和很多的方法進行了對比，可以看到，它都有比較明顯的效能提升。
關於OOD泛化和穩定學習的一些思考
OOD問題是機器學習中一個非常基本的問題，之前做的基本上都是基於I.I.D.的假設，雖然遷移學習做了自適應，但因為遷移學習假設測試集是已知的，所以它的主體還是I.I.D.的理論框架。我們從2018年開始在OOD這個方向做了一些研究，首先，OOD的定義是訓練集和測試集不是來自同一個分佈，如果訓練集和測試集來自同一個分佈那麼就是I.I.D.。OOD又可分為兩種情況，如果測試集的分佈是已知或部分已知的，就是OOD Adaptation，也就是遷移學習/領域自適應。如果測試集的分佈未知，才是真正的OOD泛化問題。
這裡的「泛化」和機器學習中的「泛化」概念有所不同。機器學習中的「泛化」更多的是在談內插問題，訓練資料內部的插值問題都是「內插」問題，如果要對超出了插值域的X進行預測就是「外插」問題。「外插」是一件比較危險的事情，在什麼情況下可以做「外插」呢？如果能夠找到其中的不變性（invariance），就可以做「外插」這件事情。
以前在做機器學習的時候，都是在做I.I.D.也就是資料擬合，只需要防止過擬合/欠擬合就好了。而現在如果要解決OOD問題，就要找到其中的不變性。找到不變性有兩個路徑，第一個路徑是因果推斷，因果關係和不變性之間存在等價性，也就是說只要找到了因果結構就可以保證不變性，實際上因果推斷本身就是關於不變性的科學。穩定學習，在某種程度上就是希望模型在做學習和預測時是基於因果推斷的。我們發現，通過對樣本進行重加權就可以使得所有的變數變得獨立，使得一個基於關聯的模型變成基於因果的模型，大家如果感興趣的話，可以去看看相關的論文。
第二個路徑是從差異性中找到不變性。在統計中有一個概念是異質性，比方說一個狗的分佈有兩個峰，一個峰是沙灘上的狗，一個峰是草地上的狗，既然這兩個峰都代表狗，那麼其中一定存在著不變性，不變的那部分就具有OOD泛化能力。資料的異質性是不能被預定義的，我們希望通過資料驅動的方式去找到其中隱含的異質性，在隱含的異質性中找到其中的不變性，而這二者的學習是互相促進的。
所謂的穩定學習，就是使用一種分佈的訓練集和多種不同的未知分佈的測試集，優化的目標是最小化準確率的方差。也就是說假設有一個訓練分佈，它內在具有一定的異質性，但沒有對它的異質性進行人為的劃分，在這種情況下我們希望學出一個能夠在各種未知分佈下有較好效能表現的模型。我們在去年寫了一篇關於OOD泛化的Survery[4]，對這個問題做了比較系統的分析，感興趣的同學可以進行參考。
參考文獻
- [1] Zheng, Xun, Bryon Aragam,Pradeep K. Ravikumar, and Eric P. Xing. DAGs with NO TEARS: Continuous Optimization for Structure Learning. Advances in Neural Information Processing Systems 31 (2018).
- [2] Yue He, Peng Cui, et al. DARING: Differentiable Causal Discovery with Residual Independence. KDD, 2021.
- [3] Yue He, Zimu Wang, Peng Cui, Hao Zou, Yafeng Zhang, Qiang Cui, Yong Jiang. CausPref: Causal Preference Learning for Out-of-Distribution Recommendation. The WebConf, 2022.
- [4] Zheyan Shen, Jiashuo Liu, Yue He, Xingxuan Zhang, Renzhe Xu, Han Yu, Peng Cui. Towards Out-Of-Distribution Generalization: A Survey. arxiv, 2021.
閱讀美團技術團隊更多技術文章合集
前端 | 演算法 | 後端 | 資料 | 安全 | 運維 | iOS | Android | 測試
| 在公眾號選單欄對話方塊回覆【2021年貨】、【2020年貨】、【2019年貨】、【2018年貨】、【2017年貨】等關鍵詞，可檢視美團技術團隊歷年技術文章合集。
| 本文系美團技術團隊出品，著作權歸屬美團。歡迎出於分享和交流等非商業目的轉載或使用本文內容，敬請註明“內容轉載自美團技術團隊”。本文未經許可，不得進行商業性轉載或者使用。任何商用行為，請傳送郵件至tech@meituan.com申請授權。