肖仰華
復旦大學電腦科學技術學院，副教授，博士生導師，上海市網際網路大資料工程技術中心副主任。主要研究方向為大資料管理與挖掘、知識庫等。
大資料時代的到來，為人工智慧的飛速發展帶來前所未有的資料紅利。在大資料的“餵養”下，人工智慧技術獲得了前所未有的長足進步。其進展突出體現在以知識圖譜為代表的知識工程以及深度學習為代表的機器學習等相關領域。隨著深度學習對於大資料的紅利消耗殆盡，深度學習模型效果的天花板日益迫近。另一方面大量知識圖譜不斷湧現，這些蘊含人類大量先驗知識的寶庫卻尚未被深度學習有效利用。融合知識圖譜與深度學習，已然成為進一步提升深度學習模型效果的重要思路之一。以知識圖譜為代表的符號主義、以深度學習為代表的聯結主義，日益脫離原先各自獨立發展的軌道，走上協同並進的新道路。
知識圖譜與深度學習融合的歷史背景
大資料為機器學習，特別是深度學習帶來前所未有的資料紅利。得益於大規模標註資料，深度神經網路能夠習得有效的層次化特徵表示，從而在影像識別等領域取得優異效果。但是隨著資料紅利消失殆盡，深度學習也日益體現出其侷限性，尤其體現在依賴大規模標註資料和難以有效利用先驗知識等方面。這些侷限性阻礙了深度學習的進一步發展。另一方面在深度學習的大量實踐中，人們越來越多地發現深度學習模型的結果往往與人的先驗知識或者專家知識相沖突。如何讓深度學習擺脫對於大規模樣本的依賴？如何讓深度學習模型有效利用大量存在的先驗知識？如何讓深度學習模型的結果與先驗知識一致已成為了當前深度學習領域的重要問題。
當前，人類社會業已積累大量知識。特別是，近幾年在知識圖譜技術的推動下，對於機器友好的各類線上知識圖譜大量湧現。知識圖譜本質上是一種語義網路，表達了各類實體、概念及其之間的語義關係。相對於傳統知識表示形式（諸如本體、傳統語義網路），知識圖譜具有實體/概念覆蓋率高、語義關係多樣、結構友好(通常表示為RDF格式)以及質量較高等優勢，從而使得知識圖譜日益成為大資料時代和人工智慧時代最為主要的知識表示方式。能否利用蘊含於知識圖譜中的知識指導深度神經網路模型的學習從而提升模型的效能，成為了深度學習模型研究的重要問題之一。
現階段將深度學習技術應用於知識圖譜的方法較為直接。大量的深度學習模型可以有效完成端到端的實體識別、關係抽取和關係補全等任務，進而可以用來構建或豐富知識圖譜。本文主要探討知識圖譜在深度學習模型中的應用。從當前的文獻來看，主要有兩種方式。一是將知識圖譜中的語義資訊輸入到深度學習模型中；將離散化知識圖譜表達為連續化的向量，從而使得知識圖譜的先驗知識能夠成為深度學習的輸入。二是利用知識作為最佳化目標的約束，指導深度學習模型的學習；通常是將知識圖譜中知識表達為最佳化目標的後驗正則項。前者的研究工作已有不少文獻，併成為當前研究熱點。知識圖譜向量表示作為重要的特徵在問答以及推薦等實際任務中得到有效應用。後者的研究才剛剛起步，本文將重點介紹以一階謂詞邏輯作為約束的深度學習模型。
知識圖譜作為深度學習的輸入
知識圖譜是人工智慧符號主義近期進展的典型代表。知識圖譜中的實體、概念以及關係均採用了離散的、顯式的符號化表示。而這些離散的符號化表示難以直接應用於基於連續數值表示的神經網路。為了讓神經網路有效利用知識圖譜中的符號化知識，研究人員提出了大量的知識圖譜的表示學習方法。知識圖譜的表示學習旨在習得知識圖譜的組成元素(節點與邊)的實值向量化表示。這些連續的向量化表示可以作為神經網路的輸入，從而使得神經網路模型能夠充分利用知識圖譜中大量存在的先驗知識。這一趨勢催生了對於知識圖譜的表示學習的大量研究。本章首先簡要回顧知識圖譜的表示學習，再進一步介紹這些向量表示如何應用到基於深度學習模型的各類實際任務中，特別是問答與推薦等實際應用。
1. 知識圖譜的表示學習
知識圖譜的表示學習旨在學習實體和關係的向量化表示,其關鍵是合理定義知識圖譜中關於事實（三元組<h,r,t>）的損失函式 ƒr(h,t)，其中和是三元組的兩個實體h和t的向量化表示。通常情況下，當事實 <h,r,t> 成立時，期望最小化 ƒr(h,t)。考慮整個知識圖譜的事實，則可透過最小化 ∑(h,r,t)∈Oƒr(h,t) 來學習實體以及關係的向量化表示，其中 O 表示知識圖譜中所有事實的集合。不同的表示學習可以使用不同的原則和方法定義相應的損失函式。這裡以基於距離和翻譯的模型介紹知識圖譜表示的基本思路[1]。
基於距離的模型。其代表性工作是 SE 模型[2]。基本思想是當兩個實體屬於同一個三元組 <h,r,t> 時，它們的向量表示在投影后的空間中也應該彼此靠近。因此，損失函式定義為向量投影后的距離 ƒr(h,t)=‖Wr,1h-Wr,2t‖l1，其中矩陣 Wr,1 和 Wr,2 用於三元組中頭實體 h 和尾實體 t 的投影操作。但由於 SE 引入了兩個單獨的投影矩陣，導致很難捕獲實體和關係之間的語義相關性。Socher 等人針對這一問題採用三階張量替代傳統神經網路中的線性變換層來刻畫評分函式。Bordes 等人提出能量匹配模型，透過引入多個矩陣的 Hadamard 乘積來捕獲實體向量和關係向量的互動關係。
基於翻譯的表示學習。其代表性工作 TransE 模型透過向量空間的向量翻譯來刻畫實體與關係之間的相關性[3]。該模型假定，若 <h,r,t> 成立則尾部實體 t 的嵌入表示應該接近頭部實體 h 加上關係向量 r 的嵌入表示，即 h+r≈t。因此，TransE 採用 ƒr(h,t)=‖h+r-t‖l1/l2 作為評分函式。當三元組成立時，得分較低，反之得分較高。TransE 在處理簡單的 1-1 關係（即關係兩端連線的實體數比率為 1：1）時是非常有效的，但在處理 N-1、1-N 以及 N-N 的複雜關係時效能則顯著降低。針對這些複雜關係，Wang 提出了 TransH 模型透過將實體投影到關係所在超平面,從而習得實體在不同關係下的不同表示。Lin 提出了 TransR 模型透過投影矩陣將實體投影到關係子空間，從而習得不同關係下的不同實體表示。
除了上述兩類典型知識圖譜表示學習模型之外，還有大量的其他表示學習模型。比如，Sutskever 等人使用張量因式分解和貝葉斯聚類來學習關係結構。Ranzato 等人引入了一個三路的限制玻爾茲曼機來學習知識圖譜的向量化表示，並透過一個張量加以引數化。
當前主流的知識圖譜表示學習方法仍存在各種各樣的問題，比如不能較好刻畫實體與關係之間的語義相關性、無法較好處理複雜關係的表示學習、模型由於引入大量引數導致過於複雜，以及計算效率較低難以擴充套件到大規模知識圖譜上等等。為了更好地為機器學習或深度學習提供先驗知識，知識圖譜的表示學習仍是一項任重道遠的研究課題。
2. 知識圖譜向量化表示的應用
應用 1 問答系統。自然語言問答是人機互動的重要形式。深度學習使得基於問答語料的生成式問答成為可能。然而目前大多數深度問答模型仍然難以利用大量的知識實現準確回答。Yin 等人針對簡單事實類問題，提出了一種基於 encoder-decoder 框架，能夠充分利用知識圖譜中知識的深度學習問答模型[4]。在深度神經網路中，一個問題的語義往往被表示為一個向量。具有相似向量的問題被認為是具有相似語義。這是聯結主義的典型方式。另一方面，知識圖譜的知識表示是離散的，即知識與知識之間並沒有一個漸變的關係。這是符號主義的典型方式。透過將知識圖譜向量化，可以將問題與三元組進行匹配（也即計算其向量相似度），從而為某個特定問題找到來自知識庫的最佳三元組匹配。匹配過程如圖 1 所示。對於問題 Q：“How tallis Yao Ming?”，首先將問題中的單詞表示為向量陣列 HQ。進一步尋找能與之匹配的知識圖譜中的候選三元組。最後為這些候選三元組，分別計算問題與不同屬性的語義相似度。其由以下相似度公式決定：
這裡 S ̅(Q,τ) 表示問題與候選三元組 τ 的相似度；XQ 表示問題的向量（從 HQ 計算而得），Uτ 表示知識圖譜的三元組的向量，M 是待學習引數。
▲ 圖1：基於知識圖譜的神經生成問答模型
應用 2 推薦系統。個性化推薦系統是網際網路各大社交媒體和電商網站的重要智慧服務之一。隨著知識圖譜的應用日益廣泛，大量研究工作意識到知識圖譜中的知識可以用來完善基於內容的推薦系統中對使用者和專案的內容（特徵）描述，從而提升推薦效果。另一方面，基於深度學習的推薦演算法在推薦效果上日益優於基於協同過濾的傳統推薦模型[5]。但是，將知識圖譜整合到深度學習的框架中的個性化推薦的研究工作,還較為少見。Zhang 等人做出了這樣的嘗試。作者充分利用了結構化知識(知識圖譜)、文字知識和視覺化知識（圖片）[6]等三類典型知識。作者分別透過網路嵌入（network embedding）獲得結構化知識的向量化表示，然後分別用SDAE（Stacked Denoising Auto-Encoder）和層疊卷積自編碼器（stackedconvolution-autoencoder）抽取文字知識特徵和圖片知識特徵；並最終將三類特徵融合進協同整合學習框架，利用三類知識特徵的整合來實現個性化推薦。作者針對電影和圖書資料集進行實驗，證明了這種融合深度學習和知識圖譜的推薦演算法具有較好效能。
知識圖譜作為深度學習的約束
Hu 等人提出了一種將一階謂詞邏輯融合進深度神經網路的模型，並將其成功用於解決情感分類和命名實體識別等問題[7]。邏輯規則是一種對高階認知和結構化知識的靈活表示形式，也是一種典型的知識表示形式。將各類人們已積累的邏輯規則引入到深度神經網路中，利用人類意圖和領域知識對神經網路模型進行引導具有十分重要的意義。其他一些研究工作則嘗試將邏輯規則引入到機率圖模型，這類工作的代表是馬爾科夫邏輯網路[8]，但是鮮有工作能將邏輯規則引入到深度神經網路中。
Hu 等人所提出的方案框架可以概括為“teacher-student network”，如圖 2 所示，包括兩個部分 teacher network q(y|x) 和 student network pθ(y|x)。其中 teacher network 負責將邏輯規則所代表的知識建模，student network 利用反向傳播方法加上teacher network的約束，實現對邏輯規則的學習。這個框架能夠為大部分以深度神經網路為模型的任務引入邏輯規則，包括情感分析、命名實體識別等。透過引入邏輯規則，在深度神經網路模型的基礎上實現效果提升。
▲ 圖2：將邏輯規則引入到深度神經網路的“teacher-student network”模型
其學習過程主要包括如下步驟：
1. 利用 softlogic 將邏輯規則表達為 [0, 1] 之間的連續數值。
2. 基於後驗正則化（posterior regularization）方法，利用邏輯規則對 teacher network 進行限制，同時保證 teacher network 和 student network 儘量接近。最終最佳化函式為：
其中，ξl,gl 是鬆弛變數，L 是規則個數，Gl 是第 l 個規則的 grounding 數。KL 函式（Kullback-Leibler Divergence）部分保證 teacher network 和student network 習得模型儘可能一致。後面的正則項表達了來自邏輯規則的約束。
3. 對 student network 進行訓練，保證 teacher network 的預測結果和 student network 的預測結果都儘量地好，最佳化函式如下：
其中，t 是訓練輪次，l 是不同任務中的損失函式（如在分類問題中，l 是交叉熵），σθ 是預測函式，s_n^((t)) 是 teacher network 的預測結果。
4. 重複 1~3 過程直到收斂。
結束語
隨著深度學習研究的進一步深入，如何有效利用大量存在的先驗知識，進而降低模型對於大規模標註樣本的依賴，逐漸成為主流的研究方向之一。知識圖譜的表示學習為這一方向的探索奠定了必要的基礎。近期出現的將知識融合進深度神經網路模型的一些開創性工作也頗具啟發性。但總體而言，當前的深度學習模型使用先驗知識的手段仍然十分有限，學術界在這一方向的探索上仍然面臨巨大的挑戰。這些挑戰主要體現在兩個方面:
（1）如何獲取各類知識的高質量連續化表示。當前知識圖譜的表示學習，不管是基於怎樣的學習原則，都不可避免地產生語義損失。符號化的知識一旦向量化後，大量的語義資訊被丟棄，只能表達十分模糊的語義相似關係。如何為知識圖譜習得高質量的連續化表示仍然是個開放問題。
（2）如何在深度學習模型中融合常識知識。大量的實際任務（諸如對話、問答、閱讀理解等等）需要機器理解常識。常識知識的稀缺嚴重阻礙了通用人工智慧的發展。如何將常識引入到深度學習模型將是未來人工智慧研究領域的重大挑戰，同時也是重大機遇。
參考文獻
[1] 劉知遠, 孫茂松, 林衍凱, 等. 知識表示學習研究進展[J]. 計算機研究與發展, 2016, 53(2):247-261.
[2] Bordes A, Weston J, Collobert R, et al. Learning Structured Embeddings of KnowledgeBases[C]// AAAI Conference on Artificial Intelligence, AAAI 2011, SanFrancisco, California, Usa, August. DBLP, 2011.
[3] Bordes A, Usunier N, Garcia-Duran A, et al. Translating Embeddings for ModelingMulti-relational Data[J]. Advances in Neural Information Processing Systems,2013:2787-2795.
[4] Jun Yin, Xin Jiang, Zhengdong Lu,Lifeng Shang, Hang Li, Xiaoming Li, NeuralGenerative Question Answering. IJCAI2016.
[5] Giovanni Semeraro , Pasquale Lops , Pierpaolo Basile, Knowledge infusion intocontent-based recommender systems: ACM Conference on Recommender Systems, 2009.
[6] Fuzheng Zhang, Nicholas Jing Yuan, Defu Lian, Xing Xie, Wei-Ying Ma, Collaborative Knowledge Base Embedding for Recommender Systems, in Proc. of KDD, 2016.
[7] Hu, Z., Ma, X., Liu, Z., Hovy, E., & Xing, E. (2016). Harnessing deep neural networks with logic rules. arXiv preprint arXiv:1603.06318.
[8] Matthew Richardson and Pedro Domingos. 2006. Markov logic networks. Machine learning,62(1-2):107–136.
本文轉載自中國人工智慧學會通訊 2017 第 4 期