資料探勘巨擘俞士綸：真實資料來源不止一個，學習不僅要有深度還要有廣度

2019年10月17日-19日，CNCC 2019在蘇州金雞湖國際會議中心舉辦，雷鋒網作為戰略合作媒體，對大會進行全程報導。

 

在18日上午的特邀報告中，資料探勘領域巨擘美國伊利諾大學芝加哥分校俞士綸教授做了“Broad Learning：A New Perspective on Mining Big Data”（廣度學習：大資料探勘的新視角）的分享。

當前大家普遍對深度學習瞭解較多，而事實上對於資料我們不僅要挖得深，還需要挖得廣。例如對於網頁資料，深度學習能夠單獨學習文字資料或影像資料等裡面的特性。但是真實的網頁可能同時包含文字、圖片、音訊、連結等等的資料。

事實上，我們講的大資料並不是說所有資料都很大，只是整體很大而已。更多的情況是，我們擁有許多不同來源的（小）資料，它們之間相互有或多或少地聯絡。如果能夠將這些不同的資料來源整合在一起，那麼我們將挖掘出更多有價值的資訊。

俞士綸教授認為，首先我們應當認同這樣一個觀點，即所有型別的資料都是可用的，換句話說就是沒有沒價值的資料。問題的關鍵就在於我們如何將這些資料融合在一起。那麼如何做呢？這就需要「廣度學習」了。

所謂「廣度學習」，俞士綸教授認為其本質就是如何將各種各樣的資料整合在一起，以獲取更多的資訊。

在採訪中，俞教授向AI科技評論強調說，廣度學習在研究上的側重點是資料，而深度學習的側重點則在於模型；換句話說深度學習的「深」是指對資料訓練的模型層數深；而廣度學習的「廣」是指我們訓練模型的資料型別廣。這兩個概念側重的點不同，但可以結合在同一個模型當中。

要做好「廣度學習」，俞教授認為需要以下三步：

• 首先，定義並獲取相關的有用資料來源，也即找到對你的問題有用的資料。

• 其次，設計一種模型來將異質資料來源資訊融合起來。

• 最後，基於模型整體的需求從各種資料來源中深度地去挖掘資訊。

而從具體的技術路線角度來看，俞士綸教授認為廣度學習的型別大致可以分為三類：

• 首先是在同一個實體上有不同型別資訊的學習。這種型別的廣度學習包括 Multi-view Learning、Multi-source Learning、Multi-model Learning 等。

• 其次是在不同的但型別相似的實體上資訊的學習。這包括 Transfer Learning。

• 另外是在有複雜網路型別關係的不同型別實體資訊的學習。這包括基於融合的異質資訊網路（HIN）。

對於廣度學習，最為關鍵的任務主要有兩個：資訊融合和知識發現。因此對應的就有兩個基本的挑戰，其一是發現什麼資料是有用的，如何將這些資料融合在一起；其二就是要明白想要挖掘什麼（並不是所有資料對特定的知識發現都有用），以及如何從融合的資料中挖掘出有用的知識。

這有很多例子。

例如藥物發掘。新藥上市通常很貴，原因在於研發新藥的成本非常高，發現一個新藥之前可能失敗成千上萬次。但如果我們能夠用大資料的技術來做預測，把那些不成功的案例刪除掉，那麼就能夠在很大程度上降低新藥研發的成本。但是，決定一種藥物能否治療一種疾病，並不僅僅是看藥物的化學成分的；事實上，這需要很多種不同型別的資訊或資料。例如基因資訊、器官組織資訊、藥物傳播臨床試驗資訊等。傳統的資料探勘方法僅僅能夠針對一種資訊進行深度挖掘，但事實上若想要取得較好的效果，則需要將多種資訊綜合起來。下面這張圖融合了多個不同資料之間的關係，這在本質上是一個異質網路。

在這張圖上，可以定義所謂的Meta-Path，來表示兩個資料之間的關係：

比如兩個資料雖然不一樣，但相互有影響，那麼就可以直接連在一起；兩個化學藥品，如果它們有相同的副作用，那麼就可以說它們有關係。這種關聯可以幫我們來決定一個藥物是否可能有用。

再例如，在電影推薦中，傳統的方法往往只是根據使用者的打分資訊進行推薦，但事實上使用者是否喜歡一部電影往往還取決於更多的因素，例如使用者的個人背景、使用者的朋友圈以及其他因素（例如電影是某個導演拍攝或某個演員主演等）都會影響使用者是否觀影以及觀影體驗。 

類似於前面的例子，也可以採用相似的方法將不同的資訊進行融合來提高推薦的準確性。

 

俞士汶教授認為，在大資料時代資料是最為寶貴的資源。對個人和企業來講，對大資料的挖掘將是一次顛覆性的機會；大資料有四個「V」，所以對大資料的挖掘同時也是一種挑戰。俞教授在報告中則主要是解決大資料的Variety，也即透過融合異質資料來源來進行廣度學習。真實生活中的資料一般都不是隻有一個資料來源，而是要融合多個資料來源才行。因此有效的學習應當同時需要廣度和深度。