圖自編碼器的起源和應用

PaperWeekly發表於2020-03-10

Kipf 與 Welling 16 年發表的「Variational Graph Auto-Encoders」提出了基於圖的(變分)自編碼器 Variational Graph Auto-Encoder(VGAE),自此開始,圖自編碼器憑藉其簡潔的 encoder-decoder 結構和高效的 encode 能力,在很多領域都派上了用場。

本文將先詳盡分析最早提出圖自編碼器的「Variational Graph Auto-Encoders」這篇論文,將從以下幾個角度進行分析:

  • VGAE 的思想 
  • 沒有變分階段的 GAE 的 encoder、decoder 階段 
  • 有變分階段的 VGAE 
  • 如何從確定分佈再到從分佈中取樣 
  • 實驗效果分析

然後會再介紹兩篇關於如何應用圖自編碼器的文章。

1、Variational Graph Auto-Encoders

圖自編碼器的起源和應用

論文標題:Variational Graph Auto-Encoders

論文來源:NIPS 2016

論文連結:https://arxiv.org/abs/1611.07308

1.1 論文概覽

先簡單描述一下圖自編碼器的 intention 和用途:獲取合適的 embedding 來表示圖中的節點不是容易的事,而如果能找到合適的 embedding,就能將它們用在其他任務中。VGAE 通過 encoder-decoder 的結構可以獲取到圖中節點的 embedding,來支援接下來的任務,如連結預測等。

VGAE 的思想和變分自編碼器(VAE)很像:利用隱變數(latent variables),讓模型學習出一些分佈(distribution),再從這些分佈中取樣得到 latent representations(或者說 embedding),這個過程是 encode 階段

然後再利用得到的 latent representations 重構(reconstruct)出原始的圖,這個過程是 decode 階段。只不過,VGAE 的 encoder 使用了 GCN,decoder 是簡單的內積(inner product)形式。

下面具體講解變分圖自編碼器(VGAE)。先講 GAE,即圖自編碼器(沒有變分)。

相關文章