Kipf 與 Welling 16 年發表的「Variational Graph Auto-Encoders」提出了基於圖的(變分)自編碼器 Variational Graph Auto-Encoder(VGAE),自此開始,圖自編碼器憑藉其簡潔的 encoder-decoder 結構和高效的 encode 能力,在很多領域都派上了用場。
本文將先詳盡分析最早提出圖自編碼器的「Variational Graph Auto-Encoders」這篇論文,將從以下幾個角度進行分析:
- VGAE 的思想
- 沒有變分階段的 GAE 的 encoder、decoder 階段
- 有變分階段的 VGAE
- 如何從確定分佈再到從分佈中取樣
- 實驗效果分析
然後會再介紹兩篇關於如何應用圖自編碼器的文章。
1、Variational Graph Auto-Encoders
論文標題:Variational Graph Auto-Encoders
論文來源:NIPS 2016
論文連結:https://arxiv.org/abs/1611.07308
1.1 論文概覽
先簡單描述一下圖自編碼器的 intention 和用途:獲取合適的 embedding 來表示圖中的節點不是容易的事,而如果能找到合適的 embedding,就能將它們用在其他任務中。VGAE 通過 encoder-decoder 的結構可以獲取到圖中節點的 embedding,來支援接下來的任務,如連結預測等。
VGAE 的思想和變分自編碼器(VAE)很像:利用隱變數(latent variables),讓模型學習出一些分佈(distribution),再從這些分佈中取樣得到 latent representations(或者說 embedding),這個過程是 encode 階段。
然後再利用得到的 latent representations 重構(reconstruct)出原始的圖,這個過程是 decode 階段。只不過,VGAE 的 encoder 使用了 GCN,decoder 是簡單的內積(inner product)形式。
下面具體講解變分圖自編碼器(VGAE)。先講 GAE,即圖自編碼器(沒有變分)。