圖神經網路知識

華南小哥發表於2020-11-29


前言

圖神經網路的基本知識 最近在打卡圖神經網路7天訓練營 總結一下 廢話不多說 先來張圖
圖神經網路資料總結

一、圖神經網路基本知識

圖可以分為
無向圖 vs 有向圖
無權圖 vs 有權圖
同構圖 vs 異構圖
在這裡插入圖片描述

圖可以用鄰接矩陣 鄰接表 邊集表示

二、圖遊走類演算法

圖遊走類模型最開始參考的就是 NLP 領域中的 Word2vec模型,Word2vec 模型自行了解 主要是 Skip Gram 和 Negative Sampling在這裡插入圖片描述
和Word2vec 句子對應 圖遊走類模型如何得到網路中節點的序列呢
在這裡插入圖片描述

在這裡插入圖片描述

在這裡插入圖片描述
deepwalk nodework 都是同構圖的遊走
在這裡插入圖片描述

三、圖卷積神經網路

之前沒怎麼弄懂的圖卷積公式 居然在這張圖弄懂了
在這裡插入圖片描述

在這裡插入圖片描述

圖卷積的概念 在下面兩張圖顯而易見 就是聚合鄰居節點(和自身?)的特徵
在這裡插入圖片描述
在這裡插入圖片描述

圖卷積過程講解
在這裡插入圖片描述

在這裡插入圖片描述

在這裡插入圖片描述
在這裡插入圖片描述
在這裡插入圖片描述

四、圖注意力網路

在這裡插入圖片描述

圖注意力網路就是學習鄰居節點特徵聚合對中心節點的貢獻度 這個節點之間的影響力權重可以計算的 與節點的相關性有關 而圖卷積網路的權重是隻與節點度相關 不可學習的
在這裡插入圖片描述

五、圖取樣演算法

網際網路中動則億量級的圖資料 由於當代的GPU/CPU資源受限 無法一次性全圖送入計算資源,需要借鑑深度學習中的MiniBatch

在這裡插入圖片描述
GraphSAGE詳解
在這裡插入圖片描述
在這裡插入圖片描述
在這裡插入圖片描述
PinSAGE詳解
在這裡插入圖片描述
在這裡插入圖片描述

在這裡插入圖片描述

六、總結體會

7天的課程終於結束了 理解了之前很多看書本沒理解的知識 果然跟著直播上課的效果不一樣 一群人在學習 討論的效果比一個人戰鬥要有效率得多 後面的知識要自己慢慢花時間領會了 這只是一個簡單的入門 後面要多接觸論文方面的知識了 注重實踐領域

相關文章