大規模圖嵌入 | 論文快訊

極驗發表於2019-04-08

01

大規模圖嵌入 | 論文快訊

圖嵌入是從圖中無監督地產生節點特徵,然後用於各種機器學習任務。在實際場景中,特別是在工業應用中,圖往往包含數十億個節點和數萬億的邊,這超出了現有嵌入系統的能力。論文提出了PyTorch-BigGraph(PBG),這種嵌入系統,對傳統的多關係嵌入進行了修改,使其能夠擴充套件到具有數十億個節點和數萬億邊的圖。PBG使用圖分割槽來在單個機器或分散式環境中訓練任意大的嵌入。

大規模圖嵌入 | 論文快訊

論文連結:https://arxiv.org/pdf/1903.12287.pdf

02

大規模圖嵌入 | 論文快訊

圖訊號是具有不規則結構的訊號,可以用圖來描述。神經網路(GNN)是針對這些圖訊號定製的資訊處理體系結構,由堆疊層構成,這些層疊構成具有非線性啟用函式的圖卷積濾波器。圖卷積賦予GNNs對圖節點標籤擾動的不變性。本文提供可訓練的非線性啟用函式的設計,其中考慮了圖的結構。這是通過使用中值濾波器和最大值濾波器來實現的,這些濾波器模擬線性圖卷積並且保持GNN的變換不變性。論文還討論了訓練區域性啟用函式所需的反向傳播演算法的改進。

大規模圖嵌入 | 論文快訊

論文連結:https://arxiv.org/pdf/1903.12575.pdf

03

大規模圖嵌入 | 論文快訊

神經網路(GNN)是目前流行的機器學習模型,其主要優點是能夠在資料之間結合稀疏和離散的結構。不幸的是,只有在這種圖結構可用時才能使用GNN。然而,在實踐中,真實世界的圖通常是嘈雜和不完整的,或者根本不可用。論文的這項工作,建議近似求解一個雙層規劃來學習圖上邊的離散分佈概率,由此來共同學習GCN的結構和引數。這使得人們不僅可以在給定圖不完整或損壞的情況下應用GCN,而且還可以在圖不可用的情況下應用GCN。

大規模圖嵌入 | 論文快訊

論文連結:https://arxiv.org/pdf/1903.11960.pdf

04

大規模圖嵌入 | 論文快訊

論文介紹了一種新穎的圖表示學習方法,即將整個圖嵌入到向量空間中,其中兩個圖的嵌入保持其graph-graph的近似度。論文提出的方法UGRAPHEMB是一個通用框架,提供了一種以完全無監督和歸納的方式執行圖嵌入的新方法。學習的神經網路可以被認為是接收任何圖作為輸入的函式,無論是在訓練集中看到還是未看到,並將其轉換為嵌入。論文還提出了一種新的圖嵌入生成機制,稱為多尺度節點注意(MSNA)。對五個真實圖形資料集的實驗表明,UGRAPHEMB在圖分類,相似性排序和圖視覺化的任務中實現了較高的準確性

大規模圖嵌入 | 論文快訊

論文連結:https://arxiv.org/pdf/1904.01098.pdf

05

大規模圖嵌入 | 論文快訊

在這項工作中,論文提出了一個判別性子圖學習(DSL)的優化框架,它同時能夠提升子圖的(i)稀疏性,(ii)連通性和(iii)判別力。我們的優化演算法是針對NSP和相關特徵選擇問題的單步解決方案。它源於最大邊際優化,譜圖方法和稀疏子空間自我表示的豐富文獻。DSL同時確保解決方案的可解釋性和卓越的預測能力。

大規模圖嵌入 | 論文快訊

論文連結:https://arxiv.org/pdf/1904.00791.pdf

相關文章