20日 ICLR 放榜，本次大會一共收到了 2594 篇論文，接受了 687 篇，接受率為 26.5%。而此次會議中，不管是收到的，還是接受的圖相關的論文都再次突破。有網友統計了2019 年到 2020 年各大頂會提交論文關鍵詞的資料。
graph neural network 成了增長第一的香餑餑。接下來我們一起來看看，這屆 ICLR 都有些什麼亮眼的成果輸出。
GCN 之後 C-SWMs
Contrastive Learning of Structured World Models
https://arxiv.org/abs/1911.12247
做 GNN 的人一定都讀過 Thomas Kipf 的論文《Semi-Supervised Classification with Graph Convolutional Networks》。而他們這篇新的工作提出了一個叫做 Contrastively-trained Structured World Models（C-SWMs）的模型。從物件、關係和層次結構上對世界的結構化理解是人類認知重要的組成部分。但是，讓機器從原始的感官資料中學習結構化的世界模型是非常有挑戰性的。所以他們提出了 C-SWMs。該模型利用對比的方法在有組合結構的環境中進行表示學習。文章將每個狀態 embedding 為一組物件及其關係的表示，並用圖神經網路來建模。他們在包含多個互動物件的組合環境中評估了 C-SWMs。
C-SWM 模型的組成包括一個基於 CNN 的物件提取器，一個基於MLP 的物件編碼器，一個基於GNN 的關係轉換模型，一個物件分解對比損失。
不得不提一下的是世界模型這個概念。如果不能理解世界模型的概念，那麼讀起來可能會雲裡霧裡。這是關於《world model》這篇論文的連結：
https://arxiv.org/pdf/1803.10122.pdf
C-SWM 的程式碼連結：
https://github.com/tkipf/c-swm
歡迎研究這方面的小夥伴閱讀之後，給我們做一個論文分享喲～
圖神經網路的邏輯表達
The Logical Expressiveness of Graph Neural Networks
https://openreview.net/forum?id=r1lZ7AEKvB
這也是一篇滿分的工作。是由常年戰鬥在圖領域的大佬 Pablo Barceló 團隊貢獻的。圖神經網路（GNN）區分圖節點的能力最近已經透過用於檢查圖同構性的 Weisfeiler-Lehman（WL）測試進行了表徵。但是，這種表徵並不能解決哪些布林節點分類器可以由 GNN 來表示 （即，將圖中的節點分類為真或假的函式）的問題。這篇文章專注於研究布林分類器來解決上述問題。首先研究的是流行的GNNs（文中稱為 AC-GNNs）開始，在該類 GNN 中僅根據鄰居的特徵，在連續的層中更新圖中每個節點的特徵。實驗表明，這類 GNN 太弱而無法捕獲所有 FOC2（一種一階邏輯研究） 分類器，並提供了 AC-GNNs 可以捕獲的FOC2 分類器最大子類的語法表徵。然後，研究人員研究了，需要在 AC-GNNs 中新增什麼來實現捕獲所有的 FOC2 分類器，實驗表明，新增 readout 就可以了。不僅可以更新節點的鄰居，還可以更新全域性屬性向量。文章稱這類 GNNs 為 ACR-GNNs。
Geom-GCN
Geom-GCN: Geometric Graph Convolutional Networks
https://openreview.net/forum?id=S1e2agrFvS
Message-passing neural networks (MPNNs）成功應用於圖表示學習。但是，MPNN 的兩個基本弱點限制了它們表示圖資料的能力：丟失鄰域中節點的結構資訊，並且缺乏捕獲散佈圖中長期依賴關係的能力。很少有研究從不同角度注意到這些缺點。文章提出了一種新的圖神經網路幾何聚合方案，來克服這兩個缺點。背後的基本思想是，圖上的聚合可以從圖潛在的連續空間中獲益。該聚合方式具有排列不變性，由三個模組組成：節點嵌入、鄰域結構以及雙層聚合。
程式碼型別註釋
LambdaNet: Probabilistic Type Inference using Graph Neural Networks
https://openreview.net/forum?id=Hkx6hANtwH
這篇文章研究的是用圖神經網路進行推理，具體的場景是進行程式碼的型別註釋，比如在 Python 或者 Typescript 之類的語言中。文章提出了一種基於圖神經網路的機率型Typescript 推理方案。首先使用輕量級的原始碼分析來生成程式抽象——型別依賴圖，該圖將型別變數與邏輯約束以及名稱和使用資訊連結在一起。給定該程式抽象之後，使用圖神經網路在相關型別變數之間傳播資訊，並最終進行型別預測。
下面是小編整理的一些已知的 ICLR 2020 圖相關的論文，趕緊收藏起來吧。後面會為大家持續關注好的論文喲！
1. Hyper-SAGNN: a self-attention based graph neural network for hypergraphs
https://openreview.net/forum?id=ryeHuJBtPH
2. GraphZoom: A Multi-level Spectral Approach for Accurate and Scalable Graph Embedding
https://openreview.net/forum?id=r1lGO0EKDH
3. On the Equivalence between Node Embeddings and Structural Graph Representations
https://openreview.net/forum?id=SJxzFySKwH
4. Directional Message Passing for Molecular Graphs
https://openreview.net/forum?id=B1eWbxStPH
5. Graph Neural Networks Exponentially Lose Expressive Power for Node Classification
https://openreview.net/forum?id=S1ldO2EFPr
6. Curvature Graph Network
https://openreview.net/forum?id=BylEqnVFDB
7. Coloring graph neural networks for node disambiguation
https://arxiv.org/abs/1912.06058
8. Topological based classification using graph convolutional networks
https://arxiv.org/abs/1911.06892