徹底摒棄人工標註，AutoAlign方法基於大模型讓知識圖譜對齊全自動化
机器之心發表於2024-07-26
AIxiv專欄是機器之心釋出學術、技術內容的欄目。過去數年，機器之心AIxiv專欄接收報導了2000多篇內容，覆蓋全球各大高校與企業的頂級實驗室，有效促進了學術交流與傳播。如果您有優秀的工作想要分享，歡迎投稿或者聯絡報導。投稿郵箱：liyazhou@jiqizhixin.com；zhaoyunfeng@jiqizhixin.com
本工作由來自清華大學、墨爾本大學、香港中文大學、中國科學院大學的 Rui Zhang, Yixin Su, Bayu Distiawan Trisedya, Xiaoyan Zhao, Min Yang, Hong Cheng, Jianzhong Qi 等學者團隊聯合完成。該團隊專注於大模型、知識圖譜、推薦搜尋、自然語言處理、大資料等方向的研究。知識圖譜作為結構化知識的重要載體，廣泛應用於資訊檢索、電商、決策推理等眾多領域。然而，由於不同機構或方法構建的知識圖譜存在表示方式、覆蓋範圍等方面的差異，如何有效地將不同的知識圖譜進行融合，以獲得更加全面、豐富的知識體系，成為提高知識圖譜覆蓋度和準確率的重要問題，這就是知識圖譜對齊（Knowledge Graph Alignment）任務所要解決的核心挑戰。傳統的知識圖譜對齊方法必須依賴人工標註來對齊一些實體（entity）和謂詞（predicate）等作為種子實體對。這樣的方法昂貴、低效、而且對齊的效果不佳。來自清華大學、墨爾本大學、香港中文大學、中國科學院大學的學者聯合提出了一種基於大模型的全自動進行知識圖譜對齊的方法——AutoAlign。AutoAlign徹底不需要人工來標註對齊的種子實體或者謂詞對，而是完全透過演算法對於實體語義和結構的理解來進行對齊，顯著提高了效率和準確性。
- 論文：AutoAlign: Fully Automatic and Effective Knowledge Graph Alignment enabled by Large Language Models，36 (6) TKDE 2024
- 論文連結：https://arxiv.org/abs/2307.11772
- 程式碼連結：https://github.com/ruizhang-ai/AutoAlign
- 用於將謂詞（predicate）對齊的謂詞嵌入模組（Predicate Embedding Module）。
- 用於將實體（entity）對齊的實體嵌入學習部分，包括兩個模組：屬性嵌入模組 （Attribute Embedding Module）和結構嵌入模組（Structure Embedding Module）。
謂詞嵌入模組：謂詞嵌入模組旨在對齊兩個知識圖譜中代表相同含義的謂詞。例如，將“is_in”和“located_in”進行對齊。為了實現這一目標，研究團隊建立了一個謂詞鄰近圖（Predicate Proximity Graph），將兩個知識圖譜合併成一個圖，並將其中的實體替換為其對應的型別（Entity Type）。這種方式基於以下假設：相同（或相似）的謂詞，其對應的實體型別也應相似（例如，“is_in”和“located_in”的目標實體型別大機率屬於location或city）。透過大語言模型對型別的語義理解，進一步對齊這些型別，提高了三元組學習的準確性。最終，透過圖編碼方法（如TransE）對謂詞鄰近圖的學習，使得相同（或相似）的謂詞具有相似的嵌入，從而實現謂詞的對齊。具體實現上，研究團隊首先構建謂詞鄰近圖。謂詞鄰近圖是一種描述實體型別之間關係的圖。實體型別表示實體的廣泛類別，可以自動連結不同的實體。即使某些謂詞的表面形式不同（例如“lgd:is_in”和“dbp:located_in”），透過學習謂詞鄰近圖，可以有效識別它們的相似性。構建謂詞鄰近圖的步驟如下：- 實體型別提取：研究團隊透過獲取每個實體在知識圖譜中的rdfs:type謂詞的值來提取實體型別。通常，每個實體有多個型別。例如，德國（Germany）實體在知識圖譜中可能有多個型別，如“thing”、“place”、“location”和“country”。在謂詞鄰近圖中，他們用一組實體型別替換每個三元組的頭實體和尾實體。
- 型別對齊：由於不同知識圖譜中的實體型別可能使用不同的表面形式（例如，“person”和“people”），研究團隊需要對齊這些型別。為此，研究團隊利用最新的大語言模型（如ChatGPT和Claude）來自動對齊這些型別。例如，研究團隊可以使用Claude2來識別兩個知識圖譜中相似的型別對，然後將所有相似型別對齊為統一的表示形式。為此，研究團隊設計了一套自動化提示詞（prompt），能夠根據不同的知識圖譜進行自動化對齊詞的獲取。
為了捕捉謂詞相似性，需要聚合多個實體型別。研究團隊提出了兩種聚合方法：加權和基於注意力的函式。在實驗中，他們發現基於注意力的函式效果更好。具體而言，他們計算每個實體型別的注意力權重，並透過加權求和的方式獲得最終的偽型別嵌入。接下來，研究團隊透過最小化目標函式來訓練謂詞嵌入，使得相似的謂詞具有相似的向量表示。屬性嵌入模組和結構嵌入模組：屬性嵌入模組和結構嵌入模組都用於實體（entity）對齊。它們的思想和謂詞嵌入相似，即對於相同（或相似）的實體，其對應的三元組中的謂詞和另一個實體也應該具有相似性。因此，在謂詞對齊（透過謂詞嵌入模組）和屬性對齊（透過 Attribute Character Embeding 方法）的情況下，我們可以透過TransE使相似的實體學習到相似的嵌入。具體來說：- 屬性嵌入學習：屬性嵌入模組透過編碼屬性值的字元序列來建立頭實體和屬性值之間的關係。研究團隊提出了三種組合函式來編碼屬性值：求和組合函式、基於LSTM的組合函式和基於N-gram的組合函式。透過這些函式，我們能夠捕捉屬性值之間的相似性，從而使得兩個知識圖譜中的實體屬性可以對齊。
- 結構嵌入學習：結構嵌入模組基於TransE方法進行了改進，透過賦予不同鄰居不同的權重來學習實體的嵌入。已對齊的謂詞和隱含對齊的謂詞將獲得更高的權重，而未對齊的謂詞則被視為噪聲。透過這種方式，結構嵌入模組能夠更有效地從已對齊的三元組中學習。
- 聯合訓練：謂詞嵌入模組、屬性嵌入模組和結構嵌入模組這三個模組可以進行交替訓練，透過交替學習的方式互相影響，透過最佳化嵌入使其在各個結構的表示中達到整體最優。訓練完成後，研究團隊獲得了實體（entity）、謂詞（predicate）、屬性（attribute）和型別（type）的嵌入表示。最後，我們透過對比兩個知識圖譜中的實體相似性（如cosine similarity），找到相似性高的實體對（需要高於一個閾值）來進行實體對齊。
研究團隊在最新的基準資料集DWY-NB (Rui Zhang, 2022) 上進行了實驗，主要結果如下表所示。
AutoAlign在知識圖譜對齊效能方面有顯著提升，特別是在缺少人工標註種子的情況下，表現尤為出色。在沒有人工標註的情況下，現有的模型幾乎無法進行有效對齊。然而，AutoAlign在這種條件下依然能夠取得優異的表現。在兩個資料集上，AutoAlign在沒有人工標註種子的情況下，相比於現有最佳基準模型（即使有人工標註）有顯著的提升。這些結果表明，AutoAlign不僅在對齊準確性上優於現有方法，而且在完全自動化的對齊任務中展現了強大的優勢。Rui Zhang, Bayu D. Trisedya, Miao Li, Yong Jiang, and Jianzhong Qi (2022). A Benchmark and Comprehensive Survey on Knowledge Graph Entity Alignment via Representation Learning. VLDB Journal, 31 (5), 1143–1168, 2022.