微信「看一看」 朋友在看的增強推薦系統

騰訊技術工程發表於2020-09-02


微信「看一看」 朋友在看的增強推薦系統



本文基於ECML-PKDD-2020論文《Social Influence Attentive Neural Network for Friend-Enhanced Recommendation》,論文作者是北京郵電大學、騰訊微信、新加坡管理大學的陸元福、謝若冰、石川、方元、王偉、張旭和林樂宇。

導讀

隨著線上社交網路的興起,許多社交應用程式中出現了一種新的基於社交的推薦方式,微信看一看推薦系統中的朋友在看就是其代表應用之一。在本文中,我們將微信看一看的朋友在看推薦稱為“好友增強型推薦(Friend-Enhanced Recommendation,FER)”。在 FER 中,對於某一從未互動過的商品,使用者顯式可見其好友對該商品的互動行為(這些好友被稱作好友推薦圈),例如微信“看一看”場景下的文章推薦場景。與傳統社交推薦不同, FER 中特有的好友推薦圈可能會因為其重要性和可解釋性而顯著改變推薦結果。

針對這一好友增強型推薦場景,作者提出了一種新穎的社交影響力專注的神經網路(SIAN)。SIAN 從異質資訊網路的角度建模推薦場景,構建了注意力特徵聚合器,其對多型別的異質資訊進行節點級和型別級的特徵聚合,並學習得到使用者和商品的向量表示。更重要的是, SIAN 模型設計了一個社交影響力耦合器,以專心地捕捉好友推薦圈的影響力。
基於兩個公開資料集和一個微信看一看的資料,作者進行了豐富的實驗分析,模型與對比方法相比,均有顯著提升。尤其是,在看一看資料集上,作者進行了一些定量分析討論,並得到了一些有趣的發現以及有價值的社會學模式。

背景簡介

當下,隨著線上社交網路的興起,人們更願意在社交平臺上表達自己的觀點並與好友共享資訊。好友成為重要的資訊來源和高質量的資訊過濾器。好友互動過的商品(共享的,喜歡的等)會對使用者產生重大影響,這很可能會成為使用者未來的興趣所在。工業界,也有許多推薦系統專注於好友的社交影響,例如,關注 YouTube 中的資訊流和微信中的“看一看”文章推薦。

在本文中,作者基於微信“看一看”文章推薦場景,形式化了一個全新的推薦場景,叫做好友增強的推薦系統(Friend-Enhanced Recommendation,FER),其大大增強了推薦系統中好友對使用者行為的影響力。相較於傳統的社交化推薦,好友增強推薦有兩個主要區別:(1)鑑於好友可以看作高質量資訊過濾器為使用者提供高質量的商品,好友增強推薦只為使用者推薦好友互動過的商品(讀過的文章);(2)與某一商品互動過的所有好友都會顯式的展示給當前使用者,即當前使用者已知哪些好友與當前物品有過互動。這一特點重點強調了顯式的社交影響力對使用者行為的影響,這也有益於使用者行為的可解釋性。

微信「看一看」 朋友在看的增強推薦系統
圖1. 好友增強性型推薦場景

上圖左側顯示了推薦給 Jerry 的兩篇文章的場景,下面是與兩篇文章互動(共享,喜歡等)的朋友(如 Tom)。右側顯示了好友增強推薦問題的形式化,其中僅推薦朋友互動過的文章,並且與該專案進行互動的朋友被明確暴露給使用者 Jerry。
圖 1 展示了微信“看一看”場景下的一個形式化示例。對於每一個使用者-物品對,好友增強型推薦顯式地展示已經和當前物品互動過的好友集合,這個集合被定義為:針對當前商品,當前使用者的好友推薦圈(Friend Referral Circle, FRC)。
舉例來說,對於關於 AirPods 的文章, Jerry 的好友推薦圈是{Tom, Lily, Jack}。在傳統社交推薦中,好友推薦圈對於 Jerry 是不可見的(不會展示給 Jerry),因此 Jerry 可能會基於自身的興趣閱讀某一篇文章。然而,在好友增強型推薦場景中,好友推薦圈對使用者 Jerry 是顯式可見的,因此他閱讀這篇關於 AirPods 的文章,更可能是因為科技專家 Tom 讀過這篇文章。而 Jerry 閱讀一篇關於 Disneyland 的文章,完全有可能是因為他的妻子 Lily 讀過這篇文章。更進一步地,當文章與科技相關時,相較於妻子和科技文章,專家和文章的同時出現對 Jerry 的耦合影響力更大,而在娛樂方面,可能是完全相反的情況。
因此,在好友增強型推薦場景中,多個因素導致了使用者的行為。使用者閱讀/點選一篇文章的原因可能來自:(1)其自身對文章的興趣(文章本身)(2)專家的推薦(文章-好友的組合)(3)對某一好友的關注(好友)。可以看到,在好友增強型推薦場景中,使用者有關注好友在看的內容的傾向,而非僅僅看自己本身感興趣的內容。甚至可以說,傳統社交推薦關注於結合社交資訊去推薦物品,而好友增強的推薦旨在推薦物品和好友的組合。
作為好友增強型推薦的關鍵特性,顯式的好友推薦圈為該推薦場景帶來兩個挑戰:(1)如何從多方面的異質因素中提取關鍵資訊?好友增強的推薦場景涉及多個異質目標,例如物品內容,好友推薦圈及使用者-物品互動行為等。在使用者,物品和朋友推薦圈的不同組合下,這些因素的影響甚至也有所不同。因此好友增強的推薦場景更具挑戰性,因為它不僅需要學習使用者對商品的偏好,還需要預測不同因素對好友的影響。(2)如何利用顯式的好友推薦圈資訊?顯式的好友推薦圈推薦極大地強調了推薦中社交資訊的重要性,這在好友增強的推薦場景中是至關重要。但是,很少有工作在實際推薦中探索好友推薦圈的影響和特性。因此需要一種精心設計的策略,以充分利用好友增強的推薦場景中的顯式的好友推薦圈資訊。
為了解決這些問題,作者提出了一種新穎的社交影響力專注的神經網路(SIAN)。具體來說, SIAN 將好友增強推薦定義為異質社交圖上的使用者-物品互動預測任務,該任務將豐富的異質資訊靈活地整合到異質物件及其互動連線中。首先,作者設計了一個注意力特徵聚合器,它同時考慮節點級和型別級的特徵聚合,以學習使用者和物品的表示向量。接下來,作者實現了一個社交影響力耦合器,以建模透過顯式好友推薦圈傳播的耦合影響力,該耦合器利用注意力機制將多種因素(例如,朋友和物品)的影響力耦合在一起。總體而言,SIAN 模型捕獲了好友增強的推薦場景中有價值的多方面因素,從而成功地從異質資訊網路和顯式好友推薦圈中提取了使用者的最基本偏好。

模型結構

如圖 2 所示, SIAN 利用異質社交網路建模好友增強型推薦場景。除了使用者和物品的向量表示,SIAN 還透過耦合有影響力的好友與物品來學習社交影響力的低維向量表示。透過學習使用者、物品和耦合的社交影響力的向量表示,最終 SIAN 預測使用者 ? 和物品 ? 之間互動的機率。

微信「看一看」 朋友在看的增強推薦系統

圖2. SIAN 模型總覽

首先,考慮到相同型別的不同鄰居可能對特徵聚合的貢獻是不同的,並且不同型別包含多方面的資訊,因此作者設計了分層的節點級和型別級的注意力特徵聚合器。在每個級別,注意力機制區分和捕獲鄰居和型別的潛在關聯性,使得 SIAN 模型能夠更細粒度地編碼多方面的異質資訊。與之前的一些工作不同的是, SIAN 不需要基於任何先驗知識手動選擇元路徑。
其次,作者設計了一個社交影響力耦合器,其用來捕獲一個有影響力好友(例如 Tom)和一個物品(例如 Disneyland 相關文章)的耦合影響力, 從而量化它們的耦合影響力程度。最後,帶有注意力地融合來自好友推薦圈內的多個耦合影響力,以表示整個好友推薦圈對當前使用者和物品的影響。

最後,基於使用者、物品以及耦合的影響力表示,作者將三者拼接並送入兩層神經網路中,並透過一個迴歸層,預測得到使用者-物品的互動機率 。最終,透過最佳化交叉熵損失函式訓練最佳化模型。

實驗分析

基於兩個公開資料集(Yelp 和 Douban)以及微信看一看資料(FWD),作者進行了豐富的實驗評估和分析。資料集統計資訊見下表 1。

微信「看一看」 朋友在看的增強推薦系統
表1. 資料集統計

在主實驗中,作者對比了四類代表性的方法,並報告了在不同表示維下的模型表現,結果可以見表 2。可以看到,在多個資料集上,提出的 SIAN 模型明顯優於對比方法。特別是,和傳統社會化推薦方法相比,SIAN 模型依然表現突出,這得益於社交影響力耦合器在為好友增強推薦場景編碼各種社交因素時的能力,也這進一步證實了社交影響力在好友增強推薦中的重要性。

微信「看一看」 朋友在看的增強推薦系統

表2. 使用者行為預測實驗結果

其次,作者分析了多方面異質資訊的影響。在注意力特徵聚合器中,每個節點的向量表示都是從其具有不同權重的各種型別的異質鄰居聚合而來的,作者分析發現:SIAN 模型學習得到的好友型別的平均注意力權重值顯著大於物品型別的平均注意力權重。這表明了 SIAN 模型更加關注使用者的社交關係,這種關注甚至超過了內容本身。這同時也驗證了好友推薦圈是好友增強推薦中最重要的因素。實驗結果如圖 3 所示。

微信「看一看」 朋友在看的增強推薦系統

圖3. 多方面資訊影響分析

更進一步地,在微信看一看資料集上,作者分析了不同的使用者屬性如何透過社交影響力耦合器的影響力強度來影響好友增強推薦場景中的使用者行為,並得出了一些有趣的發現。例如,在圖 4(a)中,可以觀察到使用者行為受到更具權威性的朋友的影響,而與使用者自己的權威度無關。同時,高權威朋友對中等權威使用者具有更大的影響力。使用者通常更容易受到權威人士的影響,這和我們的常識也是相符的。因此,在好友增強推薦場景中,可能存在一個有趣的現象,即有時使用者會更多地關注權威人士的喜好(或者僅僅是關注權威人士本身),而不是他們自己的實際喜好。我們也觀察到其它使用者基礎屬性對於好友增強推薦場景中的使用者行為產生影響。
微信「看一看」 朋友在看的增強推薦系統
微信「看一看」 朋友在看的增強推薦系統
圖4. 社交影響力分析

總結

在這一工作中,作者首次形式化定義了微信看一看中的朋友在看推薦場景,即好友增強型推薦,其顯式地展示已經和當前物品互動過的好友。針對這一新型且應用廣泛的推薦場景,作者提出了社交影響力注意的神經網路 SIAN,SIAN 模型透過一個兩級注意力聚合器學習 user 和 item 的表示,並設計了一個社交影響力耦合器的用於提取朋友推薦圈中的影響力資訊。實驗結果表明,在三個真實的資料集上,SIAN 的效能明顯優於最新基準,豐富的模型分析揭示出有趣的社會學模式。

我們認為未來以微信看一看朋友在看為代表的好友增強型推薦將會成為人們獲取資訊的重要方式,透過推薦連線使用者與世界。現在對好友增強型推薦的研究僅僅處於初級階段,我們希望未來能有更多新的研究工作與分析。 

參考文獻:
[1] Chen, Chong, et al. "Efficient Heterogeneous Collaborative Filtering without Negative Sampling for Recommendation." Proceedings of the AAAI Conference on Artificial Intelligence. Vol. 34. No. 01. 2020.
[2] Dong, Yuxiao, Nitesh V. Chawla, and Ananthram Swami. "metapath2vec: Scalable representation learning for heterogeneous networks." Proceedings of the 23rd ACM SIGKDD international conference on knowledge discovery and data mining. 2017.
[3] Fan, Wenqi, et al. "Graph neural networks for social recommendation." The World Wide Web Conference. 2019.
[4]Grover, Aditya, and Jure Leskovec. "node2vec: Scalable feature learning for networks." Proceedings of the 22nd ACM SIGKDD international conference on Knowledge discovery and data mining. 2016.
[5] Kipf, Thomas N., and Max Welling. "Semi-supervised classification with graph convolutional networks." arXiv preprint arXiv:1609.02907 (2016).
[6] Perozzi, Bryan, Rami Al-Rfou, and Steven Skiena. "Deepwalk: Online learning of social representations." Proceedings of the 20th ACM SIGKDD international conference on Knowledge discovery and data mining. 2014.
[7] Shi, Chuan, et al. "Heterogeneous information network embedding for recommendation." IEEE Transactions on Knowledge and Data Engineering 31.2 (2018): 357-370.
[8] Veličković, Petar, et al. "Graph attention networks." arXiv preprint arXiv:1710.10903 (2017).
[9] Wang, Xiao, et al. "Heterogeneous graph attention network." The World Wide Web Conference. 2019
[10] Wu, Le, et al. "A neural influence diffusion model for social recommendation." Proceedings of the 42nd international ACM SIGIR conference on research and development in information retrieval. 2019.
[11] Xiao, Wenyi, et al. "Beyond personalization: Social content recommendation for creator equality and consumer satisfaction." Proceedings of the 25th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining. 2019.

來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/31559354/viewspace-2716441/,如需轉載,請註明出處,否則將追究法律責任。

相關文章