當前主流的推薦系統中，embedding 無處不在，從一定意義上可以說，把 embedding 做好了，整個推薦系統的一個關鍵難題就攻克了。因此，本文總結了移動騰訊網推薦系統中的 embedding 技術實踐，力圖達到娛人娛己的目的。
什麼是 embedding
embedding 其實就是一種稠密向量的表示形式。在 embedding 大行其道之前 onehot 才是最靚的仔。如果和我們比較熟悉的 oneHot 對比起來理解，頓時會發現 embedding 這個玄裡玄乎的概念，實際上 so easy。
直觀上看 embedding 相當於是對 oneHot 做了平滑，而 oneHot 相當於是對 embedding 做了 max pooling
比如 RGB（三原色，red,green,blue）任何顏色都可以用一個 RGB 向量來表示，其每一維度都有明確的物理含義（和一個具體的物理量相對應）。當然 RGB 這個例子比較特殊，和我們一般意義的 embedding，還不一樣，因為 RGB 的特殊性就在，他的每一維度都是事先規定好的，所以解釋性很強。而一般意義的 embedding 則是神經網路倒數第二層的引數權重，只具有整體意義和相對意義，不具備區域性意義和絕對含義，這與 embedding 的產生過程有關，任何 embedding 一開始都是一個隨機數，然後隨著最佳化演算法，不斷迭代更新，最後網路收斂停止迭代的時候，網路各個層的引數就相對固化，得到隱層權重表（此時就相當於得到了我們想要的 embedding），然後在透過查表可以單獨檢視每個元素的 embedding。
embedding 發展大事記
從 1986 年 Hinton，提出 embedding 的概念。到出現第一個在工業上取得不錯結果的模型---word2vec,先驅們經歷了勇敢的嘗試，探索，在此向大神致敬。
MF 矩陣分解，已經隱約看到了 embedding 的影子，此時 embedding 還是一種經驗感覺的模糊存在，沒有人旗幟鮮明的提出這個概念，屬於是 embedding 誕生的前夜。
毫不誇張的說 word2vec 是 embedding 界開天闢地的大事件，從這之後一切事物都可 embedding 了，在這之後的任何 embedding 都能看到 word2vec 的影子。隨著 item2vec,wide and weep 和 youtube 等各種演算法的提出，embedding 也迅速的用到了特徵工程，畫像構建召回排序等方面。而 faiss 作為專業的向量近鄰檢索工具則解決了向量召回在工程上的最後一公里的問題。
embedding 作為一種新思想，他的意義包含以下幾個方面：
embedding 表示，把自然語言轉化為一串數字，從此自然語言可以計算； embedding 替代 oneHot 極大的降低了特徵的維度（天下人苦 oneHot 久矣）； embedding 替代協同矩陣，極大地降低了計算複雜度。
item embedding
在移動騰訊網的推薦系統中，由於我們的 item 主要是圖文，所以 item 的向量化，實際就是一個文字和圖片向量化的過程。文字 embedding 的核心理論還是 word2vec 相關理論的衍生。
基於詞向量的固定表徵：word2vec、fastText、glove 基於詞向量的動態表徵：elmo、GPT、bert。
動態詞向量相較於靜態詞向量，更加充分利用了上下文資訊，所以可以解決一詞多義的問題。在工程實踐上其優越性也得到了證明（BERT 在多個 NLP 任務中也表現優異）。
img embedding
由於我們做的是圖文推薦，因此圖片作為文章的門面特徵，對推薦也很重要，可以透過 resnet 得到圖片的向量，還可以透過 image caption 得到對一張圖片的中文描述，對於娛樂類的新聞，還可以利用 facenet 識別出組圖中，哪一張包含明星，對於動漫類類的新聞可以利用 OCR 識別出漫畫裡的文字，對於年齡，性別有明顯傾向的場景還可以利用 resnet 改變圖片的風格。
對於 CNN 結構來說，不同層級的神經元學習到了不同型別的影像特徵，由底向上特徵形成層級結構，對人臉識別任務，訓練好網路後，把每層神經元學習到的特徵視覺化，肉眼看一看每層學到了啥特徵，你會看到最底層的神經元學到的是線段等特徵，圖示的第二個隱層學到的是人臉五官的輪廓，第三層學到的是人臉的輪廓，透過三步形成了特徵的層級結構，越是底層的特徵越是所有不論什麼領域的影像都會具備的比如邊角線弧線等底層基礎特徵，越往上抽取出的特徵越與手頭任務相關。
正因為此，所以預訓練好的網路引數，尤其是底層的網路引數抽取出特徵跟具體任務越無關，越具備任務的通用性，所以這是為何一般用底層預訓練好的引數初始化新任務網路引數的原因。而高層特徵跟任務關聯較大，實際可以不用使用，或者採用 Fine-tuning 用新資料集清洗掉高層無關的特徵抽取器。
user embeding
為了使新聞和使用者可以在相同的向量空間下做運算，我們對對使用者也做了 embedding，前期主要是從使用者畫像中篩選出一些在排序模型中重要性較大的特徵來做向量化（比如透過特徵重要度分析，發現標籤（tag），媒體號（mid），一級分類（cat1），二級分類（cat2），主題（topic）等特徵對於使用者是否點選某篇文章的影響是最大的）。中期使用了更多特徵，模型採用了 DSSM(確保 user 和 item 在同一向量空間)，目前則是利用 bert+lstm 對使用者的行為序列進行了建模。
基於 embedding 的召回
得到 item，user 向量後，就可以做各種基於向量的召回了，從 embedding 本身的使用方式上看，大致可以分成以下幾種召回方式。我們的召回實踐多數用的單 embedding，少量用到了多 embedding。
embedding 的基礎用法——i2i 召回演算法
單純使用 fasttext+faiss 就可以實現好幾路召回演算法，比如 ：
iten2vec,media2vec,tag2vec,loc2vec，title2vec。
tag2vec 就是利用詞向量去做召回，比如可以用文章的標籤向量表示文章的向量，如果一個文章有 4 個 tag（keywords: "蔣凡;離婚;張大奕;網紅張大奕"）我們的經驗是取前 3 個 tag,做等權重向量相加，效果最好。當然了這不是唯一的做法。關於 embedding 向量的用法有很多種比如，等權重相加，加權相加，取平均，取最大等。
得到文章向量之後就是典型的 item2item 的計算過程了，利用 faiss 計算每篇文章的相似文章，比如為每一篇文章查詢詢出 1000 篇候選文章後，按相似度作一個截斷，比如 cosin sim<0.6 捨去，對餘下的文章，再利用文章的其他特徵比如熱度，CTR，新鮮度作一個加權，一路最簡單的 tag2vec 召回就誕生了。
其他召回和這個套路類似，就是訓練 embedding 向量的時候，略有差異。tag2vec 是訓練中文詞語的向量，而 item2vec 是訓練文章 ID（aid）所對應的向量，media2vec 訓練的是文章的作者 ID（mid）所對應的向量，loc2vec 是訓練地域名稱所對應的向量，title2vec 是用 LSTM 訓練得到的文章標題向量，doc2vec 是用 bert 計算出的文章正文（或者摘要）的向量。entity2vec 是利用我們自己構建的知識圖譜透過 transE 得到的
u2i 召回演算法初步
u2i 召回演算法實現了，uese2vec,word2vec 個性化,crosstag，DSSM 個性化等召回演算法；user2vec 是拿使用者的 tag 向量和文章的 tag 向量求相似度，做的召回；DSSM 個性化是拿使用者的 DSSM 向量和文章的 DSSM 向量求相似度，做的召回；crosstag 相當於多個 user2vec,需要把使用者的 tag 按類別進行統計，每個類取 K 個 tag,共獲取 m 組 tag，然後各組分別做 user2vec,最後彙總得到使用者的推薦列表。
u2i 召回演算法進階
uese2vec 是在做召回的初級階段，做的一些樸素的嘗試，簡單暴力見效快，儲存壓力大。每個 user 都儲存一個推薦列表，在產品初期 DAU 不多時，矛盾還不明顯，隨著 DAU 不斷提升，儲存問題日益嚴重，這迫使我們想辦法改變現狀，可行的策略有兩條，一個是把離線提前計算再儲存轉為線上即時計算不儲存，另一個是把按人推薦轉化為分群推薦。兩種方法我們都做了實踐。
分群召回流程大體如下：
分群推薦我們嘗試了簇召回，群畫像召回，LSTM 分群，DSSM 分群，bnb 分群，增量聚類，動態規則聚類。
簇召回就是先把所有使用者的 tag 向量用聚類演算法（如 minibatch-kmeans）聚成若干個簇（比如 500 個，根據肘點法確定），然後儲存下簇標籤，簇中心，每個使用者所屬的簇（一個使用者可以隸屬於一個簇或者多個簇）。得到使用者所在的簇後，有兩種做法，一種是根據實時點選日誌，在簇內做實時 CF，也就是在簇內把點選過的新聞相互推。另一種做法是離線定時計算各個簇中心和候選新聞的相似度，然後和到每個簇的候選集。從實驗效果來看簇內做實時 CF 效果要好一些。
群畫像召回是先把使用者分群，然後把同一個群裡的使用者畫像全部抽取出來，然後融合為一個群畫像，相當於把這一群人合成了一個人，然後對於群畫像，再使用和單個使用者畫像類似的個性化召回。
LSTM 分群和簇召回類似，不過使用者的向量是透過使用者最近點選文章的 m 篇文章的 bert 向量（tag2vec 向量亦可）送入 LSTM 得到使用者的向量，剩下的步驟和簇召回類似，該演算法有一定提升但是計算速度慢，很難鋪量。
DSSM 分群，是把使用者畫像送入 DSSM，得到一個使用者 64 維的向量，把文章畫像送入 DSSM，得到一個文章的 64 維的向量，剩下的步驟和簇召回類似。該演算法有提升顯著，已經鋪量使用。
bnb 分群是借鑑 airbn（愛彼迎）公佈的房源推薦演算法，把文章的多個特徵的 embedding（tag，topic，cat）拼接成一個向量，類似得到文章的向量。剩下的步驟和簇召回類似，該演算法有一定提升，不十分顯著。
增量聚類
增量聚類就是對文章或使用者聚完類後，很長一段時間聚類中心，保持不變，使用者和類中心的關係可以是變化的，比如一個使用者可能今天屬於這個簇，明天屬於另一個簇。這樣的好處是，同一個簇標籤的含義長期保持不變，便於排序層更好的學習到這個特徵。該演算法亦有顯著提升，已鋪量使用。
主要步驟如下
利用聚類演算法預聚類，以 Kmeans 為例
儲存預聚類的聚類中心 C 和類標籤 L
對於新增資料點 Xnew,計算其到各個聚類中心 Ci 的距離
把新增資料點 Xnew 分到距離其最近的聚類中心 Ci，所屬的類別 Li
在業務低峰期全量更新每個類的聚類中心，以消除增量聚類可能引入的區域性偏差，以提高系統的準確性
動態規則聚類
根據使用者的畫像，將使用者聚成若個類，然後再根據類大小，將類大小小於一定閾值的類合併到與其最相似的類，經過多次迭代後聚類過程完成。該演算法效率高，CTR 提升約 3%。
主要步驟如下：
處理使用者畫像資料，得到每個使用者最感興趣的 K 個興趣點
把這 K 個興趣點按照權重大小，組合成一個興趣標籤
如果存在相應的聚類標籤則直接加入該類，否則建立一個新的聚類標籤
全部資料遍歷完成後，統計各個聚類標籤下的使用者數
如果該類別下的使用者數大於閾值，則該聚類標籤可以保留，否則該聚類標籤需要和其他聚類標籤合併
對於需要合併的聚類標籤，首先把屬於該類別的使用者標籤回退一步，即得到該聚類標籤下使用者的 k-1 個興趣點組成的興趣標籤，然後重複 3-5 的過程，最好得到一個類大小相對均衡的聚類結果
embedding 召回演算法--其他
這個過程主要是用 DNN 類的演算法做一些召回，比如 CNN，attention，YouTube 等；CNN 召回主要是用於圖文相關召回，希望把文章的 title,tag，abstract 合成為一個向量做召回；attention 主要是把文章資訊和圖片資訊做了融合。
YouTube 是利用 embedding 特徵做推薦的開山之作，由於名聲比較大，我們還是複用了他的網路結構，只不過在使用的特徵上稍有差別。從一個 embedding 主義者的角度看，他的典型特點是把所有的特徵（無論離散連續，單值多值）全部轉化為 embedding，然後把各種 embedding 拼接在一起，構成一個一字長蛇陣的向量，然後送入 DNN，最後得到文章的向量。在我們的實踐中主要用了 cat1，cat2,mid,topic,kg 等特徵的 embedding，來訓練。從實踐的效果來看，第一版效果不佳，並未達到預期效果，主要是影片推薦和新聞推薦有時效性的差異（一個影片時效性可以很長，因此這個 VID 的 embedding 就可以反覆不斷地訓練，越來越好，而新聞的生命週期則很短，往往是還沒來得及曝光就過期了），後續又做了各種最佳化，效果也不斷提升。
airbnb 主要貢獻是在稀疏樣本的構造上有所創新，個人感覺 Airbnb 這個操作部分彌補了 YouTube 在新聞推薦領域水土不服的問題。從一個 embedding 主義者的角度看，他的創新點主要有一下兩點，一個是分群 embedding，另一個是使用者和 item 混合訓練。在移動騰訊網的動態規則聚類召回演算法中就借鑑了 Airbnb 分群訓練 embedding 的思想。
在特徵工程中，對於離散值，連續值，多值大致有以下幾種 embedding 的方法。預先訓練的 embedding 特徵向量，訓練樣本大，引數學習更充分。end2end 是透過 embedding 層完成從高維稀疏向量到低維稠密特徵向量的轉換，優點是端到端，梯度統一，缺點是引數多，收斂速度慢，如果資料量少，引數很難充分訓練。
不同的深度學習模型中，除了對網路結構的各種最佳化外，在 embedding 的運算上也進行了各種最佳化的嘗試，個人覺得對網路結構的各種最佳化本質上也是對 embedding 的運算的最佳化。
embedding 作為一種技術，雖然很流行，但是他也存在一些缺陷，比如增量更新的語義不變性，很難同時包含多個特徵，長尾資料難以訓練等。
針對 embedding 的空間分佈影響模型的泛化誤差的問題阿里和谷歌先後在 embedding 的表示和結構上進行了各種嘗試，其中阿里提出了 residual embedding 的概念，希望把一個向量用中心向量和殘差向量的形式去表示，以達到同一類別向量簇內高度聚集的目的。谷歌則希望對 embedding 的編碼空間進行最佳化，簡單來說就是為更高頻更有效的特徵分配更多的編碼位置，反之則分配更少的編碼位置。
embedding 總體來說還是一種很有效的技術，在實踐過程中大致經歷了以下演進路線：