# [什麼是倒排索引？](https://www.cnblogs.com/zlslch/p/6440114.html)

見其名知其意，有倒排索引，對應肯定，有正向索引。

正向索引（forward index），反向索引（inverted index）更熟悉的名字是倒排索引。

在搜尋引擎中每個檔案都對應一個檔案ID，檔案內容被表示為一系列關鍵詞的集合（實際上在搜尋引擎索引庫中，關鍵詞也已經轉換為關鍵詞ID）。例如“文件1”經過分詞，提取了20個關鍵詞，每個關鍵詞都會記錄它在文件中的出現次數和出現位置。

得到正向索引的結構如下：

“文件1”的ID > 單詞1：出現次數，出現位置列表；單詞2：出現次數，出現位置列表；…………。

“文件2”的ID > 此文件出現的關鍵詞列表。

![](https://images2015.cnblogs.com/blog/855959/201707/855959-20170706154309815-1724421988.png)

一般是透過key，去找value。

當使用者在主頁上搜尋關鍵詞“華為手機”時，假設只存在正向索引（forward index），那麼就需要掃描索引庫中的所有文件，找出所有包含關鍵詞“華為手機”的文件，再根據打分模型進行打分，排出名次後呈現給使用者。因為網際網路上收錄在搜尋引擎中的文件的數目是個天文數字，這樣的索引結構根本無法滿足實時返回排名結果的要求。

所以，搜尋引擎會將正向索引重新構建為倒排索引，即把檔案ID對應到關鍵詞的對映轉換為關鍵詞到檔案ID的對映，每個關鍵詞都對應著一系列的檔案，這些檔案中都出現這個關鍵詞。

得到倒排索引的結構如下：

“關鍵詞1”：“文件1”的ID，“文件2”的ID，…………。

“關鍵詞2”：帶有此關鍵詞的文件ID列表。

![](https://images2015.cnblogs.com/blog/855959/201707/855959-20170706154505378-610589524.png)

從詞的關鍵字，去找文件。

## 1.單詞——文件矩陣

單詞-文件矩陣是表達兩者之間所具有的一種包含關係的概念模型，圖1展示了其含義。圖3-1的每列代表一個文件，每行代表一個單詞，打對勾的位置代表包含關係。

![](https://images2015.cnblogs.com/blog/855959/201702/855959-20170224195649726-238255448.png)

圖1 單詞-文件矩陣

從縱向即文件這個維度來看，每列代表文件包含了哪些單詞，比如文件1包含了詞彙1和詞彙4，而不包含其它單詞。從橫向即單詞這個維度來看，每行代表了哪些文件包含了某個單詞。比如對於詞彙1來說，文件1和文件4中出現過單詞1，而其它文件不包含詞彙1。矩陣中其它的行列也可作此種解讀。

搜尋引擎的索引其實就是實現“單詞-文件矩陣”的具體[資料結構](http://lib.csdn.net/base/datastructure "演算法與資料結構知識庫")。可以有不同的方式來實現上述概念模型，比如“倒排索引”、“簽名檔案”、“字尾樹”等方式。但是各項實驗資料表明，“倒排索引”是實現單詞到文件對映關係的最佳實現方式，所以本博文主要介紹“倒排索引”的技術細節。

## 2.倒排索引基本概念

文件(Document)：一般搜尋引擎的處理物件是網際網路網頁，而文件這個概念要更寬泛些，代表以文字形式存在的儲存物件，相比網頁來說，涵蓋更多種形式，比如Word，PDF，html，XML等不同格式的檔案都可以稱之為文件。再比如一封郵件，一條簡訊，一條微博也可以稱之為文件。在本書後續內容，很多情況下會使用文件來表徵文字資訊。

文件集合(Document Collection)：由若干文件構成的集合稱之為文件集合。比如海量的網際網路網頁或者說大量的電子郵件都是文件集合的具體例子。

文件編號(Document ID)：在搜尋引擎內部，會將文件集合內每個文件賦予一個唯一的內部編號，以此編號來作為這個文件的唯一標識，這樣方便內部處理，每個文件的內部編號即稱之為“文件編號”，後文有時會用DocID來便捷地代表文件編號。

單詞編號(Word ID)：與文件編號類似，搜尋引擎內部以唯一的編號來表徵某個單詞，單詞編號可以作為某個單詞的唯一表徵。

倒排索引(Inverted Index)：倒排索引是實現“單詞-文件矩陣”的一種具體儲存形式，透過倒排索引，可以根據單詞快速獲取包含這個單詞的文件列表。倒排索引主要由兩個部分組成：“單詞詞典”和“倒排檔案”。

單詞詞典(Lexicon)：搜尋引擎的通常索引單位是單詞，單詞詞典是由文件集合中出現過的所有單詞構成的字串集合，單詞詞典內每條索引項記載單詞本身的一些資訊以及指向“倒排列表”的指標。

倒排列表(PostingList)：倒排列表記載了出現過某個單詞的所有文件的文件列表及單詞在該文件中出現的位置資訊，每條記錄稱為一個倒排項(Posting)。根據倒排列表，即可獲知哪些文件包含某個單詞。

倒排檔案(Inverted File)：所有單詞的倒排列表往往順序地儲存在磁碟的某個檔案裡，這個檔案即被稱之為倒排檔案，倒排檔案是儲存倒排索引的物理檔案。

關於這些概念之間的關係，透過圖2可以比較清晰的看出來。

![](https://images2015.cnblogs.com/blog/855959/201702/855959-20170224200237991-592489046.png)

## 3.倒排索引簡單例項

倒排索引從邏輯結構和基本思路上來講非常簡單。下面我們透過具體例項來進行說明，使得讀者能夠對倒排索引有一個宏觀而直接的感受。

假設文件集合包含五個文件，每個文件內容如圖3所示，在圖中最左端一欄是每個文件對應的文件編號。我們的任務就是對這個文件集合建立倒排索引。

![](https://images2015.cnblogs.com/blog/855959/201702/855959-20170224200300601-1967186316.png)

圖3   文件集合

中文和英文等語言不同，單詞之間沒有明確分隔符號，所以首先要用分詞系統將文件自動切分成單詞序列。這樣每個文件就轉換為由單詞序列構成的資料流，為了系統後續處理方便，需要對每個不同的單詞賦予唯一的單詞編號，同時記錄下哪些文件包含這個單詞，在如此處理結束後，我們可以得到最簡單的倒排索引（參考圖3-4）。在圖4中，“單詞ID”一欄記錄了每個單詞的單詞編號，第二欄是對應的單詞，第三欄即每個單詞對應的倒排列表。比如單詞“谷歌”，其單詞編號為1，倒排列表為{1,2,3,4,5}，說明文件集合中每個文件都包含了這個單詞。

![](https://images2015.cnblogs.com/blog/855959/201702/855959-20170224200334195-2052728227.png)

圖4   簡單的倒排索引

之所以說圖4所示倒排索引是最簡單的，是因為這個索引系統只記載了哪些文件包含某個單詞，而事實上，索引系統還可以記錄除此之外的更多資訊。圖5是一個相對複雜些的倒排索引，與圖4的基本索引系統比，在單詞對應的倒排列表中不僅記錄了文件編號，還記載了單詞頻率資訊（TF），即這個單詞在某個文件中的出現次數，之所以要記錄這個資訊，是因為詞頻資訊在搜尋結果排序時，計算查詢和文件相似度是很重要的一個計算因子，所以將其記錄在倒排列表中，以方便後續排序時進行分值計算。在圖5的例子裡，單詞“創始人”的單詞編號為7，對應的倒排列表內容為：（3:1），其中的3代表文件編號為3的文件包含這個單詞，數字1代表詞頻資訊，即這個單詞在3號文件中只出現過1次，其它單詞對應的倒排列表所代表含義與此相同。

![](https://images2015.cnblogs.com/blog/855959/201702/855959-20170224200417070-899412746.png)

圖 5 帶有單詞頻率資訊的倒排索引

實用的倒排索引還可以記載更多的資訊，圖6所示索引系統除了記錄文件編號和單詞頻率資訊外，額外記載了兩類資訊，即每個單詞對應的“文件頻率資訊”（對應圖6的第三欄）以及在倒排列表中記錄單詞在某個文件出現的位置資訊。

![](https://images2015.cnblogs.com/blog/855959/201702/855959-20170224200448148-924219280.png)

圖6   帶有單詞頻率、文件頻率和出現位置資訊的倒排索引

“文件頻率資訊”代表了在文件集合中有多少個文件包含某個單詞，之所以要記錄這個資訊，其原因與單詞頻率資訊一樣，這個資訊在搜尋結果排序計算中是非常重要的一個因子。而單詞在某個文件中出現的位置資訊並非索引系統一定要記錄的，在實際的索引系統裡可以包含，也可以選擇不包含這個資訊，之所以如此，因為這個資訊對於搜尋系統來說並非必需的，位置資訊只有在支援“短語查詢”的時候才能夠派上用場。

以單詞“拉斯”為例，其單詞編號為8，文件頻率為2，代表整個文件集合中有兩個文件包含這個單詞，對應的倒排列表為：{(3;1;<4>)，(5;1;<4>)},其含義為在文件3和文件5出現過這個單詞，單詞頻率都為1，單詞“拉斯”在兩個文件中的出現位置都是4，即文件中第四個單詞是“拉斯”。

圖6所示倒排索引已經是一個非常完備的索引系統，實際搜尋系統的索引結構基本如此，區別無非是採取哪些具體的資料結構來實現上述邏輯結構。

有了這個索引系統，搜尋引擎可以很方便地響應使用者的查詢，比如使用者輸入查詢詞“Facebook”，搜尋系統查詢倒排索引，從中可以讀出包含這個單詞的文件，這些文件就是提供給使用者的搜尋結果，而利用單詞頻率資訊、文件頻率資訊即可以對這些候選搜尋結果進行排序，計算文件和查詢的相似性，按照相似性得分由高到低排序輸出，此即為搜尋系統的部分內部流程，具體實現方案本書第五章會做詳細描述。

## 4\. 單詞詞典

單詞詞典是倒排索引中非常重要的組成部分，它用來維護文件集合中出現過的所有單詞的相關資訊，同時用來記載某個單詞對應的倒排列表在倒排檔案中的位置資訊。在支援搜尋時，根據使用者的查詢詞，去單詞詞典裡查詢，就能夠獲得相應的倒排列表，並以此作為後續排序的基礎。
       對於一個規模很大的文件集合來說，可能包含幾十萬甚至上百萬的不同單詞，能否快速定位某個單詞，這直接影響搜尋時的響應速度，所以需要高效的資料結構來對單詞詞典進行構建和查詢，常用的資料結構包括雜湊加連結串列結構和樹形詞典結構。
4.1   雜湊加連結串列
       圖7是這種詞典結構的示意圖。這種詞典結構主要由兩個部分構成：

主體部分是雜湊表，每個雜湊表項儲存一個指標，指標指向衝突連結串列，在衝突連結串列裡，相同雜湊值的單詞形成連結串列結構。之所以會有衝突連結串列，是因為兩個不同單詞獲得相同的雜湊值，如果是這樣，在雜湊方法裡被稱做是一次衝突，可以將相同雜湊值的單詞儲存在連結串列裡，以供後續查詢。

![](https://images2015.cnblogs.com/blog/855959/201702/855959-20170224200556085-1266490265.png)

在建立索引的過程中，詞典結構也會相應地被構建出來。比如在解析一個新文件的時候，對於某個在文件中出現的單詞T，首先利用雜湊函式獲得其雜湊值，之後根據雜湊值對應的雜湊表項讀取其中儲存的指標，就找到了對應的衝突連結串列。如果衝突連結串列裡已經存在這個單詞，說明單詞在之前解析的文件裡已經出現過。如果在衝突連結串列裡沒有發現這個單詞，說明該單詞是首次碰到，則將其加入衝突連結串列裡。透過這種方式，當文件集合內所有文件解析完畢時，相應的詞典結構也就建立起來了。

在響應使用者查詢請求時，其過程與建立詞典類似，不同點在於即使詞典裡沒出現過某個單詞，也不會新增到詞典內。以圖7為例，假設使用者輸入的查詢請求為單詞3，對這個單詞進行雜湊，定位到雜湊表內的2號槽，從其保留的指標可以獲得衝突連結串列，依次將單詞3和衝突連結串列內的單詞比較，發現單詞3在衝突連結串列內，於是找到這個單詞，之後可以讀出這個單詞對應的倒排列表來進行後續的工作，如果沒有找到這個單詞，說明文件集合內沒有任何文件包含單詞，則搜尋結果為空。

4.2   樹形結構
       B樹（或者B+樹）是另外一種高效查詢結構，圖8是一個 B樹結構示意圖。B樹與雜湊方式查詢不同，需要字典項能夠按照大小排序（數字或者字元序），而雜湊方式則無須資料滿足此項要求。
       B樹形成了層級查詢結構，中間節點用於指出一定順序範圍的詞典專案儲存在哪個子樹中，起到根據詞典項比較大小進行導航的作用，最底層的葉子節點儲存單詞的地址資訊，根據這個地址就可以提取出單詞字串。

![](https://images2015.cnblogs.com/blog/855959/201702/855959-20170224200636976-342112863.png)

圖8   B樹查詢結構

總結

![](https://images2015.cnblogs.com/blog/855959/201702/855959-20170224200716070-76147588.png)

![](https://images2015.cnblogs.com/blog/855959/201702/855959-20170224200724179-596243521.png)

單詞ID：記錄每個單詞的單詞編號；
單詞：對應的單詞；
文件頻率：代表文件集合中有多少個文件包含某個單詞
倒排列表：包含單詞ID及其他必要資訊
DocId：單詞出現的文件id
TF：單詞在某個文件中出現的次數
POS：單詞在文件中出現的位置
     以單詞“加盟”為例，其單詞編號為6，文件頻率為3，代表整個文件集合中有三個文件包含這個單詞，對應的倒排列表為{(2;1;<4>),(3;1;<7>),(5;1;<5>)}，含義是在文件2，3，5出現過這個單詞，在每個文件的出現過1次，單詞“加盟”在第一個文件的POS是4，即文件的第四個單詞是“加盟”，其他的類似。
這個倒排索引已經是一個非常完備的索引系統，實際搜尋系統的索引結構基本如此。

後端技術雜談1：搜尋引擎基礎倒排索引

相關文章