免費的Lucene 原理與程式碼分析完整版下載

業餘草發表於2017-08-23

Lucene是一個基於Java的高效的全文檢索庫。
那麼什麼是全文檢索,為什麼需要全文檢索?
目前人們生活中出現的資料總的來說分為兩類:結構化資料和非結構化資料。很容易理解,結構化資料是有固定格式和結構的或者有限長度的資料,比如資料庫,後設資料等。非結構化資料則是不定長或者沒有固定格式的資料,如圖片,郵件,文件等。還有一種較少的分類為半結構化資料,如XML,HTML等,在一定程度上我們可以將其按照結構化資料來處理,也可以抽取純文字按照非結構化資料來處理。
非結構化資料又稱為全文資料。,對其搜尋主要有兩種方式:

  1. 順序掃描法(SerialScanning):顧名思義,要找內容包含某一個字串的文件,就挨著文件一個個找,對照每一個文件從頭到尾,一直掃描,指導掃描完所有的文件。類似於Windows中搜尋檔案的功能。
  2.  第二種則為索引。就是從非結構化資料中提取出資訊重新組織,使其變得有一定的組織,從而提高檢索效率。比如我們的電話簿,從電話簿中查詢聯絡人,我們根據首字母拼音可以索引定位到某一個聯絡人。

先建立索引在對索引進行搜尋的過程就叫做全文檢索(Full-text Search)。下圖為全文檢索的一般過程,也是Lucene檢索的過程。

我的部落格:CODE大全www.codedq.net業餘草www.xttblog.com愛分享www.ndislwf.comifxvn.com

Lucene總的來說是:

  • 一個高效的,可擴充套件的,全文檢索庫。
  • 全部用Java實現,無須配置。
  • 僅支援純文字檔案的索引(Indexing)和搜尋(Search)。
  • 不負責由其他格式的檔案抽取純文字檔案,或從網路中抓取檔案的過程。

在Lucene in action中,Lucene 的構架和過程如下圖,

image

說明Lucene是有索引和搜尋的兩個過程,包含索引建立,索引,搜尋三個要點。

我的部落格:CODE大全www.codedq.net業餘草www.xttblog.com愛分享www.ndislwf.comifxvn.com

讓我們更細一些看Lucene的各元件:

lucene  zong ti jia gou

  • 被索引的文件用Document物件表示。
  • IndexWriter通過函式addDocument將文件新增到索引中,實現建立索引的過程。
  • Lucene的索引是應用反向索引。
  • 當使用者有請求時,Query代表使用者的查詢語句。
  • IndexSearcher通過函式search搜尋Lucene Index。
  • IndexSearcher計算term weight和score並且將結果返回給使用者。
  • 返回給使用者的文件集合用TopDocsCollector表示。

 

那麼如何應用這些元件呢?

讓我們再詳細到對Lucene API 的呼叫實現索引和搜尋過程。

using lucene

  • 索引過程如下:
    • 建立一個IndexWriter用來寫索引檔案,它有幾個引數,INDEX_DIR就是索引檔案所存放的位置,Analyzer便是用來對文件進行詞法分析和語言處理的。
    • 建立一個Document代表我們要索引的文件。
    • 將不同的Field加入到文件中。我們知道,一篇文件有多種資訊,如題目,作者,修改時間,內容等。不同型別的資訊用不同的Field來表示,在本例子中,一共有兩類資訊進行了索引,一個是檔案路徑,一個是檔案內容。其中FileReader的SRC_FILE就表示要索引的原始檔。
    • IndexWriter呼叫函式addDocument將索引寫到索引資料夾中。
  • 搜尋過程如下:
    • IndexReader將磁碟上的索引資訊讀入到記憶體,INDEX_DIR就是索引檔案存放的位置。
    • 建立IndexSearcher準備進行搜尋。
    • 建立Analyer用來對查詢語句進行詞法分析和語言處理。
    • 建立QueryParser用來對查詢語句進行語法分析。
    • QueryParser呼叫parser進行語法分析,形成查詢語法樹,放到Query中。
    • IndexSearcher呼叫search對查詢語法樹Query進行搜尋,得到結果TopScoreDocCollector。

以上便是Lucene API函式的簡單呼叫。

我的部落格:CODE大全www.codedq.net業餘草www.xttblog.com愛分享www.ndislwf.comifxvn.com

然而當進入Lucene的原始碼後,發現Lucene有很多包,關係錯綜複雜。

然而通過下圖,我們不難發現,Lucene的各原始碼模組,都是對普通索引和搜尋過程的一種實現。

此圖是上一節介紹的全文檢索的流程對應的Lucene實現的包結構。(參照http://www.lucene.com.cn/about.htm中文章《開放原始碼的全文檢索引擎Lucene》)

clip_image008

  • Lucene的analysis模組主要負責詞法分析及語言處理而形成Term。
  • Lucene的index模組主要負責索引的建立,裡面有IndexWriter。
  • Lucene的store模組主要負責索引的讀寫。
  • Lucene的QueryParser主要負責語法分析。
  • Lucene的search模組主要負責對索引的搜尋。
  • Lucene的similarity模組主要負責對相關性打分的實現。

瞭解了Lucene的整個結構,我們便可以開始Lucene的原始碼之旅了。

免費的Lucene 原理與程式碼分析完整版下載地址:lucene原理與程式碼分析完整版pdf下載

相關文章