Melanie Tosik目前就職於旅遊搜尋公司WayBlazer,她的工作內容是透過自然語言請求來生產個性化旅遊推薦路線。回顧她的學習歷程,她為期望入門自然語言處理的初學者列出了一份學習資源清單。
displaCy網站上的視覺化依賴解析樹
記得我曾經讀到過這樣一段話,如果你覺得有必要回答兩次同樣的問題,那就把答案發到部落格上,這可能是一個好主意。根據這一原則,也為了節省回答問題的時間,我在這裡給出該問題的標準問法:“我的背景是研究**科學,我對學習NLP很有興趣。應該從哪說起呢?”
在您一頭扎進去閱讀本文之前,請注意,下面列表只是提供了非常通用的入門清單(有可能不完整)。 為了幫助讀者更好地閱讀,我在括號內新增了簡短的描述並對難度做了估計。最好具備基本的程式設計技能(例如Python)。
線上課程
• Dan Jurafsky 和 Chris Manning:自然語言處理[非常棒的影片介紹系列]
https://www.youtube.com/watch?v=nfoudtpBV68&list=PL6397E4B26D00A269
• 史丹佛CS224d:自然語言處理的深度學習[更高階的機器學習演算法、深度學習和NLP的神經網路架構]
http://cs224d.stanford.edu/syllabus.html
• Coursera:自然語言處理簡介[由密西根大學提供的NLP課程]
https://www.coursera.org/learn/natural-language-processing
圖書館和開放資源
• spaCy(網站,部落格)[Python; 新興的開放原始碼庫並自帶炫酷的用法示例、API文件和演示應用程式]
網站網址:https://spacy.io/
部落格網址:https://explosion.ai/blog/
演示應用網址: https://spacy.io/docs/usage/showcase
• 自然語言工具包(NLTK)(網站,圖書)[Python; NLP實用程式設計介紹,主要用於教學目的]
網站網址:http://www.nltk.org
圖書網址: http://www.nltk.org/book/
• 史丹佛CoreNLP(網站)[由Java開發的高質量的自然語言分析工具包]
網站網址: https://stanfordnlp.github.io/CoreNLP/
活躍的部落格
• 自然語言處理部落格(HalDaumé)
部落格網址:https://nlpers.blogspot.com/
• Google研究部落格
部落格網址:https://research.googleblog.com/
• 語言日誌部落格(Mark Liberman)
部落格網址:http://languagelog.ldc.upenn.edu/nll/
書籍
• 言語和語言處理(Daniel Jurafsky和James H. Martin)[經典的NLP教科書,涵蓋了所有NLP的基礎知識,第3版即將出版]
https://web.stanford.edu/~jurafsky/slp3/
• 統計自然語言處理的基礎(Chris Manning和HinrichSchütze)[更高階的統計NLP方法]
https://nlp.stanford.edu/fsnlp/
• 資訊檢索簡介(Chris Manning,Prabhakar Raghavan和HinrichSchütze)[關於排名/搜尋的優秀參考書]
https://nlp.stanford.edu/IR-book/
• 自然語言處理中的神經網路方法(Yoav Goldberg)[深入介紹NLP的NN方法,和相對應的入門書籍]
https://www.amazon.com/Network-Methods-Natural-Language-Processing/dp/1627052984
入門書籍: http://u.cs.biu.ac.il/~yogo/nnlp.pdf
其它雜項
• 如何在TensorFlow中構建word2vec模型[學習指南]
https://www.tensorflow.org/versions/master/tutorials/word2vec/index.html
• NLP深度學習的資源[按主題分類的關於深度學習的頂尖資源的概述]
https://github.com/andrewt3000/dl4nlp
• 最後一句話:計算語言學和深度學習——論自然語言處理的重要性。(Chris Manning)[文章]
http://mitp.nautil.us/article/170/last-words-computational-linguistics-and-deep-learning
• 對分散式表徵的自然語言的理解(Kyunghyun Cho)[關於NLU的ML / NN方法的獨立講義]
https://github.com/nyu-dl/NLP_DL_Lecture_Note/blob/master/lecture_note.pdf
• 帶淚水的貝葉斯推論(Kevin Knight)[教程工作簿]
http://www.isi.edu/natural-language/people/bayes-with-tears.pdf
• 國際計算語言學協會(ACL)[期刊選集]
• 果殼問答網站(Quora):我是如何學習自然語言處理的?
https://www.quora.com/How-do-I-learn-Natural-Language-Processing
DIY專案和資料集
• Nicolas Iderhoff已經建立了一份公開的、詳盡的NLP資料集的列表。除了這些,這裡還有一些專案,可以推薦給那些想要親自動手實踐的NLP新手們:
資料集:https://github.com/niderhoff/nlp-datasets
• 基於隱馬爾可夫模型(HMM)實現詞性標註(POS tagging).
https://en.wikipedia.org/wiki/Part-of-speech_tagging
https://en.wikipedia.org/wiki/Hidden_Markov_model
• 使用CYK演算法執行上下文無關的語法解析
https://en.wikipedia.org/wiki/CYK_algorithm
https://en.wikipedia.org/wiki/Context-free_grammar
• 在文字集合中,計算給定兩個單詞之間的語義相似度,例如點互資訊(PMI,Pointwise Mutual Information)
https://en.wikipedia.org/wiki/Semantic_similarity
https://en.wikipedia.org/wiki/Pointwise_mutual_information
• 使用樸素貝葉斯分類器來過濾垃圾郵件
https://en.wikipedia.org/wiki/Naive_Bayes_classifier
https://en.wikipedia.org/wiki/Naive_Bayes_spam_filtering
• 根據單詞之間的編輯距離執行拼寫檢查
https://en.wikipedia.org/wiki/Spell_checker
https://en.wikipedia.org/wiki/Edit_distance
• 實現一個馬爾科夫鏈文字生成器
https://en.wikipedia.org/wiki/Markov_chain
• 使用LDA實現主題模型
https://en.wikipedia.org/wiki/Topic_model
https://en.wikipedia.org/wiki/Latent_Dirichlet_allocation
• 使用word2vec從大型文字語料庫,例如維基百科,生成單詞嵌入。
https://code.google.com/archive/p/word2vec/
https://en.wikipedia.org/wiki/Wikipedia:Database_download
NLP在社交媒體上
• Twitter:#nlproc,NLPers上的文章列表(由Jason Baldrige提供)
https://twitter.com/hashtag/nlproc
https://twitter.com/jasonbaldridge/lists/nlpers
• Reddit 社交新聞站點:/r/LanguageTechnology
https://www.reddit.com/r/LanguageTechnology
• Medium釋出平臺:Nlp
原文連結:
https://medium.com/towards-data-science/how-to-get-started-in-nlp-6a62aa4eaeff
授權轉載自資料派THU
ID:DatapiTHU
作者:Melanie Tosik
翻譯:閔黎
校對:丁楠雅