商品評論挖掘、電影推薦、股市預測……情感分析大有用武之地。本文幫助你一步步用Python做出自己的情感分析結果,難道你不想試試看?
需求
如果你關注資料科學研究或是商業實踐,“情感分析”(sentiment analysis)這個詞你應該不陌生吧?
維基百科上,情感分析的定義是:
文字情感分析(也稱為意見挖掘)是指用自然語言處理、文字挖掘以及計算機語言學等方法來識別和提取原素材中的主觀資訊。
聽著很高大上,是吧?如果說得具體一點呢?
給你一段文字,你就可以用情感分析的自動化方法獲得這一段內容裡包含的情感色彩是什麼。
神奇吧?
情感分析不是炫技工具。它是悶聲發大財的方法。早在2010年,就有學者指出,可以依靠Twitter公開資訊的情感分析來預測股市的漲落,準確率高達87.6%!
在這些學者看來,一旦你能夠獲得大量實時社交媒體文字資料,且利用情感分析的黑魔法,你就獲得了一顆預測近期投資市場趨勢的水晶球。
這種用資料科學碾壓競爭者的感受,是不是妙不可言啊?
大資料時代,我們可以獲得的文字資料實在太多了。僅僅是大眾點評、豆瓣和亞馬遜上海量的評論資訊就足夠我們揮鍬掄鎬,深挖一通了。
你是不是疑惑,這麼高深的技術,自己這個非計算機專業的文科生,如何才能應用呢?
不必擔心。從前情感分析還只是實驗室或者大公司的獨門祕籍。現在早已飛入尋常百姓家。門檻的降低使得我們普通人也可以用Python的幾行程式碼,完成大量文字的情感分析處理。
是不是摩拳擦掌,打算動手嘗試了?
那我們就開始吧。
安裝
為了更好地使用Python和相關軟體包,你需要先安裝Anaconda套裝。詳細的流程步驟請參考《 如何用Python做詞雲 》一文。
到你的系統“終端”(macOS, Linux)或者“命令提示符”(Windows)下,進入我們的工作目錄demo,執行以下命令。
pip install snownlp
pip install -U textblob
python -m textblob.download_corpora
複製程式碼
好了,至此你的情感分析執行環境已經配置完畢。
在終端或者命令提示符下鍵入:
jupyter notebook
複製程式碼
你會看到目錄裡之前的那些檔案,忽略他們就好。
好了,下面我們就可以愉快地利用Python來編寫程式,做文字情感分析了。
英文
我們先來看英文文字的情感分析。
這裡我們需要用到的是 TextBlob包 。
其實,從上圖可以看出,這個包可以做許許多多跟文字處理相關的事情。本文我們只專注於情感分析這一項。其他功能以後有時間我們再介紹。
我們新建一個Python 2筆記本,並且將其命名為“sentiment-analysis”。
先準備一下英文文字資料。
text = "I am happy today. I feel sad today."
複製程式碼
這裡我們輸入了兩句話,把它存入了text這個變數裡面。學了十幾年英語的你,應該立即分辨出這兩句話的情感屬性。第一句是“我今天很高興”,正面;第二句是“我今天很沮喪”,負面。
下面我們看看情感分析工具TextBlob能否正確識別這兩句話的情感屬性。
首先我們呼喚TextBlob出來。
from textblob import TextBlob
blob = TextBlob(text)
blob
複製程式碼
按Shift+Enter執行,結果好像只是把這兩句話原封不動列印了出來而已嘛。
彆著急,TextBlob已經幫我們把一段文字分成了不同的句子。我們不妨看看它的劃分對不對。
blob.sentences
複製程式碼
執行後輸出結果如下:
劃分無誤。可是你能斷句有啥了不起?!我要情感分析結果!
你怎麼這麼著急啊?一步步來嘛。好,我們輸出第一句的情感分析結果:
blob.sentences[0].sentiment
複製程式碼
執行後,你會看到有意思的結果出現了:
情感極性0.8,主觀性1.0。說明一下,情感極性的變化範圍是[-1, 1],-1代表完全負面,1代表完全正面。
既然我說自己“高興”,那情感分析結果是正面的就對了啊。
趁熱打鐵,我們看第二句。
blob.sentences[1].sentiment
複製程式碼
執行後結果如下:
“沮喪”對應的情感極性是負的0.5,沒毛病!
更有趣的是,我們還可以讓TextBlob綜合分析出整段文字的情感。
blob.sentiment
複製程式碼
執行結果是什麼?
給你10秒鐘,猜猜看。
不賣關子了,是這樣的:
你可能會覺得沒有道理。怎麼一句“高興”,一句“沮喪”,合併起來最後會得到正向結果呢?
首先不同極性的詞,在數值上是有區別的。我們應該可以找到比“沮喪”更為負面的詞彙。而且這也符合邏輯,誰會這麼“天上一腳,地下一腳”矛盾地描述自己此時的心情呢?
中文
試驗了英文文字情感分析,我們該回歸母語了。畢竟,網際網路上我們平時接觸最多的文字,還是中文的。
中文文字分析,我們使用的是 SnowNLP包 。這個包跟TextBlob一樣,也是多才多藝的。
我們還是先準備一下文字。這次我們換2個形容詞試試看。
text = u"我今天很快樂。我今天很憤怒。"
複製程式碼
注意在引號前面我們加了一個字母u,它很重要。因為它提示Python,“這一段我們輸入的文字編碼格式是Unicode,別搞錯了哦”。至於文字編碼格式的細節,有機會我們再詳細聊。
好了,文字有了,下面我們讓SnowNLP來工作吧。
from snownlp import SnowNLP
s = SnowNLP(text)
複製程式碼
我們想看看SnowNLP能不能像TextBlob一樣正確劃分我們輸入的句子,所以我們執行以下輸出:
for sentence in s.sentences:
print(sentence)
複製程式碼
執行的結果是這樣的:
好的,看來SnowNLP對句子的劃分是正確的。
我們來看第一句的情感分析結果吧。
s1 = SnowNLP(s.sentences[0])
s1.sentiments
複製程式碼
執行後的結果是:
看來“快樂”這個關鍵詞真是很能說明問題。基本上得到滿分了。
我們來看第二句:
s2 = SnowNLP(s.sentences[1])
s2.sentiments
複製程式碼
執行結果如下:
這裡你肯定發現了問題——“憤怒”這個詞表達瞭如此強烈的負面情感,為何得分依然是正的?
這是因為SnowNLP和textblob的計分方法不同。SnowNLP的情感分析取值,表達的是“這句話代表正面情感的概率”。也就是說,對“我今天很憤怒”一句,SnowNLP認為,它表達正面情感的概率很低很低。
這麼解釋就合理多了。
小結
學會了基本招式,很開心吧?下面你可以自己找一些中英文文字來實踐情感分析了。
但是你可能很快就會遇到問題。例如你輸入一些明確的負面情緒語句,得到的結果卻很正面。
不要以為自己又被忽悠了。我來解釋一下問題出在哪兒。
首先,許多語句的情感判定需要上下文和背景知識,因此如果這類資訊缺乏,判別正確率就會受到影響。這就是人比機器(至少在目前)更強大的地方。
其次,任何一個情感分析工具,實際上都是被訓練出來的。訓練時用的是什麼文字材料,直接影響到模型的適應性。
例如SnowNLP,它的訓練文字就是評論資料。因此,你如果用它來分析中文評論資訊,效果應該不錯。但是,如果你用它分析其他型別的文字——例如小說、詩歌等,效果就會大打折扣。因為這樣的文字資料組合方式,它之前沒有見過。
解決辦法當然有,就是用其他型別的文字去訓練它。見多識廣,自然就“見慣不怪”了。至於該如何訓練,請和相關軟體包的作者聯絡諮詢。
討論
除了本文提到的文字分析應用領域,你還知道哪些其他的工作可以用情感分析來自動化輔助完成?除TextBlob和SnowNLP外,你還知道哪些開放免費軟體包可以幫助我們完成情感分析工作?歡迎留言分享給大家,我們一起交流討論。
喜歡請點贊。還可以微信關注和置頂我的公眾號“玉樹芝蘭”(nkwangshuyi)。
如果你對資料科學感興趣,不妨閱讀我的系列教程索引貼《如何高效入門資料科學?》,裡面還有更多的有趣問題及解法。