教你用Python爬蟲自制有道翻譯詞典

千鋒武漢發表於2021-04-01

      Python爬蟲能夠實現的功能有很多,就看你如何去使用它了。今天小千就來教大家如何去利用Python爬蟲自制一個有道翻譯詞典。

      首先開啟有道翻譯頁面,嘗試輸入hello,就出現翻譯了,可以自動翻譯。有同學寫了爬蟲去請求上面的 的連結,宋姐姐要說錯啦。因為這個是透過ajax實現的。如何實現的呢?谷歌瀏覽器F12或者右鍵選擇->檢查.

1

      大家點開請求可以看到下圖 :

2

      接下來重點來了,難點來了!!!salt,sign,ts,bv表示什麼?如果不攜帶可不可以?

      其實這個是js中建立出來的並在每次請求的時候載入到這裡的?怎麼知道這個值是什麼?這時我們就要檢視原始碼了,右鍵--->檢視原始碼:

3

      這個檔案的js就是我們要找的,點開js檔案看看是啥?

4

      哇塞這個是什麼鬼?直接嚇跑大家。此時考驗到家耐心和信心的地方到啦 ,我們有工具可以直接格式化這些的,站長工具點開就可了,切記將所有的程式碼複製貼上到裡面直接格式化就可以。將格式化好的複製到你的pycharm中,然後strl+f查詢‘sign’。(切記按照步驟)

5

6

7

      可以分析出:

      ts:就是時間戳,而js的時間戳是13位如:1583934479084,python的time.time()是浮點型的如:1583934450.832445 ,要想得到js的時間戳就要是: r= str(int(time.time() * 1000))

      bv:n.md5(navigator.appVersion) 表示瀏覽器版本進行md5加密

      salt:r + parseInt(10 * Math.random(), 10); 表示的是時間戳拼接一個0-9的隨機數

      python實現就是:f = r + str(random.randint(0, 9))

      sign:n.md5("fanyideskweb" + e + i + "Nw(nmmbP%A-r6U3EUn]Aj")

      其中e表示要查詢的內容,此時如果我們要查詢長城則e=‘長城’

      i就是你的salt值,與前面的常量值 “fanyideskweb” 和後面的常量值“Nw(nmmbP%A-r6U3EUn]Aj” 進行拼接後使用md5加密

      補充python的md5加密:

8

      此時我們需要的內容全部準備完畢!

      透過請求獲取的返回結果response是json格式的,此時可以使用bejson.com 進行格式化

9

      所以我們透過json就方便提取資料了,其中‘tgt’就是翻譯後的內容。

10

      不說那麼多了上程式碼:

11

      大家將程式碼執行一下看到:{“errorCode”:50} 的結果沒有翻譯成功!這是為啥呢?

      就是大家在爬取的時候將連結:url = '

      中的‘_o’務必切記去除掉,這個也是有道反扒的一種機制。(這個可能就是困擾很多同學的地方)

希望本文的分享能幫到學Python的小夥伴們。還想了解哪方面的知識,可以在下面留言。

來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/31548651/viewspace-2766084/,如需轉載,請註明出處,否則將追究法律責任。

相關文章