【轉載】教你分分鐘學會用python爬蟲框架Scrapy爬取心目中的女神

weixin_34120274發表於2016-09-04
Python爬蟲框架

原文：教你分分鐘學會用python爬蟲框架Scrapy爬取心目中的女神

 

本博文將帶領你從入門到精通爬蟲框架Scrapy，最終具備爬取任何網頁的資料的能力。本文以校花網為例進行爬取，校花網：http://www.xiaohuar.com/，讓你體驗爬取校花的成就感。

 

Scrapy，Python開發的一個快速,高層次的螢幕抓取和web抓取框架，用於抓取web站點並從頁面中提取結構化的資料。Scrapy用途廣泛，可以用於資料探勘、監測和自動化測試。
Scrapy吸引人的地方在於它是一個框架，任何人都可以根據需求方便的修改。它也提供了多種型別爬蟲的基類，如BaseSpider、sitemap爬蟲等，最新版本又提供了web2.0爬蟲的支援。
Scratch，是抓取的意思，這個Python的爬蟲框架叫Scrapy，大概也是這個意思吧，就叫它：小刮刮吧。
 
Scrapy 使用了 Twisted非同步網路庫來處理網路通訊。整體架構大致如下：

 

Scrapy主要包括了以下元件：

  • 引擎(Scrapy)
    用來處理整個系統的資料流處理, 觸發事務(框架核心)
  • 排程器(Scheduler)
    用來接受引擎發過來的請求, 壓入佇列中, 並在引擎再次請求的時候返回. 可以想像成一個URL（抓取網頁的網址或者說是連結）的優先佇列, 由它來決定下一個要抓取的網址是什麼, 同時去除重複的網址
  • 下載器(Downloader)
    用於下載網頁內容, 並將網頁內容返回給蜘蛛(Scrapy下載器是建立在twisted這個高效的非同步模型上的)
  • 爬蟲(Spiders)
    爬蟲是主要幹活的, 用於從特定的網頁中提取自己需要的資訊, 即所謂的實體(Item)。使用者也可以從中提取出連結,讓Scrapy繼續抓取下一個頁面
  • 專案管道(Pipeline)
    負責處理爬蟲從網頁中抽取的實體，主要的功能是持久化實體、驗證實體的有效性、清除不需要的資訊。當頁面被爬蟲解析後，將被髮送到專案管道，並經過幾個特定的次序處理資料。
  • 下載器中介軟體(Downloader Middlewares)
    位於Scrapy引擎和下載器之間的框架，主要是處理Scrapy引擎與下載器之間的請求及響應。
  • 爬蟲中介軟體(Spider Middlewares)
    介於Scrapy引擎和爬蟲之間的框架，主要工作是處理蜘蛛的響應輸入和請求輸出。
  • 排程中介軟體(Scheduler Middewares)
    介於Scrapy引擎和排程之間的中介軟體，從Scrapy引擎傳送到排程的請求和響應。

Scrapy執行流程大概如下：

  1. 引擎從排程器中取出一個連結(URL)用於接下來的抓取
  2. 引擎把URL封裝成一個請求(Request)傳給下載器
  3. 下載器把資源下載下來，並封裝成應答包(Response)
  4. 爬蟲解析Response
  5. 解析出實體（Item）,則交給實體管道進行進一步的處理
  6. 解析出的是連結（URL）,則把URL交給排程器等待抓取

一、安裝

　　因為python3並不能完全支援Scrapy，因此為了完美執行Scrapy，我們使用python2.7來編寫和執行Scrapy。

1
pip install Scrapy

　　注：windows平臺需要依賴pywin32，請根據自己系統32/64位選擇下載安裝，https://sourceforge.net/projects/pywin32/

　　　　其它可能依賴的安裝包：lxml-3.6.4-cp27-cp27m-win_amd64.whl，VCForPython27.msi百度下載即可

二、基本使用

1、建立專案

執行命令:

1
scrapy startproject p1（your_project_name）

2.自動建立目錄的結果：

檔案說明：

  • scrapy.cfg  專案的配置資訊，主要為Scrapy命令列工具提供一個基礎的配置資訊。（真正爬蟲相關的配置資訊在settings.py檔案中）
  • items.py    設定資料儲存模板，用於結構化資料，如：Django的Model
  • pipelines    資料處理行為，如：一般結構化的資料持久化
  • settings.py 配置檔案，如：遞迴的層數、併發數，延遲下載等
  • spiders      爬蟲目錄，如：建立檔案，編寫爬蟲規則

注意：一般建立爬蟲檔案時，以網站域名命名

3、編寫爬蟲

在spiders目錄中新建 xiaohuar_spider.py 檔案

示例程式碼：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
#!/usr/bin/env python
# -*- coding:utf-8 -*-
import scrapy
  
class XiaoHuarSpider(scrapy.spiders.Spider):
    name = "xiaohuar"
    allowed_domains = ["xiaohuar.com"]
    start_urls = [
        "http://www.xiaohuar.com/hua/",
    ]
  
    def parse(self, response):
        # print(response, type(response))
        # from scrapy.http.response.html import HtmlResponse
        # print(response.body_as_unicode())
  
        current_url = response.url #爬取時請求的url
        body = response.body  #返回的html
        unicode_body = response.body_as_unicode()#返回的html unicode編碼

　　備註：

  • 1.爬蟲檔案需要定義一個類，並繼承scrapy.spiders.Spider
  • 2.必須定義name，即爬蟲名，如果沒有name，會報錯。因為原始碼中是這樣定義的：

  • 3.編寫函式parse，這裡需要注意的是，該函式名不能改變，因為Scrapy原始碼中預設callback函式的函式名就是parse；
  • 4.定義需要爬取的url，放在列表中，因為可以爬取多個url，Scrapy原始碼是一個For迴圈，從上到下爬取這些url，使用生成器迭代將url傳送給下載器下載url的html。原始碼截圖：

 

4、執行

進入p1目錄，執行命令

1
scrapy crawl xiaohau --nolog

　　格式：scrapy crawl+爬蟲名  --nolog即不顯示日誌

5.scrapy查詢語法：

　　當我們爬取大量的網頁，如果自己寫正則匹配，會很麻煩，也很浪費時間，令人欣慰的是，scrapy內部支援更簡單的查詢語法，幫助我們去html中查詢我們需要的標籤和標籤內容以及標籤屬性。下面逐一進行介紹：

  • 查詢子子孫孫中的某個標籤(以div標籤為例)：//div
  • 查詢兒子中的某個標籤(以div標籤為例)：/div
  • 查詢標籤中帶有某個class屬性的標籤：//div[@class='c1']即子子孫孫中標籤是div且class=‘c1’的標籤
  • 查詢標籤中帶有某個class=‘c1’並且自定義屬性name=‘alex’的標籤：//div[@class='c1'][@name='alex']
  • 查詢某個標籤的文字內容：//div/span/text() 即查詢子子孫孫中div下面的span標籤中的文字內容
  • 查詢某個屬性的值（例如查詢a標籤的href屬性）：//a/@href

示例程式碼：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
def parse(self, response):
       # 分析頁面
       # 找到頁面中符合規則的內容（校花圖片），儲存
       # 找到所有的a標籤，再訪問其他a標籤，一層一層的搞下去
 
       hxs = HtmlXPathSelector(response)#建立查詢物件
 
       # 如果url是 http://www.xiaohuar.com/list-1-\d+.html
       if re.match('http://www.xiaohuar.com/list-1-\d+.html', response.url): #如果url能夠匹配到需要爬取的url，即本站url
           items = hxs.select('//div[@class="item_list infinite_scroll"]/div') #select中填寫查詢目標，按scrapy查詢語法書寫
           for i in range(len(items)):
               src = hxs.select('//div[@class="item_list infinite_scroll"]/div[%d]//div[@class="img"]/a/img/@src' % i).extract()#查詢所有img標籤的src屬性，即獲取校花圖片地址
               name = hxs.select('//div[@class="item_list infinite_scroll"]/div[%d]//div[@class="img"]/span/text()' % i).extract() #獲取span的文字內容，即校花姓名
               school = hxs.select('//div[@class="item_list infinite_scroll"]/div[%d]//div[@class="img"]/div[@class="btns"]/a/text()' % i).extract() #校花學校
               if src:
                   ab_src = "http://www.xiaohuar.com" + src[0]#相對路徑拼接
                   file_name = "%s_%s.jpg" % (school[0].encode('utf-8'), name[0].encode('utf-8')) #檔名，因為python27預設編碼格式是unicode編碼，因此我們需要編碼成utf-8
                   file_path = os.path.join("/Users/wupeiqi/PycharmProjects/beauty/pic", file_name)
                   urllib.urlretrieve(ab_src, file_path)

　注：urllib.urlretrieve(ab_src, file_path) ，接收檔案路徑和需要儲存的路徑，會自動去檔案路徑下載並儲存到我們指定的本地路徑。

5.遞迴爬取網頁

　　上述程式碼僅僅實現了一個url的爬取，如果該url的爬取的內容中包含了其他url，而我們也想對其進行爬取，那麼如何實現遞迴爬取網頁呢？

 示例程式碼：

1
2
3
4
5
# 獲取所有的url，繼續訪問，並在其中尋找相同的url
       all_urls = hxs.select('//a/@href').extract()
       for url in all_urls:
           if url.startswith('http://www.xiaohuar.com/list-1-'):
               yield Request(url, callback=self.parse)

　　即通過yield生成器向每一個url傳送request請求，並執行返回函式parse，從而遞迴獲取校花圖片和校花姓名學校等資訊。

注：可以修改settings.py 中的配置檔案，以此來指定“遞迴”的層數，如： DEPTH_LIMIT = 1

6.scrapy查詢語法中的正則：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
from scrapy.selector import Selector
from scrapy.http import HtmlResponse
html = """<!DOCTYPE html>
<html>
<head lang="en">
    <meta charset="UTF-8">
    <title></title>
</head>
<body>
    <li class="item-"><a href="link.html">first item</a></li>
    <li class="item-0"><a href="link1.html">first item</a></li>
    <li class="item-1"><a href="link2.html">second item</a></li>
</body>
</html>
"""
response = HtmlResponse(url='http://example.com', body=html,encoding='utf-8')
ret = Selector(response=response).xpath('//li[re:test(@class, "item-\d*")]//@href').extract()
print(ret)

　　語法規則：Selector(response=response查詢物件).xpath('//li[re:test(@class, "item-\d*")]//@href').extract()，即根據re正則匹配，test即匹配，屬性名是class，匹配的正規表示式是"item-\d*"，然後獲取該標籤的href屬性。

 選擇器規則Demo
 獲取響應cookie

更多選擇器規則：http://scrapy-chs.readthedocs.io/zh_CN/latest/topics/selectors.html

7、格式化處理

　　上述例項只是簡單的圖片處理，所以在parse方法中直接處理。如果對於想要獲取更多的資料（獲取頁面的價格、商品名稱、QQ等），則可以利用Scrapy的items將資料格式化，然後統一交由pipelines來處理。即不同功能用不同檔案實現。

 items：即使用者需要爬取哪些資料，是用來格式化資料，並告訴pipelines哪些資料需要儲存。

示例items.py檔案：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
# -*- coding: utf-8 -*-
  
# Define here the models for your scraped items
#
# See documentation in:
# http://doc.scrapy.org/en/latest/topics/items.html
  
import scrapy
  
class JieYiCaiItem(scrapy.Item):
  
    company = scrapy.Field()
    title = scrapy.Field()
    qq = scrapy.Field()
    info = scrapy.Field()
    more = scrapy.Field()

　即：需要爬取所有url中的公司名，title，qq，基本資訊info，更多資訊more。

上述定義模板，以後對於從請求的原始碼中獲取的資料同樣按照此結構來獲取，所以在spider中需要有一下操作：

 spider

上述程式碼中：對url進行md5加密的目的是避免url過長，也方便儲存在快取或資料庫中。

此處程式碼的關鍵在於：

  • 將獲取的資料封裝在了Item物件中
  • yield Item物件 （一旦parse中執行yield Item物件，則自動將該物件交個pipelines的類來處理）
 pipelines

上述程式碼中多個類的目的是，可以同時儲存在檔案和資料庫中，儲存的優先順序可以在配置檔案settings中定義。

1
2
3
4
5
ITEM_PIPELINES = {
    'beauty.pipelines.DBPipeline': 300,
    'beauty.pipelines.JsonPipeline': 100,
}
# 每行後面的整型值，確定了他們執行的順序，item按數字從低到高的順序，通過pipeline，通常將這些數字定義在0-1000範圍內。

　　總結：本文對python爬蟲框架Scrapy做了詳細分析和例項講解，如果本文對您有參考價值，歡迎幫博主點下文章下方的推薦，謝謝！

 

相關文章