[Python爬蟲] Selenium自動訪問Firefox和Chrome並實現搜尋截圖

Eastmount發表於2015-08-20
Python爬蟲FirefoxChrome

        前兩篇文章介紹了安裝，此篇文章算是一個簡單的進階應用吧！它是在Windows下通過Selenium+Python實現自動訪問Firefox和Chrome並實現搜尋截圖的功能。
        [Python爬蟲] 在Windows下安裝PhantomJS和CasperJS及入門介紹(上)
        [Python爬蟲] 在Windows下安裝PIP+Phantomjs+Selenium

自動訪問Firefox

        可以參照前文安裝Selenium環境，目前Selenium這個用於Web應用程式測試的工具支援的瀏覽器包括IE、Mozilla Firefox、Mozilla Suite、Chrome等。但是由於Firefox是預設安裝路徑，webdriver可以正常訪問它，而Chrome和IE需要設定driver路徑。

from selenium import webdriver
from selenium.webdriver.common.keys import Keys
import sys 

reload(sys) 
sys.setdefaultencoding('gb18030') 
driver = webdriver.Firefox()
driver.get("http://www.baidu.com")
assert "百度" in driver.title
elem = driver.find_element_by_name("wd")
elem.send_keys("Eastmount")
elem.send_keys(Keys.RETURN)
assert "谷歌" in driver.title
driver.save_screenshot('baidu.png')
driver.close()
driver.quit()
        執行效果如下圖所示，自動呼叫Firefox瀏覽器搜尋，同時輸出斷言錯誤：
        assert "谷歌" in driver.title AssertionError


原始碼分析

from selenium import webdriver
       from selenium.webdriver.common.keys import Keys
       import sys

        首先匯入Selenium.webdriver模板，它提供了webdriver的實現方法，目前支援這些方法的有Firefox、Chrome、IE和Remote。同時匯入Keys類，它提供了操作鍵盤的快捷鍵，如RETURE、F1、ALT等。最後匯入sys主要是設定編碼方式。

reload(sys)
       sys.setdefaultencoding('gb18030') 

        由於漢語中可能會遇到錯誤：
        UnicodeDecodeError: 'ascii' codec can't decode byte 0xc4 in position 33
        UnicodeDecodeError: 'utf8' codec can't decode byte 0xb0 in position 35
        所以此處轉換成gb編碼，該篇不重點介紹了。

driver = webdriver.Firefox()
       driver.get("http://www.baidu.com")

        建立Firefoxwebdriver例項。其中Firefox最簡單，其他Chrome還需要driver和配置路徑。接下來通過driver.get()開啟百度URL網頁，webdriver會等待網頁元素載入完成之後才把控制權交回指令碼。但是，如果要開啟了頁面在載入的過程中包含了很多AJAX，webdriver可能無法準確判斷頁面何時載入完成。

assert "百度" in driver.title
       assert "谷歌" in driver.title

         接下來使用斷言判斷文章的標題Title是否包含“百度”和“谷歌”。對應的標題是“百度一下，你就知道”，所以其中“百度”包括，而“谷歌”會出現斷言報錯。
        同時提交頁面並獲得返回結果，為了判斷結果是否成功返回也可以使用斷言。

elem = driver.find_element_by_name("wd")

        webdriver提供了很多如find_element_by_*的方法來匹配要查詢的元素。如利用name屬性查詢方法find_element_by_name來定位輸入框，審查元素name=wd。
        元素定位方法可以參考官網：Locating Elements


elem.send_keys("Eastmount")

elem.send_keys(Keys.RETURN)

        send_keys方法可以用來模擬鍵盤操作，相當於是在搜尋框中輸入“Eastmount”再按Enter鍵搜尋。但首先要從selenium.webdriver.common.keys匯入Keys類。

driver.save_screenshot('baidu.png')

driver.close()

driver.quit()

        最後是呼叫save_screenshot進行截圖，但是圖片是過程中的，怎樣獲取最後載入的圖片呢？同時，操作完成並關閉瀏覽器。當然，也可以呼叫quit（）方法，兩者的區別在於：quit（）方法會退出瀏覽器，而close（）方法只是關閉頁面，但如果只有一個頁面被開啟，close（）方法同樣會退出瀏覽器。


自動訪問Chrome

        首先下載chromedriver並置於Chrome安裝目錄。可能會遇到錯誤：
        WebDriverException: Message: 'chromedriver' executable needs to be in PATH.參考官網解決方法：How to use chromedriver，我採用的是設定driver環境。
        程式碼如下：
import os
from selenium import webdriver
from selenium.webdriver.common.keys import Keys

chromedriver = "C:\Program Files (x86)\Google\Chrome\Application\chromedriver.exe"
os.environ["webdriver.chrome.driver"] = chromedriver

driver = webdriver.Chrome(chromedriver)
driver.get("http://www.python.org")
assert "Python" in driver.title
elem = driver.find_element_by_name("q")
elem.send_keys("selenium")
elem.send_keys(Keys.RETURN)
assert "Google" in driver.title
driver.close()
driver.quit()
        需要放置chromedriver如下路徑，同時可以通過程式碼設定。但是由於我的Chrome可能Bug一直未修復，總是開啟錯誤。

driver = webdriver.Chrome(executable_path="G:\chromedriver.exe")



參考資料：
        用python玩轉selenium：2-入門例項及分析 - Reiki
        構建Python+Selenium2自動化測試環境<二>：IE、Chrome和Firefox執行
        用selenium實現某微博搜尋資料的抓取
        RobotFramework+seleniumlibrary Web自動化測試 (三)

        最後希望該篇基礎性文章對你有所幫助吧！如果有不足之處，還請海涵~
      （By:Eastmount 2015-8-20 下午4點   http://blog.csdn.net/eastmount/）

相關文章