代理型別(proxy):透明代理 匿名代理 混淆代理和高匿代理. 這裡寫一些python爬蟲使用代理的知識, 還有一個代理池的類. 方便大家應對工作中各種複雜的抓取問題。
urllib 模組使用代理
urllib/urllib2使用代理比較麻煩, 需要先構建一個ProxyHandler的類, 隨後將該類用於構建網頁開啟的opener的類,再在request中安裝該opener.
代理格式是"http://127.0.0.1:80",如果要賬號密碼是"http://user:password@127.0.0.1:80".
proxy="http://127.0.0.1:80" # 建立一個ProxyHandler物件 proxy_support=urllib.request.ProxyHandler({'http':proxy}) # 建立一個opener物件 opener = urllib.request.build_opener(proxy_support) # 給request裝載opener urllib.request.install_opener(opener) # 開啟一個url r = urllib.request.urlopen('http://youtube.com',timeout = 500)
requests 模組 使用代理
requests使用代理要比urllib簡單多了…這裡以單次代理為例. 多次的話可以用session一類構建.
如果需要使用代理,你可以透過為任意請求方法提供 proxies 引數來配置單個請求:
import requests proxies = { "http": "http://127.0.0.1:3128", "https": "http://127.0.0.1:2080", } r=requests.get("http://youtube.com", proxies=proxies) print r.text
你也可以透過環境變數 HTTP_PROXY 和 HTTPS_PROXY 來配置代理。
export HTTP_PROXY="http://127.0.0.1:3128" export HTTPS_PROXY="http://127.0.0.1:2080" python >>> import requests >>> r=requests.get("http://youtube.com") >>> print r.text
若你的代理需要使用HTTP Basic Auth,可以使用 http://user:password@host/ 語法:
proxies = { "http": "http://user:pass@127.0.0.1:3128/", }
python的代理使用非常簡單, 最重要的是要找一個網路穩定可靠的代理,有問題歡迎留言提問