新手使用python採集資料的尷尬事之代理ip
背景 , 原本不是爬蟲的,因公司業務需求需要一些前程無憂的資料,被迫上崗,簡單的學了些python。因為網站的特殊性,訪問次數多了就要封ip,意味著還要找ip。所以在網上隨便找了家代理叫億牛雲,然後跟客服溝通了下我這個小白的需求,客服跟我推介了他們家的爬蟲動態轉發代理,說適合我這樣的小白使用,使用方式比較簡單,我就抱著試試的想法接受了。客服給我發了一段關於python怎麼使用他們家代理的程式碼示例,。開啟看了之後我以為示例就是可以直接使用的,而且客服也說過程式碼示例可以直接複製使用,我就直接複製然後把目標網站改成了我自己的,程式碼如下
#! -*- encoding:utf-8 -*-
import requests
import random
# 要訪問的目標頁面
targetUrl = ""
# 要訪問的目標HTTPS頁面
# targetUrl = "https://"
# 代理伺服器(產品官網 )
proxyHost = "t.16yun.cn"
proxyPort = "31111"
# 代理隧道驗證資訊
proxyUser = "username"
proxyPass = "password"
proxyMeta = "http://%(user)s:%(pass)s@%(host)s:%(port)s" % {
"host" : proxyHost,
"port" : proxyPort,
"user" : proxyUser,
"pass" : proxyPass,
}
# 設定 http和https訪問都是用HTTP代理
proxies = {
"http" : proxyMeta,
"https" : proxyMeta,
}
# 設定IP切換頭
tunnel = random.randint(1,10000)
headers = {"Proxy-Tunnel": str(tunnel)}
resp = requests.get(targetUrl, proxies=proxies, headers=headers)
print resp.status_code
print resp.text
然後就去執行,結果是這樣
然後就去找客服,結果人家說那只是程式碼示例,裡面的代理引數是需要他們提供重新配置才可以使用,頓時就覺得自己真的很小白,然後請客服開通了代理測試了下,結果執行起了,對我這樣的小白來還好使用的方式簡單,不然又要各種查資料了。我想很多人都是這樣吧,剛開始的時候各種小白問題都有可能存在,看來不管是哪個領域,還是要深入的學習才好!
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/4301/viewspace-2825009/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- 代理IP對金融資料採集的作用
- 資料採集爬蟲ip代理基本原理爬蟲
- Python基於scrapy採集資料時使用代理伺服器的方法Python伺服器
- 文章採集代理ip怎麼用?
- Python進行資料採集時,如何避免IP被封?Python
- 業務測開的尷尬定位
- rman duplicate clone庫的尷尬
- 應用整合的尷尬 (轉)
- Python網路資料採集之審查元素Python
- 尷尬的遊戲使用者體驗設計師遊戲
- ip代理軟體的使用注意事項
- 爬蟲採集自建代理ip池的三大優勢爬蟲
- 爬蟲採集對於代理IP的五大需求爬蟲
- 難免的尷尬:程式碼依賴
- 記錄一件很尷尬的事,中介軟體給我的痛。
- 大資料技術之資料採集篇大資料
- Python爬蟲抓取資料,為什麼要使用代理IP?Python爬蟲
- Python代理IP的使用和代理池的設定Python
- 程式設計師四十很尷尬程式設計師
- 軟體測試工程師的尷尬工程師
- Xbox的日進之路,微軟的尷尬困局微軟
- 爬蟲筆記:提高資料採集效率!代理池和執行緒池的使用爬蟲筆記執行緒
- 無處不在的Windows藍屏 這或許是微軟最尷尬的事(多圖)Windows微軟
- Python網路資料採集(爬蟲)Python爬蟲
- python爬蟲利用代理IP分析大資料Python爬蟲大資料
- 蒂姆.威爾茨:處境尷尬的 DooM 元老OOM
- 拿什麼拯救你,“尷尬”的UI介面?(一)UI
- SOAP協議棧是令人尷尬的失敗?協議
- 使用代理IP抓取資料的四大優勢
- 使用代理IP時,有什麼注意事項?
- 資料採集與分析的那些事——從資料埋點到AB測試
- Python代理IP爬蟲的簡單使用Python爬蟲
- python爬蟲 之 scrapy框架採集2000期彩票資料Python爬蟲框架
- Python資料科學(五) 資料處理和資料採集Python資料科學
- 《Python網路資料採集》筆記一Python筆記
- 奧巴馬陷入尷尬:蘋果接受中國反恐法草案蘋果
- 如何擺脫專案命名困難的尷尬局面
- 記一次尷尬的評論翻車事件事件