python爬蟲學習手冊-伺服器渲染(基礎庫pycurl)瞭解
前言
今天在下班時候做地鐵,突然想起,我寫這麼多庫會不會讓別人以為我咋咋地,所以我在每個庫的標題後面加了,我對該庫的掌握程度,熟悉,就是經常使用,自己感覺還可以,瞭解就是知道基本的API,使用的頻率相對少一些,好了,進入今天的正題,依舊是一個基礎庫pycurl!
首先,老規矩,我在學習一個新東西時候都會問自己幾個問題!
1.這是什麼?
2.這個東西能幹什麼?
3.這個東西怎麼使用?
那麼我們依次來說下這幾個問題
1.pycurl是什麼?
有這麼一段話
PycURl是一個C語言寫的libcurl的python繫結庫。libcurl 是一個自由的,並且容易使用的用在客戶端的 URL 傳輸庫。它的功能很強大,PycURL 是一個非常快速(參考多併發操作)和豐富完整特性的,但是有點複雜的介面。如果你需要些簡單或純的模組,你可以參考一下 urllib2 或 urlgrabber
這段話裡面出現的libcurl又是什麼呢?
libcurl百度百科,如果沒看懂,那沒關係,我給你翻譯一下,這就是個用C語言寫的請求庫,支援多種協議,也支援多種操作,像什麼Cookie、代理、表單提交之類的
那麼PycURl和libcurl又是什麼關係呢?簡單來說PycURL就是libcurl在python裡的封裝,也就是python版的libcurl,這下懂了吧,明確了敵人是誰那就簡單了!
2.pycurl能幹什麼?
pycurl支援如下功能
在PyCURL的主頁上介紹的支援的功能有:FTP, FTPS, HTTP, HTTPS, GOPHER, TELNET, DICT, FILE、proxies, cookies, user+password authentication, file transfer resume, http proxy tunneling!
我們可以看到pycurl基本支援所有的請求庫的功能,如果你不想知道他是怎麼使用的好 urllib和 urllib3這倆選一個都能實現你所需要的功能!
但是如果你想了解了解自己還不知道的東西,那麼就繼續向下看!
3.pycurl怎麼使用?
1.安裝pycurl
pip install pycurl
2.匯入pycurl
import pycurl
3.pycurl基本使用
curl=pycurl.Curl
需要一個curl物件,所以第一步先建立curl物件
import pycurl
url='https://www.baidu.com/'
c=pycurl.Curl#需要一個curl物件,所以第一步先建立curl物件
c.setopt(pycurl.URL,"https://www.baidu.com/")#發起請求
設定請求頭
c.setopt(pycurl.USERAGENT,"Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.102 Safari/537.36")
c.setopt(pycurl.URL,url)
c.setopt(pycurl.CONNECTTIMEOUT,5)#設定連線等待時間
c.setopt(pycurl.NOPROGRESS,0)#下載進度條,非0時候不顯示
c.setopt(pycurl.MAXREDIRS,3)#最大重定向次數
c.getinfo(pycurl.HTTP_CODE)#返回請求狀態碼碼
c.getinfo(pycurl.TOTAL_TIME)#顯示傳輸結束需要的時間
c.getinfo(pycurl.SIZE_UPLOAD)#顯示上傳資料包大小
c.getinfo(pycurl.SIZE_DOWNLOAD)#顯示下載資料包大小
c.getinfo(pycurl.SPPEED_DOWNLOAD)#顯示下載速度
c.getinfo(pycurl.SPEED_UPLOAD)#顯示上傳速度
c.getinfo(pycurl.HEADER_SIZE)#顯示資料包頭部大小
後記
其他更詳細的請參考pycurl
例子請參考pycur例子
pycurl官方文件
github上的pycurl
相關文章
- Python爬蟲入門(2):爬蟲基礎瞭解Python爬蟲
- IPIDEA乾貨|學習爬蟲必需瞭解的基礎知識Idea爬蟲
- Python爬蟲之Scrapy學習(基礎篇)Python爬蟲
- Python 基礎學習 網路小爬蟲Python爬蟲
- Python爬蟲學習之旅-從基礎開始Python爬蟲
- Python學習手冊(入門&爬蟲&資料分析&機器學習&深度學習)Python爬蟲機器學習深度學習
- 【Python學習】爬蟲爬蟲爬蟲爬蟲~Python爬蟲
- 【0基礎學爬蟲】爬蟲基礎之網路請求庫的使用爬蟲
- Python:基礎&爬蟲Python爬蟲
- Python案例學習——模組和包、爬蟲的基礎概念Python爬蟲
- Python爬蟲學習-大資料統計分析(基礎)Python爬蟲大資料
- python爬蟲學習(一):BeautifulSoup庫基礎及一般元素提取方法Python爬蟲
- 【0基礎學爬蟲】爬蟲基礎之資料儲存爬蟲
- 【0基礎學爬蟲】爬蟲基礎之檔案儲存爬蟲
- 2.python爬蟲基礎——Urllib庫Python爬蟲
- 簡單瞭解python爬蟲Python爬蟲
- python爬蟲基礎概念Python爬蟲
- python_爬蟲基礎Python爬蟲
- 從零基礎開始學習Python爬蟲你需要注意的點以及如何學習爬蟲Python爬蟲
- 學習爬蟲必須學的基礎知識爬蟲
- 學爬蟲,我需要掌握哪些Python基礎?爬蟲Python
- Python分散式爬蟲(三) - 爬蟲基礎知識Python分散式爬蟲
- Python爬蟲之路-爬蟲基礎知識(理論)Python爬蟲
- Python零基礎爬蟲教學(實戰案例手把手Python爬蟲教學)Python爬蟲
- 爬蟲入門基礎-Python爬蟲Python
- Python爬蟲基礎學習,從一個小案例來學習xpath匹配方法Python爬蟲
- python爬蟲學習1Python爬蟲
- 爬蟲基礎爬蟲
- 【0基礎學爬蟲】爬蟲基礎之自動化工具 Pyppeteer 的使用爬蟲
- python網路爬蟲(9)構建基礎爬蟲思路Python爬蟲
- python爬蟲基礎之urllibPython爬蟲
- Python爬蟲基礎之seleniumPython爬蟲
- python 爬蟲基礎知識一Python爬蟲
- python爬蟲是什麼?學習python爬蟲難嗎Python爬蟲
- Python爬蟲學習筆記-2.Requests庫Python爬蟲筆記
- Python零基礎,如何快速學爬蟲技術Python爬蟲
- 【0基礎學爬蟲】爬蟲基礎之自動化工具 Playwright 的使用爬蟲
- 【0基礎學爬蟲】爬蟲基礎之自動化工具 Selenium 的使用爬蟲