Request模組實戰01 ---簡單爬取頁面
Request模組實戰01 — 簡單爬取頁面(四步曲)
1.request模組
- urllib模組
- request模組
2.request模組:
python中原生的一款基於網路請求的模組,功能強大,簡單便捷,效率高
作用:模擬瀏覽器傳送請求
3.如何使用:(request模組的編碼流程)
- 1.指定url
- 2.發起請求
- 3.獲取響應資料
- 4.持久化儲存
4.程式碼實現
# -*- coding: utf-8
# @Time : 2020/12/7 23:24
# @Author : ZYX
# @File : request01_firstblood.py
# @software: PyCharm
import requests
if __name__ == '__main__':
# 1.指定url
url = "https://www.sogou.com/"
# 2.傳送請求
# get方法會返回一個響應物件
response = requests.get(url)
# 3.獲取響應資料.text 返回的是字元形式的響應資料
page_text = response.text
print(page_text)
# 4.持久化儲存
with open('./data/sogou.html','w',encoding='utf-8') as fp:
fp.write(page_text) # 將爬取的資料寫入檔案
print('爬取資料結束!!!')
通過執行結果可以看出,爬蟲小程式成功完成,並且將對應的檔案儲存在了指定檔案目錄下。
開啟儲存的html檔案,使用谷歌瀏覽器開啟,成功執行。至此,第一個爬蟲小程式順利完成!
相關文章
- [實戰演練]python3使用requests模組爬取頁面內容Python
- go語言實現簡單爬蟲獲取頁面圖片Go爬蟲
- Request模組實戰02 --- 實現簡易網頁採集器(UA偽裝反爬策略、處理有引數url)網頁
- scrapy實戰專案(簡單的爬取知乎專案)
- 單頁面開發--爬坑
- Puppeteer 實戰-爬取動態生成的網頁網頁
- 「小程式JAVA實戰」小程式模組頁面引用(18)Java
- javascript實現的獲取頁面中所有錨點簡單介紹JavaScript
- [Python3網路爬蟲開發實戰] 7-動態渲染頁面爬取-4-使用Selenium爬取淘寶商品Python爬蟲
- JS_簡單實現頁面輸入JS
- puppeteer 頁面爬取例項(元素遍歷)
- 簡單的網頁登入頁面網頁
- UIWebView簡單的獲取HTML內容和修改頁面資訊UIWebViewHTML
- python爬蟲:爬蟲的簡單介紹及requests模組的簡單使用Python爬蟲
- python 爬取 blessing skin 的簡單實現Python
- 圖片爬取實戰一
- 使用WebSocket實現一個簡單的頁面聊天Web
- 爬取js渲染過的頁面(爬取一個婚慶網站為例)JS網站
- [Python3網路爬蟲開發實戰] 7-動態渲染頁面爬取-1-Selenium的使用Python爬蟲
- js獲取滑鼠在頁面中的座標簡單介紹JS
- http request-01-XMLHttpRequest XHR 簡單介紹HTTPXML
- 初識Scrapy框架+爬蟲實戰(7)-爬取鏈家網100頁租房資訊框架爬蟲
- 用PYTHON爬蟲簡單爬取網路小說Python爬蟲
- Python爬蟲學習(5): 簡單的爬取Python爬蟲
- 記錄一次使用jsoup爬取頁面JS
- [Python3網路爬蟲開發實戰] 7-動態渲染頁面爬取-3-Splash負載均衡配置Python爬蟲負載
- 爬蟲實戰——58同城租房資料爬取爬蟲
- 2018-05-10 爬蟲筆記(二)一個簡單的實踐 —簡單獲取生物資訊達人博主主頁的資訊...爬蟲筆記
- webscoket+jsp實現簡單的多人聊天頁面WebJS
- Python 爬蟲進階篇-利用beautifulsoup庫爬取網頁文章內容實戰演示Python爬蟲網頁
- Python3爬蟲實戰(requests模組)Python爬蟲
- BEM 實戰之微信個人頁面
- 用SwiftUI寫一個簡單頁面SwiftUI
- 用Flutter 寫一個簡單頁面Flutter
- 簡單頁面開發神器——畫容
- 如何製作H5頁面?分享簡單實用H5頁面製作教程H5
- Python爬蟲實戰:爬取淘寶的商品資訊Python爬蟲
- 爬蟲實戰(一):爬取微博使用者資訊爬蟲