利用Python爬取必應桌布

incipe發表於2020-10-13

前言

一個喜歡折騰的人,長期看到桌面只有一種桌布,就想著自己從網上爬取一些桌布,存下來,隨機切換桌布。

本文僅供學習交流。

工具

Python3 + requests + re

Fiddler 抓包工具。

分析

必應官網好像無法使用 Ctrl + U 檢視原始碼和 Ctrl + Shift + I或者F12 開啟控制檯。

通過 Fiddler 進行抓包。

發現就這兩個請求

那麼可以肯定,圖片的 url 肯定就在網頁原始碼裡面。

我們可以在原始碼中看到我們想要的圖片 url

通過正則進行抓取即可。

import requests
import threading
import json
import re
from pprint import pprint
import time


class Bing:
    def __init__(self):
        self.url = "https://bing.ioliu.cn/?p={}"
        self.headers = {
            "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36"}

    def parse_url(self, url):
        print("*" * 20)
        response = requests.get(url, headers=self.headers)
        return response.content

    def regular_img_name(self, img_url):
        ret = re.findall(
            r"http://h1.ioliu.cn/bing/(.*?)\.(.*?)$", img_url, re.M | re.S)
        print(ret)
        return ret

    def download_imgs(self, img_list):
        for url in img_list:
            img = self.parse_url(url)
            time.sleep(1)
            strs = self.regular_img_name(url)
            with open("./bing/{}.{}".format(strs[0][0], strs[0][1]), "wb") as f:
                f.write(img)
            print("{} success".format(url))

    def regular_img_url(self, html_str):
        ret = re.findall(r".*?pic=(.*?)\?imageslim.*?", html_str, re.M | re.S)
        return ret

    def run(self):
        for i in range(1, 10):
            url = self.url.format(i)
            html_str = self.parse_url(url).decode()
            img_list = self.regular_img_url(html_str)
            print(img_list)
            self.download_imgs(img_list)


if __name__ == "__main__":
    bing = Bing()
    bing.run()

可以改進為多執行緒爬蟲版本~

總結

寫完程式碼後發現:

必應桌布好像提供了官方介面的~

http://cn.bing.com/HPImageArchive.aspx?idx=0&n=1

只要在解析出的 url 前面加上 http://www.bing.com 就好了。

相關文章