Python爬取13個旅遊城市，告訴你五一大家最愛去哪玩？

pythontab發表於2019-05-07
Python

今年五一放了四天假，很多人不再只是選擇周邊遊，因為時間充裕，選擇了稍微遠一點的景區，甚至出國遊。各個景點成了人山人海，擁擠的人群，甚至去衛生間都要排隊半天，那一刻我突然有點理解滅霸的行為了。

今天，透過分析去哪兒網部分城市門票售賣情況，簡單的分析一下哪些景點比較受歡迎。等下次假期可以做個參考。

用到的Python模組

BeautifulSoup、requests、pymongo、pylab

方法

透過請求https://piao.qunar.com/ticket/list.htm?keyword=北京 ，獲取北京地區熱門景區資訊，再透過BeautifulSoup去分析提取出我們需要的資訊。

這裡為了偷懶只爬取了前4頁的景點資訊，每頁有15個景點。因為去哪兒並沒有什麼反爬措施，所以直接請求就可以了。

這裡只是隨機選擇了13個熱門城市：北京, 上海, 成都, 三亞, 廣州, 重慶, 深圳, 西安, 杭州, 廈門, 武漢, 大連, 蘇州。

並將爬取的資料存到了MongoDB資料庫 。


爬蟲部分完整程式碼如下

import requests
from bs4 import BeautifulSoup
from pymongo import MongoClient
 
class QuNaEr():
    def __init__(self, keyword, page=1):
        self.keyword = keyword
        self.page = page
 
    def qne_spider(self):
        url = 'https://piao.qunar.com/ticket/list.htm?keyword=%s&region=&from=mpl_search_suggest&page=%s' % (self.keyword, self.page)
        response = requests.get(url)
        response.encoding = 'utf-8'
        text = response.text
        bs_obj = BeautifulSoup(text, 'html.parser')
 
        arr = bs_obj.find('div', {'class': 'result_list'}).contents
        for i in arr:
            info = i.attrs
            # 景區名稱
            name = info.get('data-sight-name')
            # 地址
            address = info.get('data-address')
            # 近期售票數
            count = info.get('data-sale-count')
            # 經緯度
            point = info.get('data-point')
 
            # 起始價格
            price = i.find('span', {'class': 'sight_item_price'})
            price = price.find_all('em')
            price = price[0].text
 
            conn = MongoClient('localhost', port=27017)
            db = conn.QuNaEr # 庫
            table = db.qunaer_51 # 表
 
            table.insert_one({
                'name'      :   name,
                'address'   :   address,
                'count'     :   int(count),
                'point'     :   point,
                'price'     :   float(price),
                'city'      :   self.keyword
            })
 
if __name__ == '__main__':
    citys = ['北京', '上海', '成都', '三亞', '廣州', '重慶', '深圳', '西安', '杭州', '廈門', '武漢', '大連', '蘇州']
    for i in citys:
        for page in range(1, 5):
            qne = QuNaEr(i, page=page)
            qne.qne_spider()

效果圖如下

11.png


有了資料，我們就可以分析出自己想要的東西了


最受歡迎的15個景區

12.png

由圖可以看出，在選擇的13個城市中，最熱門的景區為上海的迪士尼樂園

程式碼如下

from pymongo import MongoClient
# 設定字型，不然無法顯示中文
from pylab import *
 
mpl.rcParams['font.sans-serif'] = ['SimHei']
 
conn = MongoClient('localhost', port=27017)
db = conn.QuNaEr # 庫
table = db.qunaer_51 # 表
 
result = table.find().sort([('count', -1)]).limit(15)
# x,y軸資料
x_arr = []  # 景區名稱
y_arr = []  # 銷量
for i in result:
    x_arr.append(i['name'])
    y_arr.append(i['count'])
 
"""
去哪兒月銷量排行榜
"""
plt.bar(x_arr, y_arr, color='rgb')  # 指定color，不然所有的柱體都會是一個顏色
plt.gcf().autofmt_xdate() # 旋轉x軸，避免重疊
plt.xlabel(u'景點名稱')  # x軸描述資訊
plt.ylabel(u'月銷量')  # y軸描述資訊
plt.title(u'拉鉤景點月銷量統計表')  # 指定圖表描述資訊
plt.ylim(0, 4000)  # 指定Y軸的高度
plt.savefig('去哪兒月銷售量排行榜')  # 儲存為圖片
plt.show()


文章部分節選自：https://www.cnblogs.com/wyl-0120/p/10817418.html

相關文章