Python爬取全國POI資料:購物中心、餐飲、賓館、銀行、景區、快遞點和各大品牌店經緯度等資料(GeoQ)
上一篇文章寫了如何獲取人口等格網資料 利用Python爬取全國250m精度的人口資料(GeoQ)、房價資料和公交站(線路)等資料,這一篇文章我們接著去獲取剩下的poi資料和品牌資料。該網站還有如下的poi資料,其中有很多poi資料是高德百度poi所沒有的,而且已經分好了類,比如各大品牌的poi資料。
如上圖所示,放大到最後可以看到poi點的位置和屬性資訊,接下來進行抓包分析:
抓完包之後即可進行資料抓取,大家仍然可以從我建立的網址裡進行抓包分析和爬取 我建立的購物專題POI
# -*- coding: utf-8 -*-
"""
Created on Sun Mar 24 15:58:04 2019
@author: 武狀元
"""
import requests
import json
import pandas as pd
import time
#地圖範圍 73.063112,2.995764,135.172386,53.802238
values={
"extent":"121.45351409912111,31.24634230767628,121.48123741149904,31.205827577303502",
"indexes":"050101,050102,050103,050104",
"scale":"36111.909643"
}
url='https://editor.geoq.cn/editormobile/proxy.do?type=ThematicService&handle=cluster/view'
response = requests.request('POST', url, data=values)
print(response.url)
datas=response.text
dictdatas=json.loads(datas)
results=dictdatas['results']
r1=results['050101']
r2=results['050102']
r3=results['050103']
r4=results['050104']
print(dictdatas)
time.sleep(0.001)
c1 = pd.DataFrame(r1)
c1.to_json('購物中心poi.json')
c2 = pd.DataFrame(r2)
c2.to_json('母嬰用品poi.json')
c3 = pd.DataFrame(r3)
c3.to_json('農貿市場poi.json')
c4 = pd.DataFrame(r4)
c4.to_json('藥店poi.json')
原理和上一條部落格一樣,只不過這次是一次性抓了四中型別資料
如上只是講解了原理,抓取了部分資料。至於如何抓取全國的資料,則需要注意反爬措施,還有找到抓取範圍、地圖尺度和抓取poi種類的規律,最後迴圈一圈即可。
歡迎大家交流討論 QQ:3271088075(驗證訊息CSDN)
微信公眾號:中原百科(寫文章比較隨意,愛好為主)
相關文章
- 全國城市經緯度資料
- Python將經緯度資料轉換成浮點資料Python
- 大眾點評餐飲資料爬取(2020.11)
- 利用python爬取丁香醫生上新型肺炎資料,並下載到本地,附帶經緯度資訊Python
- 餐飲行業怎麼玩轉大資料?行業大資料
- 使用Python進行Web爬取和資料提取PythonWeb
- 房產資料爬取、智慧財產權資料爬取、企業工商資料爬取、抖音直播間資料python爬蟲爬取Python爬蟲
- 獲取資料庫中到指定經緯度距離的座標資料庫
- 當餐飲遇上大資料,嗯真香!大資料
- 2024年全球主要餐飲品牌價值(附原資料表)
- python 獲取全國最新省市區資料,並存入表Python
- MySQL等資料庫和大資料誰快?MySql資料庫大資料
- 智慧手環WIFI熱點和經緯度API獲取WiFiAPI
- 2023年全球主要餐飲品牌價值(附原資料表)
- python爬取qq音樂歌手排行熱度資料Python
- python獲取全國地鐵資料Python
- POI 分批讀取Excel資料Excel
- python爬取股票資料並存到資料庫Python資料庫
- Python:爬取疫情每日資料Python
- 利用Python自動爬取全國30+城市地鐵圖資料Python
- 開放銀行是銀行4.0起點 存在資料洩露等四種風險
- 大資料看全國復工復產:餐飲行業強勢回暖,消費筆數增135%大資料行業
- 有了資料分析,餐飲行業會有哪些不一樣?行業
- 使用Redis和Java進行資料庫快取RedisJava資料庫快取
- 使用Redis和Java進行資料庫快取 - DZone資料庫RedisJava資料庫快取
- 利用Python爬蟲爬取天氣資料Python爬蟲
- Python爬資料之全國中小學資訊Python
- 數字門店加智慧經營是如何助力餐飲門店轉型?
- Python爬取CSDN部落格資料Python
- Python爬取噹噹網APP資料PythonAPP
- 使用 Python 爬取網站資料Python網站
- 【python】爬取疫情資料並進行視覺化Python視覺化
- 爬取高考資料
- Python操作Redis快取資料庫PythonRedis快取資料庫
- Python獲取IP的地理位置:經緯度,國家,區域,城市Python
- 餐飲行業行業
- POI 使用SAX讀取大資料Excel大資料Excel
- .net資料快取快取