Python爬取全國POI資料:購物中心、餐飲、賓館、銀行、景區、快遞點和各大品牌店經緯度等資料(GeoQ)
上一篇文章寫了如何獲取人口等格網資料 利用Python爬取全國250m精度的人口資料(GeoQ)、房價資料和公交站(線路)等資料,這一篇文章我們接著去獲取剩下的poi資料和品牌資料。該網站還有如下的poi資料,其中有很多poi資料是高德百度poi所沒有的,而且已經分好了類,比如各大品牌的poi資料。
如上圖所示,放大到最後可以看到poi點的位置和屬性資訊,接下來進行抓包分析:
抓完包之後即可進行資料抓取,大家仍然可以從我建立的網址裡進行抓包分析和爬取 我建立的購物專題POI
# -*- coding: utf-8 -*-
"""
Created on Sun Mar 24 15:58:04 2019
@author: 武狀元
"""
import requests
import json
import pandas as pd
import time
#地圖範圍 73.063112,2.995764,135.172386,53.802238
values={
"extent":"121.45351409912111,31.24634230767628,121.48123741149904,31.205827577303502",
"indexes":"050101,050102,050103,050104",
"scale":"36111.909643"
}
url='https://editor.geoq.cn/editormobile/proxy.do?type=ThematicService&handle=cluster/view'
response = requests.request('POST', url, data=values)
print(response.url)
datas=response.text
dictdatas=json.loads(datas)
results=dictdatas['results']
r1=results['050101']
r2=results['050102']
r3=results['050103']
r4=results['050104']
print(dictdatas)
time.sleep(0.001)
c1 = pd.DataFrame(r1)
c1.to_json('購物中心poi.json')
c2 = pd.DataFrame(r2)
c2.to_json('母嬰用品poi.json')
c3 = pd.DataFrame(r3)
c3.to_json('農貿市場poi.json')
c4 = pd.DataFrame(r4)
c4.to_json('藥店poi.json')
原理和上一條部落格一樣,只不過這次是一次性抓了四中型別資料
如上只是講解了原理,抓取了部分資料。至於如何抓取全國的資料,則需要注意反爬措施,還有找到抓取範圍、地圖尺度和抓取poi種類的規律,最後迴圈一圈即可。
歡迎大家交流討論 QQ:3271088075(驗證訊息CSDN)
微信公眾號:中原百科(寫文章比較隨意,愛好為主)
相關文章
- 大眾點評餐飲資料爬取(2020.11)
- Python將經緯度資料轉換成浮點資料Python
- 利用python爬取丁香醫生上新型肺炎資料,並下載到本地,附帶經緯度資訊Python
- 使用Python進行Web爬取和資料提取PythonWeb
- 全國旅遊景點資料集
- Python爬資料之全國中小學資訊Python
- python 獲取全國最新省市區資料,並存入表Python
- 房產資料爬取、智慧財產權資料爬取、企業工商資料爬取、抖音直播間資料python爬蟲爬取Python爬蟲
- python獲取全國地鐵資料Python
- Python獲取IP的地理位置:經緯度,國家,區域,城市Python
- 2023年全球主要餐飲品牌價值(附原資料表)
- 2024年全球主要餐飲品牌價值(附原資料表)
- 獲取資料庫中到指定經緯度距離的座標資料庫
- 資料分析之全國熱門景點分析
- python爬取qq音樂歌手排行熱度資料Python
- Python:爬取疫情每日資料Python
- 利用Python自動爬取全國30+城市地鐵圖資料Python
- python爬取股票資料並存到資料庫Python資料庫
- MySQL等資料庫和大資料誰快?MySql資料庫大資料
- POI 分批讀取Excel資料Excel
- 智慧手環WIFI熱點和經緯度API獲取WiFiAPI
- 使用Redis和Java進行資料庫快取 - DZone資料庫RedisJava資料庫快取
- Python 爬取 baidu 股票市值資料PythonAI
- Python爬取噹噹網APP資料PythonAPP
- Python爬取CSDN部落格資料Python
- 使用 Python 爬取網站資料Python網站
- 【python】爬取疫情資料並進行視覺化Python視覺化
- 使用Redis和Java進行資料庫快取RedisJava資料庫快取
- Python操作Redis快取資料庫PythonRedis快取資料庫
- 一數一世界:location 新茶飲品牌門店分佈行業資料行業
- 當餐飲遇上大資料,嗯真香!大資料
- 大資料看全國復工復產:餐飲行業強勢回暖,消費筆數增135%大資料行業
- python爬取58同城一頁資料Python
- 如何使用python多執行緒有效爬取大量資料?Python執行緒
- 2021年中國食品飲料行業主要品牌價值(附原資料表) 行業
- 開放銀行是銀行4.0起點 存在資料洩露等四種風險
- 全國省市區縣和鄉鎮街道行政區劃向量邊界座標經緯度地圖最新資料免費下載 支援shp geojson json sql格式地圖JSONSQL
- DT財經:2019年中國一線城市餐飲研究 川菜統治全國餐飲市場