(資料科學學習手札89)geopandas&geoplot近期重要更新

費弗裡發表於2020-07-10

本文示例程式碼及資料已上傳至我的Github倉庫https://github.com/CNFeffery/DataScienceStudyNotes

1 簡介

  最近一段時間(本文寫作於2020-07-10)geopandasgeoplot兩個常用的GIS類Python庫都進行了一系列較為重大的內容更新,新增了一些特性,本文就將針對其中比較實際的新特性進行介紹。

2 geopandas&geoplot近期重要更新內容

2.1 geopandas近期重要更新

2.1.1 新增高效能檔案格式

  從geopandas0.8.0版本開始,在向量檔案讀寫方面,新增了.feather.parquet兩種嶄新的資料格式,他們都是Apache Arrow專案下的重要資料格式,提供高效能檔案儲存服務,使得我們可以既可以快速讀寫檔案,又可以顯著減少檔案大小,做到了“多快好省”:

(資料科學學習手札89)geopandas&geoplot近期重要更新
圖1

  在將geopandas更新到0.8.0版本後,便新增了read_feather()to_feather()read_parquet()以及to_parquet()這四個API,但要注意,這些新功能依賴於pyarrow,首先請確保pyarrow被正確安裝,推薦使用conda install -c conda-forge pyarrow來安裝。

  安裝完成後,我們就來一睹這些新功能的效率如何,首先我們建立一個足夠大的虛擬表(200萬行11列),併為其新增點要素向量列:

import numpy as np
from shapely.geometry import Point
import pandas as pd
from tqdm.notebook import tqdm

# 建立虛擬表,其中欄位名為了匯出shapefile不報錯加上非數字的字首
base = pd.DataFrame(np.column_stack([np.random.randint(1, 100, (2000000, 10)), 
                                     np.random.uniform(-90, 90, (2000000, 2))]),
                    columns=['_'+str(i) for i in range(12)])

tqdm.pandas() # 開啟apply進度條
base['geometry'] = base.progress_apply(lambda row: Point(row['_10'], row['_11']), axis=1) # 新增向量列

base = gpd.GeoDataFrame(base, crs='EPSG:4326') # 轉換為GeoDataFrame

  最終得到一個較為龐大的GeoDataFrame,接著我們分別測試geopandas讀寫shapefilefeather以及parquet三種資料格式的耗時及檔案佔硬碟空間大小:

(資料科學學習手札89)geopandas&geoplot近期重要更新
圖2
(資料科學學習手札89)geopandas&geoplot近期重要更新
圖3

  具體的效能比較結果如下,可以看到與原始的shapefile相比,featherparquet取得了非常卓越的效能提升,且parquet的檔案體積非常小:

型別 寫出耗時 讀入耗時 寫出檔案大小
shapefile 325秒 96秒 619MB
feather 50秒 25.7秒 128MB
parquet 52.4秒 26秒 81.2MB

  所以當你要儲存的向量資料規模較大時,可以嘗試使用featherparquet來代替傳統的檔案格式。

2.2 geoplot近期重要更新

2.2.1 webplot線上底圖切換方式升級

  在之前我們出品的基於geopandas的空間資料分析系列文章中的geoplot篇(上)中,對可以新增線上底圖的webplot()進行過介紹,但在先前的版本中只能使用固定的少數幾種內建的線上地圖,而在最近的版本中,webplot()的底圖疊加方式進行了非常大的調整,使得可以利用引數provider來像folium那樣自由切換底圖,其傳入格式為:

{
    'url': 地圖源url, 
    'attribution': 自定義字串,必填
}

  譬如我們可以在一個神奇的網站 http://openwhatevermap.xyz/#3/-60.50/167.87 上點選自己感興趣的地圖樣式:

(資料科學學習手札89)geopandas&geoplot近期重要更新
圖4

  將對應的url和自定義的attribution傳入webplot()中:

(資料科學學習手札89)geopandas&geoplot近期重要更新
圖5
(資料科學學習手札89)geopandas&geoplot近期重要更新
圖6

  你也可以利用下面的方式檢視contextily中所有內建的底圖引數,從中選擇你心儀的底圖:

(資料科學學習手札89)geopandas&geoplot近期重要更新
圖7

  以上就是本文的全部內容,歡迎在評論區與我們進行討論~

相關文章