微信公眾號:「Python讀財」
如有問題或建議,請公眾號留言
為了方便維護,一般公司的資料在資料庫內都是分表儲存的,比如用一個表儲存所有使用者的基本資訊,一個表儲存使用者的消費情況。所以,在日常的資料處理中,經常需要將兩張表拼接起來使用,這樣的操作對應到SQL中是join
,在Pandas中則是用merge
來實現。這篇文章就講一下merge
的主要原理。
上面的引入部分說到merge
是用來拼接兩張表的,那麼拼接時自然就需要將使用者資訊一一對應地進行拼接,所以進行拼接的兩張表需要有一個共同的識別使用者的鍵(key)。總結來說,整個merge
的過程就是將資訊一一對應匹配的過程,下面介紹merge
的四種型別,分別為'inner'
、'left'
、'right'
和'outer'
。
merge
的'inner'
的型別稱為內連線,它在拼接的過程中會取兩張表的鍵(key)的交集進行拼接。什麼意思呢?下面以圖解的方式來一步一步拆解。
首先我們有以下的資料,左側和右側的資料分別代表了使用者的基礎資訊和消費資訊,連線兩張表的鍵是userid
。
現在用'inner'
的方式進行merge
In [6]: df_1.merge(df_2,how='inner',on='userid')
Out[6]:
userid age payment
0 a 23 2000
1 c 32 3500
過程圖解:
①取兩張表的鍵的交集,這裡df_1
和df_2
的userid
的交集是{a,c}
②對應匹配
③結果
過程彙總:
相信整個過程並不難理解,上面演示的是同一個鍵下,兩個表對應只有一條資料的情況(一個使用者對應一條消費記錄),那麼,如果一個使用者對應了多條消費記錄的話,那又是怎麼拼接的呢?
假設現在的資料變成了下面這個樣子,在df_2
中,有兩條和a
對應的資料:
同樣用inner
的方式進行merge
:
In [12]: df_1.merge(df_2,how='inner',on='userid')
Out[12]:
userid age payment
0 a 23 2000
1 a 23 500
2 b 46 1000
3 c 32 3500
整個過程除了對應匹配階段,其他和上面基本都是一致的。
過程圖解:
①取兩張表的鍵的交集,這裡df_1
和df_2
的userid
的交集是{a,b,c}
②對應匹配時,由於這裡的a
有兩條對應的消費記錄,故在拼接時,會將使用者基礎資訊表中a
對應的資料複製多一行來和右邊進行匹配。
③結果
'left'
和'right'
的merge
方式其實是類似的,分別被稱為左連線和右連線。這兩種方法是可以互相轉換的,所以在這裡放在一起介紹。
'left'
:merge
時,以左邊表格的鍵為基準進行配對,如果左邊表格中的鍵在右邊不存在,則用缺失值NaN
填充。
'right'
:merge
時,以右邊表格的鍵為基準進行配對,如果右邊表格中的鍵在左邊不存在,則用缺失值NaN
填充。
什麼意思呢?用一個例子來具體解釋一下,這是演示的資料
現在用'left'
的方式進行merge
In [21]: df_1.merge(df_2,how='left',on='userid')
Out[21]:
userid age payment
0 a 23 2000.0
1 b 46 NaN
2 c 32 3500.0
3 d 19 NaN
過程圖解:
①以左邊表格的所有鍵為基準進行配對。圖中,因為右表中的e
不在左表中,故不會進行配對。
②若右表中的payment
列合併到左表中,對於沒有匹配值的用缺失值NaN
填充
過程彙總:
對於'right'
型別的merge
和'left'
其實是差不多的,只要把兩個表格的位置調換一下,兩種方式返回的結果就是一樣的(),如下:
In [22]: df_2.merge(df_1,how='right',on='userid')
Out[22]:
userid payment age
0 a 2000.0 23
1 c 3500.0 32
2 b NaN 46
3 d NaN 19
至於'left'
和'right'
中(乃至於下面將介紹的'outer'
)連線的鍵是一對多的情況,原理和上方的'inner'
是類似的,這裡便不再贅述。
'outer'
是外連線,在拼接的過程中它會取兩張表的鍵(key)的並集進行拼接。看文字不夠直觀,還是上例子吧!
還是使用上方用過的演示資料
這次使用'outer'
進行merge
In [24]: df_1.merge(df_2,how='outer',on='userid')
Out[24]:
userid age payment
0 a 23.0 2000.0
1 b 46.0 NaN
2 c 32.0 3500.0
3 d 19.0 NaN
4 e NaN 600.0
圖解如下:
①取兩張表鍵的並集,這裡是{a,b,c,d,e}
②將兩張表的資料列拼起來,對於沒有匹配到的地方,使用缺失值NaN
進行填充
能讀到這裡的小夥伴想必也基本理解了merge
的整個過程,總結來說,merge
的不同型別區別就在於拼接時,選用的兩個表格的鍵的集合不同。關於Pandas的merge
就介紹到這裡!
原創不易,如果覺得有點用,希望可以隨手點個贊,拜謝各位老鐵。
掃碼關注公眾號「Python讀財」,第一時間獲取乾貨,還可以加Python學習交流群!!
本作品採用《CC 協議》,轉載必須註明作者和本文連結