對於新手在做資料的特徵工程時,會看到 Label Encoding 或 One Hot Encoding 兩種對於類別行資料的編碼方式,那他們之間究竟有什麼不同呢?
直接講結論:
- 原始資料是有序離散值的話 => Label Encoding
- 原始資料是無序離散值的話 => One Hot Encoding (Dummies)
以下分為兩點說明:
為什麼要將離散轉數值?
因為大部分的模型都是基於數學運算,所以字串資料是無法運算的
為什麼要將無序轉 One-Hot?
所謂數學運算一般泛指用距離代表相似(幾何觀點),意思是會用轉換後的兩個值的差距作為其相似程度。
如果將性別欄位的男/女轉換成 0, 1 ,二元的沒問題 如果講水果這個無序欄位中的頻果、香蕉、西瓜,Label 成0, 1, 2 會隱含著「香蕉跟蘋果」比「西瓜跟蘋果」還要相似的意義,但這樣是錯誤的。 如果是年齡這個有序欄位的老年、中年、少年,Label 成 0, 1, 2 就很恰當,到如果硬轉成 One-Hot 反而將這個差距關係給拿掉。
在 Python 中實現
很巧的是,在 Python Pandas 跟 SciKit-Learn 兩個套件中都有提供編碼的操作。以下分別示範用法的不同:
① LabelEncoding
df = pd.DataFrame({'size':['XXL', 'XL', 'L', 'M', 'S']})
# Using Pandas
import pandas as pd
cat = pd.Categorical(df['size'], categories=df['size'].unique(), ordered=True))
df['size_code'] = cat.codes
# Using sklearn
from sklearn import preprocessing
le = preprocessing.LabelEncoder()
le.fit(df['tw'])
le.transform(df['size'])
複製程式碼
② One Hot Encoding (Dummies)
# Using Pandas
df = pd.DataFrame({'A': ['a', 'b', 'a'], 'B': ['b', 'a', 'c'])
pd.get_dummies(df)
# Using sklearn
enc = preprocessing.OneHotEncoder()
enc.fit([[0, 0, 3], [1, 1, 0], [0, 2, 1], [1, 0, 2]])
enc.transform([[0, 1, 3]]).toarray()
複製程式碼
要注意的是,他們都是同樣的動作,僅是不同的套件而已。
License
本著作由Chang Wei-Yaun (v123582)製作, 以創用CC 姓名標示-相同方式分享 3.0 Unported授權條款釋出。