一、簡介
K-Means 是一種非監督學習，解決的是聚類問題。K 代表的是 K 類，Means 代表的是中心，你可以理解這個演算法的本質是確定 K 類的中心點，當你找到了這些中心點，也就完成了聚類。
/*請尊重作者勞動成果，轉載請標明原文連結：*/
/* https://www.cnblogs.com/jpcflyer/p/11117012.html * /
先請你和我思考一個場景，假設我有 20 支亞洲足球隊，想要將它們按照成績劃分成 3 個等級，可以怎樣劃分？
二、 K-Means 的工作原理
對亞洲足球隊的水平，你可能也有自己的判斷。比如一流的亞洲球隊有誰？你可能會說伊朗或韓國。二流的亞洲球隊呢？你可能說是中國。三流的亞洲球隊呢？你可能會說越南。
其實這些都是靠我們的經驗來劃分的，那麼伊朗、中國、越南可以說是三個等級的典型代表，也就是我們每個類的中心點。
所以回過頭來，如何確定 K 類的中心點？一開始我們是可以隨機指派的，當你確認了中心點後，就可以按照距離將其他足球隊劃分到不同的類別中。
這也就是 K-Means 的中心思想，就是這麼簡單直接。你可能會問：如果一開始，選擇一流球隊是中國，二流球隊是伊朗，三流球隊是韓國，中心點選擇錯了怎麼辦？其實不用擔心，K-Means 有自我糾正機制，在不斷的迭代過程中，會糾正中心點。中心點在整個迭代過程中，並不是唯一的，只是你需要一個初始值，一般演算法會隨機設定初始的中心點。
好了，那我來把 K-Means 的工作原理給你總結下：
選取 K 個點作為初始的類中心點，這些點一般都是從資料集中隨機抽取的；
將每個點分配到最近的類中心點，這樣就形成了 K 個類，然後重新計算每個類的中心點；
重複第二步，直到類不發生變化，或者你也可以設定最大迭代次數，這樣即使類中心點發生變化，但是隻要達到最大迭代次數就會結束。
三、 如何給亞洲球隊做聚類
對於機器來說需要資料才能判斷類中心點，所以我整理了 2015-2019 年亞洲球隊的排名，如下表所示。
我來說明一下資料概況。
其中 2019 年國際足聯的世界排名，2015 年亞洲盃排名均為實際排名。2018 年世界盃中，很多球隊沒有進入到決賽圈，所以只有進入到決賽圈的球隊才有實際的排名。如果是亞洲區預選賽 12 強的球隊，排名會設定為 40。如果沒有進入亞洲區預選賽 12 強，球隊排名會設定為 50。
針對上面的排名，我們首先需要做的是資料規範化。 我先把數值都規範化到 [0,1] 的空間中，得到了以下的數值表：
如果我們隨機選取中國、日本、韓國為三個類的中心點，我們就需要看下這些球隊到中心點的距離。
距離有多種計算的方式，有關距離的計算我在 KNN 演算法中也講到過。 歐氏距離是最常用的距離計算方式，這裡我選擇歐氏距離作為距離的標準，計算每個隊伍分別到中國、日本、韓國的距離，然後根據距離遠近來劃分。我們看到大部分的隊，會和中國隊聚類到一起。這裡我整理了距離的計算過程，比如中國和中國的歐氏距離為 0，中國和日本的歐式距離為 0.732003。如果按照中國、日本、韓國為 3 個分類的中心點，歐氏距離的計算結果如下表所示：
然後我們再重新計算這三個類的中心點，如何計算呢？最簡單的方式就是取平均值，然後根據新的中心點按照距離遠近重新分配球隊的分類，再根據球隊的分類更新中心點的位置。計算過程這裡不展開，最後一直迭代（重複上述的計算過程：計算中心點和劃分分類）到分類不再發生變化，可以得到以下的分類結果：
所以我們能看出來第一梯隊有日本、韓國、伊朗、沙特、澳洲；第二梯隊有中國、伊拉克、阿聯酋、烏茲別克；第三梯隊有卡達、泰國、越南、阿曼、巴林、朝鮮、印尼、敘利亞、約旦、科威特和巴勒斯坦。
四、 如何使用 sklearn 中的 K-Means 演算法
sklearn 是 Python 的機器學習工具庫，如果從功能上來劃分，sklearn 可以實現分類、聚類、迴歸、降維、模型選擇和預處理等功能。這裡我們使用的是 sklearn 的聚類函式庫，因此需要引用工具包，具體程式碼如下：
1 from sklearn.cluster import KMeans
當然 K-Means 只是 sklearn.cluster 中的一個聚類庫，實際上包括 K-Means 在內，sklearn.cluster 一共提供了 9 種聚類方法，比如 Mean-shift，DBSCAN，Spectral clustering（譜聚類）等。這些聚類方法的原理和 K-Means 不同，這裡不做介紹。
我們看下 K-Means 如何建立：
1 KMeans(n_clusters=8, init='k-means++', n_init=10, max_iter=300, tol=0.0001, precompute_distances='auto', verbose=0, random_state=None, copy_x=True, n_jobs=1, algorithm='auto')
我們能看到在 K-Means 類建立的過程中，有一些主要的引數：
n_clusters : 即 K 值，一般需要多試一些 K 值來保證更好的聚類效果。你可以隨機設定一些 K 值，然後選擇聚類效果最好的作為最終的 K 值；
max_iter ： 最大迭代次數，如果聚類很難收斂的話，設定最大迭代次數可以讓我們及時得到反饋結果，否則程式執行時間會非常長；
n_init ：初始化中心點的運算次數，預設是 10。程式是否能快速收斂和中心點的選擇關係非常大，所以在中心點選擇上多花一些時間，來爭取整體時間上的快速收斂還是非常值得的。由於每一次中心點都是隨機生成的，這樣得到的結果就有好有壞，非常不確定，所以要執行 n_init 次, 取其中最好的作為初始的中心點。如果 K 值比較大的時候，你可以適當增大 n_init 這個值；
algorithm ：k-means 的實現演算法，有“auto” “full”“elkan”三種。一般來說建議直接用預設的"auto"。簡單說下這三個取值的區別，如果你選擇"full"採用的是傳統的 K-Means 演算法，“auto”會根據資料的特點自動選擇是選擇“full”還是“elkan”。我們一般選擇預設的取值，即“auto” 。
在建立好 K-Means 類之後，就可以使用它的方法，最常用的是 fit 和 predict 這個兩個函式。你可以單獨使用 fit 函式和 predict 函式，也可以合併使用 fit_predict 函式。其中 fit(data) 可以對 data 資料進行 k-Means 聚類。 predict(data) 可以針對 data 中的每個樣本，計算最近的類。
現在我們要完整地跑一遍 20 支亞洲球隊的聚類問題。
1 # coding: utf-8 2 3 from sklearn.cluster import KMeans 4 5 from sklearn import preprocessing 6 7 import pandas as pd 8 9 import numpy as np 10 11 # 輸入資料 12 13 data = pd.read_csv('data.csv', encoding='gbk') 14 15 train_x = data[["2019 年國際排名 ","2018 世界盃 ","2015 亞洲盃 "]] 16 17 df = pd.DataFrame(train_x) 18 19 kmeans = KMeans(n_clusters=3) 20 21 # 規範化到 [0,1] 空間 22 23 min_max_scaler=preprocessing.MinMaxScaler() 24 25 train_x=min_max_scaler.fit_transform(train_x) 26 27 # kmeans 演算法 28 29 kmeans.fit(train_x) 30 31 predict_y = kmeans.predict(train_x) 32 33 # 合併聚類結果，插入到原資料中 34 35 result = pd.concat((data,pd.DataFrame(predict_y)),axis=1) 36 37 result.rename({0:u'聚類'},axis=1,inplace=True) 38 39 print(result)
執行結果：
1 國家 2019 年國際排名 2018 世界盃 2015 亞洲盃 聚類 2 3 中國 73 40 7 2 4 5 日本 60 15 5 0 6 7 韓國 61 19 2 0 8 9 伊朗 34 18 6 0 10 11 沙特 67 26 10 0 12 13 伊拉克 91 40 4 2 14 15 卡達 101 40 13 1 16 17 阿聯酋 81 40 6 2 18 19 烏茲別克 88 40 8 2 20 21 泰國 122 40 17 1 22 23 越南 102 50 17 1 24 25 阿曼 87 50 12 1 26 27 巴林 116 50 11 1 28 29 朝鮮 110 50 14 1 30 31 印尼 164 50 17 1 32 33 澳洲 40 30 1 0 34 35 敘利亞 76 40 17 1 36 37 約旦 118 50 9 1 38 39 科威特 160 50 15 1 40 41 巴勒斯坦 96 50 16 1
搜尋關注微信公眾號“程式設計師姜小白”，獲取更新精彩內容哦。