6分鐘瞭解所有機器學習模型

所有機器學習模型都可以分為有監督的或無監督的。如果模型是監督模型，則將其再分類為迴歸模型或分類模型。我們將介紹這些術語的含義以及下面每個類別中對應的模型。

監督學習涉及基於示例輸入-輸出對學習將輸入對映到輸出的功能。

例如，如果我有一個包含兩個變數的資料集，即年齡（輸入）和身高（輸出），那麼我可以實現一個監督學習模型，以根據一個人的年齡預測其身高。

監督學習示例

在迴歸模型中，輸出是連續的。以下是一些最常見的迴歸模型型別。

-線性迴歸

線性迴歸示例

線性迴歸的概念就是簡單地找到一條最適合資料的直線。線性迴歸的擴充套件包括多元線性迴歸（例如，找到最佳擬合的平面）和多項式迴歸（例如，找到最佳擬合的曲線）。

-決策樹

圖片來自Kaggle

決策樹是一種普遍應用的模型，常用於運籌學、戰略計劃和機器學習。上方的每個正方形稱為一個節點，你擁有的節點越多，決策樹（通常）將越準確。做出決策的決策樹的最後節點稱為樹的葉子。決策樹直觀且易於構建，但在準確性方面稍有不足。

-隨機森林

隨機森林是一種基於決策樹的整體學習技術。隨機森林涉及使用原始資料透過“自舉法”（Bootstrapping）得到的資料集建立多個決策樹，並在決策樹的每個步驟中隨機選擇變數的子集。然後，模型選擇每個決策樹的所有預測的模式。這有什麼意義呢？透過依靠“多數決定”模型（ ‘Majority Wins’ Model），它降低了單個樹出錯的風險。

如上圖所示，如果我們只建立一個決策樹，那麼第三個決策樹，它的預測值將是0。但是，如果我們依靠所有4個決策樹的模式，則預測值為1。這就是隨機森林的力量。

-神經網路

神經網路的視覺表示

神經網路是一種受人腦啟發的多層模型。就像我們大腦中的神經元一樣，上面的圓圈代表一個節點。藍色的圓圈代表輸入層，黑色的圓圈代表隱藏層，綠色的圓圈代表輸出層。隱藏層中的每個節點代表特定輸入的一個函式，最終生成綠色圓圈中的輸出。

-邏輯迴歸

邏輯迴歸類似於線性迴歸，但用於模擬有限數量結果的機率，通常是兩個。在對結果的機率建模時，使用邏輯迴歸而不是線性迴歸的原因有很多(詳情可檢視：https://stackoverflow.com/questions/12146914/what-is-the-difference-between-linear-regression-and-logistic-regression)。本質上，是以輸出值只能在0到1之間（見下圖）的方式建立邏輯方程。

-支援向量機

支援向量機是一種監督分類技術，實際使用上這種方法可能會非常複雜，但在最基本的級別上卻非常直觀。

假設有兩類資料。支援向量機將在兩類資料之間找到一個超平面或邊界，以使兩類資料之間的餘量最大化（參考下圖）。有許多平面可以將兩個類別分開，但是隻有一個平面可以使兩個類別之間的邊距或距離最大化。

-樸素貝葉斯

樸素貝葉斯（Naive Bayes）是資料科學中另一個通用的分類器。它背後的思想是由貝葉斯定理驅動的:

儘管對樸素貝葉斯（Naive Bayes）做出了許多看起來不太實際的假設（因此將其稱為”Naive“），但事實證明，它在大多數情況下都是可執行的，並且構建起來也相對較快。

如果您想了解更多有關它們的資訊，詳情可參見：https://towardsdatascience.com/naive-bayes-classifier-81d512f50a7c

決策樹，隨機森林，神經網路……這些模型遵循與先前解釋相同的邏輯。唯一的區別是其輸出是離散的而不是連續的。

與監督學習不同的是，無監督學習被用來從輸入資料中推斷和發現模式，而不需要參考標記的結果。無監督學習的兩種主要方法是聚類和降維。

常見的聚類技術包括k均值聚類、分層聚類、均值漂移聚類和基於密度的聚類。儘管每種技術在尋找聚類時都有不同的方法，但它們都旨在實現同一目標。

參考文獻：

[1] Stuart J. Russell, Peter Norvig, Artificial Intelligence: A Modern Approach (2010), Prentice Hall

[2] Roweis, S. T., Saul, L. K., Nonlinear Dimensionality Reduction by Locally Linear Embedding (2000), Science