機器學習和統計模型的差異

DinK發表於2016-01-21

機器學習模型

在各種各樣的資料科學論壇上這樣一個問題經常被問到——機器學習和統計模型的差別是什麼？

這確實是一個難以回答的問題。考慮到機器學習和統計模型解決問題的相似性，兩者的區別似乎僅僅在於資料量和模型建立者的不同。這裡有一張覆蓋機器學習和統計模型的資料科學維恩圖。

在這篇文章中，我將盡最大的努力來展示機器學習和統計模型的區別，同時也歡迎業界有經驗的朋友對本文進行補充。

在我開始之前，讓我們先明確使用這些工具背後的目標。無論採用哪種工具去分析問題，最終的目標都是從資料獲得知識。兩種方法都旨在通過分析資料的產生機制挖掘背後隱藏的資訊。

兩種方法的分析目標是相同的。現在讓我們詳細的探究一下其定義及差異。

定義

機器學習:一種不依賴於規則設計的資料學習演算法。

統計模型：以數學方程形式表現變數之間關係的程式化表達

對於喜歡從實際應用中瞭解概念的人，上述表達也許並不明確。讓我們看一個商務的案例。

商業案例

讓我們用麥肯錫釋出的一個有趣案例來區分兩個演算法。

案例：分析理解電信公司一段時間內客戶的流失水平。

可獲得資料：兩個驅動-A&B

麥肯錫接下來的展示足夠讓人興奮。盯住下圖來理解一下統計模型和機器學習演算法的差別。

從上圖中你觀察到了什麼？統計模型在分類問題中得到一個簡單的分類線。一條非線性的邊界線區分了高風險人群和低風險人群。但當我們看到通過機器學習產生的顏色時，我們發現統計模型似乎沒有辦法和機器學習演算法進行比較。機器學習的方法獲得了任何邊界都無法詳細表徵的資訊。這就是機器學習可以為你做的。

機器學習還被應用在YouTube 和Google的引擎推薦上，機器學習通過瞬間分析大量的觀測樣本給出近乎完美的推薦建議。即使只採用一個16 G 記憶體的筆記本，我每天處理數十萬行的數千個引數的模型也不會超過30分鐘。然而一個統計模型需要在一臺超級計算機跑一百萬年來來觀察數千個引數。

機器學習和統計模型的差異：

在給出了兩種模型在輸出上的差異後，讓我們更深入的瞭解兩種正規化的差異，雖然它們所做的工作類似。

所屬的學派
產生時間
基於的假設
處理資料的型別
操作和物件的術語
使用的技術
預測效果和人力投入

以上提到的方面都能從每種程度上區分機器學習和統計模型，但並不能給出機器學習和統計模型的明確界限。

分屬不同的學派

機器學習：電腦科學和人工智慧的一個分支,通過資料學習構建分析系統，不依賴明確的構建規則。統計模型：數學的分支用以發現變數之間相關關係從而預測輸出。

誕生年代不同

統計模型的歷史已經有幾個世紀之久。但是機器學習卻是最近才發展起來的。二十世紀90年代，穩定的數字化和廉價的計算使得資料科學家停止建立完整的模型而使用計算機進行模型建立。這催生了機器學習的發展。隨著資料規模和複雜程度的不斷提升，機器學習不斷展現出巨大的發展潛力。

假設程度差異

統計模型基於一系列的假設。例如線性迴歸模型假設：

（1）自變數和因變數線性相關（2）同方差（3）波動均值為0 （4）觀測樣本相互獨立（5）波動服從正態分佈

Logistics迴歸同樣擁有很多的假設。即使是非線性迴歸也要遵守一個連續的分割邊界的假設。然而機器學習卻從這些假設中脫身出來。機器學習最大的好處在於沒有連續性分割邊界的限制。同樣我們也並不需要假設自變數或因變數的分佈。

資料區別

機器學習應用廣泛。線上學習工具可飛速處理資料。這些機器學習工具可學習數以億計的觀測樣本，預測和學習同步進行。一些演算法如隨機森林和梯度助推在處理大資料時速度很快。機器學習處理資料的廣度和深度很大。但統計模型一般應用在較小的資料量和較窄的資料屬性上。

命名公約

下面一些命名幾乎指相同的東西：

公式：

雖然統計模型和機器學習的最終目標是相似的，但其公式化的結構卻非常不同

在統計模型中，我們試圖估計f 函式通過

因變數（Y）=f(自變數)+ 擾動函式

機器學習放棄採用函式f的形式，簡化為：

輸出（Y）——> 輸入（X）

它試圖找到n維變數X的袋子，在袋子間Y的取值明顯不同。

預測效果和人力投入

自然在事情發生前並不給出任何假設。一個預測模型中越少的假設，越高的預測效率。機器學習命名的內在含義為減少人力投入。機器學習通過反覆迭代學習發現隱藏在資料中的科學。由於機器學習作用在真實的資料上並不依賴於假設，預測效果是非常好的。統計模型是數學的加強，依賴於引數估計。它要求模型的建立者，提前知道或瞭解變數之間的關係。