推薦 | 掌握這12條經驗，對理解機器學習至關重要！

1. “表徵+評估+最佳化”構成機器的主要內容！

構成機器學習演算法的 3 部分：

• 表徵（Representation） ：分類器必須用計算機可以處理的形式化語言來表示。相反地，為訓練模型選擇一個表徵就等同於選擇可訓練分類器的集合。這個集合稱為訓練模型的「假設空間」。如果分類器不在「假設空間」中，那麼它就不能由訓練所得到。一個相關的問題是如何表徵輸入，即使用哪些特徵。

• 評估（Evaluation） ：需要一個評估函式來區分分類器的好壞。演算法內部使用的評估函式可能與分類器最佳化的外部評估函式不同，這是為了便於最佳化，並且是由我們下一節所要討論的問題導致的。

• 最佳化（Optimization） ：我們要用一種方法搜尋得分最高的分類器。最佳化方法的選擇對於提升模型的效率非常關鍵。另外，如果評估函式具有一個以上的最優值，則最佳化方法有助於確定最後產生的分類器。新的訓練模型一開始常常使用現有的最佳化器，後來常會轉而使用自定義的最佳化器。

2. “泛化能力”很關鍵，“測試資料”驗證至關重要！

機器學習的主要目標是對訓練集之外的樣本進行泛化。因為無論有多少資料，都不太可能在測試中再次看到完全相同的例子。在訓練集上具有良好表現很容易。機器學習初學者最常犯的錯誤是把模型放在訓練資料中進行測試，從而產生成功的錯覺。如果被選擇的分類器在新的資料上進行測試，一般情況，結果往往和隨機猜測相差無幾。所以，如果你僱傭他人建立分類器，一定要留一些資料給你自己，以便在他們給你的分類器中進行測試。相反，如果有人僱傭你建立一個分類器，請保留一部分資料對你的分類器進行最終測試。

3. 僅有資料是不夠的，知識相結合效果更好！

把泛化能力作為目標，會又另一個後果：只有資料是不夠的，無論你擁有多少資料。這是否讓人沮喪。那麼，我們怎麼能奢求它學到東西呢？不過，現實世界中我們想學習的函式並不都是從數學上可能的函式中提取出來的！實際上，使用一般假設——例如平滑性、相似樣本有相似分類、有限的依賴性或有限複雜度——往往能做得足夠好，這也正是機器學習能如此成功的大部分原因。正如演繹一樣，歸納（訓練模型所做的）是一個知識槓桿——它將少量知識輸入轉化為大量知識輸出。歸納是一個比演繹更為強大的槓桿，僅需更少的知識就能產出有用的結果。不過，它仍然需要大於零的知識輸入才能工作。正如任何一個槓桿一樣，輸入得越多，得到的也越多。

這樣回想起來，訓練過程中對知識的需求沒什麼好驚訝的。機器學習並非魔術，它無法做到無中生有，它所做的是舉一反三。如同所有的工程一樣，程式設計需要做大量的工作：我們必須從頭開始構建所有的東西。訓練的過程更像是耕種，其中大部分工作是自然完成的。農民將種子與營養物質結合起來，種植作物。訓練模型將知識與資料結合起來，編寫程式。

4. “過擬合”讓機器學習效果產生錯覺！

如果我們所擁有的知識和資料不足以完全確定正確的分類器，分類器（或其中的一部分）就可能產生「錯覺」。 所獲得的分類器並不是基於現實，只是對資料的隨機性進行編碼。 這個問題被稱為過擬合，是機器學習中棘手的難題。如果你的訓練模型所輸出的分類器在訓練資料上準確率是 100％，但在測試資料上準確率只有 50％，那麼實際上，該分類器在兩個集合上的輸出準確率總體可能約為 75％，它發生了過擬合現象。

在機器學習領域，人人都知道過擬合。但是過擬合有多種形式，人們往往不能立刻意識到。理解過擬合的一種方法是將泛化的誤差進行分解，分為偏差和方差。偏差是模型不斷學習相同錯誤的傾向。而方差指的是不管真實訊號如何，模型學習隨機訊號的傾向。線性模型有很高的偏差，因為當兩個類之間的邊界不是一個超平面時，模型無法做出調整。決策樹不存在這個問題，因為它們可以表徵任何布林函式。但是另一方面，決策樹可能方差很大：如果在不同訓練集上訓練，生成的決策樹通常差異很大，但事實上它們應該是相同的。

交叉驗證可以幫助對抗過擬合，例如，透過使用交叉驗證來選擇決策樹的最佳規模用於訓練。但這不是萬能的，因為如果我們用交叉驗證生成太多的引數選擇，它本身就會開始產生過擬合現象。

除交叉驗證之外，還有很多方法可以解決過擬合問題。最流行的是在評估函式中增加一個正則化項。舉個例子，這樣一來就能懲罰含更多項的分類器，從而有利於生成引數結構更簡單的分類器，並減少過擬合的空間。另一種方法是在新增新的結構之前，進行類似卡方檢驗的統計顯著性檢驗，在新增新結構前後確定類的分佈是否真的具有差異。當資料非常少時，這些技術特別有用。儘管如此，你應該對某種方法完美解決了過擬合問題的說法持懷疑態度。減少過擬合（方差）很容易讓分類器陷入與之相對的欠擬合誤差（偏差）中去。如果要同時避免這兩種情況，需要訓練一個完美的分類器。在沒有先驗資訊的情況下，沒有任何一種方法總能做到最好（天下沒有免費的午餐）。

5. 機器學習中最大的問題就是“維度災難”！

除了過擬合，機器學習中最大的問題就是維度災難。這一名詞是由 Bellman 在 1961 年提出的，指的是當輸入維度很高時，許多在低維工作正常的演算法將無法正常工作。但是在機器學習中，它的意義更廣。隨著樣本維度（特徵數量）的增加，進行正確泛化變得越來越難，因為固定大小的訓練集對輸入空間的覆蓋逐漸縮減。

高維的一般問題是，來自三維世界的人類直覺通常不適用於高維空間。在高維度當中，多元高斯分佈的大部分資料並不接近平均值，而是在其周圍越來越遠的「殼」中；此外，高維分佈的大部分體積分佈在表面，而不是體內。如果恆定數量的樣本在高維超立方體中均勻分佈，那麼在超越某個維數的情況下，大多數樣本將更接近於超立方體的一個面，而不是它們的最近鄰。此外，如果我們透過嵌入超立方體的方式逼近一個超球面，那麼在高維度下，超立方體幾乎所有的體積都在超球面之外。這對於機器學習來說是個壞訊息，因為一種型別的形狀常常可以被另一種形狀所逼近，但在高維空間中卻失效了。

建立二維或三維分類器容易；我們可以僅透過視覺檢查詢出不同類別樣本之間的合理邊界。但是在高維中，我們很難理解資料的分佈結構。這又反過來使設計一個好的分類器變得困難。簡而言之，人們可能會認為收集更多的特徵一定不產生負面作用，因為它們最多隻是不提供有關分類的新資訊而已。但事實上，維度災難的影響可能大於新增特徵所帶來的利益。

6. “理論保證”與“實際出入”的相互關係

機器學習論文中充斥著理論保證。最常見的保證就是關於保持模型良好泛化能力的訓練樣本數量約束問題。首先，該問題顯然是可證的。歸納通常與演繹相對：透過演繹，你可以確保結論是正確的; 在歸納中，所有臆想都被摒棄。或許這就是傳世的古老智慧。近十年的主要突破就是認識到歸納的結果是可證的這一事實，尤其在我們願意給出機率保證時。

必須斟酌這類約束意味著什麼。這並不意味著，如果你的網路返回與某個特定訓練集一致的假設，那麼這個假設就可能具有很好的泛化能力。而是，給定一個足夠大的訓練集，你的網路很可能會返回一個泛化能力好的假設或無法得到一致的假設。這類約束也沒有教我們如何選擇一個好的假設空間。它只告訴我們，如果假設空間包含好的分類器，那麼隨著訓練集的增大，網路訓練出一個弱分類器的機率會減小。如果縮小假設空間，約束條件作用會增強，但是訓練出一個強分類器的機率也會下降。

另一種常見的理論保證是漸進性：假如輸入的資料規模是無窮大的，那麼網路肯定會輸出一個強分類器。聽起來靠譜，但是由於要保證漸近性，選擇某個網路而非另一個就顯得過於輕率。在實踐中，我們很少處於漸近狀態。由上面討論的偏差 - 方差權衡可知，如果網路 A 在具有海量資料時比網路 B 好，則在有限資料情況下，B 往往比 A 好。

理論保證在機器學習中存在的意義不僅僅是作為評判實際決策的標準，而且是理解的方法及設計演算法的動力。鑑於此，它十分有用。事實上，這麼多年以來，正是理論聯絡實際促進了機器學習的飛躍式進步。 注意：學習是一個複雜的現象，它在理論上說得通，在實際工作中可行，也並不表示前者是導致後者的原因。

7.“特徵工程”是機器學習的關鍵

最後，有些機器學習專案大獲成功，有些卻失敗了。這是什麼造成的？最重要的影響因素就是使用的特徵。如果你獲取到很多獨立的且與所屬類別相關的特徵，那麼學習過程就很容易。相反，若某一個類是特徵的極其複雜的函式，你的模型可能無法學習到該函式。通常來說，原始資料格式很不適合學習，但是可以基於它來構建特徵。這正是機器學習專案最重要的部分，通常也是最有趣的部分，直覺、創造力、「魔術」和技術同樣重要。

初學者常常會驚訝於機器學習專案實際上花在機器學習上的時間很少。但是當你將收集、整合、清洗和預處理資料以及將資料重構成特徵過程中解決錯誤等瑣事所消耗的時間考慮在內就不奇怪了。而且，機器學習並不只是構建資料集跑一次模型就沒事了，它通常是一個跑模型、分析結果、修改資料集/模型的迭代式過程。學習是其中最快的部分，但這取決於我們已經可以熟練運用它！特徵工程因為針對特定的領域，所以很難做，而模型架構的適用範圍更廣泛。但是，這二者之間並沒有清晰的界線，這通常可以解釋那些整合了領域知識的模型具有更好的效能。

8. 記住：資料量比演算法還重要！

在電腦科學的大多數領域，時間和記憶體是兩大緊缺資源。但在機器學習中，資料集儼然是第三個緊缺資源。隨著時間的推移，瓶頸之爭也在不斷改變。在 20 世紀 80 年代，資料通常是瓶頸。而如今時間更為寶貴。我們今天有海量的資料可用，但是卻沒有充足的時間去處理它，這些資料因此被擱置。這就產生了一個悖論：即使在原則上講，大量的資料意味著可以學習到更復雜的分類器，但在實踐中，我們往往採用更簡單的分類器，因為複雜的分類器意味著更長的訓練時間。部分解決方案是提出可以快速學習到複雜分類器的方法，且今天在這一方向上確實取得了顯著的進展。

使用更智慧的演算法的收益不如期望的部分原因是，第一次取近似值時，它跟其它演算法無異。當你認為表徵方式之間的區別與規則、神經網路之間的區別類似時，這會讓你驚訝。但事實是，命題規則可以輕易地編碼進神經網路，並且其它的表徵方式之間也有類似的關係。模型本質上都是透過將近鄰樣本分到相同的類別而實現的，關鍵差異在於「近鄰」的含義。對於非均勻分佈的資料，模型可以產生廣泛不同的邊界，同時在重要的區域（具有大量訓練樣例的區域，因此也是大多數文字樣例可能出現的區域）中產生相同的預測。這也能解釋為什麼強大的模型可能是不穩定的但仍然很準確。

一般來說，我們首先要考慮最簡單的模型（例如，先考慮樸素貝葉斯而非 logistic 迴歸，先考慮 K-近鄰而非支援向量機）。模型越複雜越誘人，但是它們通常很難使用，因為你需要調整很多的節點以獲得好的結果，同時，它們的內部構造極其不透明。

模型可以分為兩種主要型別：一種是規模固定的模型，例如線性分類器，另一種是表徵能力隨資料集增強的模型，例如決策樹。固定規模的模型只能利用有限的資料。規模可變的模型理論上可以擬合任何函式，只要有足夠大的資料集，但是現實很骨感，總存在演算法的侷限性或計算成本。而且，由於維度災難，現有的資料集可能不夠。鑑於這些原因，更智慧的演算法—那些充分利用資料和計算資源的演算法--如果你願意努力去除錯，最終會得到好的結果。在設計模型與學習分類器之間並沒有十分清晰的界線；但是，任何給定的知識點都可以編碼進模型或從資料中學習到。因此，模型設計往往是機器學習專案中的重要組成部分，設計者最好擁有相關專業背景。

9.“單模型”很難實現最優，“多模型整合”才是出路！

在機器學習發展的早期，大家都有各自喜愛的模型，用一些先驗的理由說明它的優越性。研究員對模型開發了大量的變體並從中挑選一個最優的模型。隨後，系統的經驗比較表明，最好的模型隨應用的改變而改變，開始出現了包含許多不同模型的系統。現在的研究開始嘗試除錯多個模型的不同變體，然後挑選表現最好的那一個。但研究人員開始注意到，不選擇找到的最佳變體，而是結合多個變體，卻得到了更好的結果（通常會好很多），而且這沒有增加工作量。

現在，模型整合已經是標準方法。其中最簡單的技術叫 bagging 演算法，我們僅透過重取樣來生成訓練資料集的隨機變體，再基於這些變體分別學習分類器，並透過投票整合這些分類器的結果。此法的可行性在於它大幅減少了方差，且只微微提升了一點偏差。在 boosting 演算法中，訓練樣例有權重，而且這些權重各不相同，因此每個新分類器都把重點放在前面的模型會出錯的樣例上。在 stacking 演算法中，每個單獨的分類器的輸出作為「高層」模型的輸入，這些高層模型會以最佳方式組合這些模型。

還有很多其它的方法，就不一一列舉了，但是總的趨勢是規模越來越大的整合學習。在 Netflix 的獎金激勵下，全世界的團隊致力於構建最佳影片推薦系統。隨著競賽的推進，競賽團隊發現透過結合其它團隊的模型可以獲得最佳結果，同時這也促進團隊的合併。冠軍和亞軍模型都是由 100 多個小模型組成的整合模型，兩個整合模型相結合可進一步提高成績。毫無疑問，將來還會出現更大的整合模型。

10 .“簡單”不能代表是“準確”！

奧卡姆剃刀原理指出，如無必要，勿增實體。在機器學習中，這通常意味著，給定兩個具有相同訓練誤差的分類器，兩者中較簡單的分類器可能具有最低的評估誤差。關於這一說法的佐證在文獻中隨處可見，但實際上有很多反例用來反駁它，「沒有免費午餐」定理質疑它的真實性。

我們在前文中也看到了一個反例：整合模型。即使訓練誤差已經達到零，透過增加分類器，增強整合模型的泛化誤差仍然可以繼續減少。因此，與直覺相悖，模型的引數數量與其過擬合趨勢並沒有必然的聯絡。

一個巧妙的觀點是將模型複雜性等同於假設空間的大小，因為較小的空間允許用較短的編碼表徵假設。類似理論保證部分中的界限可能被理解成較短的假設編碼有更好的泛化能力。透過在有先驗偏好的空間中對假設進行較短的編碼，我們可以進一步細化這一點。但是把這看作準確率和簡單性之間的權衡的證明則是迴圈論證：我們透過設計使偏愛的假設更簡單，如果它們準確率不錯，那是因為偏愛假設的正確，而不是因為在特定表徵下假設的「簡單」。

11.“可表徵”並不代表“可學習”！

所有運用於非固定規模的模型表徵實際上都有「任意函式都可以使用該表徵來表示或無限逼近」之類的相關定理。這使得某表徵方法的偏好者常常會忽略其它要素。然而，僅憑可表徵性並不意味著模型可以學習。例如，葉節點多於訓練樣本的決策樹模型就不會學習。在連續的空間中，通常使用一組固定的原語表徵很簡單的函式都需要無限的分量。

進一步講，如果評估函式在假設空間有很多區域性最優點（這很常見），模型可能就找不到最優的函式，即使它是可表徵的。給定有限的資料、時間及儲存空間，標準的模型只能學到所有可能函式集的一個很小的子集，且這個子集隨所選的表徵方法的不同而不同。因此，關鍵問題不在「模型是否可表示」，而「模型是否可學習」以及嘗試不同的模型（甚至是整合模型）是很重要的。

12 .“相關性”並非就是“因果關係”！

相關性並不意味著因果關係這一點被頻繁提起，以至於都不值得再批評。但是，我們討論的某類模型可能只學習相關性，但是它們的結果通常被看作是表徵因果關係。有問題嗎？如果有，那麼大家為何還這麼做？

通常是不對的，預測模型學習的目標是用它們作為行動的指南。當發現人們在買啤酒的時候也會買紙尿布，那麼把啤酒放在紙尿布旁邊或許會提高銷量。但如果不實際進行實驗則很難驗證。機器學習通常用於處理觀測資料，其中預測變數不受模型的控制，和實驗資料相反（可控的）。一些學習演算法也許可以透過觀測資料探勘潛在的因果關係，但是實用性很差。另一方面，相關性只是潛在的因果關係的標識，我們可以用它指導進一步的研究。

【本文轉載自：機器學習演算法與Python學習，原文連結：https://mp.weixin.qq.com/s/Oot7qI5Atj8kNGfhqYwDcA，如若侵權請第一時間聯絡作者刪除】