七步精通Python機器學習

發表於2016-01-14

開始。這是最容易令人喪失鬥志的兩個字。邁出第一步通常最艱難。當可以選擇的方向太多時,就更讓人兩腿發軟了。

從哪裡開始?

本文旨在通過七個步驟,使用全部免費的線上資料,幫助新人獲取最基本的 Python 機器學習知識,直至成為博學的機器學習實踐者。這篇概述的主要目的是帶領讀者接觸眾多免費的學習資源。這些資源有很多,但哪些是最好的?哪些相互補充?怎樣的學習順序才最好?

我假定本文的讀者不是以下任何領域的專家:

▪  機器學習

▪  Python

▪  任何 Python 的機器學習、科學計算、資料分析庫

如果你有前兩個領域其一或全部的基礎知識,可能會很有幫助,但這些也不是必需的。在下面幾個步驟中的前幾項多花點時間就可以彌補。


第一步:基本 Python 技能

如果要使用 Python 進行機器學習,擁有對 Python 有基礎的理解非常關鍵。幸運的是,Python 是當前普遍使用的流行語言,並納入了科學計算和機器學習的內容,所以找到入門教程並不困難。在選擇起點時,很大程度上要取決於你之前的 Python 經驗和程式設計經驗。

首先要安裝 Python 。由於我們要使用機器學習和科學計算的 packages ,這裡建議安裝  Anaconda。Anaconda 是一個可在 Linux , OSX , Windows 上執行的 Python 實現工具,擁有所需的機器學習 packages ,包括 numpy,scikit-learn,matplotlib。它還包含iPython Notebook ,一個帶有許多教程的互動式環境。這裡推薦使用 Python 2.7 ,不是因為特殊原因,只是因為它是目前安裝版本中的主流。

 

如果你之前沒有程式設計知識,建議你閱讀這本免費電子書,然後再接觸其他學習材料:

  Python The Hard Way 作者Zed A. Shaw

如果你之前有程式設計知識,但不是Python的,又或者你的Python水平很基礎,推薦下列一種或幾種教程:

▪  Google Developers Python Course((強烈推薦給視覺型學習者)

▪  An Introduction to Python for Scientific Computing (from UCSB Engineering) 作者 M. Scott Shell (一個很好的 Python 科學計算簡介,60 頁)

對於想要速成課程的人,這裡有:

▪  Learn X in Y Minutes (X = Python)

當然,如果你是個經驗豐富的 Python 程式設計師,可以跳過這一步。儘管如此,還是建議你把通俗易懂的 Python documentation  放在手邊。

 

第二步:機器學習基礎技能

KDnuggets 的 Zachary Lipton 指出,人們對於“資料科學家”的認知千差萬別。這實際上是對機器學習領域的反映。資料科學家在不同程度上使用計算學習演算法。要建立和使用支援向量機模型,熟知核函式方法是否是必需的?答案當然不是。就像現實生活中的許多事情一樣,所需要的理論深入程度與具體的實際應用有關。獲取對機器學習演算法的深入理解不是本文的討論範圍, 而且這通常需要在學術領域投入大量時間,或者至少要通過密集的自學才能達到。

好訊息是,你不必擁有博士級別的機器學習理論能力才能進行實踐,就如同不是所有程式設計師都必須接受計算機理論教育才能寫好程式碼。

吳恩達在 Coursera 的課程飽受讚譽。但我的建議是去看看一名以前的學生做的筆記。略過那些針對 Octave(一個與 Python 無關的,類 Matlab 語言)的內容。需要注意,這些不是“官方”的筆記,雖然看起來的確抓住了吳恩達課程材料的相關內容。如果你有時間,可以自己去 Coursera 完成這個課程 :Andrew Ng’s Machine Learning course

▪  非官方課程筆記連結

除了吳恩達的課程以外,還有很多其他視訊教程。我是 Tom Mitchell 的粉絲,下面是他(與Maria-Florina Balcan 共同完成的)最新的課程視訊,對學習者非常友好:

▪  Tom Mitchell Machine Learning Lectures

你不需要現在看完全部的筆記和視訊。比較好的策略是向前推進,去做下面的練習,需要的時候再查閱筆記和視訊。比如,你要做一個迴歸模型,就可以去查閱吳恩達課程有關回歸的筆記以及/或者 Mitchell 的視訊。

 

第三步:科學計算 Python packages 一覽

好了。現在我們有了 Python 程式設計經驗,並對機器學習有所瞭解。Python 有很多為機器學習提供便利的開源庫。通常它們被稱為 Python 科學庫(scientific Python libraries),用以執行基本的資料科學任務(這裡有一點程度主觀色彩):

▪  numpy – 主要用於 N 維陣列

▪  pandas – Python 資料分析庫,包含 dataframe 等結構

▪  matplotlib – 2D 繪相簿,產出質量足以進行印刷的圖

▪  scikit-learn – 資料分析、資料探勘任務使用的機器學習演算法

學習以上這些內容可以使用:

▪  Scipy Lecture Notes 作者 Gaël Varoquaux, Emmanuelle Gouillart, Olav Vahtras

下面這個 pandas 教程也不錯,貼近主題:

▪  10 Minutes to Pandas

在後面的教程中你會看到其他一些 packages ,比如包括 Seaborn ,一個基於 matplotlib 的視覺化庫。前面提到的 packages (再次承認具有一定主觀色彩)是許多 Python 機器學習任務的核心工具。不過,理解它們也可以讓你在之後的教程中更好理解其他相關 packages。

好了,現在到了有意思的部分…..

 

第四步:開始用 Python 進行機器學習

Python。搞定。

機器學習基礎。搞定。

Numpy。搞定。

Pandas。搞定。

Matplotlib。搞定。

是時候用 Python 的標準機器學習庫,scikit-learn,實現機器學習演算法了。

 

scikit-learn 演算法選擇圖

下面許多教程和練習都基於互動式環境 iPython (Jupyter) Notebook 。這些 iPython Notebooks有些可以在網上觀看,有些可以下載到本地電腦。

▪  iPython Notebook 概覽 史丹佛大學

也請注意下面的資源來自網路。所有資源屬於作者。如果出於某種原因,你發現有作者沒有被提及,請告知我,我會盡快改正。在此特別要向 Jake VanderPlas,Randal Olson,Donne Martin,Kevin Markham,Colin Raffel 致敬,感謝他們提供的優秀免費資源。

下面是 scikit-learn 的入門教程。在進行下一個步驟之前,推薦做完下列全部教程。

對於 scikit-learn 的整體介紹,它是 Python 最常用的通用機器學習庫,包含knn最近鄰演算法:

▪  An Introduction to scikit-learn 作者 Jake VanderPlas

更深入更寬泛的介紹,包含一個新手專案,從頭到尾使用一個著名的資料集:

▪  Example Machine Learning Notebook 作者 Randal Olson

專注於 scikit-learn 中評估不同模型的策略,涉及訓練集/測試集拆分:

▪  Model Evaluation 作者 Kevin Markham

 

第五步:Python 機器學習主題

在 scikit-learn 打下基礎以後,我們可以探索更多有用的常見演算法。讓我們從最知名的機器學習演算法之一,k-means 聚類開始。對於無監督學習問題,k-means 通常簡單有效:

▪  k-means Clustering 作者 Jake VanderPlas

接下來是分類,讓我們看看史上最流行的分類方法之一,決策樹:

▪  Decision Trees via The Grimm Scientist

分類之後,是連續數字變數的預測:

▪  Linear Regression 作者 Jake VanderPlas

通過邏輯斯蒂迴歸,我們可以用迴歸解決分類問題:

▪  Logistic Regression 作者 Kevin Markham

 

第六步:Python高階機器學習

接觸過 scikit-learn,現在讓我們把注意力轉向更高階的內容。首先是支援向量機,一個無需線性的分類器,它依賴複雜的資料轉換,把資料投向高維空間。

▪  Support Vector Machines 作者 Jake VanderPlas

接下來是隨機森林,一種整合分類器。下面的教程通過 Kaggle Titanic Competition講解。

▪  Kaggle Titanic Competition (with Random Forests) 作者 Donne Martin

降維是一種減少問題涉及的變數數目的方法。PCA 主成分分析是一種無監督學習降維的特殊形式:

▪  Dimensionality Reduction 作者 Jake VanderPlas

在開始下一步之前,可以暫停一下,回想我們在短短的時間已經走了多遠。

通過使用 Python 和它的機器學習庫,我們涵蓋了一些最常用最知名的機器學習演算法( knn 最近鄰,k-means 聚類,支援向量機),瞭解了一種強有力的整合方法(隨機森林),涉及了一些其他機器學習支援方案(降維,模型驗證技巧)。在一些基礎機器學習的技巧的幫助下,我們開始有了一個漸漸豐富的工具箱。

在結束以前,讓我們給工具箱增加一個需求很大的工具:

 

第七步 :Python 深度學習

 

學習,深深地。

到處都在深度學習!深度學習基於過去幾十年的神經網路研究,但最近幾年的發展大大增加了深度神經網路的能力和對於它的興趣。如果你不熟悉深度學習,KDnuggets 有許多文章 ,詳細介紹最近的進展、成果,以及對這項技術的讚譽。

本文的最後一部分並不想成為某種深度學習示範教程。我們會關注基於兩個Python深度學習庫的簡單應用。對於想了解更多的讀者,我推薦下面這本免費線上書:

▪  Neural Networks and Deep Learning 作者 Michael Nielsen

Theano

Theano是我們關注的第一個 Python 深度學習庫。根據作者所說:

作為一個 Python 庫,Theano 讓你可以有效定義、優化、評估包含多維陣列的數學表示式。

下面的 Theano 深度學習教程很長,但非常不錯,描述詳細,有大量評論:

▪  Theano Deep Learning Tutorial 作者 Colin Raffel

Caffe

我們關注的另一個庫是 Caffe。根據它的作者所說:

Caffe 是一個深度學習框架。開發過程中時刻考慮著表示式、速度、模型。 它是由 Berkeley Vision and Learning Center (BVLC) 和社群貢獻者共同開發的。

這個教程是本文的壓軸。儘管上面列舉了一些有趣的案例,沒有那個比得上下面這個:用 Caffe 實現 Google 的  #DeepDream。希望你喜歡!理解這個教程以後,盡情玩樂,讓你的處理器開始自己做夢吧。

▪  Dreaming Deep with Caffe via Google’s GitHub

我不敢保證Python機器學習是速成的或簡單的。但只要投入時間,遵循這七個步驟,你無疑會對於這個領域擁有足夠的熟練度和理解,會使用流行的 Python 庫實現許多機器學習演算法,甚至當今深度學習領域的前沿內容。

相關文章