http://www.ai-start.com/
http://www.ai-start.com/ml2014/
https://github.com/fengdu78/deeplearning_ai_books
https://github.com/fengdu78/Coursera-ML-AndrewNg-Notes
《統計學習方法》的程式碼實現
《統計學習方法》(李航)讀書筆記(完結)
- 第一週
一、 引言(Introduction)
1.1 歡迎
1.2 機器學習是什麼？
1.3 監督學習
1.4 無監督學習
二、單變數線性迴歸(Linear Regression with One Variable)
2.1 模型表示
2.2 代價函式
2.3 代價函式的直觀理解I
2.4 代價函式的直觀理解II
2.5 梯度下降
2.6 梯度下降的直觀理解
2.7 梯度下降的線性迴歸
2.8 接下來的內容
三、線性代數回顧(Linear Algebra Review)
3.1 矩陣和向量
3.2 加法和標量乘法
3.3 矩陣向量乘法
3.4 矩陣乘法
3.5 矩陣乘法的性質
3.6 逆、轉置
- 第二週
四、多變數線性迴歸(Linear Regression with Multiple Variables)
4.1 多維特徵
4.2 多變數梯度下降
4.3 梯度下降法實踐1-特徵縮放
4.4 梯度下降法實踐2-學習率
4.5 特徵和多項式迴歸
4.6 正規方程
4.7 正規方程及不可逆性（選修）
五、Octave教程(Octave Tutorial)
5.1 基本操作
5.2 移動資料
5.3 計算資料
5.4 繪圖資料
5.5 控制語句：for，while，if語句
5.6 向量化 88
5.7 工作和提交的程式設計練習
- 第三週
六、邏輯迴歸(Logistic Regression)
6.1 分類問題
6.2 假說表示
6.3 判定邊界
6.4 代價函式
6.5 簡化的成本函式和梯度下降
6.6 高階最佳化
6.7 多類別分類：一對多
七、正則化(Regularization)
7.1 過擬合的問題
7.2 代價函式
7.3 正則化線性迴歸
7.4 正則化的邏輯迴歸模型
- 第四周
第八、神經網路：表述(Neural Networks: Representation)
8.1 非線性假設
8.2 神經元和大腦
8.3 模型表示1
8.4 模型表示2
8.5 樣本和直觀理解1
8.6 樣本和直觀理解II
8.7 多類分類
- 第五週
九、神經網路的學習(Neural Networks: Learning)
9.1 代價函式
9.2 反向傳播演算法
9.3 反向傳播演算法的直觀理解
9.4 實現注意：展開引數
9.5 梯度檢驗
9.6 隨機初始化
9.7 綜合起來
9.8 自主駕駛
- 第六週
十、應用機器學習的建議(Advice for Applying Machine Learning)
10.1 決定下一步做什麼
10.2 評估一個假設
10.3 模型選擇和交叉驗證集
10.4 診斷偏差和方差
10.5 正則化和偏差/方差
10.6 學習曲線
10.7 決定下一步做什麼
十一、機器學習系統的設計(Machine Learning System Design)
11.1 首先要做什麼
11.2 誤差分析
11.3 類偏斜的誤差度量
11.4 查準率和查全率之間的權衡
11.5 機器學習的資料
第7周
十二、支援向量機(Support Vector Machines)
12.1 最佳化目標
12.2 大邊界的直觀理解
12.3 數學背後的大邊界分類（選修）
12.4 核函式1
12.5 核函式2
12.6 使用支援向量機
- 第八週
十三、聚類(Clustering)
13.1 無監督學習：簡介
13.2 K-均值演算法
13.3 最佳化目標
13.4 隨機初始化
13.5 選擇聚類數
十四、降維(Dimensionality Reduction)
14.1 動機一：資料壓縮
14.2 動機二：資料視覺化
14.3 主成分分析問題
14.4 主成分分析演算法
14.5 選擇主成分的數量
14.6 重建的壓縮表示
14.7 主成分分析法的應用建議
- 第九周
十五、異常檢測(Anomaly Detection)
15.1 問題的動機
15.2 高斯分佈
15.3 演算法
15.4 開發和評價一個異常檢測系統
15.5 異常檢測與監督學習對比
15.6 選擇特徵
15.7 多元高斯分佈（選修）
15.8 使用多元高斯分佈進行異常檢測（選修）
十六、推薦系統(Recommender Systems)
16.1 問題形式化
16.2 基於內容的推薦系統
16.3 協同過濾
16.4 協同過濾演算法
16.5 向量化：低秩矩陣分解
16.6 推行工作上的細節：均值歸一化
- 第十週
十七、大規模機器學習(Large Scale Machine Learning)
17.1 大型資料集的學習
17.2 隨機梯度下降法
17.3 小批次梯度下降
17.4 隨機梯度下降收斂
17.5 線上學習
17.6 對映化簡和資料並行
十八、應用例項：圖片文字識別(Application Example: Photo OCR)
18.1 問題描述和流程圖
18.2 滑動視窗
18.3 獲取大量資料和人工資料
18.4 上限分析：哪部分管道的接下去做
十九、總結(Conclusion)
19.1 總結和致謝