機器學習問題方法總結
|
大類 |
名稱 |
關鍵詞 |
|
有監督分類 |
||
|
Gini指數，Χ2統計量，剪枝 |
||
|
非引數估計，貝葉斯估計 |
||
|
Fishre判別，特徵向量求解 |
||
|
相似度度量：歐氏距離、街區距離、編輯距離、向量夾角、Pearson相關係數 |
||
|
邏輯斯諦迴歸（二值分類） |
引數估計（極大似然估計）、S型函式 |
|
|
非引數估計、正則化理論、S型函式 |
||
|
一個輸出層細胞跟幾個競爭層細胞相連 |
||
|
S型函式、梯度下降法 |
||
|
支援向量機（二值分類） |
二次規化，Lagrange乘數法，對偶問題，最優化，序列最小優化，核技巧 |
|
|
單層感知器 |
只具有線性可分的能力 |
|
|
雙隱藏層感知器 |
足以解決任何複雜的分類問題 |
|
|
無監督分類 |
質心 |
|
|
圖劃分，相對互連度，相對緊密度 |
||
|
B樹，CF三元組 |
||
|
核心點，密度可達 |
||
|
引數估計（極大似然估計） |
||
|
圖劃分，奇異值求解 。全域性收斂 |
||
|
無導師的競爭學習 |
||
|
一般線性迴歸 |
引數估計，最小二乘法，一般不用於分類而用於預測 |
|
|
邏輯斯諦迴歸（二值分類） |
引數估計（極大似然估計），S型函式 |
|
|
關聯規則挖掘 |
頻繁1項集，FP-Tree，條件模式基，字尾模式 |
|
|
降維 |
協方差矩陣，奇異值分解 |
|
|
推薦 |
稀疏向量的相似度度量 |
|
方法細分 |
應用場所 |
||||
|
引數估計 |
極大似然估計 |
線性迴歸。假設誤差滿足均值為0的正態分佈,從而轉化為最小二乘法 |
|||
|
Logistic迴歸。梯度下降迭代法求似然函式的極值 |
|||||
|
高斯混合模型。 |
|||||
|
非引數估計 |
|
徑向基函式網路 |
|||
|
無引數假設檢驗 |
χ2檢驗 |
特徵詞選取，分類迴歸樹的終止條件 |
|||
|
秩和檢驗 |
|
||||
|
Pearson相關係數（假設x,y成對地從正態分佈中取得） |
基於向量空間模型的文字分類，使用者喜好推薦系統 |
||||
|
Spearman秩相關係數（無引數假設檢驗） |
|
||||
|
最優化方法 |
梯度下降法 |
極大似然估計（迴歸分析、GMM） 支援向量機 線性判別分析 |
|||
|
牛頓迭代法及其變種 |
|||||
|
有約束時通過Lagrange乘數法轉換成無約束問題 |
|||||
|
求特徵值/特徵向量 |
線性判別分析 |
降維 |
|||
|
奇異值分解（僅針對對稱矩陣） |
主成分分析 |
||||
|
譜聚類 |
|||||
|
資訊增益 |
特徵詞選擇 |
||||
|
決策樹 |
|||||
|
互資訊 |
特徵詞選擇 |
||||
|
交叉熵 |
特徵詞選擇，稀有事件建模模擬，多峰最優化問題 |
||||
|
多項式核函式 |
SVM RBF網路 |
||||
|
高斯核函式（徑向基函式） |
|||||
|
雙極性核函式 |
|||||
|
單極性Sigmoid函式 |
Logistic迴歸 |
||||
|
BP神經網路 |
|||||
|
協方差 |
Pearson相關係數 |
||||
|
PCA |
|||||
|
高斯混合模型 |
|||||
|
向前向後演算法 |
|||||
|
基函式 |
高斯混合模型 |
||||
|
徑向基函式網路 |
|||||
|
平滑演算法 |
拉普拉斯平滑 |
貝葉斯分類 隱馬爾可夫模型 |
|||
|
Good-Turing平滑 |
|||||
|
隱馬爾可夫模型 |
|
||||
|
|
|||||
Cover定理指出：將複雜的模式分類問題非線性地對映到高維空間將比投影到低維空間更可能線性可分。 所以SVM和RBF網路都試圖把樣本從低維空間對映到高維空間再進行分類。
好笑的是，另一些方法則是把輸入樣本從高維降到低維後再進行分類或迴歸分析，如PCA、SOFM網路、LDA、譜聚類，它們認為樣本在低維特徵空間有更清晰的表達，更容易發現規律。
相關文章
- 揹包問題解題方法總結
- 機器學習面試問題彙總機器學習面試
- 【演算法工程師】機器學習面試問題總結演算法工程師機器學習面試
- 【機器學習基礎】正則化及多分類問題總結機器學習
- 問題總結
- Elasticsearch 問題總結Elasticsearch
- Swoole 問題總結
- Kerberos問題總結ROS
- 面試問題總結面試
- JBoss安全問題總結
- Kibana 問題總結
- electron初探問題總結
- PHP面試問題總結PHP面試
- REDIS面試問題總結Redis面試
- RabbitMq面試問題總結MQ面試
- 跨域問題總結跨域
- 【Java問題面試總結】Java面試
- 常見問題總結
- 滑鼠定位問題總結
- 死鎖問題總結
- IIS配置問題總結
- Entity Framework問題總結Framework
- 揹包問題例題總結
- Mysql安裝過程問題總結及處理方法MySql
- 機器學習總結 （機器學習實踐筆記）機器學習筆記
- 機器學習常見的演算法面試題總結機器學習演算法面試題
- 機器學習-步驟總結機器學習
- 機器學習基礎總結機器學習
- vue專案問題總結Vue
- expdpnf 匯出問題總結
- 前端跨域問題總結前端跨域
- mysql常見問題總結MySql
- Vue 常見問題總結Vue
- mysql相關問題總結MySql
- TCP常見問題總結TCP
- ryu啟動問題總結
- flutter安裝問題總結Flutter
- JavaScript跨域問題總結JavaScript跨域