機器學習推薦的論文和文章

GrazyThinking發表於2014-10-23

基本模型:
1HMM(Hidden Markov Models):
    A Tutorial on Hidden Markov Models and Selected Applications in Speech Recognition.pdf

2ME(Maximum Entropy):
    ME_to_NLP.pdf

3MEMM(Maximum Entropy Markov Models):
    memm.pdf

4CRF(Conditional Random Fields):
    An Introduction to Conditional Random Fields for Relational Learning.pdf
    Conditional Random Fields: Probabilistic Models for Segmenting and Labeling Sequence Data.pdf

5SVM(support vector machine):
    張學工<<統計學習理論>>

6LSA(or LSI)(Latent Semantic Analysis):
    Latent semantic analysis.pdf

7pLSA(or pLSI)(Probablistic Latent Semantic Analysis):
    Probabilistic Latent Semantic Analysis.pdf

8LDA(Latent Dirichlet Allocation):
    Latent Dirichlet Allocaton.pdf(用variational theory + EM演算法解模型)
    Parameter estimation for text analysis.pdf(using Gibbs Sampling 解模)

9Neural Networksi(including Hopfield Model& self-organizing maps & Stochastic networks & Boltzmann Machine etc.):
    Neural Networks – A Systematic Introduction

10Diffusion Networks:
     Diffusion Networks, Products of Experts, and Factor Analysis.pdf

11Markov random fields:

12Generalized Linear Model(including logistic regression etc.):
     An introduction to Generalized Linear Models 2nd

13Chinese Restraunt Model (Dirichlet Processes):
     Dirichlet Processes, Chinese Restaurant Processes and all that.pdf
     Estimating a Dirichlet Distribution.pdf

=================================================================
Some important algorithms:

1EM(Expectation Maximization):
    Expectation Maximization and Posterior Constraints.pdf
    Maximum Likelihood from Incomplete Data via the EM Algorithm.pdf

2MCMC(Markov Chain Monte Carlo) & Gibbs Sampling:
    Markov Chain Monte Carlo and Gibbs Sampling.pdf
    Explaining the Gibbs Sampler.pdf
    An introduction to MCMC for Machine Learning.pdf

3PageRank:

4矩陣分解演算法:
    SVD, QR分解, Shur分解, LU分解, 譜分解

5Boosting( including Adaboost):
    adaboost_talk.pdf

6Spectral Clustering:
    Tutorial on spectral clustering.pdf

7Energy-Based Learning:
    A tutorial on Energy-based learning.pdf

8Belief Propagation:
    Understanding Belief Propagation and its Generalizations.pdf
    bp.pdf
    Construction free energy approximation and generalized belief


9propagation algorithms.pdf
    Loopy Belief Propagation for Approximate Inference An Empirical Study.pdf
    Loopy Belief Propagation.pdf

10AP (affinity Propagation):

11L-BFGS:
     <<最優化理論與演算法 2nd>> chapter 10
     On the limited memory BFGS method for large scale optimization.pdf


12IIS:
     IIS.pdf

=================================================================
理論部分:
1概率圖(probabilistic networks):
     An introduction to Variational Methods for Graphical Models.pdf
     Probabilistic Networks
     Factor Graphs and the Sum-Product Algorithm.pdf
     Constructing Free Energy Approximations and Generalized Belief Propagation Algorithms.pdf
     *Graphical Models, exponential families, and variational inference.pdf

2Variational Theory(變分理論,我們只用概率圖上的變分):
     Tutorial on varational approximation methods.pdf
     A variational Bayesian framework for graphical models.pdf
     variational tutorial.pdf

3Information Theory:
    Elements of Information Theory 2nd.pdf

4測度論:
    測度論(Halmos).pdf
    測度論講義(嚴加安).pdf

5概率論:
    ……
    <<概率與測度論>>

6隨機過程:
    應用隨機過程 林元烈 2002.pdf
    <<隨機數學引論>>

7Matrix Theory:
    矩陣分析與應用.pdf

8模式識別:
    <<模式識別 2nd>> 邊肇祺
    Pattern Recognition and Machine Learning.pdf

9最優化理論:
    <<Convex Optimization>>
    <<最優化理論與演算法>>

10泛函分析:
     <<泛函分析導論及應用>>

11Kernel理論:
     <<模式分析的核方法>>

12統計學:
     ……
     <<統計手冊>>

==========================================================
綜合:

1semi-supervised learning:
    <<Semi-supervised Learning>> MIT Press
    semi-supervised learning based on Graph.pdf

2Co-training:

3Self-training:

 

相關文章