關於深度學習的一些技巧

努力的人生發表於2020-12-07

公開課理論講解及實戰(現場上機實踐) 一、深度學習基礎和基本思想 1,人工智慧概述、計算智慧、類腦智慧 2,機器學習概述、記憶學習、歸納學習、統計學習 3,深度學習的前生今世、發展趨勢 4,人工神經網路、前饋神經網路、BP演算法 、Hessian矩陣、結構性特徵表示 二、深度學習基本框架結構 1,Tensorflow 2, Caffe 3,Torch 4,MXNet 三,卷積神經網路CNN 1,CNN卷積神經網路 卷積層(一維卷積、二維卷積)、池化層(均值池化、最大池化) 全連線層 啟用函式層 Softmax層 2,CNN卷積神經網路改進 R-CNN (SPPNET) Fast-R-CNN Faster-R-CNN (YOLO、SSD) 3,深度學習的模型訓練技巧 4,梯度下降的優化方法詳解 四,迴圈神經網路RNN 1,RNN迴圈神經網路
梯度計算 BPTT 2,RNN迴圈神經網路改進 LSTM GRU Bi-RNN Attention based RNN 3,RNN實際應用 Seq2Seq的原理與實現
五、強化學習DRL 1,強化學習的理論知識
2,經典模型DQN講解 2,AlphaGo原理講解
3,RL實際應用;實現一個AlphaGo 六,對抗性生成網路GAN 1,GAN的理論知識
2,GAN經典模型CGAN,LAPGAN,DCGAN 3,GAN經典模型 INFOGAN,WGAN,S2-GAN 4,GAN實際應用 DCGAN提高模糊圖片解析度 5,GAN實際應用 InfoGAN做特定的樣本生成 七、遷移學習TL 1,遷移學習的理論概述 2,遷移學習的常見方法 特徵、例項、資料、深度遷移、強化遷移、研究案例 八、深度學習演算法理論解析 1,基於區域卷積網路RCNN 2,深度殘差網路Resnet 3,膠囊網路Capsule 4,長短時記憶網路LSTM 5,注意力機制 6,BP反傳演算法 7,可變分編碼器VAE 九、深度學習實際應用案例操作 1,CNN——》影像分類 2,Lstm——》文字分類 3,Lstm——》命名實體抽取 4,Yolo——》目標檢測
5,影像分類(CNN) 6,目標定位和識別(RCNN)
7,影像重建(Auto-encoder) 8,文字識別(RNN) 9,實體標註(LSTM) 10,手寫體數字生成(GAN) 11,邏輯迴歸匯出影像分類; 12,靜/動態圖編寫(CNN) 十、深度學習Deep Learning的常用模型或者方法 1,AutoEncoder自動編碼器 2,Sparse Coding稀疏編碼 3,Restricted Boltzmann Machine(RBM)限制波爾茲曼機 4,Deep BeliefNetworks深信度網路 十一、輔助課程 (1)疑難解答、分組討論; (2)學後交流、微信群、QQ群建立;

相關文章