深度學習（Deep Learning）
2022年數字資訊化培訓專案系列
關於舉辦深度學習核心技術實踐與圖神經網路新技術應用研修班的通知
一、培訓專家:
中國科學院計算技術研究所、清華大學、北京理工大學等科研機構和大學的高階專家，擁有豐富的科研及工程技術經驗，長期從事人工智慧、機器學習、深度學習、大資料分析等領域的教學與研究工作。
二、培訓特色：
1、採用深入淺出的方法，結合例項並配以大量程式碼練習，重點講解深度學習框架模型、科學演算法、訓練過程技巧。
2、能夠把握深度學習的技術發展趨勢，可以熟練掌握深度學習核心技術、實踐技巧，同時針對工作中存在的疑難問題進行分析講解和專題討論，有效的提升學員解決複雜問題的能力；
3、掌握深度學習平臺Tensorflow訓練網路搭建與配置、掌握資料價值的深度挖掘。
4、掌握圖神經網路模型及框架PyTorch
5、實踐手寫字型識別、葉片分類等案例，動手練習讓AI自己玩遊戲。
6、根據自己的科研專案及課題研究，靈活掌握應用深度學習五大框架模型。
注：其它開源的公開資料集：ImageNet、MS-COCO、UCF101、HMDB51、PASCAL VOC、Open Images等。
三、參會物件：
各省市、自治區從事人工智慧、深度學習、計算機視覺、人臉識別、影像處理、行人檢測、自然語言處理等領域相關的企事業單位技術骨幹、科研院所研究人員和大專院校相關專業教學人員及在校研究生等相關人員，以及深度學習、計算機視覺廣大愛好者。
四、費用標準：
A類：5680元/人（含報名費、培訓費、資料費、證書費）。
1、培訓費由組織培訓班的施教機構負責收取並提供培訓發票。
2、上課前一週匯款可享受9折優惠，或報名5人以上可享受9折優惠，兩個優惠不同時享用。報名8人以上享受8.8折優惠。
3、參加線上、線下培訓學員均可享受影片錄播回放權益。
B類：另加2300元考取工業和資訊化部人才交流中心高階《人工智慧機器視覺應用工程師》。
五、頒發證書：
A類：參加相關培訓並透過考核的學員，由中國管理科學研究院現代教育研究所頒發
《深度學習開發與應用工程師》（高階）專業能力認證證書，可透過官方網站查詢，該證書可作為有關單位專業技術人員能力評價、考核和任職的重要依據。
B類：參加相關培訓並透過考核的學員，由工業和資訊化部人才交流中心頒發
《人工智慧機器視覺應用工程師》（高階）能力提升證書，可透過官方網站查詢。該證書直接納國家人才資料庫，可作為有關單位專業技術人員能力評價、考核和任職的重要依據。
注：報到時請提交電子版彩照（大於20KB，紅藍底皆可）、身份證影印件和學歷證明覆印件各一份。
六、注意事項
1、指定報名郵箱：2374914377@qq.com。
2、報名成功後，會務組在上課前兩天發放上課所需所有材料。
3、學員需自備電腦一臺，配置win10、64位系統、8G及以上記憶體、100G硬碟。
附件：具體課程安排
關鍵點 1.人工智慧、深度學習的發展歷程
2.深度學習框架
3.神經網路訓練方法
4.卷積神經網路，卷積核、池化、通道、啟用函式
5.迴圈神經網路，長短時記憶LSTM、門控迴圈單元GRU
6.引數初始化方法、損失函式Loss、過擬合
7.對抗生成網路GAN
8.遷移學習TL
9.強化學習RF
10.圖神經網路GNN
一、演算法和場景融合理解 1.空間相關性的非結構化資料，CNN演算法。典型的影像資料，畫素點之間具有空間相關性，例如影像的分類、分割、檢測都是CNN演算法。
2.時間相關性的非結構化資料，RNN演算法。這類場景普遍的一個現象就是資料之間具有時序相關性，也就是資料之間存在先後依賴關係。例如自然語言處理、語音相關演算法都是基於RNN演算法。
3.非歐氏資料結構， GNN。這類場景典型的可以用圖來表示。例如社交網路等。 案例摘要講解
醫療領域：如流行疾病、腫瘤等相關疾病檢測
遙感領域：如遙感影像中的場景識別
石油勘探：如石油油粒大小檢測
軌道交通：如地鐵密集人流檢測
檢測領域：如故障檢測
公安領域：如犯罪行為分析
國防領域：目標檢測、訊號分析、態勢感知…
經濟領域：如股票預測
二、資料理解及處理 分析典型場景中的典型資料，結合具體的演算法，對資料進行處理 1.結構化資料，如何對資料進行讀取，進行組織。
2.影像資料，在實際應用過程中的處理方法，怎樣做資料的預處理、進行資料增強等。
3.時序訊號，將單點的資料如何組合成一個序列，以及對序列資料處理的基本方法。
三、技術路徑設計 針對具體的場景設計特定的神經網路模型，對典型資料適配的網路結構進介紹。 1.DNN模型搭建的基本原則
2.CNN模型中常見的網路結構，以及引數分析。
3.RNN中支援的一些基本運算元，如何對序列資料進行組織。
四、模型驗證及問題排查 簡單的演算法或者模型對典型的場景進行快速驗證，並且針對一些頻發的問題進行講解。 1.模型收斂狀態不佳
2.分類任務重最後一層啟用函式對模型的影響
五、高階-模型最佳化的原理 不同的模型需要採用的最佳化函式以及反向傳播中引數的最佳化方法 1.模型最佳化的演算法介紹，基於隨機梯度下降的演算法介紹。
2.不同場景適應的損失函式介紹。
3.針對典型場景的反向傳播梯度的推到過程。
六、高階-定製化思路 結合往期學員的一些專案，簡單介紹一下解決一個具體問題的思路。 遙感成像中，地塊農作物種類的識別。
實操解析與訓練
第一階段：
神經網路實踐 實驗：神經網路
1.神經網路中基本概念理解：epoch、batch size、學習率、正則、噪聲、啟用函式等。
2.不同的資料生成模型、調整網路引數、調整網路規模
3.神經網路分類問題
4.不同資料特徵的作用分析、隱含層神經元數目
5.過擬合
高頻問題：
1.輸入資料與資料特徵 2.模型設計的過程中的引數與功能的關係。
關鍵點：
1.掌握神經網路的基本概念 2.學會搭建簡單的神經網路結構
3.理解神經網路引數
實操解析與訓練
第二階段：
深度學習三種程式設計思想 實驗：Keras實踐
1.理解Keras基本原理 2.學會Keras程式設計思想
3.三種不同的深度神經網路構建程式設計方式
4.給定資料集，採用Keras獨立完成實際的工程專案
高頻問題：
1.如何程式設計實現深度神經網路 2.三種開發方式的具體使用
關鍵點：
1.掌握Keras程式設計思想 2.採用三種不同方式編寫深度神經網路
實操解析與訓練
第三階段：CNN實踐 實驗：影像分類
1.使用CNN解決影像分類問題 2.搭建AlexNet 3.VGG16/19
4.GoogleNet 5.ResNet
高頻問題：
1.CNN更復雜的模型在哪裡可以找到程式碼
關鍵點：
1.使用卷積神經網路做影像分類 2.常見開原始碼以及適用的問題
實驗：影片人物行為識別
1.基於C3D的影片行為識別方法 2.基於LSTM的影片行為識別方法
3.基於Attention的影片行為識別方法
高頻問題：
1.2D卷積與3D卷積 2.影片的時空特徵
關鍵點：
1.C3D網路的構建 2.Attention機制
實操解析與訓練
第四階段：
R-CNN及YOLO實踐 實驗：目標檢測
1.目標檢測發展現狀及代表性方法
2.兩階段目標檢測方法：R-CNN系列模型
3.一階段目標檢測方法：YOLO系列模型
高頻問題：
1.提名與分類 2.BBOX實現策略 3.YOLO Loss函式
關鍵點：
1.提名方法 2.ROI Pooling 3.SPP Net 4.RPN 5.YOLO
實操解析與訓練
第五階段：
RNN實踐 實驗：股票預測
1.股票資料分析 2.同步預測 3.非同步預測
高頻問題：
1.歷史資料的使用
關鍵點：
1.構建RNN 2.採用Keras程式設計實現
實操解析與訓練八
第六階段：
Encoder-Decoder實踐 實驗：去噪分析
1.自編碼器 2.去噪自編碼器
高頻問題：
1.噪聲的引入與去除
關鍵點：
1.設計去噪自編碼器
實驗：影像標題生成
結合計算機視覺和機器翻譯的最新進展，利用深度神經網路生成真實的影像標題。
1.掌握Encoder-Decoder結構 2.學會Seq2seq結構
3.影像CNN +文字RNN 4.影像標題生成模型
高頻問題：
1.如何能夠根據影像生成文字？
關鍵點：
1.提取影像特徵CNN，生成文字RNN 2.構建Encoder-Decoder結構
實操解析與訓練
第七階段：
GAN實踐 實驗：藝術家作品生成
1. 生成對抗網路原理 2.GAN的生成模型、判別模型的設計
高頻問題：
1.生成模型與判別模型的博弈過程
關鍵點：
1.掌握GAN的思想與原理 2.根據需求學會設計生成模型與判別模型
實操解析與訓練
第八階段：
強化學習實踐 實驗：遊戲分析
1.遊戲場景分析 2.強化學習的要素分析 3.深度強化學習
高頻問題：
1.DNN 與DQN 2.探索與利用
關鍵點：
1.深度強化學習的原理 2.根據實際需求，設計深度強化學習模型
實操解析與訓練
第九階段：
圖卷積神經網路實踐 實驗：社交網路分析
1.圖神經網路的原理 2.圖卷積神經網路的思想
3.設計圖卷積神經網路進行社交網路分析
高頻問題：
1.如何從圖神經網路的原理轉化到實際程式設計
關鍵點：
1. 掌握圖神經網路原理 2. 圖卷積神經網路程式設計實現
實操解析與訓練
第十階段：
Transformer實踐 實驗：基於Transformer的對話生成
1. Transformer原理 2. 基於Transformer的對話生成
3.基於 Transformer 的應用
高頻問題：
1.如何應用自注意力機制 2.如何應用於自然語言處理與計算機視覺
關鍵點：
1.self-Attention機制 2.position
學習和關注人工智慧技術與諮詢，瞭解更多資訊！
來自 “ ITPUB部落格 ” ，連結：http://blog.itpub.net/70020013/viewspace-2910776/，如需轉載，請註明出處，否則將追究法律責任。
相關文章
- 《DEEP LEARNING·深度學習》深度學習
- 深度學習 DEEP LEARNING 學習筆記（一）深度學習筆記
- 深度學習 DEEP LEARNING 學習筆記（二）深度學習筆記
- 深度學習（Deep Learning）優缺點深度學習
- 《深度學習》PDF Deep Learning: Adaptive Computation and Machine Learning series深度學習APTMac
- 貝葉斯深度學習（bayesian deep learning）深度學習
- 【深度學習】大牛的《深度學習》筆記，Deep Learning速成教程深度學習筆記
- 深度學習模型調優方法（Deep Learning學習記錄）深度學習模型
- Searching with Deep Learning 深度學習的搜尋應用深度學習
- 剛剛，阿里開源首個深度學習框架 X-Deep Learning！阿里深度學習框架
- 深度互學習-Deep Mutual Learning：三人行必有我師
- 《深度學習入門：基於Python的理論與實現》 Deep Learning from Scratch深度學習Python
- 顯示卡不是你學習 Deep Learning 的藉口
- 文章學習29“Crafting a Toolchain for Image Restoration by Deep Reinforcement Learning”RaftAIREST
- 【AAAI 2024】解鎖深度表格學習（Deep Tabular Learning）的關鍵：算術特徵互動AI特徵
- 林軒田機器學習技法課程學習筆記13 — Deep Learning機器學習筆記
- Deep Learning with Differential Privacy
- Deep learning - note 1
- 強化學習（九）Deep Q-Learning進階之Nature DQN強化學習
- Deep Crossing模型——經典的深度學習架構ROS模型深度學習架構
- 深度學習問題記錄：Building your Deep Neural深度學習UI
- 深度學習不得不會的遷移學習Transfer Learning深度學習遷移學習
- 遷移學習（JDDA） 《Joint domain alignment and discriminative feature learning for unsupervised deep domain adaptation》遷移學習AIAPT
- 基於深度學習模型Wide&Deep的推薦深度學習模型IDE
- 深度殘差學習筆記：Deep Residual Networks with Dynamically Weighted Wavelet筆記
- 遷移學習《Pseudo-Label : The Simple and Efficient Semi-Supervised Learning Method for Deep Neural Networks》遷移學習
- COMP9444 Neural Networks and Deep Learning
- DEEP LEARNING WITH PYTORCH: A 60 MINUTE BLITZ | TENSORSPyTorch
- Join Query Optimization with Deep Reinforcement Learning AlgorithmsGo
- Manning.Deep.Learning.with.Python.2017.11.pdfPython
- Machine Learning Mastery 部落格文章翻譯：深度學習與 KerasMacAST深度學習Keras
- 為什麼有些學數學的看不慣甚至鄙視 Deep Learning？
- 深度強化學習第十二章——Deep Deterministic Policy Gradient（DDPG）強化學習
- 【論文考古】聯邦學習開山之作 Communication-Efficient Learning of Deep Networks from Decentralized Data聯邦學習Zed
- 「Wide & Deep Learning for Recommender Systems」- 論文摘要IDE
- DEEP LEARNING WITH PYTORCH: A 60 MINUTE BLITZ | NEURAL NETWORKSPyTorch
- DEEP LEARNING WITH PYTORCH: A 60 MINUTE BLITZ | TRAINING A CLASSIFIERPyTorchAI
- Deep Embedding Learning for Text-Dependent Speaker Verification