深度學習技術實踐與圖神經網路新技術

各企事業單位：

 國家“十四五”規劃中，“智慧”“智慧”相關表述高達57處，這表明在當前我國經濟從高速增長向高質量發展的重要階段，以人工智慧為代表的新一代資訊科技，將成為我國“十四五”期間推動經濟高質量發展、建設創新型國家的重要技術保障和核心驅動力之一。當前，人工智慧的發展，在很大程度上歸功於深度學習技術的發展。人們逐漸認識到，當你有了深度學習演算法、模型，並構建了深度神經網路時，需要足夠多的資料去訓練這個網路。只有加入更多的資料，才會讓深度神經網路變的更大、更好。透過使用深度學習，我們在很多傳統的AI領域取得了長足的進展，比如機器翻譯、語音識別、計算機視覺等等。同時，深度學習也可以逐步替換這些領域發展多年的專用演算法。

為積極響應科研及工程人員的需求，根據《國務院關於推行終身職業技能培訓制度的意見》提出的“緊跟新技術、新職業發展變化，建立職業分類動態調整機制，加快職業標準開發工作”要求，中國管理科學研究院現代教育研究所聯合北京龍騰亞太教育諮詢有限公司特舉辦“深度學習核心技術實踐與圖神經網路新技術應用研修班”。本次培訓採用全實戰培訓模式。

上課時間、地點

2022年10月13日 — 2022年10月17日  

 線上直播

（13日發放上課材料，14日-17日上課）

01

培訓特色

1、採用深入淺出的方法，結合例項並配以大量程式碼練習，重點講解深度學習框架模型、科學演算法、訓練過程技巧。

2、能夠把握深度學習的技術發展趨勢，可以熟練掌握深度學習核心技術、實踐技巧，同時針對工作中存在的疑難問題進行分析講解和專題討論，有效的提升學員解決複雜問題的能力；

3、掌握深度學習平臺Tensorflow訓練網路搭建與配置、掌握資料價值的深度挖掘。

4、掌握圖神經網路模型及框架PyTorch

5、實踐手寫字型識別、葉片分類等案例，動手練習讓AI自己玩遊戲。

6、根據自己的科研專案及課題研究，靈活掌握應用深度學習五大框架模型。 注： 其它開源的公開資料集：ImageNet、MS-COCO、UCF101、HMDB51、PASCAL VOC、Open Images等。

02

培訓專家

中國科學院計算技術研究所、清華大學、北京理工大學等科研機構和大學的高階專家，擁有豐富的科研及工程技術經驗，長期從事人工智慧、機器學習、深度學習、大資料分析等領域的教學與研究工作。

03

頒發證書

參加相關培訓並透過考核的學員，由中國管理科學研究院現代教育研究所頒發 《深度學習開發與應用工程師》（高階） 專業能力認證證書，可透過官方網站查詢，該證書可作為有關單位專業技術人員能力評價、考核和任職的重要依據。

注： 請學員提交電子版彩照（大於20KB，紅藍底皆可）、身份證影印件和學歷證明覆印件至會務組郵箱renjt01@126.com。

04

注意事項

1、5680元/人（含報名費、培訓費、資料費、證書費）。

2、培訓費由組織培訓班的施教機構負責收取並提供培訓發票。

3、上課前一週匯款可享受  9折  優惠，或報名5人以上可享受  9折  優惠，兩個優惠不同時享用。報名8人以上享受   8.8折 優惠。

4、參加線上、線下培訓學員均可享受影片錄播回放權益。

5、指定報名郵箱：309225975@qq.com。

6、報名成功後，會務組在上課前兩天發放上課所需所有材料。

7、學員需自備電腦一臺，配置win10、64位系統、8G及以上記憶體、100G硬碟。

05

具體課程安排

關鍵點：

人工智慧、深度學習的發展歷程

深度學習框架

神經網路訓練方法

卷積神經網路，卷積核、池化、通道、啟用函式

迴圈神經網路，長短時記憶LSTM、門控迴圈單元GRU

引數初始化方法、損失函式Loss、過擬合

對抗生成網路GAN

遷移學習TL

強化學習RF

圖神經網路GNN

壹 / 演算法和場景融合理解

1、空間相關性的非結構化資料，CNN演算法。典型的影像資料，畫素點之間具有空間相關性，例如影像的分類、分割、檢測都是CNN演算法。

2、時間相關性的非結構化資料，RNN演算法。這類場景普遍的一個現象就是資料之間具有時序相關性，也就是資料之間存在先後依賴關係。例如自然語言處理、語音相關演算法都是基於RNN演算法。

3、非歐氏資料結構， GNN。這類場景典型的可以用圖來表示。例如社交網路等。

 //   案例摘要講解   

醫療領域：如流行疾病、腫瘤等相關疾病檢測

遙感領域：如遙感影像中的場景識別

石油勘探：如石油油粒大小檢測

軌道交通：如地鐵密集人流檢測

檢測領域：如故障檢測

公安領域：如犯罪行為分析

國防領域：目標檢測、訊號分析、態勢感知…

經濟領域：如股票預測

貳 / 資料理解及處理

分析典型場景中的典型資料，結合具體的演算法，對資料進行處理

   案例摘要講解   

結構化資料，如何對資料進行讀取，進行組織。

影像資料，在實際應用過程中的處理方法，怎樣做資料的預處理、進行資料增強等。

時序訊號，將單點的資料如何組合成一個序列，以及對序列資料處理的基本方法。

叄 / 技術路徑設計

針對具體的場景設計特定的神經網路模型，對典型資料適配的網路結構進介紹。

  案例摘要講解   

DNN模型搭建的基本原則

CNN模型中常見的網路結構，以及引數分析。

RNN中支援的一些基本運算元，如何對序列資料進行組織。

肆 /  模型驗證及問題排查

簡單的演算法或者模型對典型的場景進行快速驗證，並且針對一些頻發的問題進行講解。

   案例摘要講解   

模型收斂狀態不佳

分類任務重最後一層啟用函式對模型的影響

伍 /  高階-模型最佳化的原理

不同的模型需要採用的最佳化函式以及反向傳播中引數的最佳化方法

  案例摘要講解   

模型最佳化的演算法介紹，基於隨機梯度下降的演算法介紹

不同場景適應的損失函式介紹

針對典型場景的反向傳播梯度的推到過程

陸/ 高階-定製化思路

結合往期學員的一些專案，簡單介紹一下解決一個具體問題的思路

  案例摘要講解   

遙感成像中，地塊農作物種類的識別。

實操解析與訓練

壹/ 神經網路實踐

神經網路中基本概念理解：epoch、batch size、學習率、正則、噪聲、啟用函式等。

不同的資料生成模型、調整網路引數、調整網路規模

神經網路分類問題

不同資料特徵的作用分析、隱含層神經元數目

過擬合    

高頻問題：

1、輸入資料與資料特徵      

2、模型設計的過程中的引數與功能的關係。

關鍵點：

1、掌握神經網路的基本概念   

2、學會搭建簡單的神經網路結構

3、理解神經網路引數

貳 / 深度學習三種程式設計思想

Keras實踐

理解Keras基本原理

學會Keras程式設計思想

三種不同的深度神經網路構建程式設計方式

給定資料集，採用Keras獨立完成實際的工程專案

高頻問題：

1、如何程式設計實現深度神經網路   

2、三種開發方式的具體使用

關鍵點：

1、掌握Keras程式設計思想

2、採用三種不同方式編寫深度神經網路

叄/ CNN實踐

實驗：影像分類

使用CNN解決影像分類問題

搭建AlexNet  

VGG16/19

GoogleNet

ResNet 

 

高頻問題：

1、CNN更復雜的模型在哪裡可以找到程式碼

關鍵點：

1、使用卷積神經網路做影像分類  

2、常見開原始碼以及適用的問題

實驗：影片人物行為識別

基於C3D的影片行為識別方法

基於LSTM的影片行為識別方法

基於Attention的影片行為識別方法

 

高頻問題：

1、2D卷積與3D卷積

2、影片的時空特徵

關鍵點：

1、C3D網路的構建                 

2、Attention機制

肆 / R-CNN及YOLO實踐

實驗：目標檢測

目標檢測發展現狀及代表性方法

兩階段目標檢測方法：R-CNN系列模型

一階段目標檢測方法：YOLO系列模型

     高頻問題：

1、提名與分類

2、BBOX實現策略

3、YOLO Loss函式

關鍵點：

1、提名方法

2、ROI Pooling

3、SPP Net 

4、RPN 

5、YOLO

伍 / RNN實踐

實驗：股票預測

股票資料分析

同步預測 

非同步預測

   

高頻問題：

1、歷史資料的使用

關鍵點：

1、構建RNN 

2、採用Keras程式設計實現

陸/ Encoder-Decoder實踐

實驗：去噪分析

自編碼器

去噪自編碼器 

高頻問題：

1、噪聲的引入與去除

關鍵點：

1、設計去噪自編碼器

實驗：影像標題生成

結合計算機視覺和機器翻譯的最新進展，利用深度神經網路生成真實的影像標題。

1、掌握Encoder-Decoder結構

2、學會Seq2seq結構

3、影像CNN +文字RNN 

4、影像標題生成模型    

高頻問題：

1、如何能夠根據影像生成文字？

關鍵點：

1、提取影像特徵CNN，生成文字RNN

2、構建Encoder-Decoder結構

柒 / RNN實踐

實驗：藝術家作品生成

生成對抗網路原理

GAN的生成模型、判別模型的設計    

高頻問題：

1、生成模型與判別模型的博弈過程

關鍵點：

1、掌握GAN的思想與原理

2、根據需求學會設計生成模型與判別模型

捌 / 強化學習實踐

實驗：遊戲分析

遊戲場景分析

強化學習的要素分析

深度強化學習    

高頻問題：

1、DNN 與DQN

2、探索與利用

關鍵點：

1、深度強化學習的原理

2、根據實際需求，設計深度強化學習模型

玖/ 圖卷積神經網路實踐

實驗：社交網路分析

圖神經網路的原理

圖卷積神經網路的思想

設計圖卷積神經網路進行社交網路分析    

高頻問題：

1、如何從圖神經網路的原理轉化到實際程式設計

關鍵點：

1、掌握圖神經網路原理

2、圖卷積神經網路程式設計實現

拾 / Transformer實踐

實驗：基於Transformer的對話生成 

Transformer原理

基於Transformer的對話生成

基於 Transformer 的應用    

高頻問題：

1、如何應用自注意力機制

2、如何應用於自然語言處理與計算機視覺

關鍵點：

1、self-Attention機制 

2、position

聯絡人：申老師

手機：17531021189（微信同號）