卷積神經網路的小基礎知識
一張圖就夠了
batchsize：批大小。在深度學習中，一般採用SGD訓練，即每次訓練在訓練集中取batchsize個樣本訓練；
iteration：1個iteration等於使用batchsize個樣本訓練一次；
epoch：1個epoch等於使用訓練集中的全部樣本訓練一次；
batch Normalization:在神經網路訓練開始前，都要對輸入資料做一個歸一化處理，那麼具體為什麼需要歸一化呢？歸一化後有什麼好處呢？原因在於神經網路學習過程本質就是為了學習資料分佈，一旦訓練資料與測試資料的分佈不同，那麼網路的泛化能力也大大降低；另外一方面，一旦每批訓練資料的分佈各不相同(batch 梯度下降)，那麼網路就要在每次迭代都去學習適應不同的分佈，這樣將會大大降低網路的訓練速度，這也正是為什麼我們需要對資料都要做一個歸一化預處理的原因。
相關文章
- 卷積神經網路—基礎知識（1）卷積神經網路
- 【機器學習基礎】卷積神經網路（CNN）基礎機器學習卷積神經網路CNN
- 卷積神經網路知識點總結卷積神經網路
- 卷積神經網路卷積神經網路
- 吳恩達《卷積神經網路》課程筆記（1）– 卷積神經網路基礎吳恩達卷積神經網路筆記
- 5.2.1 卷積神經網路卷積神經網路
- 卷積神經網路概述卷積神經網路
- 解密卷積神經網路！解密卷積神經網路
- 卷積神經網路CNN卷積神經網路CNN
- 卷積神經網路初探卷積神經網路
- 卷積神經網路-1卷積神經網路
- 卷積神經網路-2卷積神經網路
- 卷積神經網路-3卷積神經網路
- 初識卷積神經網路第一講！卷積神經網路
- 卷積神經網路進行影像識別卷積神經網路
- 深度學習--基於卷積神經網路的歌唱嗓音識別深度學習卷積神經網路
- 卷積神經網路四種卷積型別卷積神經網路型別
- 卷積神經網路的缺點卷積神經網路
- 全卷積神經網路FCN卷積神經網路
- 深度剖析卷積神經網路卷積神經網路
- 看懂卷積神經網路(CNN)卷積神經網路CNN
- TensorFlow 卷積神經網路之貓狗識別卷積神經網路
- 【Python】keras卷積神經網路識別mnistPythonKeras卷積神經網路
- 深度學習基礎-基於Numpy的卷積神經網路（CNN）實現深度學習卷積神經網路CNN
- 【深度學習篇】--神經網路中的卷積神經網路深度學習神經網路卷積
- 基於XILINX FPGA的卷積神經網路（三）FPGA卷積神經網路
- 卷積神經網路：卷積層和池化層卷積神經網路
- 【Pytorch】基於卷積神經網路實現的面部表情識別PyTorch卷積神經網路
- 基於卷積神經網路的建築圖紙識別研究方向卷積神經網路
- 帶你認識9種常用卷積神經網路卷積神經網路
- 卷積神經網路 part2卷積神經網路
- CNN神經網路之卷積操作CNN神經網路卷積
- 卷積神經網路（CNN）詳解卷積神經網路CNN
- 14 卷積神經網路（進階）卷積神經網路
- 何為神經網路卷積層？神經網路卷積
- 基於卷積神經網路和tensorflow實現的人臉識別卷積神經網路
- 卷積神經網路中的Winograd快速卷積演算法卷積神經網路演算法
- 卷積神經網路鼻祖LeNet網路分析卷積神經網路