飛槳 今天在做飛槳7日目標檢測作業二時,遇到的milestones為: [2372, 3261]的含義

windmyself發表於2020-09-23

訓練輪數與Epoch轉換關係:根據訓練集數量與總batch_size大小計算epoch數,然後將epoch數換算得到訓練總輪數max_iters。milestones(學習率變化界限)也是同理。配置檔案中batch_size=2,訓練集數量為593,訓練6個Epoch,在單卡GPU上訓練,max_iters=593x6=3558。同理計算milestones為: [2372, 3261]

下圖中第一個是紅線是指初始學習率

第二個紅線是指學習率調整倍數gamma,設定為0.1

第三個紅線是指學習率變化界限milestones,含義為當max_iters達到2372的時候,就會調整學習率,學習率=初始學習率*gamma,當max_iters達到3261時,學習率再次調整。milestones中的引數可以設定多個比如:milestones[2372, 3261,5000]

 

參考了這篇文章https://www.jianshu.com/p/26a7dbc15246

飛槳7日目標檢測課 https://aistudio.baidu.com/aistudio/education/group/info/1617

相關文章