優化器的發展程式

加坦傑厄發表於2020-10-31
優化

選擇合適的優化器和合適的引數真的是費時間費心力的一件事啊，大佬都愛嘲笑現在搞深度學習的是調參俠，我怎麼覺得調參也很難啊/(ㄒoㄒ)/~~

實驗室裡一位不搞深度學習的同學在知乎上看多了大佬吐槽調參俠的帖子，居然嘲笑我們都是調參俠（雖然我連不會調參都不會(⊙﹏⊙)），我當時就想說他，大佬吐槽可以，那是人家有資本，你在這方面啥也不懂你吐槽個錘子？但我這句話根本沒說出口，不想和他在這種事情上掰扯不清，他愛咋想咋想，反正對我這個菜鳥來說，能調出合適的引數也是很不容易的！

吐槽結束，這裡留下關於優化器的發展，寫的很清楚詳細，我老是忘記優化器的具體函式，這裡記錄一下別人的總結。

https://blog.csdn.net/weixin_40170902/article/details/80092628

相關文章