深度學習領域的論文應該怎麼寫,可以提供一些方向嗎?

胖胖9527發表於2020-08-04

深度學習領域的論文應該怎麼寫,可以提供一些方向嗎? - amaze2的回答 - 知乎

來點乾貨。

通常的注意力機制演算法,都是對特徵進行加權,例如Squeeze-and-Excitation Network。

對於含噪聲的樣本,可以考慮將“特徵加權”替換成“軟閾值化”。例如, 殘差收縮網路[1][2]就是這樣的方法,結構如下:

在軟閾值化的幫助下, 殘差收縮網路應對含噪資料的能力會有所加強。

感覺這種“注意力機制”+“軟閾值化”的模式,還有很多坑可以挖。畢竟,最近這些年,注意力機制的演算法層出不窮,可以和“軟閾值化”花式組合。

參考:

Minghang Zhao, Shisheng Zhong, Xuyun Fu, Baoping Tang, Michael Pecht, Deep residual shrinkage networks for fault diagnosis, IEEE Transactions on Industrial Informatics, 2020, 16(7): 4681-4690.

[1] 深度殘差收縮網路:從刪除冗餘特徵時的靈活程度進行討論 

https://my.oschina.net/u/4505302/blog/3230965

[2] Deep Residual Shrinkage Networks for Fault Diagnosis 

https://ieeexplore.ieee.org/document/8850096


來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/69980920/viewspace-2709037/,如需轉載,請註明出處,否則將追究法律責任。

相關文章