直播實錄 | 非自迴歸神經機器翻譯 + ICLR 2018 論文解讀
本文為 3 月 9 日,香港大學博士生——顧佳濤博士在第 24 期 PhD Talk 中的直播分享實錄。
在本期 PhD Talk 中,來自香港大學的博士生顧佳濤,向大家介紹了他們在加速神經機器翻譯(NMT)方向的一些進展。
本次 Talk 分為三部分:
第一部分以 Google Brain 的 Transformer 為基礎,嘉賓簡要介紹了一些神經機器翻譯的基本知識、主要進展和侷限。
第二部分是這期的主要內容,嘉賓以第一作者身份,為大家詳細介紹了他們最近在 ICLR 2018 上發表的文章 Non-autoregressive Neural Machine Translation。本文嘗試用非自迴歸的方式改造 Transformer,在效能下降不多的情況下實現 10 倍左右的解碼速度。
最後,作為 brainstorming,嘉賓和大家一起探討了對於非自迴歸解碼幾個已經實現或者可能的研究方向和應用。
■ 論文 | Non-Autoregressive Neural Machine Translation
■ 連結 | https://www.paperweekly.site/papers/1093
■ 作者 | Jiatao Gu, James Bradbury, Caiming Xiong, Victor O.K. Li, Richard Socher
>>>> 獲取完整PPT和視訊
關注“PaperWeekly”微信公眾號,回覆“20180309”獲取下載連結。
點選以下標題檢視往期實錄:
*檢視更多往期實錄,請點選PaperWeekly公眾號底部精品欄目選單。
#榜 單 公 布 #
2017年度最值得讀的AI論文 | NLP篇 · 評選結果公佈
2017年度最值得讀的AI論文 | CV篇 · 評選結果公佈
我是彩蛋
解鎖新功能:熱門職位推薦!
PaperWeekly小程式升級啦
今日arXiv√猜你喜歡√熱門職位√
找全職找實習都不是問題
解鎖方式
1. 識別下方二維碼開啟小程式
2. 用PaperWeekly社群賬號進行登陸
3. 登陸後即可解鎖所有功能
職位釋出
請新增小助手微信(pwbot01)進行諮詢
長按識別二維碼,使用小程式
*點選閱讀原文即可註冊
關於PaperWeekly
PaperWeekly 是一個推薦、解讀、討論、報導人工智慧前沿論文成果的學術平臺。如果你研究或從事 AI 領域,歡迎在公眾號後臺點選「交流群」,小助手將把你帶入 PaperWeekly 的交流群裡。
▽ 點選 | 閱讀原文 | 加入社群一起刷論文
相關文章
- 今晚直播:非自迴歸神經機器翻譯 | PhD Talk #24
- 香港大學顧佳濤:非自迴歸神經機器翻譯 | 直播預告
- ICLR 2020滿分論文解讀 | 一種映象生成式機器翻譯模型:MGNMTICLR模型
- 神經機器翻譯實戰
- 機器學習簡介之基礎理論- 線性迴歸、邏輯迴歸、神經網路機器學習邏輯迴歸神經網路
- KDD 2018最佳論文解讀 | 圖神經網路對抗攻擊神經網路
- TensorFlow.NET機器學習入門【3】採用神經網路實現非線性迴歸機器學習神經網路
- NDT論文翻譯
- TransH論文翻譯
- 機器閱讀理解 / 知識庫 / 深度學習 / 對話系統 / 神經機器翻譯 | 本週值得讀深度學習
- 論文翻譯:2021_論文翻譯:2018_F-T-LSTM based Complex Network for Joint Acoustic Echo Cancellation and Speech Enhancement
- 論機器翻譯之淺薄
- 論文解讀 | 基於神經網路的知識推理神經網路
- 迴歸演算法全解析!一文讀懂機器學習中的迴歸模型演算法機器學習模型
- 低資源神經機器翻譯MetaNMT :來自MAML與NLP的溫柔救贖
- Yann LeCun說自迴歸要完,但DeepMind這篇論文卻證明自迴歸能實現通用計算Yann LeCun
- ACL 2018 | TA-NMT:利用大語種語料,提升小語種神經機器翻譯能力
- A3C論文翻譯
- 多對多多語言神經機器翻譯的對比學習
- [譯] RNN 迴圈神經網路系列 3:編碼、解碼器RNN神經網路
- 論文閱讀翻譯之Deep reinforcement learning from human preferences
- COLING 2018 最佳論文解讀:序列標註經典模型復現模型
- ICCV 2019 提前看 | 三篇論文,解讀神經網路壓縮神經網路
- torch神經網路--線性迴歸神經網路
- 一文讀懂LSTM和迴圈神經網路神經網路
- 微軟提出新型通用神經機器翻譯方法,挑戰低資源語言翻譯問題微軟
- 從規則到神經網路:機器翻譯技術的演化之路神經網路
- NLP教程(6) - 神經機器翻譯、seq2seq與注意力機制
- 入門Python神經機器翻譯,這是一篇非常精簡的實戰指南Python
- 論文翻譯:2018_Source localization using deep neural networks in a shallow water environment
- 深度學習熱度下降,圖神經、BERT崛起,ICLR2020提交論文主題分析深度學習ICLR
- 論文閱讀丨神經清潔: 神經網路中的後門攻擊識別與緩解神經網路
- 機器學習入門(二) — 迴歸模型 (理論)機器學習模型
- 哪個才是解決迴歸問題的最佳演算法?線性迴歸、神經網路還是隨機森林?演算法神經網路隨機森林
- ICLR 2021投稿中值得一讀的NLP相關論文ICLR
- 【深度學習 論文篇 01-1 】AlexNet論文翻譯深度學習
- 歸併排序的非遞迴實現排序遞迴
- 論文翻譯:2018_Deep Learning for Acoustic Echo Cancellation in Noisy and Double-Talk ScenariosiOS