直播實錄 | 非自迴歸神經機器翻譯 + ICLR 2018 論文解讀
本文為 3 月 9 日,香港大學博士生——顧佳濤博士在第 24 期 PhD Talk 中的直播分享實錄。
在本期 PhD Talk 中,來自香港大學的博士生顧佳濤,向大家介紹了他們在加速神經機器翻譯(NMT)方向的一些進展。
本次 Talk 分為三部分:
第一部分以 Google Brain 的 Transformer 為基礎,嘉賓簡要介紹了一些神經機器翻譯的基本知識、主要進展和侷限。
第二部分是這期的主要內容,嘉賓以第一作者身份,為大家詳細介紹了他們最近在 ICLR 2018 上發表的文章 Non-autoregressive Neural Machine Translation。本文嘗試用非自迴歸的方式改造 Transformer,在效能下降不多的情況下實現 10 倍左右的解碼速度。
最後,作為 brainstorming,嘉賓和大家一起探討了對於非自迴歸解碼幾個已經實現或者可能的研究方向和應用。
■ 論文 | Non-Autoregressive Neural Machine Translation
■ 連結 | https://www.paperweekly.site/papers/1093
■ 作者 | Jiatao Gu, James Bradbury, Caiming Xiong, Victor O.K. Li, Richard Socher
>>>> 獲取完整PPT和視訊
關注“PaperWeekly”微信公眾號,回覆“20180309”獲取下載連結。
點選以下標題檢視往期實錄:
*檢視更多往期實錄,請點選PaperWeekly公眾號底部精品欄目選單。
#榜 單 公 布 #
2017年度最值得讀的AI論文 | NLP篇 · 評選結果公佈
2017年度最值得讀的AI論文 | CV篇 · 評選結果公佈
我是彩蛋
解鎖新功能:熱門職位推薦!
PaperWeekly小程式升級啦
今日arXiv√猜你喜歡√熱門職位√
找全職找實習都不是問題
解鎖方式
1. 識別下方二維碼開啟小程式
2. 用PaperWeekly社群賬號進行登陸
3. 登陸後即可解鎖所有功能
職位釋出
請新增小助手微信(pwbot01)進行諮詢
長按識別二維碼,使用小程式
*點選閱讀原文即可註冊
關於PaperWeekly
PaperWeekly 是一個推薦、解讀、討論、報導人工智慧前沿論文成果的學術平臺。如果你研究或從事 AI 領域,歡迎在公眾號後臺點選「交流群」,小助手將把你帶入 PaperWeekly 的交流群裡。
▽ 點選 | 閱讀原文 | 加入社群一起刷論文
相關文章
- 今晚直播:非自迴歸神經機器翻譯 | PhD Talk #24
- 香港大學顧佳濤:非自迴歸神經機器翻譯 | 直播預告
- 神經機器翻譯實戰
- ICLR 2020滿分論文解讀 | 一種映象生成式機器翻譯模型:MGNMTICLR模型
- 神奇的神經機器翻譯:從發展脈絡到未來前景(附論文資源)
- KDD 2018最佳論文解讀 | 圖神經網路對抗攻擊神經網路
- 機器閱讀理解 / 知識庫 / 深度學習 / 對話系統 / 神經機器翻譯 | 本週值得讀深度學習
- TransH論文翻譯
- NDT論文翻譯
- 論文解讀 | 基於神經網路的知識推理神經網路
- 谷歌神經網路機器翻譯NMT:人人可利用TensorFlow快速建立翻譯模型谷歌神經網路模型
- 機器學習簡介之基礎理論- 線性迴歸、邏輯迴歸、神經網路機器學習邏輯迴歸神經網路
- 論機器翻譯之淺薄
- 低資源神經機器翻譯MetaNMT :來自MAML與NLP的溫柔救贖
- Yann LeCun說自迴歸要完,但DeepMind這篇論文卻證明自迴歸能實現通用計算Yann LeCun
- 多對多多語言神經機器翻譯的對比學習
- 全解卷積神經網路,並分享9篇必讀論文卷積神經網路
- [譯] RNN 迴圈神經網路系列 3:編碼、解碼器RNN神經網路
- 一文讀懂LSTM和迴圈神經網路神經網路
- A3C論文翻譯
- 微軟提出新型通用神經機器翻譯方法,挑戰低資源語言翻譯問題微軟
- torch神經網路--線性迴歸神經網路
- 論文閱讀丨神經清潔: 神經網路中的後門攻擊識別與緩解神經網路
- 從規則到神經網路:機器翻譯技術的演化之路神經網路
- TensorFlow.NET機器學習入門【3】採用神經網路實現非線性迴歸機器學習神經網路
- NLP教程(6) - 神經機器翻譯、seq2seq與注意力機制
- ACL 2018 | TA-NMT:利用大語種語料,提升小語種神經機器翻譯能力
- 論文閱讀翻譯之Deep reinforcement learning from human preferences
- 論文翻譯:2021_論文翻譯:2018_F-T-LSTM based Complex Network for Joint Acoustic Echo Cancellation and Speech Enhancement
- 入門Python神經機器翻譯,這是一篇非常精簡的實戰指南Python
- 哪個才是解決迴歸問題的最佳演算法?線性迴歸、神經網路還是隨機森林?演算法神經網路隨機森林
- 並非無所不能——評DeepMind近期神經網路求解MIP的論文神經網路
- (二)非線性迴圈神經網路(RNN)神經網路RNN
- 論文翻譯器+知雲+百度API+計算機術語庫API計算機
- ICCV 2019 提前看 | 三篇論文,解讀神經網路壓縮神經網路
- 歸併排序的非遞迴實現排序遞迴
- 活動 | INTERFACE#4 解讀搜狗機器翻譯技術,體驗搜狗旅行翻譯寶產品
- 【深度學習 論文篇 01-1 】AlexNet論文翻譯深度學習