NLP 新紀元?如何看待轟炸閱讀理解頂級測試的BERT模型?

追一科技發表於2019-01-09

Google AI最近又掀起了瓜界旋風。這次是BERT模型刷爆了閱讀理解的各項測試,一夜間大家似乎走進了NLP的"新時代"。

在11項NLP任務中,BERT模型奪得SOTA結果,在自然語言處理學界以及工業界都引起了不小的熱議,瓜界也是驚呼變天了。那天晚上10點,當我帶著澎湃的心情,跑上13樓求教我司實力與顏值兼具的演算法大拿鋒哥的時候,鋒哥還神遊在密密麻麻的程式碼世界裡。過了半晌,才悠悠地回了一句,“你們啊,太不關心我們研發了。”

鋒哥說BERT模型“吃下”了33億文字的語料資料,堪稱大塊頭,然後又在不同的下游任務中“微調”,就像駱駝穿過針眼一樣,很精細,最終在不同任務中取得了目前最好的效果。

“遠在天邊,近在眼前,不知道我們今年就在搞這個東西嗎?每天就知道在前端APP、微信上跟機器人撩來撩去,底層演算法關心有木有?BERT也絕非平地驚雷,模型也是有兄弟姐妹,高矮胖瘦的好伐。”明天我給你碼一篇,好好解讀下BERT的來龍去脈。

相關文章