AI 2021 年度報告

dagis發表於2021-12-10

建議大夥有空還是自己親自讀一下,雖然有點長,188頁ppt。
 
很多諸如deepmind在生物醫學方面的突破什麼的,大家自己也能總結出來,但總體上資訊量還是比較大的。這裡分享一些還記得的有趣點。
 
NLP今年的熱點不再是大型pretrained+fine tune, 而是pretrained,prompt, predict。這個基於prompt的預測,很有意思,背後有很多的哲學思想。GPT-3出來時,為什麼有人在說是不是通用模型時代快到來了,提到的就是大型語言模型這方面的能力,讀書無數,自然無所不知。
 
自動寫程式碼貌似不是說說玩著來的,OpenAI的Codex在繼續努力,某些時候表現還是很可以,總體上需要繼續努力。

 

transformer衍生到cv領域了。CNN的最大問題就是context沒有很好的利用,transformer正好擅長這方面,所以滲透到各個領域也不是什麼稀奇事。當然,CNN在CV裡的重要地位使得它是絕對不可拋棄的,所以下一代自然就是transformer+cnn。

 

中國的ai在學術領域的重要度繼續走高,必須proud。

 

AI道德問題更加重視,年初的谷歌事件也榜上有名。當然還有各種後續。對我國的各種AI應用的使用的各種指指點點還在繼續。

 

蘋果的neural hash是不是違反侵犯隱私。隨著資料隱私越來越敏感,這種亂七八糟的fingerprint,hash暫時是一種比較保險的利用使用者資料的方法。

 

女性比例繼續持低,在中國居然只有4%,而印度高達30%。

 

deepmind想脫離谷歌,希望以非盈利組織的身份進行AGI的研究。

 

歐洲在gdpr之後,繼續突出關於AI的管理條例,而且必須有專門組織對其是否compiant作出評估。
。。。
打住劇透。 

相關文章