谷歌開發者大會爐邊談話,Hinton解析AI如何影響人類理解大腦

dicksonjyl560101發表於2019-05-12



5月10日訊息,最新一屆圖靈獎得主、多倫多大學名譽教授兼谷歌大腦AI 團隊的高階研究員Geoffrey Hinton在山景城(Mountain View)谷歌I / O開發者大會的爐邊聊天中發表了講話。他討論了神經網路的起源,以及人工智慧的可行性和意義。

Geoffrey Hinton被稱為“人工智慧教父”,在過去30年裡一直致力於解決AI面臨的一些最大挑戰。除了在機器學習方面的開創性工作,Geoffrey Hinton還撰寫或與別人合著了共200多篇同行評議的論文,其中包括1986年關於機器學習技術的一篇叫做“backpropagation”(反向傳播)的論文。

Geoffrey Hinton推廣了深層神經網路的概念,包含上述功能的人工智慧模型,它們被安排在相互連線的層中,傳輸“訊號”並調整連線的突觸強度(權重)。透過這種方式,他們從輸入資料中提取特徵,並學會做出預測。

一、自注意力網路優於最先進模型,所需訓練資料更少

Transformers是一種自注意力網路架構,是一系列深度神經網路體系結構,透過自注意力層相互堆疊,多重轉換學習輸入分詞,在具體的情境中得到了完善。谷歌的研究人員兩年前的在一篇部落格文章和隨附論文“注意力就是你所需要的一切”中對此進行了詳細闡述。由於動態計算權重的注意力機制,Transformers在語言翻譯任務中的表現優於最先進的模型,而且訓練所需的計算量更少。

Geoffrey Hinton承認,創新的步伐甚至讓他感到驚訝。他表示“在2012年的時候,我並沒想到在未來五年內,我們會使用相同的技術在多種語言之間進行翻譯。”

Geoffrey Hinton認為,當前的AI和機器學習方法有其侷限性。他指出,大多數計算機視覺模型沒有反饋機制,也就是說,它們不會嘗試從更高層次的表示中重建資料。相反,他們試圖透過改變權重來區分性地學習特徵。

Geoffrey Hinton說:“”他們並沒有在各種級別特徵探測器級別上檢查他們是否能夠重建下面的資料。”

二、AI研究為神經科學提供借鑑

Geoffrey Hinton和他的同事最近轉向人類視覺皮層尋求靈感。Geoffrey Hinton表示,人類視覺需要一種重建的學習方法,事實證明,計算機視覺系統中的重建技術增強了他們對抗對抗性攻擊的能力。

大腦科學家們都同意這樣的觀點,如果你的大腦皮層有兩個區域處於知覺通路中,並且一個區域與另一個區域之間存在聯絡,那麼總會有一個向後的路徑。”

Geoffrey Hinton認為,神經科學家可以從AI研究人員那裡學到很多東西。他認為未來的AI系統大多數都是無監督的。無監督學習是機器學習的一個分支,可以從未標記的、未分類和未分類的測試資料中收集知識。其學習共性、並對共性的存在或不存在做出反應的能力幾乎與人類相似。

如果你採用具有數十億引數的系統,並且在一些目標函式中進行學術梯度下降,它的效果會比預期的要好得多,規模越大,效果越好。Geoffrey Hinton說:“這使得大腦計算某些目標功能的梯度並更新突觸的強度以遵循這一梯度的說法更加可信。我們只需要知道它是如何得到梯度的,以及目標函式是什麼。”

Geoffrey Hinton認為,這甚至可能解開夢的奧秘。關於為什麼我們會不記得夢境的疑問。他認為這可能與“忘卻”有關,他在一篇關於玻爾茲曼機器的合著論文中解釋了這一理論。這些AI系統,由對稱連線的神經元單位組成網路,可以隨機決定是“開”還是“關”,透過系統觀察到的資料結果來看,“忘卻”並不那麼令人驚訝。

Geoffrey Hinton說:“做夢的意義可能在於,你把整個學習過程顛倒過來。”

三、神經網路學習應用於教育領域會帶來何種改變?

Geoffrey Hinton相信,這些學習可以改變許多領域,比如教育,他預計將人類生物化學的課程變得更加個性化、針對性更強。

Geoffrey Hinton說:“你可能會認為,如果我們真正瞭解目前的情況,我們應該能夠改善教育等方面的狀況,我認為我們會做到。如果你最終能夠理解大腦是如何工作以及學習的,卻不為了更好地學習而去適應環境,那將是非常奇怪的。”

他警告說,這需要時間。就近期而言,Geoffrey Hinton設想了智慧助理的未來,比如Google Assistant或Amazon的Alexa,它們可以與使用者互動,並在日常生活中引導他們。

Geoffrey Hinton的預測是在谷歌的前執行主席Eric Schmidt最近的一次演講之後釋出的。Eric Schmidt同樣相信,在未來,個性化的AI助手將使用我們的行為知識來讓我們瞭解情況。

Geoffrey Hinton總結說:“在幾年內,我不確定我們會學到多少東西。但是如果你仔細看看,助理程式現在已經相當智慧,一旦它們能夠真正理解對話,智慧助理就可以與孩子進行對話並教育他們。”

結語:AI融入生活,技術改變未來

AI已經逐漸融入了我們的日常生活,無論是智慧家居產品還是智慧穿戴裝置,都成為了我們簡化我們工作生活的工具。

未來AI技術還有無限的發展潛力,它也將對我們的未來生活產生越來越大的影響。


來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/29829936/viewspace-2644047/,如需轉載,請註明出處,否則將追究法律責任。

相關文章