剛剛，2024諾貝爾物理學獎授予Geoffrey Hinton、John Hopfield

机器之心發表於2024-10-08

兩位獲獎者將平分 1100 萬瑞典克朗（約合 745 萬元人民幣）獎金。

北京時間 10 月 8 日下午，瑞典皇家科學院宣佈將 2024 年諾貝爾物理學獎授予 John J. Hopfield 和 Geoffrey E. Hinton，「以表彰他們在使用人工神經網路實現機器學習方面奠基性發現和發明」。

圖片

諾貝爾獎評獎委員會表示：「今年的物理學獎得主的突破建立在物理科學的基礎上。他們為我們展示了一種全新的方式，讓我們能夠利用計算機來幫助和指導我們，應對社會面臨的許多挑戰。」

委員會在宣佈獲獎時同時指出，機器學習「長期以來一直對科學研究至關重要，包括對大量資料的分類和分析……John Hopfield 和 Geoffrey Hinton 利用物理學工具，構建了有助於為當今強大的機器學習奠定基礎的方法。基於人工神經網路的機器學習目前正在徹底改變科學、工程和日常生活。」

Geoffrey Hinton
圖片
Geoffrey Hinton 出生於 1947 年，二戰後的英國溫布林登。他是邏輯學家 George Boole 的曾曾孫，George Boole 的工作布林代數（Boolean algebra）是現代電腦科學的基礎之一。Geoffrey Hinton 的父親是英國昆蟲學家 Howard Hinton，叔叔是著名經濟學家 Colin Clark，國民生產總值（GDP）這個術語的提出者。

1978 年，Geoffrey Hinton 在愛丁堡獲得人工智慧博士學位。在卡內基梅隆大學任教五年後，他成為加拿大高等研究院的研究員，並進入多倫多大學電腦科學系任教，現為該系名譽教授。他於 2013 年 3 月加入谷歌，Vector 研究所的首席科學顧問。

Geoffrey Hinton 是英國皇家學會會士，也是美國國家工程學院和美國藝術與科學學院的外籍會員。他一生獲得過諸多獎項，包括大衛・魯梅爾哈特獎、 IJCAI 卓越研究獎、 基廉工程獎（有「加拿大諾貝爾獎」之稱的國家最高科學獎）、 IEEE Frank Rosenblatt 獎、 NSERC Herzberg 金獎、 IEEE 詹姆斯・克拉克・麥克斯韋金獎、 NEC C&C 獎、本田獎和圖靈獎。

研究貢獻

1986 年，Geoffrey Hinton 與 David Rumelhart、Ronald J. Williams 一起發表的論文介紹了用於訓練多層神經網路的反向傳播演算法。實驗表明，這樣的網路可以學習有用的資料內部表徵。圖片
論文連結：https://www.nature.com/articles/323533a0

不過，Hinton 認為自己不可擔當「反向傳播之父」這個稱號。在 2018 年的一次採訪中，Hinton 表示「 David E. Rumelhart 提出了反向傳播的基本思想，所以這是他的發明。」

追溯起來，學界普遍認可現代反向傳播演算法在 1970 年由芬蘭碩士生 Seppo Linnainmaa 首次發表， Paul Werbos 在 1974 年提出用它來訓練神經網路。儘管 Geoffrey Hinton 並不是第一個提出這種方法的人，但他對推廣反向傳播起到了很重要的作用，也是第一個使用反向傳播學習詞嵌入的人。他對神經網路研究的其他貢獻包括玻爾茲曼機器、分散式表示、時滯神經網路、專家混合、變分學習和深度學習。

2012 年，Geoffrey Hinton 在多倫多帶領的研究小組實現了深度學習的重大突破，徹底改變了語音識別和目標分類。他與學生 Alex Krizhevsk、Ilya Sutskever 合作設計的卷積神經網路「Alexnet」以遠超第二名的成績在 ImageNet 2012 挑戰賽奪冠，將 ImageNet 資料集上的視覺識別錯誤率降到了 15.3%，僅有此前的一半。這成為了計算機視覺領域的里程碑事件。

2015 年，為了紀念人工智慧 60 週年，深度學習三巨頭 Yann LeCun、Yoshua Bengio、Geoffrey Hinton 在 Nature 上發表了綜述論文《Deep learning》：
圖片
論文連結：https://www.cs.toronto.edu/~hinton/absps/NatureDeepReview.pdf

卷積神經網路獲得了巨大的成功，但也並不適合所有的任務。2017 年 10 月和 11 月，Hinton 發表了兩篇關於膠囊神經網路主題的研究論文，提出了膠囊網路 (CapsNet) 作為 CNN 模型的替代。膠囊是深度學習的新概念，與 CNN 和傳統的網路神經網路相比，它產生了不錯的效果。CNN 分類器在對抗干擾資料時並不穩健，而膠囊網路被證明對不良資料的適應力更強，而且還能適應輸入資料的仿射變換。

2018 年，Hinton 與 Yann LeCun 和 Yoshua Bengio 一起獲得了 2018 年圖靈獎，以表彰他們使深度神經網路成為計算的關鍵組成部分的概念和工程突破。

在幾十年的研究生涯中，Hinton 稱得上「桃李滿天下」。他曾培養的知名學者包括：Peter Dayan、Sam Roweis、Richard Zemel、Brendan Frey、Radford M. Neal、Ruslan Salakhutdinov、Ilya Sutskever、Yann LeCun 和 Zoubin Ghahramani。

John Joseph Hopfield圖片
約翰・約瑟夫・霍普菲爾德（John Joseph Hopfield）是一位美國物理學家，活躍於生物物理學和統計物理學領域。他於 1982 年提出的 Hopfield 網路是神經網路領域的經典模型。霍普菲爾德為該模型引入了精確的二值神經元和能量函式的概念，這是一種特別自關聯網路，能夠儲存和搜尋記憶。Hopfield 網路被廣泛用於解決組合最佳化問題、影像識別等任務，特別是在自聯想儲存和最佳化問題。

霍普菲爾德的神經網路模型開啟了人們對大腦計算過程的研究，推動了計算神經科學的發展。他的神經理論解釋了大規模處理如何在儲存網路中實現穩定的記憶，啟發了後來的深度學習研究。

霍普菲爾德 1933 年 7 月 15 日出生。在成長過程中，他表現出了對科學的興趣，尤其是物理和數學。他獲得了斯沃斯莫爾學院的學士學位，並於 1958 年在康奈爾大學獲得物理學博士學位。在求學過程中，他對物理學的多個領域產生了濃厚的興趣，這為他後來的跨學科研究奠定了堅實的基礎。

霍普菲爾德的職業生涯足跡，涵蓋了多個物理學、生物物理學和神經科學領域。他曾在多個頂尖學府任教和研究，包括普林斯頓大學、加州理工學院以及史丹佛大學。

霍普菲爾德早年主要研究固體物理，特別是光學性質和半導體材料。在 20 世紀 70 年代，霍普菲爾德轉向生物物理學，提出了許多有助於理解生物分子的理論。最主要的是與雅克・尼尼奧同時引入了分子生物學校對的概念。

相關文章