關於感知器的故事:機器學習是如何發展到如今這一程度的呢?

AIBigbull2050發表於2020-11-25

2020-11-13 12:33:00

全文共2614字,預計學習時長7分鐘


關於感知器的故事:機器學習是如何發展到如今這一程度的呢?

圖源:unsplash


人工智慧如今已成為大街小巷的熱議話題。企業為了吸引客戶和目標使用者,在生產產品、提供方案時總會使用機器學習(ML)、深度學習(DL)等花哨的詞彙。但實際上,這些詞彙絕不僅是“噱頭”而已。

在過去數十年裡,能夠解決實際問題的人工智慧應用層出不窮,已經成為一種全球性的現象。像我這樣努力鑽研機器學習的人成百上千。Andrew Ng是我們的導師,他說道:“一百年前,電的發明改變了一切,而如今,我很難想象還有哪個行業在未來幾年內不會被人工智慧改變。”

科技大廠瞭解科技發展的主流趨勢,且無法承擔技術落後的風險,所以他們都已適應了此次計算機革命。機器學習發展前景巨大,若你是一名開發人員,想要提高自己的技術水平,那建議你快開始學習它吧。

人工智慧已經深刻改變了所有主要行業。人工智慧與機器學習在醫療、神經科學、農業、安全、監控等領域的跨領域應用數不勝數,已經成為我們生活中不可或缺的一部分。但這一切是如何開始的呢?還要從幾十年前感知器剛被發明出來說起。

感知器的故事始於65年前,在開始講述這一故事之前,先簡單瞭解下“感知器”的定義:感知器既是一種簡易的生物神經元人工模型,也是一種用於監督學習的單層神經網路演算法。它由輸入值、權重和偏差以及一個啟用函式組成。


關於感知器的故事:機器學習是如何發展到如今這一程度的呢?

單個感知器裝置

不過本文中我們不討論技術細節,開始講故事吧。

感知器的興起

1957年1月,弗蘭克·羅森布拉特(Frank Rosenblatt)在位於紐約布法羅的康奈爾航空實驗室公司發明了感知器,它是神經網路的基本構件。這項發明是論文《感知器——一種感知和識別自動機》的研究結果。

韋氏詞典將自動機定義為:一種用來自動執行預定的操作序列或響應編碼指令的機器或控制機器。

這項研究歷時五年,旨在設計一個能夠學習複雜模式、模式感知和泛化的電子大腦模型。其背後的直覺在於建造一個具有類似人類功能的裝置,如感知、形成概念、歸納經驗的能力、識別複雜的資訊模式以及辨別不同大小、形狀和方向的相似物體。

關於感知器的故事:機器學習是如何發展到如今這一程度的呢?

神經元細胞——由brgfx工具建立的背景向量圖 | 圖源:freepik素材庫


然而,要執行上述操作,傳統的計算機系統需要儲存數千個甚至數百萬個模式,然後在需要時,再從這些模式中搜尋識別出一個未知模式,這一步計算量非常之大,而且不是一個經濟的識別模式或物件的方法。

為了解決該問題,Frank Rosenblatt提出了一個系統,使其能夠根據生物大腦的原理工作,用機率方法代替確定性方法來識別模式之間的相似性。他的感知器模型由三大系統組成:

· 感官系統

· 互動系統

· 反映系統

每個系統都將進一步包含相互連線的單元,可以根據正在識別的模式開啟或關閉這些連線。感官系統會接受輸入模式。互動系統會開啟或關閉特定連線,反映系統會顯示輸出。

賦予感知器模型生命的定製硬體是Mark 1感知器,它主要是為影像識別而設計的,外表是一個黑色盒子,很像現在的神經網路,有輸入層、隱藏層和輸出層。

關於感知器的故事:機器學習是如何發展到如今這一程度的呢?

Mark I 感知器——康奈爾大學通訊社記錄,#4–3–15,康奈爾大學圖書館珍藏和手稿收藏處


反向傳播的出現


把時間往前倒推幾十年,1986年,Geoffrey Hinton提出了一項成果,這項成果推動了感知器的後續發展。

當時他提出了一種名為反向傳播的新型學習程式,後來成為現代神經網路模型的核心。這種技術透過調整神經網路模型的權值來減少實際值和期望值之間的差異。它能使神經網路學習或提取特徵,概括輸入的模式或序列,從而對未見的資料表示做出相當準確的預測。

關於感知器的故事:機器學習是如何發展到如今這一程度的呢?

多層神經網路模型中的逆向傳播視覺化圖片


從那時起,研究開始取得了很大進展。現在,我們有VGGNet、ResNet、Inception等模型,可以快速準確地對物體進行分類。而所有這些都是基於我們試圖模仿人類大腦的事實。

但問題是,我們是否已經瞭解大腦識別人們在日常生活中所見物體的工作原理?隨著時間的推移,神經科學研究人員正在假設大腦理論,幫助我們瞭解大腦的學習、感知和記憶模式。

最新的機器學習

傑夫·霍金斯提出了“千腦智慧理論”,大致內容是解釋人類大腦中的“新皮層”是如何負責對某一物件做出各種模型,然後分層次地進行投票,以達成共識,最後形成觸覺、嗅覺和視覺等感覺。

該理論認為,當我們在現實生活中看到某個物體時,大腦新皮層會啟用一組特定的神經元。如果現在看到一組有著不同大小和方向的相似物體,那麼新皮層也會啟用一組類似的神經元,這使我們能夠概括出日常生活中看到的物體。雖然沒有那麼簡單,但你可以形成一個大致的概念。

這與傳統的機器學習或尖端的深度學習不同,後者需要大量的輸入來學習模式,然後進行預測。

關於感知器的故事:機器學習是如何發展到如今這一程度的呢?

視覺化新皮層中神經元的層次結構(圖源:Pixabay,靈感來源: Numenta HTM)


傑夫·霍金斯創立了Numenta公司,正致力於將《千腦智慧理論》等頂尖的神經科學理論與人工智慧相結合,從而創造出真正的智慧機器,其工作原理與生物大腦相同。儘管前路漫漫,但我們堅信前進方向是正確的。因為我們已經取得了重大進展,而感知器是這一切的關鍵。

故事仍在繼續...

作為一個有志於從事資料科學研究的人,我要感謝電腦科學領域的早期思想家。感謝1642年布萊斯·帕斯卡( Blaise Pascal)發明第一臺機械計算器,感謝1842年艾達·洛芙萊斯(Ada Lovelace)第一次描述解決數學問題的運算順序,感謝1950年艾倫·圖靈(Alan Turing)創造了舉世聞名的圖靈測試,感謝歷史上所有做出貢獻的人......

隨著如今人工智慧的不斷進步,我們往往會忘記曾經遭遇的挫折,但正是這些挫折成就了今天的傑出工作。對研究人員來說,具有研究並主動推理直覺的能力是最大的財富。所以,就讓直覺帶你領略科學的偉大,成為此次技術革命的參與者吧。






來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/69946223/viewspace-2734230/,如需轉載,請註明出處,否則將追究法律責任。

相關文章