神經網路進化能否改變機器學習？

神經網路進化通過篩選人工神經網路中的神經通路來模擬自然進化。神經進化將進化演算法和人工神經網路結合起來，能像類似於地球上大腦進化的方式來訓練系統。

許多與機器學習相關的概念已經存在了幾十年。然而，在過去的幾年中，由於計算能力的巨大進步，研究人員才得以探索那些已經停滯不前的演算法和方法。在人工智慧領域，有一個概念突然引起了人們的注意：神經進化。這種方法通過篩選人工神經網路中的神經通路來模擬自然進化。通過突變，它確定了處理特定任務最有效的途徑。

在未來幾年，神經進化通過允許系統更動態、更智慧地進行調整和適應，可能會影響各種領域，如機器人、醫學和後勤。雖然這個概念的起源可以追溯到20世紀80年代，但一直到今天，計算能力的發展才使研究人員能夠給舊演算法注入新的活力。

“神經進化將進化演算法和人工神經網路結合起來。其結果是得到了一種訓練系統的方法，該方法與人類大腦的進化方式非常相似。”Uber人工智慧實驗室的高階研究科學家Kenneth Stanley解釋道。

自然（程式碼）選擇

神經進化受自然的啟發。傳統的深度學習使用一種被稱為隨機梯度下降（SGD）的方法；它通過不斷的訓練，逐步減少誤差，從而改進演算法。儘管SGD在處理許多計算任務（包括語音和影像識別等複雜活動）方面非常有效，但它難以應付“強化學習”（學習如何在很少反饋的情況下學習）這一更艱鉅的挑戰。例如，腿受損或殘廢的機器人必須學會一種不同的行走方式，而無需任何人告訴它應該如何適應這種特殊情況。

人工智慧軟體公司SentientTechnologies的研究副總裁、德克薩斯大學奧斯汀分校(University of Texas at Austin)電腦科學系教授Risto Miikkulainen解釋說：“通常，神經網路被用在擁有現有資料集的領域。當你有現有的資料點告訴你如何將輸入對映到輸出時，此時神經網路是有用的。典型場景包括理解股票市場的行為或天氣狀況的潛在動態，這兩者都會隨著時間的推移顯示出已知的模式。但是，如果您不知道給定輸入的正確輸出是什麼，那麼您就不能使用這種方法，”Miikkulainen補充道。

神經進化旨在繞過這一障礙。在過去的幾年中，一些研究人員已經涉足了這種方法，包括非盈利研究公司OpenAI、以及DeepMind和Google的團隊成員。Uber人工智慧實驗室的高階研究科學家、懷俄明大學的副教授Stanley和Jeff Clune已經證明，神經進化是一種能夠建立深度神經網路的強大演算法，能夠解決強化學習問題。他們和Uber人工智慧實驗室的團隊開發了一種遺傳演算法（GA），訓練具有超過400萬引數的深度卷積網路。

機器突變

這項研究已經證明了神經進化的實際可行性。在Uber人工智慧實驗室，Stanley和Clune共同撰寫了五篇關於這個主題的學術論文，他們利用遺傳演算法訓練了一個神經網路，能夠根據畫素資料玩Atari視訊遊戲。該系統在13場比賽中的6場中表現優於傳統的機器學習方法，並避免了一些SGD方法可能出現的一些死迴圈。更重要的是，在其中三場比賽中，該系統的表現優於人類。

Stanley稱一個關鍵因素是神經網路自發突變的能力。他和克萊恩，以及Uber的另一位研究科學家Joel Lehman找到了引入“安全”突變的方法，幫助神經網路顯著增長，併產生更好的結果。這種技術使他們能夠進化出具有100層以上的深層神經網路（DNNs），這遠遠超出了以前通過神經進化所能達到的程度。

在Uber，該系統的實際好處可能包括開發出更好的定價模型或更高效的排程或路由系統。但這只是神經進化的魅力之一。遺傳演算法，尤其是當它與其他機器學習演算法結合在一起時，可以在機器人、無人機、自動駕駛汽車、智慧城市、藥物設計和網路安全等領域帶來各種各樣的改進。不管是對無人機的結構損壞，還是社群交通的突然激增，這些系統都能動態、智慧地適應變化。“我們的目標是建立一個框架，可以快速地探索和測試各種可能性，並選擇最佳方法，”Miikkulainen解釋說。

事實上，Miikkulainen認為神經進化的未來是光明的。它為解決複雜的計算問題提供了一個潛在的強大工具。包括OpenAI集團在內的其他公司也在致力於這一領域的研究，並尋找各種可能性。Clune總結道：“神經進化一直是一個有趣的概念。現代計算讓研究人員開始真正利用這個想法，就像列奧納多·達芬奇設想的直升機，直到很久以後才能真正建造和飛行。”