洪小文：以科學的方式赤裸裸地剖析AI（四）| 未來是人工智慧+人類智慧

編者按：AI技術發展至今，引起了無數的關注，也激起了人們廣泛熱烈的討論。強AI的實現需要多少時間？是否要做一個有意識的AI？未來人類智慧和人工智慧應該如何相處？

9月27日，微軟亞洲研究院院長洪小文傾情授課由清華大學發起的《腦科學與人工智慧對話：基礎與前沿》系列課程第一講。本文是洪小文院長演講整理稿的第四篇，文中主要和大家討論了AI技術未來的發展問題。文章轉載自公眾號“知識分子”。

接近500年達到強AI

弱AI其實很強。弱AI就是80年代的專家系統。它很弱，只懂一個領域，它也沒有理解。就像我們現在的翻譯，大部分人不可能學那麼多語言；同時雖然它沒有理解力，但是在很大程度上是可用的。它就像專家系統，就像我們人不可能每個東西都懂。不過，弱人工智慧其實很好用，它是專用型的，某種意義上其實很強。

強AI其實很弱。我們人就是強AI——我們跟每一個行業的專家比都沒有那麼強。要真正做到強AI，需要把所有AI探討的問題都解決，也就是需要完全的AI（AI-Complete），要把語音解了，影象解了，要把所有東西都解決。

這裡要提一下我的導師。因為預測未來是很難的。當年他們五個人做AI的時候，John McCarthy說20年之內AI就解了，Herb Simon 跟Allen Newell沒講那麼激進，他們說20年之內一定沒有人在下棋方面贏得過AI，但是也不對。我的師祖最有智慧，他說是5年至500年。我想他太有智慧了。我認為可能更靠近500年（才能達到強AI）。

我們通常都高估了短時間之內可以完成的事情，但是經常低估長時間可以完成的事情，所以我覺得5-500年是一個最有智慧的回答。

是否要做一個有意識的AI？

強AI一定是和意識非常有關的。做一個有自我意識的強AI有沒有用？

如果我叫我太太去幫我準備一杯咖啡，十次有五次她會說，你自己有手有腳，為什麼不去？如果一個機器人有自我意識的話，它就應該有它的個性，所以我們可能根本不需要有自我意識、有個性的機器人。其實我覺得做一個強AI，做一個有意識的機器人，本身可能就是一個偽命題。

另外一點是，我們到底是否瞭解我們自己？我們對自己的瞭解實在太少了。無論是認知科學、腦科學，人的智慧從哪裡來，人的創造力從哪裡來，這些問題我們根本就不瞭解。既然我們不瞭解，那如何產生出一個又聰明、又有意識的機器呢？我們有小孩的人，巴不得小孩比我們聰明，有自己的意識。但是有了意識之後，你就無法控制他，你叫他往西，他偏要往東。所以想要產生又聰明又有意識的（強AI），我的建議是現在城市的小孩太少了，大家多生點小孩不就好了嗎？

所以其實說穿了，真正做出一個強AI，在學術界是非常有意義、有意思的；但是從應用上講，我是存疑的：因為不可兼得，一個東西有強AI的話，它一定不會聽你的話。因此，是否做一個有意識的AI，值得討論。‍

未來永遠是AI+HI

再來說一說演算法。大家都不用擔心演算法只被某幾個人知道。今天的演算法都已經開源，而且大家都想要發表這些演算法，沒有一個人有AI的“獨家”本領。所以，我覺得有足夠的人想演算法，不用擔心。

那麼，大家要不要怕AI？其實根本不用怕。AI是一個技術，而不是一個生命。就像飛機，飛機是好事，但有人拿飛機去做恐怖襲擊，你是怪飛機呢？還是怪開飛機的人？甚至例如核武器，有人說核武器是這個世界上最好的發明，我們到現在都沒有戰爭。所以應該怪技術後面操作的人，而不是怪那個技術。

反而，我覺得資料是需要管制的。舉個例子，內線交易。到底什麼樣的人、什麼樣的單位、什麼樣的資料，能做什麼樣的事？到底資料是不是智慧？我認為很大程度不見得是。我們現在認為一個人博學多聞是一個很好的事情，但是拿炒股票來說，一個人知道一些內幕，他炒股就會很好，但是你不會說這個是智慧。

到底我們人、生命，是不是可以演算法和資料模型化？我是不太相信的，主要原因是，沒有一個元演算法，可以用新的演算法去解決新的問題。我覺得這一點非常重要，創造力可不可以演算法化？有沒有可能？我個人覺得是非常困難，而且可能永遠達不到。

而且如果真有的（這樣的元演算法）的話，這個世界也不是我們想生活的一個世界。因為假如有一個元演算法，可以無止境的工作，把這個世界的問題都解了，那人活下去幹什麼呢？人活下去一個很大的動機就是發現真理，我們到今天有一大堆問題都不知道答案，連NP等不等於P，從1960年代就提出了，到今天還沒有解。

我們今天有云計算、大資料、AI，但NP等不等於P還沒有看到解決的影子。包括人類從哪裡來？宇宙從哪裡來？我們又去向何處？如果這些問題真的都被AI解決的話，可能那一天很多人會自殺，因為人的生命就沒有意義了，這也是哲學的問題。

所以講到創新，奇點（singularity，一個假設的時刻，AI或者其它技術非常先進，人類進入到一個劇烈而無法回頭的改變歷程）會存在麼？我們知道有摩爾定律，但是會有智慧的大爆發嗎？我們看那些難的題目，一些很難的題目到今天還是沒有解。今天解了一個難題，不代表下一個難題也會被解，（解題速率）不會是每18個月增加一倍。今天解了一個難題，下一個難題會離我們更近嗎？絕對不是。所以說奇點，我覺得是沒有任何根據的。通常解了一個難題，下一個難題會更難解，這是我的結論。

不過，隨著計算機計算能力的提升加上資料的增長，我們真的可以做更多的事情，特別是重複性的事情。當然有人說AI會取代工作，事實上被取代的工作，大部分是重複性的事情，包括在機場安檢、看人、看行李箱。我覺得從AI發展的歷史到可預見的未來，都是AI和人類的共存化。我在80年代學AI，發現沒有用，所以我就去做了統計；可是現在我回頭看，發現真正要做AI，當初先人講的這些東西是我們真正要學習的。我覺得在做AI的時候，也幫助我們瞭解了人類的智慧。

還有一點，未來永遠是AI+HI（人的智慧），除非直到某一天有一個程式，能發明新的演算法，解決新的問題。但如果有這樣一個程式，那就不得了，就有了一個一般求解器（general problem solver），就有可能解決世界所有的問題。NP大概是不可能等於P的，NP等於P這個世界就亂套了。因為NP的意思是說，我給你一個問題，你通常要找答案，這個是NP；驗證一個答案是否正確通常是P，如果NP等於P，就等於數學上解問題和驗證問題是一樣的簡單，這個世界就亂套了，所以NP大概不等於P。但是我們人類有沒有可能去證明NP不等於P，或者NP等於P？我們不知道，但這正是人生的美妙之處，我們繼續往前進。

AI要達到像科幻小說描述的那樣還需要很長的路，因為我們瞭解的人類的智慧還不夠。特別是，需要腦神經科學進一步的發展才能夠讓我們更瞭解（人類的智慧）。應該很慶幸，我們是第一代和AI一起成長的人類。我覺得人類的智慧，雖然不能解決所有的問題，但是人類智慧似乎是不受限制的。我們有很多缺點，我們也會老化，但是這些缺點好像幫助了我們的創造力，幫助了我們的智慧。未來需要我們繼續地去探索和創造。

你也許還想看：

● 洪小文：以科學的方式赤裸裸地剖析AI（三）| 人的智慧在哪裡？

● 洪小文：以科學的方式赤裸裸地剖析AI（二）｜從寒冬到復興

● 洪小文：以科學的方式赤裸裸地剖析人工智慧 | 混沌初開

感謝你關注“微軟研究院AI頭條”，我們期待你的留言和投稿，共建交流平臺。來稿請寄：msraai@microsoft.com。