李德毅院士:通用人工智慧十問

AMiner學術頭條發表於2020-04-03

共識:智慧是學習的能力,以及解釋、解決問題的能力;人工智慧是脫離生命體的智慧,是人類智慧的體外延伸;通用人工智慧通過不斷學習,積累本領,進化成長,能夠面向不同的情境,解釋、解決普遍性的智力問題。

在此共識基礎上,我們提出如下質疑:

質疑一

意識、情感、智慧和智慧,它們是包含關係還是關聯關係?是智慧裡面含有意識和情感,還是意識裡面含有智慧?是智慧裡面有智慧,還是智慧裡面有智慧?大凡意識、情感,都是內省的、自知的、排他的,怎麼可以用他人的、人工的來代替呢?所以非生命體不可能有意識?

質疑二

如何理解通用智慧?我們應該不應該把通用智慧理解為“全知全能”或者單向超強智慧?儘管今天的計算機已經可以解決很多複雜的、專門的智力問題(如圍棋智慧),我們仍常常覺得它們缺乏人類思維的某些本質特徵。這裡的差別主要不是在演算法、算力、資料量方面,不是在速度和容量方面,而是在智慧的一般性、通用性、普遍性、靈活性、預設性、容錯性、可習得性、不確定性、適應性、常識性、開放性、創造性、自主性等方面。遺憾的是發展 60 多年的人工智慧沒有能夠更靠近人的原始的智慧。

質疑三

目前所有的人工智慧的成就都是在計算機上表現出來,是基於馮架構的計算機智慧或者計算智慧,人工智慧是計算機的一個應用而已。而人腦不是馮諾依曼架構的,存在不存在巨集觀上更類似腦的非馮諾依曼架構呢?例如,對人的智慧而言,記憶力是真正的智力,超強記憶力就是超強智慧,記憶比計算機重要,記憶的提取要比複雜的推理快得多,非馮架構如何在結構上體現人腦的不同記憶區和記憶力呢?如何體現環境和知識的雙驅動?

質疑四

非生命體不會有七情六慾,機器人是非生命體,還會有學習的原動力嗎?如果沒有學習的原動力,沒有接受教育的自發性,還會有學習的目標嗎?目標從哪產生?機器人能否自己提出問題?

質疑五

人的注意力選擇源於記憶,源於記憶的偏好依附性,偏好如何產生的?偏好依附是否只能與互動認知的頻度和時間的遠近相關?人的偏好依附不是這樣的,人的恐懼性以及滿足感會讓一些發生頻度很低、或者很久遠的事記憶特別深刻。

質疑六

自然語言是人類思維活動的載體,如果自然語言是第一語言,數學語言是第二語言,計算機語言是第三語言,後一個比前一個常常更嚴格,後一個比前一個常常更狹義,根據哥德爾不完全定理,數學自身難以完全自洽。數學的形式化要藉助於自然語言,計算機語言的形式化要藉助於數學語言。因此,人工智慧怎麼可以反過來要用數學語言或者計算機語言去形式化人類的自然語言呢?

質疑七

人腦是個小宇宙,其中的智慧是多情境、多公理相容幷包的,在不同情境裡有不同應對,不完全收斂,不完全自恰,不整體統一,不存在非公理的統一的數學推理,當然也不必一定要腦裂。  

質疑八

一個機器或者系統是否有智慧,不在於某一個時刻它能解決什麼實際的智力問題,而在於它有沒有學習的能力?智慧,即提供的問題解決方案,是否依賴於有限的認知資源?是否需要進一步互動認知?是否可以有選項?是否可以進化和成長?這才是最重要的。 

質疑九

在一個非馮諾依曼架構的機器人腦中,組成記憶、互動和計算的基本元件最少有哪幾種?各元件中的資訊的產生機制與存在形式是什麼樣的?他們之間的資訊傳遞機制是什麼樣的?

質疑十

通用智慧後天的習得靠教育,智慧植根於教育,文明是智慧的生態。設有通用架構的機器嬰兒 10 臺,可視為帶有基因的硬體加基礎軟體,讓 10 位母親分別在各自的情境去教育 10 名機器嬰兒,僅僅通過語音互動,1 個月後這樣的機器嬰兒腦中留下的三個記憶區裡都會有些什麼?以後,機器嬰兒的基礎軟體(含記憶、互動、計算軟體)要不要不斷擴充?硬體要不要不斷擴充?機器嬰兒腦有沒有形成自己軟體的能力?

作者簡介

李德毅院士:通用人工智慧十問李德毅
中國工程院院士,CAAI Fellow,
CAAI 名譽理事長

長期從事計算機工程、不確定性人工智慧、大資料和智慧駕駛領域研究。最早提出“控制流-資料流”圖對理論,證明了關聯式資料庫模式和謂詞邏輯的對等性。提出雲模型、雲變換、資料場等認知形式化理論,用於解決定性概念生成、相似度計算、不確定推理、智慧控制等問題,成功控制三級倒立擺各種動平衡的姿態。提出基於路權構建駕駛態勢認知圖,研發機器駕駛腦,領導了中國最大的智慧車聯合團隊。

相關文章