人工智慧最終將超越人類,但不是反人類

善良的粉紅桃桃發表於2015-01-23

如果你是非常聰明的,只能在三四個科學領域做得比較好,而不是所有領域都做得非常好。我們把所有的學科集合在一起。對於任何一個人來說,是不可能做到的。但是,AI可以跟人一起做。我們可以用超級的顯示,讓AI跟人一起合作,比如NASA的(hap wor)系統。我們會用AI智慧來了解地球上各種各樣的感測器,以及我們身上的各種各樣的感測器,從而讓我們瞭解自己是不是健康、環境是不是健康、業務是怎樣的,從而進行預測。這樣使得我們的未來會變得更好。


如果我們真的創造了超級智慧,會怎麼樣呢?可能會解決一些難題,比如老齡化、能源危機、氣候變化。這個新的系統不會像人類一樣思考,它會有意、無意的出現一些負面後果。我也提醒大家,如果我們沒有不對AI完全瞭解,就像你的孩子一樣,他對很多情況都不知道,我們需要對他進行監護。如果你發現你的孩子,或者是AI,有一些邪惡的想法或者是做法,你需要阻止。因此,如果我們發現AI有一些邪惡的做法,就必須把它停止下來。

如果這些技術出現問題,大部分的問題並不是黑天鵝事件,我們已經預測到很多情況,我們一定要對這些可能發生的風險做足夠的準備。

有些人可能認識這幾個人物,他們是在紐倫堡法庭上受審的納粹軍官。問題不是他們不夠聰明,而是他們是道德上的罪犯。所以我們一定要讓人們具有道德素質,否則他們做的事情就會傷害別人,也傷害自己。

Gary Hargun曾經寫過一篇文章《公地的悲劇》。他發現海洋屬於所有人,也不屬於任何人,這個就是公地的悲劇。我們不能把地球作為一個公地,所有人都有風險,應該把風險分配給所有人,共同保護它。

相關文章