創造出超越人類智慧的人工智慧會發生什麼

如果我們創造出了達到或者超過人類智慧水平的人工智慧（AI），會發生什麼？人類會成為自己發明的受害者嗎？在不遠抑或是遙遠的未來，人類與機器人可以和平共處嗎？人類有一天，會向機器人乞討嗎？在2017年，《紐約客》雜誌的一幅封面畫引發了一場有關於人類與機器人的大討論。而今，由人工智慧引發的爭論正在變得比當時更多也更加激烈，這其中既有技術的紛爭，也充斥著倫理和法律的博弈。

《紐約客》雜誌封面畫（2017年10月）。基庫·約翰遜（R. Kikuo Johnson）繪。插圖對應的封面文章名為《黑暗工廠》（Dark Factory），描述了密歇根州大急流城Steelcase金屬廠中一些被稱作“人肉機器人”的工人的故事，在這家公司，越來越多原本由人類從事的工作都被機器人取代。在這幅由基庫·約翰遜（R. Kikuo Johnson）繪製的封面畫中，年輕的人類乞丐坐在未來的曼哈頓街頭乞討，路上穿過的形形色色的機器人“上班族”和“行人”則向他手中的杯子裡投擲著螺絲和墊片，他身旁的小狗也“目瞪口呆”地注視著面前透過的機器狗。

不可否認的是，人工智慧正在成為日常生活的一部分——雖然它在即將過去的2020年並未取得重大突破，但顯然，它已經切實改變了每一個人的生活。對於熟悉科幻小說、影視作品的人們來說，其中虛構的未來，可能正是我們所身處的現在。人工智慧生態系統、無人駕駛汽車、智慧個人助理、家用機器人……蓬勃發展的人工智慧透過智慧手機、家電、汽車等終端深入家庭、企業和各種公共設施，它是當下的普遍現象，更是未來的主導技術。

在人類尚未進入技術時代開始，有關機器人的想象就大量存在於文學和戲劇、影視作品之中。起初，人們擔心人工智慧會背叛人類——機器會因為更加聰明（智慧）而反抗人類，甚至消滅人類。

比如在根據科幻大師阿西莫夫短篇小說改編的電影《我，機器人》中所探討的正是人與機器之間的關係。影片中，機器人具備了自我進化的能力，它們隨時會轉化成整個人類的“機械公敵”。而“終結者”系列，探討的同樣是機器人毀滅人類。為人工智慧賦予人類的感情，衍生的又是一個全新的故事。史蒂文·斯皮爾伯格導演的《人工智慧》中，機器人小孩大衛試圖尋找自己的生存價值：渴望變成真正的小孩。

這些故事塑造了我們對人工智慧的認知，阿西莫夫創作的“機器人三大定律”也因為這些作品的一再表述而成為我們看待機器人的“標準”信條。但在斯圖爾特·羅素（Stuart Russell）看來，這或許反而成為了人類的某種誤區，比如讓人工智慧“服從人類”顯然就是個壞主意。

斯圖爾特·羅素（Stuart Russell）（版權：Peg Skorpinski），加州大學伯克利分校電腦科學家，人類相容人工智慧中心（CHAI）主任，人工智慧研究實驗室指導委員會（BAIR）成員。世界經濟論壇人工智慧和機器人委員會副主席，美國科學促進會（AAAS）會士，美國人工智慧協會（AAAI）會士。羅素獲得過多項科學榮譽，包括美國國家科學基金會總統青年研究員獎、國際人工智慧聯合會議（IJCAI）計算機與思想獎、國際計算機學會（ACM）卡爾斯特朗傑出教育家獎等，並受邀在TED、世界經濟論壇演講。

一個極端的案例是，如果人類賦予機器人一個錯誤的或者存在漏洞的目標，這可能是致命的。假如我們希望透過人工智慧系統控制氣候變化，併為其設定將大氣中的二氧化碳水平恢復到工業革命前水平的命令，這一系統很可能會得出消滅人類的結論——因為人類活動是產生二氧化碳最主要的來源。即便人類為此附加條件不能消滅人類，人工智慧系統也可以會以說服的方式讓人類少生孩子，直到人類自然滅絕。

身為美國加州大學伯克利分校電腦科學家的斯圖爾特·羅素，是當今世界上人工智慧領域的權威專家，他曾與谷歌研究總監彼得·諾維格合著出版了人工智慧領域裡的“標準教科書”《人工智慧》，該書被128個國家的1400多所大學使用。就在今年二月，他已經完成了該書的第四版。

今年十月，斯圖爾特·羅素的著作《AI新生：破解人機共存密碼——人類最後一個大問題》引進出版，在這本書中，羅素提出了一個問題：如何破解人機共存的密碼，使得人類可以掌握比我們自身強大得多的智慧？在過去相當長的一段時間裡，人類之所以能控制地球，是因為人類的大腦比其他動物的大腦要複雜得多。而這正是因為“智慧”，是一種權利。因此，羅素更為關注的，是對於這些比我們更強大的機器，如何保持絕對的控制權？在新京報記者對羅素的採訪中，他回答了一些關於人工智慧我們所關心，或者未知的問題。