胡家奇：警惕人工智慧 比無條件擁抱更合情合理

縱觀人類歷史，  從石器時代到電氣時代，人類走了十萬年  ，從電氣時代到今日數字時代高峰，還不到二百年。近半個世紀來，奠定數字時代基礎的積體電路元器件數量每12個月就翻一番，效能提升一倍。21世紀，僅僅幾年時間，行動網路、大資料就統治了世界，人工智慧已開始侵蝕人類的地位。

科學技術對人類社會的巨大推動作用是顯而易見的。特別是到了現代，科學技術更是被看做第一生產力，成為促進社會發展的最主要推動力量。在我們關注科技帶來的方便，促進人類社會發展進步作用的同時，不能忽略它可能給我們帶來巨大的甚至是毀滅性的危害。

電動汽車公司特斯拉、商業太空飛行公司SpaceX執行長埃隆·馬斯克（Elon Musk）不是人工智慧的堅定擁護者，相反他稱後者為“人類生存的最大威脅。”

他  曾在  麻省理工學院航空與航天  學院百年研討會時表示：“如果讓我猜人類最大生存威脅  ，  我認為可能是人工智慧。因此我們需要對人工智慧保持萬分警惕，研究人工智慧如同在召喚惡魔。”

麻省理工學院物理學家馬克思·泰格馬克  曾這樣比喻人工智慧：

“不久以前，機器人甚者連走都不會，現在已經可以後空翻了。不久以前，自動駕駛汽車尚未出現，但現在我們已經有可以自己飛回來的火箭了。不久以前，人工智慧做不到人臉識別，現在它已經生成虛擬面容……”

在科幻小說或電影中，人工智慧經常讓人類陷入噩夢中。比如《2001》、《終結者》、《銀翼殺手》等電影中，智慧電腦或智慧機器最終將武器對準它們的人類創造者。

一旦人工智慧全面超越人類，它或許不會對造物主感恩戴德，一個心冷如鐵又無所不能的存在，憑什麼對一群只是因為天氣惡劣就不想起床上班的生物懷有特別的感情？

套用人類學家胡家奇的話，  “人工智慧已經具備深度學習的能力，已經達到相當高的層級。”  “智慧機器人的自我意識覺醒之日，就是一切人類制定的規則被顛覆之時。”“自然界，從來就是高智商的物種鄙視低智商的物種，甚至把低智商的物種進行烹炸煮烤，當成食物或者當成玩偶。當智慧機器人超過人類的那一刻起，人類也就完蛋了。”

影片《超體》就充分展示了人工智慧一旦具有學習能力之後，它的潛能發揮和迅速進化可以達到什麼程度。人工智慧專家經常安慰我們說：人工智慧還很弱小，你們擔心的事情離現在還很遠。但是知識增長是呈指數級的，從弱人工智慧到強人工智慧，到底要多少年？

在這個日益個性至上的社會，如果科學家以一已私利支配個人的行動，後果時常是災難性的；甚至不論動機，任何疏忽也可能帶來滅頂之災。  不論科技向惡還是向善，  警惕人工智慧，比無條件地擁抱人工智慧更合情合理。