現實版終結者？殺手機器人預計2017年問世

隨著AI的智商越來越高，自動化越來越強，在帶來各種便利的同時，未來將可能威脅到人類的生存。

隨著人工智慧技術的飛速發展，機器人的“智商”越來越高，功能越來越強大。在人類享受機器人所帶來的各種便利的同時，機器人對人類的威脅也越來越大。而就在近日據國外媒體報導指出，殺傷性機器人系統很可能在2017年正式開啟，也就是說人類只有一年時間，阻止殺手機器人的出現。

Are you kidding me？這是要上演現實版的終結者？據小編所知，在機器人與人相處的過程中，一般有兩種結局，一是成為人類的朋友，二是成為毀滅人類的惡魔。想象一下那場面，一旦控制不住，分分鐘死翹翹啊，更可怕的是現實中的我們可沒有主角光環保護啊！

再次聯想到科學巨星霍金早前說過：“人類最終會滅絕於AI手中”。特斯拉公司的馬斯克也表示過人類會淪為AI的寵物這一觀點。

這不禁讓人困惑，AI到底能給人類帶來福音還是災難？

據悉，這些殺手機器人正式的名字叫做自動化武器系統，知微見著既然是武器，自然會率先被使用在軍事領域來減少戰鬥中人類士兵的傷亡。如果是這樣，那真是喜聞樂見。但轉念一想，也存在很大的風險，一旦失控或者被惡意利用，使自動化武器的槍口對準人類——尤其是手無寸鐵的平民，根據指令瘋狂殺戮，其結果對人類甚至整個地球來說都是巨大的災難。

也就是說，機器一旦失去人類控制，將掌握生殺大權，這後果簡直不敢想象啊！而人權觀察”組織和哈佛大學法學院國際人權研究所在一份研究報告中也指出，人工智慧技術的“殺手機器人”帶來的威脅要比幫助更大。

面對如此殺手機器人，人類該做些什麼？

首先，人類控制武器才是王道。 完全自動化的武器系統將帶來道德、法律和責任危機，威脅人權，而控制這種危機的最佳方式就是通過國際法律禁令，禁止使用無人控制的武器，攻擊目標只能由人類來選擇。這也得到了聯合國大多數國家的支援。

再者，既然殺手機器人主要是用於軍事，從源頭上減少戰爭的發生也是未嘗不可的。但這之中有太多的不可確定因素，有時候戰爭的發生是不可避免的。

歸根結底，最重要的是人類控制武器。

那麼，人類控制武器到底有何意義？

一、人有良知，有感情的溫暖，在抉擇的時候會動惻隱之心。但冰冷的機器人不同，機器只受指令操控，沒有思考能力。更重要的是，人類能理解生命的價值，而機器本身就沒有生命。因此讓機器人去做出這些決定是對人類尊嚴的破壞，人權的踐踏。

二、讓人類來操控武器是符合國際法的做法。《戰爭法》明確規定：“禁止在超出軍事意義範疇外過度的殺傷和破壞。”基於法律，人類可以根據過往經驗和道德考量，基於不同情況來做出判斷。這是自動化的武器所不具備的，自動化武器不可能通過程式設計來考慮所有不同狀況。若沒有人類來操控，造成的後果誰來負責？因此，這樣的武器不可能成為“理性的指揮官”。

所以，不管AI發展到什麼程度，人類必須得始終是後臺的控制者，這點也必將成為共識。這樣一想，瞬間提起的心即刻受到安撫，有木有？

原文釋出時間：2016-06-22 21:39

本文作者：劉惠

本文來自雲棲社群合作伙伴鎂客網，瞭解相關資訊可以關注鎂客網。