當人工智慧發展到一定程度時，或許將改變我們所處的世界，甚至有人認為“終結者”式的殺人機器人或可能滅絕人類。 近日谷歌及牛津大學人類未來研究所(Future of Humanity Institute)的研究人員發表了一篇題為“Safely Interruptible Agents” 論文，提出通過建立一個可以使人工演算法喪失能力或暫停工作的邏輯框架。
這篇論文詳細介紹瞭如何確保人工智慧不會學習或尋求抵制由人類控制的這種中斷行為。研究人員在論文中介紹如何使用上述技術及不同指令來確保AI無法找到阻止這個外部中斷的方法。
近日，世界上很多著名的哲學家和高科技創業者都擔心人工智慧最終會擺脫人類控制，甚至威脅到人類自身。特斯拉及Space X CEO馬斯克昨天在當談到人工智慧時表示，人類極有可能淪為機器人的“寵物”。馬斯克近日也向未來生命研究所(Future of Life Institute)捐贈1100萬美元,用於“限制智慧化”的研究。