周志華等專家抗議見效，韓國KAIST稱不會參與致命AI武器研發

AI科技大本營發表於2018-04-18
AI

640?wx_fmt=jpeg&wxfrom=5&wx_lazy=1


作者 | 阿司匹林

出品 | AI科技大本營（公眾號ID：rgznai100）


近日，包括 Toby Walsh、周志華、Yoshua Bengio、Geoffrey Hinton 等在內的 50 多位人工智慧領域的專家發起聯名抗議，抵制韓國科學技術高階研究院 KAIST 開發“殺人機器人”。


昨日晚間，周志華教授在微博上表示，已經收到韓國科學技術高階研究院 KAIST 方面的回覆：


KAIST 校長 S-C Shin 給每位抗議專家寫信保證 KAIST 不會開展任何與人類尊嚴對立的研究。不會參與發展致命性自主武器系統。與H公司的合作將不涉及任何致命性自主武器系統的研製，成立的中心將致力於研發關於高效後勤系統、無人導航、飛行訓練系統的演算法，並保證對相關研究人員進行教育……


640?wx_fmt=png


而發起聯名抵制的 Toby Walsh 教授則已經表示，抵制行動已經發揮作用，“KAIST 作出兩大讓步：不會開發自動武器，以及保證有意義的人工控制”。至於是否取消抵制，需與其他簽署聯名信的科研人員共同決定。


我們梳理下此次事件的來龍去脈。


2 月 20 日，KAIST 開放了國防和人工智慧聯合研究中心，與國防公司韓華系統（Hanwha Systems）在開發自主武器上進行合作，校長 Sung-Chul Shin 當時表示“將為發展國防技術奠定堅實的基礎”。


根據該中心此前釋出在學校網站上的公告，他們將專注於研究“基於 AI 的指揮決策系統，基於 AI 的智慧飛機訓練系統，基於 AI 智慧目標跟蹤和識別技術，以及為大規模水下無人交通工具結合導航演算法”。


隨後 Toby Walsh 教授聯合Yoshua Bengio、Geoffrey Hinton、周志華等 50 多位 AI 領域有著廣泛影響力的專家發起抗議。


聽到抵制的訊息後，Sung-Chul Shin 發表宣告稱，他感到很難過，認為 KAIST 重視人權和道德標準，沒有任何意願參與開發致命的自主武器系統和殺人機器人。


當然，KAIST 並不是第一家因為將 AI 技術用於武器開發而遭到抵制的機構。


今年 3 月，Google 被爆出用 AI 技術幫助美國國防部分析其無人機拍攝的視訊片段，隨即便遭到了 3000 名員工聯名反對。


Google 在一份宣告中表示：“任何將機器學習技術用於軍事用途的做法都會自然引起人們的擔憂，我們鼓勵公司員工都參與到這個重要話題的討論中來。”該宣告還指出 Google 參與Project Maven 專案是“出於非侵犯性意圖”。


然而不管是 Google 還是 KAIST，都沒有在宣告中透露參與專案的具體工作內容。此外，Google 和 KAIST 也都沒有退出爭議專案的跡象。


與此同時，由 SpaceX 創始人馬斯克、Y Combinator 總裁阿爾特曼、天使投資人彼得·泰爾共同創立的人工智慧非營利組織 OpenAI 則作出了很好的表率。


針對近期一系列因 AI 的用途而引發的爭議，OpenAI 於今日釋出了《OpenAI 章程》（OpenAI Charter），稱其宗旨是建立安全而有益的通用人工智慧（AGI），造福全人類。


廣泛利益


  • 我們承諾，任何部署 AGI 帶來的影響都將確保其可以造福於所有人，並避免 AI 或 AGI 傷害人類，或者讓權力過度集中。

  • 我們的首要任務是對人類負責。我們預計需要調動大量資源來完成目標，但我們將堅持不懈，最大限度地減少因為員工和利益相關方之間利益衝突，造成對廣泛利益的損害。


長期安全


  • 我們致力於開展必要的研究，以確保 AGI 的安全性，並推動 AI 社群廣泛採用此類研究。

  • 我們擔心後期的 AGI 開發會成為一場沒有足夠時間進行充分安全預防的競賽。因此，如果一個有價值的、安全意識強的專案在我們之前就接近於構建 AGI ，我們承諾停止與之競爭並開始協助該專案。我們將根據具體情況制定具體協議，但一個典型的觸發條件可能是：“在未來兩年內取得成功的機會比任何時候都大”。


技術引領


  • 為了有效地應對 AGI 對社會的影響， OpenAI 必須處於 AI 能力的最前沿，而這單靠政策和安全宣傳是不夠的。

  • 我們相信 AI 將在 AGI 之前所產生的廣泛社會影響，我們將努力在那些與我們的使命和專業知識有直接聯絡的領域發揮領導作用。


合作導向


  • 積極與其他研究和政策機構合作；我們尋求建立一個全球性社群，共同應對 AGI 的全球挑戰。

  • 我們致力於提供公共產品，幫助社會走上 AGI 之路，這包括發表我們的大部分 AI 研究成果。但我們預計，出於對於安全和保障的擔憂，我們未來將減少傳統研究成果的釋出，同時增加安全、政策、標準相關的研究。


技術或許是無罪的，但是技術背後是價值觀是有傾向的。技術要如何造福全人類？OpenAI 的宗旨或許能給我們一些啟示。


參考連結：

https://blog.openai.com/openai-charter/



招聘

AI科技大本營現招聘AI記者和資深編譯，有意者請將簡歷投至：gulei@csdn.net，期待你的加入！


AI科技大本營讀者群（計算機視覺、機器學習、深度學習、NLP、Python、AI硬體、AI+金融、AI+PM方向）正在招募中，和你志同道合的小夥伴也在這裡！關注AI科技大本營微信公眾號，後臺回覆：讀者群，新增營長請務必備註姓名，研究方向。

640?wx_fmt=gif

640?wx_fmt=png

640?wx_fmt=png

640?wx_fmt=png

AI科技大本營公眾號ID：rgznai100640?wx_fmt=jpeg


☟☟☟點選 | 閱讀原文 | 檢視更多精彩內容

相關文章