深度：AI隱患重重？人工智慧之初應當性本善

https://mp.weixin.qq.com/s/tEvI-2KTuZZd3GMuUzXoSA

當下，人工智慧正在以革命的形式橫掃科技圈。智慧音響、AlphaGo、無人駕駛、NLP……世界發生了深刻的變化，我們可以時刻感受到科技帶來的便利與樂趣。如同電力、蒸汽改變人類世界一樣，人工智慧也逐漸滲透進了我們的毛細血管當中。

在阿里巴巴、谷歌等國內外科技巨頭的引領下，國內有諸如曠視科技、極鏈科技Video++、依圖科技等聚焦於人工智慧垂直領域的初創企業蓬勃發展。但與此同時，人工智慧帶來的安全隱患與道德爭議，也讓各界對AI治理更加重視。新興技術的商業化之路，如果方向不穩，終將是空中樓閣，AI的發展之路，需要建立在“以人為本”的初心上。

來自科學和社會的雙重警告

人工智慧發展帶來的安全隱患與道德爭議，包括資料洩露、演算法偏見、AI技術被濫用、安全隱患、法規不完善等問題。例如AI技術被濫用引發安全威脅。智慧化網路攻擊軟體具備一定的自我學習能力，可模仿系統中的使用者行為，並不斷改變方法，以實現長時間停留在計算機系統中的目的，駭客則可以透過人工智慧發起網路攻擊，引發安全威脅。例如不法分子利用人工智慧電視的各種安全隱患進行：遠端控制電視，遠端安裝惡意軟體，遠端監控家庭等，造成使用者隱私洩露或財產損失。

近來，AI換臉技術應用於明星影視劇中引起熱議，人臉識別技術已經得到普遍應用，諸如上班打卡、刷臉購物、支付、手機解鎖、抓交通違章等場景，擁有大量的使用者群體。假如有人利用AI 換臉技術在這些領域弄虛作假，人臉識別又無法辨識真偽的話，那麼個人隱私資訊、財產等都會被盜，後果難以想象。

隱私問題是資料資源開發利用中的主要威脅之一，智慧系統掌握了個人的大量資訊，這些資料如果使用得當，可以提升人類的生活質量，但如果出於商業目的非法使用某些私人資訊，就會造成資料洩露、隱私侵犯。去年，科技部公佈了6張行政罰單，其中涉及基因隱私問題，公眾對於基因隱私的擔憂愈加嚴重。雖然國內正在推進電子病歷等醫療大資料的科研應用，但仍存在資料使用的安全規範和法律保障不夠等問題。

其三，目前的人工智慧系統目前還不夠成熟，技術缺陷導致工作異常，可能出現安全隱患。例如機器人、無人智慧系統的設計或生產不當會導致執行異常，近年來已有多起安全事故發生，Waymo無人駕駛汽車事故、Uber無人駕駛汽車撞死了行人、特斯拉車禍等讓大家對無人駕駛的安全性打上了問號。AI醫療領域，在影像診斷等領域以實用化為目標的開發正不斷推進。如果配備疾病識別AI的醫療裝置投入使用，有望透過AI分析大量的醫療影像，從而更易發現病變部位。

而倫理問題可能是人工智慧技術帶給人們最為特殊的問題，未來人工智慧不僅具有感知、認知和決策能力，還會形成不同個性，在決策中可能會遵循與人類不同的邏輯，造成嚴重後果，對社會文明產生不良影響。

人工智慧治理的未來規劃

人工智慧的影響普及全球，然而目前還沒有任何實質的政策或措施去制定能使人工智慧的潛力最大化並管理其風險的治理機制。這並不是因為政府認為人工智慧的治理不重要，而是因為這需要政策制定者、企業和使用者等所有利益相關者一起去開啟“潘多拉”魔盒，去討論所有可能涉及到的問題。

人工智慧的基石是資料，政府和企業在實際應用中所收集的資料如若被不當地處理或操縱，則會引發比以往資料隱私醜聞更大的風險，以及政府和企業尚未內化的聲譽風險。因此，要防止大資料和人工智慧的濫用和失控，應該從意識形態開始建立科學的資料價值觀體系。

除了從技術安全形度研究確保AI安全的可行技術方法和手段外，還需要從倫理層面為AI安全提供引導和約束，以確保“AI向善”。倫理規範需要在公司、行業、國家層面就人工智慧倫理原則和框架達成共識並落實到人工智慧研發應用中，因為在技術加速、法律滯後的趨勢下，需要更多依靠倫理規則來發揮事前的引導和規範作用，來確保AI向善。

同時，社會也亟待法律規範的制定，從具體的行業出發對自動駕駛、無人機、醫療診斷、機器人等具體的人工智慧應用進行監管，以實現鼓勵創新與保障安全的平衡。國際標準、規則的制定可以確保人工智慧的研發應用符合倫理、國際法等共同性要求。

未來已來，普惠全民

未來的人工智慧會發展怎樣已有跡可循，而構建一個開放的人工智慧生態系統，確保技術進步造福人類更是我們應該關注的。當下的中國正進入新技術帶來的全球大變局，政府、科技公司、學術機構和使用者等所有利益相關者應該聯合起來，堅持以未來共同體的心態，建立積極的生態規則。

科技的進步帶來的是社會生活方式的重塑，普羅大眾都能平等地享受科學技術帶來的便利與可能。在這個機會與挑戰並存的時代，讓我們以負責任的態度開啟智慧美好生活。