專家：目前的弱人工智慧可能具備“自我意識”的覺醒

曾經在科幻電影中才能看到的炫酷片段已經在生活中得以實現，種種“黑科技”被廣泛應用，人工智慧的發展深刻地影響著社會生活。

智慧機器人自信地“走上”舞臺擔綱主持；無人車在測試道路上完成一系列動作，司機卻穩坐千里之外；智慧電話機器人幫助企業開山闢路；智慧健康“魔鏡”能實時顯示測試者“睡眠”“情緒”“皮膚”，等一系列健康指標係數……

但同時，隨著人工智慧技術應用越來越廣泛，人工智慧“脆弱面”也逐漸暴露，機器人“自我意識”、技術濫用等安全漏洞引起業界更多關注。專家表示，要加強對潛在風險的研判和防範，確保人工智慧各項技術安全、可靠、可控。

催生新攻擊方式

當今，世界各國紛紛佈局人工智慧，國際競爭日趨激烈。然而，人工智慧的快速發展也使得網路安全的風險點和攻擊方式出現新變化，進而引發更深層次的網路安全風險。

2018年4月，歐盟委員會計劃2018年至2020年在人工智慧領域投資240億美元。2018年5月，法國發布《法國人工智慧戰略》，目的是使法國成為人工智慧強國。2018年6月，日本《未來投資戰略》重點推動物聯網建設和人工智慧的應用。

對於人工智慧，我國同樣高度重視。2017年，政府先後釋出了《新一代人工智慧發展規劃》和《促進新一代人工智慧產業發展三年行動計劃（2018—2020年）》。

北京郵電大學教授李小勇表示，我國是受到網路攻擊最嚴重的國家之一，也是遭受物聯網攻擊最嚴重的國家之一，網路攻擊手段和攻擊形式越來越多。從行業來看，經濟、教育、政府等部門成為攻擊的主要目標。

360公司董事長兼CEO周鴻禕說，網路攻擊每天都在發生。目前網路駭客的攻擊目標非常明確，就是能源、交通等基礎設施，因為這樣產生的影響是最大的。未來在萬物互聯的情況下，每個集裝箱、每輛卡車，甚至城市裡的每個井蓋都實現互聯，虛擬層面的攻擊可能引發物理空間的損害。

事實上，劫持智慧裝置已經成為網路攻擊的重要手段。網路安全專家表示，許多無人值守系統運用人工智慧技術，一旦遭網路劫持，將帶來嚴重的安全問題。騷擾電話層出不窮，資料洩露影響電話機器人好不好用的問題，傷害行業內部市場。例如，智慧汽車可與車廠伺服器連線，透過手機遠端控制，車主需要定期更新軟體保證汽車的駕駛模式，如此一來就可能被網路劫持，特別是在智慧企業行業還不夠成熟的時代。

天津大學法學院院長孫佑海稱，網路攻擊者可透過漏洞控制人工智慧演算法，實現物理硬體操縱、實施輿論引導、製造虛假影像或影響、製造資訊噪音等，造成安全隱患。

此外，影像、聲音合成滋生新的風險。國家網際網路應急中心的相關專家稱，隨著技術的發展，現在的合成影像、語音越來越逼真。如果把該技術用於網路詐騙，虛構人臉和語音，是非常可怕的事情。

暴露安全軟肋

由於人工智慧技術依託的演算法、大資料等可以很低的成本進行復制和擴散，其傳播渠道廣，監管難度大，封控機率低。

目前，人工智慧技術正由“弱人工智慧”向“強人工智慧”階段躍進，能夠依據其所掌握的演算法、資料，在短時間內快速突破人類傳承多年的經驗積累。

2017年，美國社交媒體平臺臉書公司實驗室中的兩個人工智慧機器人使用機器學習相互對話，並不斷進行對話策略迭代升級，逐漸發展出了一種機器之間能理解但人類無法理解的語言。

“事實表明，人工智慧透過演算法和大資料進行深度學習，不排除演化出‘自我意識’的可能，輔助甚至代替人類做出分析和決策，這易於發生反噬風險。”

孫佑海說：當前，人工智慧研究高度開放附帶原始碼的海量論文可免費下載，即便編寫一種折型演算法的時間成本也只需幾天，人工智慧技術的濫用風險激增。此外，人工智慧既有多學科綜合、高度複雜等特性，帶有天然的技術壁壘，給監管部門的監督管理和風險防範提出了不小的挑戰。

除技術發展外，人工智慧帶來的社會影響不容小覷。透過特定演算法全方位瞭解使用者偏好和需求，為消費者“量身定製”的“精準推送”正成為商家引導消費的新途徑。

近年來，北京、上海、重慶、濟南等地的商圈開始試水“智慧商圈”模式，可以根據顧客的特徵更精準地推送優惠券商品資訊，讓使用者更有消費動力。比如，給年輕的未婚白領女性推送化妝品和奢侈品的品牌商券；給媽媽們推薦嬰兒用品店；給男性推送運動品牌門店活動，等等。

“智慧商圈”帶來生活便捷卻容易引發“資訊騷擾”問題。消費者的一個簡單操作就有可能暴露想要購買某件商品的想法，後續會不斷收到同類商品的廣告宣傳，產生困擾。長此以往，商場導購等從事決策分析、藝術創作等工作也有被機器人取代的可能，人工智慧技術的日臻成熟將打碎傳統職業群體的“飯碗”，進而引發新產業革命和經濟結構調整，形成“去勞動力”傾向，最終產生失業風險。

不僅如此，人工智慧產生的道德倫理隱憂不斷。有專家表示，人工智慧設計者的價值導向和行為偏好易於被有意或無意地反映到演算法、資料當中，並透過機器學習被人工智慧所承繼，進而演進為演算法歧視。而在具體適用過程中，容易受到對抗樣本的干擾或汙染，被應用者二次形塑，做出背離設計初衷的錯誤決策。

2016年3月，美國微軟公司釋出了名為Tay的最新版本人工智慧機器人。然而，上線不到24小時，Tay就“學壞”了：出言不遜、髒話不斷，言語甚至涉及種族主義、、納粹，充滿歧視、仇恨和偏見。微軟只得不停刪除Tay的不當言論，進行下線調整。

用好“雙刃劍”

專家表示，在人工智慧飛速發展的時代，安全問題日益凸顯，需要我們加強對潛在風險的研判和防範，切實維護好人民利益和國家安全，確保人工智慧安全可靠、可控。

南開大學周恩來政府管理學院教授吳曉林認為，數字化、網路化、智慧化已經是時代的主題，智慧讓生活變得更美好，但安全問題無處不在、無時不在。網際網路下半場是工業網際網路，以後國家的基礎設施安全、工業網際網路安全非常關鍵，還是要把人工智慧的雙刃劍用好，趨利避害，讓科技的智慧與人類的智慧並存、和諧。

在網路安全防護上，應加強技術研究，建立有效安全防護，抵禦網路攻擊。專家建議，可以建立主動免疫的計算架構，對計算進行安全防護，使計算全程可測可控，不被干擾。利用人工智慧應對網路攻擊，“免疫系統”中不管哪個系統受到攻擊，都有統一的人工智慧系統發出指令，採取相應措施。

在法治建設保障上，中國法學會副會長兼秘書長張鳴起建議高度重視立法工作，適時安排宏觀立法，人工智慧的發展離不開一部反映時代需求的《人工智慧法》以及配套法規組成的法律法規體系。

孫佑海建議，有關部門優先對無人機的管理、自動駕駛、影像識別相對成熟的技術應用制定法律規章，以剛性的法規條款引領秩序。

同時，要進一步健全精準務實的政策支撐體系，構建政策叢集。孫佑海說，要進一步升級全流程的安全防控體系，並制定行業安全標準，做好應急防範的預案，加大重點領域的防控，加大對程式碼資料、演算法等重點領域的綜合管控力度，保障技術安全、產品安全、資料安全和應用安全。

針對新一代人工智慧可能引發的結構性失業等風險，吳曉林建議，由勞動部門牽頭加強與人工智慧產業需求配套的在職培訓和再就業培訓體系，打好勞動力轉型的主動仗。