人工智慧迫切需要一個“倫理轉向”

當前人工智慧的發展主要受益於以深度學習為代表的機器學習技術，這讓計算機可以從大量資料中自主學習與進化，從而作出比人類更高效、更精準、更廉價的預測與決策。正因如此，人工智慧作為新的通用型技術，被認為將給經濟和社會帶來變革性影響，已被各國上升到國家戰略和科技主權高度，成為不斷升溫的全球科技競爭的新焦點。

在應用層面，人工智慧已經滲透到各行各業，演算法幫我們過濾掉垃圾郵件，給我們推薦可能喜歡的歌曲，為我們翻譯不同的語言文字，替我們駕駛汽車。新冠肺炎疫情暴發以來，人工智慧在輔助醫療診斷與新藥研發等方面嶄露頭角，無人物流配送、無人駕駛汽車等新模式助力非接觸服務發展。總之，人工智慧潛力巨大，可以成為一股向善的力量，不僅帶來經濟增長，增進社會福祉，還能促進可持續發展。

但與此同時，人工智慧及其應用的負面影響與倫理問題也日益凸顯，呼籲人們在技術及其產業化之外更加關注倫理視域。例如，人工智慧模型訓練及其應用離不開大量資料的支援，可能導致違法違規或過度收集、使用使用者資料，加深人工智慧與資料隱私保護之間的緊張關係;人臉識別技術在一些場景的應用也引發了國內外對該技術侵犯個人隱私的爭議。人工智慧技術也可能被不法分子濫用，例如用來從事網路犯罪，生產、傳播假新聞，合成足以擾亂視聽的虛假影像等。

上海市靜安區市北高新企業AI體驗館。新華社發

隨著演算法歧視的不斷髮酵，人工智慧參與決策的公平性問題也備受關注。有研究發現，很多商業化的人臉識別系統都存在種族、性別等偏見，這樣的技術用於自動駕駛汽車，就可能導致黑人等深色皮膚的人更容易被自動駕駛汽車撞到。人工智慧在招聘、廣告投放、信貸、保險、醫療、教育、司法審判、犯罪量刑、公共服務等諸多方面的應用也伴隨公平性爭議。此外，人工智慧的智慧財產權保護問題也日益浮現，目前人工智慧已能夠獨立創造詩歌、小說、圖片、影片等，智慧財產權制度將需要儘快回應人工智慧創造物的保護問題。自動駕駛汽車、AI醫療產品等人工智慧應用一旦發生事故，也面臨誰來擔責的難題。最後，人工智慧的應用可能取代部分手工的、重複性的勞動，給勞動者就業帶來一定衝擊。

2020年被認為是人工智慧監管元年，美歐採取的監管路徑大相徑庭。歐盟《人工智慧白皮書》提出的“重監管”模式更多倚重事前的規制，考慮為技術開發與應用設定嚴苛條件;美國《人工智慧應用監管指南》提出的“輕監管”模式更多倚重標準、指南等彈性手段，考慮為人工智慧應用設定避風港、“監管沙箱”等。在全球科技競爭日趨激烈、數字經濟日趨成為國家核心競爭力等背景下，考慮到我國科技行業發展實際，我國對人工智慧需要創新治理，倚重敏捷監管、倫理治理、技術治理等多元手段來共同確保人工智慧正向應用與向善發展。

首先，監管不僅需要對人工智慧應用分級分類、以問題和風險防範為導向，而且需要具有敏捷性與適應性。人工智慧技術的一個核心特徵是快速發展迭代，制定強制性法律必然趕不上技術發展步伐，所以國外大都採取出#臺指南、倫理框架等“軟法”。此外，自動駕駛汽車、智慧醫療等人工智慧應用的發展落地仍面臨較多法規政策障礙，需要考慮修訂阻礙性的法律法規，同時透過“數字沙箱”“安全港”“試點”等方式推動其試驗與應用落地。

其次，採取倫理治理，把倫理原則轉化為倫理實踐。目前，國內外很多科技公司都出#臺了人工智慧倫理原則，也在透過倫理審查委員會、倫理嵌入等方式落實其倫理原則。行業的這些倫理治理措施已在國內外獲得較大共識，更能適應AI技術發展。

再次，以技術手段防範人工智慧濫用。例如，深度合成作為一項人工智慧應用，在影視製作、教育、醫療、娛樂等領域具有很大正向應用價值，但也可能被不法分子濫用來製造、傳播虛假影像以從事欺詐欺騙活動。對此，行業內已在積極研發、部署內容鑑別與溯源技術，以對抗深度合成的濫用。面對複雜性與迭代速度不斷增強的人工智慧應用，技術治理將發揮越來越大的作用。