安防AI倫理困境何解？歐盟釋出道德準則

https://www.toutiao.com/a6678153135174713869/

現在各行各業都在向AI靠攏，但若論在哪個行業AI發展的會更快、更具有潛力，非安防莫屬。以智慧監控系統為代表的AI安防產品已經覆蓋到眾多應用領域，AI技術的應用讓安防行業嚐到了甜頭。如今，無論是公共安全領域、智慧交通、智慧城市、智慧樓宇、工廠園區，乃至物流運輸、電力巡檢等都少不了AI安防產品的身影。

不過，AI技術被安防行業採納不僅是為了更有效地完成當前業務，這是一個多方面的過程，更重要的是，AI還需要不斷重新評估這些實踐結果，以適應客戶不斷變化的需求。另外，AI技術固然能在擴大監控規模的前提下能夠有效收集情報並充分分析，及時阻止安全事件發生，也有可能產生一些倫理道德問題。

目前，從很多案例可以看出，有些AI做判斷時存在歧視。例如，美國AI會更偏向中年白人，而預測違法時往往會把黑人和黑人集中區域當做重點預測物件。我國也有根據一個人臉部特徵與行為舉止來判斷此人是否具有社會威脅性並提醒警方先發制人的AI系統。人類的偏見被機器學習並吸收，這是AI發展所面臨的一種道德危機。這些表現無疑會使AI受到大量道德譴責。

此外，個人隱私與資料保護、AI系統對外部攻擊的防禦能力、以及演算法透明度等問題也越來越成為AI安防亟需突破的重點問題。

毫無疑問，AI的確需要監管，但現在我們還不清楚如何對其進行監管。歐盟(EU)近日釋出了一套指南，指導企業和政府在開發人工智慧時遵循道德準則，旨在解決AI帶來的棘手問題。該指南認為，未來AI系統應該滿足下列7項要求：人道機構的監督、技術穩健性和安全性、隱私和資料治理、演算法透明度、多元化非歧視和公平性、環境和社會福利以及完善的問責制。這份清單為減輕AI的潛在危害提供了一個實用且具前瞻性的視角。

數字權利組織Access Now的政策經理範妮·希德維吉認為：歐盟不應止步於道德準則，因為道德準則只有在法律基礎上才能發揮更大作用。但是由道德走向法律，必須非常審慎。在此之前，還需要AI技術進一步發展並更廣泛且深入地應用。

結語： 對影響日益擴大乃至滲透人們生活各個方面的AI安防而言，為了使系統發揮應有的作用，加強監視和構建倫理之間必須有一個可以被社會廣泛接受的平衡。如果在採用人工智慧技術的過程中包含了日後資料收集訓練的方向，那麼可能會減少假警報的風險，也可以在AI驅動的決策中充分體現其公平性，儘量減少其可能對社會產生的負面影響。

來自 “ ITPUB部落格 ” ，連結：http://blog.itpub.net/29829936/viewspace-2641027/，如需轉載，請註明出處，否則將追究法律責任。