OpenAI等機構聯合釋出《人工智慧惡意使用》報告

OpenAI、牛津大學、劍橋大學等14家機構和高校聯合釋出《人工智慧惡意使用：預測、預防和緩解》，調查了惡意應用人工智慧技術會造成的潛在威脅，以及預測、預防和減少這些威脅的方法。

牛津大學召開了一次為期兩天的研討會。來自人工智慧、無人機、網路安全、自主武器系統、反恐等領域的眾多專家共同探究了伴隨著人工智慧的發展可能帶來的安全問題。時過一年，OpenAI、牛津大學、劍橋大學等14家機構和高校於2018年2月底聯合釋出《人工智慧惡意使用：預測、預防和緩解》，該報告指出人工智慧和機器學習技術正以前所未有的速度發展，這些技術在機器翻譯、醫學影像處理等領域有著廣泛的應用前景，在未來很長一段時間內，基於這些技術所開發出的應用程式也會越來越多。然而，很少有人會注意到這些技術會被惡意使用。研究人員調查了惡意應用人工智慧技術會造成的潛在威脅，以及預測、預防和減少這些威脅的方法，同時，還展示瞭如果防禦不當的話可能會遭受到的攻擊。

1 威脅變化

隨著人工智慧技術變得越強大，應用範圍越來越廣泛，報告指出人工智慧技術可能造成的威脅變化包括：

（1）現有威脅範圍會擴大

隨著AI技術越來越多的應用於依賴人力、智力和專業知識的領域，攻擊的成本也會變得越來越低，從而會產生更多的攻擊者，攻擊的速度和潛在攻擊目標的數量也會提升。

（2）產生新的威脅

AI技術可能會完成人類黑客無法完成的攻擊任務，此外，AI更容易發現和利用安全維護人員所部署的AI系統的漏洞進行新的攻擊。

（3）安全威脅的典型特徵會發生改變

隨著AI技術的使用越來越頻繁，AI攻擊會變得越來越高效、攻擊目標會越來越明確，攻擊屬性會越來越難以確定。這將在很大程度上改變傳統網路安全的典型特徵。

2 特定領域分析

該報告還分析了三個領域所面臨的威脅，並通過例項給予展示：

（1）數字安全領域

傳統網路攻擊的規模和效率往往呈現此消彼長的態勢，但使用人工智慧自動執行網路攻擊將會實現攻擊規模與效率的平衡，這可能會擴大勞動密集型網路攻擊（如魚叉式釣魚攻擊）的規模。新型的攻擊還有可能利用人類弱點（如使用語音合成冒充人類）、現有軟體漏洞（如通過自動黑客攻擊）或AI系統的漏洞（如對抗性例項和資料中毒）等。

（2）物理安全領域

使用人工智慧自動執行與無人機和其他物理系統（如自主武器系統的部署）攻擊有關的任務可能會增加與這些攻擊相關的威脅。新型的攻擊可能會破壞網路物理系統（如造成自動駕駛系統的崩潰）或者造成遠端控制系統失靈（如影響無人機系統）。

（3）政治安全領域

使用人工智慧自動執行監視任務（如資料的分析）、宣傳任務（如針對性的宣傳）以及欺騙任務（如操縱視訊）可能會擴大與隱私侵入和社交操縱有關的威脅。新型的攻擊可能會通過大量收集的資料分析公民的行為、情感和信仰，這些將會對專制國家帶來很大的威脅，但不可否認也將威脅民主國家（例如能否維持公開辯論的真實性）。

3 高階建議和干預措施

為了應對不斷變化的威脅情況，該報告提出了四項高階建議：

（1）政府相關負責人應該與技術研究人員密切合作，調查、預防和減少人工智慧潛在的惡意用途。（2）人工智慧領域的研究人員需要重視他們研究內容的雙重實用性所產生的積極或消極影響，在研究過程中時刻留意研究成果被錯誤使用的可能性，同時在預見到研究成果將會產生有害作用是主動與相關人員合作解決。（3）由於人工智慧技術的雙重實用性，在進行相關研究時應該採用更加成熟的技術手段，例如借鑑網路安全防護領域的成熟地方法。（4）聯合更多的業界相關人員和領域專家，共同討論面對這些挑戰的解決措施。

更多幹預措施建議包括：

（1）學習網路安全領域相關經驗：由於網路安全和人工智慧攻擊存在交集，需要研究並嘗試使用形式驗證方式、公開人工智慧漏洞、安全工具和硬體等。（2）探索不同的開放模式：由於人工智慧和機器學習技術的雙重實用性變得越來越明顯，圍繞開放性研究重新設定規範制度變得越來越重要。在重要技術釋出之前需要進行嚴格的風險評估，並採用有利於安全保障的中心准入制度和共享模式。（3）形成責任文化：人工智慧研究人員和其僱傭單位在塑造人工智慧世界的安全環境方面處於獨特的地位。因此需要強調教育、道德和標準約束的重要性。（4）制定技術和政策解決方案：一些有前景的技術和政策干預措施有助於建立更安全的未來人工智慧環境。這些更高階的領域包括隱私保護、人工智慧在公共安全領域的應用、人工智慧資源的監控以及立法和監管政策等。