哈佛大學肯尼迪政治學院貝爾弗科學與國際事務中心7月釋出《人工智慧與國家安全》報告，分析人工智慧（AI）對美國家安全的巨大影響，為美政府AI政策提供建議。
報告概要：
雖然美國軍事和情報界計劃在投資組合中納入更多人工智慧技術，但最具顛覆性的AI應用尚未實現。報告提出了制定人工智慧和國家安全未來政策的三個目標：
- 保持美國技術領先優勢，為軍事和情報能力優勢提供砝碼。
- 支援AI用於和平和商業用途，幫助民事和商業部門享受新技術帶來的好處。
- 減少災難性風險，防範或降低偶發/敵對事件帶來的嚴重後果。
重點內容：
- AI技術發展迅猛
人工智慧領域在過去5年取得了顯著的技術進步，遠遠超出預期；這種形勢還將會繼續發展，甚至會進一步提速。推動AI快速發展的4個因素是：計算機效能在近幾十年呈指數級增長、訓練機器學習的大型資料集數量增加、機器學習技術不斷進步、商業投資猛增。其中機器學習子領域的發展是主因。
- AI技術是給國家安全帶來深刻變化的顛覆性技術
現有的AI技術能力在國家安全方面擁有巨大潛力，如機器學習技術可使衛星影像分析和網路防禦等勞動密集型活動實現高度自動化。未來的AI技術有可能與核武器、飛機、計算機和生物技術一樣，成為給國家安全帶來深刻變化的顛覆性技術。AI的每一種技術都為美國國家安全機構的戰略、組織、優先事項和資源分配帶來重大變革，其未來影響力至少可與核武器比肩。
- AI技術對國家安全的具體影響
在軍事方面，AI的發展將產生新的能力，並使現有能力成本被更廣泛的行為體所接受，AI催生的商業可用技術（如遠端無人機包裹運送等）可能會使弱國和非國家行為體獲得遠端精準打擊能力。在網路領域，目前需要大量高技能勞動力的活動（如先進持續性威脅行動等）未來可能會實現高度自動化，並在黑市上廣泛出售。在資訊優勢方面，AI將大幅提升資料收集、分析以及建立資料的能力。在情報行動中，意味著有越來越多的資訊源可供分辨真相；相應的，製造偽情報也變得更加便利。但同時，藉助AI技術，偽造音視訊媒體的質量迅速提升，同時成本迅速下降。在經濟方面，AI的發展可能會帶來一次新的產業革命，將重新塑造世界經濟中的勞資關係。
- 變革性技術案例帶來的經驗
該機構分析了之前的核、航空航天、網路和生物技術4個變革性軍事技術案例，從中提取出以下幾條可用的經驗和教訓：激進的技術變革催生全新的政府政策及思想，世界各國政府將考慮甚至部分國家將採取相當激進的政策措施；AI在戰爭和間諜活動上的擴充套件應用是不可避免的，但必須設立更加溫和的目標，對AI技術進行安全有效的管理；必須認識到AI技術固有的軍民兩用性，對突破性技術進行保密和保護，擴充套件民用顛覆性技術的分類和認證流程，限制商業公司向海外出售技術；應考慮成立正式的研發管理機構；應考慮確立AI軍事情報應用的技術投資組合，建立長久的技術優勢。
報告建議：
報告對美國政府有關AI技術的國家安全政策提出3專案標和11項建議。
- 維持美國的技術領先優勢
國防部應開展以AI為核心的軍事演習，以甄別潛在的顛覆性軍事創新；國防部應資助以人工智慧技術及影響為主題的各種長期戰略分析；國防部應優先考慮能夠提供可持續優勢並降低核心風險的AI研發投資領域；美國防情報界應大力投資“反AI”的進攻和防禦能力。
- 支援AI技術用於和平目的
DARPA、IARPA、海軍研究辦公室和國家科學基金會應增加與AI相關的基礎研究經費；國防部應釋出關於AI軍民兩用能力的資訊徵詢書；向美國In-Q-Tel公司（專門服務於中央情報局）提供更多資源，促進國家安全機構和AI商業公司的合作。
- 管理災難性風險
國家安全委員會和國務院需研究美國應利用條約的形式限制哪些AI應用；國防和情報部門應設立專門的AI安全機構；DARPA應為AI系統自動防故障和安全執行技術研究提供資金；國家標準與技術研究院和國家安全域性應探索防AI造假技術方案。
PDF版本將分享到199IT交流群，199IT感謝您的支援！
