讀人工智慧時代與人類未來筆記13_網路武器

1. 軍備控制

1.1. 威懾的目的是透過威脅發動核戰爭來防止核戰爭

1.2. 軍備控制的目的是透過限制甚至廢除武器（或武器類別）本身來防止核戰爭

1.2.1. 與核不擴散相配合，以一整套詳盡的條約、技術保障措施、監管和其他控制機制為支撐，所提出的理念是防止核武器及其製造所需的知識和技術擴散到擁核國家以外

1.2.2. 20世紀70年代的《限制戰略武器條約》和《反彈道導彈條約》，以及最終於1991年簽署的《削減戰略武器條約》(START)

1.2.3. 儘管仍然是對手，並繼續為戰略優勢而競爭，但美蘇兩國都在軍備控制談判中獲得了一定程度的確定性

1.3. 在後冷戰時代發明的網路和人工智慧這兩種主要新武器類別，也沒有用這兩種策略加以認真限制

1.4. 核武器給決策者帶來了兩個相關的難題：如何定義優勢以及如何限制劣勢

1.4.1. 自己只需要一個足以造成破壞而不是取得勝利的核武庫，就可以阻止他國對自己的攻擊

1.4.2. “不使用核武器”並非一項永久的成果，而是每一代領導人必須確保的一種狀態，他們必須不斷調整本國最具破壞性武器的部署和打擊能力，以適應這項以前所未有的速度發展的技術

1.5. 複雜局面

1.5.1. 網路衝突，它放大了脆弱性，擴大了戰略競賽的領域，增加了參與者的選擇

1.5.2. 人工智慧，它具有改變常規武器、核武器和網路武器戰略的能力

1.5.3. 新技術的出現加劇了核武器面臨的困境

2. 數字時代的衝突

2.1. 一個國家的政治影響力往往與其軍事力量和戰略能力大致匹配，這是一種即使主要透過施加隱性威脅也會對其他社會造成破壞的能力

2.2. 依賴於各方就這一力量的構成要素及其使用的合法界限達成共識

2.3. 維持均勢需要體系內所有成員，尤其是對手，就各個國家的相對能力、意圖和侵略的後果進行一致的評估

2.4. 保持均勢需要一個實際的、公認的平衡

2.5. 當體系中的一方以一種與其他成員並不成比例的方式增加自身力量時，體系將透過組織對抗力量或者透過適應新的現實來設法做出調整

2.5.1. 當均勢的權衡變得不確定時，或者當各國對各自相對實力的權衡結果完全不同時，由誤算引發衝突的風險就會達到最大

2.6. 不同的觀察者將形式各異的網路入侵、線上宣傳和資訊戰稱為“網路戰”“網路攻擊”，一些評論還稱之為“戰爭行為”

2.7. 各大國現在正陷入一種網路衝突，儘管這種衝突的性質和範圍沒有現成的定義

2.8. 數字時代的一個核心悖論是：一個社會的數字能力越強，這個社會就變得越脆弱

2.8.1. 計算機、通訊系統、金融市場、大學、醫院、航空公司和公共交通系統，甚至民主政治的機制，所涉及的系統在不同程度上都容易受到網路操縱或攻擊

2.8.2. 隨著發達經濟體將數字指揮和控制系統整合到發電廠和電網中，將政府專案轉移到大型伺服器和雲系統中，並將資料轉謄到電子賬簿中，它們在網路攻擊面前的脆弱性也成倍增加

2.8.3. 如果發生數字破壞的情況，低技術國家、恐怖組織甚至個人攻擊者可能會認為他們承受的損失相對要小得多

3. 網路武器

3.1. 這類武器涉及軍用和民用兩個領域，因此其作為武器的地位是模糊的

3.1.1. 在傳統戰場上顛撲不破的道理卻不能直接套用到網路領域

3.2. 網路武器的效用很大一部分來自其不透明性

3.2.1. 若被公之於眾，它們的威力自然有所減損

3.2.2. 這些武器利用之前未曾披露的軟體漏洞，在未經授權使用者許可或知情的情況下侵入網路或系統

3.2.3. 最著名的網路工業破壞事件震網(Stuxnet)病毒破壞了伊朗核專案中的製造控制計算機，也沒有任何政府對此事做過正式承認

3.3. 在許多情況下，網路武器影響的是大範圍的人類社會，而不僅僅是戰場上的特定目標

3.3.1. 網路武器可以廣泛地影響計算和通訊系統，往往可對民用系統造成特別有力的打擊

3.3.2. 網路武器也可以被其他行為體基於其他目的而進行吸納、修改和重新部署

3.3.3. 這使得網路武器在某些方面類似於生物和化學武器，其影響可以非預期和未知的方式傳播

3.3.4. 使得網路軍備控制難以被概念化或被推行

3.4. 網路軍備控制談判人員（目前尚不存在）則需要解決以下悖論：一旦對網路武器的威力進行討論，可能就會導致這種威力的喪失（允許對手修補漏洞）或擴散（對手得以複製程式碼或侵入方法）

3.5. 網路能力和網路行動的相對低成本，以及一些網路行動可能具備的相對可否認性，將會鼓勵一些國家使用半自主行為體來執行這些網路功能

3.5.1. 半自主團體可能難以控制，並可能在未經官方批准的情況下從事挑釁活動

3.6. 網路領域中行為的快速性和不可預測性，及其所包含的各種行為體之間錯綜複雜的關係，再加上可以削弱一個國家絕大部分網路能力，以及攪亂該國國內政治格局（即使這些活動不會升級到傳統的武裝衝突水平）的洩密者和破壞者的存在，都可能誘使決策者採取先發制人的行動，以防止自己遭受致命打擊

3.7. 網路領域行為的速度和模糊性有利於進攻方，並鼓勵產生“積極防禦”和“向前防禦”之類尋求擾亂和排除攻擊的概念

3.7.1. 最有效的攻擊往往是未達到武裝衝突傳統定義門檻的攻擊（通常未得到立即承認或正式承認）

3.7.2. 無論是政府的還是非政府的，沒有任何一個主要的網路行為體公開自己全部的能力或活動，甚至在為了威懾阻止其他人的行動時也未曾有過

4. 常規武器和核武器

4.1. 常規武器和核武器存在於物理空間中，在那裡，它們的部署可以被察覺，它們的能力至少可以被粗略計算出來

4.2. 常規武器和核武器可以相對精確地瞄準目標，道德和法律要求它們瞄準的物件只能是軍事力量和設施

5. ARTUμ

5.1. 在飛行測試中駕駛飛機並操作雷達系統

5.2. ARTUμ的開發人員將其設計為可以在沒有人類干預的情況下做出“最後抉擇”，其能力限於駕駛飛機和操作雷達系統

6. 人工智慧與安全領域的動盪

6.1. 核武器的破壞性和網路武器的神秘性，正日益與一種更新的能力相結合，也就是基於人工智慧原理所實現的能力

6.2. 將非人類邏輯引入軍事系統和過程會給戰略帶來改變

6.2.1. 透過與人工智慧共同培訓或與之合作，軍隊和安全部門獲得的洞察力和影響力提升會令人驚訝，有時也令人不安

6.3. 除了潛在的變革效用，人工智慧的自主和獨立邏輯能力還產生了一定程度的不可預料性

6.3.1. 大多數傳統的軍事戰略和戰術是以對人類對手的假設為基礎的，即假設對手的行為和決策計算符合某種可識別的框架，或者可由經驗和傳統智慧界定

6.3.2. 駕駛飛機或用雷達掃描目標的人工智慧遵循的是自己的邏輯，這對對手來說可能就不可捉摸，也不受傳統訊號和佯攻的影響，而且在大多數情況下，這種邏輯的執行速度將快於人類的思維速度

6.4. 戰爭一直是一個充滿不確定性和偶然性的領域，但人工智慧進入這個領域將為其帶來新的變數

6.4.1. 在傳統的衝突中，對手的心理是戰略行動瞄準的關鍵點

6.4.2. 演算法只知道它的指令和目標，卻不知士氣或懷疑為何物

6.4.3. 由於人工智慧具有適應其所遇現象的潛力，當兩個人工智慧武器系統被用於彼此對抗時，交戰雙方都不可能準確理解人工智慧間的互動將產生的結果或其附帶影響

6.4.3.1. 他們可能只能不甚嚴密地辨別對方的能力和捲入衝突的代價

6.5. 即使有人工智慧輔助，強大的防禦也是安全的先決條件

6.5.1. 新技術的普遍性使人們無法單方面放棄它

6.5.2. 即便是在整兵備戰時，各國政府也應該評估並嘗試探索將人工智慧邏輯加入人類戰鬥經驗的方法，以使戰爭變得更人道、更精確

6.6. 人工智慧和機器學習將透過擴大現有武器類別的打擊能力來改變行為者的戰略和戰術選擇

6.6.1. 人工智慧不僅能使常規武器瞄得更精準，還能使它們以新的、非常規的方式進行瞄準，比如（至少在理論上）瞄準某個特定的個人或物體，而不是某個地點

6.6.2. 人工智慧網路武器可以學習如何滲透防禦，而不需要人類幫它們發現可以利用的軟體漏洞

6.6.3. 人工智慧也可以用於防禦，在漏洞被利用之前定位並修復它們

6.6.4. 由於攻擊者可以選擇目標而防禦者不能，人工智慧即使未必讓進攻方戰無不勝，也可令其佔得先機

6.7. 人工智慧開闢了資訊空間能力的新視野，包括虛假資訊領域

6.7.1. 生成式人工智慧可以創造大量似是而非的虛假資訊

6.7.2. 人工智慧推波助瀾的資訊戰和心理戰，包括使用偽造的人物、圖片、影片和演講，無時無刻不在暴露出當今社會令人不安的新弱點，尤其是在自由社會

6.7.3. 廣泛轉發的示威活動配上了看似真實的圖片和影片，裡面的公眾人物發表著他們從未真正說過的言論

6.7.4. 人工智慧可以決定將這些由人工智慧合成的內容以最有效的方式傳遞給人們，使其符合人們的偏見和期望

6.8. 與核武器領域不同的是，對人工智慧的使用並不存在被廣泛認同的禁令，也沒有明確的威懾（或升級程度）概念

6.8.1. 人工智慧大國有能力部署具有快速邏輯推理和不斷演化行為能力的機器和系統，來攻擊、防禦、監視、傳播虛假資訊，以及識別和破壞另一方的人工智慧

6.8.2. 由於具備軍民雙重用途，易於複製和傳播，人工智慧的基本原理和關鍵創新在很大程度上是公開的

6.8.3. 即使人工智慧的傳播可以受監管，這種監管可能也是不完美的，要麼是技術進步令先前的監管方式過時，要麼是這種監管在下定決心竊取人工智慧的行動者面前仍有漏洞

6.8.4. 一個社會的商業創新可能會被另一個社會用於安全或資訊戰目的

6.8.5. 政府時常會採納尖端人工智慧發展中最具戰略意義的方面，以滿足其國家利益設想

6.8.6. 當軍隊使用人工智慧來制訂計劃或鎖定目標，甚至在常規巡邏或衝突期間提供動態協助時，這些人們原本熟悉的概念和互動可能會變得陌生，因為這涉及與一種新型智慧打交道並設法瞭解它，而該智慧的運作方式和戰術還不得而知

6.9. 將網路力量平衡和人工智慧威懾概念化的相關工作尚處於起步階段

6.9.1. 最具顛覆性且不可預測的影響，可能發生在人工智慧和人類智慧遭遇之時

6.10. 從根本上說，向人工智慧和人工智慧輔助武器及防禦系統的轉變，會對智慧產生某種程度的依賴，這種智慧基於根本不同的經驗正規化執行，且具備可觀的分析潛力

6.10.1. 在極端情況下，這種依賴甚至演變為一種授權，它將給人們帶來未知或目前還知之甚少的風險

6.11. 最深層的挑戰可能是哲學層面上的

6.11.1. 如果戰略的各個層面開始在人工智慧可及而人類理性不可及的概念和分析領域運作，那麼它們的過程、範圍和最終意義將變得不再透明

6.11.2. 各個社會可能會在哪些決策權可以下放，以及什麼樣的風險和後果是可以接受的方面形成各不相同的限制