讀人工智慧時代與人類未來筆記18_國際秩序

1. 通用人工智慧

1.1. 現代社會重視人類心智透過收集和檢驗資料，以及透過觀察推斷見解而獲得的知識

1.2. 在當下這個時代，理想型的真理一直是非凡的、可檢驗的命題，並可透過測試加以證明

1.3. 人工智慧時代將弘揚另一種知識的概念，即人類和機器合作的成果。我們（人類）將建立和執行（計算機）演算法，這些演算法將以更快、更系統的方式檢驗更多的資料，並且使用與任何人類心智都不同的邏輯

1.4. 有時，其結果將揭示世界的某些屬性，而這些屬性是我們在與機器合作前無法想象的

1.5. 通用人工智慧將能夠學習並執行範圍極廣的任務，一如人類所為

1.5.1. 開發通用人工智慧將需要巨大的算力，這可能導致只有少數資金充足的組織有能力建立此類人工智慧

1.5.2. 可以透過只允許經批准的組織運營通用人工智慧來對其施加限制

1.6. 如果通用人工智慧真的出現在世上，這將是智力、科學和戰略上的重大成就

1.6.1. 即便未能如此，人工智慧也同樣能為人類事務帶來一場革命

1.7. 人工智慧在應對突發事件（或者說意外事件）及提供解決方案方面展現出的動力和能力使其有別於以往的技術

1.7.1. 如果不受監管，人工智慧可能會偏離我們的預期，進而偏離我們的意圖

1.8. 人類可能參與到一場“逐底競爭”中

1.8.1. 隨著人工智慧實現流程自動化、允許人類探索大量資料，並組織和重構物質和社會領域，那些先行者可能獲得先發優勢

1.8.2. 競爭壓力可能會迫使各方在沒有足夠時間評估風險或乾脆無視風險的情況下競相部署通用人工智慧

1.9. 對人的治理是以道德準則為指導的

1.9.1. 在信仰時代，當神明裁判中的被告面臨戰鬥裁決時，法院可以判定罪行，但由上帝決定誰獲得勝利

1.9.2. 在理性時代，人類根據理性的戒律來確定罪責，並根據因果關係和犯罪意圖等概念來判罪並給予懲罰

1.10. 人工智慧需要一種自己的道德準則，這種準則不僅反映了技術的本質，也反映了它所帶來的挑戰

1.10.1. 通常，既有原則並不適用於此處

1.10.2. 人工智慧並不依靠人類的理性運作，也沒有人類的動機、意圖或自我反省

1.10.3. 人工智慧的引入將使適用於人類的現有正義原則更為複雜化

2. 時間旅行

2.1. 從某種意義上來說，人工智慧已經超越了人類的感知

2.2. 透過時間壓縮或“時間旅行”，也就是藉助演算法和算力，人工智慧可以透過一些過程進行快速分析和學習，而同樣的過程，人類心智需要幾十年甚至幾個世紀才能完成

2.3. 在其他方面，單靠時間和算力已不足以描述人工智慧的功能

3. 兩種不同但部分重疊的現實

3.1. 人類可以透過理性闡述的

3.2. 人工智慧可以透過演算法說明的

3.2.1. 人工智慧就能感知我們尚未感知也無法感知的事物

3.2.2. 不僅因為我們沒有足夠的時間以我們的方式去推理它們

3.2.3. 還因為它們存在於一個我們的心智無法概念化的領域中

4. “元”問題

4.1. 在對世界有著不同解釋和理解的人工智慧的“輔助”下，人類能否滿足對哲學的需求？

4.2. 人類並不完全瞭解機器，但我們最終是否將與它們和平共處，並以此改變世界？

5. 康德提出的限制

5.1. 一個其無法回答的問題領域

5.2. 一個其無法完全瞭解的事實領域

6. 人

6.1. 那些設計、訓練人工智慧並與人工智慧合作的人能夠實現的目標，將達到迄今人類無法企及的規模和複雜程度，比如新的科學突破、新的經濟效率、新的安全形式，以及社會監控的新維度

6.2. 在擴充套件人工智慧及其用途的過程中，那些未能獲得主導權的人可能會感到，他們正在被自己不瞭解，而且並非由自身設計或選擇的力量所監視、研究和採取行動

6.3. 這種力量的運作是不透明的，在許多社會中，這是傳統的人類行為者或機構不能容忍的

6.3.1. 首先要做的是向非技術人員解釋人工智慧在做什麼、它“知道”什麼，又會如何去做

6.4. 官方的協商者必然是政府，但也需要為技術專家、倫理學家、創造和運營人工智慧的公司以及其他領域外人士搭建發聲平臺

6.5. 我們應該設法使其可稽核，亦即使其過程和結論既是可檢查的又是可糾正的

6.5.1. 糾正能否實施，將取決於能否將針對人工智慧感知和決策形式的原則細化

6.5.2. 道德、意志甚至因果關係都不能很好地契合自主人工智慧的世界

6.5.3. 從交通運輸到金融再到醫藥，社會的大多數層面都會出現類似的問題

6.6. 不完美是人類經驗中的常態之一，尤其是在領導力方面

6.6.1. 有時，他們的行動基於錯誤的假設

6.6.2. 有時，他們的行動純粹是出於感情用事

6.6.3. 有一些時候，意識形態扭曲了他們的視野

6.6.4. 如果人工智慧在某些領域顯示出超人的能力，則其使用必須能夠被不完美的人類環境所相容幷包

6.7. 人工智慧的出現，帶來了人類僅憑理性無法獲得的學習和處理資訊的能力，功將帶來新的問題它可能會讓我們在那些已被證明超出我們回答能力的問題上取得進展

6.7.1. 成功將帶來新的問題

6.7.2. 是時候定義我們與人工智慧的夥伴關係，以及由此產生的現實了

7. 模糊性

7.1. 人工智慧的動態性和新興性至少令其在兩個方面產生了模糊性

7.2. 人工智慧可能按照我們的預期執行，但會產生我們無法預見的結果

7.2.1. 這些結果可能會把人類引入其創造者也始料未及的境地

7.2.2. 1914年的政治家沒有認識到軍事動員的舊邏輯加上新技術會把歐洲拖入戰爭一樣

7.2.3. 自動駕駛汽車做出的決定危及生命

7.2.4. 嚴重軍事衝突

7.3. 在某些應用領域中，人工智慧可能是不可預測的，它的行動完全出人意料

7.3.1. 以AlphaZero為例，它只是根據“贏棋”的指示，就發展出一種人類在幾千年的國際象棋歷史中從未設想過的棋風

7.3.2. 隨著我們賦予其更大的自由度，其實現目標的路徑可能會讓我們驚訝，甚至感到恐慌

7.4. 我們既不應將人工智慧視為自動運作、無須照管的存在，也不應允許其在無人監督、監視或直接控制的情況下采取不可撤銷的行動

7.4.1. 人工智慧由人類創造，故也應由人類來監管

7.5. 人工智慧面臨的挑戰之一是，具備了創造人工智慧所需的技能和資源的人並非必然具有理解其更廣泛內涵的哲學視角

7.5.1. 人工智慧時代需要它自己的笛卡兒和康德，來解釋我們創造了什麼及其對人類有何意義

8. 社交媒體

8.1. 推特和臉書用以突顯、限制或完全禁止內容或個人的功能全都仰仗人工智慧，這便是其力量的證明

8.2. 使用人工智慧進行單邊的、通常不透明的內容和概念推廣或刪除，對各國尤其是民主國家來說都是一個挑戰

8.3. 人工智慧加大了對世界的扭曲，以迎合人類的本能偏好

8.3.1. 人工智慧可以輕易地放大我們的認知偏差，而我們卻還與之共鳴

8.3.2. 伴隨著這種共鳴，面對選擇的多樣性，又被賦予了選擇和篩選的權力，人們接受的錯誤資訊將會氾濫

8.3.3. 社交媒體公司不會透過新聞推送來推動極端和暴力的政治極化，但顯而易見的是，這些服務也沒有導致開明話語的最大化

8.4. 某些資訊的傳播，尤其是故意製造的虛假資訊，會造成損害、分裂和煽動，這是毋庸置疑的

8.5. 在對“有害資訊”的譴責、打擊和壓制顯得過於寬鬆，這也應該引起反思

8.6. 在一個自由社會里，有害資訊和虛假資訊的界定不應該被囿於公司的職權範圍

8.6.1. 如果將此類職責委託給一個政府小組或機構，該小組或機構應該根據確定的公共標準並透過可核查的程式來運作，以避免被當權者利用

8.6.2. 如果將其委託給人工智慧演算法，則該演算法的目標函式、學習、決策和行動必須清晰並接受外部審查，而且至少要有某種形式的人類訴求

8.7. 每個社會都會選擇各自重視的觀念，這可能會導致其與跨國網路平臺運營商之間的複雜關係

8.7.1. 人工智慧就像海綿一樣善於吸收，它向人類學習，甚至在我們設計和塑造它的時候也是如此

8.7.2. 不僅每個社會的選擇是不同的，每個社會與人工智慧的關係、對人工智慧的感知，及其人工智慧模仿人類、向人類老師學習的模式也是各不相同的

8.8. 人類對事實和真理的追求不應該使一個社會透過一個輪廓不明、無法檢驗的過濾器來體驗生活

8.8.1. 對現實的自發體驗儘管有其矛盾性和複雜性，卻是人類境況的一個重要方面，即使這種體驗導致了低效或錯誤

9. 國際秩序

9.1. 人工智慧可以在隨處可見的計算機上執行

9.1.1. 由於訓練機器學習模型需要專業知識和計算資源，因此創造一個人工智慧需要大公司或國家級的資源

9.1.2. 由於人工智慧的應用是在相對較小的計算機上進行的，因此其必將被廣泛使用，包括以我們意想不到的方式

9.2. 我們可能別無選擇，只能扶植人工智慧

9.2.1. 我們也有責任以一種與人類未來相容的方式來塑造它

9.3. 在安全領域，人工智慧賦能系統響應速度非常快，使得對手可能會在系統執行之前嘗試進行攻擊

9.3.1. 可能造成一種內在不穩定的局勢，堪比核武器所造成的局勢

9.4. 人工智慧透過政府防務職能的擴散，將改變國際平衡以及在我們這個時代維持這種平衡所依賴的計算

9.5. 過去，外交在一個有組織、可預測的舞臺上進行

9.5.1. 如今，其資訊獲取和行動範圍將獲得極大的擴充套件

9.6. 隨著形勢愈加複雜，制定具有可預測結果的可執行協議將變得更加困難

9.6.1. 人工智慧翻譯將促進對話，而且不用像以往的譯者那樣不僅要有語言造詣，還要精通文化

9.6.2. 人工智慧賦能的網路平臺將促進跨境交流，而駭客攻擊和虛假資訊將繼續扭曲人們的認知和評估

9.7. 人類透過明確區分常規武器（被認為與傳統戰略相調和）和核武器（被認為是例外）而回避了核悖論

9.7.1. 核武器的破壞力量一旦釋放就是無差別的，不分物件

9.7.2. 常規武器可以辨別打擊目標

9.7.3. 既能辨別目標又能進行大規模破壞的網路武器消除了這一區分

9.7.4. 如果再有人工智慧推波助瀾，這些武器將如虎添翼，變得更加不可預測，潛在的破壞性也更大

9.8. 當這些武器在網路中伺機遊弋時，是無法確定歸屬的

9.8.1. 它們無法被察覺，因為它們不像核武器那麼笨重

9.8.2. 它們還可以透過隨身碟攜帶，而這有利於擴散

9.8.3. 這些武器一旦被部署就難以控制，如果考慮到人工智慧的動態性和新興性就更加如此

9.9. 將人工智慧功能與網路武器相結合的可能性加深了這一困境

9.9.1. 這種形勢挑戰了以規則為基礎的世界秩序的前提

9.9.2. 它還讓發展人工智慧軍備控制的相關概念成了當務之急

9.9.3. 在人工智慧時代，威懾將不再遵循歷史準則，它也做不到這一點

9.9.4. 人工智慧的潛在軍事用途比核武器更廣泛，而且至少到目前為止，其進攻和防禦還談不上涇渭分明

9.10. 人工智慧成了另一種誤解和錯誤的可能來源，擁有高科技能力的大國遲早將不得不就此進行一場持續對話

9.10.1. 這種對話應聚焦於一個根本問題：避免災難，並以此求得生存

9.11. 人工智慧和其他新興技術（比如量子計算）似乎正在讓超越人類感知範圍的現實變得觸手可及

9.11.1. 我們尚未領會它們的哲學蘊含

9.11.2. 我們正在被它們不由自主地推動向前，而非有意識地向前

9.11.3. 新技術產生了新的哲學見解，而這些見解又透過技術（以印刷機的形式）傳播開來

9.11.4. 新技術已經發展起來，但相應的指導性的哲學理念卻暫付闕如

9.12. 它允諾帶來更強力的藥物、更高效公平的醫療保健、更可持續的環境實踐，以及其他種種進步

9.12.1. 它也可以使資訊失真，或者至少使接收資訊和識別真相的過程變得更加錯綜複雜，並由此令一部分人的獨立推理和判斷能力日漸減退

9.13. 許多國家已經將人工智慧列為國家專案

9.13.1. 在國家層面，它應該確保美國在人工智慧領域保持知識和戰略競爭力

9.13.2. 在國家和全球層面，它都應該致力於研究人工智慧產生的文化影響，並提高對此影響的認識