讀人工智慧時代與人類未來筆記08_全球網路平臺

1. 全球網路平臺

1.1. 受科幻場景的影響，人們普遍對人工智慧的看法是機器會發展出一種類似於自我意識的東西，這將不可避免地引起它們的誤解，讓它們拒絕服從，並最終起來反抗它們的人類創造者

1.2. 普遍幻想背後的焦慮，其實是個誤會

1.2.1. 以為人工智慧可以達到的巔峰是像人類個體一樣行事

1.3. 如果我們能夠認識到人工智慧其實已經以不那麼明顯的方式存在於我們身邊，並將我們對技術的焦慮轉向增進對人工智慧融入我們的生活這一事實的更透徹的理解，我們會得到更好的服務

1.3.1. 世界各地的人們正在親身參與一個平凡而又具有革命性的過程

1.3.2. 我們依賴人工智慧來幫助我們完成日常任務，但未必準確地瞭解它在任意特定時刻是如何工作又為何工作的

1.3.3. 我們正在人工智慧與人類之間、使用人工智慧增進服務的個人之間，以及這些服務的創造者、運營商與政府之間，形成對個人、機構和國家都具有重大影響的新型關係

1.3.4. 在沒有大張旗鼓，甚至反而有些悄無聲息的氛圍中，我們正在把非人類的智慧整合到人類活動的基本架構中

1.4. 大多數產品和服務對每個使用者的價值是獨立於其他使用者的，甚至會因其他使用者的存在而被削弱

1.5. 如果我們未能進一步給出解釋、討論和監督人工智慧的方式，且這些方式未能與社會價值觀相一致且無助於達成某種程度的社會和政治共識，那麼人類社會可能展開一場反抗，以反對一種新的、看似客觀的、不可阻擋的力量的出現，正如19世紀浪漫主義的興起和20世紀激進意識形態的爆發那樣

1.6. 網路平臺的價值和吸引力會隨著更多使用者的採用而增加，經濟學家將這一過程稱為“積極的網路效應”

1.6.1. 隨著越來越多的使用者受到吸引而選定平臺，他們在特定平臺的聚集導致某種特定服務僅由少數幾家供應商來提供，每個供應商都有大量的使用者基礎，有時是數億甚至數十億

1.6.2. 這些網路平臺日益依賴於人工智慧，並在一定程度上產生了人類和人工智慧之間的交集，其規模之大，已具有文明意義

1.6.3. 在不到一代人的時間裡，頗為成功的網路平臺聚集的使用者基數已超過了大多數國家甚至某些大洲的人口

1.6.4. 聚集在流行網路平臺上的大量使用者群體比政治地理意義上的群體邊界更為分散，而且網路平臺運營主體的利益可能與國家利益存在分歧

1.6.5. 網路平臺的運營商未必會從政府優先事項或國家戰略角度考慮問題，特別是當這些優先事項和戰略可能與網路平臺所服務的客戶相沖突時

1.6.6. 儘管這些網路平臺並沒有形成本應屬於政府職能的經濟和社會政策，但它們可能會承載或促進經濟和社會互動，並且在數量和規模上超過大多數國家

1.6.7. 一些網路平臺雖以商業實體的形式執行，但由於規模、職能和影響力日益擴大，它們正在成為地緣政治上的重要角色

1.7. 重要的網路平臺多數來自美國（谷歌、臉書、優步）或中國（百度、微信、滴滴出行）

1.7.1. 網路平臺之間的商業競爭可能會影響政府之間的地緣政治競爭，有時甚至會成為外交議程上的頭等大事

1.7.2. 由於網路平臺運營商的企業文化和戰略制定往往優先考慮使用者聚集地和研究技術中心所在地，而這兩者都可能遠離國家首都，這使得情況更加錯綜複雜

1.7.3. 某些網路平臺在其運營的國家已經成為個人生活、國家政治話語、商業活動、公司組織甚至政府職能不可或缺的組成部分

1.7.3.1. 即使是那些在此之前都不曾存在而直到最近才為人所知的服務，現在看來也是必不可少的

1.8. 網路平臺（及其人工智慧）正在一個超越了地理限制的數字世界中迅速擴張

1.8.1. 平臺透過即時可訪問的資料聚合，跨越時間和空間，以一種幾乎沒有其他人類創造物能夠比擬的方式將大量使用者連線了起來

1.8.2. 一旦人工智慧經過訓練，它的行動速度通常就比人類的認知速度更快

1.8.3. 現象本身並無好壞之分，它們不過是由人類尋求解決的問題、渴望滿足的需求，以及為服務於自身目的而創造的技術所引發的現實而已

2. 數字世界

2.1. 幾十年前，當數字世界開始擴張其領域時，沒有人期望這些數字領域的創作者將會或理應發展一個哲學架構，或者界定他們與國家或全球利益的根本關係

2.2. 對於人工智慧賦能的網路平臺的運營和監管，不同的個人、企業、政黨、市民團體和政府難免看法各異

2.3. 對軟體工程師來說似乎很直觀的東西，對政治領導人來說可能是令人困惑的，而對哲學家來說則可能是無法解釋的

2.4. 受消費者歡迎的便利，國家安全官員可能認為它是不可接受的威脅，而政治領導人則可能因其不符合國家目標而拒絕它

2.5. 被一個社會認為是受歡迎的保障而欣然加以接納的，可能會被另一個社會理解為選擇或自由的喪失

2.6. 為了讓個人、國家和國際行為體就其與人工智慧以及彼此之間的關係達成知情的結論，我們必須建立一個共同的參考框架

2.6.1. 首先要做的就是為討論知情的政策確立相應術語

3. 社群標準

3.1. 網路平臺如何建立社群標準，也就是每個運營商如何制定（通常在人工智慧的協助管理下）建立和共享內容的規則，就是一個現代數字空間與傳統規則和預期之間互生齟齬的具體案例

3.2. 原則上大多數網路平臺奉行內容中立原則，但在某些情況下，其社群標準的影響力堪比國家法律

3.3. 網路平臺及其人工智慧允許或青睞的內容可能會迅速走紅

3.3.1. 它們貶低的，有時甚至是完全禁止的內容則可能被降為冷門並因此默默無聞

3.3.2. 被確定含有虛假資訊或違反其他內容標準的材料則可被有效地從公共流通中移除