讀人工智慧時代與人類未來筆記17_人類未來

1. 人類未來

1.1. 在印刷讀物出現之前，中世紀的歐洲人主要透過社群傳統獲取知識

1.1.1. 透過參與收割和季節輪作積累民間智慧

1.1.2. 在禮拜場所踐行信仰並遵守聖禮

1.1.3. 加入行業公會，學習技術，繼而被允許加入其專業網路

1.1.4. 透過社群口口相傳

1.1.5. 透過手抄本進行書面傳播

1.2. 大多數經驗是源自生活的，大多數知識是口頭傳授的

1.3. 1450年，德國美因茨市的金匠約翰內斯·谷登堡用借來的錢研製了一臺試驗性的印刷機

1.4. 15世紀歐洲印刷技術的進步所帶來的變化，在歷史和哲學維度上為我們提供了一個可與人工智慧時代的挑戰相對照的參考

1.4.1. 在中世紀的歐洲，知識受到尊崇，但書籍卻很稀有

1.4.2. 個別作者創作了有關各種真實事件、神話傳說和宗教教義的文學作品或百科全書式彙編

1.4.3. 這些書最終成為少數人的珍藏

1.5. 隨著印刷讀物的普及，個人與知識之間的關係也隨之改變

1.5.1. 新的資訊和思想可以透過更多樣的渠道迅速傳播

1.5.1.1. 個人可以尋找對他們的具體工作有用的資訊並進行自學

1.5.2. 透過研究原始文字，他們可以探索公認的真理

1.5.3. 那些對自己的觀點深信不疑並能獲得一定資源或贊助的人，可以發表他們的見解和解釋

1.5.4. 科學和數學的進步可以在大陸範圍內迅速傳播

1.5.5. 交換小冊子成為一種公認的政治辯論方法，就連神學爭端也可以照此處理

1.6. 新思想往往訴諸推翻既定秩序或從根本上對其進行重塑，這些思想的傳播導致了宗教的變化（宗教改革）、政治的革命（調整國家主權的概念），以及對科學的新認識（重新定義現實的概念）

1.7. 以前，我們的思維侷限性限制了我們收集和分析資料、過濾和處理新聞及對話，以及在數字領域進行社互動動的能力

1.7.1. 在人工智慧的引領之下，我們可以在這些領域盡情地遨遊

1.7.2. 它能發現資訊並識別趨勢，這是傳統演算法無法做到的，至少無法做得如此優雅和高效

1.7.3. 它不僅擴充套件了物理現實，也可以擴充套件和組織正蓬勃發展的數字世界

1.8. 隨著人工智慧融入日常生活，並擴充套件和改變這種生活，人類將會感受到內心相互衝突的衝動

1.8.1. 面對非專業人士無法理解的技術，一些人可能會將人工智慧的宣告視為近乎天意的判斷

1.8.2. 這種宗教式的衝動雖屬誤解，但並非全無道理

1.8.2.1. 如果有一種人類無法理解或控制的智慧，能夠給出十分靈驗又透著幾分神異的結論，在這樣一個世界中，遵從這種智慧的判斷難道是愚蠢的嗎？

1.8.2.2. 在這種邏輯的推動下，世界可能會隨之“復魅”，人工智慧則會因其釋出的“神諭”而使一些人對其深信不疑，言聽計從

1.8.2.3. 特別是通用人工智慧，一種瞭解世界並憑直覺感知其結構和可能性的超人類方式，可能會被不少人奉若神明

1.9. 至關重要的是，我們需要一種倫理準則，它能夠幫助我們理解人工智慧時代，甚至在這個時代為我們提供指引

1.9.1. 這種準則的制定不能被託付給單一的學科或領域

1.9.2. 開發這項技術的電腦科學家和商業領袖、尋求部署這項技術的軍事戰略家、意圖塑造這項技術的政治領袖，以及致力於探索其深層含義的哲學家和神學家，都只是從各自的管中窺見了全豹之一斑而已

1.9.3. 所有人都應該參與意見交流，而不是拘泥於自身先入之見

1.10. 在每個轉折點，人類都將有三個主要選擇：限制人工智慧、與它合作或順從它

1.10.1. 有時，遵從人工智慧的建議是恰當的

1.10.2. 有時，夥伴關係是最理想的，

1.10.3. 在其他時候，比如在軍事情境中，對人工智慧進行嚴格的、定義明確的且易於理解的限制，將是至關重要的

2. 人工智慧

2.1. 技術將再次改變知識、發現、交流和個人思想

2.1.1. 人工智慧所產生的結果正以驚人的規模和速度接近那些迄今為止只能透過人類理性達到的成就

2.1.2. 可能會揭示現實的方方面面，比我們曾經想象的任何場景都更為激動人心

2.1.3. 將人工智慧作為夥伴來增強自身技能或追求理念的個人和社會，可能會在科學、醫學、軍事、政治和社會方面取得令以往時代黯然失色的傲人成就

2.1.4. 一旦接近人類智慧的機器被視為產生更好更快結果的關鍵，單憑理性行事可能就顯得有些不合時宜了

2.1.5. 個人的理性實踐曾定義了一個時代，而如今人們可能會發現其重要性已然發生了改變

2.2. 人工智慧可能會讓人類變得更好，但如果被錯誤運用，它也可能讓人類變得更糟

2.2.1. 它存在的事實本身就構成了對基本假設的挑戰，在某些情況下，甚至超越了這一假設

2.2.2. 它對話語的影響將難以確定

2.2.3. 透過幫助人類統觀數字資訊的全域性，人工智慧將為知識和認識領域開啟前所未有的前景

2.2.4. 人工智慧在大量資料中發現的模式會產生一系列準則，並在各大洲乃至全球網路平臺上被奉為圭臬

2.2.4.1. 這可能會削弱人類的懷疑式探究能力，而正是這種能力定義了當下的時代

2.2.5. 人工智慧還可能會把某些社會和網路平臺社群引向不相往來又彼此對立的現實分野

2.3. 迄今為止，人類獨自發展出了對現實的理解，這種能力界定了我們在世界上所處的位置，以及我們與現實之間的關係

2.3.1. 人工智慧已經揭示出，現實可能以不同的方式被認識，也許比人類獨自理解的方式更為複雜

2.4. 人工智慧的成就可能與那些最具影響力的人類思想家在其全盛時期所取得的成就一樣引人注目和發人深思

2.4.1. 它產生靈光一現的洞見，並對所有需要加以清算的既有概念提出挑戰

2.5. 人工智慧將會不引人注意地融入平凡生活之中，以一種與我們的直覺相契合的方式微妙地塑造我們的體驗

2.5.1. 當我們目睹人工智慧所取得的部分成就時，比如邏輯上的壯舉、技術上的突破、戰略上的洞見，以及對大型複雜系統的精密管理，很明顯，我們所面對的是另一種複雜存在體對現實的另類體驗

2.6. 人工智慧也在減損一些東西

2.6.1. 它加速了人類理性的消解勢頭：社交媒體減少了反思的空間，線上搜尋削弱了概念化的動力

2.6.2. 人工智慧出現之前的演算法就擅長向人類傳遞“令人沉迷”的內容，人工智慧則更精於此道

2.6.3. 隨著深度閱讀和分析的收縮，從事這些過程的傳統回報也在收縮

2.6.4. 隨著選擇退出數字領域的代價日益高昂，人工智慧影響人類思想的能力，比如說服、引導、分心，卻在與日俱增

2.6.5. 個人在審查、檢驗和理解資訊方面的作用被削弱了，取而代之的是人工智慧的作用擴大了

2.7. 在人工智慧時代，人類理性會發現自己既被增強，也被削弱

2.7.1. 它將審視事物的深層規律並揭示新的客觀事實，比如醫療診斷、工業或環境災難的早期跡象，還有迫在眉睫的安全威脅

2.7.2. 在媒體、政治、話語和娛樂領域，人工智慧將重塑資訊以投我們所好，這可能會坐實和加深偏見，並在這一過程中阻礙我們接近和認同客觀真相

2.8. 在文明層面，放棄人工智慧是不可行的

2.8.1. 領導者們將不得不直面這項技術的影響，他們對這項技術的應用負有重大責任

2.9. 有些人選擇遠離社交媒體、限制孩子玩數碼產品的時間、拒絕轉基因食品一樣，將來有些人也會試圖遠離“人工智慧世界”，或限制自己接觸人工智慧系統，以此為自己的理性保留空間

2.9.1. 拒絕使用人工智慧可不僅僅意味著放棄自動推薦電影和行車導航等便利，更意味著錯過大量的資料、網路平臺，以及醫療保健、金融等各個領域的進步