讀人工智慧時代與人類未來筆記15_改變人類經驗

1. 認識世界的方式

1.1. 信仰

1.2. 理性

1.2.1. 理性不僅革新了科學，也改變了我們的社會生活、藝術和信仰

1.2.2. 在其浸染之下，封建等級制度瓦解了，而民主，即理性的人應該自治的理念崛起了

1.3. 人工智慧

1.3.1. 這種轉變將考驗（在某些情況下還將改變）我們對這個世界以及我們人類在其中所處位置的核心假設

1.3.2. 現在，人工智慧將再次檢驗我們的自我認知所依據的原則到底是什麼

2. 人工智慧與人類身份

2.1. 人工智慧將擴充套件我們對現實的瞭解

2.1.1. 它將改變我們溝通、聯絡和共享資訊的方式，也將改變我們發展的理論和部署的戰略

2.2. 在先前的時代，人類始終將自己置於敘事的中心

2.2.1. 人類並不完美，但它們同樣視人類的能力和經驗為世間眾生可以實現的最高成就

2.2.2. 這些社會頌揚那些體現人類精神巔峰的個人，這實際折射出的正是我們對自己的期許

2.2.3. 這些英雄在不同的社會、不同的時代有著不同的形象

2.2.3.1. 領導者、探險家、發明家、殉道者

2.2.3.2. 他們都體現了人類成就的各個方面，也因此體現了人的獨特性

2.2.4. 在現代，我們對英雄的崇拜集中在那些探索和塑造我們所處現實的理性開拓者身上

2.2.4.1. 宇航員、發明家、企業家、政治領袖

2.3. 我們正在邁入一個新時代，作為人類的創造物，人工智慧正日益被賦予以前只能由人類心智完成或嘗試的任務

2.3.1. 它挑戰了人何以為人的決定性屬性

2.3.2. 人工智慧能夠學習、演化並變得“更好”

2.3.2.1. 根據它被賦予的目標函式

2.3.3. 這種動態學習能力使人工智慧能夠實現複雜的結果，而這些結果直到目前還都是人類和人類組織的專利

2.4. 隨著人工智慧的崛起，對人類角色、人類願望和人類成就的定義都將發生變化

2.5. 在一個人工智慧可以評估我們生活中的諸般事物，預測接下來會發生什麼，並決定該做什麼的時代，即一個現實可以被預測、近似和模擬的時代，人類理性的角色將會改變

2.5.1. 在某些領域，人工智慧可能會增強人類的理性

2.5.2. 在其他領域，人工智慧則可能會讓人類產生一種置身事外的感覺

2.5.2.1. 對根據一種無法解釋的（實際上也未被言說的）計算而選擇了不同的車道或路線的司機來說

2.5.2.2. 對根據人工智慧協助的審查而被延長或被拒絕信貸的借款人來說

2.5.2.3. 對根據類似程式被決定是否獲得面試機會的求職者來說

2.5.2.4. 對在認真開始研究工作之前就被人工智慧模型告知最可能答案的學者來說

2.5.2.5. 這種體驗可能會是高效的，但並不總是令人滿意的

2.6. 對習慣了獨斷專行、以自我為中心，並壟斷了複雜智力活動的人類而言，人工智慧將挑戰其自我認知

2.7. 我們所設想的種種進步，說明人工智慧正在以多種途徑改變我們與世界的互動方式，從而改變我們看待自己和自己在世界中所扮演角色的方式

2.7.1. 它們將迅速成為大多數人眼中具有創造性或專業性的存在

2.7.2. 人工智慧能夠做出某些預測或決定、生成某些材料的事實本身，並不表明它具有類似於人類的複雜性

2.7.3. 在許多情況下，這些結果可以與以前只有人類才能給出的結果相媲美，甚至更好

2.7.3.1. 編寫文件和程式碼（GPT-3可以做到）需要複雜的技能，人類需要花費數年時間接受高等教育來培養這些技能

2.8. 藉助與人類互補的現實感知，人工智慧可能會成為對人類有用的同伴

2.8.1. 在科學發現、創造性工作、軟體開發和其他類似的領域中，有一個持不同視角的對話者會大有裨益

2.8.2. 在這個世界中，我們的理性並不是認識或駕馭現實的唯一方式，或許也不是最具廣泛性的方式

2.8.3. 人類如今所經歷的這場轉變的意義比自活字印刷機問世近6個世紀以來所發生的任何轉變都更加重大

3. 社會的選擇

3.1. 各自為戰

3.1.1. 棄權式的預設

3.2. 帶著合作意向開始對話，舉全人類的進步之力來界定人工智慧的角色，同時明晰我們自己的角色

3.2.1. 需要領導人和哲學家、科學家和人文主義者，以及其他各種團體的清醒參與

3.3. 個人和社會將不得不決定，生活的哪些方面應該留給人類智慧，哪些方面則應交由人工智慧或人類與人工智慧的合作

3.3.1. 人類與人工智慧的合作並不是一種對等關係

3.3.1.1. 人工智慧既由人類構建，也由人類指揮

3.3.2. 隨著我們逐漸習慣和依賴人工智慧，對其加以限制可能會導致更高昂的成本、更困難的心理挑戰，甚至更復雜的技術

3.3.3. 我們的使命將是瞭解人工智慧給人類經驗帶來的變化、它對人類身份的挑戰，以及這些發展變化的哪些方面需要由其他的人類義務來加以調節或制衡

3.3.4. 人類未來將如何呈現，這取決於人類在人工智慧時代的角色界定

4. 盧德派

4.1. Luddites

4.2. 機械紡織機等發明取代了紡織工人，並激發了盧德派(Luddites)的興起

4.3. 盧德派是一種政治運動的參與者，他們試圖禁止新技術，以保留舊有生活方式，如果無法達成這一點，就破壞新技術

4.4. 農業的工業化引發了人口向城市的大規模遷移

4.5. 全球化改變了製造業和供應鏈，在許多社會最終吸收這些變化以實現自身的整體改善之前，兩者都引發了新的變化乃至動盪

5. 改變人類經驗

5.1. 事實上，在許多領域，藉助專業化的技術超越傳統理性的體驗，如人工智慧在醫學、生物、化學和物理方面取得的突破，往往會令人頗有成就感

5.2. 將人工智慧嵌入消費產品確實可以廣泛傳播該技術帶來的福祉

5.3. 人工智慧也將執行不是為任何特定個人使用者的利益而設計，也不是任何個人使用者可以控制的網路和系統

5.3.1. 遭遇人工智慧可能會讓人感到不安或洩氣

5.3.1.1. 由人工智慧推薦某個人而非其他人獲得理想的升職或調任時

5.3.1.2. 人工智慧鼓動或慫恿對主流觀點持挑戰甚至蔑視態度時

5.4. 人工智慧的決策通常與人類的決策一樣準確，甚至比人類的更準確

5.4.1. 如果有適當的保障措施，人工智慧的決策可能更少有偏見

5.5. 人工智慧在分配資源、預測結果和推薦解決方案方面可能更有效

5.5.1. 最佳化資源配置和提高決策準確性對社會是有益的

5.5.2. 對個人來說，其實所謂意義，更多地來自其自主性，以及基於一系列行動和原則解釋結果的能力

5.6. 隨著生成式人工智慧變得越來越普遍，它產生全新文字、影像、影片和程式碼的能力甚至可能使它在通常被認為需要創造性的角色（如起草檔案和製作廣告）中表現得和人類同行一樣出色

5.7. 演算法不會提供基於人類經驗的理由，來向公眾解釋其結論

5.7.1. 更多的人可能並不理解人工智慧為什麼會這樣做，這將削弱他們的自主性和賦予世界意義的能力

5.8. 人工智慧改變了工作的性質，這可能會危及許多人的身份認同感、成就感和財務安全

5.8.1. 不僅可以帶來更高的效率，而且會創造新的崗位，但對在這個過程中經歷了哪怕短暫錯位與混亂的失意者而言，就算知道這只是過渡期的陣痛，而且這些改變終將提升整個社會的生活質量和經濟生產力，他們恐怕也不會感到有所慰藉

5.9. 無論人工智慧的長期影響究竟如何，在短期內，這項技術都將徹底改變某些經濟領域、職業和身份

5.9.1. 社會需要為此做好準備，不僅要為職位被取代者提供替代的收入來源，還要為他們提供新的成就感來源

6. 決策

6.1. 我們所有人都會在不經意間與人工智慧互動，或者在自己並未提出請求的情況下獲得人工智慧提供的答案或結果

6.2. 有時候，無形的人工智慧可能給世界帶來一種神奇的親和感，就像商店似乎能預料到我們的到來和心血來潮的購物衝動一樣

6.3. 在其他時候，人工智慧則可能產生一種卡夫卡式的荒誕與噩夢感

6.3.1. 沒有一個人可以解釋這決定是如何做出的時候

6.4. 這些合理的解釋與不透明的決策之間、個人與龐大的體制之間、擁有技術知識和權威的人與一無所有的人之間的矛盾對立，其實並不是什麼新鮮事

6.4.1. 新鮮之處在於，另一種智慧，即一種非人類的、通常無法以人類理性加以測度的智慧，成了這些矛盾的源頭

6.4.2. 同樣新鮮的還有這種新智慧的普遍性和規模

6.5. 缺乏人工智慧知識或對其無許可權的人可能特別傾向於拒絕人工智慧

6.5.1. 社會的某些群體可能會在這條路上走得更遠，執著於自身“實體主義者”而非“虛擬主義者”的定位

6.5.2. 隨著人工智慧的日益普及，“斷開連線”將變成一種離群索居、孤家寡人般的自我孤立

6.6. 隨著社會日益數字化，人工智慧日益融入政府職能和各種產品中，其影響可能使我們避無可避