讀人工智慧時代與人類未來筆記02_技術變革

1. 目標

1.1. AlphaZero的目標是在遵守規則的前提下贏得國際象棋比賽

1.2. 發現Halicin的人工智慧的目標是滅殺儘可能多的致病菌：它在不傷害宿主的情況下滅殺的致病菌越多，就越成功

1.2.1. 人工智慧成功了，因為它發現的抗生素確實殺死了致病菌

1.2.2. 它之所以特別具有開創性，是因為它擴大了治療的選擇，透過一種新的機制獲得了一種新的（強大的）抗生素

1.3. 人工智慧，它已經迅速從幻想走入現實，能夠執行需要人類智力水平的任務

1.3.1. 開發人員都建立了一個程式，然後給它分配一個目標

1.3.1.1. 贏得一場遊戲

1.3.1.2. 滅殺一種細菌

1.3.1.3. 根據提示生成文字

1.3.2. 並允許它接受一段時間（以人類認知的標準來說很短暫）的“訓練”

1.3.3. 到這一時間段結束時，每個程式都以不同於人類的方式掌握了訓練主旨

1.3.4. 程式獲得的結果超出了人類大腦的計算能力，至少是在實際時間範圍內執行的大腦的計算能力

1.3.4.1. 程式透過人類可以追溯、研究和理解的方法獲得結果

1.3.4.2. 有一些案例，人類至今仍不確定這些程式是如何實現目標的

1.4. 機器學習，即人工智慧技術獲取知識和能力的過程，通常比人類的學習過程所需的時間短得多，機器學習的應用也已擴充套件到醫藥、環境保護、交通、執法、國防等各個領域

1.4.1. 特別是使用“深度神經網路”的機器學習方法，能夠產生長期以來人類思想者無法領悟的見解和創新，並生成看起來是由人類創造的文字、影像和影片

1.5. 得到全新演算法和日益豐富且經濟的算力加持的人工智慧正變得無處不在

1.6. 人工智慧接觸現實的方式與人類不同

1.6.1. 如果說人工智慧的專長有什麼指導意義的話，那就是它可能會接觸到與人類所接觸的迥然不同的現實層面

1.6.2. 人工智慧發揮的作用預示著一種朝向事物本質的進步，幾千年來哲學家、神學家和科學家一直在尋求這種進步，並取得了部分成功

1.7. 雖然人工智慧的進步不可避免，但它的最終歸宿尚未明確

1.7.1. 它的出現具有歷史和哲學雙重意義

1.7.2. 任何阻止其發展的企圖都不會成功，未來屬於那些勇於探索和創造的人

1.8. 人類正在創造和擴散非人類的邏輯形式，至少在它們被設計用以發揮作用的離散環境中，它們所能達到的範圍和敏銳度可以超過人類

1.8.1. 人工智慧的功能錯綜複雜，變化無常

1.8.2. 在某些任務中，人工智慧達到了人類的水平，甚至超越了人類

1.8.3. 在其他任務（抑或是相同的任務）中，它所犯的錯誤甚至連孩子都不會犯，有時產生的結果則完全是荒謬的

1.9. 人工智慧的關注重點被指定為超出人類能力範圍的領域

1.9.1. 不是查詢已知的給藥途徑，而是尋求未被發現的方法

2. 探索現實和求知

2.1. 幾千年來，人類一直以探索現實和求知為己任

2.1.1. 只要勤奮和專注，運用人類的理性來處理問題，就能產生可衡量的結果

2.1.2. 隨著時間的推移，透過這一過程獲得的知識（更精確的日曆、新的導航方法、新的疫苗）為人類活動創造了新的可能性，併產生了適用理性來解釋的新問題

2.1.3. 無論這個過程多麼磕磕絆絆和不完美，它都改變了我們的世界，並培養了我們作為理性的人所應有的信心，讓我們有能力瞭解自身處境和應對這種處境帶來的挑戰

2.2. 人類把自己不能理解的東西歸為兩類

2.2.1. 對未來理性應用的挑戰

2.2.2. 神的領域

2.2.2.1. 不受神所賜予我們的可直接理解的過程和解釋的約束

3. 技術變革

3.1. 縱觀歷史，人類並非沒有經歷過技術變革

3.1.1. 從根本上改變我們這個社會的社會架構和政治架構的技術卻屈指可數

3.1.1.1. 只有極少數技術會挑戰我們解釋和組織世界的主導模式

3.1.1.2. 人工智慧有望在人類體驗的所有領域帶來變革

3.1.2. 更常見的情況是，為我們的社會環境定序的現有架構適應和吸收了新技術，並在可識別的範疇內不斷髮展和創新

3.1.2.1. 汽車取代了馬匹，但並未迫使社會結構發生全面轉變

3.1.2.2. 來復槍取代了滑膛槍，但傳統軍事活動的一般正規化基本上原封未動

3.1.3. 人類在使用機器提高生產力、實現自動化，並在許多情況下取代人工勞動方面已有幾個世紀的經驗

3.1.3.1. 在日常生活中，人工智慧將與我們朝夕相伴，幫助我們決定吃穿用度，決定認知信念，甚至決定何去何從

3.2. 變革的核心最終將發生在哲學層面，即改變人類理解現實的方式以及我們在其中所扮演的角色

3.2.1. 我們被逐步納入這個過程，被動地裹挾其中，很大程度上既不知道它已造成什麼影響，也不知道它在未來幾年可能帶來什麼變數

3.2.2. 奠定其基礎的是計算機和網際網路的出現，而其發展所達的頂峰將是無處不在的人工智慧，以或顯而易見（如新藥研發和自動語言翻譯）或不易察覺（如從我們的行為和選擇中學習並對此加以調整，以預測或塑造我們未來需求的軟體過程）的方式擴充套件人類的思維和行動

3.2.3. 現在，人工智慧和機器學習的前景已然呈現，執行復雜人工智慧所需的算力正變得唾手可得，幾乎沒有哪個領域不受影響

3.2.3.1. 那些一度只有人類思維能夠涉足的領域都留下了人工智慧的印跡

3.2.3.2. 軟體將成為一種可以增強我們的能力和經驗的動態資訊處理強化器，既塑造我們的行為，也從我們的行為中學習

3.3. 人工智慧賦能的技術將成為人類感知和處理資訊的永久伴侶，儘管它佔據著與人類不同的“精神”層面

3.3.1. 無論我們視其為工具、伴侶還是對手，它都會改變我們作為理性生物的經驗，並永久性地改變我們與現實的關係

3.3.2. 這種轉變既不是人工智慧固有的威脅，也不是其天生的救贖

3.3.3. 與以往的技術截然不同的是，人工智慧很可能會改變社會的軌跡和歷史的程序

3.4. 在越來越多的應用領域中，機器正在設計出超出人類想象的解決方案

3.4.1. AlphaZero證明，至少在遊戲領域，人工智慧已不再受現有人類知識的限制

3.4.2. 2016年，DeepMind公司的分支機構DeepMind Applied開發了一種人工智慧（執行原理與AlphaZero大致相同），以最佳化谷歌溫度敏感資料中心的冷卻操作

3.4.2.1. DeepMind的人工智慧程式進一步最佳化了冷卻操作，將能耗又降低了40%，這相比人類取得的成績有了很大的改善

3.5. 當人工智慧在不同領域取得類似的突破時，世界將不可避免地發生變化

3.5.1. 結果將不僅僅是人工智慧以更有效的方式執行人類佈置的任務

3.5.2. 在多數情況下，人工智慧將提出新的解決方案或方向，這些解決方案或方向將帶有另一種非人類的學習和邏輯評估形式的印記

3.5.3. 當多國軍隊開始採用由機器制定的戰略和戰術，而這些機器又能感知人類士兵和戰略家無法感知的作戰模式時，力量平衡將被改變，並可能更難以計算

3.5.4. 社會內部和社會之間，也就是採用新技術的人群和選擇不採用同類技術或缺乏相應手段開發或獲得技術的某些應用的人群之間，將出現新的分化

3.5.5. 政治領域

3.5.5.1. 在政治領域，世界正在進入一個由大資料驅動的人工智慧系統為越來越多方面提供資訊的時代

3.5.5.2. 政治資訊的設計，向不同人群定製和分發這些資訊，旨在挑撥社會關係的惡意行為者杜撰和操弄虛假資訊，以及設計和部署相應演算法來檢測、識別和對抗虛假資訊及其他形式的有害資料

3.5.5.2.1. 這些背後都會有人工智慧介入

3.5.5.2.2. 結果，自由社會的前景，甚至自由意志，都可能會被改變

3.6. 隨著各個社會出於各自不同的目標、不同的訓練模式，以及在人工智慧方面可能存在的互不相容的操作和道德限制來發展自己的人機夥伴關係，它們可能會陷入競爭、技術不相容，以及越來越嚴重的相互不理解

3.7. 如果人工智慧在某項任務上的表現超過了人類，那麼堅持不採用人工智慧，甚至不把它作為人類的輔助手段的做法，可能會顯得非常不合常理，甚至會被認為是一種疏忽

4. 人類思維

4.1. 人類思維登上歷史舞臺的過程歷經了數個世紀

4.1.1. 文藝復興見證了古典著作和探究模式的重新發現，這兩者隨即被用來認識一個隨著全球探索程序而不斷擴大視野的世界

4.1.2. 在啟蒙運動期間，笛卡兒的格言“我思故我在”將理性思維奉為人類的決定效能力，並宣稱它具有歷史中心地位

4.1.2.1. 這一概念也傳達了一種打破對資訊的既定壟斷的可能性，而這種壟斷當時主要掌握在教會手中

4.1.3. 在西方，印刷機的出現和新教改革挑戰了官方的等級制度，改變了社會的參照系

4.1.3.1. 從透過《聖經》經文及其官方解釋來揣測神意，到透過個人分析和探索來尋求知識和成就

4.2. 如今，這種假定的人類理性優越性遭遇了部分顛覆，而能夠匹敵或超越人類智慧的機器卻在激增，這預示著一場可能比啟蒙運動更為深遠的變革即將到來

4.2.1. 即使人工智慧的進步沒有產生通用人工智慧(AGI)，即能夠完成人類水平的任何智力任務，並能夠將任務和概念與其他學科聯絡起來的軟體，人工智慧出現本身也將改變人類對現實的定義，從而改變人類對自身的界定

4.3. 基於理性的選擇一直是人類的特權

4.3.1. 自啟蒙運動以來，它也一直是人類的決定性屬性

4.3.2. 能夠近似人類理性的機器的出現，將同時改變人類和機器

4.3.3. 機器將啟迪人類，以我們不曾預期或始料未及的方式擴充套件我們現實世界的疆界

4.3.4. 事物發展也有可能走向反面：吸納了人類知識的機器將被用來貶低和削弱我們

4.4. 儘管人工智慧可以得出結論、進行預測、制定決策，但它不具備自我意識，換句話說就是它沒有反思自己在世界上所扮演角色的能力

4.4.1. 它沒有意圖、動機、道德或情感，不過即使沒有這些屬性，它也可能會發展出與人不同、出人意料的方法來實現被分配的目標

4.5. 在人工智慧的不斷進步及其日益廣泛應用的助推下，人類的心智歷程也將經歷一番柳暗花明，一些以往無法實現的目標如今已觸手可及，其中包括用於預測和減輕自然災害的模型、更深奧的數學知識，以及對宇宙及其所在現實的更全面理解

4.6. 要實現這些目標及其他可能性，需要改變人類與理性乃至現實之間的關係，而這種改變很大程度上是悄無聲息的

4.6.1. 這是一場革命，人類現有的哲學概念和社會制度讓我們在面對這場革命時頗有些措手不及

5. 做出決策的三種主要方式

5.1. 由人類（這是我們熟悉的）

5.2. 由機器（這正在變得熟悉）

5.3. 由人機合作（這不僅是陌生的，而且是前所未有的）

5.3.1. 人類為機器定義一個問題或目標

5.3.2. 機器在人類無法企及的領域中運作，決定要追求的最優過程

5.3.3. 一旦機器將某個過程帶入人類可知的領域，我們就可以嘗試去研究它、理解它，並在理想情況下將其納入現行慣例中

5.3.4. 單是人機夥伴這種關係本身，已經標誌著與以往經驗的深刻背離

5.4. 這種發展將改變所有領域，將它們納入人工智慧輔助過程中，到那時，純人類、純人工智慧和“人類—人工智慧”混合決策這三者之間的界線有時會變得難以界定

5.4.1. 美國空軍已經將AlphaZero的基本原理應用到一種名為ARTUμ的全新人工智慧上，該人工智慧在一次試飛中成功地操縱了一架U-2偵察機，這是在沒有人類直接監督的情況下首個自主駕駛軍用飛機和操作其雷達系統的計算機程式

5.4.2. 發現Halicin的人工智慧不僅在狹義上（滅殺細菌、給藥）擴充了人類研究者的觀念，在廣義上（疾病、藥物、醫療）也是如此