讀AI新生：破解人機共存密碼筆記03計算機

1. 效用理論反對意見

1.1. 獲得必要的機率和效用值，並將它們相乘來計算期望效用，這是很有難度的

1.2. 總之，最大化期望效用可能不需要計算任何預期或任何效用

1.2.1. 這純粹是對理性實體的外部描述

1.3. 對理性理論的另一種批判在於如何確定決策的源頭

1.4. 對效用理論的主要反對意見來自經驗主義，也就是說，這些意見是基於實驗證據的，而這些實驗證明：人類是非理性的，我們無法以系統的方式遵循公理

1.5. 不是因為我們的偏好是非理性的，而是因為決策問題的複雜性

1.6. 雖然將“有益的人工智慧”（Beneficial AI）理論建立在“人類是理性的”這一假設之上非常不合理，但假設成年人對未來生活有大體一致的偏好則非常合理

1.6.1. “有益的AI”這一理論可以適應人類偏好的不一致，但是你的偏好中不一致的部分將永遠無法得到滿足，人工智慧也無能為力

1.6.2. 機器人無法提供讓你滿意的比薩，因為總會有另一種你更喜歡吃的比薩

1.7. “災難”的概念本身就意味著這是一種絕對不受人歡迎的生活

2. 兩個人的理性

2.1. 理性主體的行為是為了最大化期望效用，這一基本思想非常簡單，但實際上做起來出奇地複雜

2.2. 現在，世界的一部分，即另一個主體，正試圖猜測你要做什麼，反之亦然，所以我們不清楚如何給世界上這一部分人的行為分配機率

2.3. 在行動之前，每個人都會在心裡拋一枚帶有適當偏差的硬幣，這樣他們就不會洩露自己的意圖

2.3.1. 透過不可預測的行為，愛麗絲和鮑勃避免了矛盾

2.3.2. 即使鮑勃知道愛麗絲要採取隨機策略，沒有水晶球的他也無能為力

2.4. 把理性決策理論擴充到多個主體身上會產生許多有趣而複雜的行為

3. 納什平衡

3.1. 為了紀念約翰·納什（John Nash）

3.1.1. 1950年，22歲的納什證明了無論遊戲規則如何，這樣的均衡都存在於任意數量的理性主體之

3.2. 納什平衡的概念不同於期望效用決策，納什平衡並不總是隻有唯一的行動建議

3.3. 囚徒困境

3.3.1. 納什的博士生導師阿爾伯特·塔克（Albert Tucker）在1950年提出來的

3.3.2. 囚徒困境是這樣一種博弈，假設愛麗絲和鮑勃是犯罪嫌疑人，正在分別接受審訊

3.3.3. 每個人都有一個選擇，要麼向警方坦白並告發自己的同夥，要麼拒絕招供

3.3.4. 如果二人都拒絕招供，他們都會被判處較輕的罪名，各服刑2年

3.3.5. 如果兩人都招供，他們將被判處更嚴重的罪名，各服刑10年

3.3.6. 如果一個坦白，另一個拒絕招供，那麼坦白的人會被釋放，而拒絕招供的人則要服刑20年

3.4. 公地悲劇

3.4.1. 英國經濟學家威廉·勞埃德（William Lloyd）於1833年首次分析了這一理論

3.4.2. 生態學家加勒特·哈丁（Garrett Hardin）於1968年將其命名為公地悲劇，並引起了全球範圍的關注

3.4.3. 在沒有任何社會或法律約束的情況下，自私（非利他）的主體之間唯一的納什平衡就是每個主體儘可能多地消費，這會導致資源迅速枯竭

3.4.4. 理想的解決方案是，每個人都分享資源，使總消費是可持續的，這不是一種均衡，因為每個人都有作弊的動機，拿走比公平份額更多的資源，從而將損失強加於他人

3.4.5. 在實踐中，人類有時確實會透過懲罰、建立配額或定價機制來避免這種悲劇的發生

4. 計算機

4.1. 合理地定義智慧是創造智慧機器的第一要素

4.2. 第二要素是製造出一臺可以實現這一定義的機器

4.2.1. 這臺機器就是計算機，其原因顯而易見

4.2.2. 它本可以是其他東西

4.3. 單個盒子能夠執行你可以想象得到的任意過程，這種能力叫作通用性

4.3.1. 這是1936年艾倫·圖靈（Alan Turing）首次提出的概念

4.3.2. 通用性意味著我們不需要單獨的機器分別進行算術、機器翻譯、下棋、語音理解，以及製作動畫，一臺機器就可以完成所有任務

4.3.3. 圖靈介紹通用性的論文是有史以來最重要的論文之一

4.4. 在數學史上，很少有新的物件出現

4.4.1. 數學始於有記載的歷史之初的數字

4.4.2. 然後，大約在公元前2000年，古埃及人和巴比倫人開始研究幾何物件（點、線、角、面積等）

4.4.3. 中國數學家在約公元前1000年引入了矩陣，而集合作為數學物件直到19世紀才出現

4.4.4. 圖靈的新物件：機器和程式，也許是有史以來最強大的數學物件

4.4.4.1. 機器和程式一起定義了一系列事件，具體而言，就是機器及其記憶體中的一系列狀態變化

4.4.4.2. 數學領域在很大程度上沒有認識到這一點，從20世紀40年代開始，計算機和計算一直是大多數主要大學工程系的研究領域

4.5. 電腦科學的核心概念是演算法，這是一種精確指定的計算方法

4.6. 計算機硬體很重要，因為速度更快、記憶體更大的計算機可以讓演算法執行得更快，處理更多資訊

4.6.1. 第一臺商用電子可程式設計計算機費倫蒂馬克一號（Ferranti Mark I）每秒可以執行大約1 000（10^3）條指令，擁有大約1000位元組的主儲存器

4.6.2. 截至2019年初，速度最快的計算機是美國田納西州橡樹嶺國家實驗室的Summit超級計算機，Summit每秒執行大約10^18條指令（速度比費倫蒂馬克一號快1 000萬億倍），擁有2.5×10^17位元組的儲存器（比費倫蒂馬克一號大250萬億倍）

4.6.2.1. 根據摩爾定律的經驗，晶片上的電子元件數量每兩年就會翻一番，這一現象預計將持續到2025年左右，儘管速度會略慢一些

4.6.2.2. 這種進展源於電子器件的進步，甚至基礎物理學的進步，微型化已經達到了令人難以置信的程度

4.7. 雖然拿計算機與大腦比較並不是特別有意義，但是Summit中的數字量略微超過了人腦的原始容量

4.7.1. 人腦有大約10^{15個突觸，大約0.01秒的“週期時間”，理論上每秒最多能完成大約10}17次“運算”

4.7.2. 二者最大的不同是功耗，Summit消耗的電能是大腦的100萬倍

4.8. 除了加速推進通用計算機之外，另一種可能是構建專門用於執行某一類計算的專用裝置

4.9. 量子計算則完全不同

4.9.1. 它利用量子力學波函式的奇異特性來實現一些非同尋常的事情：用兩倍數量的量子硬體，你可以完成兩倍以上的計算

4.9.2. 截至2019年，擁有幾十個量子位元的小型量子處理器的實驗原型已經投入執行，但是沒有什麼有趣的計算任務可以讓量子處理器的速度比經典計算機的速度更快

4.9.2.1. 主要的困難是退相干，因為熱噪聲等過程會破壞多量子位元波函式的相干性

4.9.2.2. 雖然擁有幾百個完美量子位元的量子計算機與現有的經典計算機相比將會非常強大，但我們可能需要幾百萬個糾錯量子位元來真正實現這些計算