讀所羅門的密碼筆記05_新的力量平衡

1. 技術發展

1.1. 美國和中國儼然成為人工智慧研究、開發和部署方面無可爭議的領導者

1.2. 人類從未徹底阻止某種技術的發展，雖然不同國家在不同時間對克隆、化學武器和核武器等技術採取了暫停或禁止措施，但我們仍在繼續推進最前沿的基因工程、武器和其他各領域的技術發展

1.3. 實驗室裡經過改造的轉基因作物擁有更強的抗蟲抗旱能力，生產成本更低，更節約水和其他資源，特別有助於幫助全球的貧困地區

1.3.1. 人們普遍不信任人類對大自然的操縱和大公司對利益的追求

1.3.2. 但是欠已開發國家因為在為填飽肚子而苦苦掙扎，所以更注重轉基因作物所帶來的直接好處

1.4. 人為干涉大自然應該受到道德譴責

1.5. 錘子可以用來敲釘子，也可以用來砸破腦袋

1.5.1. 人類的想象力可以極度誇大技術對人類自身和社會造成的傷害

1.6. 在過短的時間內發生如此快速的變革將會壓垮人類和整個社會

1.6.1. 阿爾文·托夫勒

1.6.2. 讓人們對加速變革所帶來的危險後果有所準備

1.7. 對危險的擔憂很少轉化為主動的行動，讓我們去重新奪回對發展的控制，重新審視技術發展對人類生活的影響

1.7.1. 當創新產生我們認為對個人有害的東西時，我們幾乎總是無動於衷

1.7.2. 只有當它們帶來主要的流行病，例如香菸大量致癌或阿片類藥物成癮影響美國社會權貴階層時，政策制定者才會開始呼籲採取行動

1.8. 為數不多的體現人類遠見卓識、積極引導技術發展的案例之一就是人類基因工程

1.8.1. 聯合國各成員國在人類基因工程被公開試用之前就共同制定了指導方針，對其進行譴責

2. 人工智慧更快更強大

2.1. 它對我們的生活、價值觀和人際關係產生了廣泛的影響，可能從根本上改變人類社會、文化和經濟，甚至比網際網路的影響還要大得多

2.2. 就像網際網路一樣，基於人工智慧的創新可能會階段式爆發，即使它會時斷時續

2.3. 所有這些讓人措手不及的快速變革都向我們提出了種種問題，這不僅需要技術人員、政治家或監管者來回答，還需要人們從整個社會中尋找答案

2.4. 如果我們把那些容易犯錯的人從方向盤後面趕走，我們的道路將變得更加安全。

2.4.1. 矽谷軟體和微晶片開發公司新思科技（Synopsys）的汽車戰略副總裁、大眾汽車美國公司電動汽車和創新前高階副總裁布克哈德·漢克

2.4.2. 告訴那個人他不能再開車又是另一回事了

2.4.3. 因為它觸動了你成為司機的自由,這不能由監管機構來解決，而必須在一個完全不同的層面上解決

3. 照護機器人

3.1. 海豹機器人PARO最初討人喜歡可能純粹是因為樣子長得可愛，但真正與使用者鎖定這種親密關係的是它精巧的設計

3.2. 在毛茸茸的白色海豹皮毛底下，研發人員將機器人的觸覺感測器放入氣球中，這樣使用者就不會摸到堅硬的地方了

3.2.1. 當他們將PARO設計成重約6磅，即大約一個嬰兒的重量時，他們故意把它做成海豹的形象，以避免人們聯想到貓、狗等常見的寵物

3.3. 它的可愛背後凝聚的是嚴謹的研發思路，這讓海豹機器人成為照顧老年病人，特別是阿爾茨海默病患者的能手

3.4. 它的有效性其實來自人性之中更深層次的東西：我們暫時放下懷疑的能力

3.5. 人們在多大程度上將機器視為社會生物

3.5.1. 要為這隻機器人海豹加上一點兒什麼，才會讓人們更強烈地把它當作一隻真正的海豹

3.6. 人工智慧和機器人系統開發者在編寫程式時，經常會使它們能傳達人類的特質或情感，讓人類與機器建立更加緊密的聯絡

3.6.1. 人們一開始對機器百分百信任，但當它沒有實現功能或兌現承諾時，人們就會將其行為視為一種徹底的背叛

3.7. 對PARO最早的擔憂包括擔心它誤導和操縱病人，雖然我們的生活中也有很多毫無惡意的例子

3.7.1. 我們已經從電影、戲劇和小說中獲得了極大的樂趣，這些作品都需要我們大腦的想象和加工

3.8. 加速並放大了機器認知的發展，因為這些人工智慧系統一直在處理一些人類最根本的、直接的、有形的和共性的需求

4. 人工智慧的前景與風險

4.1. 技術的快速發展充滿各種未知性，這使得人工智慧應用的前景和威脅顯得更加緊迫，但人類天生擁有一種超凡的能力，可以接受並不一定符合我們最佳利益的權衡妥協

4.2. 20世紀70年代，核能成為一種廉價而清潔的電力來源

4.2.1. 勝利者書寫的“二戰”簡史幫助美國的核能卸下了破壞力強的道德包袱

4.2.2. 自切爾諾貝利事故和福島核事故發生以來的幾十年裡，人們的焦慮情緒不斷加劇

4.2.2.1. 核能的負面影響立刻清晰顯現：一次事故就能造成巨大的人員傷亡

4.2.3. 今天，核武器或核能令人不敢小覷

4.3. 汽車對我們的環境和生活所造成的危害已經超過了核能

4.4. 汽車和核能的前景與威脅日益凸顯

4.4.1. 人們投入了數億美元的研發經費，使這兩種技術更加安全，確保大多數人永遠不會有身體或心理創傷

4.5. 與核武器和汽車不同，人工智慧及類似技術並未對我們的日常生活產生顯而易見的影響

4.5.1. 對生活產生的負面影響也遠沒有那麼明顯

4.5.2. 從這個意義上說，它們更像是藥品

4.5.2.1. 人類透過大幅降低脊髓灰質炎和百日咳的發病率，以及控制愛滋病的致死率，挽救了數億人的生命

4.5.2.1.1. 過去20年裡，新生兒疫苗預防了2 100多萬人住院治療，挽救了73.2萬條生命

4.5.2.2. 每當我們開始使用下一批藥物，我們都有可能碰上新的突變，也許是流感病毒株或是鏈球菌細菌，從而引發連續感染

4.5.2.3. 隨著阿片類藥物、抗抑鬱藥、類固醇和其他藥物在治療計劃中越來越普遍，這些藥物可能引發一系列成癮危機

4.5.2.4. 人工智慧的廣泛使用將在很多方面促進人類發展、改善人民生活，但我們仍然要像對待藥物一樣，考慮其潛在的副作用，不再重蹈汽車和核能的覆轍

4.5.2.5. 我們往往看不到也無法理解高深複雜的演算法和神經網路，就像我們不能理解自己體內的生物細菌、病毒和化學反應背後最微小且深層的作用機制一樣

4.5.3. 人工智慧將以資料為燃料，成為卓有成效的自主經濟的發動機

4.5.3.1. 要利用人工智慧的潛力治療現代社會的弊病，同時避免最壞的副作用發生，我們必須將這些力量向人類利益傾斜

4.5.3.2. 餐館和規模統一的工業化連鎖餐廳使人們對食物買得到、買得起，而且食物又好吃

5. 七度關係

5.1. 在技術方面，人類的想象力可以天馬行空，甚至比高科技路線圖走得更遠

5.2. 儘管迄今為止幾乎沒有證據表明新興的超級智慧即將出現，許多中國民眾已經開始擔心人工智慧的發展，因為他們對技術本身知之甚少

5.3. 人們想要找的東西往往與他們得到的搜尋結果不一樣

5.3.1. “結果多樣性”作為主要指標之一，以滿足不同使用者的搜尋需求

5.4. 基於商品化的人工智慧平臺開發的產品已經更具投資吸引力

5.5. 中國企業的規模更加令人瞠目結舌，尤其考慮到中國企業的全球化擴張並不如美國公司，它們的數字卻已經接近甚至超過了美國企業

5.6. 這些公司的厲害之處在於，它們非常瞭解使用者，並且對使用者的生活有著很強的“黏性”

5.6.1. 社交媒體、搜尋和電子商務行業形成了一兩家公司獨大的局面，這使得使用者被更加緊密地繫結在這些平臺上

5.6.2. 這也造成了一些公司的準壟斷地位，它們運用強大的人工智慧平臺向我們推送稱心如意的產品，不斷增強我們對其內容和建議的依賴

5.6.3. 網際網路巨頭的演算法黏性正是其服務的價值所在

5.6.4. 這種對社會關係的不斷經營使科技巨頭成為我們生活中的得力助手

5.6.5. 這些公司可以潛移默化地、下意識地引導我們的決策

5.6.5.1. 這是一種無形的、不可抗拒的力量，我們往往不能輕易察覺

5.7. 從理論上講，我們仍然擁有改變思想和價值觀的自由，而且我們常常會隨環境和處境的變化做出相應的改變

5.7.1. 機器學習演算法可以利用我們已有的偏見，並在我們毫無意識的情況下強化它們

5.7.2. 我們可能會受到高明的操縱，這可能是一般的非技術人員永遠無法理解的

5.7.3. 政客和技術嫻熟的駭客可以將虛假新聞和廣告植入社交網路，巧妙地操縱我們對當前新聞和流行趨勢的看法

5.7.3.1. 人工智慧可以幫助他們將這些精心包裝的內容直接投放到毫無戒心的使用者的資訊流中，提高人們對某些新聞的認知，加劇社會緊張氣氛，甚至影響政治結果

6. 認知能力再混合

6.1. 認知就是力量，而智慧機器的日益強大代表著一種新的力量源泉，一種強大的新智慧

6.1.1. 由人類創造，但人類必須與之一較高下

6.1.2. 說到底，我們也是智慧生物

6.1.3. 我們對我們消費的媒體有自己的解讀，我們仍然會投出自己的一票

6.2. “群體智慧”

6.2.1. 將一群人組織成一種“實時人工智慧系統”，結合並提高個人的智力，最佳化集體知識

6.2.2. 公司的底層演算法可以協調不同人群的不同思維，將他們的知識、洞察力和直覺整合到一個“單一新型智慧”中

6.2.3. 將其比作蜜蜂的互動行動，蜜蜂可以解決蜂群位置和食物來源等複雜問題，儘管它們每個腦袋裡只有1億個神經元

6.2.4. 人類大腦不管變得多麼複雜，最後終將達到其容量極限

6.2.4.1. 換個思路，透過與其他大腦建立聯絡來提升智慧

6.2.5. 該人工智慧都有著不錯的預測能力和見解

6.2.5.1. 將50位影迷組成一個智慧叢集，讓他們預測獲勝者

6.2.5.2. 獨來看，他們的預測準確率平均是60%

6.2.5.3. 當集合到一起，他們的預測準確率達到了94%，比任何一位釋出預測結果的個人專家都要高

6.2.5.4. 他們當中沒有一個人看過所有的提名影片，大多數人只看過兩部電影，羅森貝格這樣對西南偏南大會的與會者說道

6.3. 從理論上講，社交網路可以提升這種個人信譽，因為它可以透過對數百萬或數十億人的分析，獲得和你一樣的洞察力，給你提供有力的推薦

6.3.1. 從資料集中提取出見解並將結果與個人相匹配的演算法，僅僅代表了一種你與其他多人相關的機率，並不是真正與你個人的一對一匹配

6.4. 因果關係，這一理解世界運作方式和原理的基本要素，可能是下一代人工智慧系統的必備要素

6.4.1. 它必須真正理解其中的因果關係，你生活中的某件事如何導致另一件事

6.5. 不斷迭代的人工智慧將使我們暴露於其他實體的威力之下，由它們塑造我們的生活，但人工智慧也將幫助我們發展，培養自己的助手和權威

6.6. 如果我們希望利用這些技術的潛力在未來10年或20年實現價值，我們此時此刻就需要建立一種新的力量平衡

6.6.1. 主動權還是在我們手裡