讀所羅門的密碼筆記01_當人類遇見機器

1. 第五次鉅變

1.1. 從純線性計算系統過渡到更具認知能力的擬人技術

1.1.1. 神經網路和機器學習技術的應用使計算機系統能夠在最少的監督下進行學習，識別複雜的模式，並向人們提供建議和決策

1.1.2. 人類用來研發人工智慧技術的非凡能力突破了人類大腦的限制，彌補了人類的弱點，這也是這個新的認知時代所帶來的光明一面

1.1.3. 先進的認知技術所帶來的影響深遠的連鎖反應和出人意料的後果，使它們既是人類的靈丹妙藥，又是潘多拉魔盒

1.2. 堅持讓至少一人處於整個行動流程之中

1.2.1. 如果我們決定將人類排除在整個流程之外，我們遲早要面對一些關鍵的技術、倫理道德的問題

1.3. 權力也在於這些新興的人工智慧模型能否整合各種資料流，併為棘手的複雜問題提供可行的解決方案

1.3.1. 當利用人工智慧多方位分析知識、形成新的見解和智慧時，它們就成了那些掌權者手中強大的指揮和控制工具，而不瞭解這些認知系統的人將處於絕對的劣勢

1.4. 人工智慧和認知計算系統能夠幫助我們做出決策，帶來巨大的收益

1.4.1. 一個複雜的人工智慧系統可以預測出下一次世界糧食危機將在哪裡發生，然後重新調整全球供應鏈，先發制人地解決瓶頸問題

1.4.2. 以人工智慧為基礎的心理健康干預措施可以大幅降低精神病患者的自殺率

1.5. 人工智慧系統需要反映人類的推理方式，同樣重要的是，它們應該以人類可以理解的方式解釋自身的決定和行動，尤其在生死攸關的重大決定上

1.5.1. 它們不應該被用於壓迫他人、歧視少數族裔或者欺騙和利用那些缺乏數字化經驗的人

1.5.2. 這是一種負責任的領導力，它適用於戰場上計程車兵、經濟利益相關者、接受教育的學生，以及我們所有公民

1.6. 在抵達光明之前，人們必須先穿過黑暗

2. 當人類遇見機器

2.1. 人們總是在幸福的無知中度過一生

2.1.1. 從很多方面來說，我們的身體和生活就像一個黑匣子

2.1.2. 當疾病或災難來襲時，我們總覺得這是一個意外的不幸

2.1.3. 無論是好是壞，我們都在摸索前行，在試錯中發現自己的長處和短處

2.2. 如今，人工智慧在我們的生活中無處不在，而且未來也不會消失

2.2.1. 我們今天所說的智慧機器，可能在明天看來就是僵硬刻板的了

2.3. 人工智慧的強大威力，它能強化我們的長處，改進我們的不足，化解生活中的種種威脅

2.3.1. 因為信任人工智慧而限制自己的選擇，放棄人生的各種可能性

2.4. 人工智慧雖然還未將自動駕駛汽車送上高速公路，但它已經幫助人類駕駛員繞過交通擁堵的路段

2.5. 人工智慧對使用者消費模式、社會情緒波動和政治趨勢的看法越來越準確

2.6. 在理財人工智慧成為主流之前，沒有人需要別人來協助處理面對機器推薦的艱難選擇

2.7. 人工智慧可以處理所有可量化資料的集合

2.7.1. 人們需要的是情感上的智慧來支撐這些選擇，並讓它們變得吸引人

2.7.2. 這些脆弱、複雜、情緒化的動物仍然需要這樣的支援

2.8. 隨著這些系統獲得越來越多的認知能力，它們也許能在一定程度上反映我們所說的“意識”，或有能力對其行為和所處的環境做出反應

2.8.1. 應對日益強大的人工智慧技術將會帶來的社會、倫理、經濟和文化困境

2.9. 如果在設計下一代人工智慧時以智慧和遠見行事，從錯誤中吸取經驗與教訓，人類就能實現繁榮昌盛

2.9.1. 谷歌的Duplex（智慧電話助手）可以自動撥打以假亂真的語音電話來幫使用者預訂餐廳

2.9.2. 亞馬遜的Alexa（智慧音響）可能會不小心聽到使用者的私密對話

3. 人工智慧的當下與未來

3.1. 機器可能會大大增強人類的能力，但它們也可能會限制我們對自己能力上限的預估，讓我們不再相信自己的自我認同和生活態度可能會發生變化，因為理性的抉擇可能會讓你放棄一些人生選擇

3.2. 到那時，你還能幸福地無知下去，義無反顧地選擇在生活的磨難和試錯中蹣跚前行嗎？

3.3. 可能會給人類帶來福祉

3.3.1. 使我們的世界更加安全（例如預測犯罪）

3.3.2. 讓人們更加健康（例如識別癌症風險）

3.3.3. 改善人們的生活（例如更好地匹配工作，或處理複雜的金融交易）

3.4. 人生是一場探險，生命的意義在於體驗

3.4.1. 人工智慧將改變個體進行自我發現的人類特性

3.4.2. 每一項積極的技術進步都可能讓人類避免一個嚴重的錯誤

3.4.2.1. 這樣做可能也會減少意外的發現，剝奪人們從錯誤中學習和獲得情感成長的機會

3.5. 計算機技術無處不在，資料分析日益複雜，利益衝突的參與者與日俱增

3.6. 雖然技術革新將創造不可估量的經濟和社會效益，但它們也會為公開透明和公正判斷製造巨大的障礙

3.6.1. 複雜的演算法模糊了選擇、影響力和權力的作用機制

3.7. 神經網路（大體上以人類大腦為模型）的突破使人工智慧領域在長期蟄伏之後又開始重新煥發生機

3.7.1. 這些技術架構可以使系統在大量非結構化資料集中構建模型，找出其中的規律，透過資料的積累提升效能，快速準確地識別物件

3.8. 當人工智慧網路創造出越來越高的價值，生產越來越多人們每天都在使用的產品和服務，而人類對設計和決策的控制越來越少時，我們的工作和生活將發生天翻地覆的變化

3.8.1. 技術已經用高產出的工作取代了低效率的體力勞動

3.9. 我們是否能以足夠快的速度創造新的就業機會，取代因人工智慧自動化而失去的工作？

3.9.1. 我們自己一手創造的成果正在將我們甩在身後，令我們難以望其項背

3.10. 人工智慧和自動化所帶來的破壞性影響已經滲透到了生活的方方面面

3.10.1. 機器在我們不知情的情況下就在為我們做決定，不需要我們主動參與，甚至無須徵得我們同意

3.10.2. 演算法會梳理關於我們的綜合資料，總結我們過去的模式，以及世界上其他相似人群的模式

3.10.3. 我們收到的新聞，是基於自己和同類人在過去的行為中所透露的潛意識傾向而生成的

3.10.3.1. 這些新聞又反過來塑造了我們的看法、觀點和行為

3.10.4. 利用這些資訊進行差異化定價，以適應每個人的感知滿意度、對消磨時間的需求度和成癮程度

3.10.4.1. 某位使用者可能花2美元就能買下一款遊戲，而另一位可能需要花10美元

3.11. 並不意味著機器將奴役人類並剝奪人類的自由意志

3.11.1. 經常為了獲得一些好處，不假思索地同意勾選一堆蠅頭小字寫成的長篇條款

3.11.2. 我們不再需要刻意地重新審視每個決定，而是可以相信機器會“幫我們做出正確的選擇”

3.11.3. 至少從嚴格的理性的角度來看，機器比我們更加了解我們自己

3.12. 即使我們心甘情願地參與其中，機器也無法解釋理想自我和現實自我之間的認知失調

3.12.1. 基於真實行為所獲得的真實資料，會讓機器將我們束縛在自己的過去，而無法讓我們成為自己想要的樣子

3.13. 生活中處處是選擇

3.13.1. 機器可能基於使用者表現出來的價值觀，特別是商業喜好，來為使用者畫像，投其所好，但是機器會忽略使用者壓抑在心底的其他隱性價值觀

3.13.2. 機器可能無法解釋新信念的出現或人們價值觀的改變，甚至可能為了維護我們的安全而犧牲他人的利益，做出我們並不同意的決定

3.13.3. 機器可能會歧視那些不那麼健康或不那麼富裕的人，因為演算法傾向於統計平均值

3.13.4. 人類是複雜的生物，我們經常會根據當下情況進行利弊權衡

3.13.4.1. 對人工智慧而言，可能鮮有先例可以參考

3.14. 不能假定人工智慧可以始終客觀高效地工作，絲毫沒有偏見或先入為主的想法

3.14.1. 雖然機器沒有複雜的情緒，也沒有人類那樣的古怪性格，但是程式設計師的個人經歷、傾向及隱性偏見，或者其僱主的動機，仍然可能會被植入演算法，潛移默化地反映在資料集的選擇之中

3.15. 我們永遠無法對人工智慧抱有足夠的信任，充分利用它所帶來的無限機遇

3.15.1. 對它們置之不理，機器對生活的影響都在不斷擴大

3.15.2. 即將到來的人工智慧大爆發將帶來巨大的希望和巨大的風險

3.15.3. 首先確保智慧機器的可信度和可靠性，我們就可以預防最嚴重的災難，為深入研究人工智慧的最佳發展道路奠定基礎