讀所羅門的密碼筆記20_更好的自己

1. 民營部門

1.1. 障礙最大的一步，與履行協議所需要的人才和技能有關

1.2. 多樣性很好，不要過分依賴任何一種資源，因為政府會出於政治原因淡化問題，不尊重科學，甚至退出協議

1.2.1. 民營部門和非政府組織的強大聯盟可能在這方面發揮至關重要的作用

1.2.2. 由於不少美國商界領袖支援《巴黎協定》的目標，如果這些商界領袖和公民領袖能夠參與談判，那麼川普總統退出該協定的可能性也會大大降低

1.3. 就目前的情況來看，很少有人工智慧和先進技術方面的問題能夠吸引公眾足夠的注意力，從而為國際治理提供一條清晰的途徑

1.4. 唯一的例外可能是自主武器

1.4.1. 軍用機器人可以在無人干預的情況下選擇和攻擊軍事目標

1.4.2. 隨著視覺識別技術的進步以及小而便宜、快速又低能耗的計算裝置的廣泛應用，致命自主武器的“自主”部分實現起來越來越容易

1.4.3. 基於無人機的致命自主武器似乎不受軍事協議的制約

1.4.4. 自主武器很容易成為大規模殺傷性武器，因為它們便宜到可以一次性使用，可以有效找到特定目標，而且如果人為進行大量部署，它們可以“佔領半個城市”

1.4.5. 如幽靈般的小而廉價的“屠殺機器人”

1.4.5.1. 讓許多人對人工智慧產生了反烏托邦的恐懼，但這確實值得大眾和政府關注

1.4.6. 美國的政策禁止致命自主武器自動開火，一部分是因為在計算機程式碼中，要捕捉到決定何時殺死誰的所有因素極其困難

1.4.7. 對致命自主武器的監管最終可能會為我們將來制定廣為接受的治理條款提供一些初步經驗

2. 更好的自己

2.1. 如果不能讓各方儘可能廣泛地參與辯論，形成共同的價值觀，並在權力間找到適當的平衡，特別是在政治和商業力量的此消彼長之間把握平衡，那麼我們就無法對人工智慧建立足夠的信任

2.2. 我們比人類歷史上的任何時候都更能抑制人性最惡的一面，充分發揮人類的創造力、想象力和探索力

2.3. 我們的人類精神及使命，使我們達到了地球上其他生命都無法企及的高度，我們擁有更大的智慧和力量，但我們並不總是在負責任地利用這種優勢

2.4. 我們心懷渴望，希望生活有意義，並希望為我們自己和子孫後代做點兒貢獻

2.4.1. 我們中的一些人用極權主義或激進的方式來看待這些事情，但大多數人不這麼看

2.4.2. 有時，是那些頭腦最遲鈍的企業家對我們的生活產生了最大的影響

2.4.3. 有時，是那些行為笨拙的科學家指引我們登上月球、潛入海底，在攀登知識高峰的旅途中永不滿足，不斷拓寬宇宙、思想和靈魂的邊界

2.4.4. 偉大的人類思想家不會休息，除非我們進步與成長，與周圍的人建立夥伴關係

2.5. 我們總是在創造的同時毀滅

2.5.1. 我們創造了下一個時刻、下一個月、下一年、下一個世紀的世界

2.5.2. 我們製造了冰冷僵硬的工具，卻用它們來建立溫暖的社會和情感紐帶

2.5.3. 每當我們靠近另一個人來分享一個新的想法或一種新的情感時，我們就會將這種同理心、想象力與創造力深度融合在一起，這讓我們能夠合作、創新、夢想、愛和創造

2.6. 基於英美原則追求全球化，即商品、服務和資本的自由流動，這導致了許多社會難以承受的失衡

2.6.1. 全球資料經濟不再由華爾街和倫敦金融城（也就是倫敦作為金融中心）來引領，而是由數字領域的企業家引領

2.6.2. 全球資料經濟的自動化機器將會繼續存在

2.7. 新機器也可以進行創造

2.7.1. 它們可以創造未來的模型，而且通常比人類的眼光更好、更有洞察力

2.7.2. 它們可以從大量複雜的資料集和人類大腦無法處理的微妙模式中獲得見解

2.7.3. 人工智慧系統已經在與我們一起創造世界了，但它們是以一種截然不同的方式來創造的

2.7.4. 它們無法分享人類存在的經驗和數百萬年的生物進化，因為這些進化在我們的大腦中已被編碼，作為人類生存的基礎記憶而存在

2.7.5. 這種共享的經驗形成了一種機器無法共享的紐帶

2.7.6. 我們中的許多人透過各種宗教或哲學信仰來表達這些聯絡，幾乎所有的信仰都是為了公正、正義、關懷和愛而奮鬥

2.7.7. 它們從來沒有從原始的黏液中爬出來，經歷細胞試錯、成功和失敗、快樂和痛苦、滿足和挫折，站在珠穆朗瑪峰頂或月球表面，高舉它們的手臂，向全人類高呼

2.7.8. 它們的學習並沒有被情感強化

2.7.9. 它們的身體並不是為了給大腦提供各種內在和外在的感覺，這些感覺增強了人類與環境的聯絡以及人類生存和進化的能力

2.8. 機器可能會與我們一起進化成另一個物種

2.8.1. 要避免把大腦想象成簡單的計算機模擬的衝動

2.8.2. 大腦的奧秘掩蓋了身體的感覺、情感和認知之間複雜的相互作用，以及對構成人類整體的認知

2.8.2.1. 艾倫·賈薩諾夫，《生物心理學》

2.8.2.2. 人類的認知仍然需要與身體和環境進行一系列複雜的互動

2.8.2.3. 人類大腦還處在起步階段

2.8.2.4. 我們會將一個領域的概念嫁接到另一個領域，儘管這經常會讓朋友們皺起眉頭或轉動眼珠進行思索

2.8.2.5. 我們正在與某個遙遠的概念發生奇妙的聯絡，進而得到某個天才的想法

2.8.2.6. 我們思想的隨機波動會讓自己捧腹大笑，懷著喜悅的心情錨定瘋狂的想法，直到多年以後，當最不經意的事件激發了這個想法時，才會顯露出它的古怪

2.8.3. 必須避免落入陷阱，將人類和機器等同起來，把兩者作為競爭對手，爭奪智慧金字塔的頂端

2.8.4. 機器智慧和人類智慧協同互補比兩者過度競爭要強得多

2.8.4.1. 具有神經網路能力的認知機器可以幫助我們成為更有效的感測器和更快的處理器，因此，我們可以建立更多的聯絡，做出更好的決策

2.8.4.2. 它可以幫助我們構建更強大的科學架構、人類社群或生態彈性

2.8.4.3. 它可以透過模擬難以想象的複雜情況和執行場景來幫助人們制定策略，增強人們選擇最佳路徑的能力

2.8.4.4. 需要智慧機器來幫助人們解決最嚴重和最棘手的問題，如氣候變化、醫療保健以及和平共處，但這也需要我們的願景、精神、目標、靈感、幽默和想象力

2.8.4.5. 透過與人工智慧的分析和診斷能力相結合，我們可以翱翔到新的高度，更深入全面地瞭解自然，探索更深邃的宇宙，以前所未有的方式在宇宙中樹立人類的地位

2.8.4.5.1. 也許是有史以來我們第一次可以實現對人性的渴望，加強環境保護，走出零和遊戲，最佳化我們日常生活中的眾多變數

2.8.5. 如果將這些被我們稱為人類的感知、感覺和思考的生物的獨特貢獻與人工智慧機器的純粹認知能力結合起來，那麼人們將創造一種共生的智慧夥伴關係，它有可能將我們和世界帶向新的高度

2.8.5.1. 有些事情可能會出錯，我們可能在每個轉折點上深思熟慮

2.8.5.2. 鐘擺將在極度樂觀和深切的擔憂之間搖擺不停

2.8.5.3. 我們每前進兩步，都會後退一步，並不斷重複

2.8.6. 我們豐富的人類多樣性將建立起價值觀、權力和信任的共同基礎

2.8.6.1. 這就是我們在一個智慧機器的世界裡構建人類未來的基石

3. 通用人工智慧

3.1. 奇點

3.2. 人們擔心具有通用人工智慧的機器可能會主宰人類，這樣的恐懼為一些新聞故事、小說和電影提供了靈感

3.3. 通用人工智慧的陰霾引發了人們關於人工智慧對人類意味著什麼的深刻思考

3.4. 無論我們是否實現了通用人工智慧，在特定的應用程式中模仿人類智慧的狹義人工智慧工具正在迅速發展，這導致了媒體所稱的“機器和系統中出現了智慧行為”

3.4.1. 佈滿監控的社會正在慢慢形成，也有證據表明，即使最聰明的演算法也可能步入程式化，而不是彌補人類自身判斷的偏見和缺陷

3.5. 一場資訊和不實資訊之間的戰爭

3.5.1. 臉書這樣的平臺能夠將廣告和資訊定向傳送給特定的群體甚至個人，從而影響政治討論和選舉結果，併為全球各地的人們提供新的交流方式

3.5.2. 這些資訊和交流往往會佔用我們大量的時間

4. 人工智慧工具

4.1. 新興的人工智慧工具的泛濫正在加速智慧平臺和自動化系統的力量增長

4.1.1. 在其核心，所有不同型別的人工智慧技術都有一個共同的目標，即獲取資料、處理資料並從資料中學習，正是資料量的爆發式增長使得人工智慧技術突飛猛進

4.1.2. 至少從理論上講，長期來看，具有先進的推理和抽象能力的人工智慧系統，能夠以與人類同級甚至更高的水平來執行原來由人類智慧才能勝任的任務

4.1.3. 智慧工具和系統正在迅速普及，它們的力量隨著人工智慧工具的發展而不斷增強，改變了商品和服務的建立、生產和分配方式

4.1.3.1. 公司需要調整它們的流程、產品和服務以適應新技術，維持或贏得競爭優勢

4.1.4. 在一個人工智慧機器和應用程式日益紛繁複雜的世界裡，各種可能性和挑戰都存在著巨大的不確定性

4.2. 智慧工具和系統不會導致技術性失業

4.2.1. 新創造的就業機會將抵消被消滅的舊崗位

4.2.2. 但新工作將與被替代的工作在技能、職業和工資方面有所不同

4.2.3. 自動化將繼續偏向高技能型人才，技術轉移和丟失工作的最大風險將落在低技能水平的工人身上

4.2.4. 關鍵問題就是，智慧工具和系統所帶來的新任務和新工作將如何影響工作的質量

4.3. 推動我們研究的關鍵在於，技術發展能否以及如何創造並維持高質量的就業機會和高技能工作

4.4. 讓經驗較少但並非技術水平較低的工人來承擔更為艱鉅的任務

4.4.1. 當前人類完成的重複性勞動將變為由機器來執行的重複性任務，工人負責監控和評估機器的執行情況

4.4.2. 這一切將不僅取決於技術本身，還取決於勞動者的政治影響力和勞動力市場的法律法規，這些特徵在不同國家之間有著明顯的差異

4.5. 數字系統本身的基本安全性也構成了重大的經濟和社會挑戰

4.5.1. 確保其財務、智慧和運營資產是至關重要的

4.5.2. 網路安全已經躍升為最大的商業風險，企業需要對系統進行大量投資，以防止競爭對手、個人或政府進行網路攻擊

4.5.3. 企業和機構層面的網路安全突然成了網路衝突的一部分，既包括國家之間的網路衝突，也包括作為非政府主體攻擊工具的網路衝突

4.6. 為了適應不斷變化的科技機遇和挑戰，現有各領域的機構，從學校到司法系統，再到國防系統，都需要不斷改革

4.6.1. 重新設計教育體系來滿足新技術時代的需要，遠比簡單擴大現有的教育體系、招收更多的學生、延長教育時間困難得多

4.7. 在人工智慧工具日益強大的數字時代維護網路安全，防止可能的數字技術濫用

4.7.1. 明確什麼是私人網路安全，什麼是網路衝突和網路戰爭中的公共責任，是至關重要的

4.8. 數字化或人工智慧系統本身的管理問題

4.8.1. 關於市場競爭、歐洲競爭政策和美國反壟斷政策的基本規則，都在逐漸地適應那些擁有全球能力的主流平臺玩家，他們有能力塑造我們看待世界的方式，並且控制著海量的資訊和資料

4.8.2. 人工智慧引擎的黑匣子中隱藏了帶有偏見的判斷

4.9. 既是一種道德責任，也是一種實際需要，那就是為個人和社群提供社會保護、貢獻社會能力，來適應由人工智慧驅動的技術變革所帶來的巨大變化

4.9.1. 僅僅為那些生活被技術變革破壞的人們提供過渡期必要的幫助，還不足以確保社會、經濟和政治穩定

4.9.2. 為那些流離失所的人們描繪美好的未來、創造新的工作機會將是至關重要的

4.10. 人工智慧工具和它所支援的系統與平臺的發展速度比預想中要快，這要歸功於計算能力、半導體和資料儲存方面的突破

4.10.1. 那些不接受或者不適應的人可能會被拋在後面

4.10.2. 對國家來說，未能制定有效政策以維持相對公平的結果將與未能採取措施一樣具有破壞性