讀人工智慧時代與人類未來筆記16_科學發現

1. 科學發現

1.1. 科學認識的發展往往涉及理論和實驗之間的巨大差距以及大量的試錯

1.2. 模型不是像傳統的那樣來自理論理解，而是來自基於實驗結果得出結論的人工智慧

1.2.1. 這種方法需要的專業知識不同於開發理論模型或傳統計算模型

1.2.2. 它不僅需要對問題有深刻的理解，還需要知道哪些資料，以及資料的哪些表徵，將有助於訓練一個人工智慧模型來解決問題

1.3. 機器學習對科學理解的重要性日益增加，這對我們看待自己的方式和我們在世界上所扮演的角色提出了另一個挑戰

1.3.1. 人工智慧為科學探究、發現和理解增加了一種非人類的、與人類相異的世界概念

1.4. 科學歷來是人類的專業知識、直覺和洞察力的巔峰組合

1.4.1. 在理論和實驗的長期相互作用中，人類的聰明才智推動了科學探索的各個方面

1.5. 在生物、化學和物理科學領域，一種混合夥伴關係正在形成，人工智慧正在促成新的發現，那是一些人類雖未能親自發現，卻可以努力做出相應理解和解釋的發現

1.5.1. 人工智慧在生物和化學科學領域推動廣泛發現的一個突出例子是AlphaFold的開發，這一程式使用強化學習建立了強大的新蛋白質模型

1.5.2. AlphaFold使用強化學習來模擬蛋白質，而不需要人類的專業知識，即之前的方法所依賴的已知蛋白質結構

1.5.3. AlphaFold將蛋白質摺疊的準確性從大約40%提高了一倍多，達到約85%，這使得世界各地的生物學家和化學家能夠重新審視他們以前無法回答的問題，並提出關於如何對抗人類、動物和植物中病原體的新問題

1.6. 人工智慧正在超越以往在測量和預測方面的限制，其結果是改變了科學家為治療疾病、保護環境和解決其他基本挑戰而獲取相應知識的方式

2. 教育與終身學習

2.1. 人工智慧時代的到來將改變我們與他人，以及我們與自己的關係

2.2. 未來，孩子們可能在比Alexas和谷歌Homes更先進的人工智慧助手的陪伴下長大，這個助手集保姆、導師、顧問、朋友等多種角色於一身

2.2.1. 助手幾乎可以教孩子任何語言，也可以訓練孩子學習任何科目，並根據每個學生的表現和學習風格來因材施教，使他們獲得最佳的學習效果

2.3. 數字助手的任務是透過個性化最大限度地提高人類同伴的便利感或滿足感，它們給出的建議和資訊可能會被人類使用者視為必不可少，即使人類使用者無法準確解釋為什麼它們要好於其他任何替代資源

2.3.1. 長此以往，人們可能會更偏愛自己的數字助手，而不是人類，因為人類不懂得投其所好，而且更“令人討厭”

2.4. 數字資訊的唾手可得已經改變了一代人的教育和文化體驗

2.4.1. 上一代的父母限制孩子看電視的時間，現在的父母限制孩子使用數碼裝置的時間一樣，未來的父母可能會限制人工智慧陪伴孩子的時間

2.4.2. 儘管數字化讓越來越多的資訊變得可用，但它卻壓縮了深入、專注思考所需的空間

2.4.2.1. 今天幾乎持續不斷的媒體流增加了思考的成本，從而減少了思考的頻率

2.4.2.2. 演算法為了回應人類對刺激的渴望而力推那些奪人眼球的事物，而能夠奪人眼球的，往往也是戲劇性的、出人意料的和有感染力的

2.4.2.3. 一個人能否在這種環境中找到思考的空間是一個問題，而如今占主導地位的交流形式不利於促進有節制的理性，這是另一個問題

2.5. 贊成讓孩子與人工智慧為伴的人

2.5.1. 希望推動孩子取得成功的人

2.5.2. 有意願或能力讓孩子得到人類父母養育或人類導師教導而只能依賴人工智慧的人

2.5.3. 只是想滿足孩子結交人工智慧朋友願望的人

3. 新資訊中介

3.1. 人工智慧正日益塑造我們的資訊領域

3.1.1. 這些組織和機構提煉複雜的資訊，強調個人需要了解的內容，並將結果廣而告之

3.2. 現在，從金融到法律，在每一個以密集腦力勞動為特徵的領域，人工智慧都正在被整合到學習的過程中

3.2.1. 真人編輯和主播可以解釋他們選擇呈現內容的原因，無論其是否準確

3.2.2. 只要人們還期望得到這樣的解釋，人工智慧時代就會讓大多數不瞭解其技術過程和機制的人失望

3.3. 人工智慧對人類知識的影響是自相矛盾的

3.3.1. 人工智慧中介能夠瀏覽和分析的資料的規模，比人類在無此協助之前所能想象的要大得多

3.3.2. 種處理大量資料的能力，可能也會加大對資料的操縱和誤導

3.3.2.1. 人工智慧能夠比傳統的宣傳更有效地利用人類的激情，它會根據個人偏好和本能進行調整，以給出其創造者或使用者所希望的回應

3.3.2.2. 場競爭的起伏變化促使社交媒體平臺和搜尋引擎競相呈現使用者最感興趣的資訊

3.3.2.2.1. 那些被認為是使用者喜聞樂見的資訊獲得了優先排序，扭曲了現實的本來面貌

3.4. 有些人會尋求資訊過濾不被扭曲，或者至少察覺到這種扭曲

3.5. 有些人會權衡各個過濾途徑，從而獨立地衡量結果

3.6. 有一些人則可能會選擇完全排斥人工智慧，而更偏愛透過傳統的人工資訊中介進行過濾

4. 原則

4.1. 為了確保人類的自主權，政府的核心決策應該脫離已被人工智慧浸染的結構，並僅限於人類的管理和監督

4.1.1. 確保人類對政府基本構成部分的監督和決定性參與，對於維持其正當性至關重

4.1.2. 在司法行政過程中，提供解釋和道德推理是其正當性的關鍵要素

4.1.3. 在人工智慧時代，當涉及重大問題時，決策者都應該是具備相應資質、能夠為所做選擇給出理由的非匿名人類

4.2. 民主也必須保留人的品質

4.2.1. 有意義的協商需要的不僅僅是發言的機會，還需要保護人類言論不被人工智慧扭曲

4.2.2. 言論自由應繼續作為人類的權利，而不能適用於人工智慧

4.2.3. 人工智慧有能力產生高質量和大容量的錯誤資訊，比如深度偽造的資訊，這些資訊很難與真實的影片和音訊記錄區分開來

4.2.4. 管人工智慧自動語音是應人們的要求建立和運用的，但重要的是要在它與真正的人類語音之間建立一種可理解的區分

4.2.5. 雖然對人工智慧中介進行監管，以防止其傳播錯誤資訊和虛假資訊（尤其是故意製造的虛假資訊）是困難的，但也是必不可少的

4.2.6. 在民主社會中，言論權允許公民分享相關資訊、協商參與民主程序，並透過創作小說、藝術品和詩歌來追求自我實現

4.2.6.1. 遏制產生錯誤資訊的人工智慧進行傳播，將有助於保護對我們的協商過程至關重要的言論權

4.3. 每個社會必須首先確定人工智慧在各個領域允許和不允許使用的全部範圍

4.3.1. 對某些強大的人工智慧，如通用人工智慧的使用權，需要嚴格把關，以防止被濫用

4.3.2. 因為通用人工智慧的構建成本可能相當高昂，只有少陣列織能夠負擔得起，所以其使用可能會受到限制

4.3.3. 限制在生物武器生產中使用人工智慧，應該很容易達成一致，但需要國際合作

5. 全新未來

5.1. 傳統的理性和信仰將在人工智慧時代繼續存在，但其性質和範圍必將因為引入一種新的、強有力的、機器運作的邏輯形式而受到深刻影響

5.2. 人類身份可能會繼續停留在“生命智慧”的頂峰，但人類理性將不再被視為致力於理解現實的智慧的全部

5.2.1. 側重點可能需要從“以人類理性為中心”轉移到“以人類尊嚴和自主性為中心”

5.3. 謹慎的人可能會試圖限制人工智慧，將其使用侷限於零散功能，並限定其使用時間、場所和方式

5.3.1. 社會或個人可能會保留自己絕對重要的地位和裁判者角色，將人工智慧置於輔助的次要位置

5.4. 人工智慧可能在探索和管理現實世界和數字世界方面發揮主導作用

5.4.1. 在特定領域，人類可能會對人工智慧言聽計從，更喜歡人工智慧的資料處理過程，而非人類思維的侷限性

5.4.2. 人工智慧的力量加上它的普遍性、隱蔽性和不透明性，將引發人們對自由社會甚至自由意志前景的懷疑

5.5. 在許多領域，人工智慧和人類將成為探索事業中的平等夥伴

5.5.1. 為了與人工智慧融洽相處，社會需要建立相應知識和心理基礎設施，並運用其獨特才智，儘可能地造福人類

5.6. 在每個獨立的人工智慧新運用佈局中，建立平衡至關重要

5.6.1. 個人的訊息會更靈通、準備會更充分、觀點會有更大影響力，他們可能據此對政府提出更多要求

5.7. 在東大，出於包括監管在內的目的，政府正大舉投資於人工智慧

5.8. 在米國，人工智慧研發在很大程度上被留給了私營部門

5.9. 歐盟的目標是加強對企業和政府使用資料和人工智慧方式的管理，並促進歐洲人工智慧公司的建立和發展

5.9.1. 限制甚至禁止政府使用某些被視為具有高風險的技術

5.9.2. 如人臉識別（儘管人臉識別有一些有益用途，如尋找失蹤人口和打擊人口販運）

5.10. 最大化與人工智慧的夥伴關係帶來的物質和知識利益

6. 對現實和人性的感知

6.1. 由人工智慧探索或在人工智慧輔助下探索的現實，可能會超越人類的想象

6.1.1. 它可能包含我們從未察覺或無法概念化的模式

6.1.2. 它被人工智慧所洞察的底層結構，可能是無法用人類語言表達的

6.1.3. 當它返航時，也可能帶回我們不能完全理解的模式或預言

6.2. 超越普通人類經驗的內在現實

6.2.1. 諾斯替派(Gnostic)哲學家

6.3. 必須重新定義我們的角色

6.3.1. 我們已不再是現實的唯一認知者

6.3.2. 還必須重新定義我們認為自己正在探索的現實

6.3.3. 即使現實沒有讓我們感到困惑，人工智慧的出現仍可能改變我們與現實以及我們彼此之間的關係

6.4. 人工智慧革命發生之迅猛，將超過大多數人的預期

6.4.1. 除非我們發展出新的概念來解釋、演繹和組織其所帶來的轉變，否則無論是對人工智慧還是對其所產生的影響，我們都無法駕馭

6.4.2. 在道德上、哲學上、心理上、實踐上，可以說在各個方面，我們均發現自己正處於一個新時代的懸崖邊，身後已無路可退

6.4.3. 我們必須動用自己最根本的素養和資源，比如理性、信仰、傳統和技術，來調整我們與現實的關係，從而讓現實仍是人類的現實