讀所羅門的密碼筆記02_三個C

1. 認知

1.1. cognition

1.2. 思考人工智慧系統如何瞭解我們的過去、現在和未來

1.3. 認知，是要提取大腦的各個功能，包括感知（例如物件識別和語音識別）、模式識別、意義建構、推理、解決問題、任務規劃和學習

2. 意識

2.1. consciousness

2.2. 思考人工智慧如何看待我們未來幾年的生活、社會和經濟發展

2.3. 如果機器只有認知，而沒有意識，不具備對自己所見和所推薦內容的思考能力，那麼這將會產生嚴重的風險

2.3.1. 如果機器不能對自己的行為和存在方式進行反思，它就不能評估自己的角色及其對人類環境帶來的影響

2.4. 人工智慧科學家們正在朝著喚醒機器意識的終點衝刺

2.4.1. 他們究竟是剛剛離開起跑線，還是已經進入了衝刺階段，取決於你問的是哪位專家

2.4.2. 不論是哪一種情況，我們都必須在機器意識覺醒之前為它們灌輸良知

3. 良知

3.1. conscience

3.2. 制定章程，指導人工智慧朝著有利於人類未來的方向發展

3.3. 如果有思考的能力，卻沒有與之相稱的道德評價能力，那麼它將會帶來更大的危險

3.3.1. 從人類心理學的角度來說，我們會稱這樣的角色為“反社會分子”，或是“沒有良知的人”

4. 透明度

4.1. 對於人工智慧程序在“三個C”方面的任何深入思考，最終都繞不開透明度和獨立評估機會的問題

4.2. 如果對人工智慧的發展、演算法和資料集沒有高度的洞察，我們就很難保證機器會遵循一套保護人類價值觀的有良知的模型

4.2.1. 監測這些機器提供的廣闊機會，減少它們可能帶來的巨大風險，是釋放人工智慧所有潛能的必經步驟

4.3. OpenAI

4.3.1. 這一組織的使命是“打造安全的人工智慧，確保人工智慧的效益儘可能廣泛而均勻地分配”

4.3.2. 為一個倫理問題提供技術解決方案

4.4. 新的政策和社會解決方案不能僅僅依靠技術，它們需要更廣泛的社會討論，以應對人工智慧新時代的機會和挑戰

4.4.1. 我們的工作機會和身份認同正變得岌岌可危

5. 價值、權力和信任

5.1. 從輪子的發明到內燃機的出現，從第一臺個人電腦到當下最複雜的超級電腦，科技一直在改變我們的生活和工作方式

5.1.1. 科技重新定義了我們如何生產、學習、獲取財富、與他人互動，也重新定義了我們生活中的制度規則

5.2. 憑藉著複製人類認知和身體機能的能力，人工智慧已經成了我們日常生活的一個獨特的參與者

5.2.1. 重塑的方式也取決於人類和機器之間的力量制衡

5.2.2. 演算法利用海量資料流，早已看穿了我們的伎倆，它會更加客觀地呈現我們

5.2.3. 那些聰明的演算法和演算法設計者決定要忠實地給使用者畫像，所有的缺陷都不放過

5.3. 與人工智慧對話的最大問題在於，我們正在談論的是人工智慧會對我們做什麼

5.4. 而隨著人工智慧的演化，我們應該談論的是，人類正在對自己做什麼

5.5. 考慮

5.5.1. 這些智慧系統如何代表人類多元化的價值觀和身份？

5.5.2. 人工智慧的決策以主人為中心？

5.5.3. 人工智慧將我們的自身利益和家庭利益最大化，還是希望它被設為“聖人模式”？

5.5.4. 各個社會群體的價值和自我價值該如何分出高低？

5.5.4.1. 由誰來進行這樣的評價？

5.5.5. 當公司蒐集到越來越多關於使用者態度、行為和偏好的資料時，他們使用的演算法是否會將顧客利益和社會利益放在第一位，抑或會完全唯利是圖？

5.5.6. 這些決定直接關係到我們要對社會和周圍的人施加什麼樣的影響力

5.6. 在價值和權力充滿不確定性的環境中，我們脆弱的信任成了這個社會中最寶貴的貨幣，甚至比金錢和知識更寶貴

5.6.1. 對人工智慧缺乏瞭解將為可信度和誠信度帶來更高的溢價

5.7. 根據我們的搜尋歷史，要給出解釋可能再簡單不過，而我們也只是笑笑

5.7.1. 但事實上，我們不可能總是知道系統會如何對我們進行分類和劃分

5.7.2. 隨著演算法在生活中的角色越來越重要，我們希望機器會公平地對待每一個人，引領人類走向最美好的未來

5.7.3. 這一重任將落到那些指引我們未來創新的演算法設計者和道德框架制定者身上

6. 人的因素

6.1. 醫療保健行業已儼然成為最受矚目的人工智慧應用行業之一

6.1.1. 2016年，IBM（國際商業機器公司）的沃森腫瘤醫生（Watson for Oncology）宣佈將與探索診斷公司（Quest Diagnostics）開展一項合作，將其強大的人工智慧技術與後者的腫瘤基因組測序技術相結合

6.2. 以機器和人類為主導的醫療服務之間的界限正在變得越來越模糊

6.2.1. 考慮到人工智慧系統能夠蒐集、處理和學習的研究資料超過任何一位人類專家所能消化的研究資料，我們將在多大程度上信賴這些系統的分析能力？

6.2.2. 機器檢測放射影像異常的能力已經遠遠超過了人類

6.2.3. 我們很難想象沃森或其他任何人工智慧給出的建議會與我們最終選擇的道路相同

6.3. 許多在現代醫學的客觀分析框架之外所發生的事情，最終對安的康復產生了巨大的影響

6.3.1. 第二位醫生樂於承認自己在專業知識上的侷限性，並欣然接受了其中的一些新資訊

6.3.2. 如果我們的第二位醫生用人工智慧生成的統計分析來補充他的建議，那麼我們還會決定遵從自己的內心去選擇風險更大的道路嗎？

6.3.3. 這種疾病是可以戰勝的，她將癌症想象為被白細胞取代的行為不當的細胞

6.3.4. 出於母親的本能，她有強烈的意願要保護孩子的健康，這也使她更加堅強

6.3.5. 儘管從科學角度來說，資料具有客觀性和真實性，但人工智慧並不能保證所有的治療都能奏效

6.3.6. 它的建議只是基於過去的結果，它只能基於統計歸納來預測未來

6.3.7. 有時候，直覺反應可能會更好

6.4. 如果她選擇了與標準治療方案更接近的治療路徑，同樣的風險依舊存在

6.4.1. 替代路徑並不總是奏效，而且大多數的標準治療方法之所以成為標準，是因為它們的療效和其他療法一樣好，甚至更好

6.4.2. 安的經歷說明了人們決策的廣度和由此產生的可能性，這也表明讓機器去捕捉人類的複雜性是多麼困難

6.4.3. 安願意承擔風險，因此成了一個產生不同結果的積極例證

6.5. 一個以人工智慧為基礎的平臺可能會更傾向於規避風險，而不願嘗試另一種未經證實的方法

7. 機器的因素

7.1. 沃森當然不是萬能藥

7.1.1. 除了偶爾召開的新聞釋出會或大膽預測，沒有一位沃森的開發人員或參與研究的醫生聲稱人工智慧將取代人類醫生及其專業技能

7.1.2. 它能夠在平均40秒的時間內讀取病人的資料進行分析，並反饋治療建議

7.1.2.1. 人類小組處理一個病例需要大約12分鐘

7.1.3. 當遇到更復雜的癌症時，包括類似於安所患的癌症，這一匹配率會下降

7.2. 人工智慧是一種有用的補充，可以從大量的癌症文獻中學習，更好地幫助醫生制訂診療方案

7.2.1. 人工智慧將幫助人類（而非取代人類），已成為人工智慧支持者的普遍觀點

7.2.2. 雖然機器在某些診療任務中已經達到甚至超過了人類的能力，例如梳理大量的醫學報告或識別異常的放射影像，但它們還不能提供可靠的診斷，也不可能具備情感

7.2.3. 將來這些系統的結合將能更好地發現異常現象，並提供關於該疾病全球研究的簡明概要，然後把兩者都交給醫生，並幫助病人在知情的情況下做出選擇

7.2.4. 醫生將不再進行基本的健康分析，而將從更廣的角度來設計健康解決方案和專案

7.3. 目前很少有人像信賴醫生那樣信賴機器，這也是情有可原的

7.3.1. 對那些熱衷於科學技術所帶來的好處的人來說，人工智慧在人類專業知識和能力之外的領域擁有一種神奇的力量

7.3.2. 印度的研究報告可能為強大的人工智慧開始補充甚至取代充滿了侷限性、錯誤和偏見的人類判斷提供了新證據

7.4. 沒有一位專家懷疑人工智慧將重塑整個醫藥行業，不論是藥品、支付方式、成本控制，還是醫患關係

7.4.1. 這些人類肉眼不可能注意到的微小異常，可能預示著高鉀水平、心律不齊以及其他各種心臟和健康問題

7.4.2. 所有這些監測功能都整合在你的腕錶中，只要透過手指觸控就可以實現

7.4.3. 這些領域的各種進步預示著人類在健康監測、診斷和治療方面取得的非凡成就

7.5. 大資料並不一定代表強大的分析能力

7.5.1. 沃森關於癌症治療的建議充其量只是與現有的存活率、癌症突變和治療相關資料表現得一樣好

7.5.2. 新的發現可以從根本上改變癌症及其他疾病的診斷和治療方法

7.5.3. 人工智慧系統可能會為個人和社群健康提供一種預測，但任何預測最終都依賴於資料和演算法的質量，沒有什麼是完美的

7.5.4. 個人的任何偏好都會影響治療效果，不論是更好還是更壞

7.6. Face2-Gene公司開發了一款應用程式，透過將患者的面部特徵和患有疾病的人的面部特徵做比較來診斷疾病，在疾病檢測方面取得了令人印象深刻的進步

7.6.1. 從444名幼兒中成功預測出，約有380人具有自閉症譜系障礙

7.7. 處理巨大機遇和風險之間的平衡已經不只是一個醫療健康領域的問題了

7.7.1. 一些僱主已經開始利用人工智慧對求職者的一段15分鐘的語音樣本進行分析，由此評估每一位物件，以尋找更具合作精神的員工或者更優秀的領導者

7.7.2. 汽車學會了自動駕駛，機器人提高了自己的製造能力或學會了對坐在一旁的人類情緒變化做出反應