讀所羅門的密碼筆記18_大憲章

1. 大憲章

1.1. 1215年會議開啟了一個艱難的談判過程，充滿了緊張和對權力與道德權威的爭奪

1.1.1. 這部憲章會賦予各方一系列的權力，對國王的自由裁量權進行制衡

1.2. 《大憲章》還需要300多年的時間和多次迭代，才能成為財產權、公平稅收、司法程式和政府最高法律的參考檔案

1.3. 當殖民者到達北美海岸時，他們為殖民地制定了自己的憲章，並最終透過了《憲法》和《權利法案》，這使得《大憲章》中的理想得以實現，無論貴賤貧富，每個公民都享有他們應有的權利

1.4. 很少把《大憲章》看作一個具有約束力的法典範例，而是更多地把它看作人類朝著權力與受權力支配者之間的平等關係邁進的分水嶺

1.5. 標誌著歷史上一個難以駕馭的時期的開始，這一過渡時期包括不同大陸和大洋之間的人員流動，新的政治結構的出現，以及在日益互聯的世界中發展中國家之間可能出現的許多致命衝突

1.6. 為權力之間的對話奠定了基礎，最終導致了啟蒙運動、文藝復興和憲政民主，而憲政民主是幾個世紀以來人們用流血和衝突換來的

1.7. 儘管它確實導致了一些錯誤，但也可以公平地說，至少對西方國家來說，它為制度、政治和政府監管框架提供了肥沃的土壤，這些最終促進了貿易和投資的經濟增長，並透過歐洲和美洲大陸社會力量之間的辯證關係推動著人類和文明的進步

2. 人工智慧系統

2.1. 當我們把更多的判斷和決策委託給人工智慧系統時，我們面臨的一些關於價值觀、權力和信任的問題，與幾個世紀前約翰國王和他的貴族們討價還價的問題如出一轍

2.2. 認知計算機系統現在幾乎影響了世界上大多數最大的工業化國家中人民生活的方方面面，而且正迅速滲透到發展中經濟體

2.3. 我們不能把“妖怪”放回瓶子裡，也不應該嘗試這麼做

2.4. 人工智慧及其相關的先進技術可以讓我們的生活變得更美好，引領人類進入成長和發展的新領域

2.5. 人類的進化正在迎來爆發式的發展機遇，這不同於我們過去千年經歷過的任何事情

2.5.1. 爆發式發展和革命性變化都是混亂的、模糊的、充滿道德風險的

2.6. 需要考慮認知系統（就像生活中數以萬計的細菌和病毒）會給我們的大腦和社會帶來什麼樣的連鎖反應

2.7. 將新的應用程式投入市場時，我們還需要落實保障良好基礎設施的關鍵要素，包括尊重多樣性的社會文化規範的數字化，適當的感測器和資料蒐集技術，以及規範開發和部署的治理機構、政策和法律

2.8. 由於認知系統滲透到生活的各個領域，所以這些結構不能由技術、商業或政府專家獨自構建，也不能在不瞭解各種人工智慧應用及其潛力的寬泛政策中加以規定

2.8.1. 需要一系列歷史學、人類學、社會學和心理學方面的專業知識，以多樣化的視角思考不同群體的價值體系，以及這些先進技術將對他們產生什麼影響

2.8.2. 需要弄清楚哪些應用引發了哪些問題，如果想要發揮它們的潛力，那麼我們就不能過度或過少地限制它們

2.8.3. 需要確保聽到最廣泛的聲音，尊重人們的價值觀，這樣人工智慧才能為全人類的共同利益服務

3. 全球人工智慧經濟大憲章

3.1. 包含了指導人工智慧相關技術發展的目標和責任，為人機共存的未來奠定了基礎

3.2. 透過整合經濟、社會和政治背景，這份憲章將開始塑造集體價值觀、權力關係和信任度

3.3. 作為這個共享世界中的人類，我們對控制人工智慧系統的人類和組織充滿了期待

3.4. 需要一份充滿活力的憲章，它具有足夠的可塑性，能夠適應人工智慧可能帶來的不可避免的破壞

3.5. 應該建立一個全球治理協會，具有相互認可的核查和執行能力

3.6. “寒武紀大聯盟”，以表明人類成長機會的大爆發可能類似於地球歷史上寒武紀時期的生命大爆發

3.6.1. 大聯盟應包括公共部門、民營部門、非政府組織和學術機構，它們的共同目標是基於共同商定的準則支援賦予人類權力

3.7. 應該鼓勵提高透明度和可解釋性，從而增進人類和機器智慧之間的信任和平等

3.8. 應該促進一種更強大的共生智慧關係，增強人類的力量和潛力，而不僅僅是提高機器的效率

3.9. 如果沒有憲章或國家組織來規定和監督它，那麼我們不僅可能無法減輕其對人類安全的嚴重威脅，也可能錯過一個前所未有的發展人類、促進理解的機會

3.9.1. 無論如何，使用人工智慧及其同類技術既可能促成巨大的進步，也可能造成可怕的後果

4. 倡議網路

4.1. 有些時候，想法比時代超前，但也有時候，創新跟不上時代的發展

4.1.1. 從一些先驅者身上汲取關於人工智慧管理的靈感

4.2. LSTM（長短期記憶網路）

4.2.1. 讓人工智慧系統記住某些資訊，而不需要儲存它所消耗的每一個位元和位元組的資料

4.2.2. LSTM幾乎使所有型別的深度神經網路都變得更加有效，為可行的自動駕駛提供了平臺，並使得語音處理程式的效率大大提高

4.3. 對於任何新藥，我們都必須權衡其潛在的有效性和副作用

4.3.1. 並不侷限於識別已知的毒素，而是開始發現新的、可能會產生類似不良影響的結構，這些亞結構往往更小，且以前並不被製藥研究人員所知

4.3.2. 必須先將資料轉化為知識，然後根據知識來做出決策

4.4. 人工智慧設計的倫理準則

4.4.1. 約翰·C.黑文斯和制定IEEE《人工智慧設計的倫理準則》的委員會，可能已經代表了最全面的全球意見，因為他們從世界各地的開發人員、倫理學家和其他跨學科的人工智慧專家那裡廣泛徵求意見

4.5. 人工智慧合作組織

4.5.1. Partnership on AI

4.5.2. 或許是企業界最廣為人知的關於人工智慧的組織

4.5.3. 蘋果、亞馬遜、臉書、谷歌、微軟和IBM，以及美國公民自由聯盟、國際特赦組織等都是其成員

4.5.4. 也與OpenAI合作

4.6. 許多商業部門的巨大努力都是透過基金會或非政府組織的架構來運作的，經常需要多個學科學者的參與，並需要保持與政策制定者的聯絡

4.7. 在英國，一些世界著名的思想家們聚集在劍橋的生存風險中心和人類未來研究所

4.7.1. 這兩個機構都希望制定相關戰略和協議，為先進技術創造一個安全有益的未來

4.8. 實幹派智庫

4.8.1. 世界經濟論壇將該中心設定為一個“實幹派智庫”，執行一些務實的試點專案來看效果，而不是提出一些無法付諸實踐的抽象理論

4.8.2. 這些專案是其與合作政府、企業、民間組織和學術機構共同建立的，目的是讓那些合作政府能夠試點這些政策，然後再進行推廣實施

4.8.2.1. 在非洲使用醫用無人機，幫助當地建立自主飛行標準，幾個月以來已有其他幾個國家採用了這一標準

4.8.3. 讓老師們結合本地的情況和文化習俗因地制宜、因材施教

4.9. 世界上首部基於效能的無人機交通監管法規

4.9.1. 無人機運營商必須滿足一定的安全和運營標準，航空監管機構也將對國家空域內無人機的使用負責

4.9.2. 可能會使盧安達的空域向各種各樣的創新者和創意敞開大門

5. 包容才能有效

5.1. 所有這些舉措都在提升全球對人工智慧價值、權力和信任的認知

5.2. 每項舉措都至少有三個不完美之處

5.2.1. 許多行動都是自上而下的，或者是由技術精英、社會精英或政治精英所推動的

5.2.1.1. 無論初衷有多好，一個小而強大的小群體只能引導我們到一定程度，而人工智慧已經開始滲透到我們生活的方方面面，且通常是以非常私密和身份塑造的方式影響我們的

5.2.1.2. 遠離世界歷史上那些最黑暗的“贏者通吃”的權力掠奪

5.2.2. 沒有一個論壇獲得了明確的授權，可以評估和促進人工智慧對社會經濟地位低下階層的社會影響

5.2.3. 西方代表和西方思維模式似乎主導了幾乎所有的領導組織

5.2.3.1. 工智慧跨越了地理界限和社會階層

5.2.3.2. 需要一份新的“憲章”，代表社會各個階層的不同利益——無論是技術、哲學、神學、社會經濟，還是商業、文化等領域

5.3. 每個國家的政府都應該思考並明確說明它對即將到來的變革所持的立場，以及人民應該如何引導它

5.3.1. 在人類發展中如此重要的關鍵時刻，我們不能聽天由命，只有觀點明確的人才能對共同的未來願景做出有意義的貢獻

5.3.2. 不需要有嚴格的先後順序，因為一個多方利益相關的論壇可以表明國家的立場

5.3.3. 隨著國家立場開始形成，我們可以開始進行現代數字化憲章的國際協調和談判

5.4. 在理想的情況下，一份被廣泛採納、共同執行的協議將概述指導這些努力的原則。該協議以正式檔案的形式存在，並由一個支援組織在必要時進行協調、監控和執行

5.5. 作為第一要務，大聯盟需要具有智庫的功能，能夠進行診斷和優先順序排序

5.5.1. 為了實現這一目標，大聯盟將在人工智慧部署的優先領域進行案例研究，確定存在的問題和二級社會效應，以及各個案例參與者的激勵方案

5.6. 為了將誠信合作嵌入商業主導、廣泛存在於我們生活中的事物中，我們需要讓民營部門代表直接參與進來並授予他們權力，比如創造未來世界的社會企業家、人工智慧發展滯後的國家政府，以及在社會生活不同領域代表弱勢群體或無聲群體的非政府組織

5.7. 許多其他協議也成了政治願望的犧牲品，遭到長期忽視

5.7.1. 從應對氣候變化的《巴黎協定》到《伊朗核問題協議》，從英國脫歐到美國威脅退出《北美自由貿易協議》，現在各種跨國條約變得越來越難以維持

5.8. 一個相容幷包、尊重各方、自下而上的方法可能有助於恢復信任，並讓我們的協議有望避免落入與許多其他全球協議同樣的命運

5.8.1. 政府代表是不可或缺的，但政府本身缺乏靈活性和相關的專業知識來推動有益的和負責任的創新

5.8.2. 民營部門和民間社會人士的共同參與能對科學社會發展的重要細節給予更多的關注，因為他們的工作就處在科技前沿

5.8.3. 世界各國對人類和機器的角色仍然存在著不同的政治和哲學觀點

5.9. 這些組織已經廣泛地開展了人類發展的專案，對全球社會有著深入的洞察力，它們可以利用可觀的捐贈資金投資計算能力和其他所需的資源，公正地測試專案，並召集一群積極的利益相關者