讀所羅門的密碼筆記04_社會信用

1. 人工智慧

1.1. 人工智慧可以幫助人們處理複雜的大氣問題，完善現有的氣候變化模擬，幫助我們更好地瞭解人類活動對環境造成的危害，以及如何減少這種危害

1.2. 人工智慧也有助於減少森林退化和非法砍伐

1.3. 人工智慧甚至可以將我們從枯燥乏味的生活中解放出來

1.4. 隨著日益複雜的人工智慧系統越來越多地進入我們的生活，我們可能會對單調乏味的生活獲得全新的控制，從而能更好地應對各種複雜的社會環境

1.5. “更智慧”的數字技術既觸手可及，又具有技術性和匿名性，這一點尤其重要

1.5.1. 任何有手機的人都可以使用先進的數碼工具對他人造成名譽和物質上的傷害，而且幾乎無須承擔責任

1.6. 預測分析、人工智慧和互動式機器人已經成為個人、政府和企業必不可少的寶貴工具

1.7. 識別系統

1.7.1. 這是一場交通違法專項整治運動的一部分，旨在減少交通事故和亂穿馬路的現象

1.7.2. 監控系統覆蓋的遠不只是主要城市的十字路口人行橫道

1.7.2.1. 截至2017年12月，東方某神秘大國大約在全國各地安裝了1.7億個攝像頭

1.7.3. 大眾識別系統透過識別和公開那些亂穿馬路的人來降低交通事故的死亡率

1.7.4. 將確保社會中的壞人無處可去，而好人來去自由，不受阻礙

1.7.4.1. 2018年4月底，該徵信系統已累計限制購買機票1 110萬人次，限制購買高鐵動車票430萬人次

2. 警務預測系統

2.1. 洛杉磯的執法部門使用了自己的一套先進的人工智慧系統來幫助警察監視潛在的熱點地區，識別可疑人員

2.1.1. 分數更高意味著你要面臨更多的檢查，也更可能與警察發生口角，填寫更多的現場調查卡，和隨之而來的更高的分數

2.1.2. 很少有人知道洛杉磯警察局究竟使用了多少資料，以及他們如何使用這些資料

2.1.3. 人們並不知道警察在使用這些資料時究竟受到多大的約束

2.1.4. 如果某人不止一次經過犯罪現場，他的名字在系統中的分數就會上升，這也意味著警察對他的潛在關注度提高了

2.1.4.1. 這種相關性有助於警方破案，雖然警察並不認為人在現場就意味著參與了犯罪活動，但這也會造成一些麻煩

2.2. 警務預測系統引發了人們對於人工智慧導致權力濫用的各種擔憂

2.2.1. 如果不設定適當的保護措施，智慧機器就可能幫助企業或政府操縱個人

2.2.1.1. 美國公民自由聯盟和洛杉磯的一些非政府組織已經開始抵制基於人工智慧的警務預測系統

2.2.2. 另一方面，警務預測的分析和預測能力也可以讓社會更安全

2.2.2.1. 警務預測有助於建立一個更文明的社群，創造更好的經商、旅遊、交通出行和人們日常生活的環境

2.3. 如果缺乏明確的指導，警察就可以任意標記或汙衊居民，而目前尚無相關法規要求洛杉磯警察局和其他部門必須刪除記錄、進行匿名化處理或只能將個人標記為犯罪區域的背景元素，例如建築物或樹木，而不是潛在的嫌疑人

2.3.1. 洛杉磯和紐約的居民很少能對這些技術採取同樣的抵制措施，部分原因是洛杉磯警察局和紐約警察局並沒有主動地與社群的警務預測系統進行溝通，更不用說在更加公開的公共論壇上討論了

2.4. 如果一名警方調查員搜查嫌疑人的各種紙質材料，包括歷史收據、家庭互動情況和比薩訂購記錄等，大多數美國人都會將其視為正當的搜查

2.4.1. 當警方檢視這些資訊的電子副本時，他們能得到同樣的資訊，他們現在可以更加肆無忌憚地窺視，而對他們的限制少了很多

2.5. 當調查人員進入不同的資料庫調查潛在嫌疑人，為申請搜查證和逮捕證蒐集依據，自然就會發生這種情況

2.5.1. 某些情況下，這些資訊並未出現在宣誓書或證據之列

2.5.2. 會在調查過程中發現這樣的情況，但在法庭上看不到這樣的證據

2.6. 執法部門不僅要能追蹤嫌疑人，而且更理想的情況是能夠預防犯罪

2.6.1. 政府可以更好地追蹤資訊，進行預警，緩解緊張局勢，防止犯罪活動的發生

2.6.2. 主要目的是盡最大努力防止死傷，那麼在犯罪發生後再派遣急救人員就等於失職，這也是對人力和經濟資源的嚴重消耗

2.6.2.1. 沒算上審判、緩刑和監禁的後續人力和財力成本

2.7. 大家都不能（也不願）解釋機器的推理過程

2.7.1. 給出的理由就是在激烈的市場競爭中要保守商業秘密

2.7.2. 如果我們不能解釋這種推理過程，那麼為嫌疑人辯護的律師就無從反駁，這就限制了他們為被告人提供另一番陳述的能力

2.7.3. 這在那些自詡透明、崇尚法治的國家中無疑是一個問題

2.8. 警務預測的結果稱為“向上涓滴”（trickle-up）的城市發展

2.8.1. 使那些“資料不太乾淨”的人們或弱勢群體因其經濟社會地位而被進一步邊緣化

2.8.2. 當出現家庭暴力報案時，如果該社群幫派橫行、毒品猖獗、犯罪活動肆虐，警方的回應往往就比較被動

2.8.3. 如果類似的報案發生在富人區，或警方根據背景資料庫查出了其他積極因素，那麼警察就有了一種“交付服務”的心態

2.8.4. 如果涉及小孩，那麼他們肯定是去‘交付服務’，而不只是去興師問罪

2.9. 我之蜜糖，彼之砒霜

2.9.1. 可能成為一個國家信任的奠基石，但也可能成為另一個國家信任的腐化劑

2.9.2. 同樣一個為降低犯罪率而設計的系統，它可能增加社會偏見，也可能建立一個資料庫，消除對少數群體的成見

3. 陪審團制度

3.1. 陪審團制度是美國司法體系的一個基本優勢，部分原因是人們可以設身處地設想違法行為

3.1.1. 法官和陪審團將自己的智慧和分析能力帶到法庭上，同時也將他們的社會公正觀念和對受害者和嫌疑人的同情也帶上了法庭

3.2. 即使美國司法系統幫助法官從一些沉悶乏味、帶有偏見的工作中解放出來，人工智慧又如何將我們的同理心以及人類共同享有又時常衝突的社會價值觀進行數字化呢？

3.2.1. 研發人員尚不能將如此完整的人類背景融入機器學習演算法之中，而這些機器學習演算法通常是由數千英里之外的程式設計師設計的

4. 儒家思想

4.1. 古往今來，在歷史的程序中，中國文明比世界上其他任何文明都更徹底地抵禦外來文化的影響，或對外來文化進行徹底改造，而儒家思想就是中國文化的重要內在凝聚力

4.2. 幾千年來，它抵抗著幾乎所有外來哲學思想或權威的影響

4.2.1. 佛教思想在漢代（約公元前1世紀）從印度傳入中國，但它並沒有改變儒家的核心文化思想

4.2.2. 事實上，佛教很快就被“漢化”了

4.3. 已經存在了若干個世紀的科舉考試一直是人們步入仕途的敲門磚

4.3.1. 這些考試主要考查的是考生的中國古典文學知識和文學功底，更多是為了維護國家統一的文化、知識和政治觀念，而不是確保考生具有適當的技能和實踐能力

4.4. 人們的生活水平所得到的大幅提升是在幾十年前根本無法想象的

4.5. 新興的繁榮正在削弱深厚的文化基礎

4.5.1. 中國大多數城市居民在付款時都不再掏錢包拿現金，也不使用信用卡，而是使用支付寶和其他類似的移動支付應用來付錢

5. 獎懲分明

5.1. 與美國複雜的程式和不透明的評級體系相反，東方某神秘大國公開闡述了自己的方針和理念：打擊腐敗和其他不誠信行為，同時保證經濟活動和人際交易的可靠性

5.2. 阿里巴巴的芝麻信用是幾個試點專案之一，旨在建成一個全國性的社會信用體系，其內容將不僅僅涵蓋金融資訊

5.2.1. 芝麻信用已經成為世界上最廣泛的個人資料採集系統之一

5.3. 在沒有建立成熟的信用評級體系的情況下，東方某神秘大國正在尋求從微信、支付寶等各種應用程式中搜集電子商務、社交媒體及其他線上資料，建立一個徵信系統

5.3.1. 儘管早期的試點舉措遇到一些牴觸情緒，但國家社會信用體系仍然在2018年穩步推進

5.3.2. 地方執法人員可以透過智慧眼鏡獲取個人身份資訊，並透過面部識別系統識別公民身份，從而更加準確地實施抓捕

5.3.3. 徵信系統的目標不僅限於財務資訊，也“可以代表個人的可信度”

5.3.4. 其他規模更小的社會徵信專案還收錄了其他各種型別的資料

5.4. 儘管西方對這些技術的侵入性表示擔憂，但政府利用技術來了解人們的做法並沒有引起東方某神秘大國民眾的普遍擔憂

5.4.1. 在東方某神秘大國，這些智慧技術背後的社會契約是不同的

5.4.1.1. 今天的民眾對先進技術的力量和潛在收益更加樂觀

5.4.1.2. 由於人們普遍認為人工智慧帶來的種種問題還很遙遠，因此在主流媒體或公共話語中很少有關於其潛在負面影響的討論

5.4.1.3. 在不遠的將來，隨著全球資訊的自由流動，這樣的議題很快就會被推到風口浪尖

5.5. 問題

5.5.1. 專家們質疑社會信用體系可能會催生新的社會階層，評分高的人會對評分低的人避之不及

5.5.2. 公民有沒有辦法來糾正錯誤或者對分數提出質疑呢？