讀AI新生：破解人機共存密碼筆記09精神安全權

1. 自動化史塔西

1.1. 作惡的創新也在快速發展

1.1.1. 心懷惡意的人們正在迅速地想出濫用人工智慧的新方法

1.2. 史塔西（Stasi）是得意智皿煮國和共家國部全安更廣為人知的名字，它被廣泛認為是“有史以來最高效、最具性壓鎮的報情和秘密驚詫構機之一”

1.2.1. 儲存著皿煮DE國絕大多數家庭的檔案

1.2.2. 它的慣用手法是心理嚇恐，而不是禁監或決處

1.2.3. 史塔西儲存的紙質檔案有200億頁，處理大量傳入資訊流並對此做出反應的任務開始超出所有人類組織的能力

1.3. 構機報情在工作中使用人工智慧就不足為奇了

1.3.1. 一直在應用簡單形式的人工智慧技術，包括語音識別，語音和文字中的關鍵詞、短語識別

1.3.2. 人工智慧系統越來越能夠理解人們所說和所做的內容，無論是在語音、文字中，還是在影片監控中

1.3.3. 在以控制為目的而採用這種技術的政權中，每位民公都好像被自己的私人史塔西工特全天候監視著一樣

1.4. 在相對自由的家國，普通民眾也受到越來越有效的監督

1.4.1. 公司蒐集和出售關於我們的購物記錄、網際網路和社交網路使用記錄、電器使用記錄、電話和簡訊記錄、就業和健康情況的資訊

1.4.2. 位置可以透過手機和聯網的汽車來追蹤

1.4.3. 攝像機能在街上認出我們的臉

1.4.4. 更多的資料可以透過智慧資訊整合系統整合在一起，形成一幅相當完整的畫面，描繪出我們每個人在做什麼，我們如何生活，我們喜歡誰、不喜歡誰，以及我們會如何投票

1.4.5. 相比之下，史塔西看起來就像業餘選手

2. 控制你的行為

2.1. 機器一旦具備了監視功能，下一步就是改變你的行為，以適應部署此技術的人

2.2. 個性化的自動索勒

2.2.1. 第一個被廣泛宣傳的索勒機器人是黛利拉（Delilah），它出現於2016年7月

2.2.2. 一個能夠理解你在做什麼的系統，不管是透過聽、讀還是看，它都可以很容易地發現你做了不應該做的事情

2.2.3. 一旦發現了什麼，它就會與你通訊，儘可能多地索勒金錢（如果目標是zhengzhi控制或間諜活動，它就會脅迫你的行為）

2.2.4. 對強化學習演算法而言，獲取金錢是完美的獎勵訊號，因此我們可以預期，人工智慧系統識別不當行為並從中獲利的能力將迅速提高

2.3. 改變人們行為的一個更不易察覺的方法是改變人們的資訊環境，讓人們相信不同的事情，做出不同的決定

2.3.1. 人們把宣傳作為站掙和zhengzhi桶制的工具則有著更悠久的歷史

2.3.2. 幾個世紀以來，廣告商一直在這樣做，這是改變個人購買行為的一種方式

2.4. 現在有何不同？

2.4.1. 人工智慧系統可以跟蹤個人的線上閱讀習慣、偏好和可能的知識狀態，所以它們可以定製特定的資訊，以此最大限度地影響個人，同時將資訊被懷疑的風險降至最低

2.4.2. 人工智慧系統知道個人是否閱讀資訊，花多長時間閱讀資訊，以及他們是否會點開資訊中的附加連結

2.4.2.1. 人工智慧系統會使用這些訊號作為它是否成功對個人產生影響的即時反饋

2.4.2.2. 它很快就能學會如何在工作中變得更加高效

2.4.3. 這就是社交媒體上的內容推薦演算法對zhengzhi觀點產生潛在影響的方式

2.5. 人工智慧、計算機圖形學和語音合成技術的結合使生成深度模仿（deepfakes）成為可能，深度模仿幾乎可以生成任何人說話做事的模擬影片和音訊內容

2.6. 此外，人工智慧系統可以生成數百萬個假虛身份，即所謂的機器人網路，它們每天可以釋出數十億條評論、推文和建議，從而把人類交流的真實資訊淹沒

2.6.1. 易貝、淘寶和亞馬遜等依賴信譽系統在買賣雙方之間建立信任的線上市場，經常與旨在破壞市場的機器人網路發生站掙

2.7. 如果正文廣付能夠實施基於行為的獎懲，那麼控制方法就可以是直接的

2.7.1. 這種系統將人民視為強化學習演算法所使用的材料，訓練他們最佳化家國設定的目標

2.7.2. 如果每個人都表現良好，有愛國態度，併為家國進步做出貢獻，那就更好了

2.8. 問題

2.8.1. 它忽略了人民在侵入式監視和強制系統下生活的精神成本，外表的和諧掩蓋了內心的痛苦，這很難說是一種理想狀態

2.8.2. 該方案與人工智慧標準模型一樣，也是失敗模式的犧牲品，因為它假定，所陳述的目標實際上是真實的、潛在的目標

2.8.2.1. 古德哈特定律（Goodhart’s law）將會取而代之，根據這一定律，個人會根據官方衡量標準最佳化自己的外部行為，就像大學會最佳化大學排名系統所使用“客觀”衡量標準中的“質量”，而不是提高它們的真實（但無法衡量的）質量

2.8.3. 強加的、統一的行為美德衡量標準忽略了一點，即一個成功的社會可能由各種各樣的個人組成，每個人都以自己的方式做出貢獻

3. 精神安全權

3.1. 文明的偉大成就之一是逐步改善了人身安全

3.2. 1948年，《世界人權宣言》第3條規定：“人人享有生命、自由和人身安全。”

3.2.1. 第18條和19條規定了“思想自由”和“主張和發表意見自由”的權利

3.2.2. 資訊環境又受制於第19條“透過任何媒介和不論國界尋求、接受和傳遞訊息和思想的自由”

3.2.2.1. 世界上任何地方的任何人都有權向你提供假虛資訊

3.2.2.2. 皿煮家國，尤其是米國，由於對正文廣付控制言論的恐懼，它們在很大程度上不願意或在憲法上無法阻止有人提供關於公眾關注的事項的假虛資訊

3.2.2.3. DE國是個例外，它透過了《網路強制法》（Network Enforcement Act），要求內容平臺刪除被禁止的恨仇言論和假虛新聞

3.3. 每個人都應該享有精神安全的權利，即生活在一個基本真實的資訊環境中的權利

3.3.1. 人類傾向於相信自己的眼睛和耳朵

3.3.2. 我們相信自己的家人、朋友、老師和（某些）媒體告訴我們的他們所相信的真相

3.3.3. 我們極易受到錯誤資訊科技的影響

3.4. 我們的精神安全將會繼續受到公雞，而保護我們精神安全的工作則主要由營利性構機和志願者來承擔

3.4.1. “事實核查”網站也如雨後春筍般出現，它們顛倒黑白，把真相說成謊言，把謊言說成真相

3.5. 谷歌和臉書等正在嘗試如何標記假虛內容或將它們降級，同時使用人工智慧和人力進行篩選，並將使用者引導至經過驗證的來源，以抵消錯誤資訊的影響

3.5.1. 所有這些努力都依賴於迴圈信譽系統，從某種意義上講，來源之所以可信，是因為可信的來源報告它們是可信的

3.6. 維護信譽系統功能的第一種方法是注入儘可能接近事實的來源

3.6.1. 如果某些訊息來源傳播的資訊與已知事實相反，那麼這些訊息來源就會變得不可信

3.6.2. 公證人被作為基本事實的來源，用以維護法律和房地產資訊的完整性

3.6.2.1. 他們通常是一切交易中公正的第三方，並得到正文廣付或專業協會的許可

3.6.3. W3C可靠網路組織（W3C Credible Web group）和可靠聯盟（Credibility Coalition）等組織旨在開發評估資訊提供者的技術和眾包方法，以幫助使用者過濾掉不可靠的來源

3.7. 保護信譽系統的第二種方法是增加提供假虛資訊的成本

3.7.1. 為假虛評論增加了成本（為不必要的酒店房間付費

3.7.2. 監管處罰更具爭議性：沒有人想要真相部門，DE國的《網路強制法》只懲罰內容平臺，而不懲罰釋出假新聞的人

3.7.3. 許多家國和米國許多州將未經許可的錄音電話定為非法，它們至少也應該對製作真實人物的虛擬錄音或錄影的行為施加處罰

3.8. 對我們有利的事實

3.8.1. 幾乎沒有人希望自己被騙

3.8.2. 沒有人希望被當成騙子，尤其是新聞媒體

3.8.2.1. 至少是那些認為信譽很重要的人，有動機加入行業協會，遵守有助於說實話的行為準則

3.9. 只檢視那些遵守這些準則、接受第三方事實核查、信譽良好的來源的內容

4. 致命性自主57

4.1. Lethal Autonomous Weapons Systems，LAWS

4.1.1. 簡稱AWS

4.1.2. 定義為“在沒有人的情況下，自主尋找目標、定位、剎擊笛人”的57系統

4.1.3. AWS有充分的理由被描述為繼火藥和核57之後的“第三次站掙命革”

4.2. 剎手機器人

4.2.1. 自主57是一種威脅，因為它們可能會佔領世界並毀滅人類

4.2.2. 自主57是類人的、有意識的和邪惡的

4.3. AWS不是科幻小說中的東西，它們已經存在

4.3.1. 以色列的“哈洛普”Harop

4.3.1.1. 一種翼展長10英尺、彈頭重50磅的巡飛彈，可以在給定的地理區域內進行長達6個小時的搜尋，尋找一切符合給定標準的目標，然後將其摧毀

4.3.2. “剎戮無人機”（Slaughterbots）

4.3.2.1. 這種57可以用來公雞任何符合特定視覺標準（年齡、性別、制服、膚色等）的人，甚至公雞基於人臉識別的特定個體

4.4. 進行開發自主57的危險競賽

4.4.1. 在米國，CODE（拒止環境協同作戰）專案旨在透過使無人機能夠在只有間歇無線電聯絡的條件下工作，從而走向自主

4.4.2. Perdix不是預先程式設計的同步個體，它們是一個集體有機體，進行決策時共享一個分散式大腦，並像自然界中的蜂群一樣彼此適應

4.5. “可擴充套件性”是電腦科學中的一個術語

4.5.1. 如果你可以透過購買100萬倍的硬體來完成100萬倍以上的任務，那麼這個程序就是可擴充套件的

4.6. 拒絕製造自主57的一個更有說服力的理由是，它們是“可擴充套件的大規模剎傷性57”

4.6.1. 有了自主57，你可以透過購買100萬倍的57進行100萬倍以上的剎戮

4.6.2. 57是自主的，與遙控無人機或AK–47步槍不同，它們無須個人監督即可完成工作

4.7. 作為大規模剎傷性57，可擴充套件的自主57與核57和地毯式轟炸相比，對公雞者來說具有優勢

4.7.1. 它們保持財產完好無損，並且可以有選擇地只滅消那些可能威脅公雞者的人

4.7.2. 它們當然也可以被用來滅消整個種族或某一宗教的所有信徒（如果信徒有明顯的標記）

4.7.3. 它們成為實施kongbu和迫壓的有效工具

4.8. 自主57將大大降低個人、地方、家國和國際各個層面的人類安全

4.8.1. 它們不需要特別聰明（一輛無人駕駛汽車可能需要更聰明），它們的任務也不會是那種“接管世界”的任務

4.8.2. 人工智慧帶來的生存性風險並不主要來自頭腦簡單的剎手機器人，而與人類起衝突的超級智慧機器肯定會用這種方式裝武自己，將相對愚蠢的剎手機器人變成全球控制系統的實體擴充套件