讀人工智慧時代與人類未來筆記10_虛假資訊

1. 公司和國家

1.1. 網路平臺是基於各個公司、工程師和客戶試圖解決的問題應運而生的

1.1.1. 他們將買家和賣家、詢問者和資訊提供者，以及擁有共同利益或目標的群體聯絡起來

1.1.2. 他們部署人工智慧是為了改善（或者說更多地實現）他們的服務，並增強他們滿足使用者（有時是政府）期望的能力

1.1.3. 隨著網路平臺的不斷成長和發展，一些平臺在不經意間對社會活動和各行各業的影響已遠遠超出了它們的初衷

1.2. 訪問這些個人資料的許可權所帶來的發展變化，將網路平臺、運營商及其所使用的人工智慧置於具有社會和政治影響力的全新地位之上

1.2.1. 一個按照標準商業目標和使用者需求執行的網路平臺，實際上可能已經跨越了自身邊界而進入了治理和國家戰略的範疇

1.2.2. 傳統政府可能很難辨別這個平臺的動機和策略，即使它們試圖根據自身的國家和全球目標對平臺進行調整

1.3. 社交媒體在傳遞和調控政治資訊和虛假資訊方面的最新作用表明，一些網路平臺已經承擔的職能如此重要，甚至可能影響國家治理的實施

1.3.1. 每個圈子都有自己的語言、組織結構、激勵原則和核心價值觀

1.3.2. 雖然社交媒體平臺（及其人工智慧）通常表示自己是內容中立的，但它們的社群標準，還有它們對資訊的過濾和呈現，都會影響資訊建立、匯聚和感知的方式

1.3.3. 由於人工智慧的工作是推薦內容和連線、對資訊和概念進行分類，以及預測使用者的偏好和目標，它可能在不經意間強化特定的個人、群體或社會選擇

1.3.3.1. 它可能會鼓勵傳播某類資訊和形成某類連線，而阻礙其他的傳播和形成

1.3.4. 個人使用者和群體每天都在無數的互動中快速而大規模地相互影響，特別是在受到複雜的、人工智慧推動建議的影響時，因此，運營商也可能無法清楚地瞭解實時發生的情況

1.4. 人工智慧根據自己的過程來執行，它不同於人類的思維過程，而且往往比後者更快，這一事實又平添了另一重複雜性

1.4.1. 產生的結果和答案不具備典型的人類特徵，且在很大程度上獨立於國家或企業文化

1.4.2. 數字世界的全球性，以及人工智慧在全球網路平臺上對資訊進行監控、遮蔽、裁剪、製作和分發的能力，又將這些複雜性引入了不同社會的“資訊空間”

1.5. 如果政府鼓勵平臺標記或遮蔽某些內容，或者要求人工智慧識別和下調有偏見或“虛假”的資訊，這些決定可能會作為具有獨特廣度和影響力的社會政策推動力而產生有效作用

1.5.1. 選擇的任何一種做法都肯定會產生比以往任何法律或政策決定大得多的影響，可能對處在許多政府管轄範圍內的數百萬或數十億使用者的日常生活產生立竿見影的影響

1.6. 網路平臺和政府領域的交集將產生不可預測的、在某些情況下極具爭議的結果

1.6.1. 相比明確的結果，我們更有可能陷入一系列不完美答案造成的兩難困境

2. 網路平臺和虛假資訊

2.1. 長期以來，新思想和新趨勢都是國界無法阻擋的，包括那些帶有明顯惡意的思想

2.1.1. 這種滲透從未達到如今這般規模

2.2. 雖然各國在防止故意散佈的惡意虛假資訊鼓動社會趨勢和煽動政治事件的重要性方面有廣泛的共識，但要實際做到這一點卻不容易，也難言有多麼成功

2.2.1. 未來的“進攻方”和“防禦方”，包括虛假資訊的傳播和打擊虛假資訊的努力，都將變得越來越自動化，並由人工智慧代勞

2.3. 語言生成式人工智慧GPT-3已經展示了創造合成人格的能力，人類可以利用它們產生具有仇恨言論特徵的語言，並與人類使用者進行對話，以灌輸偏見，甚至慫恿他們使用暴力

2.3.1. 如果這樣的人工智慧被用來大規模傳播仇恨和分裂，單憑人類可能對此束手無策

2.3.2. 即使對最老練的政府和網路平臺運營商來說，透過個人調查和決定對其所有內容加以手動識別和禁止的做法也將是難以應付的挑戰

2.3.3. 不得不尋求內容稽核人工智慧演算法的幫助

2.4. 如果問題的解決方案又依賴人工智慧，那就會產生對自身的批判問題

2.4.1. 對於人類判斷和人工智慧驅動自動化這兩者之間的適當平衡，我們仍需加以斟酌

2.5. 隨著傳播虛假資訊的工具變得越發強大和自動化，界定和清除虛假資訊的過程正成為一項日益重要的社會和政治職能

2.5.1. 對私營企業和民主政府來說，這一職能給社會和文化現象的轉變帶來的影響程度之大、責任之重，不僅非同一般，而且往往是意想不到的

2.5.2. 一些人傾向於把這項任務交給一個似乎不受人類偏見影響的技術過程，也就是一個具有識別虛假資訊和謊言，並且阻止其傳播的目標函式的人工智慧

2.6. 當一條資訊的突顯或傳播受到限制，以至它的存在實際上被否定時，我們就進入了一種審查狀態

2.6.1. 如果反虛假資訊人工智慧犯了一個錯誤，清除的不是惡意虛假資訊，而是真實內容，我們該如何查明？

2.6.2. 訓練防禦性人工智慧對抗客觀（或主觀）謊言標準的能力，以及監控該人工智慧運作的能力（如果可以開發），將成為一種重要的具有影響力的職能，足以與傳統上由政府扮演的角色相抗衡

2.6.3. 人工智慧的目標函式、訓練引數和虛假定義在設計上的微小差異，可能會導致社會的不同改變

2.6.4. 隨著網路平臺利用人工智慧為數十億人提供服務，這些問題也變得越發關鍵

2.7. 在不久的將來，還有更復雜的地緣政治和監管難題等待著我們

3. TikTok

3.1. 一個人工智慧賦能的網路平臺，用於創作和分享各種創意短影片

3.1.1. TikTok的使用者可以用他們的智慧手機拍攝和釋出影片，數百萬使用者則樂於觀看

3.1.2. TikTok最初在中國開發，並在全球範圍內流行起來，它既不建立內容，似乎也沒有設定寬泛的限制

3.1.3. 除了限制影片的時間，以及禁止“錯誤資訊”“暴力極端主義”和某些型別的圖片內容

3.2. TikTok的人工智慧輔助鏡頭對這個世界的記錄特點不過是奇思怪想罷了，其內容主要是各種令人忍俊不禁的舞蹈、笑話和罕見技能展示的短影片片段

3.3. 展開的國際政治和監管辯論，讓人們提前意外地窺見了依賴人工智慧進行通訊時可能出現的挑戰，特別是當這種人工智慧是由一個國家開發卻被另一個國家的公民使用時

3.3.1. 美國還強制將TikTok的美國業務出售給一家有資格在美國國內持有使用者資料的美國公司，以防止這些資料流到中國

3.3.2. 作為回應，中國採取行動禁止輸出支援內容推薦演算法的程式碼，這是TikTok實現其效能和使用者吸引力的核心所在

4. 政府和地區

4.1. 網路平臺不僅給單個國家帶來了新的文化和地緣政治難題，考慮到這種技術的天然無邊界性，它對各國政府以及更廣泛地區之間的關係也有同等影響

4.1.1. 全球對人才的需求量太大，大多數服務的本地市場又太小，產品成本和服務成本太高，無法維持每個網路平臺在本地的獨立版本

4.1.2. 技術變革的步伐太快了，而具有相關知識儲備的程式設計師、工程師，以及產品設計和開發專業人員的數量太少了，無法做到如此廣泛的覆蓋

4.1.3. 要想站在技術發展的最前沿，就需要智力和金融資本，這不僅是大多數公司不具備的，也是大多數政府無意或無法提供的

4.2. 許多使用者也不願意被限制在一個只能容納他們本國同胞，以及他們自己生產的軟體產品和創作內容的網路平臺上

4.3. 積極網路效應將傾向於只青睞少數市場參與者，也就是在其特定產品或服務的技術方面和市場之中處於領先地位的那些佼佼者

4.4. 許多國家不僅現在，將來也可能會無限期地依賴在其他國家設計和託管的網路平臺

4.4.1. 至少在一定程度上，它們也可能繼續受制於其他國家的監管機構，以獲取這些平臺持續的訪問權、關鍵輸入和國際更新

4.5. 許多國家和政府將有動機保證來自其他國家的人工智慧驅動線上服務持續執行，因為這些服務已經融入它們社會的各個基本方面

4.5.1. 這一目標實現的形式可能是規範網路平臺的所有者或運營商，制定運營要求，或者管理其人工智慧的培訓

4.5.2. 政府可能會堅持要求開發人員採取措施，以避免某些形式的偏見或解決特定的道德困境

4.6. 公眾人物可能會成功地利用網路平臺及其人工智慧，為他們的內容獲得更大的曝光度，使他們能夠接觸更多的受眾

4.7. 獨立做出並執行此類認定的權力現在由一些公司掌握，幾乎沒有民主政府可以擁有這些公司所擁有的權力

4.7.1. 大多數人認為私營公司不應該擁有這種程度的權力和掌控力，但將這些權力讓渡給政府機構幾乎同樣是個問題，因為我們已經超越了傳統政策手段的界限

4.7.2. 當涉及網路平臺時，這種評估和決策的必要性近年來迅速湧現，卻又帶著十足的偶然性，讓使用者、政府和公司都感到驚訝不已