刻不容緩，虛假訊息之戰何時休？

“知物由學”是網易雲易盾打造的一個品牌欄目，詞語出自漢·王充《論衡·實知》。人，能力有高下之分，學習才知道事物的道理，而後才有智慧，不去求問就不會知道。“知物由學”希望透過一篇篇技術乾貨、趨勢解讀、人物思考和沉澱給你帶來收穫的同時，也希望開啟你的眼界，成就不一樣的你。當然，如果你有不錯的認知或分享，也歡迎透過郵件（zhangyong02@corp.netease.com）投稿。

作者介紹：

Chris Meserole，布魯金斯學會中東政策中心研究員，新興技術領域專家。

Alina Polyakova，布魯金斯學會美國和歐洲中心David M. Rubenstein研究員，俄羅斯政治戰爭和新興威脅領域專家。

以下為譯文：

今年4月，歐盟推出了一項用來處理線上虛假資訊的新策略。新策略著重於以下幾點：促進媒體素養，資助第三方機構核查事實，加強Facebook和其它資訊渠道來源的真實性。事實上，當Facebook執行長馬克祖克伯出席歐盟聽證會時，官員們就提到了實施監管的可能性，因為他總是在迴避虛假新聞和極端主義的問題。

                                                                 John Thys/AFP/Getty Images 

到目前為止，歐洲政府公佈的法律或方案根本就沒有起到什麼效果。為解決這個難題，歐洲和美國的決策者們應該關注即將到來的顛覆性技術浪潮。伴隨著人工智慧和分散式計算的快速發展，下一個階段的虛假新聞將會變得更加複雜，並且難以發現。

要想制定出有效的戰略，議員們應該專注於四個新興領域可能帶來的威脅：人工智慧的民主化、社交網路的演變、分散式應用的興起以及虛假新聞的“背後”。

人工智慧民主化

由於資料量越來越大，演算法越來越智慧，硬體水平越來越好，在未來幾年中，獲得人工智慧高階服務的人將變得越來越多。從醫療到交通，人工智慧的民主化具有巨大的前景。

然而人工智慧的廣泛使用也帶來了很大的風險。除了其他問題，它還承諾將虛假仿造品，音訊和影片的創作進行民主化。雖然電腦可以對數字內容進行操作，但在以前，這些操縱幾乎全都可以檢測出來。然而，隨著深度學習和生成對抗網路可以很好地處理影像和影片，現在已經很難區分真實檔案究竟是哪一個。由於像FakeApp和Lyrebird這類應用程式的出現，現在任何人都可以透過一臺電腦或智慧手機制造出” deep fakes(高仿品)”（順便分享一篇乾貨文章：知物由學 | 虛假色情氾濫，人工智慧可以做些啥？）。今年早些時候甚至還出現了一個工具，使用者使用該工具可以輕鬆地在影片中進行換臉，而這款工具也在Twitter和Pornhub廣泛傳開。

虛假訊息氾濫

在模擬技術和其他新興技術成熟的同時，一些傳統平臺將繼續在生成和傳播資訊方面扮演著重要的角色，例如現在谷歌，Facebook和Twitter上虛假訊息正在變得越來越多。

現在有越來越多的搜尋引擎服務可以幫助客戶提升其在Google上面的排名，因此也出現了越來越多的山寨行業。雖然大多數情況下，谷歌可以透過調整演算法保持其領先的地位，但現在一些搜尋引擎最佳化操縱器也變的越來越智慧，常常會將搜尋結果置頂。

Facebook上的虛假資訊通常以兩種方式出現：共享內容和付費廣告。該公司曾試圖減少虛假資訊的出現，但到目前為止都無濟於事。最著名的就是Facebook會對檢測出的虛假資訊貼上“有爭議的標誌”，結果卻發現，這反倒讓使用者參與度更高了。

儘管Twitter已經採取措施應對其平臺上早已氾濫的網路巨魔和自動機器人，但它還是非常容易受到虛假資訊活動的影響，因為即使註冊的賬戶沒有進行驗證，你還是可以很輕鬆的生成虛假資訊並且在平臺上進行傳播。即使Twitter採取進一步措施打擊濫用行為，其檢測演算法也可以透過Google的搜尋演算法進行反向工程。因此如果不對其API和互動設計進行根本性改變換湯不換藥，虛假資訊還是存在。例如，Twitter推出最新改革措施之後，美國軍隊於4月針對敘利亞化學武器設施進行了一次打擊，就在襲擊後的數小時之內，五角大樓報導了俄羅斯大量的虛假新聞。這些推文似乎來自合法賬戶，而且也沒有辦法鑑定是否為錯誤資訊。

區塊鏈技術和分散式應用

區塊鏈技術和其他分散式分類賬以支援比特幣和以太坊等加密貨幣而聞名。然而它們最大的影響可能是改變了網際網路的運作方式。隨著越來越多的分散式應用程式上線，網路將越來越多地受到旨在抵制Facebook和享受集中控制的服務和協議的這些人的支援。例如，使用者可以在DTube上瀏覽影片而不僅限於YouTube，也可以在Blockstack瀏覽器上瀏覽網頁，而不是非得使用Safari，還可以使用IPFS（對等檔案系統）來替代Dropbox或Google Docs進行儲存檔案。可以肯定的是，分散式應用程式生態系統仍然是一個利基領域，還需要一段時間來解決這些問題從而變得成熟。但由於安全性隨著時間的推移而不斷提高，修復了底層網路體系結構，分散式賬本技術有望使網路變得更加安全。

如果線上活動能夠轉移到分散式應用程式上，那麼它們提供的安全性和分散性將成為隱私倡導者和人權異議人士的福音。但同樣也帶了其它一些問題。這些服務中的大多數都具有匿名性和公鑰密碼學功能，因此難以追蹤到真實的個人或組織，而且一旦將資訊提交給分散應用程式，要想再取消幾乎是不可能了。例如，IPFS協議沒有刪除的方法 - 使用者只能新增內容，不能刪除。

到目前為止，各項策略努力重點都是記錄虛假訊息活動中涉及的機制和參與者 - 跟蹤殭屍網路，識別巨魔賬戶，監控媒體敘述以及追蹤虛假內容的傳播。包括政府在內的很多人士都為落實資料保護和隱私政策做了巨大的努力，如歐盟的“通用資料保護條例”，以及為網上廣告空間引入更多透明度和問責制的立法提案。

雖然這些努力對於提高公眾和決策者的認識是有價值的，但也使得他們很少能夠深入到背後去進行研究。如果想要更深入的研究，那麼就需要對虛假資訊的“後端”進行更深入的檢查和評估。換句話說，就是需要了解在背後操作廣告市場，SEO市場和資料經紀人的演算法。

分散式應用程式的出現給決策者們帶來難得重新選擇的機會：當十年前建立社交網路時，立法者未能預見到那些不法之徒也可以利用網路做一些違法的事。由於這種應用仍然是一個利基市場，政策制定者可以在分散式網路達到全球規模之前做出反應。各國政府應該組建新的公私夥伴關係，以幫助開發者確保對下一代網路散播虛假訊息變得成熟起來。