誰來識別AI生成的假新聞？英媒：解鈴還須系鈴“人”

英媒稱，在社交媒體上，假新聞的傳播速度比真相還要快，隨著假新聞生成器變得越來越先進，區分真假新聞變得比以往任何時候都更加困難。據英國《新科學家》週刊網站6月8日報導，可以根據簡單的提示快速生成令人信服的文字段落的人工智慧已經存在，並可炮製出令人信服但並不真實的故事，以影響公眾輿論。不過，對於出現的問題人工智慧也可以提供解決方案。

華盛頓大學的羅恩·澤勒斯及其同事開發出了既能編寫，又能識別假新聞的人工智慧。

報導稱，他們用新聞網站上數以百萬計的文章——資料總量為120GB——來訓練一個名叫“格羅弗”的人工智慧。格羅弗學會了寫文章，並調整其風格去模仿在特定時間段內發表的文章，或者某一特定新聞網站，比如《新科學家》週刊網站上的文章。

報導稱，在“沒有關於氣候變化的實質性證據”，或者“新研究表明疫苗會引發自閉症”這樣的假標題下，只需幾秒鐘時間，它就能生成一篇有編造的統計數字和假引文的文章，並且這些引文通常來自真實存在的專家或政客。

然後，研究人員對包括格羅弗在內的4個人工智慧就其區別人類記者寫的5000篇真新聞和格羅弗編造的5000篇假新聞的能力進行了測試。

報導稱，每個人工智慧需要完成兩項校驗任務：第一項，對於一篇新聞稿，確定它是人類寫的還是機器生成的；第二項，面對兩篇文章，一篇真新聞，一篇假新聞，鑑定出哪篇是真的哪篇是假的。

報導還稱，為了避免格羅弗新聞生成器和判別器模型一樣的情況，該團隊使得生成器變得更加先進。

報導指出，在確定格羅弗假新聞稿方面表現最好的人工智慧是格羅弗本身的判別器，準確率可達92%。

不過，該團隊沒有測試格羅弗對其他人工智慧生成的文字的識別能力。

報導稱，對格羅弗最好的防禦就是格羅弗本身是從威脅建模這一電腦保安概念中汲取的靈感。澤勒斯說：“這一想法是，為了抵禦攻擊，你真的需要了解對手要做什麼。”

來源：參考訊息網