守護兒童的網路內容安全，AI能做些什麼？

守護兒童數字生活的內容健康有多緊迫？

• 出生的越晚，上網的時間就越早。目前已經有17.5億14歲以下的網際網路使用者。

• 2019年，46%的兒童遭遇過各種網路安全事件。

• 不良體驗主要是由於內容不當，如色情、血腥、暴力等。

——資料來源CNNIC（中國網際網路資訊中心）

如何讓數字化技術參與到兒童安全的守護過程中逐漸成為社會各界重點關注的方向之一。在今天舉辦的第十六屆聯合國網際網路治理論壇（IGF）——《人工智慧為兒童——面向兒童群體的人工智慧應用調研報告》釋出活動中，來自聯合國兒童基金會、中國網路社會組織聯合會 、中國傳媒體大學、騰訊安全等組織機構的代表分享了AI For Children的最新實踐與成果。

（圖為釋出活動現場）

秉承騰訊“科技向善”的使命願景，騰訊基於騰訊安全天御內容風控能力、騰訊優圖的AI內容稽核能力，在2020年啟動了Guard for Children專案，透過海量訓練得到的AI識別能力，能夠精準識別侵害兒童的隱私內容、過濾出不良傳播內容，包括兒童色情、校園暴力、青少年犯罪、煙賭毒等內容，淨化兒童的上網環境。具體而言，Guard for Children專案從三個方面展開工作：

（圖為騰訊安全產品總監王翔演講）

公開課

透過公開課的形式對家長和兒童進行安全教育，騰訊推出了一系列關於如何認識網路空間和如何應對網路欺凌的公共教育課程，幫助兒童變得堅強和心智成熟，併為其提供網路幫助。

定製推薦

與教育局展開合作，為14歲以下兒童設計、定製影片和音訊，使用人工智慧進行智慧組合推薦。

內容安全

透過人工智慧檢測，減少不適合兒童觀看的內容呈現，例如色情、欺凌、不良行為、不良ACG等。

目前，騰訊安全天御風控已為1500+家平臺提供內容安全服務，共計稽核圖片總量已突破3000億條，累計攔截不良內容超5億條，助力多家企業建立完善長效的涉青少年網路內容治理機制。

去年12月，騰訊還聯合聯合國兒童基金會等三大公益組織發起了騰訊Light·公益創新挑戰賽，邀請開發者和公益界的有志之士，根據“未成年人網路保護”等主題，利用騰訊雲AI提供的人工智慧技術打造公益小程式，以科技之力守護未成年人健康成長。大賽共吸引了663支隊伍近3000名選手參賽，經過四個多月激烈的角逐，24支團隊成功入圍決賽，湧現了一批用技術和創意讓AI落地公益場景的優秀專案，為提升效率、解決社會痛點等方面帶來科技力量。

IGF是聯合國框架下關於網際網路治理問題的開放性論壇，旨在促進全球各方在網際網路公共政策方面的討論和對話，把握全球網際網路治理重要機遇，本屆論壇聚焦經濟社會、市場監管、環境等問題。釋出活動由中國網路社會組織聯合會、中國傳媒大學、聯合國兒童基金會共同舉辦，向全球展示中國在面向兒童群體的人工智慧領域所取得的成就，加強國際交流合作，進一步從人工智慧的角度探討經濟和社會的平等與包容，探索構建有意義的人工智慧為兒童國際通用標準。