騰訊優圖聯合騰訊天御釋出面向未成年人的內容安全稽核解決方案

日前，在2020騰訊全球數字生態大會AI專場上，騰訊優圖實驗室副總經理黃飛躍發表了以《技術爆炸時代裡的優圖：從跋山涉水，到越過山丘》為主題的演講，並正式釋出了面向未成年人的內容安全稽核解決方案。

這是騰訊優圖聯合騰訊天御推出的首個專門面向未成年人的內容安全稽核解決方案，既體現了騰訊的相關技術實力，也是公司整體“科技向善”的最新舉措。 

01
開展未成年人內容稽核
勢在必行

根據《2019年全國未成年人網際網路使用情況研究報告》顯示，2019年我國未成年網民規模為1.75億，未成年人網際網路普及率達到93.1%。有統計資料顯示，目前我國年齡低於10歲的網民已超過1800萬，56%的兒童初次上網的年齡低於5歲。

15.6%的未成年人表示曾遭遇網路侵害，最常見的是網路欺凌、色情引誘、個人資訊洩露等。特別是疫情防控期間，網路侵害問題更為突出。這些未成年人因為自身年齡上的差異，對於內容往往沒有明確的辨識和過濾能力，極有可能導致身心健康受到影響，甚至在部分極端影片的引導下做出不理智的行為。

目前，我國在多個網際網路內容領域均施行了監管稽核，但針對更廣泛的網路內容監管稽核手段較少，存在較大的真空地帶，未成年人上網內容稽核和分級迫在眉睫。

國家監管機構也已經注意到未成年內容雜亂的情況，國家網信辦今年5月啟動的2020“清朗”行動中專門組織針對未成年人暑期網路環境的整治，國家掃黃打非辦上半年的“護苗2020”專項行動中，更是查刪處置淫穢色情、恐怖暴力、低俗惡俗等不良資訊超過603萬條；查繳非法有害少兒類出版物13.2萬多冊。此外，查辦網上傳播涉未成年人色情資訊、製售非法有害少兒出版物等“護苗”類案件70多起。

02
以AI為篩
淨化未成年人網路環境

此次推出的未成年保護方案，在標準內容稽核基礎能力之上增加了很多針對未成年設計的能力。例如性感、抽菸、喝酒等成年人內容，都有相應的識別過濾能力。還專門擴充套件了違規內容主體是否是未成年人的識別能力，如識別“未成年人直播”、“兒童裸露”等不良行為和圖片等。

目前，這套解決方案對於明顯色情圖片的召回率超過 96%；對於煙賭毒、紋身、床上直播等行為的召回率能夠達到80%以上。

在識別“未成年人直播”、“兒童裸露”等不良行為和圖片，以“區分14歲以上或以下”為測試標準，準確率接近80%。

也正是因為AI技術的介入，讓內容稽核的速度和效率大大提升，透過應用“AI機器稽核+人工複審”的模式，能夠更快更好地覆蓋更廣泛的內容，讓對未成年人的內容管理真正成為可能。

自上線內容安全服務以來，騰訊優圖與騰訊天御聯合為1500+家平臺提供內容安全服務，共計稽核圖片總量已突破1000億+，累計攔截不良內容51263萬。最佳化傳統內容稽核場景，覆蓋直播、社交、媒體等十多個行業，協助打擊各種不良內容的傳播行為，與內容平臺共同建設綠色健康的環境。

隨著科技的創新發展，AI技術的落地應用在最佳化生活方式的同時，也不斷重新整理著我們對於世界的認知。在眾多場景規模化應用落地的過程中，騰訊優圖始終秉持著“科技向善”的願景，讓AI能夠更好的為社會服務。

以本次釋出的未成年內容稽核解決方案為例，就是騰訊優圖首個專門針對未成年人這一網路弱勢群體的可落地技術方案。這種基於保護未成年人的技術研發和能力實現，就是騰訊科技向善的最好體現。