報告下載:新增199IT官方微信【i199it】,回覆關鍵詞【2020AI生成內容發展報告】即可
騰訊研究院、騰訊優圖實驗室共同完成報告《AI生成內容發展報告2020——“深度合成”(deep synthesis)商業化元年》,並基於該報告總結出了人們對該技術的十個誤解,希望通過澄清這些誤解,幫助人們更全面地瞭解深度合成技術的發展和應用情況。
誤解1:深度合成技術僅包括AI換臉一種形式。
實際上,現階段的深度合成技術,除了廣為人知的“AI換臉”以外,還包括人臉再現、人臉生成、語音合成等技術,並朝著全身合成、數字虛擬人等方向發展。
誤解2:任何人都可以製作高質量、高模擬的深度合成內容。
深度合成內容的製作門檻已大為降低,但是高質量、高模擬的深度合成內容的製作還未普遍實現,仍需專業技能和專業工具。
誤解3:深度合成技術已被大量濫用,用於在社交媒體平臺上製作、傳播虛假資訊。
實際上,無論是在國內還是在國外,社交媒體平臺上涉及政治和政治人物的深度合成視訊都是很少見的,深度合成性質的虛假資訊也很少。
誤解4:快速立法是應對深度合成技術濫用風險的唯一有效方式。
在新技術的治理與風險防範方面,法律規制一直是必不可少的手段,但由於很難識別深度合成內容的來源,立法可能起不到應有的效果,還可能阻礙技術的有益應用與正向發展。
誤解5:深度合成內容無法通過技術工具鑑別,只能通過生物特徵測試(例如“眨眼測試”)。
實際上,眨眼測試等根據生物特徵進行鑑別的方式,是非常低效、不可靠的,只能階段性地起作用,而且隨著深度合成技術的發展進化,生物特徵測試越來越難以發揮作用。
誤解6:深度合成就是“深度偽造”(deepfake)。
國內媒體一般根據“deepfake”這一合成詞,將其背後的技術翻譯為“深度偽造”,但“深度偽造”是以偏概全,不足以涵蓋所有的深度合成技術和相應的合成內容。
誤解7:深度合成是人工智慧技術作惡,只會給社會的帶來負面影響,沒有正向價值。
具備高度模擬能力的深度合成技術,雖然也存在被濫用的風險,但其巨大的正向應用價值將持續帶來社會福利,正被廣泛應用於影視、娛樂、教育、醫療、社交、電商、內容營銷、藝術創作、科研等諸多領域。
誤解8:網際網路行業對深度合成內容呈放任狀態。
實際上,網際網路行業內的主流網路平臺已經著手採取自律措施應對深度合成技術的潛在濫用。
誤解9: 深度合成已經被國外立法禁止。
實際上,被禁止的不是深度合成技術本身,而是利用此項技術從事色情視訊合成、虛假新聞、干擾選舉等非法行為。
誤解10:深度合成會徹底衝擊媒體信任。
深度合成技術將如何影響大眾的行為和認知,目前還沒有足夠的研究支援,但是它提示我們,進入人工智慧大眾化時期,對大眾資訊分辨能力的培養也是治理的重要一環。
報告下載:新增199IT官方微信【i199it】,回覆關鍵詞【2020AI生成內容發展報告】即可