祖克伯、張一鳴、宿華都公開道歉，AI演算法不靈了嗎？

作者 | DavidZh

出品 | AI 科技大本營（公眾號ID：rgznai100）

中國最大的兩個短視訊產品快手和抖音，世界最大的社交網路 Facebook，最近都來到了輿論風波的正中心。

憑藉強大的推薦演算法和使用者貢獻內容（UGC），這三家公司積累了海量使用者，但也都遇到了內容稽核的難題。

今日頭條旗下的內涵段子被監管部門評價為“導向不正”。快手、抖音、火山小視訊的稽核機制沒能攔下由使用者上傳並被監管部門認定的“低俗內容”。而 Facebook 整個 2017 年都在跟假新聞做鬥爭，最近還因為 8700 萬使用者隱私資料被洩露 CEO 祖克伯要到美國國會參加專門的聽證會。

雖然三家公司的 CEO 都已經公開道過歉，但這些風波讓我們更加理解 AI 是什麼，它的能力邊界又在哪兒。

▌AI 包含人的價值取向甚至是偏見

今年 3 月，央視報導過快手平臺上存在大量未成年媽媽等低俗內容，以及今日頭條的廣告問題之後，兩家公司的 CEO 宿華和張一鳴相繼釋出道歉信。

昨日晚間，今日頭條 CEO 張一鳴還在道歉信中宣佈永久關停內涵段子 App，承諾將“正確的價值觀融入技術和產品”，同時將運營稽核團隊規模從現在的 6000 人擴大到 10000 人。

快手不久前也啟動了內容稽核員的大規模招聘，一口氣就要 3000 名稽核編輯，招聘條件是團員和黨員優先。

新招募的這些人員，除了在運營層面給公司大幅增加開支之外，還意味著快手、今日頭條、抖音等社群型產品在 UGC 內容稽核上還不能完全依賴它們所擅長的 AI 演算法。“人工稽核” 仍然佔據非常重要的地位。

對於 AI 在 UGC 社群內容稽核中所扮演的角色，快手 CEO 宿華在道歉信中表達的觀點更為直接：

（快手）社群執行用到的演算法是有價值觀的，因為演算法的背後是人，演算法的價值觀就是人的價值觀，演算法的缺陷是價值觀上的缺陷。

換句話說，快手的推薦演算法包含並反映出了這家公司在短視訊內容上的價值判斷和平臺偏好。內涵段子、抖音等頭條系的 App 也是同理。

▌AI 能快速吸引使用者，也讓平臺更容易被監管

依靠能夠揣摩使用者喜好的推薦演算法，快手自轉型短視訊以來，累計吸引了超過 7 億的註冊使用者，日活使用者規模達到 1.2 億。而比今日頭條更早上線的內涵段子，在早期成了最主要的下載來源。抖音從去年快速崛起之後，最新的日活資料已經增長到 9000 萬。

成立於 2004 年的 Facebook，雖然總使用者增長放緩，但月度活躍使用者已經漲到了 20 億，相當於全球網際網路使用者的 50%。

隨著海量使用者的加入，這些社交平臺上的內容也開始變得五花八門。

快手上各種驚奇搞怪的表演，在早期給快手短視訊貼上了 low 的標籤。而抖音在強運營策略的主導下，依靠海草舞、各種運鏡、旅遊風光等內容，形成了自己的風格，同時也吸引到更多的內容貢獻者。Facebook 使用者的時間線上，則充斥著真真假假的時下新聞。

由於推薦演算法 7*24 不間斷執行，使用者很容易因為“刷上癮”而忘記時間。

就國內而言，在國家廣電總局眼中，快手、抖音這些“全民級”內容平臺的價值判斷和導向是不符合要求的，所以才有了這次針對短視訊和新聞資訊類產品的集中整頓。

在道歉信中，張一鳴將此次被整頓的深層原因歸結為“‘四個意識’淡薄、社會主義核心價值觀教育缺失、輿論導向存在偏差。”宿華則承諾要“重整社群執行規則，將正確的價值觀貫穿到演算法推薦的所有邏輯中”。

但從技術層面看，目前的 AI 演算法還很難理解“四個意識”和社會主義核心價值觀的真正含義。社群執行規則和內容稽核策略的調整還是要藉助相當多的人力。

以 Google 為例，基於機器學習的線上視訊內容雲端識別 API 去年 3 月才在 Google Cloud 正式上線。而國內雲服務公司阿里雲、騰訊雲、百度雲等對視訊內容的識別、多維度分析和解讀服務也才推出不久。

從技術成熟度來說，包含音訊的視訊內容分析和自動稽核即便在人工智慧逐步落地的今天，仍然有很多挑戰。更不用說監管層面對短視訊平臺的種種要求。

▌內容稽核之外，更難的是持續讓使用者信任

在內容稽核上，月活使用者數超過 20 億的 Facebook 面臨的挑戰更加嚴峻。

首先是不同國家的語言和文化差異，一則帶有煽動性的仇恨言論很可能成為稽核機制的漏網之魚，在社交網路裡肆意傳播。

按照目前 AI 的智力水平，要解決這個問題，更多還是要考人工來稽核。目前 Facebook 擁有一個 15000 人規模的運營稽核團隊，預計今年年底增加至 20000 人。

在昨天舉行的美國國會聽證會上，Facebook 創始人祖克伯回答問題時表示，利用機器學習工具來自動監測和處理仇恨言論要 5-10 年後才會變成現實。



這無疑是對 AI 在矽谷乃至整個科技界的莫大沖擊。與此同時，也讓我們更加清楚瞭解了人工智慧現階段的能力邊界。

而在商業模式層面，Facebook 對使用者完全免費，依靠廣告收入支援平臺和公司運營。抖音和快手也是如此。

這意味著此類免費產品的使用者，或多或少總有一些個人資料被利用了。

在 2010 年的一次網路討論中，一位 ID 為 blue_beetle 的使用者道出了真相：

If you are not paying for it, you're not the customer; you're the product being sold.

正是因為 Facebook 沒有做好隱私資料的保密工作，才招致了使用者和公眾的不信任。這對一個社交平臺來說，是最直接的打擊：當平臺上的好友都離開，使用者本身也有極高的可能性流失掉。

為了解決隱私保護和商業化之間的矛盾，祖克伯表示會始終提供一個免費版的 Facebook。Facebook 的 COO 在接受採訪時還說，如果使用者不希望自己的資料作為投放廣告的依據，可以選擇自願退出，但要向 Facebook 支付一筆費用。

這聽起來可能並不是挽留使用者的最佳方法，但在 AI 變得真正強大之前，免費網際網路產品的商業化悖論將一直存在。

招聘

AI科技大本營現招聘AI記者和資深編譯，有意者請將簡歷投至：gulei@csdn.net，期待你的加入！

AI科技大本營讀者群（計算機視覺、機器學習、深度學習、NLP、Python、AI硬體、AI+金融、AI+PM方向）正在招募中，和你志同道合的小夥伴也在這裡！關注AI科技大本營微信公眾號，後臺回覆：讀者群，新增營長請務必備註姓名，研究方向。

AI科技大本營公眾號ID：rgznai100

☟☟☟點選 | 閱讀原文 | 檢視更多精彩內容