AI產品經理之資料標註

dicksonjyl560101發表於2019-08-19

前兩篇筆者分別為大家介紹了AI產品經理需要了解的概率論通識、線性代數通識、微積分通識，本篇文章中，筆者將繼續為你介紹AI產品經理需要了解的資料標註，供大家一參考學習。

前幾天參加京東的AI技術沙龍，在提問環節，有個小夥說：

“我是做銷售的，剛才您講的我都沒聽懂，我就知道，現在AI是風口，只要做AI相關的就能掙錢，您能說幾個現在我們這類人能做到嗎？能掙錢就行！”

臺上技術出身的老師自然一時語塞。小夥說的沒錯，百團大戰的時候確實一批刷單公司賺得盆滿缽滿。但是這些投機取巧註定不能長遠。

讓更多人捲進這次AI浪潮的可能就是資料標註了，All in AI的百度擁有大量的標註業務，大部分河南標註工廠用的是百度的標註工具，乾的是百度的活。開始的時候標註的利潤空間可以達到60%—70%。有些企業盲目擴張，一下子招了幾百人；但是陸奇離開後，百度需求減少。準確率又普遍提高至95%-96%，活難幹了。這些工廠只會百度的標註工具，很難接別家的業務，因此死了一批。

現在來看標註行業是一個苦行業，“如果你和誰有仇，就勸他幹標註吧。”這是標註圈有名的段子。幹標註就像將水倒進一個水桶裡，每拉一個框就是添一碗水。目前，誰也不知道還能添多久，只有水溢位來時，才知道。

資料是AI公司的必需品。資料對於AI模型的重要性尤為重要，AI建模沒有門檻，資料才是門檻。現階段的人工智慧是簡單的認知智慧。分類器的構造是個數學問題，就是由資料堆起來的。或者說深度學習本質上是個數學問題，是由大量的樣本空間資料反向構造分類器的係數空間的過程。

資料標註模型

資料標註業務的配置是一個複雜的數學模型。比如，有些任務需要串並聯的工作流，並聯的工作流是多人協同的工作。串聯的工作流是後一個結果是基於前一個結果進行處理的，串並聯的工作流需要平臺來實現業務工作流的配置。比如一些NLP型的文字標註作業，需要多個人來標，最後N選一或者投票。串並聯配置涉及到底層資料流的分發等。或者說更像是一個流水線作業流程。

不斷地用標註後的資料去訓練模型，不斷調整模型引數，得到指標數值更高的模型。

資料的質量直接會影響到模型的質量，因此資料標註流程設計和監督糾錯就顯得異常重要。

一般來說，資料標註部分可以有三個角色：

資料標註員：標註員負責標記資料。（文字、影象、視訊）
資料稽核員：稽核員負責稽核被標記資料的質量。（抽檢）
標註管理員：管理人員、發放任務、跟進流程。

只有在資料被稽核員稽核通過後，這批資料才能入庫使用。

一般眾包資料標記流程

任務分配：一般資料分配由後臺自動分發，根據使用者選擇標註型別每次分發幾條內容，標註完成後再次分發。
複核入庫：一般一條任務會分配給大於三個人的基數人員完成，根據少數服從多數原則確定該條資料的最終標籤。
質量驗收：一般會根據使用者標註總數量和入庫數量計算該使用者的標註質量，和計算有效標註數量，質量高的和質量低的薪酬計算方法會有差別，以此來淘汰不能完成高質量標註的人員。