我們應該如何理解李飛飛價值十億美金的“人文AI”計劃？

AI自從以應用角度走進大眾視野，就一直逃不出“人文主義”的苛責。作為一種依靠於海量資料運轉的技術，AI之所以能夠作為提升效率的工具，主要還是因為對人類經驗的高度集中。

而“人類經驗”這件事，本身就是不夠完美的。普遍能夠累積成海量資料的經驗，有時反而更加充滿偏見。就像如果把AI帶入哥倫布時代，AI也會成為一位堅定的地心論支持者。

而李飛飛離開谷歌迴歸史丹佛後，主導的第一個專案HAI——以人為本人AI研究院(Stanford Human-Centered AI Institute)，就在著重解決AI與人文主義之間的溝壑。

AI擬人化，竟是一位“富裕的白人男性”?

首先要知道的，究竟是什麼讓AI無法“以人為本”?

目前從人文、從公平的角度來看，AI公認的兩個問題是“白人至上(White Guy Problem)”和“男性之海(Sea of Dudes)”。

所謂白人至上，是指在演算法驅動下AI所做出的一些種族歧視行為。例如谷歌的圖片自動分類曾經將黑人照片分類成大猩猩，以及惠普的攝像頭演算法無法識別深膚色的人。在犯罪預測軟體中，甚至會將黑人的犯罪率識別成普通白人的兩倍以上。

而男性之海，則指的是AI從業者中有極大的性別傾斜，在2015年的NIPS上，女性與會者的人數竟然只佔到了13.7%，李飛飛提到，在論文引用量，男性作者的被引用次數要比女性作者高100倍。

用《紐約時報》的話講，兩者結合，讓AI被塑造出了一個“富裕白人男性”的價值觀——剛好和那些掌握著科技霸權的企業主們一模一樣。

如此以來，對於AI的應用很可能反而會讓人們一直以來對於推動種族、性別間平等所做的努力白費。

就像平權主義者一直在推動男女收入平等，而去年卡內基梅隆大學的電腦科學家卻發現，在谷歌的廣告推送機制中，更傾向於將高收入工作的招聘廣告推送給男性使用者。

而當美國各地警察部門在執行預測性警務工作時，資料驅動的風險評估工具會讓他們更多的前往有色人種聚集區，無形中加重了對某一人群的偏見和標籤化。

可怕的是，當女性在職場上遇到歧視時，她還可以對自己情況進行發聲。而當AI驅動一切在無聲中進行時，女性甚至不知道自己正在處在歧視鏈之中——如果從沒見過這項招聘啟事，女性自然不知道高收入工作更傾向於招聘男性。

而當AI行業中充斥著“富裕的白人男性”時，他們自然也很難注意到演算法黑箱中產生了這樣的問題。最終萬事萬物都在人類歧視造就的規則下執行，被驅動的每一個群體卻又看不清規則的真正面目。

十億美金的遠大目標

李飛飛在史丹佛主導的HAI專案，大概有著以下三個目標：第一是推進和發展下一代AI科學(重點在於腦科學和認知科學)，第二是研究和預測AI對人類社會和生活的影響，第三是設計和實踐以人為本的AI技術和應用。

這麼一看，所謂“以人為本”的說法其實挺虛的。但綜合史丹佛的一些公開資料，以及李飛飛的一些講話，我們可以大概總結出HAI究竟想做些什麼。

首先是在AI研究中引入更多樣化的視角和交叉思維。

最主要的，就是支援女性和有色人種進入AI研究。例如史丹佛所支援的“Black in AI”專案，就在號召有色人種關注目前的AI研究，關注AI無形中所帶來的歧視問題。

同時還有持續追蹤各個領域應用AI後所帶來的影響。

初次之外，HAI還邀請了社會各界人士共同參與，如教育、工業、藝術等等領域，試圖讓他們一起發表意見，尤其是對技術研發者給出反饋，告訴他們AI究竟對這一領域產生了哪些影響，以權衡技術的未來走向。

至於推動下一代AI科學就很好理解了，主要是幫助研究者圈定研究方向，推動AI的可解釋性等等，這裡就不再進行贅述。

但有趣的是，HAI作為一個非常政治正確並偉光正的專案，並沒有在輿論獲得一致性的支援。尤其有媒體指出，該機構有121位教職工，其中有100位以上都是白人，並只有30%的女性。

於是事情就變成了，HAI邀請了一群富裕的白人男性，試圖募集10億美金去從人文角度矯正人工智慧的“富裕白人男性”價值觀。

齒輪之下：如何看待商業效率以外的AI?

雖然HAI獲得的評價不一，但AI所帶來的公平性問題，確實已經開始影響人們的正常生活。

就像上文提到的演算法錯誤估計有色人種犯罪率將其提升了兩倍，同樣意味著演算法將白人的犯罪率錯誤的低估了兩倍。如果執法者依賴這種錯誤的演算法，則意味著不僅可能冤枉好人，也可能錯放壞人。

又比如前兩年亞馬遜曾經鬧出的醜聞，使用者發現演算法在分配貨物能否當日送達時，一旦輸入了黑人聚集區的郵政編碼，就無法使用當日送達服務。

(被評價為“高風險”的有色人種，和擁有數次犯罪記錄卻被評定為低風險的白人)

這種偏見現象正在越來越多地出現在種種服務中：貸款的AI風控、保險的AI稽核機制。最後就導致了越是弱勢群體，越容易被演算法邊緣化，進而難以獲得資源與幫助，最後進一步地向弱勢一方傾斜，甚至最終走向犯罪，加重了演算法歧視。

如此看來HAI的很多策略，是非常值得我們仔細思考的。

例如，當我們在關注產業AI的效率問題時，我們是否也應該考慮在效率之外，AI對於產業的更多影響?當AI對於擁有強大IT基礎的零售集團發揮作用，他們更加理解使用者心智時，那些小而美的微型零售店是否在風潮中被遺忘和擠壓，最終退出舞臺?

又比如除了那些研發技術和為技術買單的人之外，我們是否有責任去傾聽更多人的聲音?AI的研發者與技術採買者或許清晰地知道AI是如何推動我們生活運轉的，但那些同樣被卷在齒輪之下的人，是否也有權力瞭解到這些齒輪的運轉規則?

更重要的，我們是否應該盡力去推動AI黑箱的透明化，在發現問題時能夠從內部技術機制上解決?

以往我們總覺得，技術永遠只是研發者和應用之間的故事。如今看來，或許AI已經成為了一個世界命題。

世界命題，就應該廣泛參與。

來自 “ ITPUB部落格 ” ，連結：http://blog.itpub.net/31561483/viewspace-2639792/，如需轉載，請註明出處，否則將追究法律責任。