大資料時代的裸奔

奧卡姆剃刀發表於2015-01-14

  1、相關關係比因果關係更重要

  老王開了個包子鋪,有時做少了不夠賣,有時做多了沒賣完,兩頭都是損失。老王琢磨著買包子的都是街坊,他們買包子是有規律的,例如老張只在週六買,因為閨女週末會來看他,而且閨女就愛吃包子。於是老王每賣一次就記次賬,誰在哪天買了幾籠包子,並試圖找出每個街坊的買包子規律。

  資料雖然越記越多,但老王啥規律也沒找出來,即使是老張也都沒準,好幾個週六都沒來買,因為他閨女有事沒來。有個人給老王支招,你甭記顧客,就記每天賣了多少籠就行,這個法子明顯簡單有效,很容易就看出了週末比平時會多賣兩籠的規律。

  這個例子雖然簡單,卻道出了大資料的一個重要特點【相關關係比因果關係更重要】,週末與買包子人多就是相關關係,但為什麼多呢?是因為老張閨女這樣的週六來吃包子的人多?還是週末大家都不願意做飯?對這些可能性不必探究,因為即使探究往往也搞不清楚,只要獲得了週末買包子的人多,能正確地指導老王在週末時多包上兩籠,這就行了。

  要相關不要因果,這是大資料思維的重要變革,以前資料處理的目標更多是追求對因果性的尋找,或是對猜測的因果性的驗證,人們總是習慣性地找出個原因,然後心裡才能踏實,而這個原因是否是真實的,卻往往是無法核實的,而虛假原因對面向未來的決策來說是有害無益的。承認很多事情是沒有原因的,這是人類思維方式的一個重大進步。

  2、要全體不要抽樣

  傳統的調查方式都是抽樣的,抽取有限的樣本進行統計,從而得出整體的趨勢來,之所以選擇抽樣而不是統計全部資料,只有一個原因,那就是全部資料的數量太多了,根本沒法操作。

  抽樣的核心原則就是隨機性,不隨機就不能反映整體趨勢性。例如搞一個保暖內衣的調查,找了一群精壯的武警戰士試穿,戰士們穿上了普遍反映不冷,但這並不能說明內衣的保暖效果有多好。

  抽樣隨機性的道理誰都知道,但要做到隨機性其實是很難的。例如電視收視率調查,要從不同階層隨機找被調查人,但高學歷高收入的大忙人們普遍拒絕被調查,他們根本就不會為幾條毛巾贈品而耽誤時間,願意接受調查的多是整天閒得無聊的低收入者,電視收視率的調查結果就可想而知。<wbr>

  網際網路為大資料的採集帶來的新手段,雲端計算為處理大資料帶來了新方法。還以電視收視率調查為例,網際網路電視普及後,每一部電視正在收看什麼節目的資訊會毫無遺漏地傳送到調查中心。這就是大資料的第二個特點【要全體不要抽樣】,對全部資料進行統計分析,其結果當然會更加準確。<wbr>

  3、要效率不要精確

  俗話說的好,蘿蔔快了不洗泥,既然我們要的是全體資料,自然會夾雜進來一些錯誤的資料,這是難以避免的。我們傳統的資料分析的思路是“寧缺勿爛”,因為傳統小資料分析的資料量本身並不大,任何一個錯誤資料都有可能對結果產生相對較大的負面影響,對錯誤資料必須花大精力去清除,這是小資料時代必須堅持的原則。<wbr>

  大資料時代的原則就變了,變成了【要效率不要精確】,並不是說精確不好,而是因為在大資料時代是做不到的,如果繼續把排除錯誤資料作為重要工作,那大資料分析就進行不下去了。更重要的是,大資料分析的目標在於預測,而不在於追溯以前發生過的事件的真相。

  4、大資料時代的裸奔

  有次我給學生暢想未來,你走在大街上,基站的智慧天線以一道極窄的波束指向你的手機,從而獲得你的方位角,通過開機瞬時的上百次功率調整和探詢,換算後就能獲得你與基站的距離,兩個資訊結合就精準地確定了你的位置。根據你的搜尋記錄,網際網路早已知道了你的愛好,然後手機“滴”地一聲通知你,你前方10米處右側有您最喜愛吃的鹹豆腐腦店,正在八折酬賓中,“滴”地又來了一聲,老闆已得知您是鹹豆腐腦的忠實擁護者,特別給您打五折,來嘗一碗唄。

  在我描繪完未來資訊社會的全新生活方式後,有個學生問我:我走在大街上,手機“滴”地一聲,通知我前面有個同志聚會,系統通過我以前的搜尋和看過的片子早已確定了我的性向,並將我的資訊經過精確配對傳送給了好多基友,但我並不想出櫃,這可咋整啊?

  這個學生的玩笑話道出了大資料時代我們都面臨的一個重大問題,那就是隱私權問題。美國某機構曾做過一個實驗,根據網友的搜尋記錄來篩定目標,雖然資訊已經進行了模糊,還是有不願意出櫃的基友被篩出來了,基友的媽媽非常震驚和生氣,將該機構告上了法庭。

  微博上常有維權人士聲稱電話被政府監聽了,因為手機語音出現了不正常的聲音,其實這是他們多心了,他們的電信知識還停留在用鱷魚夾搭電話線竊聽的階段。並不是說政府不會竊聽,而是說如果政府竊聽你的電話,你是絕對察覺不出來的,多手段全方面的監控手段早已超出了外行的想象力。即使是技術內行,例如賣國家機密的間諜被收網後往往會馬上崩潰,他所有的電話簡訊郵件出行會面談話都有清清楚楚的鐵證。

  犯罪成本太高了,將來無死角的攝像監控頭會記錄下一切,即使你犯罪時蒙著面,根據前兩天你沒蒙臉踩點時的錄影,通過姿態步態的匹配演算法就能把你篩選出來。現在公安系統有句話“只要上手段,沒有查不出來的”,上手段就是指包括攝像頭監控、手機監控、網路監控等綜合手段。現在的基礎設施還不完善,等將來所有的路燈杆都變成了多感測監控器,加上強大的大資料分析能力,你還想咋藏?

  更有意思的是,將來的犯罪逮捕會變成事前,有天你啥事沒做睡在床上就被逮捕了,警察通告你:根據警方對你所有資訊的大資料分析,顯示你已經知道了老婆出軌之事,根據以往犯罪案例及你本人性格的大資料分析結果,你有76.3%的概率會在本週內對老婆進行輕傷以上程度的犯罪,超過了法律規定的60%輕傷以上犯罪概率必須入監的標準,特羈押你一個月,根據大資料分析結果,放出來後的你仍然犯罪的概率會降低到法律規定可以釋放的5%以下。

  聽著很安全吧?但是不是也感到了毛骨悚然?在大資料時代,我們每個人都是赤條條地在資訊社會中裸奔,真的是光著屁股一絲不掛地那種裸奔,難到沒有人意識到這點嗎?當然不是,英國等西方國家早就對街道監控攝像頭展開了全社會的大討論,安全與隱私該如何權衡?隨著近年來隨著恐怖主義的盛行,安全顯然更重要了,公民們很無奈地同意把更多的隱私權交給了政府,以獲得更大的安全感。

  必須對公民隱私資訊進行分級制的嚴管,公安部門掌握著每個人的開房資訊,如果不涉及到重大違法犯罪的話,絕不能濫加使用,更不能透露給當事人的配偶,否則社會就會大亂。掌握資訊和利用資訊的應是獨立的兩個機構,如果讓利用資訊的公安部分掌管公民所有隱私資訊,那就會成為一個人人自危的恐怖國家。

  我們現在該如何做好迎接大資料時代的準備?我覺得應該培養公權機構絕不能洩露公民隱私的社會輿論,前幾天網上流傳著范冰冰的機場安檢照,記者們以此做娛樂文章稱人家如何如何,這就是一個極壞的兆頭!如果放任這種公權力的濫用,我們每個人將來都會成為光屁股裸奔的人,光不光屁股則取決於掌握公民資訊的權力人士的一念之差。

  最近有報導稱銀行內鬼販賣賬戶資訊,銀行方面居然稱這事主要靠自覺,他們內部查不出來。這事也是大惡!查不出來是因為銀行內部缺乏相應的技術手段,根本就沒有建立起相應的資訊保密制度,這種不作為是未來大資料時代的嚴重隱患。

  前兩天我參加一個學生的婚禮,作為導師我被安排在領導桌,剛坐定就有個陌生人來照相,詢問後才知是婚宴酒商的員工,把我們作為背景來照酒的照片,估計是用於宣傳。我把他轟走了,我不願意這個資料留在網上,不願意讓它將來作為分析我的大資料資料。

  結論:與以往的抽樣統計不同,大資料使用的是全部資料,更著重的是效率而不是資料的精確性,關注的是相關性而不是因果性,這些特點造就了大資料對事物發展的極強的預測能力,它可以給我們帶來更安全更便捷的新生活,同時也給個人隱私帶來了巨大的威脅,對掌握公民隱私資訊的公權力的嚴格控制,應該成為全社會的共識。

  後記:

  我現在基本不寫專欄而改寫長微博了,原因有三個:一是長微博不限字數,而傳統紙媒要求必須在3千字以內,很難通過舉例子的方式把道理講透徹;二是作者們都會討厭編輯的修改,他們往往不能理解作者的真實意圖,改得你非常的難受,而長微博的每一個字都是自己做主的;三是長微博收益高,紙媒文章也就千字幾百,被網友認同的長微博收益要高些,而且網友自願支付,對作者來說更有成就感。

  我真不是有些網友謬讚的通訊大牛,大牛都在實驗室裡,你見不到也不會認識,我只是一個教通訊專業基礎課的普通老師。如果自誇下,那就是一位知識面較廣受學生喜愛的好老師,唯一長處就是擅於把複雜的專業問題簡單化,具有一定深入淺出的授課和寫作能力。

  業餘時間寫稿子掙點外快是我的生活方式,尤其是在網上這些年的歷練,讓我摸到了針對普通公眾的科普寫法,不管你是學什麼的,我寫的東西保證讓你懂,而且保證你獲得的知識是正確的而且是有價值的。

  這篇文章我定的預設打賞額度是4.99元,為什麼是這個數呢?因為 [英]維克托.邁爾-舍恩伯格肯尼思.庫克耶所著的《大資料時代》一書的定價49.9元,我以此書為基礎,又參考了其它書籍文獻,結合我以前學習過的資料倉儲和資料探勘知識,把內容進行了提煉和總結。我的想法是:通過閱讀這篇文章,只花費您原書1/10的金錢,浪費您讀原書的1/10的時間,您就能獲得原書知識的精華。

  以前有網友開玩笑說,奧老師你比我掙的多,我就不打賞了啊。我笑著反問他,馬雲比你有錢多了,為啥你還在給淘寶做貢獻呢?那是因為馬雲給你提供了服務,你是為服務付的費,不是給首富馬雲的賞錢,這跟誰掙錢多沒關係,而且我就是個掙死工資的老師,就指著寫點文章掙點外快。

  從父母要生活費的學生們不要打賞,把錢留著多打份肉菜吧,我的勞動報酬有已經工作的成年人支付,還輪不到你們為社會秩序做貢獻。踏踏實實地學本領才是正事,絕對不要當微博控,千萬不要跟我攀比,我玩微博寫科普不僅是對自身知識的梳理過程,而且還能掙點錢,你們玩微博就是純粹浪費生命。

QQ群:WEB開發者官方群(515171538),驗證訊息:10000
微信群:加小編微信 849023636 邀請您加入,驗證訊息:10000
提示:更多精彩內容關注微信公眾號:全棧開發者中心(fsder-com)
網友評論(共2條評論) 正在載入評論......
理智評論文明上網,拒絕惡意謾罵 發表評論 / 共2條評論
登入會員中心

相關文章