資料清洗的方法有哪些?

CDA 資料分析師發表於2019-03-08


現如今,科技得到了空前發展,正是由於這個原因,很多科學技術得到大幅度的進步。就在最近的幾年裡,出現了很多的名詞,比如大資料、物聯網、雲端計算、人工智慧等。其中大資料的熱度是最高的,這是因為現在很多的行業積累了龐大的原始資料,通過資料分析可以得到對企業的決策有幫助的資料,而大資料技術能夠比傳統的資料分析技術更優秀。但是,大資料離不開資料分析,資料分析離不開資料,海量的資料中有很多是我們我們需要的資料,也有很多我們不需要的資料。正如世界上沒有完全純淨的東西,資料也會存在雜質,這就需要我們對資料進行清洗才能保證資料的可靠性。一般來說,資料中是存在噪音的,那麼噪音是怎麼清洗的呢?我們就在這篇文章中給大家介紹一下資料清洗的方法。

通常來說,清洗資料有三個方法,分別是分箱法、聚類法、迴歸法。這三種方法各有各的優勢,能夠對噪音全方位的清理。分箱法是一個經常使用到方法,所謂的分箱法,就是將需要處理的資料根據一定的規則放進箱子裡,然後進行測試每一個箱子裡的資料,並根據資料中的各個箱子的實際情況進行採取方法處理資料。看到這裡很多朋友只是稍微明白了,但是並不知道怎麼分箱。如何分箱呢?我們可以按照記錄的行數進行分箱,使得每箱有一個相同的記錄數。或者我們把每個箱的區間範圍設定一個常數,這樣我們就能夠根據區間的範圍進行分箱。其實我們也可以自定義區間進行分箱。這三種方式都是可以的。分好箱號,我們可以求每一個箱的平均值,中位數、或者使用極值來繪製折線圖,一般來說,折線圖的寬度越大,光滑程度也就越明顯。

迴歸法和分箱法同樣經典。迴歸法就是利用了函式的資料進行繪製影像,然後對影像進行光滑處理。迴歸法有兩種,一種是單線性迴歸,一種是多線性迴歸。單線性迴歸就是找出兩個屬性的最佳直線,能夠從一個屬性預測另一個屬性。多線性迴歸就是找到很多個屬性,從而將資料擬合到一個多維面,這樣就能夠消除噪聲。

聚類法的工作流程是比較簡單的,但是操作起來確實複雜的,所謂聚類法就是將抽象的物件進行集合分組,成為不同的集合,找到在集合意外的孤點,這些孤點就是噪聲。這樣就能夠直接發現噪點,然後進行清除即可。

關於資料清洗的方法我們給大家一一介紹了,具體就是分箱法、迴歸法、聚類法。每個方法都有著自己獨特的優點,這也使得資料清洗工作能夠順利地進行。所以說,掌握了這些方法,有助於我們後面的資料分析工作。

相關文章