一篇文章讓你知道什麼是大資料探勘技術

大資料如果想要產生價值，對它的處理過程無疑是非常重要的，其中大資料分析和大資料探勘就是最重要的兩部分。在前幾期的科普中，小編已經為大家介紹了大資料分析的相關情況，本期小編就為大家講解大資料探勘技術，讓大家輕輕鬆鬆弄懂什麼是大資料探勘技術。

什麼是大資料探勘？

分享之前我還是要推薦下我自己建立的大資料學習交流Qun531629188

無論是大牛還是想轉行想學習的大學生

小編我都挺歡迎，今天的已經資訊上傳到群檔案，不定期分享乾貨，

包括我自己整理的一份最新的適合2018年學習的大資料教程，歡迎初學和進階中的小夥伴。

資料探勘(Data Mining)是從大量的、不完全的、有噪聲的、模糊的、隨機的資料中提取隱含在其中的、人們事先不知道的、但又是潛在有用的資訊和知識的過程。

資料探勘物件

根據資訊儲存格式，用於挖掘的物件有關聯式資料庫、物件導向資料庫、資料倉儲、文字資料來源、多媒體資料庫、空間資料庫、時態資料庫、異質資料庫以及Internet等。

資料探勘流程

定義問題：清晰地定義出業務問題，確定資料探勘的目的。

資料準備：資料準備包括：選擇資料–在大型資料庫和資料倉儲目標中 提取資料探勘的目標資料集;資料預處理–進行資料再加工，包括檢查資料的完整性及資料的一致性、去噪聲，填補丟失的域，刪除無效資料等。

資料探勘：根據資料功能的型別和和資料的特點選擇相應的演算法，在淨化和轉換過的資料集上進行資料探勘。

分享之前推薦一個大資料學習交流群：722680258未來將是大資料時代，需要學習大資料的抓緊時間學習，群內不定期分享視訊資料，歡迎加入

結果分析：對資料探勘的結果進行解釋和評價，轉換成為能夠最終被使用者理解的知識。

資料探勘分類

直接資料探勘：目標是利用可用的資料建立一個模型，這個模型對剩餘的資料，對一個特定的變數（可以理解成資料庫中表的屬性，即列）進行描述。

間接資料探勘：目標中沒有選出某一具體的變數，用模型進行描述；而是在所有的變數中建立起某種關係。

資料探勘的方法

神經網路方法

神經網路由於本身良好的魯棒性、自組織自適應性、並行處理、分佈儲存和高度容錯等特性非常適合解決資料探勘的問題，因此近年來越來越受到人們的關注。

遺傳演算法

遺傳演算法是一種基於生物自然選擇與遺傳機理的隨機搜尋演算法，是一種仿生全域性優化方法。遺傳演算法具有的隱含並行性、易於和其它模型結合等性質使得它在資料探勘中被加以應用。

決策樹方法

決策樹是一種常用於預測模型的演算法，它通過將大量資料有目的分類，從中找到一些有價值的，潛在的資訊。它的主要優點是描述簡單，分類速度快，特別適合大規模的資料處理。

粗集方法

粗集理論是一種研究不精確、不確定知識的數學工具。粗集方法有幾個優點：不需要給出額外資訊;簡化輸入資訊的表達空間;演算法簡單，易於操作。粗集處理的物件是類似二維關係表的資訊表。

覆蓋正例排斥反例方法

它是利用覆蓋所有正例、排斥所有反例的思想來尋找規則。首先在正例集合中任選一個種子，到反例集合中逐個比較。與欄位取值構成的選擇子相容則捨去，相反則保留。按此思想迴圈所有正例種子，將得到正例的規則(選擇子的合取式)。

統計分析方法

在資料庫欄位項之間存在兩種關係：函式關係和相關關係，對它們的分析可採用統計學方法，即利用統計學原理對資料庫中的資訊進行分析。可進行常用統計、迴歸分析、相關分析、差異分析等。

模糊集方法

即利用模糊集合理論對實際問題進行模糊評判、模糊決策、模糊模式識別和模糊聚類分析。系統的複雜性越高，模糊性越強，一般模糊集合理論是用隸屬度來刻畫模糊事物的亦此亦彼性的。

資料探勘任務

關聯分析

兩個或兩個以上變數的取值之間存在某種規律性，就稱為關聯。資料關聯是資料庫中存在的一類重要的、可被發現的知識。關聯分為簡單關聯、時序關聯和因果關聯。關聯分析的目的是找出資料庫中隱藏的關聯網。一般用支援度和可信度兩個閥值來度量關聯規則的相關性，還不斷引入興趣度、相關性等引數，使得所挖掘的規則更符合需求。

聚類分析

聚類是把資料按照相似性歸納成若干類別，同一類中的資料彼此相似，不同類中的資料相異。聚類分析可以建立巨集觀的概念，發現資料的分佈模式，以及可能的資料屬性之間的相互關係。

分類

分類就是找出一個類別的概念描述，它代表了這類資料的整體資訊，即該類的內涵描述，並用這種描述來構造模型，一般用規則或決策樹模式表示。分類是利用訓練資料集通過一定的演算法而求得分類規則。分類可被用於規則描述和預測。

預測

預測是利用歷史資料找出變化規律，建立模型，並由此模型對未來資料的種類及特徵進行預測。預測關心的是精度和不確定性，通常用預測方差來度量。

時序模式

時序模式是指通過時間序列搜尋出的重複發生概率較高的模式。與迴歸一樣，它也是用己知的資料預測未來的值，但這些資料的區別是變數所處時間的不同。

偏差分析

在偏差中包括很多有用的知識，資料庫中的資料存在很多異常情況，發現資料庫中資料存在的異常情況是非常重要的。偏差檢驗的基本方法就是尋找觀察結果與參照之間的差別。