資料探勘的10種分析方法
資料探勘(Data Mining,DM),又稱資料庫中的知識發現(Knowledge Discover in Database,KDD),是目前人工智慧和資料庫領域研究的熱點問題,所謂資料探勘是指從資料庫的大量資料中揭示出隱含的、先前未知的並有潛在價值的 資訊的非平凡過程。資料探勘是一種決策支援過程,它主要基於人工智慧、機器學習、模式識別、統計學、資料庫、視覺化技術等,高度自動化地分析企業的資料, 做出歸納性的推理,從中挖掘出潛在的模式,幫助決策者調整市場策略,減少風險,做出正確的決策。
——以上引自互動百科
資料探勘(Data Mining)的十種分析方法:
1. 記憶基礎推理法(Memory-Based Reasoning:MBR)
記憶基礎推理法最主要的概念是用已知的案例(case)來預測未來案例的一些屬性(attribute),通常找尋最相似的案例來做比較。
記憶基礎推理法中有兩個主要的要素,分別為距離函式(distance function)與結合函式(combination function)。距離函式的用意在找出最相似的案例;結合函式則將相似案例的屬性結合起來,以供預測之用。記憶基礎推理法的優點是它容許各種型態的數 據,這些資料不需服從某些假設。另一個優點是其具備學習能力,它能藉由舊案例的學習來獲取關於新案例的知識。
較令人詬病的是它需要大量的歷史資料,有足夠的歷史資料方能做良好的預測。此外記憶基礎推理法在處理上亦較為費時,不易發現最佳的距離函式與結合函式。其可應用的範圍包括欺騙行為的偵測、客戶反應預測、醫學診療、反應的歸類等方面。
2. 市場購物籃分析(Market Basket Analysis)
購物籃分析最主要的目的在於找出什麼樣的東西應該放在一起?商業上的應用在藉由顧客的購買行為來了解是什麼樣的顧客以及這些顧客為什麼買這些產品,找出相關的聯想(association)規則,企業藉由這些規則的挖掘獲得利益與建立競爭優勢。
舉例來說,零售店可藉由此分析改變置物架上的商品排列或是設計吸引客戶的商業套餐等等。
購物籃分析基本運作過程包含下列三點:
(1)選擇正確的品項:這裡所指的正確乃是針對企業體而言,必須要在數以百計、千計品項中選擇出真正有用的品項出來。
(2)經由對共同發生矩陣(co-occurrence matrix)的探討挖掘出聯想規則。
(3)克服實際上的限制:所選擇的品項愈多,計算所耗費的資源與時間愈久(呈現指數遞增),此時必須運用一些技術以降低資源與時間的損耗。
購物籃分析技術可以應用在下列問題上:
(1)針對信用卡購物,能夠預測未來顧客可能購買什麼。
(2)對於電信與金融服務業而言,經由購物籃分析能夠設計不同的服務組合以擴大利潤。
(3)保險業能藉由購物籃分析偵測出可能不尋常的投保組合並作預防。
(4)對病人而言,在療程的組合上,購物籃分析能作為是否這些療程組合會導致併發症的判斷依據。
3. 決策樹(Decision Trees)
決策樹在解決歸類與預測上有著極強的能力,它以法則的方式表達,而這些法則則以一連串的問題表示出來,經由不斷詢問問題最終能匯出所需的結果。 典型的決策樹頂端是一個樹根,底部有許多的樹葉,它將紀錄分解成不同的子集,每個子集中的欄位可能都包含一個簡單的法則。此外,決策樹可能有著不同的外 型,例如二元樹、三元樹或混和的決策樹型態。
4. 基因演算法(Genetic Algorithm)
基因演算法學習細胞演化的過程,細胞間可經由不斷的選擇、複製、交配、突變產生更佳的新細胞。基因演算法的運作方式也很類似,它必須預先建立好一個 模式,再經由一連串類似產生新細胞過程的運作,利用適合函式(fitness function)決定所產生的後代是否與這個模式吻合,最後僅有最吻合的結果能夠存活,這個程式一直運作直到此函式收斂到最佳解。基因演算法在群集 (cluster)問題上有不錯的表現,一般可用來輔助記憶基礎推理法與類神經網路的應用。
5. 群集偵測技術(Cluster Detection)
這個技術涵蓋範圍相當廣泛,包含基因演算法、類神經網路、統計學中的群集分析都有這個功能。它的目標為找出資料中以前未知的相似群體,在許許多多的分析中,剛開始都運用到群集偵測技術,以作為研究的開端。
6. 連結分析(Link Analysis)
連結分析是以數學中之圖形理論(graph theory)為基礎,藉由記錄之間的關係發展出一個模式,它是以關係為主體,由人與人、物與物或是人與物的關係發展出相當多的應用。例如電信服務業可藉 連結分析收集到顧客使用電話的時間與頻率,進而推斷顧客使用偏好為何,提出有利於公司的方案。除了電信業之外,愈來愈多的營銷業者亦利用連結分析做有利於 企業的研究。
7. 線上分析處理(On-Line Analytic Processing;OLAP)
嚴格說起來,線上分析處理並不算特別的一個資料探勘技術,但是透過線上分析處理工具,使用者能更清楚的瞭解資料所隱藏的潛在意涵。如同一些視覺處理技術一般,透過圖表或圖形等方式顯現,對一般人而言,感覺會更友善。這樣的工具亦能輔助將資料轉變成資訊的目標。
8. 類神經網路(Neural Networks)
類神經網路是以重複學習的方法,將一串例子交與學習,使其歸納出一足以區分的樣式。若面對新的例證,神經網路即可根據其過去學習的成果歸納後,推匯出新的結果,乃屬於機器學習的一種。資料探勘的相關問題也可採類神經學習的方式,其學習效果十分正確並可做預測功能。
9. 區別分析(Discriminant Analysis)
當所遭遇問題它的因變數為定性(categorical),而自變數(預測變數)為定量(metric) 時,區別分析為一非常適當之技術,通常應用在解決分類的問題上面。若因變數由兩個群體所構成,稱之為雙群體 — 區別分析 (Two-Group Discriminant Analysis);若由多個群體構成,則稱之為多元區別分析(Multiple Discriminant Analysis;MDA)。
(1) 找出預測變數的線性組合,使組間變異相對於組內變異的比值為最大,而每一個線性組合與先前已經獲得的線性組合均不相關。
(2) 檢定各組的重心是否有差異。
(3) 找出哪些預測變數具有最大的區別能力。
(4) 根據新受試者的預測變數數值,將該受試者指派到某一群體。
10. 羅吉斯迴歸分析(Logistic Analysis)
當區別分析中群體不符合常態分配假設時,羅吉斯迴歸分析是一個很好的替代方法。羅吉斯迴歸分析並非預測事件(event)是否發生,而是預測該 事件的機率。 它將自變數與因變數的關係假定是S行的形狀,當自變數很小時,機率值接近為零;當自變數值慢慢增加時,機率值沿著曲線增加,增加到一定程度時,曲線協率開 始減小,故機率值介於 0 與 1 之間。
相關文章
- 資料探勘的資料分析方法
- 資料探勘方向分析
- 大資料、資料分析、資料探勘的差別大資料
- 大資料分析的幾種方法大資料
- 電商資料分析必備的4種資料分析方法
- 產品經理必會的10種資料分析方法
- 常用的四種大資料分析方法大資料
- 社交網站的資料探勘與分析網站
- 淺談大資料、資料分析、資料探勘的區別!大資料
- 有哪些常見的資料探勘方法?
- 資料探勘中常用的取樣方法
- Python——各種方法的使用(儘量每天更新)——from(資料探勘課)Python
- 最常用的四種大資料分析方法大資料
- 100種資料恢復的方法?!資料恢復
- 資料探勘與資料分析的主要區別是什麼
- 15種最常用的資料分析方法和模型模型
- 使用CRM系統資料分析的四種方法
- 四種大資料分析方法介紹!大資料
- 大資料時代,如何做資料探勘與分析!大資料
- 萌新向Python資料分析及資料探勘 前言Python
- 資料分析與資料探勘 - 04科學計算
- Yahoo前任資料官:資料探勘與分析技巧(下)IF
- 【系列】思考:資料探勘應用的幾種誤區
- 資料分析師必懂的10種分析思維
- 資料探勘的功能
- 神奇的資料探勘
- 《資料分析與資料探勘》--天津大學公開課
- 資料探勘者與資料探勘青年的對話(轉)
- 資料探勘與預測分析(第2版)
- logminer進行資料探勘分析測試
- 資料探勘與分析 概念與演算法演算法
- 資料探勘技術:客戶價值分析
- 資料探勘中易犯的10大錯誤
- 進行資料探勘常見的方法有哪些呢?
- 資料探勘常見10大問題
- 大資料開發之常見九種資料分析方法大資料
- 快收藏!資料分析師不能不知道的三種資料分析方法
- 自學資料探勘