盤點：數(shù)據(jù)挖掘十大實用方法有哪些？

盤點數(shù)據(jù)挖掘實用方法

中國大數(shù)據(jù) | 2017-10-11 10:42

【數(shù)據(jù)猿導(dǎo)讀】基于歷史(Memory-Based Reasoning)的MBR分析方法最主要的概念是用已知的案例(case)來預(yù)測未來案例的一些屬性(attribute)，通常找尋最相似的案例來做比較。

1.基于歷史的MBR分析

基于歷史(Memory-Based Reasoning)的MBR分析方法最主要的概念是用已知的案例(case)來預(yù)測未來案例的一些屬性(attribute)，通常找尋最相似的案例來做比較。

MBR中有兩個主要的要素，分別為距離函數(shù)(distance function)與結(jié)合函數(shù)(combination function)。距離函數(shù)的用意在找出最相似的案例;結(jié)合函數(shù)則將相似案例的屬性結(jié)合起來，以供預(yù)測之用。

MBR的優(yōu)點是它容許各種型態(tài)的數(shù)據(jù)，這些數(shù)據(jù)不需服從某些假設(shè)。另一個優(yōu)點是其具備學(xué)習(xí)能力，它能藉由舊案例的學(xué)習(xí)來獲取關(guān)于新案例的知識。較令人詬病的是它需要大量的歷史數(shù)據(jù)，有足夠的歷史數(shù)據(jù)方能做良好的預(yù)測。此外記憶基礎(chǔ)推理法在處理上亦較為費時，不易發(fā)現(xiàn)最佳的距離函數(shù)與結(jié)合函數(shù)。其可應(yīng)用的范圍包括欺騙行為的偵測、客戶反應(yīng)預(yù)測、醫(yī)學(xué)診療、反應(yīng)的歸類等方面。

2.購物籃分析

購物籃分析(Market Basket Analysis)最主要的目的在于找出什么樣的東西應(yīng)該放在一起商業(yè)上的應(yīng)用在藉由顧客的購買行為來了解是什么樣的顧客以及這些顧客為什么買這些產(chǎn)品，找出相關(guān)的聯(lián)想(association)規(guī)則，企業(yè)藉由這些規(guī)則的挖掘獲得利益與建立競爭優(yōu)勢。舉例來說，零售店可藉由此分析改變置物架上的商品排列或是設(shè)計吸引客戶的商業(yè)套餐等等。

購物籃分析基本運作過程包含下列三點：

1. 選擇正確的品項：這里所指的正確乃是針對企業(yè)體而言，必須要在數(shù)以百計、千計品項中選擇出真正有用的品項出來。

2. 經(jīng)由對共同發(fā)生矩陣(co-occurrence matrix)的探討挖掘出聯(lián)想規(guī)則。

3. 克服實際上的限制：所選擇的品項愈多，計算所耗費的資源與時間愈久(呈現(xiàn)指數(shù)遞增)，此時必須運用一些技術(shù)以降低資源與時間的損耗。

購物籃分析技術(shù)可以應(yīng)用在下列問題上：針對信用卡購物，能夠預(yù)測未來顧客可能購買什么。對于電信與金融服務(wù)業(yè)而言，經(jīng)由購物籃分析能夠設(shè)計不同的服務(wù)組合以擴(kuò)大利潤。保險業(yè)能藉由購物籃分析偵測出可能不尋常的投保組合并作預(yù)防。對病人而言，在療程的組合上，購物籃分析能作為是否這些療程組合會導(dǎo)致并發(fā)癥的判斷依據(jù)。

3.決策樹

決策樹(Decision Trees)在解決歸類與預(yù)測上有著極強的能力，它以法則的方式表達(dá)，而這些法則則以一連串的問題表示出來，經(jīng)由不斷詢問問題最終能導(dǎo)出所需的結(jié)果。典型的決策樹頂端是一個樹根，底部有許多的樹葉，它將紀(jì)錄分解成不同的子集，每個子集中的字段可能都包含一個簡單的法則。此外，決策樹可能有著不同的外型，例如二元樹、三元樹或混和的決策樹型態(tài)。

4.遺傳算法

遺傳算法(Genetic Algorithm)學(xué)習(xí)細(xì)胞演化的過程，細(xì)胞間可經(jīng)由不斷的選擇、復(fù)制、交配、突變產(chǎn)生更佳的新細(xì)胞?；蛩惴ǖ倪\作方式也很類似，它必須預(yù)先建立好一個模式，再經(jīng)由一連串類似產(chǎn)生新細(xì)胞過程的運作，利用適合函數(shù)(fitness function)決定所產(chǎn)生的后代是否與這個模式吻合，最后僅有最吻合的結(jié)果能夠存活，這個程序一直運作直到此函數(shù)收斂到最佳解?；蛩惴ㄔ谌杭?(cluster)問題上有不錯的表現(xiàn)，一般可用來輔助記憶基礎(chǔ)推理法與類神經(jīng)網(wǎng)絡(luò)的應(yīng)用。

5.聚類分析

聚類分析(Cluster Detection)這個技術(shù)涵蓋范圍相當(dāng)廣泛，包含基因算法、類神經(jīng)網(wǎng)絡(luò)、統(tǒng)計學(xué)中的群集分析都有這個功能。它的目標(biāo)為找出數(shù)據(jù)中以前未知的相似群體，在許許多多的分析中，剛開始都運用到群集偵測技術(shù)，以作為研究的開端。

6.連接分析

連接分析(Link Analysis)是以數(shù)學(xué)中之圖形理論(graph theory)為基礎(chǔ)，藉由記錄之間的關(guān)系發(fā)展出一個模式，它是以關(guān)系為主體，由人與人、物與物或是人與物的關(guān)系發(fā)展出相當(dāng)多的應(yīng)用。例如電信服務(wù)業(yè)可藉連結(jié)分析收集到顧客使用電話的時間與頻率，進(jìn)而推斷顧客使用偏好為何，提出有利于公司的方案。除了電信業(yè)之外，愈來愈多的營銷業(yè)者亦利用連結(jié)分析做有利于企業(yè)的研究。

7.OLAP分析

嚴(yán)格說起來，OLAP(On-Line Analytic Processing;OLAP)分析并不算特別的一個數(shù)據(jù)挖掘技術(shù)，但是透過在線分析處理工具，使用者能更清楚的了解數(shù)據(jù)所隱藏的潛在意涵。如同一些視覺處理技術(shù)一般，透過圖表或圖形等方式顯現(xiàn)，對一般人而言，感覺會更友善。這樣的工具亦能輔助將數(shù)據(jù)轉(zhuǎn)變成信息的目標(biāo)。

8.神經(jīng)網(wǎng)絡(luò)

神經(jīng)網(wǎng)絡(luò)是以重復(fù)學(xué)習(xí)的方法，將一串例子交與學(xué)習(xí)，使其歸納出一足以區(qū)分的樣式。若面對新的例證，神經(jīng)網(wǎng)絡(luò)即可根據(jù)其過去學(xué)習(xí)的成果歸納后，推導(dǎo)出新的結(jié)果，乃屬于機器學(xué)習(xí)的一種。數(shù)據(jù)挖掘的相關(guān)問題也可采類神經(jīng)學(xué)習(xí)的方式，其學(xué)習(xí)效果十分正確并可做預(yù)測功能。

9.判別分析

當(dāng)所遭遇問題它的因變量為定性(categorical)，而自變量(預(yù)測變量)為定量(metric)時，判別分析為一非常適當(dāng)之技術(shù)，通常應(yīng)用在解決分類的問題上面。若因變量由兩個群體所構(gòu)成，稱之為雙群體 —判別分析 (Two-Group Discriminant Analysis);若由多個群體構(gòu)成，則稱之為多元判別分析(Multiple Discriminant Analysis;MDA)。

a. 找出預(yù)測變量的線性組合，使組間變異相對于組內(nèi)變異的比值為最大，而每一個線性組合與先前已經(jīng)獲得的線性組合均不相關(guān)。

b. 檢定各組的重心是否有差異。

c. 找出哪些預(yù)測變量具有最大的區(qū)別能力。

d. 根據(jù)新受試者的預(yù)測變量數(shù)值，將該受試者指派到某一群體。

10.邏輯回歸分析

當(dāng)判別分析中群體不符合正態(tài)分布假設(shè)時，邏輯回歸分析是一個很好的替代方法。邏輯回歸分析并非預(yù)測事件(event)是否發(fā)生，而是預(yù)測該事件的機率。它將自變量與因變量的關(guān)系假定是S行的形狀，當(dāng)自變量很小時，機率值接近為零;當(dāng)自變量值慢慢增加時，機率值沿著曲線增加，增加到一定程度時，曲線協(xié) 率開始減小，故機率值介于0與1之間。

來源：中國大數(shù)據(jù)

收藏分享

聲明：數(shù)據(jù)猿尊重媒體行業(yè)規(guī)范，相關(guān)內(nèi)容都會注明來源與作者；轉(zhuǎn)載我們原創(chuàng)內(nèi)容時，也請務(wù)必注明“來源：數(shù)據(jù)猿”與作者名稱，否則將會受到數(shù)據(jù)猿追責(zé)。