
數(shù)據(jù)挖掘最常見(jiàn)的十種方法
下面介紹十種數(shù)據(jù)挖掘(Data Mining)的分析方法,以便于大家對(duì)模型的初步了解,這些都是日常挖掘中經(jīng)常遇到的算法,希望對(duì)大家有用?。ㄉ踔劣?a href='/map/shujuwajue/' style='color:#000;font-size:inherit;'>數(shù)據(jù)挖掘公司,用其中的一種算法就能獨(dú)步天下)
1、基于歷史的MBR分析(Memory-Based Reasoning;MBR)
基于歷史的MBR分析方法最主要的概念是用已知的案例(case)來(lái)預(yù)測(cè)未來(lái)案例的一些屬性(attribute),通常找尋最相似的案例來(lái)做比較。
記憶基礎(chǔ)推理法中有兩個(gè)主要的要素,分別為距離函數(shù)(distance function)與結(jié)合函數(shù)(combination function)。距離函數(shù)的用意在找出最相似的案例;結(jié)合函數(shù)則將相似案例的屬性結(jié)合起來(lái),以供預(yù)測(cè)之用。記憶基礎(chǔ)推理法的優(yōu)點(diǎn)是它容許各種型態(tài)的數(shù) 據(jù),這些數(shù)據(jù)不需服從某些假設(shè)。另一個(gè)優(yōu)點(diǎn)是其具備學(xué)習(xí)能力,它能藉由舊案例的學(xué)習(xí)來(lái)獲取關(guān)于新案例的知識(shí)。較令人詬病的是它需要大量的歷史數(shù)據(jù),有足夠 的歷史數(shù)據(jù)方能做良好的預(yù)測(cè)。此外記憶基礎(chǔ)推理法在處理上亦較為費(fèi)時(shí),不易發(fā)現(xiàn)最佳的距離函數(shù)與結(jié)合函數(shù)。其可應(yīng)用的范圍包括欺騙行為的偵測(cè)、客戶(hù)反應(yīng)預(yù) 測(cè)、醫(yī)學(xué)診療、反應(yīng)的歸類(lèi)等方面。
2、購(gòu)物籃分析(Market Basket Analysis)
購(gòu)物籃分析最主要的目的在于找出什么樣的東西應(yīng)該放在一起?商業(yè)上的應(yīng)用在藉由顧客的購(gòu)買(mǎi)行為來(lái)了解是什么樣的顧客以及這些顧客為什么買(mǎi)這些產(chǎn)品,找出相 關(guān)的聯(lián)想(association)規(guī)則,企業(yè)藉由這些規(guī)則的挖掘獲得利益與建立競(jìng)爭(zhēng)優(yōu)勢(shì)。舉例來(lái)說(shuō),零售店可藉由此分析改變置物架上的商品排列或是設(shè)計(jì) 吸引客戶(hù)的商業(yè)套餐等等。
購(gòu)物籃分析基本運(yùn)作過(guò)程包含下列三點(diǎn):
(1)選擇正確的品項(xiàng):這里所指的正確乃是針對(duì)企業(yè)體而言,必須要在數(shù)以百計(jì)、千計(jì)品項(xiàng)中選擇出真正有用的品項(xiàng)出來(lái)。
(2)經(jīng)由對(duì)共同發(fā)生矩陣(co-occurrence matrix)的探討挖掘出聯(lián)想規(guī)則。
(3)克服實(shí)際上的限制:所選擇的品項(xiàng)愈多,計(jì)算所耗費(fèi)的資源與時(shí)間愈久(呈現(xiàn)指數(shù)遞增),此時(shí)必須運(yùn)用一些技術(shù)以降低資源與時(shí)間的損耗。
購(gòu)物籃分析技術(shù)可以應(yīng)用在下列問(wèn)題上:
(1)針對(duì)信用卡購(gòu)物,能夠預(yù)測(cè)未來(lái)顧客可能購(gòu)買(mǎi)什么。
(2)對(duì)于電信與金融服務(wù)業(yè)而言,經(jīng)由購(gòu)物籃分析能夠設(shè)計(jì)不同的服務(wù)組合以擴(kuò)大利潤(rùn)。
(3)保險(xiǎn)業(yè)能藉由購(gòu)物籃分析偵測(cè)出可能不尋常的投保組合并作預(yù)防。
(4)對(duì)病人而言,在療程的組合上,購(gòu)物籃分析能作為是否這些療程組合會(huì)導(dǎo)致并發(fā)癥的判斷依據(jù)。
3、決策樹(shù)(Decision Trees)
決策樹(shù)在解決歸類(lèi)與預(yù)測(cè)上有著極強(qiáng)的能力,它以法則的方式表達(dá),而這些法則則以一連串的問(wèn)題表示出來(lái),經(jīng)由不斷詢(xún)問(wèn)問(wèn)題最終能導(dǎo)出所需的結(jié)果。典型的決策 樹(shù)頂端是一個(gè)樹(shù)根,底部有許多的樹(shù)葉,它將紀(jì)錄分解成不同的子集,每個(gè)子集中的字段可能都包含一個(gè)簡(jiǎn)單的法則。此外,決策樹(shù)可能有著不同的外型,例如二元 樹(shù)、三元樹(shù)或混和的決策樹(shù)型態(tài)。
4、遺傳算法(Genetic Algorithm)
遺傳算法學(xué)習(xí)細(xì)胞演化的過(guò)程,細(xì)胞間可經(jīng)由不斷的選擇、復(fù)制、交配、突變產(chǎn)生更佳的新細(xì)胞?;蛩惴ǖ倪\(yùn)作方式也很類(lèi)似,它必須預(yù)先建立好一個(gè)模式,再經(jīng) 由一連串類(lèi)似產(chǎn)生新細(xì)胞過(guò)程的運(yùn)作,利用適合函數(shù)(fitness function)決定所產(chǎn)生的后代是否與這個(gè)模式吻合,最后僅有最吻合的結(jié)果能夠存活,這個(gè)程序一直運(yùn)作直到此函數(shù)收斂到最佳解?;蛩惴ㄔ谌杭?(cluster)問(wèn)題上有不錯(cuò)的表現(xiàn),一般可用來(lái)輔助記憶基礎(chǔ)推理法與類(lèi)神經(jīng)網(wǎng)絡(luò)的應(yīng)用。
5、聚類(lèi)分析(Cluster Detection)
這個(gè)技術(shù)涵蓋范圍相當(dāng)廣泛,包含基因算法、類(lèi)神經(jīng)網(wǎng)絡(luò)、統(tǒng)計(jì)學(xué)中的群集分析都有這個(gè)功能。它的目標(biāo)為找出數(shù)據(jù)中以前未知的相似群體,在許許多多的分析中,剛開(kāi)始都運(yùn)用到群集偵測(cè)技術(shù),以作為研究的開(kāi)端。
6、連接分析(Link Analysis)
連接分析是以數(shù)學(xué)中之圖形理論(graph theory)為基礎(chǔ),藉由記錄之間的關(guān)系發(fā)展出一個(gè)模式,它是以關(guān)系為主體,由人與人、物與物或是人與物的關(guān)系發(fā)展出相當(dāng)多的應(yīng)用。例如電信服務(wù)業(yè)可藉 連結(jié)分析收集到顧客使用電話(huà)的時(shí)間與頻率,進(jìn)而推斷顧客使用偏好為何,提出有利于公司的方案。除了電信業(yè)之外,愈來(lái)愈多的營(yíng)銷(xiāo)業(yè)者亦利用連結(jié)分析做有利于 企業(yè)的研究。
7、OLAP分析(On-Line Analytic Processing;OLAP)
嚴(yán)格說(shuō)起來(lái),OLAP分析并不算特別的一個(gè)數(shù)據(jù)挖掘技術(shù),但是透過(guò)在線分析處理工具,使用者能更清楚的了解數(shù)據(jù)所隱藏的潛在意涵。如同一些視覺(jué)處理技術(shù)一般,透過(guò)圖表或圖形等方式顯現(xiàn),對(duì)一般人而言,感覺(jué)會(huì)更友善。這樣的工具亦能輔助將數(shù)據(jù)轉(zhuǎn)變成信息的目標(biāo)。
8、神經(jīng)網(wǎng)絡(luò)(Neural Networks)
神經(jīng)網(wǎng)絡(luò)是以重復(fù)學(xué)習(xí)的方法,將一串例子交與學(xué)習(xí),使其歸納出一足以區(qū)分的樣式。若面對(duì)新的例證,神經(jīng)網(wǎng)絡(luò)即可根據(jù)其過(guò)去學(xué)習(xí)的成果歸納后,推導(dǎo)出新的結(jié)果,乃屬于機(jī)器學(xué)習(xí)的一種。數(shù)據(jù)挖掘的相關(guān)問(wèn)題也可采類(lèi)神經(jīng)學(xué)習(xí)的方式,其學(xué)習(xí)效果十分正確并可做預(yù)測(cè)功能。
9、判別分析(Discriminant Analysis)
當(dāng)所遭遇問(wèn)題它的因變量為定性(categorical),而自變量(預(yù)測(cè)變量)為定量(metric)時(shí),判別分析為一非常適當(dāng)之技術(shù),通常應(yīng)用在解決 分類(lèi)的問(wèn)題上面。若因變量由兩個(gè)群體所構(gòu)成,稱(chēng)之為雙群體 —判別分析 (Two-Group Discriminant Analysis);若由多個(gè)群體構(gòu)成,則稱(chēng)之為多元判別分析(Multiple Discriminant Analysis;MDA)。
(1) 找出預(yù)測(cè)變量的線性組合,使組間變異相對(duì)于組內(nèi)變異的比值為最大,而每一個(gè)線性組合與先前已經(jīng)獲得的線性組合均不相關(guān)。
(2) 檢定各組的重心是否有差異。
(3) 找出哪些預(yù)測(cè)變量具有最大的區(qū)別能力。
(4) 根據(jù)新受試者的預(yù)測(cè)變量數(shù)值,將該受試者指派到某一群體。
10、羅吉斯回歸分析(Logistic Analysis)
當(dāng)判別分析中群體不符合正態(tài)分布假設(shè)時(shí),羅吉斯回歸分析是一個(gè)很好的替代方法。羅吉斯回歸分析并非預(yù)測(cè)事件(event)是否發(fā)生,而是預(yù)測(cè)該事件的機(jī) 率。它將自變量與因變量的關(guān)系假定是S行的形狀,當(dāng)自變量很小時(shí),機(jī)率值接近為零;當(dāng)自變量值慢慢增加時(shí),機(jī)率值沿著曲線增加,增加到一定程度時(shí),曲線協(xié) 率開(kāi)始減小,故機(jī)率值介于0與1之間。
數(shù)據(jù)分析咨詢(xún)請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
LSTM 模型輸入長(zhǎng)度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長(zhǎng)序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報(bào)考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計(jì)的實(shí)用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強(qiáng)大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶(hù) ...
2025-07-11尊敬的考生: 您好! 我們誠(chéng)摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實(shí)施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價(jià)值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡(jiǎn)稱(chēng) BI)深度融合的時(shí)代,BI ...
2025-07-10SQL 在預(yù)測(cè)分析中的應(yīng)用:從數(shù)據(jù)查詢(xún)到趨勢(shì)預(yù)判? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代,預(yù)測(cè)分析作為挖掘數(shù)據(jù)潛在價(jià)值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢(xún)結(jié)束后:分析師的收尾工作與價(jià)值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢(xún)結(jié)束)并非工作的終點(diǎn),而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報(bào)考到取證的全攻略? 在數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭(zhēng)搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢(shì)性檢驗(yàn):捕捉數(shù)據(jù)背后的時(shí)間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢(shì)性檢驗(yàn)如同一位耐心的偵探,專(zhuān)注于從單 ...
2025-07-09year_month數(shù)據(jù)類(lèi)型:時(shí)間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時(shí)間是最不可或缺的維度之一,而year_month數(shù)據(jù)類(lèi)型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實(shí)戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認(rèn)證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗(yàn):數(shù)據(jù)趨勢(shì)與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢(shì)變化以及識(shí)別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認(rèn)證作為國(guó)內(nèi)權(quán)威的數(shù)據(jù)分析能力認(rèn)證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對(duì)策略? 長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨(dú)特的門(mén)控機(jī)制,在 ...
2025-07-07統(tǒng)計(jì)學(xué)方法在市場(chǎng)調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場(chǎng)調(diào)研是企業(yè)洞察市場(chǎng)動(dòng)態(tài)、了解消費(fèi)者需求的重要途徑,而統(tǒng)計(jì)學(xué)方法則是市場(chǎng)調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書(shū)考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動(dòng)力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專(zhuān)業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準(zhǔn)確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動(dòng)力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開(kāi)啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價(jià)值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03