数据挖掘的10大分析方法.docx

《数据挖掘的10大分析方法.docx》由会员分享，可在线阅读，更多相关《数据挖掘的10大分析方法.docx（24页珍藏版）》请在优知文库上搜索。

1、数据挖掘的10大分析方法不仅仅是选中的十大算法，其实参加评选的18种算法，实际上随便拿出一种来都可以称得上是经典算法，它们在数据挖掘领域都产生了极为深远的影响。C4.5算法是机器学习算法中的一种分类决策树算法,其核心算法是1D3算法.C4.5算法继承了1D3算法的优点，并在以下几方面对ID3算法进行了改进：1）用信息增益率来选择属性，克服了用信息增益选择属性时偏向选择取值多的属性的缺乏；2）在树构造过程中进行剪枝；3）能够完成对连续属性的离散化处理；4）能够对不完整数据进行处理。C4.5算法有如下优点：产生的分类规那么易于理解，准确率较高。其缺点是：在构造树的过程中，需要对数据集进行屡次的顺序

2、扫描和排序，因而导致算法的低效。2. Thek-meansalgorithm即K-Means算法k-meansaIgorithm算法是一个聚类算法，把n的对象根据他们的属性分为k个分割，k3.Supportvectormachines支持向量机，英文为SUPPOrIVeCtorMaChine,简称SV机（论文中一般简称SvM）。它是一种监督式学习的方法，它广泛的应用于统计分类以及回归分析中。支持向量机将向量映射到一个更高维的空间里，在这个空间里建立有一个最大间隔超平面。在分开数据的超平面的两边建有两个互相平行的超平面。分隔超平面使两个平行超平面的距离最大化。假定平行超平面间的距离或差距越大，分

3、类器的总误差越小。一个极好的指南是的模式识别支持向量机指南。VanderIVall和Barnard将支持向量机和其他分类器进行了比拟。4. TheApriorialgorithmApriori算法是一种最有影响的挖掘布尔关联规那么频繁项集的算法。其核心是基于两阶段频集思想的递推算法。该关联规那么在分类上属于单维、单层、布尔关联规那么。在这里，所有支持度大于最小支持度的项集称为频繁项集，简称频集。5. 最大期望（EM）算法在统计计算中,最大期望(EM,Expectation-Maximization)算法是在概率(probabilistic)模型中寻找参数最大似然估计的算法，其中概率模型依赖于无

4、法观测的隐藏变量(LatentVariabl)o最大期望经常用在机器学习和计算机视觉的数据集聚(DataClustering)领域。6. PageRankPageRank是Google算法的重要内容。2001年9月被授予美国专利，专利人是Google创始人之一拉里佩奇(LarryPage)因此，PageRank里的Page不是指网页，而是指佩奇，即这个等级方法是以佩奇来命名的。PageRank根据网站的外部链接和内部链接的数量和质量俩衡量网站的价值。PageRank背后的概念是，每个到页面的链接都是对该页面的一次投票，被链接的越多，就意味着被其他网站投票越多。这个就是所谓的“链接流行度”一一衡

5、量多少人愿意将他们的网站和你的网站挂钩。PageRank这个概念引自学术中一篇论文的被引述的频度一一即被别人引述的次数越多，一般判断这篇论文的权威性就越高。7. AdaBoostAdabooSt是一种迭代算法，其核心思想是针对同一个训练集训练不同的分类器(弱分类器)，然后把这些弱分类器集合起来，构成一个更强的最终分类器(强分类器)。其算法本身是通过改变数据分布来实现的，它根据每次训练集之中每个样本的分类是否正确，以及上次的总体分类的准确率，来确定每个样本的权值。将修改正权值的新数据集送给下层分类器进行训练，最后将每次训练得到的分类器最后融合起来，作为最后的决策分类器。8. kNN:k-near

6、estneighborclassificationK最近邻(k-NeareStNeighbor,KNN)分类算法，是一个理论上比拟成熟的方法，也是最简单的机器学习算法之一。该方法的思路是：如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别，那么该样本也属于这个类别。9. NaiveBayes在众多的分类模型中，应用最为广泛的两种分类模型是决策树模型(DeCiSiOnTreeModeD和朴素贝叶斯模型(NaiveBayesianModel,NBC)。朴素贝叶斯模型发源于古典数学理论，有着坚实的数学根底，以及稳定的分类效率。同时，NBC模型所需估计的参数很少，

7、对缺失数据不太敏感，算法也比拟简单。理论上，BC模型与其他分类方法相比具有最小的误差率。但是实际上并非总是如此，这是因为NBC模型假设属性之间相互独立，这个假设在实际应用中往往是不成立的，这给NBC模型的正确分类带来了一定影响。在属性个数比拟多或者属性之间相关性较大时，NBC模型的分类效率比不上决策树模型。而在属性相关性较小时，NBC模型的性能最为良好。10. CART:分类与回归树CART,ClassificationandRegressionTreeso在分类树下面有两个关键的思想。第一个是关于递归地划分自变量空间的想法；第二个想法是用验证数据进行剪枝。m数据挖掘常用的方法囱在大数据时代，

8、数据挖掘是最关键的工作。大数据的挖掘是从海量、不完全的、有噪声的、模糊的、随机的大型数据库中发现隐含在其中有价值的、潜在有用的信息和知识的过程，也是一种决策支持过程。其主要基于人工智能，机器学习，模式学习，统计学等。通过对大数据高度自动化地分析，做出归纳性的推理，从中挖掘出潜在的模式，可以帮助企业、商家、用户调整市场政策、减少风险、理性面对市场，并做出正确的决策。目前，在很多领域尤其是在商业领域如银行、电信、电商等，数据挖掘可以解决很多问题，包括市场营销策略制定、背景分析、企业管理危机等。大数据的挖掘常用的方法有分类、回归分析、聚类、关联规那么、神经网络方法、Web数据挖掘等。这些方法从不同的

9、角度对数据进行挖掘。(1)分类。分类是找出数据库中的一组数据对象的共同特点并按照分类模式将其划分为不同的类，其目的是通过分类模型，将数据库中的数据项映射到摸个给定的类别中。可以应用到涉及到应用分类、趋势预测中，如淘宝商铺将用户在一段时间内的购置情况划分成不同的类，根据情况向用户推荐关联类的商品，从而增加商铺的销售量。(2)回归分析。回归分析反映了数据库中数据的属性值的特性，通过函数表达数据映射的关系来发现属性值之间的依赖关系。它可以应用到对数据序列的预测及相关关系的研究中去。在市场营销中，回归分析可以被应用到各个方面。如通过对本季度销售的回归分析，对下一季度的销售趋势作出预测并做出针对性的营销

10、改变。(3)聚类。聚类类似于分类，但与分类的目的不同，是针对数据的相似性和差异性将一组数据分为几个类别。属于同一类别的数据间的相似性很大，但不同类别之间数据的相似性很小，跨类的数据关联性很低。(4)关联规那么。关联规那么是隐藏在数据项之间的关联或相互关系，即可以根据一个数据项的出现推导出其他数据项的出现。关联规那么的挖掘过程主要包括两个阶段：第一阶段为从海量原始数据中找出所有的高频工程组;第二阶段为从这些高频工程组产生关联规那么。关联规那么挖掘技术己经被广泛应用于金融行业企业中用以预测客户的需求,各银行在自己的ATM机上通过捆绑客户可能感兴趣的信息供用户了解并获取相应信息来改善自身的营销。(5

11、)神经网络方法。神经网络作为一种先进的人工智能技术，因其自身自行处理、分布存储和高度容错等特性非常适合处理非线性的以及那些以模糊、不完整、不严密的知识或数据为特征的处理问题，它的这一特点十分适合解决数据挖掘的问题。典型的神经网络模型主要分为三大类：第一类是以用于分类预测和模式识别的前馈式神经网络模型，其主要代表为函数型网络、感知机;第二类是用于联想记忆和优化算法的反应式神经网络模型，以HoPfield的离散模型和连续模型为代表。第三类是用于聚类的自组织映射方法，以ART模型为代表。虽然神经网络有多种模型及算法，但在特定领域的数据挖掘中使用何种模型及算法并没有统一的规那么，而且人们很难理解网络的

12、学习及决策过程。(6)Web数据挖掘。Web数据挖掘是一项综合性技术，指Web从文档结构和使用的集合C中发现隐含的模式P,如果将C看做是输入，P看做是输出，那么Web挖掘过程就可以看做是从输入到输出的一个映射过程。当前越来越多的Web数据都是以数据流的形式出现的，因此对Web数据流挖掘就具有很重要的意义。目前常用的Web数据挖掘算法有：PageRank算法，HrrS算法以及LOGSOM算法。这三种算法提到的用户都是笼统的用户，并没有区分用户的个体。目前Web数据挖掘面临着一些问题，包括：用户的分类问题、网站内容时效性问题，用户在页面停留时间问题，页面的链入与链出数问题等。在Web技术高速开展的

13、今天，这些问题仍旧值得研究并加以解决。编辑本段根本术语1)数据挖掘能做以下七种不同事情(分析方法)：(Classification)预测(Prediction),相关性分组或关联规那么(Affinitygroupingorassociationrules) 聚类(Clustering) 描述和可视化(DescriptionandVisualization) 复杂数据类型挖掘(TeXt,Web,图形图像，视频，音频等)2)数据挖掘分类以上七种数据挖掘的分析方法可以分为两类：直接数据挖掘；间接数据挖掘直接数据挖掘目标是利用可用的数据建立一个模型，这个模型对剩余的数据，对一个特定的变量（可以理解成数

14、据库中表的属性，即列）进行描述。间接数据挖掘目标中没有选出某一具体的变量，用模型进行描述；而是在所有的变量中建立起某种关系。分类、估值、预言属于直接数据挖掘；后四种属于间接数据挖掘3）各种分析方法的简介,分类(Classification)首先从数据中选出己经分好类的训练集，在该训练集上运用数据挖掘分类的技术，建立分类模型,对于没有分类的数据进行分类。例子:信用卡申请者，分类为低、中、高风险b.故隙诊断：史国宝钢集团与上海天律信息技术合作，采用数据挖掘技术对钢材生产的全流程进行质量监控和分析，构建故障地图，实时分析产品出现瑕疵的原因，有效提高了产品的优良率。注意：类的个数是确定的，预先定义好的

15、估计(Estimation)估计与分类类似，不同之处在于，分类描述的是离散型变量的输出，而估值处理连续值的输出；分三I的类别是确定数目的，估值的量是不确定的。例子:根据购置模式，估计一个家庭的孩子个数b.根据购置模式，估计一个家庭的收入c.估计realestate的价值一般来说，估值可以作为分类的前一步工作。给定一些输入数据，通过估值，得到未知的连续变量的值，然后，根据预先设定的阈值，进行分类。例如：银行对家庭贷款业务，运用估值，给各个客户记分(Score01)。然后，根据阈值，将贷款级别分类。预测(Prediction)通常，预测是通过分类或估值起作用的，也就是说，通过分类或估值得出模型，该

16、模型用于对未知变量的预言。从这种意义上说，预言其实没有必要分为一个单独的类。预言其目的是对未来未知变量的预测，这种预测是需要时间来验证的，即必须经过一定时间后，才知道预言准确性是多少。,相关性分组或关联规那么(Affinitygroupingorassociationrules)决定哪些事情将一起发生。例子：a.超市中客户在购置A的同时，经常会购置B,即A=B(关联规那么)b.客户在购置A后，隔一段时间，会购置B(序列分析)聚类(Clustering)聚类是对记录分组，把相似的记录在一个聚集里。聚类和分类的区别是聚集不依赖于预先定义好的类，不需要训练集。例子：a.一些特定病症的聚集可能预示了一个特定的疾病b.租VCD类型不