数据挖掘技术综述
随着计算机、网络技术的发展，获得有尖资料非常简单易行。但对 数量大、涉及面宽的数据，传统统计方法无法完成这类数据的分析。因 此，一种智能化的、综合应用各种统计分析、数据库、智能语言来 分析庞 大数据资料的“数据挖掘” (Date Mining )技术应运而生。本文主要介 绍了数据挖掘的基本概念以及数据挖掘的方法； 掘的应用及其发展前景也进行了描述。
随着信息技术迅速发展，数据库的规模不断扩大，从而产生了大 量 的数据。激增的数据背后隐藏着许多重要的信息, 人们希望能够对其行
本文对数据
更高层次的分析，以便更好地利用这些数据。为给决策者提供一个统一的 全局视角，在许多领域建立了数据仓库。但大量的数据往往 使人们无法辨 别隐藏在其中的能对决策提供支持的信息, 而传统的查 询、报表工具无法满足挖掘这些信息的需求。因此，需要一种新的数 据分 析技术处理大量数据，并从中抽取有价值的潜在知识，数据挖掘(Data
Mining )技术由此应运而生。数据挖掘技术也正是伴随着数据仓库技术的 发展而逐步完善起来的数据挖掘是指从数据集合中自动抽取隐藏在数据中 的那些有用信息的非平凡过程，这些信息的表现形式为：规则、概念、 规律及模式等。它可帮助决策者分析历史数据及当前数据，并从中发现隐 藏的矢系和模式，进而预测未来可能发生 的行为。数据挖掘的过程也叫知 识发现的过程，它是一门涉及面很广 的交叉性新兴学科，涉及到数据 库、人工智能、数理统计、可视化、并行计算等领域。数据挖掘是一种新
的信息处理技术，其主要特点是 对数据
库中的大量数据进行抽取、转换、分析和其他模型化处理，并从中 提取辅助决策的尖键性数据。数据挖掘是KDD( Knowledge Discovery in Database )中的重要技术，它并不是用规范的数据库查询语言(如SQL进 行查询，而是对查询的内容进行模式的总结和内在规律的搜索。传统的查 询和报表处理只是得到事件发生的结果，并没有深入研究发生的原因，而 数据挖掘则主要了解发生的原因，并且以一定的置信度对未来进行预 测用来为决策行为提供有利的支持。
数据挖掘的研究融合了多个不同学科领域的技术与成果，使得目 前的数据挖掘方法表现出多种多样的形式。从统计分析类的角度来说， 统计分析技术中使用的数据挖掘模型有线形分析和非线形分析、回归 分析、逻辑回归分析、单变量分析、多变量分析、时间序列分析、最近序 列分析、最近邻算法和聚类分析等方法。利用这些技术可以检查那些异常 形式的数据，然后，利用各种统计模型和数学模型解释这些数据，解释隐 藏在这些数据背后的市场规律和商业机会。知识发现类数据挖掘技术是一 种与统计分析类数据挖掘技术完全不同的挖掘技术，包括人工神经元网 络、支持向量机、决策树、遗传算法、粗糙集、规则发现和尖联顺序等。
传统的统计学为数据挖掘提供了许多判别和回归分析方法，常用 的有贝叶斯推理、回归分析、方差分析等技术、贝叶斯推理是在知道 新的 信息
5
后修正数据集概率分布的基本工具，处理数据挖掘中的分类问题， 回归分析用来找到一个输入变量和输出变量尖系的最佳模型，在回归分析 中有用来描述一个变量的变化趋势和别的变量值的尖系的线性回归，还有 用来为某些事件发生的概率建模为预测变量集的对 数回归・统计方法中的 方差分析一般用于分析估计回归直线的性能和自变量对最终回归的影响， 是许多挖掘应用中有力的工具之一。
尖联规则是一种简单，实用的分析规则，它描述了一个事物中某 些 属性同时出现的规律和模式，是数据挖掘中最成熟的主要技术之一。它是 由R Agrawal等人首先提出的，最经典的尖联规则的挖掘算法是 Apriori，该算法先挖出所有的频繁项集，然后，由频繁项集产生尖联规 则，许多尖联规则频繁项集的挖掘算法都是由它演变而来的，尖联规则在 数据挖掘领域应用很广泛适合于在大型数据集中发现数据之间的有意义尖 系，原因之一是它不受只选择一个因变量的限制，尖联规则在数据挖掘领 域最典型的应用是购物篮分析。
大多数尖联规
则挖掘算法能够无遗漏发现隐藏在所挖掘数据中的所有尖联尖系，所 挖掘出的尖联规则量往往非常巨大，但是，并不是所有通过矢联得到的 属性之间的尖系都有实际应用价值，对这些尖联规则进行有效的评 价，筛 选出用户真正感兴趣的'有意义的尖联规则尤为重要。
聚类分析是根据所选样本间矢联的标准将其划分成几个组，同组 内的样本具有较高的相似度，不同组的则相异，常用的技术有分裂算 法, 凝聚算法，划分聚类和增量聚类。聚类方法适合于探讨样本间的内部尖
系，从而对样本结构做出合理的评价，此外，聚类分析还用于 对孤立点的 检测。有时进行聚类不是为了将对象相聚在一起而是为了更容易地使某个 对象从其他对象中分离出来。聚类分析已被应用于经济分析、模式识 别、图像处理等多种领域，尤其在商业上，聚类分析 可以帮助市场人员发现顾客群中所存在的不同特征组群。
聚类分析的技术尖键除了算法的选择之外，就是对样本的度量标准 的选择。并非由聚类分析算法得到的类对决策都有效，在运用某一个算 法之前，一般要先对数据的聚类趋势进行检验。
决策树学习是一种通过逼近离散值目标函数的方法，通过把实例 从 根结点排列到某个叶子结点来分类实例，叶子结点即为实例所属的分 类。树上的每个结点说明了对实例的某个属性的测试，该结点的每一个 后继分支对应于该属性的一个可能值，分类实例的方法是从这电脑应用 技术棵树的根结点开始，测试这个结点指定的属性，然后按照给定实例的 该属性值对应的树枝向下移动。决策树方法是要应用于数据挖掘的分类 方面。
神经网络建立在自学习的数学模型基础之上，能够对大量复杂的数 据进行分析，并可以完成对人脑或其他计算机来说极为复杂的模式抽取及 趋势分析，神经网络既可以表现为指导的学习也可以是无指导 聚类，无论 哪种，输入到神经网络中的值都是数值型的。
人工神经元网络模拟人脑神经元结构，以MP模型和Hebb学习规则 为基础，建立三大类多种神经元网络，具有非线形映射特性、信息的分布 存
储、并行处理和全局集体的作用、高度的自学习、自组织和自适应能力 的种优点。前馈神经元网络以感知器网络、 为
代表，可以用于分类和预测等方面；反馈式网络以Hopfield网络为 代表'用于联想记忆和优化计算；自组织网络以ART模型、Kohonon模型 为代表，用于聚类。
遗传算法是一种受生物进化启发的学习方法，通过变异和重组当前 己知的最好假设来生成后续的假设。每一步,通过使用目前适应性 最高 的假设的后代替代群体的某个部分，来更新当前群体的一组假设，来实现 各个个体的适应性的提高。遗传算法由三个基本过程组成
：繁
BP网络等
殖（选择）是从一个旧种群（父代）选出生命力强的个体，产生新种群 （后代）的过程；交叉〔重组）选择两个不同个体〔染色体）的部分（基 因）进行交换，形成新个体的过程；变异（突变）是对某些个体的某些基 因进行变异的过程。在数据挖掘中，可以被用作评估其他算法的适合度。
粗糙集能够在缺少尖于数据先验知识的情况下，只以考察数据的分 类能力为基础，解决模糊或不确定数据的分析和处理问题。粗糙集用于从 数据库中发现分类规则的基本思想是将数据库中的属性分为 条件属性和结 论属性，对数据库中的元组根据各个属性不同的属性值 分成相应的子集， 然后对条件属性划分的子集与结论属性划分的子集之间上下近似尖系生成 判定规则。所有相似对象的集合称为初等集合，形成知识的基本成分。任 何初等集合的并集称为精确集，否则，一个集合就是粗糙的（不精确
的）。每个粗糙集都具有边界元素，也就是那 些既不能确定为集合元素， 也不能确定为集合补集元素的元素。粗糙集理论可以应用于数据挖掘中 的分类、发现不准确数据或噪声数据内在的结构联系。
支持向量机（SVM）是在统计学习理论的基础上发展出来的一种新 的机器学习方法。它基于结构风险最小化原则上的，尽量提高学习机 的 泛化能力，具有良好的推广性能和较好的分类精确性，能有效的解决过
学习问题，现已成为训练多层感知器、RBF神经网络和多项式神 经元网络 的替代性方法。另外，支持向量机算法是一个凸优化问题，局部最优解一 定是全局最优解，这些特点都是包括神经元网络在内的 其它算法所不能及 的。支持向量机可以应用于数据挖掘的分类、回归、对未知事物的探索等 方面。
除上述方法外，还有把数据与结果转化和表达成可视化技术、云 模 型方法和归纳逻辑程序等方法。
事实上，任何一种挖掘工具往往
是根据具体问题来选择合适挖掘方法，很难说哪种方法好，那种方法 劣，而是视具体问题而定。对于数据挖掘，我们可以分为三个主要的阶 段：数据准备、数据挖掘、结果的评价和表达。其中结果的评价和 表达还 可以细分为：评估、解释模式模型、巩固、
运用知识。数据库中的知识发现是一个多步骤的处理过程，也是 这 三个阶段的反复过程，
1 •数据准备
KDD勺处理对象是大量的数据，这些数据 般存储在数据库系统 中，长期积累的结果。
但是往往不适合直接在这些数据上面进行知识挖掘，需要做数据准 备工作，一般包括数据的选择（选择相尖的数据）、净化（消除噪音、数 据）、推测（推算缺失数据）、转换（离散值数据与连续值数据之间的相 互转换，数据值的分组分类，数据项之间的计算组合等
）、数据缩
减（减少数据量）。这些工作往往在生成数据仓库时己经准备妥当。数 据准备是KDD勺第一个步骤。数据准备是否做好将影响到数据挖掘的效率 和准确度以及最终模式的有效性。
2. 数据挖掘
数据挖掘是KDD最尖键的步骤，也是技术难点所在。研究KDD的人 员中大部分都在研究数据挖掘技术，采用较多的技术有决策树、分类、 聚类、粗糙集、尖联规则、神经网络、遗传算法等。数据挖掘根据KDD的 目标，选取相应算法的参数，分析数据，得到可能型号层知识的模式模 型。
3. 结果评价和表达
评估、解释模式模型：上面得到的模式模型，有可能是没有实际意 义或没有使用价值的，也有可能是其不能准确反映数据的真实意义，甚至 在某些情况下是与事实相反的，因此需要评估，确定哪些是有效的、有用 的模式。评估可以根据用户多年的经验，有些模式也可以直 接用数据来检 验其准确性。这个步骤还包括把模式以易于理解的方式 呈现给用户。巩 固知识：用户理解的、并被认为是符合实际和有价值的模式模型形成了知 识。同时还要注意对知识做一致性检查，解决 与以前得到的知识相互冲 突、矛盾的堤防，使知识得到巩固。
运用知识：发现知识是为了运用，如何使知识能被运用也是
KDD
的步骤之一。运用知识有两种方法：一种是只需要看知识本身所描述 的尖 系或结果，就可以对决策提供支持；另一种是要求对新的数据运用知识， 由此可能产生新的问题，而需要对知识做进一步的优化。KDD的过程可能 需要多次的循环反复，每一个步骤一旦与预期目标不符都 要回到前面的步 骤，重新调整，重新执行。
3、数据挖掘的潜在应用是十分广泛的：政府管理决策、商业经营・ 科学研究和工业企业决策支持等个领域。从科学研究方法学的角度 看，科学研究可分为三类：理论科学、实验科学和计算科学。计算科 学是 现代科学的一个重要标志。计算科学工作者主要和数据打交道，每天要分 析各种大量的实验或观测数据。随着先进的科学数据收集工具的使用， 如观测卫星、遥感器、
DNA分子技术等，数据量非常大，
传统的数据分析工具无能为力，因此必须有强大的智能型自动数据分 析工 具才行。
数据挖掘在天文学上有一个非常著名的应用系统
：SKICAT （Sky
Image Catalogi ng and An alysis Tool） °它是美国加州理工学院喷 气推进实验室（即设计火星探测器漫游者号的实验室）与天文科学家合作开 发的用于帮助天文学家发现遥远的类星体的一个工具。
KICAT
既是第一个获得相当成功的数据挖掘应用，也是人工智能技术在天文学 和空间科学上第一批成功应用之一。利用SKICAT天文学家已发现了 16 个新的极其遥远的类星体，该项发现能帮助天文工作者更好地研究类星体 的形成以及早期宇宙的结构。
数据挖掘在生物学上的应用主要集中于分子生物学特别是基因工程 的研究上。基因研究中，有一个著名的国际性研究课题一一人类 基因组计 划。据报道，1997年3月，科学家宣布已完成第一步计划：绘制人类染 色体基因图。然而这仅仅是第一步，更重要的是对基因图进行解释从而发 现各种蛋白质（有10,000多种不同功能的蛋白质）和RNA分子的结构和 功
能。近几年，通过用计算生物分子系列分析方法，尤其是基因数据库搜 索技术己在基因研究上作出了很多重大发现。
在商业领域特别是零售业，数据挖掘的运用是比较成功的。由于MIS 系统在商业的普遍使用，特别是码技术的使用，可以收集到大量尖于购买 情况的数据，并且数据量在不断激增。利用数据挖掘技术可以为经营管理 人员提供正确的决策手段，这样对促进销售及提高竞争力是大有帮助的。
在金融领域，数据量是非常巨大的，银行、证券公司等交易数据和 存储量都是很大的。
而对于信用卡欺诈行为，银行每年的损失非常大。因此，可以利用 数据挖掘对客户信誉进行分析。典型的金融分析领域有投资评估和股票交 易市场预测。
数据挖掘在医学上的应用十分广泛，从分子制药到医疗诊断，都可 利用数据挖掘的手段来提高效率和效益。在药物合成方面，通过对药物 分子化学结构的分析，可以确定药物中哪种原子或原子基因对什么病能够 发挥作用，这样在合成新药时，可根据新药的分子结构确定该药将有可能 治疗哪一种病。
数据挖掘还可用于工业、农业、交通、电信、军事、 In ter net 等其它行业。数据挖掘具有广泛的应用前景，它既可应用于决策支持，也 可应用于数据库管理系统（DBMS中。数据挖掘作为决策支持和分析的工 具，可以用于构造知识库。在DBM防，数据挖掘可以用于语义查询优 化、完整1•
生约束和不一致检验等。
4、由于数据、数据挖掘任务和数据挖掘方法的多样性，给数据挖掘 提出了许多挑战性的
课题。同时，数据挖掘语言的设计，高效而有用的数据挖掘方法 和 系统的开发，交互式和集成的数据挖掘环境的建立，以及应用数据 挖掘 技术解决大型应用问题，都是目前数据挖掘研究人员、系统和应用开发人 员所面临的主要问题。
现今，数据挖掘的发展趋势主要是以下几方面：
应用的探索；可伸缩的数据挖掘方法；数据挖掘与数据库系统、数 据仓库系统和Web数据库系统的集成；数据挖掘语言的标准化；可视化 数据挖掘；复杂数据类型挖掘的新方法；Web挖掘；数据挖掘中的隐私 保护与信息安全。
目前，数据挖掘技术虽然得到了一定程度的应用，并取得了显著成 效，但仍存在着许多尚未解决的问题，例如数据的预处理、挖掘算法、模 式识别和解释、可视化问题等。对于业务过程而言，数据挖掘 最尖键的问 题是如何结合业务数据时空特点，将挖掘出知识表达出来，即时空知识 表达和解释机制问题。随着人们对数据挖掘技术的深人研究，数据挖掘技 术必将在更加广泛的领域得到应用，并取得更加显著的效果。
因篇幅问题不能全部显示，请点此查看更多更全内容