当前位置:  NOSQL>hadoop/hbase

基于Hadoop的数据挖掘框架

 
分享到:
    发布时间:2013-8-24  


    本文导语:  1.数据挖掘简介 数据挖掘又称数据库中的知识发现(Knowledge Discover in Database,KDD),是目前人工智能和数据库领域研究的热点问题,所谓数据挖掘是指从数据库的大量数据中揭示出隐含的、先前未知的并有潜在价值的...

1.数据挖掘简介

   数据挖掘又称数据库中的知识发现(Knowledge Discover in Database,KDD),是目前人工智能和数据库领域研究的热点问题,所谓数

据挖掘是指从数据库的大量数据中揭示出隐含的、先前未知的并有潜在价值的信息的非平凡过程。数据挖掘是一种决策支持过程,它主要基于人工智能、机器学习模式识别统计学、数据库、可视化技术等,高度自动化分析企业的数据,做出归纳性的推理,从中挖掘出潜在的模式,帮助决策者调整市场策略,减少风险,做出正确的决策。

  知识发现过程由以下三个阶段组成:(1)数据准备,(2)数据挖掘,(3)结果表达和解释。数据挖掘可以与用户或知识库交互。  

  数据挖掘是通过分析每个数据,从大量数据中寻找其规律的技术,主要有数据准备、规律寻找和规律表示3个步骤。数据准备是从相关的数据源中选取所需的数据并整合成用于数据挖掘的数据集;规律寻找是用某种方法将数据集所含的规律找出来;规律表示是尽可能以用户可理解的方式(如可视化)将找出的规律表示出来。

   数据挖掘的任务有关联分析、聚类分析分类分析、异常分析、特异群组分析和演变分析,等等。并非所有的信息发现任务都被视为

数据挖掘。例如,使用数据库管理系统查找个别的记录,或通过因特网的搜索引擎查找特定的Web页面,则是信息检索(information

retrieval)领域的任务。虽然这些任务是重要的,可能涉及使用复杂的算法数据结构,但是它们主要依赖传统的计算机科学技术和数

据的明显特征来创建索引结构,从而有效地组织和检索信息。尽管如此,数据挖掘技术也已用来增强信息检索系统能力

2. 基于Hadoop的数据挖掘框架

  Hdfs提供了大数据的存储,Mapreduce提供了基于hdfs的编程模型,那么只要有了内容丰富的大数据,通过mapreduce进行数据挖掘相关算

法的实现,即可以达到挖掘的目的。

 在一个完整的数据挖掘系统中,从底层到高层的过程为:原始大数据文件存储,大数据挖掘算法及运行,挖掘产生的结果存储是最基本的

三个步骤。同时在这样的系统中,将会是结合多种软件包括多重功能的综合复杂的系统。

 根据我总结的完整的系统框架图如下图所示:

 


    您可能感兴趣的文章:

  • 本站(WWW.169IT.COM)旨在分享和传播互联网科技相关的资讯和技术,将尽最大努力为读者提供更好的信息聚合和浏览方式。
    本站(WWW.169IT.COM)站内文章除注明原创外,均为转载,整理或搜集自网络.欢迎任何形式的转载,转载请注明出处.
    转载请注明:文章转载自:[169IT-IT技术资讯]
    本文标题:基于Hadoop的数据挖掘框架
相关文章推荐:


站内导航:


特别声明:169IT网站部分信息来自互联网,如果侵犯您的权利,请及时告知,本站将立即删除!

©2012-2017,169IT.COM,E-mail:www_169it_com#163.com(请将#改为@)

浙ICP备11055608号