大数据分析的六大工具介绍
2016年12月
一、概述
来自传感器、购买交易记录、网络日志等的大量数据,通常是万亿或EB的大小,如此庞大的数据,寻找一个合适处理工具非常必要,今天我们为大家分学在大数据处理分析过程中六大最好用的工具。
我们的数据来自各个方面,在面对庞大而复杂的大数据,选择一个合适的处理工具显得很有必要,工欲善其事,必须利其器,一个好的工具不仅可以使我们的工作事半功倍,也可以让我们在竞争日益激烈的云计算时代,挖掘大数据价值,及时调整战略方向。
大数据是一个含义广泛的术语,是指数据集,如此庞大而复杂的,他们需要专门设il?的硬件和软件工具进行处理。该数据集通常是万亿或EB的大小。这些数据集收集自各种各样的来源:传感器、气候信息、公开的信息、如杂志、报纸、文章。大数据产生的其他例子包括购买交易记录、网络日志、病历、事监控、视频和图像档案、及大型电子商务。大数据分析是在研究大量的数据的过程中寻找模式, 相关性和其他有用的信息,可以帮助企业更好地适应变化,并做出更明智的决策。
二.第一种工具:Hadoop
Hadoop是一个能够对大量数据进行分布式处理的软件框架。但是Hadoop是
以一种可黑、高效、可伸缩的方式进行处理的。Hadoop是可靠的,因为它假设计算元素和存储会失败,因此它维护多个工作数据副本,确保能够针对失败的节点重新分布处理。Hadoop 是高效的,因为它以并行的方式工作,通过并行处理加快处理速度。Hadoop还是可伸缩的,能够处理PB级数据。此外,Hadoop依赖于社区服务器,因此它的成本比较低,任何人都可以使用。
Hadoop是一个能够让用户轻松架构和使用的分布式计算平台。用户可以轻松地
在Hadoop上开发和运行处理海量数据的应用程序。它主要有以下儿个优点: ,高可黑性。Hadoop按位存储和处理数据的能力值得人们信赖。,高扩展性。Hadoop是
在可用的计?算机集簇间分配数据并完成讣算任务
的,这些集簇可以方便地扩展到数以千计的节点中。
,高效性。Hadoop能够在节点之间动态地移动数据,并保证各个节点的动
态平衡,因此处理速度非常快。
,高容错性。Hadoop能够自动保存数据的多个副本,并且能够自动将失败
的任务重新分配。
,Hadoop带有用Java语言编写的框架,因此运行在Linux生产平台上是非
常理想的。Hadoop上的应用程序也可以使用其他语言编写,比如C++。
第二种工具:HPCC
HPCC, High Performance Computing and Communications(高性能计?算与通信)的缩写° 1993年,山美国科学、工程、技术联邦协调理事会向国会提交了“重大挑战项
U:高性能计算与通信”的报告,也就是被称为HPCC计划的报告,即美国总统科学战略项U ,其U的是通过加强研究与开发解决一批重要的科学与技术挑战
问题。HPCC是美国实施信息高速公路而上实施的计?划,该计划的实施将耗资百亿
美元,其主要U标要达到:开发可扩展的计算系统及相关软件,以支持太位级网络
传输性能,开发千兆比特网络技术,扩展研究和教育机构及网络连接能力。
该项U主要由五部分组成:
,高性能计算机系统(HPCS),内容包括今后儿代il?算机系统的研究、系统
设计工具、先进的典型系统及原有系统的评价等;
,先进软件技术与算法(ASTA),内容有巨大挑战问题的软件支撑、新算法
设计、软件分支与工具、计算计算及高性能il?算研究中心等;,国家科研与教育网格(NREN),内容有中接站及10亿位级传输的研究与开
发;
,基本研究与人类资源(BRHR),内容有基础研究、培训、教育及课程教
材,被设计通过奖励调查者-开始的,长期的调査在可升级的高性能计算中
来增加创新意识流,通过提高教育和高性能的计算训练和通信来加大熟练
的和训练有素的人员的联营,和来提供必需的基础架构来支持这些调查和
研究活动;
,信息基础结构技术和应用(IITA ), U的在于保证美国在先进信息技术开
发方面的领先地位。
四、第三种工具:Storm
Storm是自山的开源软件,一个分布式的、容错的实时计?算系统。Storm可以
非常可黑的处理庞大的数据流,用于处理Hadoop的批量数据。Storm很简单,支持许多种编程语言,使用起来非常有趣。Storm th Twitter 源而来,其它知名的应用企业包括Groupon、淘宝、支付宝、阿里巴巴、乐元素、Admaster等等。
Stonn有许多应用领域:实时分析、在线机器学习、不停顿的计?算、分布式
RPC(远过程调用协议,一种通过网络从远程计算机程序上请求服务)、
ETL(Extraction-Transformation-Loading的缩写,即数据抽収、转换和加载)等
等。Storm的处理速度惊人:经测试,侮个节点侮秒钟可以处理100万个数据元组。Storm 是可扩展、容错,很容易设置和操作。
五、第四种工具:Apache Drill
为了帮助企业用户寻找更为有效、加快Hadoop数据査询的方法,Apache软件
S金会近日发起了一项名为"Drill”的开源项Uo Apache Drill实现了
Google* s Dremel.
据Hadoop J 商MapR Technologies 公司产品经理Tomer Shiran 介绍,
“Drill” S经作为Apache孵化器项U来运作,将面向全球软件工程师持续推广。
该项U将会创建出开源版本的谷歌Dremel Hadoop工具(谷歌使用该工具来为
Hadoop数据分析工具的互联网应用提速)。而"Drill"将有助于Hadoop用户实现
更快査询海量数据集的U的。
“Drill”项U其实也是从谷歌的Dremel项U中获得灵感:该项U帮助谷歌实
现海量数据集的分析处理,包括分析抓取Web文档、跟踪安装在Android Market
上的应用程序数据、分析垃圾邮件、分析谷歌分布式构建系统上的测试结果等等。
通过开发“Drill” Apache 源项U,组织机构将有望建立Drill所属的API 接口和灵活强大的体系架构,从而帮助支持广泛的数据源、数据格式和査询语言。
六、第五种工具:RapidMiner
RapidMiner是世界领先的数据挖掘解决方案,在一个非常大的程度上有着先进
技术。它数据挖掘任务涉及范围广泛,包括各种数据艺术,能简化数据挖掘过程的设计和评价。
功能和特点:
,免费提供数据挖掘技术和库
,100%用Java代码(可运行在操作系统)
,数据挖掘过程简单,强大和直观
,内部XML保证了标准化的格式来表示交换数据挖掘过程,可以用简单脚本语言自动进行大规模进程
,多层次的数据视图,确保有效和透明的数据
,图形用户界面的互动原型
,命令行(批处理模式)自动大规模应用
,Java API(应用编程接口)
,简单的插件和推广机制
,强大的可视化引擎,许多尖端的高维数据的可视化建模,400多个数据挖掘运营商支持
耶鲁大学已成功地应用在许多不同的应用领域,包括文本挖掘,多媒体挖掘, 功能设计,数据流挖掘,集成开发的方法和分布式数据挖掘。七、第六种工具:Pentaho BI
Pentaho BI平台不同于传统的BI产品,它是一个以流程为中心的,面向解决
方案(Solution)的框架。其U的在于将一系列企业级BI产品、开源软件、API等等组件集成起来,方便商务智能应用的开发。它的出现,使得一系列的面向商务智能的独立产品如Jfree. Quartz等等,能够集成在一起,构成一项项复杂的、完整
的商务智能解决方案。
Pentaho BI平台,Pentaho Open BI套件的核心架构和基础,是以流程为中
心的,因为其中枢控制器是一个工作流引擎。工作流引擎使用流程定义来定义在
BI平台上执行的商业智能流程。流程可以很容易的被定制,也可以添加新的
流程。BI平台包含组件和报表,用以分析这些流程的性能。U询,Pentah。的主要组成
元素包括报表生成、分析、数据挖掘和工作流管理等等。这些组件通过
J2EE、WebService> SOAP、HTTP、Java、JavaScript> Portals 等技术集成到
Pentaho平台中来。Pentaho的发行,主要以Pentaho SDK的形式进行。
Pentaho SDK共包含五个部分:Pentaho平台、Pentaho示例数据库、可独立运
行的Pentaho平台、Pentaho解决方案示例和一个预先配制好的Pentaho网络服务器。其中Pentaho平台是Pentaho平台最主要的部分,粪括了Pentaho平台源代码
的主体:Pentaho数据库为Pentaho平台的正常运行提供的数据服务,包括配置信息、Solution相关的信息等等,对于Pentaho平台来说它不是必须的,通过配置是可以用其它数据库服务取代的;可独立运行的Pentaho平台是Pentaho平台的独立运行模式的示例,它演示了如何使Pentaho平台在没有应用服务器支持的悄况下独立运行:Pentaho解决方案示例是一个Eclipse工程,用来潼示如何为Pentaho 平台开发相关的商业智能解决方案。
Pentaho BI平台构建于服务器,引擎和组件的基础之上。这些提供了系统的
J2EE服务器,安全,portal,工作流,规则引擎,图表,协作,内容管理,数据
集成,分析和建模功能。这些组件的大部分是基于标准的,可使用其他产品替换之。