大数据技术及其在教育研究领域应用.doc
大数据技术及其在教育领域的应用大数据是一个正在发展中的概念。到目前为止，学术界对于“大数据”一词还没有准
确、统一的定义。著名学者涂子沛在《大数据》一书中指出：“大数据（BigData）是指那
些大小已经超出了传统意义上的尺度，一般的软件工具难以捕捉、管理和分析的大容量数
据，一般以‘以太节’为单位。大数据之大，并不仅仅在于容量之大，更大的意义在于通
过对海量数据的交换、整合和分析，发现新的知识，创造新的价值，带来‘大知识’、
‘大科技’、‘大利润’和‘大发展’。
大数据时代对人类的数据驾驭能力提出了新的挑战，也为人们获得更为深刻、全
面的洞察能力提供了前所未有的空间。互联网时代的数据正在迅速膨胀，它决定着组
织的未来发展，随着时间的推移，人们将越来越意识到数据对组织的重要性。对于企
业组织来讲，大数据的价值体现在两个方面：分析使用和二次开发。对大数据进行分
析能揭示隐藏其中的知识信息，对大数据的二次开发则是通过大数据创造出新产品和
服务。例如，Facebook通过结合大量用户信息，定制出高度个性化的用户体验，并创
造出一种新的广告模式。大数据这股汹涌浪潮正在兴起，将给各行各业的发展模式和
决策带来前所未有的革新与挑战，教育领域同样不可避免，面临新的挑战和机遇。
大数据在教育领域中的主要应用
近年来，随着大数据成为互联网信息技术行业的流行词汇，教育逐渐被认为是大数据
可以大有作为的一个重要应用领域，有人大胆地预测大数据将给教育带来革命性的变化。
大数据技术允许中小学和大学分析从学生的学习行为、考试分数到职业规划等所有重
要的信息。许多这样的数据已经被诸如美国国家教育统计中心之类的政府机构储存起来用
于统计和分析。
而近年来越来越多的网络在线教育和大规模开放式网络课程横空出世，也使教育领域
中的大数据获得了更为广阔的应用空间。专家指出，大数据将掀起新的教育革命，比如革
新学生的学习、教师的教学、教育政策制定的方式与方法。
教育领域中的大数据分析最终目的是为了改善学生的学习成绩。成绩优异的学生对学
校、对社会、以及对国家来说都是好事。学生的作业和考试中有一系列重要的信息往往被
我们常规的研究所忽视。而通过分析大数据，我们就能发现这些重要信息，并利用它们为
改善学生的成绩提供个性化的服务。与此同时，它还能改善学生期末考试的成绩、平时的
出勤率、辍学率、升学率等。
1. 革新教育理念和教育思维
随着大数据时代的来临，教育大数据深刻改变着教育理念、教育思维方式。新的时代，
教育领域充满了大数据，诸如学生、教师的一言一行，学校里的一切事物，都可以转化为
数据。当每个在校学生都能用计算机终端学习时，包括上课、读书、写笔记、做作业、发
微博、进行实验、讨论问题、参加各种活动等，这些都将成为教育大数据的来源。大数据
比起传统的数字具有深刻的含义和价值。例如，对于一张试卷、一次考试，考试得分为90分，它可以是简简单单的一个传统的数字，但如果换一个角度来分析，把它作为一个数据
来看待，就可以得到其背后所隐含的许多充满想象力的数据信息：可以是每一大题的得分，每一小题的得分，每一题选择了什么选项，每一题花了多少时间，是否修改过选项，做题
的顺序有没有跳跃，什么时候翻卷子，有没有时间进行检查，检查了哪些题目，修改了哪
些题目，等等，这些信息远远比一个90分要有价值得多。不单是考试，课堂、课程、师生互动的各个环节都渗透了这些大数据。教育将不再是靠理念和经验来传承的社会科学，大
数据时代的教育将步入实证时代，变成一门实实在在的基于数据的实证科学。大数据使得
教育者的思维方式发生了深刻变化，传统的教育大多是教育主管部门和教育者通过教学经
验的学习、总结和继承来展开的，但是有些经验是不具有科学性的，常识有时会影响人们
的判断。大数据时代将可以通过对教育数据的分析，挖掘出教学、学习、评估等符合学生
实际与教学实际的情况，这样就可以有的放矢地制定、执行教育政策，制定出更符合实际
的教育教学策略。
2. 实现个性化教育
大数据带来的一个变化在于实施个性化教育具有了可能性，真正实现从群体教育的方
式转向个体教育。利用大数据技术，我们可以去关注每一个学生个体的微观表现，比如，
他在什么时候翻开书，在听到什么话的时候微笑点头，在一道题上逗留了多久，在不同学
科的课堂上提问多少次，开小差的次数分别为多少，会向多少同班同学发起主动交流，等等。这些数据的产生完全是过程性的，包括课堂的过程、作业的过程、师生或生生互动的
过程，等等，是对即时性的行为与现象的记录。通过这些数据的整合能够诠释教学过程中
学生个体的学习状态、表现和水平。而且这些数据完全是在学生不自知的情况下被观察、
收集的，只需要一定的观测技术与设备的辅助，而不影响学生任何的日常学习与生活，因
此其采集非常自然、真实，可以获得学生的真实表现。大数据技术将给教师提供最为真实、最为个性化的学生特点信息，教师在教学过程中可以有针对性地进行因材施教。比如，在
课堂学习过程中，哪些学生注意基础部分，哪些学生注意实践内容，哪些学生完成某一练习，哪些学生可以阅读推荐书目，等等。不仅如此，当学生在完成教师布置的作业时，也
能通过数据分析强化学习。比如，通过电子设备做作业时，某一类型的题目有几次全对，
就可以把类似的题目跳过；如果某个类型的题目犯错，系统则可进行多次强化，这样不仅
提高了学习效率，也减轻了学生的学习负担。
3. 加强学校基于数据的管理
大数据对于学校管理具有重要的价值，有利于实现学校管理的精确化、科学化。学校
管理离不开信息，学校是培养各类专门人才、传授知识和创造知识的场所，拥有众多的专
业学科，与国内外联系广泛，每天进行着各种教学、科研及其管理活动，蕴藏着十分丰富
的信息资源。学校管理中的各种决策和控制活动，如培养目标的确定、教学计划的制定、
教学组织指挥、教学质量控制、教学评估、教师管理、学生管理等，都是以大量的数据为
基础的，并不断产生各种新的数据，大数据的处理和挖掘对于学校管理具有关键作用。利
用大数据技术，着眼于管理决策、管理活动、管理过程控制，全面归集学校管理大数据。
比如，针对教务管理、行政管理、科研管理、人事管理、财务管理、后勤管理等各类领域，进行全校系统的规划、梳理，具体细化数据收集标准规范，及时归集，形成全校管理大数据。同时，针对重要管理对象的数据，由多个源头、从不同方向对同一个对象进行数据记录，数据之间可以互相印证，形成多源的管理对象大数据。此外，利用大数据分析技术，
为学校网络信息安全管理也提供了重要的手段。比如，利用大数据帮助分析学校信息网络
运行日志数据，据此学校信息安全管理人员能够审计网络环境，并观察到故障点的位置，
然后生成报告，帮助他们升级或安装防病毒解决方案，进行程序修补，或采取其他安全措施，提升学校的信息安全防护能力。
总而言之，通过大数据进行学习分析能够为每一位学生都创设一个量身定做的学习环
境和个性化的课程，还能创建一个早期预警系统以便发现开除和辍学等潜在的风险，为学生的多年学习提供一个富有挑战性而非逐渐厌倦的学习计划。因此，有识之士经预言未来
的学习将是大数据驱动的新时代。我们应该积极迎接这个新时代，通过大数据来分析学习，进一步改善教学的方式与方法，进一步促进学生学习成绩的提高
精品文档
精品文档
2017公需科目《大数据前沿技术及应用》第八章答案
2017 年公需科目《大数据前沿技术及应用》 第八章：大数据发展趋势答案 1、大数据预测能够分析和挖掘出人们不知道或没有注意到的模式，确定判断某件事情必然发生。（3 分） A. 是 B. 否正确选项：B 2、大数据的发展趋势中的智能化关键技术包括感知技术、自然语言技术、交互技术以及决策等。（3 分） A. 是 B. 否正确选项：A 3、大数据分为“结构化数据“与”非结构化数据” 。（3 分） A. 是 B. 否正确选项：A 4、2011 年，IBM 的“沃森”超级计算机在美国著名智力竞赛节目《危险边缘》上击败两名人类选手而夺冠。（3 分） A. 是 B. 否正确选项：A 5、2012 年 7 月国务院发布的《“十二五”国家战略性新兴产业发展规划》中明确提出支持海量数据存储、处理技术的研发和产业化。（3 分） A. 是 B. 否正确选项：A 6、机器学习就是通过算法，使得机器能从大量历史数据中学习规律，从而对新的样本做智能识别或对未来做预测。（3 分） A. 是 B. 否正确选项：A
7、由于大数据处理多样性的需求，目前出现了多种典型的计算模式，包括大数据查询分析计算、批处理计算、流式计算、图计算等。（3 分） A. 是 B. 否正确选项：A 8、大数据开发的根本目的是以数据分析为基础，帮助人们做出更明确的决策，优化企业和社会运转。（3 分） A. 是 B. 否正确选项：A 9、人工智能够和人一样进行感知、认知、决策、执行的人工程序或系统。（3 分） A. 是 B. 否正确选项：A 10、知识图谱是一种基于图的数据结构，由节点和边组成。（3 分） A. 是 B. 否正确选项：A 11、大数据成熟催化了人工智能的进步，深度学习带来算法上的突破则带来了人工智能浪潮。（3 分） A. 是 B. 否正确选项：A 12、当前，企业提供的大数据解决方案大多基因 Hadoop 开源项目。（3 分） A. 是 B. 否正确选项：A 13、北京航空航天大学创办了国内第一个“大数据科学与应用”软件工程硕士专业。（3 分） A. 是 B. 否正确选项：A 14、数据结构”是指不存储数据库之中的，包括电子邮件、文本文件、图像、视频等数据。（3 分）
大数据的概念、技术及应用
大数据的概念、技术及应用1 概述 1.1 大数据的概念和特点 1.1.1 大数据的基础 1.1.2 大数据如何“与时俱进”？ 1.1.3 大数据发展趋势 人工智能 物联网结合 各个行业的深入 1.2 大数据的技术基础 1.2.1 从数据仓库开始 1.2.2 HADOOP 生态圈 1.2.3 与云计算的关系 1.2.4 数据运维能力提升 1.3 大数据的应用举例 1.3.1 大数据提升客户分析能力 1.3.2 大数据提升产品分析能力 1.3.3 大数据提升管理水平 1.3.4 大数据提升各行业“智慧” 1.4 大数据下的人工智能（AI） 1.4.1 什么是人工智能
1.4.2 人工智能改变哪些行业？ 1.4.3 大数据下的人工智能有何不同？ 1.4.4 人工智能的“颠覆” 1.5 大数据如何精细化管理 1.5.1 量化管理的引出 1.5.2 大数据如何提升“量化”的维度和深度1.5.3 从艺术到技术 1.5.4 自动驾驶到自动管理？ 1.6 电信企业的大数据“商机” 1.6.1 从网络运营到数据运营 1.6.2 提炼“内功” 1.6.3 提升外部管理能力 1.6.4 扩展增值产品运营市场 2 大数据的行业解决方案应用案例 2.1 基础应用范围 2.2 石油行业应用案例 2.3 交通行业应用案例 2.4 旅游行业应用案例 2.5 金融行业应用案例 2.6 电信行业应用案例 2.7 互联网行业应用案例等
3 大数据技术基础 3.1 从数据仓库开始 3.1.1 数据仓库的“集中” 3.1.2 数据仓库的模型标准化3.1.3 大数据的演进 3.2 HADOOP 生态圈 3.2.1 开源社区概述 3.2.2 开源改变了什么？3.2.3 HADOOP 生态圈内容3.2.4 HADOOP 的技术原则3.2.5 HADOOP 的运维3.3 HADOOP 基础 3.3.1 HDFS 的原理 3.3.2 MAP/REDUCE 原理3.3.3 YARN 原理 3.4 HIVE/HBASE 技术 3.4.1 HIVE 的原理 3.4.2 HBASE 的原理 3.4.3 两者的关系 3.5 SPARK 技术 3.5.1 基本原理
工业大数据分析技术与前沿技术趋势
工业大数据分析技术与前沿技术趋势 工业大数据具有实时性高、数据量大、密度低、数据源异构性强等特点，这导致工业大数据的分析不同于其他领域的大数据分析，通用的数据分析技术往往不能解决特定工业场景的业务问题。工业过程要求工业分析模型的精度高、可靠性高、因果关系强，这样才能满足日常工业生产需要，而纯数据驱动的数据分析手段往往不能达到工业场景的要求。工业数据的分析需要融合工业机理模型，以“数据驱动+机理驱动”的双驱动模式来进行工业大数据的分析，从而建立高精度、高可靠性的模型来真正解决实际的工业问题。因此，工业大数据分析的特征是强调专业领域知识和数据挖掘的深度融合。本节主要对时序模式分析技术、工业知识图谱技术、多源数据融合分析技术等三种典型的工业大数据分析技术进行介绍。 1 时序模式分析技术 伴随着工业技术的发展，工业企业的生产加工设备、动力能源设备、运输交通设备、信息保障设备、运维管控设备上都加装了大量的传感器，如温度传感器、振动传感器、压力传感器、位移传感器、重量传感器等，这些传感器在不断产生海量的时序数据，提供了设备的温度、压力、位移、速度、湿度、光线、气体等信息。对这些设备传感器时序数据分析，可实现设备故障预警和诊断、利用率分析、能耗优化、生产监控等。但传感器数据的很多重要信息是隐藏在时序模式结构中，只有挖掘出背后的结构模式，才能构建一个效果稳定的数据模型。
工时序数据的时间序列类算法主要分六个方面：时间序列的预测算法如ARIMA，GARCH 等；时间序列的异常变动模式检测算法，包含基于统计的方法、基于滑动窗窗口的方法等；时间序列的分类算法，包括SAX 算法、基于相似度的方法等；时间序列的分解算法，包括时间序列的趋势特征分解、季节特征分解、周期性分解等；时间序列的频繁模式挖掘，典型时序模式智能匹配算法（精准匹配、保形匹配、仿射匹配等），包括MEON 算法、基于motif 的挖掘方法等；时 间序列的切片算法，包括AutoPlait 算法、HOD-1D 算法等。 工业大数据分析的一个重要应用方向是对机器设备的故障预警和故障诊断，其中设备的振动分析是故障诊断的重要手段。设备的振动分析需要融合设备机理模型和数据挖掘技术，针对旋转设备的振动分析类算法主要分成三类：振动数据的时域分析算法，主要提取设备振动的时域特征，如峭度、斜度、峰度系数等；振动数据的频域分析算法，主要从频域的角度提取设备的振动特征，包括高阶谱算法、全息谱算法、倒谱算法、相干谱算法、特征模式分解等；振动数据的时频分析算法，综合时域信息和频域信息一种分析手段，对设备的故障模型有较好的提取效果，主要有短时傅里叶变换、小波分析等。 2 工业知识图谱技术 工业生产过程中会积累大量的日志文本，如维修工单、工艺流程文件、故障记录等，此类非结构化数据中蕴含着丰富的专家经验，利用文本分析的技术能够实现事件实体和类型提取（故障类型抽取）、事件线索抽取（故障现象、征兆、排查路线、结果分析），通过专家知
大数据技术与应用基础教学大纲
大数据技术与应用基础》教学大纲 时：60 码： 适用专业： 定： 核： 准： 、课程的地位、性质和任务 大数据技术的发展，已被列为国家重大发展战略。而在过去的几年里，无论是聚焦大数据发展的《促进大数据发展行动纲要》，还是《“十三五”规划》中都深刻体现了政府对大数据产业和应用发展的重视。目前国内大数据发展还处于加速期、转型期，数据与传统产业的融合还处于起步阶段，各行业对大数据分析和挖掘的应用还不理想。但随着市场竞争的加剧，各行业对大数据技术研究的热情越来越高，在未来几年，各领域的数据分析都将大规模应用。 本课程在注重大数据时代应用环境前提下，考虑大数据处理分析需求多样复杂的基本情况，从初学者角度出发，以轻量级理论、丰富的实例对比性地介绍大数据常用计算模式
的各种系统和工具。考虑到当前大数据发展处于起步并逐步赶超先进的阶段，其应用领域 丰富广泛，在教学过程中应注重掌握大数据分析的实践操作。本课程通过丰富简单易上手 的实例，让学生能够切实体会和掌握各种类型工具的特点和应用。 、课程教学基本要求 1 . 了解大数据的发展和基本概念，理解并掌握大数据的特征及主要技术层面。 2 . 掌握Scrapy 环境的搭建，了解网络爬虫获取数据的过程，熟悉爬虫项目的创建。 3 . 深刻了解hadoop的基础理论，理解并掌握Hadoop单机及集群环境的部署方法。 4 . 掌握HDFS的基本概念和HDFS在hadoop中的作用，理解并识记HDFS勺使用，了解 HDFS的JAVA API接口及数据流原理；让学生明白Map过程与Reduce过程这两个独立部分各自的原理及合作途径，知道如何独立编写满足自己需求的Map Reduces序。 5.理解HBase中涉及的基本概念，掌握HBase的简单应用；让学生了解数据仓库的基 础概念，熟悉Hive与HDFS Map Reduced接的关心。 6.熟悉Spark和RDM基本概念，熟悉spark接口的使用，解决实战时的步骤及思路。 7.明白Hadoop和Storm之间的差别，掌握对Storm的使用。理解Apex的工作过程并能简单应用。 8. 了解Druid 的基本概念、应用场景以及集群架构，掌握批量数据加载、流数据加载 的操作。了解Flink 的重要概念和基本架构，掌握Flink 简单的使用实例。
大数据技术与应用专业建设
大数据技术与应用专业建设 调研报告 自党的十八大以来，我国提出了实施国家大数据战略的重大决策。国务院和相关部门先后印发了《促进大数据发展行动纲要》、《大数据产业发展规划（2016～2020年）》等指导性文件。各部门、各地方高度重视，据不完全统计，我国已有20多个省级地方和10余个部委出台了本地区、本行业大数据发展规划，我国大数据发展已经正式驶入快车道。 2015年9月5日经李克强总理签批，国务院印发《促进大数据发展行动纲要》（以下简称《纲要》），系统指导我国大数据发展的国家顶层设计和总体部署大数据发展工作。《纲要》提出从政府大数据、新兴产业大数据、安全保障体系三个方面着手推进大数据领域十大工程建设，将我国大数据发展推向了另一个制高点。 职业教育服务经济与社会发展，必须紧跟产业发展步伐，随着经济增长方式转变而“动”，跟着产业结构调整升级而“走”，围着企业技能型人才需求而“转”，适应市场的需求而“变”。在大数据技术飞速发展的今天，职业教育必须紧跟大数据产业发展步伐。为了更好地了解相关行业企业对大数据人才的需求，促进大数据技术与应用专业教学及专业建设，大数据技术与应用专业教学资源库建设团队在国内外针对大数据在行业企业的需求开展了调研。
一、调研目的 1、了解大数据行业企业对大数据技术与应用专业人才的需求倾向、人才需求规格预测、就业预测、人才的市场定位等； 2、了解大数据行业企业对大数据技术与应用专业人才培养模式、培养目标的意见，以及对专业知识、岗位分工、职业技能等的要求； 3、了解往届相关专业毕业生在工作单位的表现及用人单位对往届毕业生的工作、岗位能力评价； 4、与相关企业建立校企合作模式，促进教学与社会实践的联系，为大数据技术与应用专业教学资源库的专业建设、课程体系建设及培养模式寻找更完善的发展方向。 二、调研方式 1.问卷调查：印制问卷涵寄或面交，请企业相关人员作答。 2.实地调研：教师到企业和用人单位实地调研。 3.座谈调研：邀请用人单位的技术人员、管理人员到系里开展座谈交流。 4.网上调查：到网上搜索有关人才需求、课程设计、教学计划等信息。 三、国内外大数据发展现状 （一）大数据产业呈现爆炸式增长 由IDC和EMC联合发布的《The Digital Universe of Opportunities : Rich Data and the Increasing Value of Internet of Things》研究报告中指出，2011年全球数据总量已达到1.8ZB，并将以每两年翻一番的速度增长，
大数据技术与应用专业详细解读
大数据技术与应用专业详细解读 大数据技术与应用专业是新兴的“互联网+”专业，大数据技术与应用专业将大数据分析挖掘与处理、移动开发与架构、人软件开发、云计算等前沿技术相结合，并引入企业真实项目演练，依托产学界的雄厚师资，旨在培养适应新形势，具有最新思维和技能的“高层次、实用型、国际化”的复合型大数据专业人才。 专业背景 近几年来，互联网行业发展风起云涌，而移动互联网、电子商务、物联网以及社交媒体的快速发展更促使我们快速进入了大数据时代。截止到目前，人们日常生活中的数据量已经从TB(1024GB=1TB)级别一跃升到PB(1024TB=1PB)、EB(1024PB=1EB)乃至ZB(1024EB=1ZB)级别，数据将逐渐成为重要的生产因素，人们对于海量数据的运用将预示着新一波生产率增长和消费者盈余浪潮的到来。大数据时代，专业的大数据人才必将成为人才市场上的香饽饽。当下，大数据从业人员的两个主要趋势是：1、大数据领域从业人员的薪资将继续增长；2、大数据人才供不应求。 图示说明：2012-2020年全球数据产生量预测 专业发展现状 填补大数据技术与应用专业人才巨大缺口的最有效办法无疑还需要依托众多的高等院校来培养输送，但互联网发展一日千里，大数据技术、手段日新月异，企业所需要的非常接地气的人才培养对于传统以培养学术型、科研型人才为主要使命的高校来说还真有些难度。幸好这个问题已经被全社会关注，政府更是一再提倡产教融合、校企合作来创办新型前沿几
乎以及“互联网+”专业方向，也已经有一些企业大胆开始了这方面的创新步伐。据我了解，慧科教育就是一家最早尝试高校校企合作的企业，其率先联合各大高校最早开设了互联网营销，这也是它们的优势专业，后来慧科教育集团又先后和北京航空航天大学、对外经济贸易大学、贵州大学、华南理工大学、宜春学院、广东开放大学等高校在硕、本、专各个层次开设了大数据专业方向，在课程体系研发、教学授课及实训实习环节均有来自BAT以及各大行业企业一线的技术大拿参与，所培养人才能够很好地满足企业用人需求。 专业示例 笔者在对慧科教育的大数据技术与应用专业做了专门研究，共享一些主要特色给大家参考： 1.培养模式 采用校企联合模式，校企双方（即慧科教育集团和合作校方）发挥各自优势，在最大限度保证院校办学特色及专业课程设置的前提下，植入相应前沿科技及特色人才岗位需求的企业课程。 2.课程体系 笔者对慧科教育的大数据技术与应用做了专门研究，现分享一下慧科专业共建的课程给大家参考。慧科教育集团的专业课程重在培养学生的理论知识和动手实践能力，学生在完成每个学期的理论学习后，至少有两个企业项目实战跟进，让学生在项目中应用各类大数据技术，训练大数据思路和实践步骤，做到理论与实践的充分结合。 大数据专业的课程体系包括专业基础课、专业核心课、大数据架构设计、企业综合实训等四个部分。
大数据技术与应用基础_教学大纲
《大数据技术与应用基础》教学大纲 学时：60 代码： 适用专业： 制定： 审核： 批准： 一、课程的地位、性质和任务 大数据技术的发展，已被列为国家重大发展战略。而在过去的几年里，无论是聚焦大数据发展的《促进大数据发展行动纲要》，还是《“十三五”规划》中都深刻体现了政府对大数据产业和应用发展的重视。目前国内大数据发展还处于加速期、转型期，数据与传统产业的融合还处于起步阶段，各行业对大数据分析和挖掘的应用还不理想。但随着市场竞争的加剧，各行业对大数据技术研究的热情越来越高，在未来几年，各领域的数据分析都将大规模应用。 本课程在注重大数据时代应用环境前提下，考虑大数据处理分析需求多样复杂的基本情况，从初学者角度出发，以轻量级理论、丰富的实例对比性地介绍大数据常用计算模式的各种系统和工具。考虑到当前大数据发展处于起步并逐步赶超先进的阶段，其应用领域丰富广泛，在教学过程中应注重掌握大数据分析的实践操作。本课程通过丰富简单易上手的实例，让学生能够切实体会和掌握各种类型工具的特点和应用。 二、课程教学基本要求 1. 了解大数据的发展和基本概念，理解并掌握大数据的特征及主要技术层面。 2. 掌握Scrapy环境的搭建，了解网络爬虫获取数据的过程，熟悉爬虫项目的创建。 3. 深刻了解hadoop的基础理论，理解并掌握Hadoop单机及集群环境的部署方法。 4. 掌握HDFS的基本概念和HDFS在hadoop中的作用，理解并识记HDFS的使用，了解HDFS 的JAVA API接口及数据流原理；让学生明白Map过程与Reduce过程这两个独立部分各自的原理及合作途径，知道如何独立编写满足自己需求的MapReduce程序。 5. 理解HBase中涉及的基本概念，掌握HBase的简单应用；让学生了解数据仓库的基础概念，熟悉Hive与HDFS、MapReduce直接的关心。 6. 熟悉Spark和RDD的基本概念，熟悉spark接口的使用，解决实战时的步骤及思路。
大数据技术与应用专业人才培养方案
附件： 2017年大数据技术与及用人才培养方案 一、培养目标 本专业培养适应生产、建设、服务和管理第一线需要的，德、智、体、美等方面全面发展的，具有大数据行业对应岗位必备的科学文化知识及相关专业知识，以大数据系统运维与管理、数据处理、数据分析、应用系统开发能力为目标，系统掌握大数据技术与应用专业基本理论、大数据分析挖掘与处理、移动开发与架构、软件开发、云计算技术等前沿技术，旨在培养适应新形势下新兴的“互联网+”专业，具有良好职业道德和敬业精神的高素质技能型专门人才。 二、学制及招生对象 （一）学制：三年 （二）招生对象：高中毕业生和中职毕业生 三、人才培养规格 （一）职业面向、预期工作岗位名称 1.主要岗位 本专业大数据基础类岗位：大数据文档编写、大数据采集清洗与转换； 大数据技术类岗位：大数据系统搭建与运维、海量数据库管理、大数据软件开发、大数据可视化、大数据分析； 2.相关岗位 大数据销售服务类岗位：大数据营销、大数据呼叫、大数据售后服务。 3.进阶岗位 大数据技术公司管理岗位和高级技术岗位 （二）起薪标准 4500元/月 （三）人才质量标准 1.知识要求 毕业生应具有大数据技术与应用专业必要的基础理论知识，掌握从事本专业领域实际工作的基本能力和基本技能；具备适应生产、管理、服务一线岗位需要的工作能力，具备良好的职业道德与素养。
①掌握本专业培养目标所要求的基础理论知识、专业知识和技能； ②具备一定的英语知识，能够借助工具书阅读理解本专业所使用的常用计算机英语， 包括技术性文档和资料； ③掌握计算机方面的专业基础知识，能适应信息化建设； ④掌握Linux平台下大数据平台搭建，数据库系统搭建、优化、管理等方面的专业技 能； ⑤掌握大数据技术与应用专业基本的专业技能，能满足大数据岗位的基本素质。 2.能力要求 通过三年的学习，学生应具备从事本专业领域相关工作的能力。 ①熟练操作办公自动化软件； ②具备计算机组装、计算机软硬件故障的判断与定位以及故障排除的能力。 ③具备办公自动化设备维护的能力；具备数据库系统管理维护的能力； ④具备非结构化数据处理能力； ⑤具备数据仓库管理基本能力； ⑥具备OOP程序设计能力； ⑦具备Web应用开发能力； ⑧具备Linux Server、Hadoop项目管理维护的能力； ⑨具备数据挖掘、数据清洗、数据可视化的处理能力。 3.素质要求 ①政治思想素质： 热爱祖国，拥护党的基本路线。遵纪守法，善于独立思考，勇于创新的精神。具备良好的职业道德与素养。 ②文化素质： 具有一定的文化素质修养，诚实守信、礼貌待人、为人谦逊的文明习惯；具有自尊自强、爱岗敬业、勤奋好学、追求进步的品格；具备良好的人际交往与勾通和工作协调能力。 ③业务素质： 掌握大数据技术与应用专业的基础理论知识；掌握计算机组装与维护、办公自动化软件操作、办公自动化设备维护、计算机网络系统维护及管理、关系型/非关系型数据库系统维护及管理、Windows/Linux服务器系统配置管理等方面、各类大数据平台搭建管理维护的专业技能的能力。
公需课大数据前沿技术级应用测试题
1. 【多选题】大数据技术领域的发展得到国家的高度重视，近年来不断推出了些促进这些领域创新和产业发展的指导意见、发展规划和行动纲要，主要有哪些？【ABCDE】 A: 2015年8月31日：《促进大数据发展行动纲要》B: 2015年12月29日：《“互联网＋”行动的指导意见》 《新一代人工智能发展规划》 D: C: 2017年7月8日： 2017年4月10日：《云计算发展三年行动计划（2017－2019年）》 E: 2015年5月8日：《中国制造2025》2. 【判断题】人工采集效率低、成本高、错误多。自动化采集靠技术实现，效率高、采集的数据量大。【对】3. 【多选题】大数据分析平台软件由（）（）（）（）（）大关键技术实现。【ABCDE】 A: 云存储 B: 云计算 C: 算法库D: 工作流引擎 E: 开放接口 4. 【多选题】数据资源向信息、知识、价值转换的流程可以概括成5个环节：（）（）（）（）（）正确答案:[A,B,C,D] A: 数据采集 B: 数据存储 C: 数据处理 D: 数据分析与挖掘 E: 知识应用 5. 【多选题】计算机系统的发展经历了这样几个阶段：（）（）（）（）（）正确答案:[A,B,C,D] A: 大型机 B: 小型机 C: 个人计算机 D: 互联网 E: 云计算
6. 【判断题】数据是所表达的对象或事件的信息的载体， 记录了对象的属性特征。正确答案:[对] 7. 【多选题】数据采集可以划分为（）和（）。【AB】 A: 人工采集 B: 自动化采集 8. 【判断题】数据自动化采集技术的发展产生了大数据。 对 9. 【多选题】云服务应用的部署模型有：（）（）（）（）。【ABCD】 A: 公有云Public cloud B: 私有云 Private cloud C: 社区云Community cloud D: 混合云 Hybrid cloud 10. 【多选题】教育大数据指的是学生在学习过程中产生 的大数据，教育大数据应用主要体现在三个主要方面（）（） （）【ABC】 A: 学生学习分析 B: 学生的分类管理 C: 教学效果分析
大数据技术原理与应用 林子雨版 课后习题答案
第一章 1.试述信息技术发展史上的3次信息化浪潮及具体内容。 2.试述数据产生方式经历的几个阶段 答：运营式系统阶段，用户原创内容阶段，感知式系统阶段。 3.试述大数据的4个基本特征 答：数据量大、数据类型繁多、处理速度快和价值密度低。 4.试述大数据时代的“数据爆炸”的特性 答：大数据时代的“数据爆炸”的特性是，人类社会产生的数据一致都以每年50%的速度增长，也就是说，每两年增加一倍。 5.数据研究经历了哪4个阶段？
答：人类自古以来在科学研究上先后历经了实验、理论、计算、和数据四种范式。 6.试述大数据对思维方式的重要影响 答：大数据时代对思维方式的重要影响是三种思维的转变：全样而非抽样，效率而非精确，相关而非因果。 7.大数据决策与传统的基于数据仓库的决策有什么区别 答：数据仓库具备批量和周期性的数据加载以及数据变化的实时探测、传播和加载能力，能结合历史数据和实时数据实现查询分析和自动规则触发，从而提供对战略决策和战术决策。 大数据决策可以面向类型繁多的、非结构化的海量数据进行决策分析。 8.举例说明大数据的基本应用 答： 9.举例说明大数据的关键技术
答：批处理计算，流计算，图计算，查询分析计算 10.大数据产业包含哪些关键技术。 答：IT基础设施层、数据源层、数据管理层、数据分析层、数据平台层、数据应用层。 11.定义并解释以下术语：云计算、物联网 答：云计算：云计算就是实现了通过网络提供可伸缩的、廉价的分布式计算机能力，用户只需要在具备网络接入条件的地方，就可以随时随地获得所需的各种IT资源。 物联网是物物相连的互联网，是互联网的延伸，它利用局部网络或互联网等通信技术把传感器、控制器、机器、人类和物等通过新的方式连在一起，形成人与物、物与物相连，实现信息化和远程管理控制。 12.详细阐述大数据、云计算和物联网三者之间的区别与联系。
大数据技术与应用专业讲课稿
大数据技术与应用专业 建设方案 北京四合天地科技有限公司 2018年6月
目录 1项目背景 (4) 1.1行业背景 (4) 1.2政策导向 (5) 2人才培养方案 (6) 2.1行业人才需求 (6) 2.2大数据岗位设置 (9) 2.2.1Hadoop运维工程师 (9) 2.2.2大数据开发工程师 (9) 2.2.3数据采集工程师 (10) 2.2.4系统开发工程师 (11) 2.3大数据人才基本技能要求 (11) 2.4人才培养目标 (12) 2.5人才培养策略 (12) 3教学现状分析 (13) 3.1教学科研难以保证 (13) 3.2实训环境缺失 (13) 3.3实训内容不足 (13) 4课程体系建设 (14) 4.1培养目标 (14) 4.2课程设置 (14) 5实训室建设 ............................................................................................... 错误!未定义书签。 5.1设计理念..................................................................................................... 错误!未定义书签。 5.1.1以就业为导向...................................................................................... 错误!未定义书签。 5.1.2以能力为本.......................................................................................... 错误!未定义书签。
2017大数据前沿专业技术及应用部分答案(公需课)90分以上答案
1、下面哪种不是数据库的分类？ A、层次式数据库 B、开放式数据库 C、网络式数据库 D、关系式数据库 2、下面哪种不属于硬盘？（） A、SSD盘 B、HDD盘 C、混合硬盘 D、光盘 3、（）用于存放计算机运行期间的大量程序和数据。 A、高速缓冲存储器 B、主存储器 C、外存储器 D、CPU寄存器 4、推动大数据分析平台的发展不包括以下哪项技术？（） A、云存储技术 B、数据管理技术 C、数据抓取技术 D、数据可视化技术 5、不属于光盘的优点是（）。 A、单位存储容量成本低，携带方便，数据查询时间短
B、容量大，保存时间长 C、数据读取、写入数据快，操作方便 D、可重复删除写入数据 6、不属于基于大数据的威胁发现技术的优点是哪项？（） A、分析内容的范围更大 B、对已知威胁的检测 C、分析内容的时间跨度更长 D、攻击威胁的预测性 7、（）是指数据的组织形式或数据之间的联系。 A、数据库结构 B、数据结构 C、存储结构 D、数据对象结构 1 【单选】（）用于存放计算机运行期间的大量程序和数据? A. 高速缓冲存储器 ? B. 主存储器 ? C. 外存储器
? D. CPU寄存器 ? A ? B ? C ? D ?正确答案：B 2 【单选】下列哪条不属于隐私保护防护策略( ) ? A. 确保身份安全 ? B. 安全检查 ? C. 密钥管理的不良状况 ? D. 安全步骤 ? A ? B ? C ? D ?正确答案：B 3 【单选】（）是指数据的组织形式或数据之间的联系。? A. 数据库结构
? B. 数据结构 ? C. 存储结构 ? D. 数据对象结构 ? A ? B ? C ? D ?正确答案：B 4 【单选】下面哪种不属于硬盘（）? A. SSD盘 ? B. HDD盘 ? C. 混合硬盘 ? D. 光盘 ? A ? B ? C ? D ?正确答案：D 5 【多选】数据存储介质分为（）
大数据技术与应用专业人才需求分析和预测性调研报告
大数据技术与应用专业 人才需求分析和预测性调研报告 一、调研情况分析 (一)政府发展规划与政策动态 推动大数据产业持续健康发展，是党中央、国务院作出的重大战略部署，是实施国家大数据战略、实现我国从数据大国向数据强国转变的重要举措。日前，工业和信息化部正式印发了《大数据产业发展规划（2016－2020年）》（以下简称《规划》），全面部署“十三五”时期大数据产业发展工作，加快建设数据强国，为实现制造强国和网络强国提供强大的产业支撑。 2018年，贵州提出“万企融合”大行动，计划用五年时间，带动10000家企业通过应用大数据技术，提升企业数字化、网络化、智能化水平，实现发展新增长、服务升级。有预测称，这次行动将在贵州形成超过1200亿美元的市场。 (二)市场需求和行业发展趋势 1）大数据市场需求 大数据经过前几年的概念热炒之后，逐步走过了探索阶段、市场启动阶段，当前已经在接受度、技术、应用等各个方面趋于成熟，开始步入产业的快速发展阶段。大数据巨大的应用价值带动了大数据行业的迅速发展，行业规模增长迅速。截至 2014 年，全球大数据市场规模已经成长到300 亿美元的空间，预测到2017 年全球大数据技术和服务市场的2018 年的复合年增长率将达到26.4%，规模达到415 亿美元，是整个IT 市场增幅的6 倍。大数据市场规模在2020 年有望达到611.6 亿美元，符合年增长率将达到26%。 中国大数据产业起步晚，发展速度快。物联网、移动互联网的迅速发展，使数据产生速度加快、规模加大，迫切需要运用大数据手段进行分析处理，提炼其中的有效信息。“大数据”已成为一个热门词语高频出现在各种场合，其专门人才已不能满足市场需求。经过专门调研数据显示，大数据人才岗位缺口2018年高达150万，俱预测2025年中国大数据人才缺口达到200万，这给高校和人力资源企业的一个很大的优惠。未来几年人才需求将持续走俏。引进和培养1000
2017年公需科目《大数据前沿技术及应用》参考答案(适用于华医网)
2017年公需科目《大数据前沿技术及应用》参考答案 （适用于华医网） 大数据概述及基本概念（一） C以下哪个数据单位最大（） C大数据技术的战略意义是（） C信息技术是指有关信息的收集、 B\美国哈佛大学的研究小组给出了著名的资源三角形,不包括（） D\哪种不属于互联网上出现的海量信息（） 大数据概述及基本概念（二） B（）主要承担了搭建大数据平台上层建筑的任务。 B（）主要利用分布式数据库，或者分布式计算集群来对存储于其内的海量数据进行普通的分析和分类汇总等。 B大数据技术的出现实现了巨大的社会价值,下列哪项不属于产生的社会价值（） C大数据平台的三个重要的技术部分不包括（） D下列哪项不属于商业大数据的类型（） 大数据概述及基本概念（三） D以下那个观点是错误的()
D企业大数据分析不包括（） D维度上的分析需求，主要需要三方面的数据分析技术，不包括（）A（）指的是数据本身所承载的信息内容 大数据体系结构（一） D\物理资源实体的提供层包括（） D\SaaS模式的优点有（） D\云计算的优势包含下面哪几个方面（） B\提供资源的网络被称为（） A\（）是通过使计算分布在大量的分布式计算机上， 大数据体系结构（二） D分布式数据库的特点不包括（） B下面哪点不是HDFS优点（） C大数据的分析挖掘是（），需要巨大的计算能力 D计算任务容错的关键问题不包括（） D下面哪点不是HDFS缺点（） 大数据体系结构（三） C大数据处理框架-Spark的优点不包括（） C\Spark的核心组件有几个部分（） B\大数据处理框架-Spark最大的集群来自（）
DHadoop的缺点不包括（） A\大数据处理框架-Spark诞生于（） 大数据分析与数据挖掘（一） B（）就是从大量的、不完全的、有噪声的、模糊的、随机的实际应用数据中，提取隐含在其中的、人们事先不知 数据分析主要作用不包括（） 功能设备创建或生成的数据被称为（） A用户评论文本数据以及客服系统的语音数据和评价文本数据，可以统称为（） A数据挖掘需要的人员不包括（） 大数据分析与数据挖掘（二） D用户属性分析不从下列哪方面进行分析（） C大数据的真正意义是（） C商业智能技术提供使企业迅速分析数据的技术和方法，不包括() D参与度分析的指标包括（） B\商业智能的概念在()年最早由加特纳集团（Gartner Group）提出大数据分析与数据挖掘（三）
大数据技术与应用
附件25： 高职电子信息大类大数据技术与应用赛项 技能竞赛规程、评分标准及选手须知 一、竞赛容 赛项名称：大数据技术与应用 赛项容：以大数据技术与应用为核心容，重点考察参赛选手在Hadoop平台环境下，对于大规模并行数据处理以及存计算技术的应用能力。具体包括： 1. 掌握Hadoop平台环境部署与基本配置，了解基于大数据计算平台的常见应用； 2．综合利用numpy、pandas、matplotlib、scikit 模块和MapReduce技术、分布式存储系统HDFS、分布式计算框架MapReduce/Yarn、数据仓库Hive、Python 等开发语言工具和技术，匹配和连接数据源，实现大数据的采集，提取、清洗、转换、分析、挖掘操作，产生分析结果，并且实现可视化呈现。 3．依据项目应用需求和分析结果，完成数据分析报告的编写。 二、竞赛方式 本赛项为团体赛，每支参赛队由3名参赛选手组成。 三、竞赛时量 竞赛时间4小时，竞赛连续进行。 四、名次确定办法 名次确定办法原则上按照竞赛总成绩从高分到低分排序确立选手名次。总成绩相同时，完成时间较短者名次列前；成绩和完成时间均相同时，操作过程较规者名次列前。 五、评分标准与评分细则 1．评分标准 本赛项总分为100分，采取分项计分制（表1）。
2．评分细则 竞赛成绩评定实行“裁判长合权负责制”，负责组织评分裁判进行成绩评定。评分裁判负责对参赛队伍（选手）的比赛作品、比赛表现按赛项评分标准进行评定。成绩评定根据竞赛考核目标、容对参赛队或选手在竞赛过程中的表现和最终成果做出评价。 本赛项的评分方法为现场评分和结果评分，现场评分为5分，由现场裁判根据参赛队的操作规以及综合表现情况进行评分；结果评分为95分，依据赛项评价标准，对参赛选手提交的竞赛成果进行评分。
大数据前沿技术及应用
大数据前沿技术及应用 大数据是一个正在发展中的概念。大数据之大，并不仅仅在于容量之大，更大的意义在于通过对海量数据的交换、整合和分析，发现新的知识，创造新的价值，带来…大知识?、…大科技?、…大利润?和…大发展?。”最早提出“大数据”时代到来的是全球知名咨询公司麦肯锡。麦肯锡全球研究院报告《大数据：创新、竞争和生产力的下一个前沿》则对“大数据”定义如下：大数据是指大小超出了传统数据库软件工具的抓取、存储、管理和分析能力的数据群。麦肯锡称：“数据，已经渗透到当今每一个行业和业务职能领域，成为重要的生产因素。人们对于海量数据的挖掘和运用，预示着新一波生产率增长和消费者盈余浪潮的到来。”可见，大数据就是指蕴涵着巨大价值的、可有效利用的、多样化的海量数据集。 大数据时代对人类的数据驾驭能力提出了新的挑战，也为人们获得更为深刻、全面的洞察能力提供了前所未有的空间。互联网时代的数据正在迅速膨胀，它决定着组织的未来发展，随着时间的推移，人们将越来越意识到数据对组织的重要性。对于企业组织来讲，大数据的价值体现在两个方面：分析使用和二次开发。对大数据进行分析能揭示隐藏其中的知识信息，对大数据的二次开发则是通过大数据创造出新产品和服务。例如，Facebook通过结合大量用户信息，定制出高度个性化的用户体验，并创造出一种新的广告模式。大数据这股汹涌浪潮正在兴起，将给各行各业的发展模式和决策带来前所未有的革新与挑战，教育领域同样不可避免，面临新的挑战和机遇。
大数据在教育领域中的主要应用 1. 革新教育理念和教育思维 随着大数据时代的来临，教育大数据深刻改变着教育理念、教育思维方式。新的时代，教育领域充满了大数据，诸如学生、教师的一言一行，学校里的一切事物，都可以转化为数据。当每个在校学生都能用计算机终端学习时，包括上课、读书、写笔记、做作业、发微博、进行实验、讨论问题、参加各种活动等，这些都将成为教育大数据的来源。大数据比起传统的数字具有深刻的含义和价值。例如，对于一张试卷、一次考试，考试得分为90分，它可以是简简单单的一个传统的数字，但如果换一个角度来分析，把它作为一个数据来看待，就可以得到其背后所隐含的许多充满想象力的数据信息：可以是每一大题的得分，每一小题的得分，每一题选择了什么选项，每一题花了多少时间，是否修改过选项，做题的顺序有没有跳跃，什么时候翻卷子，有没有时间进行检查，检查了哪些题目，修改了哪些题目，等等，这些信息远远比一个90分要有价值得多。不单是考试，课堂、课程、师生互动的各个环节都渗透了这些大数据。教育将不再是靠理念和经验来传承的社会科学，大数据时代的教育将步入实证时代，变成一门实实在在的基于数据的实证科学。大数据使得教育者的思维方式发生了深刻变化，传统的教育大多是教育主管部门和教育者通过教学经验的学习、总结和继承来展开的，但是有些经验是不具有科学性的，常识有时会影响人们的判断。大数据时代将可以通过对教育数据的分析，挖掘出教学、学习、评估等符合学生实际与教学实际的情况，这
2017公需科目《大数据前沿技术及应用》第八章答案.
2017年公需科目《大数据前沿技术及应用》 第八章：大数据发展趋势答案 1、大数据预测能够分析和挖掘出人们不知道或没有注意到的模式，确定判断某件事情必然发生。（3分） A.是 B.否正确选项：B 2、大数据的发展趋势中的智能化关键技术包括感知技术、自然语言技术、交互技术以及决策等。（3分） A.是 B.否正确选项：A 3、大数据分为“结构化数据“与”非结构化数据”。（3分）A.是B.否正确选项：A 4、2011年，IBM的“沃森”超级计算机在美国著名智力竞赛节目《危险边缘》上击败两名人类选手而夺冠。（3分） A.是 B.否正确选项：A 5、2012年7月国务院发布的《“十二五”国家战略性新兴产业发展规划》中明确提出支持海量数据存储、处理技术的研发和产业化。（3分） A.是 B.否正确选项：A 6、机器学习就是通过算法，使得机器能从大量历史数据中学习规律，从而对新的样本做智能识别或对未来做预测。（3分） A.是 B.否正确选项：A
7、由于大数据处理多样性的需求，目前出现了多种典型的计算模式，包括大数据查询分析计算、批处理计算、流式计算、图计算等。（3分）A.是B.否正确选项：A 8、大数据开发的根本目的是以数据分析为基础，帮助人们做出更明确的决策，优化企业和社会运转。（3分） A.是 B.否正确选项：A 9、人工智能够和人一样进行感知、认知、决策、执行的人工程序或系统。（3分） A.是 B.否正确选项：A 10、知识图谱是一种基于图的数据结构，由节点和边组成。（3分） A.是 B.否正确选项：A 11、大数据成熟催化了人工智能的进步，深度学习带来算法上的突破则带来了人工智能浪潮。（3分） A.是 B.否正确选项：A 12、当前，企业提供的大数据解决方案大多基因Hadoop开源项目。（3分） A.是 B.否正确选项：A 13、北京航空航天大学创办了国内第一个“大数据科学与应用”软件工程硕士专业。（3分） A.是 B.否正确选项：A 14、数据结构”是指不存储数据库之中的，包括电子邮件、文本文件、图像、视频等数据。（3分）
大数据技术与应用基础_教学大纲.doc
《大数据技术与应用基础》教学大纲 学时： 60 代码： 适用专业： 制定： 审核： 批准： 一、课程的地位、性质和任务 大数据技术的发展，已被列为国家重大发展战略。而在过去的几年里，无论是聚焦大数据发展 的《促进大数据发展行动纲要》，还是《“十三五”规划》中都深刻体现了政府对大数据产业和应用 发展的重视。目前国内大数据发展还处于加速期、转型期，数据与传统产业的融合还处于起步阶段，各 行业对大数据分析和挖掘的应用还不理想。但随着市场竞争的加剧，各行业对大数据技术研究的 热情越来越高，在未来几年，各领域的数据分析都将大规模应用。 本课程在注重大数据时代应用环境前提下，考虑大数据处理分析需求多样复杂的基本情况，从 初学者角度出发，以轻量级理论、丰富的实例对比性地介绍大数据常用计算模式的各种系统和工具。 考虑到当前大数据发展处于起步并逐步赶超先进的阶段，其应用领域丰富广泛，在教学过程中应注 重掌握大数据分析的实践操作。本课程通过丰富简单易上手的实例，让学生能够切实体会和掌握各 种类型工具的特点和应用。 二、课程教学基本要求 1.了解大数据的发展和基本概念，理解并掌握大数据的特征及主要技术层面。 2.掌握 Scrapy 环境的搭建，了解网络爬虫获取数据的过程，熟悉爬虫项目的创建。 3.深刻了解 hadoop 的基础理论，理解并掌握 Hadoop 单机及集群环境的部署方法。 4.掌握 HDFS 的基本概念和 HDFS 在 hadoop 中的作用，理解并识记 HDFS 的使用，了解HDFS的JAVA API 接口及数据流原理；让学生明白Map 过程与 Reduce过程这两个独立部分各自的原理及合作途径，知道如何独立编写满足自己需求的MapReduce程序。 5.理解 HBase 中涉及的基本概念，掌握 HBase 的简单应用；让学生了解数据仓库的基础概念，熟 悉 Hive 与 HDFS 、 MapReduce 直接的关心。 6. 熟悉 Spark 和 RDD 的基本概念，熟悉spark 接口的使用，解决实战时的步骤及思路。 7. 明白 Hadoop 和 Storm 之间的差别，掌握对Storm 的使用。理解 Apex 的工作过程并能简单应用。 8.了解 Druid 的基本概念、应用场景以及集群架构，掌握批量数据加载、流数据加载的操作。 了解 Flink的重要概念和基本架构，掌握Flink简单的使用实例。 9.理解Elasticsearch的基本架构，掌握Elasticsearch的一些入门操作。了解并基本掌握怎样利用所学的工具对目标实例进行数据分析。 三、课程的内容 1．大数据概述
2017年公需科目《大数据前沿技术及应用》参考答案(适用于华医网)
2017年公需科目《大数据前沿技 术及应用》参考答案（适用于华 医网） 2017年公需科目《大数据前沿技术及应用》参考答案 （适用于华医网） 大数据概述及基本概念（一） C以下哪个数据单位最大（） C大数据技术的战略意义是（） C信息技术是指有关信息的收集、 美国哈佛大学的研究小组给出了著名的资源三角形，不包括（）哪种不属于互联网上出现的海量信息（） 大数据概述及基本概念（二） B （）主要承担了搭建大数据平台上层建筑的任务。
B （）主要利用分布式数据库，或者分布式计算集群来对存储于其内 的海量数据进行普通的分析和分类汇总等。 B大数据技术的出现实现了巨大的社会价值，下列哪项不属于产生的社会价值（） C大数据平台的三个重要的技术部分不包括（） D下列哪项不属于商业大数据的类型（） 大数据概述及基本概念（三） D以下那个观点是错误的（） D企业大数据分析不包括（） D维度上的分析需求，主要需要三方面的数据分析技术，不包括（） A （）指的是数据本身所承载的信息内容 大数据体系结构（一） 物理资源实体的提供层包括（） D\SaaS模式的优点有（） 云计算的优势包含下面哪几个方面（） 提供资源的网络被称为（） （）是通过使计算分布在大量的分布式计算机上， 大数据体系结构（二）
D分布式数据库的特点不包括（） B下面哪点不是HDFS优点（） C大数据的分析挖掘是（），需要巨大的计算能力 D计算任务容错的关键问题不包括（） D下面哪点不是HDFS缺点（） 大数据体系结构（三） C大数据处理框架-Spark的优点不包括（） C'Spark的核心组件有几个部分（） 大数据处理框架-Spark最大的集群来自（） DHadoop的缺点不包括（） 大数据处理框架-Spark诞生于（） 大数据分析与数据挖掘（一） B （）就是从大量的、不完全的、有噪声的、模糊的、随机的实际应 用数据中，提取隐含在其中的、人们事先不知 数据分析主要作用不包括（） 功能设备创建或生成的数据被称为（） A用户评论文本数据以及客服系统的语音数据和评价文本数据，可以统称为（） A数据挖掘需要的人员不包括（）