文档库 最新最全的文档下载
当前位置:文档库 › 江苏省工业大数据应用示范区申报书

江苏省工业大数据应用示范区申报书

江苏省工业大数据应用示范区申报书
江苏省工业大数据应用示范区申报书

附录 A

(规范性附录)

江苏省工业大数据应用示范区申报书

江苏省工业大数据应用示范区申报书

申报单位名称:______________________(盖章)

地址及邮编:_____________________________

单位负责人:_____________________________

申报联系人:_____________________________

联系电话:_____________________________

填报日期:_____________________________

江苏省工业和信息化厅

2019年10月

填报说明

一、申报主体为县级以上高新技术产业开发区、经济技术开发区、工业园区和其他产业集聚区等。

二、请如实、准确、完整填写申报书,所填数据的统计截止日期为上年度12月31日或本年度6月30日。

三、申报书统一用A4纸打印,左侧装订,一式2份,同时提供电子文档。申报材料及电子文档请报送各设区市、省管县工业和信息化主管部门,由其对申报材料进行初审并出具推荐意见、加盖公章后报送报江苏工业和信息化厅。

大数据分析平台技术要求

大数据平台技术要求 1.技术构架需求 采用平台化策略,全面建立先进、安全、可靠、灵活、方便扩展、便于部署、操作简单、易于维护、互联互通、信息共享的软件。 技术构架的基本要求: ?采用多层体系结构,应用软件系统具有相对的独立性,不依赖任何特定的操作系统、特定的数据库系统、特定的中间件应用服务器和特定的硬 件环境,便于系统今后的在不同的系统平台、不同的硬件环境下安装、 部署、升级移植,保证系统具有一定的可伸缩性和可扩展性。 ?实现B(浏览器)/A(应用服务器)/D(数据库服务器)应用模式。 ?采用平台化和构件化技术,实现系统能够根据需要方便地进行扩展。2. 功能指标需求 2.1基础平台 本项目的基础平台包括:元数据管理平台、数据交换平台、应用支撑平台。按照SOA的体系架构,实现对我校数据资源中心的服务化、构件化、定制化管理。 2.1.1元数据管理平台 根据我校的业务需求,制定统一的技术元数据和业务元数据标准,覆盖多种来源统计数据采集、加工、清洗、加载、多维生成、分析利用、发布、归档等各个环节,建立相应的管理维护机制,梳理并加载各种元数据。 具体实施内容包括: ●根据业务特点,制定元数据标准,要满足元数据在口径、分类等方面的 历史变化。 ●支持对元数据的管理,包括:定义、添加、删除、查询和修改等操作,

支持对派生元数据的管理,如派生指标、代码重新组合等,对元数据管 理实行权限控制。 ●通过元数据,实现对各类业务数据的统一管理和利用,包括: ?基础数据管理:建立各类业务数据与元数据的映射关系,实现统一的 数据查询、处理、报表管理。 ?ETL:通过元数据获取ETL规则的描述信息,包括字段映射、数据转 换、数据转换、数据清洗、数据加载规则以及错误处理等。 ?数据仓库:利用元数据实现对数据仓库结构的描述,包括仓库模式、 视图、维、层次结构维度描述、多维查询的描述、立方体(CUBE)的 结构等。 ●元数据版本控制及追溯、操作日志管理。 2.1.2数据交换平台 结合元数据管理模块并完成二次开发,构建统一的数据交换平台。实现统计数据从一套表采集平台,通过数据抽取、清洗和转换等操作,最终加载到数据仓库中,完成整个数据交换过程的配置、管理和监控功能。 具体要求包括: ●支持多种数据格式的数据交换,如关系型数据库:MS-SQLServer、MYSQL、 Oracle、DB2等;文件格式:DBF、Excel、Txt、Cvs等。 ●支持数据交换规则的描述,包括字段映射、数据转换、数据转换、数据 清洗、数据加载规则以及错误处理等。 ●支持数据交换任务的发布与执行监控,如任务的执行计划制定、定期执 行、人工执行、结果反馈、异常监控。 ●支持增量抽取的处理方式,增量加载的处理方式; ●支持元数据的管理,能提供动态的影响分析,能与前端报表系统结合, 分析报表到业务系统的血缘分析关系; ●具有灵活的可编程性、模块化的设计能力,数据处理流程,客户自定义 脚本和函数等具备可重用性; ●支持断点续传及异常数据审核、回滚等交换机制。

大数据处理技术的总结与分析

数据分析处理需求分类 1 事务型处理 在我们实际生活中,事务型数据处理需求非常常见,例如:淘宝网站交易系统、12306网站火车票交易系统、超市POS系统等都属于事务型数据处理系统。这类系统数据处理特点包括以下几点: 一就是事务处理型操作都就是细粒度操作,每次事务处理涉及数据量都很小。 二就是计算相对简单,一般只有少数几步操作组成,比如修改某行得某列; 三就是事务型处理操作涉及数据得增、删、改、查,对事务完整性与数据一致性要求非常高。 四就是事务性操作都就是实时交互式操作,至少能在几秒内执行完成; 五就是基于以上特点,索引就是支撑事务型处理一个非常重要得技术. 在数据量与并发交易量不大情况下,一般依托单机版关系型数据库,例如ORACLE、MYSQL、SQLSERVER,再加数据复制(DataGurad、RMAN、MySQL数据复制等)等高可用措施即可满足业务需求。 在数据量与并发交易量增加情况下,一般可以采用ORALCERAC集群方式或者就是通过硬件升级(采用小型机、大型机等,如银行系统、运营商计费系统、证卷系统)来支撑. 事务型操作在淘宝、12306等互联网企业中,由于数据量大、访问并发量高,必然采用分布式技术来应对,这样就带来了分布式事务处理问题,而分布式事务处理很难做到高效,因此一般采用根据业务应用特点来开发专用得系统来解决本问题。

2数据统计分析 数据统计主要就是被各类企业通过分析自己得销售记录等企业日常得运营数据,以辅助企业管理层来进行运营决策。典型得使用场景有:周报表、月报表等固定时间提供给领导得各类统计报表;市场营销部门,通过各种维度组合进行统计分析,以制定相应得营销策略等. 数据统计分析特点包括以下几点: 一就是数据统计一般涉及大量数据得聚合运算,每次统计涉及数据量会比较大。二就是数据统计分析计算相对复杂,例如会涉及大量goupby、子查询、嵌套查询、窗口函数、聚合函数、排序等;有些复杂统计可能需要编写SQL脚本才能实现. 三就是数据统计分析实时性相对没有事务型操作要求高。但除固定报表外,目前越来越多得用户希望能做做到交互式实时统计; 传统得数据统计分析主要采用基于MPP并行数据库得数据仓库技术.主要采用维度模型,通过预计算等方法,把数据整理成适合统计分析得结构来实现高性能得数据统计分析,以支持可以通过下钻与上卷操作,实现各种维度组合以及各种粒度得统计分析。 另外目前在数据统计分析领域,为了满足交互式统计分析需求,基于内存计算得数据库仓库系统也成为一个发展趋势,例如SAP得HANA平台。 3 数据挖掘 数据挖掘主要就是根据商业目标,采用数据挖掘算法自动从海量数据中发现隐含在海量数据中得规律与知识。

基于大数据的能力开放平台解决实施方案

基于大数据的能力开放平台解决方案

————————————————————————————————作者:————————————————————————————————日期:

基于大数据的能力开放平台解决方案 1 摘要 关键字:大数据经分统一调度能力开放 运营商经过多年的系统建设和演进,内部系统间存在一些壁垒,通过在运营商的各个内部系统,如经分、VGOP、大数据平台、集团集市等中构建基于ESB 的能力开放平台,解决了系统间调度、封闭式开发、数据孤岛等系统问题,使得运营商营销能力和效率大大提高。 2 问题分析 2.1 背景分析 随着市场发展,传统的开发模式已经无法满足业务开发敏捷性的要求。2014 年以来,某省运营商经营分析需求量激增,开发时限要求缩短,业务迭代优化需求频繁,原有的“工单-开发”模式平均开发周期为4.5 天,支撑负荷已达到极限。能力开放使业务人员可以更便捷的接触和使用到数据,释放业务部门的开发能力。 由于历史原因,业务支撑系统存在经分、VGOP、大数据平台、集团集市等多套独立的运维系统,缺乏统一的运维管理,造成系统与系统之间的数据交付复杂,无法最大化 的利用系统资源。统一调度的出现能够充分整合现有调度系统,减少运维工作量,提升维护质量。 驱动力一:程序调度管理混乱,系统资源使用不充分

经分、大数据平台、VGOP、集团集市平台各自拥有独立的调度管理,平台内程序基本是串行执行,以经分日处理为例,每日运行时间为20 个小时,已经严重影响到了指标的汇总展示。 驱动力二:传统开发模式响应慢,不能满足敏捷开发需求 大数据平台已成为一个数据宝库,已有趋势表明,只依赖集成商与业务支撑人员的传统开发模式已经无法快速响应业务部门需求,提升数据价值。 驱动力三:大数据平台丰富了经分的数据源,业务部门急待数据开放 某省运营商建立了面向企业内部所有部门的大数据平台,大数据平台整合了接入B域、O 域、互联网域数据,近100 余个数据接口,共计820T 的数据逐步投入生产。大数据平台增强了传统经分的数据处理的能力,成为公司重要的资产,但是传统经分数据仓库的用户主要面向业支内部人员,限制了数据的使用人员范围和数据的使用频度,已经无法满足公司日益发展的业务需求,数据的开放迫在眉睫。 2.2 问题详解 基于背景情况分析,我们认为主要问题有三个: 1、缺乏统一的调度管理,维护效率低下 目前经分系统的日处理一般是使用SHELL 脚本开发的,按照串行调度的思路执行。进行能力开放后,目前的系统架构无法满足开发者提交的大量程序执行调度的运维需求。如果采用统一调度的设计思路则基于任务的数据表依赖进行任务解耦及调度,将大大简化调度配置工作和提高系统的

大数据分析平台的需求报告模板

大数据分析平台的需求报告 提供统一的数据导入工具,数据可视化工具、数据校验工具、数据导出工具和公共的数据查询接口服务管理工具是建立大数据分析平台的方向。 一、项目范围的界定 没有明确项目边界的项目是一个不可控的项目。基于大数据分析平台的需求,需要考虑的问题主要包括下面几个方面: (1)业务边界:有哪些业务系统的数据需要接入到大数据分析平台。 (2)数据边界:有哪些业务数据需要接入大数据分析平台,具体的包括哪些表,表结构如何,表间关系如何(区别于传统模式)。 (3)功能边界:提供哪些功能,不提供哪些功能,必须明确界定,该部分详见需求分析; 二、关键业务流程分析 业务流程主要考虑包括系统间数据交互的流程、传输模式和针对大数据平台本身涉及相关数据处理的流程两大部分。系统间的数据交互流程和模式,决定了大数据平台的架构和设计,因此必须进行专项分析。大数据平台本身需要考虑的问题包括以下几个方面: 2.1 历史数据导入流程 2.2 增量数据导入流程 2.3 数据完整性校验流程

2.4 数据批量导出流程 2.5 数据批量查询流程 三、功能性需求分析 3.1.历史数据导入3.1.1 XX系统数据3.1.1.1 数据清单 (3) 3.1.1.2 关联规则 (3) 3.1.1.3 界面 (3) 3.1.1.4 输入输出 (3) 3.1.1.5 处理逻辑 (3) 3.1.1.6 异常处理 (3) 3.2 增量数据导入3.3 数据校验 3.4 数据导出 3.5 数据查询 四、非功能性需求 4.1 性能

4.2 安全性 4.3 可用性 … 五、接口需求 5.1 数据查询接口 5.2 批量任务管理接口 5.3 数据导出接口 六、集群需求 大数据平台的技术特点,决定项目的实施必须考虑单独的开发环境和生产环境,否则在后续的项目实施过程中,必将面临测试不充分和性能无法测试的窘境,因此前期需求分析阶段,必须根据数据规模和性能需求,构建单独的开发环境和生产环境。 6.1开发环境 6.1.1 查询服务器 6.1.2 命名服务器 6.1.3 数据服务器 6.2 生产环境 6.2.1 查询服务器

大数据产业发展试点示范项目申报书

附件2: 2018年大数据产业发展试点示范项目 申报书 项目名称: 申报方向: 申报单位:(加盖单位公章) 推荐单位:(加盖单位公章) 申报日期:年月日 工业和信息化部编制

填表须知 一、申报单位应仔细阅读《关于组织开展2018年大数据产业发展试点示范项目申报工作的通知》的有关说明,如实、详细地填写每一部分内容。 二、除另有说明外,申报表中栏目不得空缺。申报书要求提供证明材料处,请在附件中进行补充,附件1为申报单位基本信息相关证明补充材料,附件2为申报示范项目相关证明材料。 三、申报主体所申报的项目需拥有自主知识产权,对提供参评的全部资料的真实性负责,并签署申报主体责任声明(见附件3)。 四、申报材料要求盖章处,须加盖公章,复印无效,申报材料需加盖骑缝章,并将证明材料作为附件一并交由推荐单位邮寄。 五、除表格一、二以外,其他填报格式要求:幅面编辑。 2.正文字体3号仿宋,单倍行距;一级标题3号黑体;二级标题3号楷体。

三、申报项目详细介绍 1.项目基本情况 (1)项目承担方资质与能力 (申报主体资质、资源整合共享能力、注册用户规模、技术基础、孵化能力、技术成果转化等。) (2)项目实施方案 (技术建设方案、服务推广及成果转化、保障措施、进度安排、预期目标、效益分析、风险分析、成长性分析等。)(3)项目负责人与项目团队实力 (项目负责人资质及工作经验、项目团队人员素质和类似项目经验等、团队人员参与省部级及以上科研项目情况。)(4)产学研用联合协作情况 (产学研用情况、协同创新能力。) (5)项目实施的创新性 (技术创新、模式创新及相关知识产权) (6)项目的可推广性 (示范意义及推广价值、推广可行性、推广范围。) 2.项目实施情况 (1)项目实施主体、服务对象及适用场景 (2)项目实施情况 (已开展工作情况,如申报多个示范项目领域,需分领域综合描述;目前存在哪些问题和难点,计划如何解决。) 3.下一步实施计划 (下一步建设的主要内容、进度安排、风险控制等。)

大数据可视化分析平台介绍

大数据可视化分析平台 一、背景与目标 基于邳州市电子政务建设的基础支撑环境,以基础信息资源库(人口库、法人库、宏观经济、地理库)为基础,建设融合业务展示系统,提供综合信息查询展示、信息简报呈现、数据分析、数据开放等资源服务应用。实现市府领导及相关委办的融合数据资源视角,实现数据信息资源融合服务与创新服务,通过系统达到及时了解本市发展的综合情况,及时掌握发展动态,为政策拟定提供依据。 充分运用云计算、大数据等信息技术,建设融合分析平台、展示平台,整合现有数据资源,结合政务大数据的分析能力与业务编排展示能力,以人口、法人、地理,人口与地理,法人与地理,实现基础展示与分析,融合公安、交通、工业、教育、旅游等重点行业的数据综合分析,为城市管理、产业升级、民生保障提供有效支撑。 二、政务大数据平台 1、数据采集和交换需求:通过对各个委办局的指定业务数据进行汇聚,将分散的数据进行物理集中和整合管理,为实现对数据的分析提供数据支撑。将为跨机构的各类业务系统之间的业务协同,提供统一和集中的数据交互共享服务。包括数据交换、共享和ETL 等功能。 2、海量数据存储管理需求:大数据平台从各个委办局的业务系统里抽取的数据量巨大,数据类型繁杂,数据需要持久化的存储和访问。不论是结构化数据、半结构化数据,还是非结构化数据,经过数据存储引擎进行建模后,持久化保存在存储系统上。存储系统要具备高可靠性、快速查询能力。 3、数据计算分析需求:包括海量数据的离线计算能力、高效即

席数据查询需求和低时延的实时计算能力。随着数据量的不断增加,需要数据平台具备线性扩展能力和强大的分析能力,支撑不断增长的数据量,满足未来政务各类业务工作的发展需要,确保业务系统的不间断且有效地工作。 4、数据关联集中需求:对集中存储在数据管理平台的数据,通过正确的技术手段将这些离散的数据进行数据关联,即:通过分析数据间的业务关系,建立关键数据之间的关联关系,将离散的数据串联起来形成能表达更多含义信息集合,以形成基础库、业务库、知识库等数据集。 5、应用开发需求:依靠集中数据集,快速开发创新应用,支撑实际分析业务需要。 6、大数据分析挖掘需求:通过对海量的政务业务大数据进行分析与挖掘,辅助政务决策,提供资源配置分析优化等辅助决策功能,促进民生的发展。

工程大数据分析平台

工程大数据分析平台 随着大数据时代来临、无人驾驶和车联网的快速发展,汽车研发部门需要处理的数据量激增、数据类型不断扩展。相关数据涵盖车内高频CAN 数据和车外ADAS 视频非结构化数据、位置地理空间数据、车辆运营数据、用户CRM 数据、WEB 数据、APP 数据、和MES 数据等。 在此背景下,整车厂研发部门关心的是:如何将企业内部的研发、实验、测试、生产数据,社会用户的用车数据,互联网第三方数据等结合起来,将异构数据和同构数据整合到一起,并在此基础上,实现业务系统、分析系统和服务系统的一体化;怎样利用深度的驾驶员行为感知、智能的车辆预防性维护、与实时的环境状态交互,通过大数据与机器学习技术,建立面向业务服务与产品持续优化的车联网智能分析;最终利用数据来为产品研发、生产、销售、售后提供精准的智能决策支撑。这些都是整车厂在大数据时代下亟待解决的问题。 针对这一需求,恒润科技探索出以EXCEEDDATA 大数据分析平台为核心的汽车工程大数据整体解决方案。借助EXCEEDDATA 大数据分析平台,企业可以集成、处理、分析、以及可视化海量级别的数据,可实现对原始数据的高效利用,并将原始数据转化成产品所需的智能,从而改进业务流程、实现智慧决策的产业升级。 产品介绍: ●先进的技术架构 EXCEEDDATA 采用分布式架构、包含集成处理(ETL)与分析挖掘两大产品功能体系,共支持超过20 多个企业常见传统数据库和大数据源系统,超过50 多个分析处理算法、以及超过丰富的可视化智能展现库。用户可以自主的、灵活的将各种来源的原始数据与分析处

理串联应用,建立科学的数据模型,得出预测结果并配以互动的可视化智能,快速高效的将大数据智能实现至业务应用中。 平台包括分布式大数据分析引擎、智能终端展示、以及API。大数据分析引擎为MPP 架构,建立在开源的Apache Hadoop 与Apache Spark 之上,可简易的scale-out 扩展。在分析引擎的基础上包含数据源库、数据转换匹配器、数据处理操作库、机器学习算法库、可视化图形库等子模块。智能终端展示为行业通用的B/S 架构,用户通过支持跨操作系统和浏览器的HTML5/JS 界面与API 来与平台互动。

大数据平台项目方案说明

大数据平台建设方案 (项目需求与技术方案) 一、项目背景 “十三五”期间,随着我国现代信息技术的蓬勃发展,信息化建设模式发生根本性转变,一场以云计算、大数据、物联网、移动应用等技术为核心的“新 IT”浪潮风起云涌,信息化应用进入一个“新常态”。***(某政府部门)为积极应对“互联网+”和大数据时代的机遇和挑战,适应全省经济社会发展与改革要求,大数据平台应运而生。 大数据平台整合省社会经济发展资源,打造集数据采集、数据处理、监测管理、预测预警、应急指挥、可视化平台于一体的大数据平台,以信息化提升数据化管理与服务能力,及时准确掌握社会经济发展情况,做到“用数据说话、用数据管理、用数据决策、用数据创新”,牢牢把握社会经济发展主动权和话语权。 二、建设目标 大数据平台是顺应目前信息化技术水平发展、服务政府职能改革的架构平台。它的主要目标是强化经济运行监测分析,实现企业信用社会化监督,建立规范化共建共享投资项目管理体系,推进政务数据共享和业务协同,为决策提供及时、准确、可靠的信息依据,提高政务工作的前瞻性和针对性,加大宏观调控力度,促进经济持续健康发

展。 1、制定统一信息资源管理规范,拓宽数据获取渠道,整合业务信息系统数据、企业单位数据和互联网抓取数据,构建汇聚式一体化数据库,为平台打下坚实稳固的数据基础。 2、梳理各相关系统数据资源的关联性,编制数据资源目录,建立信息资源交换管理标准体系,在业务可行性的基础上,实现数据信息共享,推进信息公开,建立跨部门跨领域经济形势分析制度。 3、在大数据分析监测基础上,为政府把握经济发展趋势、预见经济发展潜在问题、辅助经济决策提供基础支撑。 三、建设原则 大数据平台以信息资源整合为重点,以大数据应用为核心,坚持“统筹规划、分步实施,整合资源、协同共享,突出重点、注重实效,深化应用、创新驱动”的原则,全面提升信息化建设水平,促进全省经济持续健康发展。

大数据分析平台技术要求

大数据平台技术要求 1. 技术构架需求 采用平台化策略,全面建立先进、安全、可靠、灵活、方便扩展、便于部署、操作简单、易于维护、互联互通、信息共享的软件。 技术构架的基本要求: 采用多层体系结构,应用软件系统具有相对的独立性,不依赖任何特定的操作系统、特定的数据库系统、特定的中间件应用服务器和特定的硬 件环境,便于系统今后的在不同的系统平台、不同的硬件环境下安装、 部署、升级移植,保证系统具有一定的可伸缩性和可扩展性。 实现B(浏览器)/A(应用服务器)/D(数据库服务器)应用模式。 采用平台化和构件化技术,实现系统能够根据需要方便地进行扩展。2. 功能指标需求 2.1基础平台 本项目的基础平台包括:元数据管理平台、数据交换平台、应用支撑平台。按照SOA的体系架构,实现对我校数据资源中心的服务化、构件化、定制化管理。 2.1.1元数据管理平台 根据我校的业务需求,制定统一的技术元数据和业务元数据标准,覆盖多种来源统计数据采集、加工、清洗、加载、多维生成、分析利用、发布、归档等各个环节,建立相应的管理维护机制,梳理并加载各种元数据。 具体实施内容包括: ●根据业务特点,制定元数据标准,要满足元数据在口径、分类等方面的 历史变化。 ●支持对元数据的管理,包括:定义、添加、删除、查询和修改等操作,

支持对派生元数据的管理,如派生指标、代码重新组合等,对元数据管 理实行权限控制。 ●通过元数据,实现对各类业务数据的统一管理和利用,包括: ?基础数据管理:建立各类业务数据与元数据的映射关系,实现统一 的数据查询、处理、报表管理。 ?ETL:通过元数据获取ETL规则的描述信息,包括字段映射、数据转 换、数据转换、数据清洗、数据加载规则以及错误处理等。 ?数据仓库:利用元数据实现对数据仓库结构的描述,包括仓库模式、 视图、维、层次结构维度描述、多维查询的描述、立方体(CUBE) 的结构等。 ●元数据版本控制及追溯、操作日志管理。 2.1.2数据交换平台 结合元数据管理模块并完成二次开发,构建统一的数据交换平台。实现统计数据从一套表采集平台,通过数据抽取、清洗和转换等操作,最终加载到数据仓库中,完成整个数据交换过程的配置、管理和监控功能。 具体要求包括: ●支持多种数据格式的数据交换,如关系型数据库:MS-SQLServer、MYSQL、 Oracle、DB2等;文件格式:DBF、Excel、Txt、Cvs等。 ●支持数据交换规则的描述,包括字段映射、数据转换、数据转换、数据 清洗、数据加载规则以及错误处理等。 ●支持数据交换任务的发布与执行监控,如任务的执行计划制定、定期执 行、人工执行、结果反馈、异常监控。 ●支持增量抽取的处理方式,增量加载的处理方式; ●支持元数据的管理,能提供动态的影响分析,能与前端报表系统结合, 分析报表到业务系统的血缘分析关系; ●具有灵活的可编程性、模块化的设计能力,数据处理流程,客户自定义 脚本和函数等具备可重用性; ●支持断点续传及异常数据审核、回滚等交换机制。

智慧社区大数据分析平台项目建设方案

智慧社区大数据平台建设方案

目录 1.智慧城市介绍 (8) 1.1智慧城市建设背景 (8) 1.2建设目标 (8) 1.3参考资料 (9) 2.项目需求分析 (11) 第2章 (11) 2.1智慧城市服务信息化业务需求分析 (11) 2.2智慧城市建设要求分析 (13) 2.2.1功能需求分析 (14) 2.2.2性能需求分析 (20) 2.2.3项目建设难点和对策分析 (21) 3.项目总体架构设计 (22) 第3章 (22) 3.1总体设计思路 (22) 3.1.1开放平台及应用整合 (22) 3.1.2安全与隐私 (23) 3.1.3可控的技术体系 (23) 3.1.4整合资源提供便民服务 (23) 3.1.5面向运营的推广思路 (24) 3.2建设原则 (24) 3.3总体架构 (26) 3.3.1软硬件基础设施 (26) 3.3.2数据资源 (27) 3.3.3应用支撑 (27) 3.3.4社区业务开发运行平台 (28) 3.3.5业务应用 (29) 3.3.6系统门户(访问渠道) (30) 3.3.7支撑体系(信息安全与标准规范体系) (30) 3.4技术架构 (30) 3.4.1基础服务 (31) 3.4.2平台服务 (31) 3.4.3数据服务 (32) 3.4.4访问服务 (32) 3.4.5应用开发框架 (32) 3.4.6安全体系 (33) 3.5信息资源架构 (35) 3.5.1建设原则 (35) 3.5.2架构体系 (35) 3.6集成架构 (64) 3.6.1应用集成平台 (65) 3.6.2系统集成整合 (69) 3.7网络拓扑结构 (73) 3.8运维体系 (73) 4.社区人房关系验证和接口系统 (75) 第4章 (75) 4.1系统概述 (75) 4.2系统架构 (75)

大数据处理平台构架设计说明书

大数据处理平台及可视化架构设计说明书 版本:1.0 变更记录

目录 1 1. 文档介绍 (3) 1.1文档目的 (3) 1.2文档范围 (3) 1.3读者对象 (3) 1.4参考文献 (3) 1.5术语与缩写解释 (3) 2系统概述 (4) 3设计约束 (5) 4设计策略 (6) 5系统总体结构 (7) 5.1大数据集成分析平台系统架构设计 (7) 5.2可视化平台系统架构设计 (11) 6其它 (14) 6.1数据库设计 (14) 6.2系统管理 (14) 6.3日志管理 (14)

1 1. 文档介绍 1.1 文档目的 设计大数据集成分析平台,主要功能是多种数据库及文件数据;访问;采集;解析,清洗,ETL,同时可以编写模型支持后台统计分析算法。 设计数据可视化平台,应用于大数据的可视化和互动操作。 为此,根据“先进实用、稳定可靠”的原则设计本大数据处理平台及可视化平台。 1.2 文档范围 大数据的处理,包括ETL、分析、可视化、使用。 1.3 读者对象 管理人员、开发人员 1.4 参考文献 1.5 术语与缩写解释

2 系统概述 大数据集成分析平台,分为9个层次,主要功能是对多种数据库及网页等数据进行访采集、解析,清洗,整合、ETL,同时编写模型支持后台统计分析算法,提供可信的数据。 设计数据可视化平台 ,分为3个层次,在大数据集成分析平台的基础上实现大实现数据的可视化和互动操作。

3 设计约束 1.系统必须遵循国家软件开发的标准。 2.系统用java开发,采用开源的中间件。 3.系统必须稳定可靠,性能高,满足每天千万次的访问。 4.保证数据的成功抽取、转换、分析,实现高可信和高可用。

大数据平台项目建议书

大数据平台项目建议书 篇一:“十三五”规划重点-大数据项目建议书 “十三五”规划重点-大数据项目建议 书(立项报告) 编制单位:北京智博睿投资咨询有限公司 定义及作用 定义:项目建议书又称立项报告,是由项目投资方向其主管部门上报的文件,从宏观上论述项目设立的必要性和可能性,建议书容包括项目的战略、市场和销售、规模、选址、物料供应、工艺、组织和定员、投资、效益、风险等,把项目投资的设想变为概略的投资建议。目前广泛应用于项目的立项审批工作中。 项目建议书通常是在项目早期使用,由于项目条件还不够成熟,仅有规划意见书,对项目的具体建设方案还不明晰,市政、环保、交通等专业咨询意见尚未办理。项目建议书主要论证项目建设的必要性,建设方案和投资估算也比较粗,投资误差为±30%左右。对于大中型项目,有的工艺技术复杂,涉及面广,协调量大的项目,还要编制预可行性研究报告,作为项目建议书的主要附件之一。 作用:项目建议书是项目发展周期的初始阶段,是选择项目的依据,也是可行性研究的依据。 项目建议书是项目发展周期的初始阶段基本情况的汇

总,可以减少项目选择的盲目性,是选择和审批项目的依据,也是制作可行性研究报告的依据。涉及利用外资的项目,只有在项目建议书批准后,才可以开展对外工作。 项目建议书批准后,可以着手成立相关项目法人。民营企业(私人投资)项目一般不再需要编写项目建议书,只有在土地一级开发等少数领域,由于行政审批机关习惯沿袭老的审批模式,有时还要求项目方编写项目建议书。外资项目目前主要采用核准方式,项目 方委托智博睿等有资格的机构编写项目建议书即可。 项目建议书和可行性研究报告的区别 项目建议书和可行性研究是项目前期两个不同的阶段,其容、深度、作用都是不一样的。 项目建议书往往是在项目早期,由于项目条件还不够成熟,仅有规划意见书,对项目的具体建设方案还不明晰,市政、环保、交通等专业咨询意见尚未办理。项目建议书主要论证项目建设的必要性,建设方案和投资估算也比较粗,投资误差为±30%左右。 一般地说,项目建议书的批复是可行性研究的依据之一。此外,在可行性研究阶段,项目至少有方案设计,市政、交通和环境等专业咨询意见也必不可少了。对于房地产项目,一般还要有详规或修建性详规的批复。此阶段投资估算要求较细,原则上误差在±10%;相应地,融资方案也要详细,

云计算和大数据中心项目可行性研究报告申请报告编写范文

云计算和大数据中心项目可行性研究报告 中咨国联出品

目录 第一章总论 (9) 1.1项目概要 (9) 1.1.1项目名称 (9) 1.1.2项目建设单位 (9) 1.1.3项目建设性质 (9) 1.1.4项目建设地点 (9) 1.1.5项目负责人 (9) 1.1.6项目投资规模 (10) 1.1.7项目建设规模 (10) 1.1.8项目资金来源 (12) 1.1.9项目建设期限 (12) 1.2项目建设单位介绍 (12) 1.3编制依据 (12) 1.4编制原则 (13) 1.5研究范围 (14) 1.6主要经济技术指标 (14) 1.7综合评价 (16) 第二章项目背景及必要性可行性分析 (18) 2.1项目提出背景 (18) 2.2本次建设项目发起缘由 (20) 2.3项目建设必要性分析 (20) 2.3.1促进我国云计算和大数据中心产业快速发展的需要 (21) 2.3.2加快当地高新技术产业发展的重要举措 (21) 2.3.3满足我国的工业发展需求的需要 (22) 2.3.4符合现行产业政策及清洁生产要求 (22) 2.3.5提升企业竞争力水平,有助于企业长远战略发展的需要 (22) 2.3.6增加就业带动相关产业链发展的需要 (23) 2.3.7促进项目建设地经济发展进程的的需要 (23) 2.4项目可行性分析 (24) 2.4.1政策可行性 (24) 2.4.2市场可行性 (24) 2.4.3技术可行性 (24) 2.4.4管理可行性 (25) 2.4.5财务可行性 (25) 2.5云计算和大数据中心项目发展概况 (25) 2.5.1已进行的调查研究项目及其成果 (26) 2.5.2试验试制工作情况 (26) 2.5.3厂址初勘和初步测量工作情况 (26)

大数据分析系统项目方案

大数据分析系统 方案

目录 第1章项目概述 (5) 1.1项目背景 (5) 1.2项目必要性 (5) 1.3建设目标 (6) 第2章需求分析 (8) 2.1功能及性能需求 (8) 2.2系统集成需求 (9) 2.3运行环境 (10) 2.4安全需求 (10) 第3章总体设计 (12) 3.1总体设计原则 (12) 3.2总体目标 (13) 3.3系统总体结构 (13) 3.4系统逻辑结构 (15) 第4章详细设计方案 (16) 4.1信息资源规划和数据库设计 (16) 4.1.1数据模型概述 (16) 4.1.2数据建模方法论 (17) 4.1.3数据建模基本原则 (18) 4.1.4数据库架构设计 (19) 4.2数据应用支撑系统设计 (21) 4.2.1大数据平台关键技术 (21) 4.2.2云平台数据共享功能 (26) 4.3数据服务层计 (33) 4.3.1模型的应用 (33) 4.3.2平台基础应用 (33) 4.4数据处理和存储系统设计 (34) 4.4.1大数据处理核心技术 (35) 4.4.2数据存储采用MPP与hadoop融合架构 (35) 4.5网络系统设计 (35) 4.6安全系统设计 (36) 4.6.1系统安全满足情况 (36) 4.6.2系统安全配置管理功能 (37) 4.6.3系统无安全漏洞保障 (40) 4.6.4软件自身安全 (43) 4.6.5性能和可靠性 (44) 4.7运行维护系统设计 (46)

4.7.2网络设备管理 (46) 4.7.3进程管理 (46) 4.7.4服务管理 (46) 4.7.5数据库管理 (46) 4.7.6中间管理 (46) 4.7.7集群管理 (47) 4.7.8故障管理 (47) 4.7.9性能管理 (47) 4.7.10配置文件管理 (47) 4.7.11SYSLOG管理 (47) 4.8其他系统设计 (47) 4.9系统配置及软硬件选型原则 (48) 4.9.1软硬件部署 (48) 4.9.2数据要求 (48) 4.9.3技术要求 (49) 4.10系统软硬件物理部署方案 (49) 第5章项目建设与运行管理 (51) 5.1项目领导机构 (51) 5.2项目管理机构 (51) 5.3项目承建机构 (53) 5.4运行维护机构 (53) 5.5相关管理制度 (54) 5.6项目测试 (55) 5.6.1单元测试 (55) 5.6.2集成测试 (55) 5.6.3系统测试 (56) 5.6.4性能测试 (56) 5.6.5验收测试 (57) 5.6.6安装测试 (57) 5.7安全性测试 (58) 5.7.1功能验证 (58) 5.7.2漏洞扫描 (58) 5.7.3模拟攻击实验 (58) 5.8项目验收 (60) 5.8.1项目验收要求 (60) 5.8.2项目验收的目的和原则 (61) 5.8.3项目验收的组织和实施 (61) 5.8.4项目验收的步骤和程序 (61) 5.8.5项目验收的测试方案 (61) 5.8.6项目验收的文档清单 (61) 第6章项目培训计划 (62) 6.1培训对象和培训目标 (62)

最新石油行业大数据分析平台方案

石油行业大数据分析 平 台 方 案

目录 一数据管理的现状 (1) 二石油行业大数据分析的概述 (2) (一)石油行业大数据分析概念 (2) (二)石油行业大数据分析目标 (3) 三石油行业大数据分析体系 (3) 四石油行业大数据分析核心领域 (4) (一)数据模型 (4) (二)数据生命周期 (5) (三)数据标准 (6) (四)主数据 (8) (五)数据质量 (9) (六)数据服务............................................................................................ 1 1 (七)数据安全............................................................................................ 1 2 五石油行业大数据分析保障机制 (13) (一)制度章程............................................................................................ 1 3 (1) 规章制度............................................................................................ 1 3 (2) 管控办法............................................................................................ 1 3 (3) 考核机制............................................................................................ 1 3 (二)石油行业大数据分析组织....................................................................... 1 5

国内哪些做大数据决策分析平台或公司比较有优势

国内哪些做大数据决策分析平台或公司比较有优势? 大数据类的公司1、大数据决策平台,帆软。帆软是商业智能和数据分析平台提供商,从报表工具到商业智能BI,有十多年的数据应用的底子,在这个领域很成熟,但是很低调。像帆软的FineBI,可以部署自带的FineIndex(类cube,数据仓库),有数据缓存机制,可实现定量更新,定时更新,减少了数据仓库的建设维护。还有FineDirect(直连)可直接连接数据仓库或数据库,主要针对Hadoop一类的大数据平台和实时数据分析的需求。2、数据库,大数据平台类,星环,做Hadoop生态系列的大数据底层平台公司。Hadoop 是开源的,星环主要做的是把Hadoop不稳定的部分优化,功能细化,为企业提供Hadoop大数据引擎及数据库工具。 3、云计算,云端大数据类,阿里巴巴,明星产品-阿里云,与亚马逊AWS抗衡,做公有云、私有云、混合云。实力不差,符合阿里巴巴的气质,很有野心。 4、大数据存储硬件类,浪潮,很老牌的IT公司,国资委控股,研究大数据方面的存储,在国内比较领先。BI Hadoop的案例Hadoop是个很流行的分布式计算解决方案,是Apache的一个开源项目名称,核心部分包括HDFS及MapReduce。其中,HDFS 是分布式文件系统,MapReduce是分布式计算引擎。时至今日,Hadoop在技术上已经得到验证、认可甚至到了成熟

期,同时也衍生出了一个庞大的生态圈,比较知名的包括HBase、Hive、Spark等。HBase是基于HDFS的分布式列式数据库,HIVE是一个基于HBase数据仓库系统。Impala 为存储在HDFS和HBase中的数据提供了实时SQL查询功能,基于HIVE服务,并可共享HIVE的元数据。Spark是一个类似MapReduce的并行计算框架,也提供了类似的HIVE的Spark SQL查询接口,Hive是基于hadoop的数据分析工具。很多企业比如银行流水作业很多,数据都是实时更新且数据量很大。会采用hadoop作为底层数据库,借由中间商处理底层数据,然后通过BI系统去连接这些中间数据处理厂商的中间表,接入处理数据,尤其以星环、华为这类hadoop大数据平台商居多,使用也较为广泛。以星环大数据帆软大数据BI工具FineBI的结合为例。由于星环也是处理hadoop下的hive数据库,其本质都是差不多的,可以使用Hive提供的jdbc驱动,这个驱动同样可以让FineBI连接星环的数据库并进行一些类关系型数据库的sql语句查询等操作。将这些驱动拷贝到BI工程下面,然后重启BI服务器。重启后可以建立与星环数据库的数据连接,最后通过连接进行数据查询。关于FineBI的FineIndex和FineDirect功能hadoop是底层,hive是数据库,上述案例采用的是FineIndex (cube连)连接,用的是hiveserver的方式进行数据连接的;数据连接成功之后,将hive数据库中的表添加到业务包

《大数据分析平台技术要求》

大数据分析平台技术要求 1.技术构架需求 采用平台化策略,全面建立先进、安全、可靠、灵活、方便扩展、便于部署、操作简单、易于维护、互联互通、信息共享的软件。 技术构架的基本要求: ?采用多层体系结构,应用软件系统具有相对的独立性,不依赖任何特定的操作系统、特定的数据库系统、特定的中间件应用服务器和特定的硬 件环境,便于系统今后的在不同的系统平台、不同的硬件环境下安装、 部署、升级移植,保证系统具有一定的可伸缩性和可扩展性。 ?实现B(浏览器)/A(应用服务器)/D(数据库服务器)应用模式。 ?采用平台化和构件化技术,实现系统能够根据需要方便地进行扩展。 ?

2. 功能指标需求 2.1基础平台 本项目的基础平台包括:元数据管理平台、数据交换平台、应用支撑平台。按照SOA的体系架构,实现对XX数据资源中心的服务化、构件化、定制化管理。 2.1.1元数据管理平台 根据XX的业务需求,制定统一的技术元数据和业务元数据标准,覆盖多种来源统计数据采集、加工、清洗、加载、多维生成、分析利用、发布、归档等各个环节,建立相应的管理维护机制,梳理并加载各种元数据。 具体实施内容包括: ●根据业务特点,制定元数据标准,要满足元数据在口径、分类等方面的 历史变化。 ●支持对元数据的管理,包括:定义、添加、删除、查询和修改等操作, 支持对派生元数据的管理,如派生指标、代码重新组合等,对元数据管 理实行权限控制。 ●通过元数据,实现对各类业务数据的统一管理和利用,包括: ?基础数据管理:建立各类业务数据与元数据的映射关系,实现统一 的数据查询、处理、报表管理。 ?ETL:通过元数据获取ETL规则的描述信息,包括字段映射、数据转 换、数据转换、数据清洗、数据加载规则以及错误处理等。

1.2017年大数据应用示范项目申报书_20180805153218

附件1 2017年大数据应用示范项目申报书 申报单位(盖章): 所在地区: 项目名称: 申报日期:年月日 广东省经济和信息化委制 二O一七年

填表须知 一、申报单位应仔细阅读《大数据应用示范项目申报书》的有关说明,如实、详细地填写每一部分内容。 二、单位名称应填写全称。 三、表中选取项目请在“□”中划“√”。 四、申报材料中要求签章处,须加盖公章,复印无效。申报材料需加盖骑缝章。 五、除另有说明外,申报表中栏目不得空缺。 六、申报单位应按广东省经济和信息化委统一制作的格式填写电子版,并装订成册。 七、电子版材料的内容与格式应与纸质材料一致,如不一致以纸质材料为准。

第一部分:申报单位申请表 申报单位基本情况表 企业名称(提供企(事)业法人营业执照复印件)法人代表组织机构代码 成立时间注册资金(万元) 注册地址邮政编码 单位性质□国有□民营□三资 □其他 是否上市企业 □否 □是(上市时间:; 地点:) 员工总数(人)研发人员数量 (人) 2016年主营业务收入(万元)(提供证明材料) 2016年利润增长 率(%) (提供证明材料) 企业申报联系人联系电话传真电子邮箱 相关荣誉(提供证明材料)高新技术企业□国家级/□省级授予年份:年企业技术中心□国家级/□省级授予年份:年重点实验室□国家级/□省级授予年份:年(其他省级以上荣誉自行添加) 研发能力 (提供证明材料) (获得的国际、国家、省级的专利、标准、知识产权等) 申报单位大数据能力 2016年大数据业务收入(万元)从事大数据业务研发、技术人员 (人) 大数据技术情况 大数据基础设施 情况 已开展 应用的大数据名称 提供服 务环节 □采集□存储□整理□分析 □发掘□展现□应用□服务 □其它

基于工业互联网的大数据分析平台

基于工业互联网的大数据分析平台钢结构制造全过程成本分析与工艺优化 引言:中建钢构广东有限公司是国家高新技术企业,是中国最大的钢结构产业集团——中建钢构有限公司的隶属子公司,年加工钢结构能力20 万吨,是国内制造特级的大型钢结构企业,是国内首批取得国内外双认证(欧标、美标)的钢结构企业。中建钢构具有行业领先的建筑信息化、智能化产品,自主研发了国际领先的钢结构全生命周期管理平台,开发了ERP、设备能像管理系统、库存管理系统等信息系统,搭建了基于工业互联网的大数据分析管理平台。同时,公司正实施建设全球首条钢结构智能制造生产线,实现涵盖切割、分拣、搬运、焊接、仓储、物流、信息化的智能化生产。该产线获批成为2017 年国家工信部智能制造新模式应用项目,并被科技部立项作为国家“十三五”重点课题。中建钢构广东有限公司率先践行“中国制造2025”,成为国内装配式建筑领域首个智能化工厂,并获得2018 年广东省工程技术研发中心、2018 年广东省两化融合试点企业;2018 年广东省级企业技术中心;2017 年广东省智能制造试点示范项目;2017 年广东省制造业与互联网融合试点示范。

目录 案例 1 (1) 一、项目概况 (3) 1.项目背景 (3) 2.项目简介 (3) 3.项目目标 (4) 二、项目实施概况 (5) 1. 项目总体架构和主要内容 (5) 1)总体功能架构 (5) 2)建设内容详细介绍 (5) 三、下一步实施计划 (18) 1.平台覆盖范围扩大与共享应用细化 (18) 2.项目经验总结与成果转化 (19) 四、项目创新点和实施效果 (19) 1.项目先进性及创新点 (19) 2.实施效果 (20)

相关文档
相关文档 最新文档