二、HDFS文件操作流程
reading:
writing:
三、HDFS自带的小文件存储解决方案
对于小文件问题,hadoop自身提供了三种解决方案:Hadoop Archive、 Sequence File 和CombineFileInputFormat
(1) Hadoop Archive
归档为bar.har文件,该文件的内部结构为:
创建存档文件的问题:
1、存档文件的源文件目录以及源文件都不会自动删除需要手动删除
2、存档的过程实际是一个mapreduce过程,所以需要需要hadoop的mapreduce的支持
3、存档文件本身不支持压缩
4、存档文件一旦创建便不可修改,要想从中删除或者增加文件,必须重新建立存档文件
5、创建存档文件会创建原始文件的副本,所以至少需要有与存档文件容量相同的磁盘空间(2) Sequence File
sequence file由一系列的二进制的对组成,其中key为小文件的名字,value的file content。
创建sequence file的过程可以使用mapreduce工作方式完成
对于index,需要改进查找算法
对小文件的存取都比较自由,也不限制用户和文件的多少,但是该方法不能使用append方法,所以适合一次性写入大量小文件的场景
(3) CombineFileInputFormat
CombineFileInputFormat是一种新的inputformat,用于将多个文件合并成一个单独的split,另外,它会考虑数据的存储位置。
该方案版本比较老,网上资料甚少,从资料来看应该没有第二种方案好。
四、WebGIS解决方案概述
在地理信息系统中,为了方便传输通常将数据切分为KB大小的文件存储在分布式文件系统中,论文结合WebGIS数据的相关特征,将相邻地理位置的小 文件合并成一个大的文件,并为这些文件构建索引。论文中将小于16MB的文件当做小文件进行合并处理,将其合并成64MB的block并构建索引。
从以上索引结构和文件存储方式可以看出,index是一般的定长hash索引,并且采用的是存储全局index文件的方式
read的过程是将小文件append到下文件后边,然后更新索引的过程
delete文件的过程采用lazy模式,更改的是FVFlag,在空间重新分配的过程中,才会根据该flag删除文件。
五、BlueSky解决方案概述
BlueSky是中国电子教学共享系统,主要存放的教学所用的ppt文件和视频文件,存放的载体为HDFS分布式存储系统。在用户上传PPT文件的 同时,系统还会存储一些文件的快照,作为用户请求ppt时可以先看到这些快照,以决定是否继续浏览,用户对文件的请求具有很强的关联性,当用户浏览ppt 时,其他相关的ppt和文件也会在短时间内被访问,因而文件的访问具有相关性和本地性。
paper主要提出了两个基本观点:
(1) 将属于同一课件的小文件合并成一个大文件,从而减轻namenode的压力,提高小文件的存储
效率
(2) 提出了一种两级预取机制以提高小文件的读取效率,(索引文件预取和数据文件预取)索引文件预取是指当用户访问某个文件时,该文件 所在的block对应的索引文件被加载到内存中,这样,用户访问这些文件时不必再与namenode交互了。数据文件预取是指用户访问某个文件时,将该文 件所在课件中的所有文件加载到内存中,这样,如果用户继续访问其他文件,速度会明显提高。
BlueSky上传文件的过程:
BlueSky阅览文件的过程:
文件合并:
文件合并过程如果合并之后文件的大小小于block64MB的大小则直接存放到一个block中。(合并之后的文件包括local index文件)
如果合并之后的文件大小大于64MB有两种方式split这个大文件:
1、 local index文件、ppt文件、standresolution picture series存放在一个block 中,剩下的picture series存在在其他的block中。
2、 在相邻block的连接处填充空白文件,具体过程:
文件映射:
文件的命名方式,分离的预取图片有其自身的命名方式,具体见paper。文件映射过程中,除了block中的局部索引文件之外,还有一个全局映像文 件。该文件存放的内容为
根据全局mapping table 就可以根据merged file name 和 block Id到namenode上得到datanode的信息,然后到根据到具体的机器上找到相应的block获取到localindex file,根据original file name从local index file中查到从而定位到data。根据预取策略,在此过程中也会预取到local index file 和相关的file
六、facebookHayStack解决方案概述
haystack是一个不同于HDFS的分布式系统,如果想在HDFS的基础上构建小文件存储系统,个人认为可以参考借鉴其索引结构的设计。
1、 directory 中有logical volume id<->physicalvolume id。根据可以通过directory拼出
来http:////id>/ 。 因此在directory端存在着映射以及映射
2、 根据url到store端之后,可以根据logicalvolume id获得相应的physical volume的位置,然后physical中存在super block,根据映射可以得到photo数据
七、TFS解决方案概述
https://www.wendangku.net/doc/a78781062.html,/p/tfs/src/
TFS(Taobao !FileSystem)是一个高可扩展、高可用、高性能、面向互联网服务的分布式文件系统,主
要针对海量的非结构化数据,它构筑在普通的Linux机器 集群上,可为外部提供高可靠和高并发的存储访问。TFS为淘宝提供海量小文件存储,通常文件大小不超过1M,满足了淘宝对小文件存储的需求,被广泛地应用 在淘宝各项应用中。它采用了HA架构和平滑扩容,保证了整个文件系统的可用性和扩展性。同时扁平化的数据组织结构,可将文件名映射到文件的物理地址,简化 了文件的访问流程,一定程度上为TFS
提供了良好的读写性能。
TFS的块大小可以通过配置项来决定,通常使用的块大小为64M。TFS的设计目标是海量小文件的存储,所
以每个块中会存储许多不同的小文 件。!DataServer进程会给Block中的每个文件分配一个ID(File ID,该ID在每个Block中唯一),并将每个文件在Block中的信息存放在和Block对应的Index文件中。这个Index 文件一般都会全部 load在内存,除非出现!DataServer服务器内存和集群中所存放文件平均大小不匹配的情况。
TFS中之所以可以使用namenode存放元数据信息的一个原因在于不像HDFS的元数据需要存放,filename与block id的映射以及block id与datanode的映射。在TFS中没有file的概念,只有block 的映射信息。所有的小文件被拼接成block。所以namenode中只需要存放的映射以及的映射。这样一来元数据信息就会减少很多,从而解决HDFS的namenode的瓶颈问题。
在TFS中,将大量的小文件(实际用户文件)合并成为一个大文件,这个大文件称为块(Block)。TFS以Block 的方式组织文件的存储。每一 个Block在整个集群内拥有唯一的编号,这个编号是由NameServer进行分配的,而DataServer上实际存储了该Block。 在!NameServer节点中存储了所有的Block的信息,一个Block 存储于多个!DataServer中以保证数据的冗余。对于数据读写请求, 均先由!NameServer选择合适
的!DataServer节点返回给客户端,再在对应的!DataServer节点上进行数据操 作。!NameServer需要维护Block信息列表,以及Block与!DataServer之间的映射关系,其存储的元数据结构如下:
分享到
一键分享QQ空间新浪微博百度云收藏
人人网腾讯微博
百度相册开心网腾讯朋友百度贴吧豆瓣网搜狐微博百度新首页QQ好友和讯微博
更多...
百度分享
八、一种提高云存储小文件效率的解决方案
https://www.wendangku.net/doc/a78781062.html,/show.aspx?&id=8105&cid=30
(美国西北太平洋国家实验室2007年的一份研究报告表明,他们系统中有1 200万个文件,其中94%的文件小于64 MB,58%的小于64 kB。在一些具体的科研计算环境中,也存在大量的小文件,例如,在某些生物学计算中可能会产生3 000万个文件,而其平均大小只有190 kB。)
系统为每个用户建立了3种队列:
序列文件队列(SequenceFile queue,SFQ),
序列文件操作队列(SequenceFile operation queue,SFOQ),
备用队列(Backup queue,BQ)。
其中,SFQ用于小文件的合并,SFOQ用于对合并后小文件的操作,BQ用于操作的小文件数超过SFQ或SFOQ长度的情况。
相关资讯 — 更多
大象的崛起!Hadoop七年发展风雨录
Hadoop不是万能的
大众点评的大数据实践
8个值得关注的SQL-on-Hadoop框架
RedHat开源其Hadoop存储系统
从数据仓库系统对比看Hive发展前景
分布式计算平台 - Hadoop 发布了1.0.0版
值得尝试的10款出色NoSQL数据库
Hadoop工程师成为热门职业
微软数据库拥抱Hadoop
Facebook使用Corona提升Hadoop的可伸缩性
Hadoop即将过时了吗?
利用大数据技术进行图处理
一个电话 改变大数据命运的故事
Presto:Facebook的分布式SQL查询引擎
12个最好的免费和开源的NoSQL数据库
VMware发布Serengeti项目,支持云中部署
Hadoop
大数据时代 微软被迫接受开源
陈皓谈云计算:拼的就是运维
Hadoop并非完美:8个代替 HDFS 的绝佳方案相关文档 — 更多
淘宝TFS.docx
CentOS scribe+hdfs安装.docx
Hadoop源代码分析.doc
Hadoop 源代码分析(完整版).pdf
分布式计算开源框架 Hadoop 入门实践.pdf
云计算架构 Hadoop.pptx
Hadoop学习总结.ppt
Apache Hadoop Goes Realtime at Facebook
分布式基础学习.doc
Hadoop Architecture and its Usage at
Facebook.pdf
Operations and Big Data: Hadoop, Hive
and Scribe(facebook).pdf
Hadoop学习总结之二:HDFS读写过程解
析.doc
Hive - 运用于Hadoop 的拍字节范围数据仓
库.pdf
Hadoop 学习总结之一:HDFS简介.doc
Hadoop 学习总结之一:HDFS简介.doc
Hadoop HDFS配置.pdf
Hadoop 技术讲解.ppt
Facebook 海量数据处理论文.doc
Hadoop 关于处理大量小文件的问题和解决方
法.docx
Hadoop可靠性概述(百度).pptx
内容信息
4.8
(已有4个人评价) 75%
25%
0%
0%
0%
收藏:9人 发布时间:2012-03-01 21:16:55
经验标签
Hadoop
同类热门经验
基于ZooKeeper的分布式Session实现
9496次浏览
谷歌三大核心技术(一)Google File System中文版14842次浏览
Hadoop 实战实例
6179次浏览
为什么Hadoop将一定会是分布式计算的未来?
5534次浏览
谷歌三大核心技术(二)Google MapReduce中文版
22117次浏览
开源云计算系统 Spark
5784次浏览
相关经验
为什么Hadoop将一定会是分布式计算的未来?
17人评
Hadoop 的分布式架构改进与应用
7人评
知名网站的技术实现
3人评
高性能图片服务器浅谈
0人评
一文读懂大数据:Hadoop,大数据技术及相关应用
0人评
Hypertable应用实践:比肩HBase
1人评
HBase 在淘宝的应用和优化小结
7人评
Hadoop集群数据处理API:Cascading
1人评
Hadoop家族学习路线图
4人评
Hadoop I/O系统介绍
0人评
NoSQL 在腾讯应用实践
0人评
基于hive的日志数据统计实战
0人评
Hadoop开发使用备记
0人评
Scribe日志收集系统介绍
0人评
相关讨论 - 更多
程序员技术练级攻略
10个Hadoop的应用场景
马克·扎克伯格是独自完成 Facebook 最初版本代码的吗?
什么是Node.js?
百万级PHP网站架构工具箱
10个用于操作字符串的 PHP代码片段
为您的Web项目构建一个简单的JSON控制器
联系我们 - 问题反馈
2005-2013 OPEN-OPEN, all rights reserved.