一种高可靠性的内容云的存储机制(论文)
一种高可靠性的内容云的存储机制
张 瑞，林 闯，孟 坤，陈亚睿
（清华大学计算机科学与技术系，北京１０００８４）
摘 要： 云技术实现了异构硬件资源的有效整合，为向用户提供各种形式的服务奠定了技术基础．同时，由于使用的硬件资源性能、可靠性等差异巨大，所以如何使系统提供高效、高可靠性的服务是该领域研究的热点．本文对常用
的可靠性和性能保证策略进行分析比较，探讨了系统能够容忍固定数目个硬件同时失效的必要条件，提出了一种既能保证服务效率，又能最大限度容忍硬件失效的内容存储机制（ＲＥＳＴ）．该机制保证了在系统中同时出现故障的设备数不大于Ｍ时，系统仍能正常提供服务．最后，通过理论分析和仿真试验，我们验证了ＲＥＳＴ在存储效率、容失效能力等方面具有较大的优势．
关键词： 计算机网络；内容云；可靠性
中图分类号： ＴＰ３９３ 文献标识码： Ａ 文章编号： ０３７２－２１１２（２０１４）０４－０６３３－０７电子学报ＵＲＬ：ｈｔｔｐ：／／ｗｗｗ．ｅｊｏｕｒｎａｌ．ｏｒｇ．ｃｎ ＤＯＩ：１０．３９６９／ｊ．ｉｓｓｎ．０３７２－２１１２．２０１４．０４．００２
ＲＥＳＴ：ＡＲｅｌｉａｂｌｅａｎｄＥｆｆｉｃｉｅｎｔＳｔｏｒａｇｅＴｅｃｈｎｏｌｏｇｙｆｏｒＣｏｎｔｅｎｔＣｌｏｕｄＳｅｒｖｉｃｅ
ＺＨＡＮＧＲｕｉ，ＬＩＮＣｈｕａｎｇ，ＭＥＮＧＫｕｎ，ＣＨＥＮＹａ－ｒｕｉ
（ＤｅｐａｒｔｍｅｎｔｏｆＣｏｍｐｕｔｅｒＳｃｉｅｎｃｅａｎｄＴｅｃｈｎｏｌｏｇｙ，ＴｓｉｎｇｈｕａＵｎｉｖｅｒｓｉｔｙ，Ｂｅｉｊｉｎｇ１０００８４，Ｃｈｉｎａ）
Ａｂｓｔｒａｃｔ： Ｃｌｏｕｄｃｏｍｐｕｔｉｎｇｔｅｃｈｎｏｌｏｇｙｉｎｃｏｒｐｏｒａｔｅｓａｓｙｍｍｅｔｒｉｃｈａｒｄｗａｒｅｅｑｕｉｐｍｅｎｔｓａｎｄｅｓｔａｂｌｉｓｈｅｓｔｈｅｂａｓｉｓｏｆｐｒｏｖｉｄｉｎｇｃｏｎｓｔａｎｔａｎｄｅｆｆｉｃｉｅｎｔｓｅｒｖｉｃｅｔｏｔｈｅｕｓｅｒｓ．Ｉｎｔｈｉｓｐａｐｅｒ，ｉｎｔｒｉｇｕｅｄｆｒｏｍｔｈｅｒｅｄｕｎｄａｎｃｙｂａｃｋｕｐｓｔｒａｔｅｇｙ，ｗｅｄｅｓｉｇｎａｃｌｏｕｄｓｔｏｒａｇｅｍｅｃｈａｎｉｓｍｗｈｉｃｈｃａｎｔｏｌｅｒａｔｅｈａｒｄｗａｒｅｏｒｓｏｆｔｗａｒｅｆａｉｌｕｒｅｓｓｏａｓｔｏｅｎｓｕｒｅｔｈｅｒｅｌｉａｂｉｌｉｔｙｏｆｔｈｅｃｏｎｔｅｎｔｃｌｏｕｄｓｙｓｔｅｍｗｈｉｌｅｄｉｓ－ｔｒｉｂｕｔｉｎｇｔｈｅｃｏｎｔｅｎｔｓｅｆｆｉｃｉｅｎｔｌｙ．Ａｄｏｐｔｉｎｇｔｈｉｓｍｅｃｈａｎｉｓｍ，ｔｈｅｓｙｓｔｅｍｃａｎｓｔｉｌｌｏｐｅｒａｔｅｓｍｏｏｔｈｌｙｉｎｔｈｅｐｒｅｓｅｎｃｅｏｆａｆｉｘｅｄｎｕｍｂｅｒｏｆｈａｒｄｗａｒｅｏｒｓｏｆｔｗａｒｅｆａｉｌｕｒｅｓ，ａｎｄｉｆｔｈｅｎｕｍｂｅｒｏｆｆａｉｌｕｒｅｓｉｓｌａｒｇｅｒｔｈａｎｔｈａｔ，ｔｈｅｍｅｃｈａｎｉｓｍｃａｎｐｒｏｔｅｃｔｔｈｅｓｙｓｔｅｍｆｒｏｍｍａｓ－ｓｉｖｅｂｒｅａｋｄｏｗｎｓ．Ａｆｔｅｒｗａｒｄｓ，ｔｈｒｏｕｇｈｅｘｐｅｒｉｍｅｎｔｓｗｅｃｏｍｐａｒｅｓｅｖｅｒａｌｋｉｎｄｓｏｆｓｔｏｒａｇｅｔｅｃｈｎｏｌｏｇｉｅｓ，ａｎｄｖａｌｉｄａｔｅｔｈａｔｏｕｒｔｅｃｈｎｏｌ－ｏｇｙｔａｋｅｓａｄｖａｎｔａｇｅｓｉｎｓｔｏｒａｇｅｅｆｆｉｃｉｅｎｃｙａｎｄｆａｕｌｔｔｏｌｅｒａｎｃｅ．
Ｋｅｙｗｏｒｄｓ： ｃｏｍｐｕｔｅｒｎｅｔｗｏｒｋｓ；ｃｏｎｔｅｎｔｃｌｏｕｄ；ｒｅｌｉａｂｉｌｉｔｙ
１ 引言
云计算提供了一种整合相对廉价资源提供强大服
务能力的计算模式，目的在于实现服务应用与硬件维护解耦，并分别由各层次的服务提供商维护管理，如ＩａａＳ（ＩｎｆｒａｓｔｒｕｃｔｕｒｅａｓａＳｅｒｖｉｃｅ）层服务提供商亚马逊（Ａｍａｚｏｎ）通过封装底层硬件向用户提供计算或存储资源；ＰａａＳ（ＰｌａｔｆｏｒｍａｓａＳｅｒｖｉｃｅ）层服务提供商谷歌的产品ＧｏｏｇｌｅＡｐｐＥｎｇｉｎｅ建立了类操作系统环境平台，允许用户定制个性化的功能模块并开展二次开发；ＳａａＳ（ＳｏｆｔｗａｒｅａｓａＳｅｒｖｉｃｅ）层服务提供商Ｓａｌｅｓｆｏｒｃｅ整合了多种应用软件方便用户定制所需的软件系统等．通过层次化解耦，一方面各服务提供商可以屏蔽底层的管理，专心发挥其特
长；另一方面用户只需关注自身需要的服务内容和服务
质量［１］
．因而，云计算模式的采用不仅可以提高资源利用率、更好的保证服务质量，而且更重要的是，集中化管理降低了系统的综合维护成本．
根据云的部署方式和应用范围的不同，云可以划分为私有云、社区云、公共云和混杂云［２］．私有云和社区云仅向特定的用户群体提供服务，而公共云和混杂云则服务更广泛的用户群体．目前，对外提供服务的云系统已达到了相当规模，用户在选择云服务时具有较大自由度，存在有多种服务租赁策略（或内容存储策略）．云层次化的结构决定了云服务提供商不仅可以建立自己独立的服务系统，还可以被上层的内容提供商用来简化应用系统的搭建，如ＳａａＳ提供商可以租赁ＰａａＳ提供商的
收稿日期：２０１３－０１－２２；修回日期：２０１３－０４－２３；责任编辑：蓝红杰
基金项目：国家９７３重点基础研究规划（Ｎｏ．２０１０ＣＢ３２８１０５，Ｎｏ．２０１１ＣＢ３０２７０３）；国家自然科学基金重点项目（Ｎｏ．６０９３２００３，Ｎｏ．６１０２０１０６００２）；国家自然科学基金（Ｎｏ．６１０７１０６５，Ｎｏ．１１１７１３６８）
第４期２０１４年４月
电 子 学 报ＡＣＴＡＥＬＥＣＴＲＯＮＩＣＡＳＩＮＩＣＡ
Ｖｏｌ．４２ Ｎｏ．４
Ａｐｒ． ２０１４
平台资源或ＩａａＳ层提供商的硬件资源．因此，资源利用策略的设计对于云计算系统具有普遍的意义，不仅有利于终端用户选择最佳的服务提供商组合以保证得到满意的服务质量，而且还能够使内容提供商选取优化的底层服务商组合来保证更好的提供服务．
以提供内容分发服务的运营商为例，考虑到传输成本、存储成本及存储效率等因素，他们可以通过选取合适的云存储提供商集合来实现服务成本限制下的最优服务．但是，由于云系统失效频率和持续时间的增加，分散租赁云服务成为了选取策略的基本指导思想［３］，而关于是否能够通过分散存储来保证服务持续可用及如何分散存储的研究还相对匮乏．本文考虑了云计算环境下保证服务性能的容错（失效）存储策略，从存储的角度给出了云计算服务模型并得到了相应的优化模型，通过分析，给出了一种轻量级可靠性和可用性兼顾的存储策略．
２ 相关工作
２畅１ 存储视角的云服务系统
云计算采用集群技术把各种资源整合，提供强大的计算和存储能力；采用互联网技术给用户提供便捷的接入方式，从而形成云提供商负责资源管理和维护，云用户按需请求响应资源的服务系统模式．在云服务系统中，云服务提供商按照与用户的服务协议，给用户定制的资源分配相应的存储空间，并把用户的请求指向给空间；用户则根据自身需求存取其定制的资源．因此，宏观上云服务系统可以等价地看作是一个分布式存储系统，云服务提供商负责给用户分配存储空间，用户通过到分配空间存取资源获得服务．由于分配空间的位置、网络状况及单价费用等因素使得用户的使用体验差别很大，因此关于存储策略的研究成为了该领域研究的热点之一，这方面的研究同时也是提高系统服务能力的主要途径．
关于优化存储结构，在内容分发网络（ＣｏｎｔｅｎｔＤｅ－ｌｉｖｅｒｙＮｅｔｗｏｒｋ）领域已得到了广泛研究，存储资源部署方式可以分为中心式、层次式及Ｐ２Ｐ形式等．在中心式拓扑中，包括一个中心服务器集群，所有的用户都向该中心服务器集群提交服务请求，并由中心服务器统一分配和调度各种内容和资源以满足用户的请求；层次化拓扑由具有层次化管理关系的服务器组成，中心服务器存放所有的内容资源，上一级服务器随机地把资源部署在下一级服务器上，当请求不能被满足时，该请求被提交到上一级服务器，直到得到满足请求的内容，并返回给请求用户；Ｐ２Ｐ式的拓扑，也被称为无中心的层次化拓扑结构，内容被部署在服务器中，服务器间的内容分享采用Ｐ２Ｐ方式，通过缓存相应的数据可以提高用户的访问效率．
对于上述方式，一般地，用户从距其最近的服务器上得到请求内容不仅可以保证延时较小，而且还能够避免由网络传输所产生的额外费用．因此，就近分配存储资源被认为是根本的优化策略．但是，由于存储开销、网络带宽等条件的限制，存储策略的选择受到诸多因素的影响，下面我们将对一些优化存储模型和策略进行比较分析．
２畅２ 优化存储策略
在文献［４］中，作者针对内容分发网络的数据部署和分发问题，通过把内容副本分发到网络边缘服务器，实现最小化带宽消耗．在边缘节点存储容量有限的情况下，该问题被转化为背包问题，作者给出了一种贪心算法，并设计出一种带宽消耗不超过某一阈值的最优策略．文献［５］以用户体验为优化目标，在以请求访问延时为衡量指标的情况下，提出了根据内容请求率的平方根对缓存空间进行分配的最小化搜索空间算法．文献［６］全面总结了内容分发网络中数据部署与分发的优化算法．
在文献［７］中，作者考虑了在线社交网络数据在服务器具有地理分布差异的云系统中存储的问题．对于一个特定的用户及其ＱｏＳ指标（内容存储偏好），定义存储策略的ＱｏＳ为一个向量（ｑ１，ｑ２，…，ｑＮ），其中ｑｋ表示该策略能满足用户请求的内容被分配在其偏好的前ｋ个服务器中的比例．文章中以存储产生的费用（包括存储数据产生的费用、云系统之间维护数据一致性产生的费用、适应动态变化产生的维护费用和优化机制产生的重定向费用）为优化目标，在满足上述ＱｏＳ要求的条件下，给出了一种基于角色转换的数据部署启发式算法．
文献［８］考虑了数据中心间的带宽和各个数据中心的存储容量这两项约束条件，给出了一个基于数据中心请求的数据动态迁移的系统，设计了基于用户请求的地理位置分布信息来实现数据的动态部署的算法，一定程度上减少了对存储空间和数据中心间流量的需求，提高了用户的使用体验．此外，文献［９］中把数据存储到异构的多个云服务系统中来提高服务的可用性，作者定义了存储内容的云服务商受困因子，给出了一种满足用户服务协议要求的动态存储策略．但是在现有工作中，关于优化策略的研究往往仅关注实现一定优化目标的数据存放的策略，而关于同一位置数据的存放机制的研究相对匮乏（如在文献［９］中，作者指出采用ＲＡＩＤ５的存放策略来提高数据的安全性）．下面我们将根据已有的研究成果，给出基于存储视角的系统模型，在形式化描述系统的基础上，设计
４３６ 电 子 学 报２０１４年
一种能保证优化策略得以实施的高可靠性存储机制．
２畅３ 优化存储模型
根据上述分析，云系统可以抽象为图１所示的模型：系统由云控制中心处理用户请求及内容的分发存储，用户通过边缘服务器向系统请求需要的内容，若本地存在则直接读取，否则由边缘节点向控制中心转发请求，若系统中存在所需内容，控制中心向用户发送重定向指令以保证用户获取服务．显然，上述系统的集中式查询设计容易引起控制中心负载过重，成为系统瓶颈，减少查询耗时成为云存储领域关注的重点．一方面，通过采用与ＧｏｏｇｌｅＡｐｐＥｎｇｉｎｅ类似的基于域名系统（ＤｏｍａｉｎＮａｍｅＳｙｓｔｅｍ）的查询结构可以实现较高的查询效率；另一方面，可以通过维护尽量多的内容副本避免硬件失效对服务性能的影响，并通过由控制中心维护相关数据信息来提高访问效率．如何设计副本存储策略及如何存储副本的分布信息是本文讨论的重点．本文旨在给出一种能够容忍硬件失效、并能保持访问性
能的内容存储机制．
在设计高可靠性的存储策略时，我们采用下列模型来描述本文要研究的问题：假设需要存储的资源集
合为Ｓ＝Ｓ１，Ｓ２，…，ＳＮ，存储服务器集合为Ｔ＝Ｔ１，Ｔ２，…，ＴＭ
，且对应的存储空间分别为Ｂ１，Ｂ２，…，
ＢＭ，存储服务器失效的概率分别为Ｐｒ１，Ｐｒ２，…，ＰｒＭ．我们将针对上述模型，分别从选取合适的存储内容、容错存储策略等方面讨论高可靠性的内容云的存储机制．
３ 边缘服务器的内容存储策略
云系统承载着越来越多的应用，如在线社交网络、在线网络存储等，这些应用的服务质量需求各不相同，因此需要采用的存储策略也不尽相同．根据应用的不
同，边缘服务器上需要存储的内容可以分为基于用户请求的内容和基于服务推送的内容．例如，在线社交网络中生成和传输的数据就是基于用户请求的内
容［１０，１１］
，而线上应用商店Ａｐｐｓｔｏｒｅ或Ａｎｄｒｏｉｄ中推广的应用软件可以看做是基于服务推送的内容．
３畅１ 基于用户请求的内容存储
由于用户使用偏好及其地理位置的不同，需要针对用户需求，选择合适的内容存储在可用的服务器资源上．对于上述为满足用户需求而存储的数据，我们可以称之为基于用户请求的数据．
我们用以下模型来描述这类数据的存储原则：对于存储服务器Ｎ，假设其存储容量为Ｖ，通过该节点接入实现请求的内容集合为ＣＮ，那么对于内容ｃ∈ＣＮ，设该内容需要占用的存储空间大小为Ｖｃ，Ｐｒ（ｃ）是某一内容请求是对内容ｃ的请求的概率，且
∑
ｃ∈ＣＮ
Ｐｒ（ｃ）＝１．
设ＣＣ
Ｎ彻ＣＮ是存储在节点Ｎ上的数据集合，那么ＣＣ
Ｎ可以通过求解下面的规划问题得到．
ｍａｘ
∑
ｃ∈ＣＣ
Ｎ
Ｐｒ（ｃ）， ｓ．ｔ．∑
ｃ∈ＣＣ
Ｎ
Ｖｃ≤Ｖ
由于Ｍ是边缘节点数，Ｂ是每个边缘节点的缓存大小，所以ＭＢ就是所有边缘节点的缓存大小之和．我们根据存储容量和待存储内容数量Ｎ间的关系针对下面几种情况给出选取条件：当Ｎ≤Ｂ时，每个边缘节点备份所有的内容，问题很容易得到解决；当ＭＢ≥Ｎ≥Ｂ时，存储空间较充足，可以实现所有内容在所有边缘节点中至少有一个备份，那么此时的待存储内容为所有内容；当ＭＢ＜Ｎ时，不存在使每项内容都至少存在一个备份的缓存分配策略．考虑所有的组合，确定使待存储集合被访问概率最大的集合为备选集合，即
Ｎ＝｛Ｓ｜Ｓ彻Ｐ，Ｐｒ（Ｓ）＝ｍａｘＴ彻Ｐ｛Ｐｒ（Ｔ）｝｝．
３畅２ 基于服务推送的内容存储
为了让更多用户方便发现和使用有关服务内容，内容提供商往往选择把内容部署在合适的云服务系统上，我们把这类内容称之为基于服务推送的内容．对于这类内容，内容提供商为了提高内容的覆盖范围或针对性，一般会选择一个或多个云服务系统部署内容．通常这类问题中往往存在部署成本和存储空间的限制，因此可以把问题抽象化为优化问题来求解．
网络内容提供商通过把内容推送到云存储节点上可以实现更多用户对其内容的高效访问，提升内容的影响度．对为满足推广需求而产生的存储数据，我们称之为基于服务推送的数据．内容提供商根据对用户可能访问内容的预测确定最佳的存储范围，用Ｓ表示存储有某一项内容Ｃ的云存储节点的集合，如果某个云存储节点Ｎ∈Ｓ，那么数据Ｃ是节点Ｎ的待存储数据．
４ ＲＥＳＴ：容忍节点失效的存储策略
若内容ｉ被同时存储在两个不同的服务器上，那么
５
３６第 ４ 期张 瑞：一种高可靠性的内容云的存储机制
即使其中一个失效，仍不影响用户对该内容的访问．因此，如果内容被同时存放在ｒ＋１个服务器上，那么在最坏的情形下该内容可以容忍ｒ个服务器同时失效．一般来说，内容被尽量多的存储在不同的服务器上则对应着该策略具有较高的容失效能力．这样，问题的目标就转换为了在有限的存储空间中实现所有待存储内容尽可能多的被异构存储，即对于所有内容｛ｓ１，ｓ２，…，ｓｖ｝，Ｍ个服务器｛ｓｅｒｖｅｒ１，ｓｅｒｖｅｒ２，…，ｓｅｒｖｅｒＭ｝，我们需要采用恰当的分组设计方法使所有内容均衡的分布于各个分组中．下面我们首先给出区组设计的相关概念． 定义１ 对于集合Ｓ＝｛ｓ１，ｓ２，…，ｓｖ｝，２Ｓ为Ｓ的幂集，（Ｓ，Ｂ）为Ｓ上的一个设计（ｄｅｓｉｇｎ），其中Ｂ＝｛Ｂ１，
Ｂ２，…，ＢＭ｝，Ｂｉ∈２Ｓ对应存储在设备ｉ上的内容集合，我们称Ｂ为区组集合．如果至少有一个区组没有完全包含Ｓ中的所有元素，称该设计为不完全设计（Ｉｎｃｏｍ－ｐｌｅｔｅ）；如果一个设计中的所有区组都具有相同的容量，则称该设计为区组设计（Ｂｌｏｃｋｄｅｓｉｇｎ）．当任意一对元素在设计中相遇的次数λｍ也相同，称该设计为均衡的（Ｂａｌａｎｃｅｄ）．
假设云系统中有Ｍ个存储设备，且对应的存储容量分别为Ｂｉ，ｉ＝１，２，…，Ｍ；Ｎ是待存储的内容数，我们需要确定能容忍同时失效存储设备的最大个数ｒ，及相应的优化存储策略．由于存储容量的限制（｜Ｂｉ｜＜Ｎ），使得可实施的存储策略往往对应不完全设计，因此我们可以采用区组设计的方法逐步构造最优的分组；同时均衡的区组设计可以保证关联度较高的数据能够联合存储，提高数据的存取效率．
一个简单的存储分配机制是按照每个内容项的顺序在边缘节点中依次备份，当一个边缘节点的存储空间不足以备份所有内容项时，在下一边缘节点继续顺序备份内容项，直到所有内容项依次得到备份，再重新从第一个内容项开始重复备份过程．该算法实现的就是存储空间的平均分配策略，即在不考虑内容利用率情况下的最优策略．但该分配方式明显的缺点是各个边缘节点存储的内容显著不同，即某几个特定的边缘节点如果发生错误时，会发生某些内容同时失效的情况，因此我们要在满足存储需求的情况下，设计出负载均衡的存储分配机制．
我们说一个存储机制是均衡的，通常包括两个方面，一方面是内容之间均衡，即某项内容与其他各项内容同时出现的概率相同；另一方面是内容在边缘节点处的分配均衡，即某项内容在各个边缘节点处存储的概率相同．我们称同时满足两方面均衡条件的存储分配机制是对称均衡的存储机制．我们用λｅ表示两项内容同时出现在一个边缘节点处的次数，用λｂ表示任意两个边缘节点存储有相同内容的项数，那么对称均衡机制可以用数学表达式表示为λｅ＝λｂ＝λ．
设Ｎ，Ｍ，ｒ－１，Ｂ，λｅ分别表示待存储资源的个数，可存储的服务器个数，最大允许服务器失效的个数，所有服务器中最小的容量，以及任何两个资源被分配在同一个服务器上的次数．那么可以得到以下均衡存储分配机制存在的必要条件．
引理 设每项内容的备份数为ｒ，则对称均衡机制存在的必要条件是
ＭＢ＝Ｎｒ
ｒ（Ｂ－１）＝λｅ（Ｎ－１）
Ｂ（ｒ－１）＝λｂ（Ｍ－
１）
（１）
证明 计算一个存储分配机制中所包含的所有内容数有两种计算方法，一种是将边缘节点数Ｍ乘以每个边缘节点的存储空间大小；另一种是将内容数Ｎ乘以每项内容的备份数ｒ，两种计算方法所得结果相同，这样条件１得证．与证明条件１类似，对于条件２，等式两边都表示与某一特定内容同时在边缘节点处存储的其他内容的总项数．对于条件３，等式两边都表示选定边缘节点的内容在其他边缘节点处存储的次数．这样条件２和条件３不难得到证明．
根据以上的三个必要条件，我们可以进一步推导出对称均衡机制存在的充分必要条件．
定理１ 当且仅当式（１）中的三个等式成立且Ｎ＝Ｍ时，对称均衡机制存在．
证明 由引理中的第二项和第三项等式，我们有
λｅ＝
ｒ（Ｂ－１）
（Ｎ－１）
λｂ＝
Ｂ（ｒ－１）
（Ｍ－
１）
因为在对称均衡存储机制中λｅ＝λｂ＝λ，所以ｒ（Ｂ－１）（Ｍ－１）＝Ｂ（ｒ－１）（Ｎ－１）．经过化简后得到（Ｎ－Ｍ）（ＭＢ－（Ｎ＋Ｍ）＋１）＝０．因为上式中的第二个乘数不等于０，所以Ｎ－Ｍ＝０，即Ｎ＝Ｍ成立．
我们用决策变量ｘｉｎ来表示第ｎ项内容在第ｉ个边缘节点是否存在备份，即节点ｉ存有内容ｎ，则变量ｘｉｎ＝１；节点ｉ内没有内容ｎ，则变量ｘｉｎ＝０．所有决策变量ｘｉｎ组成了一个Ｍ×Ｎ维矩阵，该矩阵称为存储空间分配的关联矩阵．如果一个内容云系统的存储分配机制是对称均衡的，那么该分配机制的关联矩阵要满足定理２中描述的必要条件．
定理２ 设Ａ是存储空间分配的关联矩阵，则对于对称均衡机制来说，它的关联矩阵要满足下列等式：
ＡＴＡ＝（ｒ－λｅ）ＩＮ＋λｅＪＮ．
其中，ｒ是每项内容的备份数，ＩＮ为Ｎ阶单位矩阵，ＪＮ表示元素全为１的Ｎ阶方阵．
６３６ 电 子 学 报２０１４年
证明 令Ｈ＝ＡＴ
Ａ＝（ｈｉｊ）Ｎ×Ｎ，则ｈｉｊ为矩阵ＡＴ
的
第ｉ行与矩阵Ａ第ｊ列的内积，也就是矩阵Ａ的第ｉ列与第ｊ列的内积．ｈｉｉ为矩阵Ａ第ｉ列中非零元素的个数，所以ｈｉｉ＝ｒ．当ｉ≠ｊ时，ｈｉｊ＝λｅ，即在第ｉ列与第ｊ列
中对应元素都等于１的个数为λｅ．因此，Ｈ＝ＡＴ
Ａ＝（ｒ－λｅ）ＩＮ＋λｅＪＮ．
定理２说明了对称均衡存储机制的关联矩阵的转置与矩阵本身的乘积是一个对称矩阵，且该对称矩阵的主对角线元素全部为ｒ，非主对角线元素全部为λｅ．该定理从直观上不难理解．
假设内容项ｎ在云系统中存在的备份数是ｓｎ．在随机搜索策略下，找到某个内容项ｎ需要搜索的边缘节点数是一个随机变量ｑｎ，且ｑｎ服从几何分布．因为ｑｎ服从几何分布，所以我们计算随机变量ｑｎ的期望值Ε（ｑｎ）＝Ｎｓｎ，即内容项ｎ的平均搜索空间大小是Ｎｓｎ
，其
中Ｎ是云系统中的内容数．我们对每项内容的ｑｎ求平均，得到搜索所有内容的平均搜索次数为
∑
ｎ
ｐ（ｎ）?Ε（ｑｎ）＝Ｎ
∑
ｎ
ｐ（ｎ）／ｓｎ．
为了使搜索空间最小，必须有若ｐ（ｎ１）＞ｐ（ｎ２），则云系统中内容ｎ１的备份数大于等于内容ｎ２的备份数．否则如果内容ｎ１的备份数小于内容ｎ２的备份数，那么将原来备份ｎ１的存储空间用来备份ｎ２，将原来备份ｎ２的存储空间用来备份ｎ１，所得备份方案的搜索空间更小．假设边缘节点ｉ在一段时间内收到对内容ｎ的请求
数量为ｋｉｎ，我们用ｃｊｎｊ＝１，２，…，ｋｉｎ表示这ｋｉｎ个请求的搜索空间的大小．令Ｃｉｎ＝
∑
ｋｉｎ
ｊ＝１ｃｊｎ
，则每个边缘节
点处都对内容ｎ储存ｋｉｎ，Ｃｉｎ．我们用Ｖ表示对内容
ｎ的搜索空间中边缘节点的集合．系统中对内容ｎ的请求的到达速率μｎ＝∑
ｉ∈Ｖｋｉｎ
／Ｖ，搜索空间的大小
Ａｎ＝２
∑
ｉ∈Ｖ
Ｃｉｎ／∑
ｉ∈Ｖｋｉｎ
．
在接受内容请求的边缘节点不存在所需内容时，该边缘节点从其他边缘节点或中心服务器获取请求的内容，并需要将该内容放入自身的缓存中，这就涉及到边缘节点缓存的内容替换算法（缓存内容是动态的，在动态的情况下要考虑内容替换算法）．两种通用的内容替换算法是ＬＲＵ（ＬｅａｓｔＲｅｃｅｎｔｌｙＵｓｅｄ）和随机替换算法．在某一项内容被请求后，系统通常会增加该内容的备份（至少该内容的备份数保持不变）．而内容的某个备份也不会永久地存在于云系统中．通常来说，一个备份在系统中存在的时间越长，那么该备份被新备份替换的概率也就越大，即若系统中存在两个内容的备份，如果备份一的产生时间早于备份二，那么在某一时刻，备份一在系统中仍然存在的概率要小于备份二．
５ 仿真与数字试验
我们通过仿真试验来对我们设计的内容云系统存
储机制的性能进行分析比较．假设我们要设计一个简单的云系统，其中内容数有１６个，每个边缘节点的存储空间可以容纳６项内容（下文还分析了内容数更多，存储空间更大情况下的系统性能），那么是否存在对称均衡的存储分配机制？
实例中Ｎ＝１６，Ｂ＝６，取均衡数λ＝２，我们设计得到的存储分配机制有以下三种形式．
表１ λ＝２时的存储分配机制
Ⅰ
Ｂ１｛１２３４５６｝Ｂ９｛２５８９１５１６｝Ｂ２｛１２７８１１１２｝Ｂ１０｛２６１０１２１４１６｝Ｂ３｛１３９１１１４１５｝Ｂ１１｛３４８１２１３１５｝Ｂ４｛１４７１０１５１６｝Ｂ１２｛３５７１２１４１６｝Ｂ５｛１５８１０１３１４｝Ｂ１３｛３６７８９１０｝Ｂ６｛１６９１２１３１６｝Ｂ１４｛４５９１０１１１２｝Ｂ７｛２３１０１１１３１６｝Ｂ１５｛４６８１１１４１６｝Ｂ８｛２４７９１３１４｝
Ｂ１６｛５６７１１１３１５｝Ⅱ
Ｂ１｛１２３４５６｝Ｂ９｛２５８９１５１６｝Ｂ２｛１２７８１１１２｝Ｂ１０｛２６１０１２１４１５｝Ｂ３｛１３９１２１３１５｝Ｂ１１｛３４８１１１４１５｝Ｂ４｛１４７１０１５１６｝Ｂ１２｛３５７１２１４１６｝Ｂ５｛１５８１０１３１４｝Ｂ１３｛３６７８９１０｝Ｂ６｛１６９１１１４１６｝Ｂ１４｛４５９１０１１１２｝Ｂ７｛２３１０１１１３１６｝Ｂ１５｛４６８１２１３１６｝Ｂ８｛２４７９１３１４｝
Ｂ１６｛５６７１１１３１５｝Ⅲ
Ｂ１｛１２３４５６｝Ｂ９｛２５８９１４１６｝Ｂ２｛１２７８１１１２｝Ｂ１０｛２６１０１２１３１６｝Ｂ３｛１３９１２１３１４｝Ｂ１１｛３４８１１１３１６｝Ｂ４｛１４７１０１４１６｝Ｂ１２｛３５７１２１５１６｝Ｂ５｛１５８１０１３１５｝Ｂ１３｛３６７８９１０｝Ｂ６｛１６９１１１５１６｝Ｂ１４｛４５９１０１１１２｝Ｂ７｛２３１０１１１４１５｝Ｂ１５｛４６８１２１４１５｝Ｂ８｛２４７９１３１５｝
Ｂ１６｛５６７１１１３１４｝
表１中我们用Ｂｉ表示第ｉ个边缘节点的存储空间，用Ｂｉ后面的集合表示存储空间内储存的内容．集合里的数字表示内容项的编号，即Ｂ１｛１２３４５６｝表示第一个边缘节点内存储有前６项内容．因此，在云系统内容数为１６，每个边缘节点能够存储６项内容时，存在对称均衡的存储机制，使用上面的三种分配方案可以很好地实现内容云系统的功能．在设计边缘节点的存储空间为６项内容的存储机制之后，我们对该机制的性能和可靠性进行分析，对照的实验对象是一般的存储分配机制即顺序分配机制． 从图２（ａ）可以看出，均衡分配机制在容失效能力方面要远好于一般的存储分配机制，特别是在有多个
７
３６第 ４ 期
张 瑞：一种高可靠性的内容云的存储机制
边缘节点同时失效的情况下，均衡分配机制由于节点失效导致的性能损失较小，从而可以提供较高可靠性的内容云服务．
我们进一步对有更大的边缘节点数和内容数的云系统进行分析．当Ｎ＝７９，Ｂ＝１３，λ＝２时，比较均衡设计和一般的存储机制之间的性能区别如图３所示（假设超过一定搜索次数后不再继续搜索，而是向中心服务器发送请求）．该试验是从最坏情况的角度进行分析，即计算存储有相似内容的几个边缘节点同时失效的情况，这时对云存储系统带来的性能损失最大．图３（ａ）中横坐标是失效边缘节点的数量，纵坐标是搜索各项内容的总次数，圆点连线构成的曲线表示一般分配机制，即我们在前文中提到的顺序分配机制．显然，总搜索次数随着失效节点数量的增多是会显著增加的．图２（ｂ）和图３（ｂ）分别表示系统有１６个节点和７９个节点的情况下出现一个边缘节点失效时其他节点失效的条件概率．从两图中可以看出，均衡分配机制下节点失效的条件概率各个节点间是相同的，而一般分配机制各个节点的失效概率差别很大，这进一步证明了我们设计的内容云存储机制的高可靠性．
６ 结论与下一步研究工作
本文对基于内容服务的云系统的性能进行了定量分析，设计了一种能够及时应对硬件和软件故障的云存储机制，以实现在不多于固定个故障出现的情况下，系统仍能正常提供高效服务．该机制采用容错设计的相关技巧，分别针对内容需求度不相关和相关的情形，设计了存储策略，并给出了最优性证明，得到了在硬件限制条件下最优的高可靠性内容云存储机制．未来工作可能包括考虑多目标的优化，同时优化延时和带宽消耗等．在我们通常的分析中，云存储系统的边缘节点是无差别的，但在一些实际的网络中，存在边缘节点倾向于向其他某些边缘节点传输数据的情况，这需要进一步的理论分析．
参考文献
［１］ＡＤｈａｍｄｈｅｒｅ，ＣＤｏｖｒｏｌｉｓ．Ｔｗｅｌｖｅｙｅａｒｓｉｎｔｈｅｅｖｏｌｕｔｉｏｎｏｆｔｈｅｉｎｔｅｒｎｅｔｅｃｏｓｙｓｔｅｍ［Ｊ］．ＩＥＥＥ／ＡＣＭＴｒａｎｓａｃｔｉｏｎｓｏｎＮｅｔｗｏｒｋ－ｉｎｇ，２０１１，１９（５）：１４２０－１４３３．
［２］ＰＭｅｌｌ，ＴＧｒａｎｃｅ．ＴｈｅＮＩＳＴｄｅｆｉｎｉｔｉｏｎｏｆｃｌｏｕｄｃｏｍｐｕｔｉｎｇ（ｄｒａｆｔ）［Ｒ］．ＮＩＳＴＳｐｅｃｉａｌＰｕｂｌｉｃａｔｉｏｎ，２０１１．
［３］ＩＢＭＴｅｃｈｎｉｑｕｅＲｅｐｏｒｔ．Ｃｌｏｕｄｃｏｍｐｕｔｉｎｇｆｏｒｔｈｅｍｅｄｉａａｎｄｅｎ－ｔｅｒｔａｉｎｍｅｎｔｉｎｄｕｓｔｒｙ［Ｒ／ＯＬ］．ｈｔｔｐ：／／ｗｗｗ．ｗｉｒｅｄ．ｃｏｍ／ｉｎ－ｓｉｇｈｔｓ／２０１２／１１／ａｍａｚｏｎ－ｇｏｏｇｌｅ－ｏｕｔａｇｅｓ，２０１２．
［４］ＳＣＢｏｒｓｔ，ＶＧｕｐｔａ，ｅｔａｌ．Ｄｉｓｔｒｉｂｕｔｅｄｃａｃｈｉｎｇａｌｇｏｒｉｔｈｍｓｆｏｒｃｏｎｔｅｎｔｄｉｓｔｒｉｂｕｔｉｏｎｎｅｔｗｏｒｋｓ［Ａ］．ＩＥＥＥＣｏｎｆｅｒｅｎｃｅｏｎＣｏｍ－ｐｕｔｅｒＣｏｍｍｕｎｉｃａｔｉｏｎｓ［Ｃ］．ＳａｎＤｉｅｇｏ，ＵＳＡ：ＩＥＥＥ，２０１０．１－９．
［５］ＥＣｏｈｅｎ，ＳＳｈｅｎｋｅｒ．Ｒｅｐｌｉｃａｔｉｏｎｓｔｒａｔｅｇｉｅｓｉｎｕｎｓｔｒｕｃｔｕｒｅｄｐｅｅｒ－ｔｏ－ｐｅｅｒｎｅｔｗｏｒｋｓ［Ａ］．ＳＩＧＣＯＭＭＣｏｍｐｕｔｅｒＣｏｍｍｕｎｉｃａ－ｔｉｏｎＲｅｖｉｅｗ［Ｃ］．Ｐｉｔｔｓｂｕｒｇｈ，ＵＳＡ：ＡＣＭ，２００２．３２（４）：１７７－
１９０．
［６］尹浩，袁小群，等．内容网络服务节点部署理论综述［Ｊ］．计算机学报，２０１０，３３（９）：１６１１－１６２０．
ＹｉｎＨａｏ，ＹｕａｎＸｉａｏ－ｑｕｎ，ｅｔａｌ．Ｔｈｅｓｕｒｖｅｙｏｆｓｅｒｖｉｃｅｎｏｄｅｓｐｌａｃｅｍｅｎｔｔｈｅｏｒｉｅｓｆｏｒｃｏｎｔｅｎｔｎｅｔｗｏｒｋｓ［Ｊ］．ＣｈｉｎｅｓｅＪｏｕｒｎａｌｏｆ
８３６ 电 子 学 报２０１４年
Ｃｏｍｐｕｔｅｒｓ，２０１０，３３（９）：１６１１－１６２０．（ｉｎＣｈｉｎｅｓｅ）
［７］ＬＪｉａｏ，ＪＬｉ，ｅｔａｌ．Ｃｏｓｔｏｐｔｉｍｉｚａｔｉｏｎｆｏｒｏｎｌｉｎｅｓｏｃｉａｌｎｅｔｗｏｒｋｓｏｎｇｅｏ－ｄｉｓｔｒｉｂｕｔｅｄｃｌｏｕｄｓ［Ａ］．Ｔｈｅ２０ｔｈＩＥＥＥＩｎｔｅｒｎａｔｉｏｎａｌＣｏｎｆｅｒｅｎｃｅｏｎＮｅｔｗｏｒｋＰｒｏｔｏｃｏｌｓ［Ｃ］．Ａｕｓｔｉｎ，ＵＳＡ：ＩＥＥＥ，２０１２．１－１０．
［８］ＳＡｇａｒｗａｌ，ＪＤｕｎａｇａｎ，ｅｔａｌ．Ｖｏｌｌｅｙ：Ａｕｔｏｍａｔｅｄｄａｔａｐｌａｃｅｍｅｎｔｆｏｒｇｅｏ－ｄｉｓｔｒｉｂｕｔｅｄｃｌｏｕｄｓｅｒｖｉｃｅｓ［Ａ］．Ｔｈｅ７ｔｈＵＳＥＮＩＸＳｙｍ－ｐｏｓｉｕｍｏｎＮｅｔｗｏｒｋｅｄＳｙｓｔｅｍｓＤｅｓｉｇｎａｎｄＩｍｐｌｅｍｅｎｔａｔｉｏｎ［Ｃ］．ＳａｎＪｏｓｅ，ＵＳＡ：ＵＳＥＮＩＸＡｓｓｏｃｉａｔｉｏｎ，２０１０．１７－３２．
［９］ＴＧＰａｐａｉｏａｎｎｏｕ，ＮＢｏｎｖｉｎ，ＫＡｂｅｒｅｒ．Ｓｃａｌｉａ：Ａｎａｄａｐｔｉｖｅｓｃｈｅｍｅｆｏｒｅｆｆｉｃｉｅｎｔｍｕｌｔｉ－ｃｌｏｕｄｓｔｏｒａｇｅ［Ａ］．ＩｎｔｅｒｎａｔｉｏｎａｌＣｏｎ－ｆｅｒｅｎｃｅｏｎＨｉｇｈＰｅｒｆｏｒｍａｎｃｅＣｏｍｐｕｔｉｎｇ，Ｎｅｔｗｏｒｋｉｎｇ，ＳｔｏｒａｇｅａｎｄＡｎａｌｙｓｉｓ［Ｃ］．ＳａｌｔＬａｋｅＣｉｔｙ，ＵＳＡ：ＩＥＥＥＣｏｍｐｕｔｅｒＳｏｃｉ－ｅｔｙＰｒｅｓｓ，２０１２．１－１０．
［１０］ＰＫｒｉｓｈｎａｎ，ＤＲａｚ，ｅｔａｌ．Ｔｈｅｃａｃｈｅｌｏｃａｔｉｏｎｐｒｏｂｌｅｍ［Ｊ］．ＩＥＥＥＴｒａｎｓａｃｔｉｏｎｓｏｎＮｅｔｗｏｒｋｉｎｇ，２０００，８（５）：５６８－５９２．［１１］ＪＭＡｌｍｅｉｄａ，ＤＬＥａｇｅｒ．Ｍｉｎｉｍｉｚｉｎｇｄｅｌｉｖｅｒｙｃｏｓｔｉｎｓｃａｌａｂｌｅｓｔｒｅａｍｉｎｇｃｏｎｔｅｎｔｄｉｓｔｒｉｂｕｔｉｏｎｓｙｓｔｅｍｓ［Ｊ］．ＩＥＥＥＴｒａｎｓａｃｔｉｏｎｓｏｎＭｕｌｔｉｍｅｄｉａ，２００４，６（２）：３５６－３６５．
［１２］ＪＫａｎｇａｓｈａｒｊｕ，ＫＷＲｏｓｓ，ｅｔａｌ．Ｏｐｔｉｍｉｚｉｎｇｆｉｌｅａｖａｉｌａｂｉｌｉｔｙｉｎｐｅｅｒ－ｔｏ－ｐｅｅｒｃｏｎｔｅｎｔｄｉｓｔｒｉｂｕｔｉｏｎ［Ａ］．ＩＥＥＥＣｏｎｆｅｒｅｎｃｅｏｎＣｏｍｐｕｔｅｒＣｏｍｍｕｎｉｃａｔｉｏｎｓ［Ｃ］．Ａｎｃｈｏｒａｇｅ，ＵＳＡ：ＩＥＥＥ，２００７．１９７３－１９８１．
［１３］杨戈，廖建新，等．流媒体分发系统关键技术综述［Ｊ］．电子学报，２００９，３７（１）：１３７－１４５．
ＹａｎｇＧｅ，ＬｉａｏＪｉａｎ－ｘｉｎ，ｅｔａｌ．Ｓｕｒｖｅｙｏｆｋｅｙｔｅｃｈｎｏｌｏｇｉｅｓｏｆｔｈｅｄｉｓｔｒｉｂｕｔｉｏｎｓｙｓｔｅｍｆｏｒｓｔｒｅａｍｉｎｇｍｅｄｉａ［Ｊ］．ＡｃｔａＥｌｅｃｔｒｏｎ－ｉｃａＳｉｎｉｃａ，２００９，３７（１）：１３７－１４５．（ｉｎＣｈｉｎｅｓｅ）
［１４］ＭａｔｈｉａｓＢｊｏｒｋｑｖｉｓｔ，ＬｙｄｉａＹＣｈｅｎ，ｅｔａｌ．Ｍｉｎｉｍｉｚｉｎｇｒｅｔｒｉｅｖａｌｌａｔｅｎｃｙｆｏｒｃｏｎｔｅｎｔｃｌｏｕｄ［Ａ］．ＩＥＥＥＣｏｎｆｅｒｅｎｃｅｏｎＣｏｍｐｕｔｅｒＣｏｍｍｕｎｉｃａｔｉｏｎｓ［Ｃ］．Ｓｈａｎｇｈａｉ：ＩＥＥＥ，２０１１．１０８０－１０８８．［１５］ＭｉｃｈａｅｌＡｒｍｂｒｕｓｔ，ＡｒｍａｎｄｏＦｏｘ，ｅｔａｌ．Ａｂｏｖｅｔｈｅｃｌｏｕｄｓ：ＡＢｅｒｋｅｌｅｙｖｉｅｗｏｆｃｌｏｕｄｃｏｍｐｕｔｉｎｇ［Ｒ］．ＵｎｉｖｅｒｓｉｔｙｏｆＣａｌｉｆｏｒ－ｎｉａ，Ｂｅｒｋｅｌｅｙ，２００９．
［１６］ＳＴｅｗａｒｉ，ＬＫｌｅｉｎｒｏｃｋ．Ｐｒｏｐｏｒｔｉｏｎａｌｒｅｐｌｉｃａｔｉｏｎｉｎｐｅｅｒ－ｔｏ－ｐｅｅｒｎｅｔｗｏｒｋｓ［Ａ］．ＩＥＥＥＣｏｎｆｅｒｅｎｃｅｏｎＣｏｍｐｕｔｅｒＣｏｍｍｕｎｉｃａｔｉｏｎｓ
［Ｃ］．Ｂａｒｃｅｌｏｎａ，ＥＳＰ：ＩＥＥＥ，２００６．
［１７］李建敦，彭建杰，等．云存储中一种基于布局的虚拟磁盘节能调度方法［Ｊ］．电子学报，２０１２，４０（１１）：２２４７－２２５４．ＬｉＪｉａｎ－ｄｕｎ，ＰｅｎｇＪｉａｎ－ｊｉｅ，ｅｔａｌ．Ａｌａｙｏｕｔ－ｂａｓｅｄｅｎｅｒｇｙ－ａｗａｒｅａｐｐｒｏａｃｈｆｏｒｖｉｒｔｕａｌｄｉｓｋｓｃｈｅｄｕｌｉｎｇｉｎｃｌｏｕｄｓｔｏｒａｇｅ［Ｊ］．ＡｃｔａＥｌｅｃｔｒｏｎｉｃａＳｉｎｉｃａ，２０１２，４０（１１）：２２４７－２２５４．（ｉｎＣｈｉｎｅｓｅ）［１８］ＳＢｕｃｈｈｏｌｚ，ＴＢｕｃｈｈｏｌｚ．Ｒｅｐｌｉｃａｐｌａｃｅｍｅｎｔｉｎａｄａｐｔｉｖｅｃｏｎ－ｔｅｎｔｄｉｓｔｒｉｂｕｔｉｏｎｎｅｔｗｏｒｋｓ［Ａ］．ＡＣＭＳｙｍｐｏｓｉｕｍｏｎＡｐｐｌｉｅｄＣｏｍｐｕｔｉｎｇ［Ｃ］．Ｎｉｃｏｓｉａ，Ｃｙｐｒｕｓ：ＡＣＭ，２００４．１７０５－１７１０．［１９］ＳＺｈｏｕ，ＪＫａｔｔｏ，ｅｔａｌ．Ｒｅｐｌｉｃａｔｉｏｎａｌｇｏｒｉｔｈｍｓｔｏｒｅｔｒｉｅｖｅｓｃａｌ－ａｂｌｅｓｔｒｅａｍｉｎｇｍｅｄｉａｏｖｅｒｃｏｎｔｅｎｔｄｅｌｉｖｅｒｙｎｅｔｗｏｒｋｓ［Ａ］．Ｔｈｅ５ｔｈＡＣＭＳＩＧＭＭＩｎｔｅｒｎａｔｉｏｎａｌＷｏｒｋｓｈｏｐｏｎＭｕｌｔｉｍｅｄｉａＩｎ－ｆｏｒｍａｔｉｏｎＲｅｔｒｉｅｖａｌ［Ｃ］．Ｂｅｒｋｅｌｅｙ，ＵＳＡ：ＡＣＭ，２００３．２５５－
２６１．
［２０］ＱＬｖ，ＰＣａｏ，ｅｔａｌ．Ｓｅａｒｃｈａｎｄｒｅｐｌｉｃａｔｉｏｎｉｎｕｎｓｔｒｕｃｔｕｒｅｄｐｅｅｒ－ｔｏ－ｐｅｅｒｎｅｔｗｏｒｋｓ［Ａ］．ＩｎｔｅｒｎａｔｉｏｎａｌＣｏｎｆｅｒｅｎｃｅｏｎＳｕｐｅｒ－ｃｏｍｐｕｔｉｎｇ［Ｃ］．ＮｅｗＹｏｒｋ：ＡＣＭ，２００２．８４－９５．
［２１］Ｂ－ＧＣｈｕｎ，ＫＣｈａｕｄｈｕｒｉ，ｅｔａｌ．Ｓｅｌｆｉｓｈｃａｃｈｉｎｇｉｎｄｉｓｔｒｉｂｕｔｅｄｓｙｓｔｅｍｓ：ａｇａｍｅ－ｔｈｅｏｒｅｔｉｃａｎａｌｙｓｉｓ［Ａ］．ＴｈｅＴｗｅｎｔｙ－ｔｈｉｒｄＡｎ－ｎｕａｌＡＣＭＳｙｍｐｏｓｉｕｍｏｎＰｒｉｎｃｉｐｌｅｓｏｆＤｉｓｔｒｉｂｕｔｅｄＣｏｍｐｕｔｉｎｇ
［Ｃ］．ＳｔＪｏｈｎｓ，Ｃａｎａｄａ：ＡＣＭ，２００４．２１－３０．
［２２］ＸｉａｎｇｚｈｅｎＫｏｎｇ，ＪｉｗｅｉＨｕａｎｇ，ｅｔａｌ．Ｐｅｒｆｏｒｍａｎｃｅ，ｆａｕｌｔ－ｔｏｌｅｒ－ａｎｃｅａｎｄｓｃａｌａｂｉｌｉｔｙａｎａｌｙｓｉｓｏｆｖｉｒｔｕａｌｉｎｆｒａｓｔｒｕｃｔｕｒｅｍａｎａｇｅ－ｍｅｎｔｓｙｓｔｅｍ［Ａ］．ＩＥＥＥＩｎｔｅｒｎａｔｉｏｎａｌＳｙｍｐｏｓｉｕｍｏｎＰａｒａｌｌｅｌ
ａｎｄＤｉｓｔｒｉｂｕｔｅｄＰｒｏｃｅｓｓｉｎｇｗｉｔｈＡｐｐｌｉｃａｔｉｏｎｓ［Ｃ］．Ｃｈｅｎｇｄｕ，Ｃｈｉｎａ：ＩＥＥＥ，２００９．２８２－２８９．
［２３］王丽娜，任正伟，等．一种适于云存储的数据确定性删除方法［Ｊ］．电子学报，２０１２，４０（２）：２６６－２７２．
ＷａｎｇＬｉ－ｎａ，ＲｅｎＺｈｅｎｇ－ｗｅｉ，ｅｔａｌ．Ａｄａｔａａｓｓｕｒｅｄｄｅｌｅｔｉｏｎａｐ－ｐｒｏａｃｈａｄａｐｔｅｄｆｏｒｃｌｏｕｄｓｔｏｒａｇｅ［Ｊ］．ＡｃｔａＥｌｅｃｔｒｏｎｉｃａＳｉｎｉｃａ，２０１２，４０（２）：２６６－２７２．（ｉｎＣｈｉｎｅｓｅ）
［２４］吴吉义，傅建庆，等．一种对等结构的云存储系统研究［Ｊ］．电子学报，２０１１，３９（５）：１１００－１１０７．
ＷｕＪｉ－ｙｉ，ＦｕＪｉａｎ－ｑｉｎｇ，ｅｔａｌ．ＳｔｕｄｙｏｎｔｈｅＰ２Ｐｃｌｏｕｄｓｔｏｒａｇｅｓｙｓｔｅｍ［Ｊ］．ＡｃｔａＥｌｅｃｔｒｏｎｉｃａＳｉｎｉｃａ，２０１１，３９（５）：１１００－
１１０７．（ｉｎＣｈｉｎｅｓｅ
）
作者简介
张 瑞 男，１９８６年出生于山东东营，清华
大学计算机系博士研究生．研究方向为网络安全
性分析、云存储服务系统的性能评价．
Ｅ－ｍａｉｌ：ｚｈａｎｇｒｕｉ＠ｃｓｎｅｔ１．ｃｓ．ｔｓｉｎｇｈｕａ．ｅｄｕ
．ｃｎ
林 闯 男，清华大学计算机系教授．研究
方向包括计算机网络、性能评价、网络安全性分
析以及Ｐｅｔｒｉ网理论及其应用．
孟 坤 男，清华大学计算机系博士后．研究方向为计算机网络的性能评价、网络安全性分析、服务计算和随机模型．
陈亚睿 女，清华大学计算机系博士后．研究方向为计算机网络、性能评价、用户行为分析和网络管理．
９３６
第 ４ 期张 瑞：一种高可靠性的内容云的存储机制
一种高可靠性的内容云的存储机制
作者：张瑞， 林闯， 孟坤， 陈亚睿， ZHANG Rui， LIN Chuang， MENG Kun， CHEN Ya-rui
作者单位：清华大学计算机科学与技术系,北京,100084
刊名：
电子学报
英文刊名：Acta Electronica Sinica
年，卷(期)：2014(4)
引用本文格式：张瑞.林闯.孟坤.陈亚睿.ZHANG Rui.LIN Chuang.MENG Kun.CHEN Ya-rui一种高可靠性的内容云的存储机制[期刊论文]-电子学报 2014(4)
视频云存储系统设计
视频云存储系统设计 1.1.1.1系统概述 结合目前视频存储系统技术发展的主要方向，本次视频存储系统的建设需要达成以下目标： ?采用目前技术领先的视频云存储方式，新建视频云存储系统，有效解决海量高清视频图像数据的存储和管理需求，实现分布式存储，虚拟化集中管理。 ?为充分利旧，将原有的视频存储系统改造融入视频云存储系统，实现全县范围内可利用视频资源的统一存储、统一管理、统一调阅，避免重复投资。 ?视频云存储系统提供高速数据接口，为应用平台提供视频数据高效检索、快速调取等服务功能，为公安业务应用提供有力支撑。 ?视频云存储系统提供标准的运维接口，维护便捷，实现高效实用的管理及使用机制。 1.1.1.2存储技术选择 视频监控数据的存储系统历经了多个阶段的发展，传统的视频存储技术主要有DVR存储、IPSAN存储等存储模式。而新兴的视频云存储模式基于云架构开发，采用面向用户业务应用的设计思路，融合了集群应用、负载均衡、虚拟化、云结构化、离散存储等技术，可将网络中大量各种不同类型的存储设备，通过专业应用软件集合起来协同工作，共同对外提供高性能、高可靠、不间断的视频、图片数据存储和业务访问服务。 总的来说，相比于传统的存储模式，云存储模式具有以下优势： 视频监控云存储与传统存储对比表
因此，根据项目实际情况，基于视频监控应用对存储系统的要求，着眼于技术的先进性和用户使用的便捷性，视频存储系统的建设推荐采用新型监控云存储技术来实现。 1.1.1.3存储系统架构 1.1.1.3.1视频云存储技术架构 视频云存储系统采用分层结构，整个系统从逻辑上分为五层，分别为设备层、存储层、管理层、接口层、应用层。 系统技术架构如下：
存储系统那些事
存储系统从其与生俱来的使命来说，就难以摆脱复杂系统的魔咒。无论是从单机时代的文件系统，还是后来C/S或B/S结构下数据库这样的存储中间件兴起，还是如今炙手可热的云存储服务来说，存储都很复杂，而且是越来越复杂。 存储为什么会复杂，要从什么是存储谈起。存储这个词非常平凡，存储+ 计算（操作）就构成了一个朴素的计算机模型。简单来说，存储就是负责维持计算系统的状态的单元。从维持状态的角度，我们会有最朴素的可靠性要求。比如单机时代的文件系统，机器断电、程序故障、系统重启等常规的异常，文件系统必须可以正确地应对，甚至对于磁盘扇区损坏，文件系统也需要考虑尽量将损失降到最低。对于大部分的业务程序而言，你只需要重点关注业务的正常分支流程就行，对于出乎意料的情况，通常只需抛出一个错误，告诉用户你不该这么玩。但是对于存储系统，你需要花费绝大部分精力在各种异常情况的处理上，甚至你应该认为，这些庞杂的、多样的错误分支处理，才是存储系统的“正常业务逻辑”。 到了互联网时代，有了C/S或B/S结构，存储系统又有了新指标：可用性。为了保证服务质量，那些用户看不见的服务器程序必须时时保持在线，最好做到逻辑上是不宕机的（可用性100%）。服务器程序怎么才能做到高可用性？答案是存储中间件。没有存储中间件，意味着所有的业务程序，都必须考虑每做一步就对状态进行持久化，以便自己挂掉后另一台服务器（或者自己重启后），知道之前工作到哪里了，接下去应该做些什么。但是对状态进行持久化（也就是存储）会非常繁琐，如果每个业务都自己实现，负担无疑非常沉重。但如果有了高可用的存储中间件，服务器端的业务程序就只需操作存储中间件来更新状态，通过同时启动多份业务程序的实例做互备和负载均衡，很容易实现业务逻辑上不宕机。 所以，数据库这样的存储中间件出现基本上是历史必然。尽管数据库很通用，但它决不会是唯一的存储中间件。比如业务中用到的富媒体（图片、音视频、Office文档等），我们很少会去存储到数据库中，更多的时候我们会把它们放在文件系统里。但是单机时代诞生的文件系统，真的是最适合存储这些富媒体数据的么？不，文件系统需要改变，因为： 1. 伸缩性。单机文件系统的第一个问题是单机容量有限，在存储规模超过一台机器可管理的 时候，应该怎么办。 2. 性能瓶颈。通常，单机文件系统在文件数目达到临界点后，性能会快速下降。在4TB的大 容量磁盘越来越普及的今天，这个临界点相当容易到达。 3. 可靠性要求。单机文件系统通常只是单副本的方案，但是今天单副本的存储早已无法满足 业务的可靠性要求。数据需要有冗余（比较经典的做法是3副本），并且在磁盘损坏时及早修复丢失的数据，以避免所有的副本损坏造成数据丢失。 4. 可用性要求。单机文件系统通常只是单副本的方案，在该机器宕机后，数据就不可读取， 也不可写入。 在分布式存储系统出现前，有一些基于单机文件系统的改良版本被一些应用采纳。比如在单机文件系统上加RAID5 做数据冗余，来解决单机文件系统的可靠性问题。假设RAID5 的数据修复时间是1天（实际上往往做不到，尤其是业务系统本身压力比较大的情况下，留给RAID 修复用的磁盘读写带宽很有限），这种方案单机的可靠性大概是100年丢失一次数据（即可靠性是2个9）。看起来尚可？但是你得小心两种情况。一种是你的集群规模变大，你仍然沿用这个土方法，比如你现在有100 台这样的机器，那么就会变成1年就丢失一次数据。另一种情况是如果实际数据修复时间是3 天，那么单机的可靠性就直降至4年丢失一次数据，100台就会是15天丢失一次数据。这个数字显然无法让人接受。
ENAS云存储(网盘+文档云)管理系统解决方案
易存云存储系统平台建设 项目方案 北京易存科技 2016-1-25 目录
一、方案概述 (03) 二、方案要求与建设目标 (04) 2.1 客户需求分析 (04) 2.2 系统主要功能方案 (05) 三、系统安全方案 (19) 3.1 系统部署与拓扑图 (19) 3.2 文件存储加密 (21) 3.3 SSL协议 (22) 3.4 二次保护机制 (23) 3.5 备份与恢复 (23) 四、系统集成与二次开发 (24) 4.1 用户集成 (24) 4.2 文件集成 (27) 4.3 二次开发 (29) 五、典型成功案例 (29) 六、售后服务体系 (30) 6.1公司概况 (30) 6.2 服务内容与响应时间 (31)
一、方案概述 随着互联网时代的到来，企业信息化让电子文档成为企业智慧资产的主要载体。信息流通的速度、强度和便捷度的加强，一方面让我们享受到了前所未有的方便和迅捷，但另一方面也承受着信息爆炸所带来的压力。 传统的文件管理方式已经无法满足企业在业务的快速发展中对文件的安全而高效流转的迫切需求。尤其是大文件的传输与分享，集团公司与分公司，部门与部门之间，乃至与供应商或客户之间频繁的业务往来，显得尤其重要。 文件权限失控严重，版本混乱，传递效率，查找太慢，文件日志无法追溯，历史纸质文件管理与当前业务系统有效整合对接等一系列的问题日渐变的突出和迫切。 该文档描述了北京易存科技为企业搭建文档管理系统平台的相关方案。从海量文件的存储与访问，到文件的使用，传递，在线查看，以及文件的流转再到归档和跨平台的调用最后到文件落地安全等整个文件生命周期进行逐一介绍。包括了系统的功能方案（权限管理、流程审核、高级检索等）、系统性能方案（文件存储支撑、高并发量访问处理）、系统安全方面（备份，存储加密等）系统集成方案等多方面。
毕业设计_网络存储的可靠性论文
计算机系统结构课程论文题目网络存储的可靠性 学院物电学院 专业计算机软件与理论
摘要 随着信息技术的不断发展，数据日益成为人们口常生活中重要资源。爆炸式增长的数据必然带来存储设备的持续增加。为了减少本地存储压力，云储存正成为时尚。目前，海量数据存储环境下的现代数据中心的存储节点规模少则几万多则几十万，但在规模巨大的存储环境系统中，磁盘损毁或者存储节点失效己成为一种常态行为；与此同时，因网络连接设备或者存储节点其它元器件造成的数据不可访问或者丢失现象也时有发生。为了满足口益扩展的数据存储需求，人们对数据存储的可靠性提出了更高的要求，如何实现海量数据在网络存储中低冗余度高可靠性存储己经成为业界面临的一个巨大挑战。 因而，本文网络存储中低冗余度高可靠性海量数据存储系统的关键问题，在总结了当今数据可靠性增强理论和海量数据存储系统基本架构的基础上，对基于纠删码的数据分布策略研究进行一定介绍。在存储系统中，提出了基于纠删码的数据冗余分布模型，研究了涉及到的数据读写，恢复算法等关键技术。通过理论分析得出了这种冗余方案对提高系统可靠性更有优势：要使数据达到相同的可用性，基于纠删码方案只需要较低的冗余度；同样在相同的冗余度情况下，基于纠删码冗余方案的数据有更高的可用性。 关键字: 可靠性；网络存储；海量数据；纠删码
一、绪论 近年来，随着云计算、物联网、社交网络等新兴技术的迅猛发展，无所不在的移动设备、无线射频识别标签、无线传感器等每分每秒都在产生感知世界的信息。数以亿计用户的互联网服务时时刻刻都在产生新的数据，同时记录人们生活的历史信息也呈现爆炸式增长。数据的快速增长必然带来存储设备的持续增加。同时，为了满足口益扩展的数据存储需求，数据存储系统的体系结构也在不断发展与变化，从传统的集中式存储到分布式存储，近几年还出现了云存储等新型海量数据存储模式。 2008年2月，几千个构建在亚马逊EC2和S3上的小型网站因数据中心宕机而受到影响；次年三月，谷歌公司的Docs出现系统故障，随后，联邦商务委员会被请求调查此事，以确定谷歌的云计算服务对客户的隐私与安全可能带来的隐患。可见，数据的丢失或失效，会给人们带来不可估量的损失。 进入20世纪以后，随着网络技术的持续发展、各种信息服务形式的不断出现、所需存储的数据呈现爆炸式增长，有研究者开始利用普通的PC机来构建大规模的存储系统，最为典型的是Google的GFS，例如，2004年Google的集群中的PC机节点达到18000台，每台PC越挂载两个磁盘。该技术的出现，使得人们对存储系统多了一种选择。现在，很多研究者和大型企业开始构建利用普通计算机硬件搭建的数据存储平台，如Apache Hadoop开源项目 , Facebook的Cassandra系统、淘宝的TFS ( Tao file system）。在存储系统中，特别是大规模数据存储系统中，系统会因为这样或那样的问题出现数据的暂时不可用或者丢失损毁现象。从数据存储系统的组成上看，不论是DAS, NAS, SAN构建的小型存储系统，还是大规模分布式集群系统乃至超大规模数据中心，其基本存储运算单元都可以分为三个部分:首先是由磁盘搭建的基础存储设备，它是数据存储的物质基础;其次是系统中心网络，它是连接存储资源和计算资源的神经中枢。最后是计算设备和系统管理软件，它负责计算任务的完成和系统节点的管理和监测。 一方面是存储数据量的爆炸式增长对基础存储设备规模上的需求，一方面是大规模海量数据存储系统频繁的失效行为，另一方面是数据的丢失给数据拥有者和使用者带来的巨大损失，这一切使得数据存储系统的可靠性成为海量数据存储面临的一个函待解决的重要挑战。当然，系统的可靠性问题可以通过单纯增加硬件冗余的方式加以解决，但这样带来的硬件成本太高，本文则从数据管理与组织的角度探讨应对海量数据存储系统中数据的可靠性问题。 二、存储系统的可靠性
天网云存储系统建设方案
天网云存储系统建设方案 1.1存储需求概述 XX天网二期需要建设XX个高清监控点位，随着城市防控体系系统规模越来越大，以及高清视频的大规模应用，对系统中需要存储的数据和应用的复杂程度在不断提高，且视频数据需要长时间持续地保存到存储系统中，并要求随时可以调用，对存储系统的可靠性和性能等方面都提出了新的要求。 面对数百TB甚至上PB级的海量视频存储需求，传统的SAN或NAS在容量和性能的扩展上会存在瓶颈。而云存储可以突破这些性能瓶颈，而且可以实现性能与容量的线性扩展，这对于本项目存储系统来说是一个新选择。 视频云存储通过软件运用集群技术、虚拟化技术、分布式存储技术将网络中的存储设备集合起来协同工作，共同对外提供数据存储和业务访问功能。为满足本次高清点位视频存储的需求，同时符合行业发展趋势，满足业务使用需求，本次XX天网二期拟建设云存储系统进行录像存储和业务访问接口。 大容量存储需求 随着各地城市视频监控系统建设的深入，摄像头数量日益增多。前端建设普遍采用1080P高清摄像机。依据平安城市的建设要求，高清图像存储30天，那么一万路视频的总存储容量需要大致为十几个PB。 集中存储需求 对于城市级系统数十PB的存储需求，若采用通用IPSAN存储方案，则需上千台IPSAN，难以实现高效、统一的存储与设备管理，无法高效支撑公安视频实战应用。 高IO性能需求 基于视频大数据的智能实战应用对大量视频的快速收集与分析有非常高的要求，而传统IPSAN存储方式由于IO性能低，无法满足视频大数据应用的存储与应用要求。
1.2存储系统基本要求 在设计XX天网视频监控系统存储系统时，依据以下设计要求： (1)监控点的录像过程将对网络交换设备产生很大的压力，核心交换机应能负担如此大的交换压力，需考虑网络故障以后录像数据的缓存功能以及网络恢复以后的补录功能。 (2)能集中管理所有存储资源并统一调度，统一部署存储策略。与存储资源物理位置无关，只要IP网可达，便可实现对存储资源随时随地检索和回放。 （3）保障存储系统数据的安全性，对访问权限进行集中管理与分配。 （4）存储空间统一管理、统一分配，可实现无缝在线扩容。 (5)存储系统具有冗余备份的能力，提供持续稳定的性能。 (6)存储系统提供标准的运维接口，维护简单方便。 (8)存储系统具备高可靠性，出现设备故障后，存储业务不中断。 本项目在XX分局建设分布式视频云存储中心，每个存储中心依据接入到该区的视频前端的数量实际情况，规划建设分布式云存储系统。 1.3云存储拓扑示意图 UCS的存储节点通过Uni-FS分布式文件系统，将多台存储节点上的物理资
云存储部分功能描述
宇视科技推出的全新一代分布式云存储系统产品，采用无元数据的全对称分布式架构，以大规模横向扩展、纵向扩展能力以及PB级单一存储空间为视频监控等应用提供非结构化数据共享存储资源。云存储系统支持POSIX、iSCSI、NFS、CIFS、FTP、HTTP、REST等标准访问协议，兼容HDFS API，支持Hadoop应用，充分满足各种业务需求。 1.1 空间虚拟化 Uni-FS是运行于我司云存储系统所有存储节点之上的分布式文件系统，它将各物理存储设备节点组成一个集群，对外提供文件存取和数据保护等功。它采用无元数据设计的全对称分布式架构，支持3～300个存储节点的弹性无缝扩展，可提供PB级单一存储空间。 1.2 全局统一命名空间 分布式文件系统最大的特点之一就是提供全局统一的命名空间。全局统一命名空间就是将多个存储服务器的磁盘和内存资源聚集成一个单一的虚拟存储池，对上层用户和应用屏蔽了底层的物理硬件。存储资源可以根据需要在虚拟存储池中进行弹性扩展。全局统一命名空间可以让不同的用户通过单一挂载点进行数据共享，I/O可在命名空间内的所有存储设备上自动进行负载均衡。 我司云存储系统是基于Uni-FS文件系统提供统一命名空间，在同一个云存储系统中可以同时有多个Uni-FS文件系统的卷（物理资源池，由多个存储设备的资源组成），不同的卷创建的文件系统有不同的命名空间。我司云存储系统同时也是基于Uni-FS文件系统的卷提供共享文件目录，因此不同用户可通过访问这个单一的共享文件目录，实现IO在这个Uni-FS 文件系统命名空间内的所有存储设备上自动负载均衡。 1.3 弹性扩展 我司云存储系统的无元数据，通过弹性HASH算法定位文件访问的架构，决定了我司云存储系统获得了接近线性的高扩展性。 我司云存储系统支持从横向和纵向的扩展模式，实现在容量、性能和带宽三方面的线性扩展。 Scale-Out横向扩展：通过增加存储节点，实现系统容量、性能和带宽的扩展。存
一级视频云存储技术方案
1一级视频云存储系统设计 1.1一级网络视频云存储概述 本项目采用华为网络视频云存储VCN3000设计一级视频云存储子系统.采取分布式直接存储，集中管理的方式，针对摄像头视频存储硬件采用针对视频存储优化的网络视频存储和磁盘阵列，所有的存储设备部署在各辖区运营商机房(六个),前端摄像头采用标准的H.264编码RTP流，直写到网络视频存储中。 华为网络视频云存储VCN3000采用由管理平台、IP网络,通过虚拟化、云结构化和高精确视频直接存储模式。运用负载均衡、对象存储等技术，结合视频、图片数据特点，面向应用，满足视频监控业务高可靠性、不间断的海量存储需求。采用分散存储技术加速大数据智能分析快速提取和分析效率。 华为网络视频云存储VCN3000系统使用存储虚拟化技术针对海量存储应用需求，为用户提供透明存储构架、高可扩展性的云管理存储服务。在云管理存储系统中将信令与业务承载码流相分离，云管理服务器只处理控制信令而不处理视频数据，实时视频数据直接写入到云管理存储物理存储节点，无需中间环节。 视频云管理存储管理软件在市局监控中心以集群方式进行部署，实现全市所有监控点和所有云管理存储物理设备的统一管理。 视频云管理存储系统中，IPC直写存储设备，采用云管理方案解决云管理存储管理单节点失效问题，利用负载均衡技术充分利用各存储节点的性能。云管理存储系统采用统一接口与视频管理平台对接，降低平台维护和用户管理复杂度。 华为网络视频云存储VCN3000支持基于GB/T28181标准实现与各级标准平台（符合GB/T28181规范的标准平台）间的互联互通，平台之间通过信令安全路由网关进行信令对接，在信令的控制下媒体通过媒体服务器互联。该体系构架可以支持上下级级联、平级级联以及监控报警专网与公安网的互联。
关于云存储系统的六大技术分析
关于云存储系统的六大技术分析 随着监控领域的飞速发展，新技术的诞生也是接踵而至，云存储是人们最为乐道的高新技术产品。它具有如下几大主要的技术。 云存储系统具有如下特点：数据安全，超强的可扩展性，按照使用收费，可跨不同应用，自动切换故障，易于管理等。云存储主要应用于备份、归档、分配和共享协作等四大领域。云存储是在云计算概念上延伸和发展出来的一个新概念，是指通过集群应用、网格技术或分布式文件系统等功能，将网络中大量各种不同类型的存储设备通过应用软件集合起来协同工作，共同对外提供数据存储和业务访问功能的一个系统。当云计算系统运算和处理的核心是大量数据的存储和管理时，云计算系统中就需要配置大量的存储设备，那么云计算系统就转变成为一个云存储系统，所以云存储是一个以数据存储和管理为核心的云计算系统。 与云计算系统相比，云存储可以认为是配置了大容量存储空间的一个云计算系统。云存储系统具有如下特点：数据安全，超强的可扩展性，按照使用收费，可跨不同应用，自动切换故障，易于管理等。云存储主要应用于备份、归档、分配和共享协作等四大领域。 云存储系统是一个多设备、多应用、多服务协同工作的集合体，它的实现要以多种技术的发展为前提。根据云存储的特点及其应用领域，主要的云存储技术涉及到存储虚拟化，分布式文件系统，集群存储，存储集中管理，异质平台协同，自动分级存储等方面，当然还有重复数据删除、数据压缩等技术。 存储虚拟化存储虚拟化（StorageVirtualizaTIon）最通俗的理解就是对存储硬件资源进行抽象化表现。通过将一个（或多个）目标服务或功能与其它附加的功能集成，统一提供有用的全面功能服务。典型的虚拟化包括如下一些情况：屏蔽系统的复杂性，增加或集成新的功能，仿真、整合或分解现有的服务功能等。虚拟化是作用在一个或者多个实体上的，而这些实体则是用来提供存储资源或服务的。 存储虚拟化是一种贯穿于整个IT环境、用于简化本来可能会相对复杂的底层基础架构的技术。存储虚拟化的思想是将资源的逻辑映像与物理存储分开，从而为系统和管理员提供
云存储部分功能描述
1 云存储虚拟化设计 宇视科技推出的全新一代分布式云存储系统产品，采用无元数据的全对称分布式架构，以大规模横向扩展、纵向扩展能力以及PB级单一存储空间为视频监控等应用提供非结构化数据共享存储资源。云存储系统支持POSIX、iSCSI、NFS、CIFS、FTP、HTTP、REST等标准访问协议，兼容HDFS API，支持Hadoop应用，充分满足各种业务需求。 1.1 空间虚拟化 Uni-FS是运行于我司云存储系统所有存储节点之上的分布式文件系统，它将各物理存储设备节点组成一个集群，对外提供文件存取和数据保护等功。它采用无元数据设计的全对称分布式架构，支持3～300个存储节点的弹性无缝扩展，可提供PB级单一存储空间。 1.2 全局统一命名空间 分布式文件系统最大的特点之一就是提供全局统一的命名空间。全局统一命名空间就是将多个存储服务器的磁盘和内存资源聚集成一个单一的虚拟存储池，对上层用户和应用屏蔽了底层的物理硬件。存储资源可以根据需要在虚拟存储池中进行弹性扩展。全局统一命名空间可以让不同的用户通过单一挂载点进行数据共享，I/O可在命名空间内的所有存储设备上自动进行负载均衡。 我司云存储系统是基于Uni-FS文件系统提供统一命名空间，在同一个云存储系统中可以同时有多个Uni-FS文件系统的卷（物理资源池，由多个存储设备的资源组成），不同的卷创建的文件系统有不同的命名空间。我司云存储系统同时也是基于Uni-FS文件系统的卷提供共享文件目录，因此不同用户可通过访问这个单一的共享文件目录，实现IO在这个Uni-FS 文件系统命名空间内的所有存储设备上自动负载均衡。 1.3 弹性扩展 我司云存储系统的无元数据，通过弹性HASH算法定位文件访问的架构，决定了我司云存储系统获得了接近线性的高扩展性。
RAID系统的可靠性分析
RAID系统的可靠性分析 一个存储系统要达到一定的可靠性，则各单独的部分都需要达到一定的可靠度要求。在RAID系统中，系统的可靠性可分配到每个硬盘中，但是整个系统的可靠性并不是它们的总和。不同的阵列级别都有不同的分配模式，故有不同的性能和冗余。 1 1、不同的RAID级别可靠性模型 本文提供了在RAID中硬盘间关系的数学模型。使用这些模型，对不同的RAID类型对整个磁盘阵列的可靠性的影响进行了评估。虽然一个磁盘阵列中可以包含不同级别的RAID和不同容量的磁盘，但本文是以8个硬盘在同一阵列中并采用同一RAID级别为例。并假定使用的硬盘为100％使用率，并在3年以内的时间内可靠性为90%（本文以后的计算数据均为这3年内的可靠性）。 2 A、RAID0：数据条带 RAID0即条带：将数据分为同等大小的数据块并分别放到不同的磁盘上。例如：一个150K 的文件可被条带化为10个15K的数据块。一组条带化的磁盘对操作系统来说就是一个独立的逻辑盘。 条带提供了一个低成本提高磁盘I/O性能的方法。但是RAID0不提供任何数据冗余，如果任何一个磁盘失效，所有的数据都会丢失。 假设一个有6个硬盘的RAID0阵列，其可靠性的逻辑图如下图所示： í?1 RAID0的可靠性框图 所有的硬盘为串行，则其可靠性的数学模型为： n R RAIDSET=R HDDi i=1 如果每个硬盘在三年内的可靠性为90％，则8个硬盘的RAID0系统在三年类的可靠性为： 8 R RAIDSET=0.9=0.4305 i=1 即数据不会丢失的概率为43.05％。而且随着硬盘数量的增加，系统的可靠性急剧下降。 3 B、RAID1和RAID10：磁盘镜像和复制 RAID1为磁盘镜像，即写到某个磁盘的数据都会被复制到另一个磁盘中。RAID1要求至少有两个硬盘组成一组，成为一个阵列组。例如：在有三个硬盘的阵列中，可以用第一和第二个硬盘数据镜像，而第三个硬盘做为热冗余（Hotspare）硬盘；有四个硬盘就可以分别创建两个RAID1... 镜像可以提供数据冗余，并且可以改进读性能。在RAID1配置中，一个硬盘失效不会造成数据丢失。然而，如果在一个RAID1组中的两个硬盘都失效，则数据会丢失。 其可靠性的逻辑图如下图所示： í?1 RAID10的可靠性框图 则其可靠性的数学模型为： RAID组数目 R array=[(1-(1-R HDD1)(1-R HDD2)] i=1 如有8个硬盘则： 4 R array=[(1-(1-0.9)(1-0.9)]=0.9606
云存储
1 云存储技术 云存储系统与传统存储系统相比，具有如下不同：第一，从功能需求来看，云存储系统面向多种类型的网络在线存储服务，而传统存储系统则面向如高性能计算、事务处理等应用；第二，从性能需求来看，云存储服务首先需要考虑的是数据的安全、可靠、效率等指标，而且由于用户规模大、服务范围广、网络环境复杂多变等特点，实现高质量的云存储服务必将面临更大的技术挑战；第三，从数据管理来看，云存储系统不仅要提供类似于POSIX的传统文件访问，还要能够支持海量数据管理并提供公共服务支撑功能，以方便云存储系统后台数据的维护。 基于上述特点，云存储平台整体架构可划分为4个层次，自底向上依次是：数据存储层、数据管理层、数据服务层以及用户访问层。云存储平台整体架构如图1所示。 (1)数据存储层 云存储系统对外提供多种不同的存储服务，各种服务的数据统一存放在云存储系统中，形成一个海量数据池。从大多数网络服务后台数据组织方式来看，传统基于单服务器的数据组织难以满足广域网多用户条件下的吞吐性能和存储容量需求[7]；基于P2P架构的数据组织需要庞大的节点数量和复杂编码算法保证数据可靠性[8]。相比而言，基于多存储服务器的数据组织方法能够更好满足在线存储服务的应用需求[9]，在用
户规模较大时，构建分布式数据中心能够为不同地理区域的用户提供更好的服务质量[10]。 云存储的数据存储层将不同类型的存储设备互连起来，实现海量数据的统一管理，同时实现对存储设备的集中管理、状态监控以及容量的动态扩展，实质是一种面向服务的分布式存储系统。 (2)数据管理层 云存储系统架构中的数据管理层为上层提供不同服务间公共管理的统一视图。通过设计统一的用户管理、安全管理、副本管理及策略管理等公共数据管理功能，将底层存储及上层应用无缝衔接起来，实现多存储设备之间的协同工作，以更好的性能对外提供多种服务。 (3)数据服务层 数据服务层是云存储平台中可以灵活扩展的、直接面向用户的部分。根据用户需求，可以开发出不同的应用接口，提供相应的服务。比如数据存储服务、空间租赁服务、公共资源服务、多用户数据共享服务、数据备份服务等。 (4)用户访问层 通过用户访问层，任何一个授权用户都可以在任何地方，使用一台联网的终端设备，按照标准的公用应用接口来登录云存储平台，享受云存储服务。与传统的购买存储设备和部署存储软件相比，云存储方式存在以下优点： (1)成本低、见效快 传统的购买存储设备或软件定制方式下，企业根据信息化管理的需求，一次性投入大量资金购置硬件设备、搭建平台。软件开发则经过漫长的可行性分析、需求调研、软件设计、编码、测试这一过程。往往在软件开发完成以后，业务需求发生变化，不得不对软件进行返工，不仅影响质量，提高成本，更是延误了企业信息化进程，同时造成了企业之间的低水平重复投资以及企业内部周期性、高成本的技术升级。在云存储方式下，企业除了配置必要的终端设备接收存储服务外，不需要投入额外的资金来搭建平台。企业只需按用户数分期租用服务，规避了一次性投资的风险，降低了使用成本，而且对于选定的服务，可以立即投入使用，既方便又快捷。
华为OceanStor 企业统一存储可靠性技术白皮书
华为OceanStor 企业统一存储 可靠性技术白皮书 文档版本 01 发布日期 2014-3-18 华为技术有限公司
版权所有? 华为技术有限公司2014。保留一切权利。 非经本公司书面许可，任何单位和个人不得擅自摘抄、复制本文档内容的部分或全部，并不得以任何形式传播。 商标声明 和其他华为商标均为华为技术有限公司的商标。 本文档提及的其他所有商标或注册商标，由各自的所有人拥有。 注意 您购买的产品、服务或特性等应受华为公司商业合同和条款的约束，本文档中描述的全部或部分产品、服务或特性可能不在您的购买或使用范围之内。除非合同另有约定，华为公司对本文档内容不做任何明示或默示的声明或保证。 由于产品版本升级或其他原因，本文档内容会不定期进行更新。除非另有约定，本文档仅作为使用指导，本文档中的所有陈述、信息和建议不构成任何明示或暗示的担保。 华为技术有限公司 地址：深圳市龙岗区坂田华为总部办公楼邮编：518129 网址：https://www.wendangku.net/doc/da11663327.html, 客户服务邮箱：support@https://www.wendangku.net/doc/da11663327.html, 客户服务电话：4008302118
目录 1 概述 (5) 1.1 华为OceanStor企业统一存储产品概述 (5) 1.2 华为OceanStor企业统一存储可靠性概述 (1) 2 系统可靠性设计 (2) 2.1 架构可靠性设计 (2) 2.2 基本可靠性设计 (3) 2.3 模块级可靠性设计 (4) 2.4 多重硬盘故障容错设计 (5) 2.5 端到端的数据完整性保证设计 (6) 2.6 创新的数据保护设计 (7) 2.7 智能的QoS设计 (8) 2.8 完善的数据备份和容灾方案 (9) 3 精益的制造加工 (11) 3.1 单板-整机制造全流程质量保证 (11) 3.2 硬盘生产质量保证 (12) 3.3 整柜制造及交付 (13) 4 完善的运维流程 (14) 4.1 在线维护 (14) 4.2 高效及时的Cloud Service服务 (15) 4.3 维保服务 (15) 5 缩略语表/Acronyms and Abbreviations (16)
云存储及架构
xx存储原理及系统构架 摘要： 云存储作为一个新兴的研究和应用领域，由于其快速部署、低成本、灵活调整规模等优势被越来越多的企业应用。基于以上研究云存储，本文基于《云存储解析》内容，具体分析了云存储系统构架模式、技术优势及特点，并与传统的存储架构模式进行了对比。 前言 作为近几年兴起的“云计算(CloudComputing)”的一大重要组成部分，“云存储(CloudStorage)”承担着最底层以服务形式收集、存储和处理数据的任务，并在此基础上展开上层的云平台、云服务等业务。与传统的存储设备相比，云存储不仅仅是一个硬件，而是一个网络设备、存储设备、服务器、应用软件、公用访问接口、接入网和客户端程序等多个部分组成的系统。 云存储提供的是存储服务，存储服务通过网络将本地数据存放在存储服务提供商(SSP)提供的在线存储空间。需要存储服务的用户不再需要建立自己的数据中心，只需向SSP申请存储服务，从而避免了存储平台的重复建设，节约了昂贵的软硬件基础设施投资。 1xx存储技术 云存储系统与传统存储系统相比，具有如下不同： 第一，从功能需求来看，云存储系统面向多种类型的网络在线存储服务，而传统存储系统则面向如高性能计算、事务处理等应用；第二，从性能需求来看，云存储服务首先需要考虑的是数据的安全、可靠、效率等指标，而且由于用户规模大、服务范围广、网络环境复杂多变等特点，实现高质量的云存储服务必将面临更大的技术挑战；第三，从数据管理来看，云存储系统不仅要提供类似于POSIX的传统文件访问，还要能够支持海量数据管理并提供公共服务支撑功能，以方便云存储系统后台数据的维护。 基于上述特点，云存储平台整体架构可划分为4个层次，自底向上依次是：
视频云存储方案 (1)
视频监控系统整合云存储方案 2016年11月 目录
一、前言 物联网与视频监控 当前，物联网技术在社会公共安全领域的综合应用时机已逐渐成熟。视频监控技术是物联网技术的重要组成部分，是感知安防的主要手段。视频监控也是应用历史相对较长、技术密集度较大的应用领域。在信息化建设深入开展的背景下，现有视频监控网络存在着缺乏深度应用的模式、监控网的智慧化程度不高、系统建设的投入产出比低等突出问题。如何用新技术改造现有的视频监控网络，使之能更好地适应物联网时代视频监控智慧化、情报化的应用需求已迫在眉睫。 视频监控系统作为面向城市公共安全综合管理的物联网应用中智慧安防和智慧交通的重要组成部分，面临着深度应用的巨大挑战。其应用的瓶颈是视频信息如何高效提取，如何同其他信息系统进行标准数据交换、互联互通及语义互操作。解决这一问题的核心技术即是视频结构化描述技术。用视频结构化描述技术改造传统的视频监控系统，使之形成新一代的视频监控系统———智慧化、语义化、情报化的语义视频监控系统。? 视频监控应用和技术的瓶颈 视频监控系统在社会管理和案件侦破等工作中有着不可替代的作用。粗略估算，"十一五"期间全国各地投入到视频监控系统建设的资金约为数十亿元。视频监控系统无论在数目还是在建设资金的规模上都非常庞大。 目前视频监控系统应用中存在一些突出问题： 1.缺少视频信息情报的标准化生成方法，进而缺少利用视频信息情报指导侦查、破案的新型警务工作模式。 2.视频信息的跨域、跨警种共享以及与其他信息系统的互联互通问题突出，跨系统的语言不统一造成信息成为一个个的孤岛，限制了大情报、大信息系统的建设及应用。 3.存储传输的问题、由于要节省大量的存储空间及传输带宽的限制，不得不对视频数据进行大量压缩，不仅造成图像模糊的问题，而且视频压缩时固定压缩比的方式不够灵活，不得不占用大量的存储空间及传输带宽。 4.高效计算的问题。由于视频监控要求计算的多功能性和实时性，而视频数据的特殊性，带来计算成本的增加，需要构建统一的用于视频监控的视频计算理论和框架。 5.视频信息化情报化警务应用各环节缺乏统一的标准和规范。所有这些问题的根本在于对视频内容的不理解，没有一个高效的、标准化的视频数据交换和视频情报提取的方法。解决这些实际问题，需要对视频结构化描述及以此技术为核心的新型视频监控系统构建进行重点研究。 视频结构化描述技术的目标及应用前景
基于Ceph云存储系统的数据分布策略与可靠性研究
Research on Data Distribution Strategy and Reliability Based on Ceph Cloud Storage System Abstract With the rapid development of Internet of Things, big data and cloud computing technologies, the amount of Internet data increases exponentially, and the form of data resources tends to be complex and diversified. Therefore, the safe and efficient data storage scheme is very important. Considering that the traditional centralized storage is limited by capacity, price, and security, the current massive data storage adopts a distributed storage solution for cloud storage. The distributed storage systems for cloud storage include GFS, HDFS, Ceph, TFS and so on. Among them, the Ceph distributed storage system, which is a milestone in the open source storage field, has been widely adopted because of its advantages such as high performance, high reliability, and easy scalability. As the core algorithm of data distribution in the Ceph storage system, the CRUSH algorithm can map the physical cluster into a table with a hierarchical structure. During data storage, a weighted operation is performed according to the mapping table and node weights to obtain a set of storage nodes corresponding to the data. It is mainly used to deal with the effective mapping of data to storage devices and data migration problems caused by changing of cluster system structure. However, the CRUSH algorithm still has some shortcomings, mainly as follows: First, the CRUSH algorithm has complex implementation and large code size. Second, in the Ceph small-scale storage cluster, due to the pseudo-randomness of the CRUSH algorithm, the distribution of PGs in the storage nodes of the cluster is uneven, this can lead to uneven distribution of data between nodes. This article has done the following research on the above issues: (1) Aiming at the complexity of object distribution algorithms in distributed storage clusters, the uneven distribution of objects, and the cluster migration problem when nodes fail, this paper presents an object distribution algorithm based on two-dimensional arrays. The algorithm is simple, supports weights and data redundancy, which can be used to represent a one-to-many functional relationship between data objects and storage nodes. When a data object storage node is selected, a jump Hash is used to locate it. At the same time, duplicate detection processing mechanism is introduced to avoid different copies of the data object are storage in the same fault domains. (2) In order to solve the uneven distribution of PG due to the pseudo-randomness of the CRUSH algorithm in the small cluster, a weighted tree-based object distribution algorithm II
云存储介绍
云存储介绍 作者：Tiger@中国云计算论坛 Email：binboth@https://www.wendangku.net/doc/da11663327.html, QQ号: 1036479498
云存储（Cloud Storage）这个概念一经提出，就得到了众多厂商的支持和关注。如：Amazon推出的Elastic Compute Cloud（EC2：弹性计算云）云存储产品，旨在为用户提供互联网服务形式同时提供更强的存储和计算功能。内容分发网络服务提供商CDNetworks和著名的云存储平台服务商Nirvanix发布了一项新的合作，并宣布结成战略伙伴关系，以提供业界目前唯一的云存储和内容传送服务集成平台。微软推出了提供网络移动硬盘服务的Windows Live SkyDrive Beta测试版。EMC加入道里可信基础架构项目，致力于云计算环境下关于信任和可靠度保证的全球研究协作。IBM也将云计算标准作为全球备份中心的3亿美元扩展方案的一部分。 云存储变得越来越热，大家众说纷“云”，而且各有各的说法，各有各的观点，那么到底什么是云存储？ 一、什么是云存储 云存储在云计算(Cloud Computing)概念上延伸和发展出来的一个新的概念。云计算是是分布式处理(Distributed Computing)、并行处理(Parallel Computing)和网格计算(Grid Computing)的发展，是透过网络将庞大的计算处理程序自动分拆成无数个较小的子程序，再交由多部服务器所组成的庞大系统经计算分析之后将处理结果回传给用户。通过云计算技术，网络服务提供者可以在数秒之内，处理数以千万计甚至亿计的信息，达到和“超级计算机”同样强大的网络服务。 云存储的概念与云计算类似，它是指通过集群应用、网格技术或分布式文件系统等功能，将网络中大量各种不同类型的存储设备通过应用软件集合起来协同工作，共同对外提供数据存储和业务访问功能的系统。 为了让云存储的定义更加清晰明了一些，与企业IT专家常打交道的行业分析师重新整理了一下云存储的定义，概括出了云存储具有如下特点：（1）超强的可扩展性；（2）不受具体地理位置所限；（3）基于商业组件；（4）按照使用收费，如每G收15美分；（5）可跨不同应用。
基于开源软件的云存储系统设计与实现毕业设计论文
中文摘要 NAS 网络附属存储是以存储数据为核心，从服务器上剥离所需要的数据进行存储，以便集中管理。简单的说就是一个网络版的硬盘存储器。由于服务器上的数据都有备份，这样用户就能更好的发挥宽带的性能 基于 Li nu x 的系统上运行一个免费的软件产品 ope nf i l e r , 把存在分歧的 S AN和 NAS 合并为一个 S AN- NAS 的混合，从同一个系统提供的文件级协议（ NAS ）和块级协议（ S A N）。这说明 S AN 和 NAS 并不是相互排斥的。 松散概念化的 NAS 和 S AN之间的差异的方法之一是出现了 NAS 作为文件服务器通过S AN 磁盘（客户端可以映射到该服务器上的共享的网络驱动器，而客户端 O S（操作系统））似乎仍然作为一个磁盘的客户端操作系统，在磁盘和卷管理工具（以及与客户的本地磁盘）。提供与文件系统格式化和安装。 云存储将大量不同类型的存储设备通过软件集合起来协同工作 , 共同对外提供数据 存储服务。云存储服务对传统存储技术在数据安全性、可靠性、易管理性等方面提出新的挑战。用 ope nf i l e r 配臵了一个 NAS 磁盘，创建了 LDAP 认证保护，满足用户对空间的需求，解除网络安全的后顾之忧。 关键词：网络附属存储（ N AS ）；存储区域网络（ S AN）； o p e n f i l e r ； LD AP；云存储
cl ou d s tora g e sy ste m de s ig n a nd Im p l e m e nta ti on of the ope n sou rc e softw a re a u thor: Zha ng H a i y a ng tu tor: Zhe ng P e ng Abstract NA S N etw ork A tta c hed S tora g e i s to store da ta a s the c ore, strippi ng the re q u i red da ta from th e serv er stora g e to c e ntra l i z e d m a na g e m e nt. S i m p l y pu t, a netw ork v ersi o n o f th e ha rd di sk stora g e . Da ta on the serv er ha s a ba ck u p, so u sers w i l l be a bl e to better pla y to the pe r form a nce of broa dba nd T he O p enfil er ba se d on a L inu x sy ste m ru nni ng on a fre e softw a re produ ct, the re a re di ffere nce s of S A N a nd N A S m e rg er for a S A N - N A S hy bri d from the sa m e sy ste m to prov id e th e fi l e - l ev el protocol s ( N A S ) a nd b lock -l e v e l a g re e m ents ( S A N s) . T hi s show s tha t S A N a n d NA S a re no t m u tu a l l y ex clu si v e . One w a y to l oo se l y c o nc e ptu a l i z e th e di ffe re nc e be tw ee n a N A S a nd a S A N i s tha t a N A S a ppea r s to the c l i ent OS ( opera ti ng sy ste m ) a s a fi l e serv er ( the cl i e nt ca n m a p n e tw ork dri v e s to sha re s on tha t serv er) w h erea s a di sk a v a i l a b l e throu g h a S A N sti l l a pp ea r s to the c l i ent O S a s a di sk , v i s ib l e i n di sk a nd v olu m e m a na g e m e nt u ti l i ti e s ( a long w i th c l i ent's loca l di sk s) , a n d a v a i l a bl e to be form a tted w i th a f i l e sy ste m a nd m ou nte d. C lou d stora g e w i l l be tog ethe r a l ot of d i fferen t ty pe s of stora g e d e v i ce s throu g h the softw a re to w ork tog ether, a com m on ex terna l da ta stora g e serv i c e s . C l ou d s tora g e serv i c e s of tra ditiona l s tora g e te chn ol og y in da ta se cu ri ty, re l i a b i l i ty, ea se of m a na g e m e nt a nd other ne w cha l l eng e s. U s ing the ope nfi l er confi g u re a N A S di sk , crea te a L D A P a u thentica tio n prote c tio n to m e et the ne e d s of the u ser spa c e , the l i fti ng o f the w orri e s for the fu tu re of ne tw ork se cu ri ty K e y w o r d s : N etw ork -a tta c he d s tora g e ( N A S ) ; S tora g e a rea netw ork ( S A N); Op e nfil er; L DA P; C l ou d s tora g e