OpenStack Swift 存储策略

Swift 2.0 于 2014 年 7 月 8 日发布，其中最重要的新特性是存储策略（Storage

Policy），该特性改变了以往存储系统中存储策略由设计与实施方决定的做法，让用户能够以 Container 为粒度，为不同需求的数据指定不同的副本数量、不同参数的纠删码、不同性能的存储介质、不同地理位置、不同的后端存储设备。存储策略充分体现了 Swift”软件定义存储”（Software

Defined Storage）的特点。

为了实现存储策略，Swift 在原先三个环（Ring）的架构基础上进行了改进。Swift

为账户、容器和对象分别定义了的环，通过环将虚拟节点（分区）映射到一组物理存储设备上。在 Swift 2.0 中，每个存储策略对应一个 Object

Ring。

回页首

Swift 存储策略的配置与使用

配置存储策略

设置存储策略分为两步：编辑配置文件 swift.conf 文件，创建相应的 Object

Ring。在配置文件中每个存储策略以[storage-policy:N]开头，其中 N 是策略的编号。对于该文件的解析遵循以下规则：

1. 如果该文件中没有声明任何策略，Swift 会自己创建一个；
2. 策略编号应当位非负整数；
3. 如果没有声明默认策略，Swift 会把编号为 0 的策略设为默认策略；
4. 策略编号必须唯一；
5. 策略应当具有名字，策略命名区分大小且必须唯一；
6. 策略名称只能包含字母、数字和连字符，”Policy-0″只能用于编号为 0 的策略；
7. 定义策略之后，应当有一个且仅有一个策略被指定为默认策略；
8. “废弃”（Deprecated）策略不能同时为默认策略。

下面是一个 swift.conf 文件的示例：

[swift-hash]</p><p># random unique strings that can never change (DO NOT LOSE)</p><p>swift_hash_path_prefix = changeme</p><p>swift_hash_path_suffix = changeme</p><p>[storage-policy:0]</p><p>name = apple</p><p>default = yes</p><p>[storage-policy:1]</p><p>name = orange</p><p>deprecated = yes

完成 swift.conf 文件的编辑，下一步是为每个存储策略创建相应的 Object Ring，方法和创建老版本 Object

Ring 类似，只是要在 object 后面加上”-N”，这里的 N 是存储策略的编号。例如，为上述编号为 0 和 1 的存储策略创建 Object

Ring：

swift-ring-builder object-0.builder create 10 3 1</p><p>swift-ring-builder object-1.builder create 10 2 1

使用存储策略

存储策略的使用非常简单，只需要在创建 container 是指定存储策略即可，下面以 SAIO 部署为例加以说明：

curl -v -X PUT -H 'X-Auth-Token: &lt;your auth token&gt;' -H \</p><p>    "X-Storage-Policy: orange" \</p><p>    http://127.0.0.1:8080/v1/AUTH_test/myCont1</p><p>curl -X PUT -v -T file1.txt -H 'X-Auth-Token: &lt;your auth token&gt;' \</p><p>http://127.0.0.1:8080/v1/AUTH_test/myCont1/

然后执行：

curl -X GET –v \</p><p> http://127.0.0.1:8080/endpoints/AUTH_test/myCont1/file1.txt

例如，会看到如下结果：

["http://127.0.0.1:6010/sdb1/32/AUTH_test/myCont1/file1.txt",</p><p>"http://127.0.0.1:6040/sdb4/32/AUTH_test/myCont1/file1.txt"]

说明 Storage Policy 已经成功发挥作用。

存储策略的应用模式

上述提到副本数量的改变，只是存储策略的应用模式的一种，在实际应用中，可以有以下几种模式：

1. 缩减或增加冗余

   对于一些数据，它们不需要保证很高的数据持久性和可靠性，比较典型的是图像的缩略图，它们可以由原图降采样得到，在这种情况下，可以对原图采用三副本方案，对缩略图采用双副本方案，降低存储系统的开销。

   图 1.为不同的 Container 指定不同的副本数量

   

2. 性能分层

   例如，对于一些数据用 HDD 保存，另一些用 SSD 保存。也可以应用于其他存储介质，甚至是不同的存储设备。

   图 2.为不同的 Container 指定不同的存储介质

   

3. 地理位置约束

   在某些场景下，因为公司或者国家的政策的约束，某些数据必须存储在指定的地理位置，例如混合云场景。有些场景下，用户希望指定数据存放在距离访问客户端比较近的地方。

   图 3.为不同的 Container 指定不同的存储位置

   

4. 应用纠删码（Erasure Codes）

   对于性能要求不高的场合，应用纠删码。纠删码，又称为删除码，将对象分割为 m

   个分片（fragments），并通过编码生成 k 个校验分片，最后将这

   n=m+k 个分片放到 Swift 对象存储系统的不同位置（通常是 swift 的不同 zone 中）。对于将 m 个分片编码为 n 个分片的纠删码，记为EC(m,

   n)。纠删码的示意图如下：

   图 4.纠删码示意图

   

   纠删码在提高存储空间利用率的同时，保持或增加数据的持久性（durability）和可靠性。但是由于编码、解码和恢复数据往往需要较大的计算量，可能导致性能的降低，所以比较适用于对持久性和可靠性要求比较高，但是访问量并不大的数据存储。

   图 5 .应用纠删码保护数据

   

回页首

在某视频网站中的应用案例

在某视频网站中，采用 Swift 存储视频文件，并对其部分文件根据视频类型的不同应用不同的存储策略。

视频数据分为三类：1）源片；2）超清视频文件；3）其他不同清晰度的视频文件。源片体积较大，对持久性要求高，但是对访问速度要求较低，并发访问数量和访问频率较低；清晰度较低的视频由超清视频转码得到，针对上述需求，设计存储策略如下：

1. 源片采用纠删码策略，编码参数为EC(7,

   4)，即把一个视频文件分割为 4 块，并生成 3 块校验块，存储效率约为 57%；

2. 超清视频三副本策略，存储效率约为 33%；
3. 清晰度较低的视频采用双副本策略，存储效率为 50%。

假设设备损坏的概率为 2%，以上三种存储策略的数据持久性分别为：99.9995%，99.9992%和 99.96%。

表

1.存储策略的应用

Swift 集群的总结点数量为 54 个节点，总容量约为 2.3PB，集群的部署架构如下图所示，其中 Proxy

Server 的数量可以根据需要增加或者减少。采用传统三副本方案，能够保存的视频总长度约为（同一段视频不同分辨率不进行重复统计）3.97×106 分钟。

采用上述存储策略后，保存的视频总长度为 5.89×106 分钟，存储效率提高了 48%。

图 6. 基于 Swift 的视频存储系统的部署架构

回页首

结束语

在大数据时代，随着文件数量和数据体量的增加，文件系统和 NAS 的瓶颈越来越明显，基于 RESTful Web

API 的对象存储逐渐受到人们的广泛接受。作为最具代表性，应用最广泛的开源对象存储方案，OpenStack

Swift 自诞生以来一直保持着技术上领先的地位，在 Swift

2.0 中推出的存储策略功能，能够让管理员根据自己系统的特点制定不同的存储策略；用户或租户根据自己数据的特点和业务需要，以 Container 为粒度选择存储策略，从而实现成本、数据可靠性、性能等维度上的综合权衡和优化，体现了软件定义存储的特点。本文只是对存储策略做了一个简要的介绍，让读者体会存储策略的用途，进一步深入探索可以查看参考资料了解有关

OpenStack Swift 的更多相关信息。

参考资料

学习

• SwiftStack Blogs: https://www.swiftstack.com/blog/
• Intel IDF13: OpenStack* Swift Erasure

  Code: A Smart Cloud Storage Solution http://intelstudios.edgesuite.net/idf/2013/sf/aep/CLDS007/CLDS007.html?wapkw=swift

• OpenStack Swift 官方文档 http://docs.openstack.org/developer/swift/index.html
• 基于纠删码保护分布式对象存储的数据 http://www.iwccsp.org/CloudConnect20140918Microwise.pdf
• developerWorks 云计算站点 提供了有关云计算的更新资源，包括
  • 云计算 简介。
  • 更新的 技术文章和教程，以及网络广播，让您的开发变得轻松，专家研讨会和录制会议 帮助您成为高效的云开发人员。
  • 连接转为云计算设计的 IBM 产品下载和信息。
  • 关于 社区最新话题 的活动聚合。

讨论

• 加入 developerWorks

  中文社区。查看开发人员推动的博客、论坛、组和维基，并与其他 developerWorks 用户交流。