分布式存储对象存储概述

1、分布式存储对象存储,-CEPH概述,1,分布式存储 对象存储 CEPH,2,2020/10/23,分布式存储系统,3,2,1.1:分布式存储历程.DAS,4,用于操作系统和应用程序的本地存储。 缺点： 1对1，单点 数据无法再服务器之间共享。,2020/10/23,5,1.2:分布式存储历程.SAN,多对1。 数据大集中在SAN存储。 缺点： 性能好 横向扩展 性受限。 不能共享。 成本高,2020/10/23,6,1.3:分布式存储历程.NAS,实现不同服务器之间传统文件系统数据共享。 多对1。 数据集中。 缺点： 多台服务器不能同时访问修改，性能有限 横向扩展 性受限。 成本高,2020/

2、10/23,1.4: NAS.SAN网络存储方式,7,目前主流的存储方式,2020/10/23,8,1.5:分布式存储历程.分布式存储,性能优越。 扩展性很好。 成本低廉。 缺点： 平台稳定性需要考虑。 技术支持的问题。,2020/10/23,9,个人理解分布式存储就是多台横向连接的计算机同时运行，共同处理完成同一件client的应用工作请求任务。可灵活的增加，或减少节点， 性能优越。 扩展性很好。 成本低廉。,1.6:分布式存储优势,2020/10/23,10,对象存储 Object-Based Storage,2,2.1 对象存储技术,11,对象存储是综合了NAS和SAN的优点，同时具备了

3、SAN直接高速访问和NAS的数据共享等优势。 提供了具有高性能，高可用性，跨平台，以及安全的数据共享的存储体系结构。,2020/10/23,2.2 对象存储解释优势,12,对象存储就是分布式系统，也可理解为依托于分布式存储架构的一个特性，高级功能 1）传统的块存储读写快而不利于共享， 2 ）文件存储读写慢但利于共享 对象存储则集成二者优点，是一个利于共享、读写快的“云存储”技术。作为一种分布式存储，最重要的一点是能解决对非结构化数据快速增长带来的问题。,2020/10/23,13,2.3 对象存储结构,2020/10/23,14,2020/10/23,15,2.4 对象存储组件,对象(Obje

4、ct) 包含了文件数据以及相关的属性信息，可以进行自我管理 OSD（Object-based Storage Device) 一个智能设备，OSD 为存储对象数据的设备， 它是一个智能设备，包括处理器、RAM 内存、网络接口、存储介质等以及运行在其中的控制软件 MDS 元数据服务器(Metadata Server) 系统提供元数据、Cache一致性等服务,2020/10/23,16,2.5：传统存储数据存储过程,传统文件储存过程。,2020/10/23,17,2.6：对象存储数据储存过程,对象文件储存过程。,2020/10/23,18,2.7：Inodes vs Objects,2020/10

5、/23,2.8：对象存储模式用于海量数据存储的优势：,19,高性能数据存储：访问节点有独立的数据通路和元数据访问通路，可以对多个OSD 进行并行访问 跨平台数据共享：由于在对象存储系统上部署基于对象的分布式文件系统比较容易，所有能够实现不同平台下的设备和数据的共享。 可伸缩性：对象存储模式具有分布式结构的特性。由于OSD 是独立的智能设备，可以通过增加OSD 数量，使存储系统的聚合I/O 带宽、存储容量和处理能力得到提高，这种平衡扩展模式使得存储系统能够具有良好的可伸缩性。,2020/10/23,2.9：与传统存储的对比：,20,2020/10/23,21,CEPH概述,2,3.1：ceph简

6、介,企业级存储产品的需求,22,2020/10/23,3.2: Ceph可提供：,23,2020/10/23,3.3: Ceph架构图,24,底层Rados - Ceph实现分布式存储的根本，所有存储接口都是基于Rados实现的 - Rados本身就是一个对象存储接口，维护了一个集群状态和实现了数据分发的要求,2020/10/23,(2)基础库librados - 对RADOS进行抽象和封装，并向上层提供API，以便直接基于RADOS（而不是整个Ceph）进行应用开发,(3)高层应用接口 - 这一层包括了三个部分：RADOS GW（RADOS Gateway）、 RBD（Reliable Bl

7、ock Device）和Ceph FS（Ceph File System），其作用是在librados库的基础上提供抽象层次更高的上层接口，分别对应 对象存储、块存储和文件存储。,（4）应用层 这一层就是不同场景下对于Ceph各个应用接口的各种应用方式，例如基于librados直接开发的对象存储应用，基于RADOS GW开发的对象存储应用，基于RBD实现的云硬盘等等。,25,2020/10/23,3.4: 传统 VS ceph,传统：,Ceph:,26,2020/10/23,- Monitor: 维护集群的成员和状态(cluster map) ，提供强一致性的决策 - MDS metdata数

8、据服务器 - OSD: 每一个disk、SSD或者RAID group或者其他一个物理存储设备都成为一个OSD，主要负责存储和查找对象，并且负责向该对象的复制节点分发和恢复。,3.5: Rados组件,27,2020/10/23,3.6：Ceph 使用场景举例-Rados GW,RadosGW位于Librados之上，它主要提供RESTful接口并且兼容S3、Swfit的接口。,28,2020/10/23,3.7：S3 使用案例,29,2020/10/23,3.8：性能检测,rootcephclient # rados bench -p cephfs_data 10 write -no-cle

9、anup Maintaining 16 concurrent writes of 4194304 bytes to objects of size 4194304 for up to 10 seconds or 0 objects Object prefix: benchmark_data_cephclient_8322 sec Cur ops started finished avg MB/s cur MB/s last lat(s) avg lat(s) 8 16 247 231 115.464 108 0.357958 0.53742 9 16 274 258 114.633 108 0

10、.449163 0.539057 10 16 301 285 113.968 108 0.551572 0.543629 Total time run: 10.595630 Total writes made: 302 Write size: 4194304 Object size: 4194304 Bandwidth (MB/sec): 114.009 Stddev Bandwidth: 41.2795 Max bandwidth (MB/sec): 228,30,2020/10/23,3.9：ceph 优势：,Ceph是一种为优秀的性能、可靠性和可扩展性而设计的统一的、分布式的存储系统。 “统一的”意味着Ceph可以同时提供对象存储、块存储和文件系统存储三种功能，以便