45 个分布式存储典型问题解读（附物联网分布式存储技术的应用与分析）.docx

《45 个分布式存储典型问题解读（附物联网分布式存储技术的应用与分析）.docx》由会员分享，可在线阅读，更多相关《45 个分布式存储典型问题解读（附物联网分布式存储技术的应用与分析）.docx（20页珍藏版）》请在优知文库上搜索。

1、涉及分布式存储选型、架构、运维等。1、分布式存储当前主要的应用场景有哪些？简单来说，就是存储设备分布在不同的地理位置，数据就近存储，将数据分散在多个存储节点上，各个节点通过网络相连，对这些节点的资源进行统一的管理，从而大大缓解带宽压力，同时也解决了传统的本地文件系统在文件大小、文件数量等方面的限制。对于分布式存储，应用场景就很多了，如果你有以下需求:数据量大、高吞吐量、高性能、高扩展，那就推荐分布式存储。主要的应用场景:1）块存储类似传统存储IPSan形式提供iSCSI接口，作为虚拟化后端存储2）对象存储视频，音频，图片类的存储，归档存储等，例如保险行业的“双录”系统，电子保单系统3）文件存储

2、作为NFS,GPFS之类集群文件系统的替代品1、分布式块存储：（1）云平台，私有云建设，分布式存储非常适合云平台的场景，传统集中式存储，一般都是标准iscsi协议挂载卷到OPenStaCk端，每个km都需要单独挂载。配置MPlO等。而分布式存储是通过rbd协议挂载存储池给OPenStack,OPenStaCk端直接在存储里划分和创建卷，调用快照等高级功能，分布式存储和OpenStack是天生适配，更加合适OPenStaCk的私有云的发展。（2）容器场景：2018年12月发布KUbemeteSI.13版本,用于容器编排引擎的标准存储接口containerstorageinterface（CSI）

3、已普遍可用。在这些产品中，容器本地数据服务的需求对于支持微服务结构变得非常重要，这些需求包括硬件不可知性、APl驱动、基于分布式架构，能够支持边缘、核心或公共云部署等。超过70%的容器应用需要有状态数据持久化保存，SDS可以解决：需要敏捷的数据迁移、从多个应用容器同时访问数据的需求。所以容器场景的弹性灵活的需求也是非常适合分布式存储。2、分布式文件存储：分布式文件适合大容量文件存储场景，横向扩展灵活,性能优于双控存储，例如非线编，共享NAS,高性能计算等等都非常适合，文件存储也是现阶段三种存储中市场使用最高的，但有些也在慢慢转对象存储，对象存储接口协议在逐步开发中，会有一个过渡阶段。3、分布式

4、对象存储：海量小文件需求，检索需求，大数据方向，金融的影像平台，有互联网传输需求，和公有云整合，企业高校的网盘，监控等等非结构化场景都适合，包括一些医疗的PACS也在逐步过渡到对象存储，未来最有爆发潜力的存储。文件和对象都针对的非结构化场景，文件往对象转是大势所趋，在于对象S3接口的逐步推广，对象存储支持文件和对象互操作（文件协议写入，对象方式读出，反之亦然）也是顺应市场需求的产物。金融行业：影像系统、档案系统、容器、私有云、备份医疗行业：超融合、PACS影像存储安防行业：监控集中存储、智能安防教育行业：私有云、校园网盘除了OLTP单一业务极限IOPS需求，和极低时延（微秒），大部分业务场景都

5、可以通过SDS满足，金融领域的开发测试，容器云，电子影像，双录，广电领域的媒资，CDN,等等，都是当前SDS能够应对的场景，简单来讲，SDS本身是分布式架构，通过ScaleUp和ScaleOut对标准化服务器和网络的排列组合，可以获得业务希望获得的存储能力。2、和传统存储相比，分布式存储在哪些应用场景比较有优势？分布式存储适用于虚拟化、云平台对接场景,海量非结构化数据保存场景（如图片、影音等）。数据量大、局吞吐量、性能、扩展等场景。分布式在整体架构设计上，可按需配置，灵活扩展；分布式存储性能上限高，传统存储传输接口数量受限制有天花板；分布式存储容量上限高，横向扩展能力强；分布式存储硬件节点做替

6、换对应用影响小；综上所述，在私有云部署，海量非结构化数据，高性能计算，流媒体和视频监控场景有比较大的优势。3、传统存储架构的局限性和分布式存储的优点？传统SAN存储设备一般采用双控制器架构，两者互为备份，配置两台交换机与前端的服务器进行连接，这种双控制器架构方式会有以下两个方面的缺点：1 .网络带宽容易变成整个存储性能的瓶颈；2 .如果一个控制器损坏，系统的性能将大幅下降，影响存储的正常使用。传统存储架构的局限性主要体现在以下几个方面：1、横向扩展性较差受限于前端控制器的对外服务能力，纵向扩展磁盘数量无法有效提升存储设备对外提供服务的能力。同时，前端控制器横向扩展能力非常有限，业界最多仅能实现

7、几个控制器的横向。因此，前端控制器成为整个存储性能的瓶颈。2、不同厂家传统存储之间的差异性带来的管理问题不同厂商设备的管理和使用方式各有不同，由于软硬件紧耦合、管理接口不统一等限制因素无法做到资源的统一管理和弹性调度，也会带来存储利用率较低的现象。因此，不同存储的存在影响了存储使用的便利性和利用率。分布式存储往往采用分布式的系统结构，利用多台存储服务器分担存储负荷，利用位置服务器定位存储信息。它不但提高了系统的可靠性、可用性和存取效率，还易于扩展，将通用硬件引入的不稳定因素降到最低。优点如下：1 .高性能一个具有高性能的分布式存户通常能够高效地管理读缓存和写缓存，并且支持自动的分级存储。分布式

8、存储通过将热点区域内数据映射到高速存储中，来提高系统响应速度；一旦这些区域不再是热点，那么存储系统会将它们移出高速存储。而写缓存技术则可使配合高速存储来明显改变整体存储的性能，按照一定的策略，先将数据写入高速存储，再在适当的时间进行同步落盘。2 .弹性扩展得益于合理的分布式架构，分布式存储可预估并且弹性扩展计算、存储容量和性能。分布式存储的水平扩展有以下几个特性：1）节点扩展后，旧数据会自动迁移到新节点，实现负载均衡，避免单点过热的情况出现；2）水平扩展只需要将新节点和原有集群连接到同一网络，整个过程不会对业务造成影响；3）当节点被添加到集群，集群系统的整体容量和性能也随之线性扩展，此后新节点

9、的资源就会被管理平台接管，被用于分配或者回收。3 .支持分级存储由于通过网络进行松耦合链接，分布式存储允许高速存储和低速存储分开部署，或者任意比例混布。在不可预测的业务环境或者敏捷应用情况下，分层存储的优势可以发挥到最佳。解决了目前缓存分层存储最大的问题是当性能池读不命中后，从冷池提取数据的粒度太大，导致延迟高，从而给造成整体的性能的抖动的问题。4 .多副本的一致性与传统的存储架构使用RAlD模式来保证数据的可靠性不同，分布式存储采用了多副本备份机制。在存储数据之前，分布式存储对数据进行了分片，分片后的数据按照一定的规则保存在集群节点上。为了保证多个数据副本之间的一致性，分布式存储通常采用的是

10、一个副本写入，多个副本读取的强一致性技术，使用镜像、条带、分布式校验等方式满足租户对于可靠性不同的需求。在读取数据失败的时候，系统可以通过从其他副本读取数据，重新写入该副本进行恢复，从而保证副本的总数固定；当数据长时间处于不一致状态时，系统会自动数据重建恢复，同时租户可设定数据恢复的带宽规则，最小化对业务的影响。5 .容灾与备份在分布式存储的容灾中，一个重要的手段就是多时间点快照技术，使得用户生产系统能够实现一定时间间隔下的各版本数据的保存。特别值得一提的是，多时间点快照技术支持同时提取多个时间点样本同时恢复，这对于很多逻辑错误的灾难定位十分有用，如果用户有多台服务器或虚拟机可以用作系统恢复，

11、通过比照和分析，可以快速找到哪个时间点才是需要回复的时间点，降低了故障定位的难度，缩短了定位时间。这个功能还非常有利于进行故障重现，从而进行分析和研究，避免灾难在未来再次发生。多副本技术，数据条带化放置，多时间点快照和周期增量复制等技术为分布式存储的高可靠性提供了保障。6 .存储系统标准化随着分布式存储的发展，存储行业的标准化进程也不断推进，分布式存储优先采用行业标准接口进行存储接入。在平台层面，通过将异构存储资源进行抽象化，将传统的存储设备级的操作封装成面向存储资源的操作，从而简化异构存储基础架构的操作，以实现存储资源的集中管理，并能够自动执行创建、变更、回收等整个存储生命周期流程。基于异构

12、存储整合的功能，用户可以实现跨不同品牌、介质地实现容灾，如用中低端阵列为高端阵列容灾，用不同磁盘阵列为闪存阵列容灾等等，从侧面降低了存储采购和管理成本。4、分布式存储与传统的SAN、NAS相比的优势和缺点？分布式存储与传统的SAN、NAS相比，优势如下：1、性能：在分布式存储达到一定规模时，性能会超过传统的SAN、NASo大量磁盘和节点，结合适当的数据分布策略，可以达到非常高的聚合带宽。传统的SAN、NAS都会有性能瓶颈，一旦达到最大扩展能力，性能不会改变甚至降低。2、价格：传统的SANNAS,价格比较高。特别是SAN网络设备，光纤网络成本比较高。而且，以后扩展还需要增加扩展柜。成本太高。分布

13、式存储只需要IP网络，几台X86服务器加内置硬盘就可以组建起来，初期成本比较低。扩展也非常方便，加服务器就行。3、可持续性：传统的SAN、NAS扩展能力受限，一个机头最多可以带几百个磁盘。如果想要个PB以上的共享存储，分布式存储是最好的选择。不用担心扩展能力问题。缺点：1、需要比较强的技术能力和运维能力，甚至有开发能力的用户。传统存储开箱即用，硬件由厂家提供，也有完善的文档和服务。而分布式很多是开源或者是有公司基于开源系统提供支持服务，版本迭代比较快，出问题后有可能需要自己解决。2、数据一致性问题。对于OraCIeRAC这一类对数据一致性要求比较高的应用场景，分布式存储的性能可能就稍弱了，因为

14、分布式的结构，数据同步是一个大问题，虽然现在技术一直在进步，但是也不如传统存储设备数据存储方式可靠。3、稳定性问题。分布式存储非常依赖网络环境和带宽，如果网络发生抖动或者故障，都可能会影响分布式存储系统运行。例如，一旦发生IP冲突，那么整体分布式存储可能都无法访问。传统存储一般使用专用SAN或IP网络，稳定性方面，更可靠一些。5、分布式存储如何保证数据一致性？从服务端角度，如何尽快将更新后的数据分布到整个系统，降低达到最终一致性的时间窗口，是提高系统的可用度和用户体验非常重要的方面。对于分布式存储系统：N一数据复制的份数W一更新数据是需要保证写完成的节点数R一读取数据的时候需要读取的节点数如果

15、W+RN,写的节点和读的节点重叠，则是强一致性。例如对于典型的一主一备同步复制的分布式存储系统，N=2,W=2,R=1,则不管读的是主副本还是从副本的数据，都是一致的。如果W+R=3,且强制在主副本读取，也是通常说的分布式存储系统使用强一致性原则。6、分布式存储的文件存储和对象存储有哪些区别？文件存储与对象存储区别主要可从三方面来进行比较：1、展现模式：文件存储：以盘符/目录的形式展现，优点是符合用户现有使用习惯，用户可以像使用本地硬盘一样使用存储系统，缺点是无法定制化存储元数据信息，对业务系统无优化；对象存储：与应用系统相结合形式展现，优点是可按需调用存储接口，并为文件设置元数据以及标签属性，可满足业务系统定制化需求，缺点是需要业务系统直接调用存储，用户无法直接调用系统内数据。2、访问协议文件存储：NFS/CIFS协议访问，优点是锁机制可支持多人同时对数据进行修改（锁机制由应用系统决定,缺点是为保证数据访问一致性，需要进行数据索引信息同步，对系统并发性能以及系统规模存在较大影响。对象存储：HTTP传输协议以及RESTfUl接口访问，优点是通过算法存放文件元数据信息，无元数据同步限制，系统可无限制扩展，且性能随着存储系统规模扩展而线性提升，