分布式存储在云环境下的应用和部署解读.docx

《分布式存储在云环境下的应用和部署解读.docx》由会员分享，可在线阅读，更多相关《分布式存储在云环境下的应用和部署解读.docx（16页珍藏版）》请在优知文库上搜索。

1、随着互联网数据规模越来越大，并发请求越来越高，传统的关系数据库系统在性能、价格、可扩展性方面已经不能很好地满足需求.谷歌、亚马逊等互联公司率先在后台基批设施中引入超大规模分布式存储系统，用来解决海量数据的存磕问题.与传统的集中式存储技术不同，分布式存储没有将数据存储在某个特定节点上,而是通过网络将各个节点分散的存储资源汇聚成一个虚拟的存储备，将数据分散在各处.相较于集中存储，分布式存储成本低，扩展性好，弱化了关系数据模型，可以得到高并发和高性能.1分布式存储概念及特点分布式存储系统，是将数据分散存储在多台独立的设备上.传统的网络存储系统采用集中的存储服务器存放所有数据，存储服务器成为系统性能的

2、瓶颈，也是可靠性和安全性的焦点，不能满足大规模存储应用的需要,随着各行业数字化转型的加速，越来越多的数据被生产出来，分布式存储成为我们应对海量数据挑战的由要助力.从20世纪80年代开始，历经几十年的演进，分布式存储已经走过了四个阶段：第一阶段是1980年代的网络文件系统，通过少量服务器实现网络环境下的简单文件共享；第二阶段是1990年代的共享SAN文件系统，已经能够外接SAN设备实现更大的文件系统；第三阶段是2000年代的Share-Nothing存储，开始利用通用服务器构建起高扩展的存镭系统；第四阶段是2010年代逐步产生的企业级云存储，这类存储开始具备丰富的企业特性，存储性能、效率和数据保

3、护能力有了显著的增强，开始在各行各业中广泛应用.此外，不同类型的数据需要用不同的分布式存储系统去处理.图片、视频等非结构化数据，由于个体相互之间没有关联，体积大，采用二级制，通常使用分布式文件系统进行存储；自描述的数据结构和内容混在一起的半结构化数据，比较简单的可以用分布式键值系统存储，较为复杂的一般采用分布式表格系统来存储区;结构化数据由分布式数据库存储.2云计算的概念及特点云计算是网格计算、分布式计算(DiStribUtedComputing),并行计算(ParalIelComputing),效用计算(UtilityComputing),网络存储、虚拟化(VirtUaIiZatiOn)、负

4、载均衡(1.OadBaIanCe)等传统计算机和网络技术发展融合的产物.广义云计算指服务的交付和使用模式，指通过网络以按需要、易扩展的方式获得服务.这种服务可以是IT软件和互联网相关服务，也可以是其他服务.狭义云计算指IT基础设施的交付和使用模式，指通过网络以按需、易扩展的方式获得所需资源。总体来说云计算具有以下几个特点：1)超大规模：云具有相当的规模，企业私有云一股拥有数百上千台服务器并且能够横向平滑扩展，云赋予了用户前所未有的计算能力；2)虚拟化：云计算支持用户在任意位置、使用各种终端获取应用服务.所请求的资源来自云，而不是固定的有形的实体。应用在云中某处运行，但实际上用户无需了解、也不用

5、担心应用运行的具体位置；3)高可靠性：云使用了数据多副本容错、计算节点同构可互换等措施来保障服务的高可靠性；4)通用性：云计算不针对特定的应用，在云”的支律下可以构造出千变万化的应用，同一个云可以同时支撑不同的应用运行；5)高可扩展性：云的规模可以动态伸缩,满足应用和用户规模增长的需要；6)按翕服务：云是一个庞大的资源池，你按需购买；7)廉价性：由于云”的自动化集中式管理使大量企业无需负担日益高昂的数据中心管理成本，云”的通用性使资源的利用率较之传统系统大幅提升，因此用户可以充分享受“云”的低成本优势.3分布式存储在云环境下的应用场景3.1分布式存储系统架构云和AI时代，数据迎来海量增长。高速

6、SG通信、商清8K视频、自动驾戚和大数据分析等越来越多的新兴应用正逐步推高对数据存储的需求.企业不断扩展业务边界,整合云场景存硫资源，以更低TCO(TotalCostofOwnership),更灵活的弹性部署应对非结构化数据快速增长.在这样的背空下，分布式存储架构成为了首选。各存储厂家纷纷推出自己的分布式存储产品，通过存储系统软件将每个硬件节点的本地存储资源组织起来，按需为上层应用提供文件存储、对蕊存储、大数据存储和块存储服务.实现海量数据储存更经济、多样性数据使用更高效、在线业务承载更可靠,其系统架构如图1.移海云云/刎化息由或电大数IM分属HJf因君序34b皇羟包9QSCFSS/MPtPO

7、SU图1分布式存储系统架构图文闻B务目前大多分布式存储产品都会提供基于三层的分布式存储架构，会地合分布式文件、对象、大数据和块多个服务形态，支持文件、对象、大数据服务部署在一个集群，并统一管理，整体功能架构由存储接口雇、存储服务展、存储引擎展和存储管理组成，如图2所示，此外还会提供一些杀毒、异构开源存储管理的特色功能.NFS/CIFSHDFSSCSI/iSCSI图2分布式存储软件功能架构PEST/SHMP分布式存储系统具有海量数据储存更经济、多样性数据使用更高效、在线业务承载更可克等优势，已被广泛应用于如下场景:1)HPC(HighPerformanceComputing)场景：在气象、基因、

8、石油等HPC高性能计算场景，应用对分布式存储的性能要求高.文件服务提供的DPC可减少跨网络传输延迟，并提供标准接口给应用，在不修改应用的情况下提供比标准协议更高的性能.2)内容存储、备份归档场景:高性能、高可塾的企业级对象存储资源池可满足互联网数据、在线音频/视频、企业网盘等实时在线业务吞吐显大、热点数据频繁访问的业务需求，以及长期保存、在线访问需求.例如应用于金融电子票据影像、双录(录音/录像)，医疗影像、政企电子文档和车联网场景存储、备份或归档.3）大数据分析场景：大数据计克存储分离解决方案可整合传统数据孤岛，构建统一的企业大数据资源池，结合大比例EC、存储和计算分商按需部署和扩容等企业级

9、能力，实现大数据业务效率提升及TCO降低.例如应用于金融大数据分析、运营商日志留存大数据和政务大数据等.4）云/虚拟化场空：为云和虚拟化提供按需获取、弹性扩展的海最存储资源池,基于通用服务器大幅提升存储资源的部署、扩展和运维效率.例如应用于金融互联网渠道接入云、开发测试云，运首商BOM域业务云化、B2B云资源池、政务云等.5）关键业务数据库场景：通过分布式Active-Active双活、隐定低时延等企业级能力，保KiO1.AP或OlTP类关键业务数据库、数据仓库高效稳定运行.3.2云环境下分布式存储的应用场景用户访问后网络接入身怫认逅访问控制AH接口、应用软件Web留务等黔据犀务层票群系统分布

10、式系统文件系统网格计M内容分发数梅去冗计？存储集中港U状态监控数据存铭层节点1节点2节点3节点_节点N图3云存储系统架构,用户访问层是基于云存储开发的应用程序的入口，授权用户可以通过标准的公共应用接口登录云存储系统，享受云存储服务.云存储产品服务商不同,云存催提供的访问类型和访问手段也不同.数据服务层是利用云存储资源进行应用开发的关键部分，云存储平台通过数据服务层为用户提供统一的协议和编程接口，进行应用程序的开发.应用接口层是云存储最灵活多变的部分.不同的云存储运营机构可以根据实际业务类型开发不同的应用服务接口，提供不同的应用服务.数据管理层是云存储最为核心的部分,也是最复杂的部分.数据管理展

11、采用集群技术、分布式存储技术，实现多存储设备之间的坊同工作，对外提供高可用性、可扩展性的服务，同时还负责数据加密、备份、容灾以及必要的计费等任务.数据存库层是云存悻最基础的部分，由不同类型的存储设备和网络设密组成。数据存幡展实现海犀数据的统一管理、存储设备管理、状态监控等.存储层位于云存储的最下层，它是云存储中最基础的部分。存储设备的选择多种多样各种存储设备都可以用来构建这一属.云存镭中的存储设备通常数量众多且分布在多个不同位25,彼此之间通过互联网或者光纤通道等把各种网络连接在一起。分布在存储设备之上的是一个统一的存储硬件设备管理系统，通过这一层可以实现存慵设备的逻辑虚拟化管理、多链路冗余管

12、理，以及硬件设备的状态监控和故障维护。在行内分布式存储主要以分布式SAN为虚拟化资源池提供服务，以分布式文件为媒体/视频监控/HPC提供服务、以分布式对妥为备份归档提供服务，以分布式数据库为大数据服务.3.2.1 为云平台底座提供基础存储资源云环境下，分布式存储系统能够实现计凭资源和存储资源的单独横向扩展，计筑资源不足时苴接扩容计算节点，存储空间不足时只需扩容存储节点，极大地节省硬件资源降低成本。对于云平台中部署的轻量级企业关键应用程序，可选用中等性能的磁盘类型，满足性能要求不高但是要求具有丰富的企业级特性场景,例如普通数据库、应用VMs中间件VM等数据存储需求.通过云硬盘的形式挂载给虚拟机或

13、裸金属服务器使用，满足企业用户应用数据的存储需求.分布式存储在云平台提供基础存储服务，通过弹性云硬盘的形式提供给应用虚拟机和裸金属使用，在应用对性能要求不高的情况下，通常在初期用于柒道类应用、各类外围应用、灰度发布应用、容器技术应用、桌面以及开发测试环境，采用分布式存储做云平台底座存储设备，提供弹性扩展、存算分离、存描类型可选、EC纠删可靠和高并发等便捷场景服务的作为结合点.为了应对互联网金融带来的业务浪涌，除核心账务系统采用集中式高端全闪存储外，外围业务以及海量非结构化数据业务场景已经全面向分布式存储过渡.凭借分布式存储的弹性资源分配能力，金融行业的新业务开发和部署效率相比传统存储都有所提升

14、和加速，突发资源获取周期从过去的天级缩短到小时级，资源池化后，存储效率得到显著提升，运城费用也不断降低，整体TCO实现有效压降.银行的七大类业务系统（账务处理类、业务处理类、渠道服务类、服务支撑类、外联三方类、数据服务类、办公管理类），在与金融云平台和分布式存储架构功能特点的结合中，我们对各类系统的资源需求变动、业务迭代速度、数据一致性要求、并发要求进行分析，得出云平台中适用的业务系统类型，如表1所示，进而为选择和配普云平台中各区域分布式存储提供依据.表1云存储系统架构“银行拿统分类,资源需求变动业务达彳1故据致性并发要求，云平台适用性炼务处理类。低3慢.高：低a业务处理类低“快，中“中“柒道

15、服务类*-快“任“高“果务支撑类3慢低高。外联三方类慢“低“数据服务类“慢中。中“办公胃理类快“乐-3.2.2为云平台提供分布式数据库存储资源在云计尊平行中，传统数据库以OraCle、DB2或者Mysql的关系里数据库为主,但是当单表数据fit爆炸或者单个数据阵无法承受高强度I/O时，侬中式数据库是无法解决性能和数据处理瓶颈何四的，难以应对应用层的高并发数据访问。业务核心数据库使用场景需要支持应用高峰期的密柒访问，要求磁盘具有持续稳定的高性能和低时延，通过选用超高性能的磁盘类型，可以实现超强性能与超而Ur靠性的集合，满足关系型数据库等数据密集型场景下低时延、高I/O性能密度的严苛性能要求。在基于MySQ1.的分布式数据库中，分表支持动态漂移，醺者表的热度和大小进行动态的扩容和伸缩，保证资源分配最优化；而分布式存储节点可以无限水平扩展，从而提供可动态无限扩展的存储容最；性能随节点扩展而线性增长，满足云计凭平台对容量和性能的需求，具备云服务所有的弹性、敏捷、按需和轻运维特性.因此，采用分布式存储优化后用于数据库的数据存储，提高性能的同时确保了数据的安全性.在金融及其他领域，基于分布式存储加速多域融合，实现降本增效.通过对非关键业务进行云化