详解容灾恢复过程中跨数据中心级的关键故障切换.docx

《详解容灾恢复过程中跨数据中心级的关键故障切换.docx》由会员分享，可在线阅读，更多相关《详解容灾恢复过程中跨数据中心级的关键故障切换.docx（7页珍藏版）》请在优知文库上搜索。

1、1 .容器云平台及容器云存储云平台中IaaS/PaaS是目前云技术应用相对较广的两部分能力，其中PaaS在IaaS的据础上,提供中间件.数据库,以及容器云等便捷部岩和运维能力,中间件和数据库Ur以提供虚拟机部署形态，也可以提供容器资源部署，容器是私有云中一种常见的基础环境，容器公作为常常是私有云中的PaaS中组件出现或者以单独的容器云形态出现。从容器自身来说，其提供的是IaaS层基础计克般力，且常用于无状态应用，容搭消亡后无法保存消亡时的状态.现在大家常见的容涔技术一般是指符合开放容器计划OCl(OPenConIainerlnilialive)标准与规范的容器技术,除了最常见的DoCker之外

2、.还有POdman.Containerd,CRI-O.相对来说,目前DoCker相对应用更为广泛，是一种最为常见的容器引繁，金融行业通常使用K8S来进行容器的编排管理，实现容器调度，容器技术的应用为PaaS平台的实现提供了一种新的资源形态.K8S是一个可移植的、可扩展的开源平台，用于管理容器化的工作负我和服务，可促进声明式配置和自动化。在金融私有云中，通常采用租户进行IaaS资源的隔离以及容器集群资源的隔离，一个租户可以配置，个或者多个KfiS集群.用于运行不同的应用系统,容器加上云计算租户功能，则可以实现容器云平台功能，目前在城商行使用了容器云的，更多是用,部署应用层的一些组件，在涉及一些需

3、要进行弹性伸缩的业务场景,例如杪杀、活动优电等破态业务则未用容器部署应用app层的一些纯Java程序、中间件、无状态的RediS蛆群等，此外也会逐步碰到一四场景,需要我们的容器平台能保存状态，我们部霜MySQ1.、RCdiS等数据库，需要对这些数据库产生的数据做备份.2 .K8S存储系统介绍：说起容器的存储.需要先了斛CSIPVPVCStoragClass的几个基本概念。2.1 CSICSl英文全称是ContainerStorageInterface,是容器编排系统(COS)上通用的容器存储接口，第三方存谛厂商可以通过编,弓CSl插件来将其文件存谛和块存储提供给K8S上容揖化的工作负载,而无需

4、修改K8S的核心代码，K8S作为事实上的容器编排(CO)标准，对CSl持久化存储接口的支持已经可以商用，K8S的VI.13版本已经支持了GA版本的CSl组件.目前K8S主要持久化存储主要通过该标准接口进行对接.在Pod创建过程中，通过指定创建外部卷存储，PYC通过SIorageClaSS的动态供给生成对应绑定的PV,PV的创建与绑定由CSl来进行.这时候CSl就可以自己定义如何加载一个卷,如何挂数一个卷，2.2 PV以及PVCPV全称叫做PersistentVolume,持久化存储卷。它是用来描述或者说用来定义一个存储卷的。PY-段由运维来创建.PV有2个重要的参数,分别是accessMode

5、s和PersistentvolumeReclaimPolicy,accessModes：支持四种类型，第一种是ReadWriteMciny多路读写,卷能被奥群多个节点挂我并读写。第二种是ReildWrileOnCe电路读写，卷只能被通一集群节点挂桢读写.第三种是ReadonIyHany多路只读.卷能被多个集群节点挂载口只能读。第四种是新增特性ReadWriteOncePod,该卷只能被被取一节点的单一Pod挂载为读写模式.当一个带有PVC访何模式为ReadWriteO1KePod的PodA时,K8S确保修个集群内只有一个Pod可读写该PVa如再创建POdB并引用了与POdA相同的PvC(Rea

6、dWriteOncePod)时，PodB则会由于该PVC被PodA引用而启动失败.PersislenivolumeReclaiinPolicy:也有三种策略,这个策略是当与之关联的PVC被删除以后，这个PY中的数据如何被处理.(1)Retain手动重新使用，生产系统中,因通常存储上都是需要保用的数据、日志等，最为常用.Relain当蒯除与之绑定的PVC时候，这个PV被标记为releasedPVC与PV解绑但还没有执行|。|收策略且之前的数据依然保存在该PV上，但是该PY不可用，就要手动来处理这些数据并删除该PY,2)Recycle,回收策略ReCyeIe公在卷上执行一些基本的擦除(rm-rf/

7、Ihevolume/*)操作，之后允许该卷用于新的PVC中领,(3)DeIeIe时于支持)elele回收策珞的卷插件，删除动作会将PerSiSlenIVoIUmo对象从K8S中移除，问时也会从外部基此设施(如AUSBBS.GCEPD.AzureDiSk或Cinder卷)中移除所关联的存砧资产“动态制%的卷会维承其StorageClass中设置的回收策略，该策略我认为Delete,PVC是用来描述希里使用什么样的或者说是湎足什么条件的存储.它的全称是PersistentVolumeClaim,也就是持久化存储声明.开发人员使用这个来描述该容器需要一个什么存储.比如下面使用NFS的PVC：PY是己

8、有存储，PVC是需要的存储，两者要形成配对需要下面2个条件:PY和PVC中的SPec关键字段要匹配,比如存储(storage)大小,PY里的存储容I*不能小于PVC里声明的。PV和PVC中的StorageClassName字段必缜一致。2.3 StorageCIassStorageClnSS提供了一种描述存砧类(CInSS)的方法，不同的class可链:会映射到不同的服务班后等线和备份策略或其他策略.PV是运维人员来创建的，用户操作PVC可是大规模集群中可能会有很多PV如果这些PV都需要运推手动来处理这也是一件很繁琐的事情，所以就有了动态供给DynamicProViSioning)概念，而动态

9、供给的关键就是StorageClass,它的作用就是创建PY模板。创建StorageClass里面需要定义PVM性比如存储类型、大小等：另外创建这种PY需要用到存储插件.最终效果是，用户提交PVC.里面指定存储类型，如果符合我们定义的SlorageCSss,则会为其自动创建PV并进行绑定。3 .容器云存储类型选型需求分析在容器公中，我们对K8S中部然的应用都是以Pod容器的形式运行的，因为Pod是无状态的如果Pod不挂载数据卷,那Pod被蒯除或更启后这些数据公随之消失,如果想要长久的保留这些数据就要用到Pod数据持久化存储，针对业务场景不同进行分类，容器云对于存储的需求可以分为非持久化存储和持

10、久化存储两种.除了希望数据不在Pod门后丢失，有时候也需要在POd间共享文件.因此，衍生了Pod存储持久化的话旭j.在云平台的容器云中，都提供了一些方案来解决容器挂栽持久化存储的何施，但是主要都是通过K8S提出的YolUme对猿方案进行封装来解决该问题。3.1 容器云非持久化存储需求容器云容洪运行在物理或者虚拟服分器上，需要使用到容器应用的有镜像仓库和运行态容器实例，以及，线容器产生的口志等.容器云需要使用存储的场景有：1、容器实例的创建和运行.容器创建实例时需要使用到一定的存储空间，每个容揖需求空间的大小根掳容器个数以及容器中部署的基础环境及容器应用确定整体容器工作节点的存储空间大小根据运行

11、的容器类型以及容器个数决定。值得注意的是第个工作节点的大小要能覆盖可能运行在该节点上容搭的空间的总和.用于存储运行态容器的存储空间，对性能要求要相对高，能支持容器的快速动态伸缩和文件的快速读写。2、一些不需要持久化存储的文件例如容器应用运行过程中生成的一些临时文件.通常使用容器运行的是敏态业务，械态业务的特点，总结起来通常是支持业务高并发、支持容在多个工作节点上启动或者停止的弹性伸缩：针对以上特点，容器对非持久性存储的要求主要集中在性俄层面,对于空间要求并不高，但是要求工作节点能便捷的识别并且具备较好的K）PS并发读写能力.非持久化存储采用本地W5就或者集中式存信映射的块存储较多，只要工作节点

12、能识别就可以满足要求。3.2 容器云持久化存储需求银行业中，过去主要运行一些内部管理或者业务Iit较少的边缘应用，近年随着容器技术成熟，银行中越来施多也要交易业务也开始使用容器来支找生产交易，囚此容器使用持久化存储的场景越来越多，主要使用场景有如下几类:（1）应用文件,例如图片、文档等持久化存储.此类存储在侬行业务中，常见的是用于保存用户申请、填单、业务发生时录像等重要凭据的保存，在容器消亡后需要长期保存，并归档入库的。（2）业务日志持久化存储容器中如果是重要业务，则业务产生的流水日志、操作日志等需要保存下来，便于进行一些后续系统故障分析、系统优化的依据.（3）kafka.RediS等组件数据

13、持久化存储，例如多个容器需要同时读写一个消息队列，并且应用重启后，队列中的未消费消息需要处理完.或者redis数据库中的数据，需要长期保存.（4）镜像仓麻，镜像仓库是用来保存所有创建好的镜像统存储的位置，主要保存测试及生产中常用的容器镜像容器钺像是一个个部态只读文件,其中包含有关创建DOcker容器的说明.容岩镜像仓库存储的要求主要是空间要求,对性能要求不高.如果容器应用是需要使用持久化在信，对于持久化存储需求的主要特性如下：（1）持久化需求：生产系统业务日志,业务分析的基础,永久保存。（2PUd漂移后,通过另外节点挂我同一块存储实现状态数据迁移”（3）共享存储需求：业务文件、图片分布式共享需

14、求.（4）扩容需求：存储灵活扩容需求，容器节点灵活扩容、迁移能力需求。（5）性能需求：应用文件，例如图片、文档等写入性能直接关系到业务系统的并发支控能力.（6）安全、高可用需求：须内网存储，保证双中心架构，4 .容器云支持的存储类型容器的存储选型也包含持久化和非持久化两类，容器云支持的存WS类型也比较丰富，包括ISCSI/FC等映射的块存储，NFS文件系统，对象存谛系统，AWS等公有云存储,服务，还有EWPtyDinHoSlPiIIh等K8S内置存储类型.其中目前常见的主要是NFS映射文件系统，以及HOStPath内置存砧.Cephfs等分布式对象存储系统，因其灵活扩容能力和海量存储特性，目前

15、有部分用户用于进行容器符份。其中HostPathVolume是指Pod挂我宿主机上的目录或文件。HoSlpaIhVolume使得容器可以使用宿主机的文件系统进行存储，Hostpath（宿主机路径）是节点镀存储卷，在POd被删除后存储卷仍然存在Pod运行WOrknOde上不会被删除，只要同一个Pod被调度到该节点上，在Pod被删除求新被调度到这个节点之后，时应的数据依然是存在的“Hostpnth存砧卷缺点在于Pod删除之后Ift新创建必须两度到同个node节点，数据才不会丢失，对于多个node的场景，是不合适采用的。EmPtyDir类型的YOlUe是在POd分配到Node上时被创建，K8S会在N

16、ode上自动分配一个目录，因此无需指定宿主机Node上对应的目录文件.这个目录的初始内容为空，当Pod从Node上移除时,EmPlyDir中的数据会被永久删除。EmptyDirVoIUIne主要用于某些应用程序无需永久保存的临时目录，多个容岩的共享目录等，但是如果是福要进行持久化存储，则不合适采用4.1 非持久化存储造型经黔如果采用非持久化存谛，应用场景包括高10、低延时场嵬，主要采用本地存储和块在儡两种类型，考虑性能和连接方式，可以本地硬盘构建HoStPath或者集中式块存砧，相对来说IOPS以及带宽都较高，本地SAS接口硬盘组或者FC提供的1.UN吞吐通常可以达到IGB以上,基本可以满足单台工作节点的容器集群i。需求.如果采用工作节点的本地硬盘，则建议通过Raid卡配跣Raid5以上保证存储定的容错能力，虽然K8S集群本身具的单个容器实例的异常处理能力，但是因为工作节点单块硬盘故障导致整个工作节点的文件系统异常从而导致该书点上容器服务批俄中断，在业务层面还