别让bug跑了，通过问题理解ceph的克隆过程_cannot unprotect: at least 1 child(ren) [4f81bfc4d

转载自：https://blog.51cto.com/13973322/2307757

1 背景

    云硬盘的快照、克隆，属于块存储RBD基本功能，之前我并没有太多关注这两块，保证功能能用、好用就过去了。

    不过在最近遇到几个与克隆或快照相关联的问题，涉及到rbd clone、rbd flatten等，正好是之前未遇到过，因此找了时间对产生的问题复盘，也是希望借bug观察ceph对克隆和快照的处理流程。

    整篇文章分以下几小章节：

    1 、背景

    2 、bug回顾

    3、 利用rbd_max_clone_depth触发flatten

    4 、cinder和ceph层面对clone、flatten的实现

 

2 bug回顾

  2.1  bug1 通过快照创建云硬盘，删除父快照失败

      这个问题复现步骤很简单，如下流程图所示：

     

转存失败重新上传取消

     遇到的问题就是在删除快照时发生失败，禁止该删除操作。

     由快照创建出的云硬盘，一般情况与快照是父子关系，在ceph下通过rbd info或rbd children可以查询到链的关系。 如下图红色框中所示，在parent一项中，可以看到volume-8e81a7b0-4fdc-49b0-a9ed-4124c8e61f7d是volume-117078c1-c724-44b5-a271-e0f708e9d6b3下的快照克隆得来：

      

转存失败重新上传取消

                                                                                                                                              图1

     既然克隆盘与快照存在父子关系，要删除父快照的首要条件是斩断这种依赖关系，这个就需要通过rbd_flatten_volume_from_snapshot配置项来实现，见/etc/cinder/cinder.conf配置文件，如下图中：

     

转存失败重新上传取消

     在我们的存储下，rbd_flatten_volume_from_snapshot=false，在false条件下volume和snapshot之间的关系是什么？

     在解决问题之前，先来了解下rbd_flatten_volume_from_snapshot在true、false下的不同作用，见下表：

     

转存失败重新上传取消

     一目了然，在false条件下，volume和snapshot存在依赖，要想解决该bug，只要开启为true即可。

     不过先别急着改/etc/cinder/cinder.conf，在此之前我们通过flatten手动解除依赖关系，再重复bug的步骤看是否能够成功，这个小实验分5个步骤复现，如下图3中：

     

转存失败重新上传取消

 

 

       （1）创建volume和快照   PASS

       （2）执行克隆    PASS

       （3）删除父快照   FAILED

                错误提示需要对快照先去除保护，unprotect后再执行删除快照，错误提示：cannot unprotect: at least 2 child(ren) [1a5e266b8b4567,1aa62d6b8b4567] in pool

       （4）执行flatten操作，解除依赖   PASS

       （5）再次删除父快照     PASS

     小实验OK，证明了解除克隆盘与snapshot的依赖后再删除快照成功。如果在控制节点的cinder配置文件中，开启了rbd_flatten_volume_from_snapshot = true，则 由快照创建出的云硬盘，会自动合并，清除依赖关系，这样一来这个云硬盘就变为扁平的没有层级的volume。最后记得重启cinder服务，使其生效！

 

  2.2  bug2 大容量的空盘创建快照，再通过该快照创建云硬盘，耗时过长

     这个bug提的比较优秀，功能本身属于正常流程，但之前遗漏了大容量云硬盘这个场景，比如1T、2T。

     问题复现步骤同bug1，只是少了删除快照的步骤，如下流程图所示：

   

转存失败重新上传取消

 

     通常，我们在云平台上对云硬盘创建快照后，会同时创建快照卷，由于精简配置的属性，只需分配相对少量的存储空间即可，当再通过该快照clone出云硬盘，快照处于只读保护， 在cow的机制下，克隆操作会很迅速。下面引用一张ceph官方的图来解释：

       

转存失败重新上传取消

   上图4中，parent是指源云硬盘的快照，而child是从快照克隆出来的云硬盘。

   这个bug 2与“2.1 bug 1”对比，相同点都是由rbd_flatten_volume_from_snapshot造成的bug，不同的地方在于true和false。

   在bug 2 的云环境下，rbd_flatten_volume_from_snapshot=true，在上文的bug1中曾说过解除volume和snapshot的依赖关系，取消这种依赖关系叫做flatten，这个flatten花费的时间和源云硬盘（volume）的大小成正比。

   回到bug本身，内部在做排查时，依照以下的顺序：

     （1）检查volume qos

        眼光先放在了volume qos上，在有数据条件下，qos速率大小（比如write=100MB/S）肯定是会影响到快照创建云硬盘的速度的。转念一想，云硬盘是空盘，并不存在任何object，因此克隆速度应该是很快的。

     （2）检查父云硬盘、快照、子云硬盘的实际容量

        我们环境中云硬盘是空盘，不存在任何数据，同样的由快照创建出的新盘也不会有任何数据。实际是否如此，通过下面的验证步骤来证实一下： 

•  创建云硬盘和快照，并获取真实存储空间

       

• 转存失败重新上传取消

                                                                                           图5

       图5中，新建1G的volume，并创建该盘的快照后，rados查询实际存在的object，找不到任何数据，这是正确的。

• 由快照创建云硬盘，并获取真实存储空间

转存失败重新上传取消

                                                                                                                 图6

    图6中，快照创建出新的云硬盘，叫volume-d7199f3d-ed96-446a-83c8-25083a752e23，可以看到在云硬盘创建过程中，新的云硬盘和快照时父子关系，创建成功后，新的云硬盘和快照时父子关系被解除。

转存失败重新上传取消

   图7所示是获取新的云硬盘的实际数据对象，发现已经存在256个object（父云硬盘总容量为1GB，根据order 22 (4096 kB objects)来切分）

转存失败重新上传取消

     图8中，随机抽查几个object，发现其实这些object的容量都是0，并不存在真实的数据。一般而言，从快照创建云硬盘，代码实现很简单，先克隆再flatten，Fill clone with parent data (make it independent)，此时flatten会将所有块从父节点复制到child，但父云硬盘中没有数据，flatten操作是不应该产生object的。

     这个bug问题就在于flatten会对新建云盘的每一个对象进行一个写操作，从而创建无数个大小为0的对象，又在qos的限制下，所以耗时较长。

 

3 利用rbd_max_clone_depth触发flatten

      麦子迈在《解析Ceph: Librbd 的克隆问题》一文中提到 “Librbd 在卷的克隆时会形成子卷对父卷的依赖，在产生较长的克隆依赖链后会有严重的性能损耗”。这个理论其实和cow下多快照产生的性能衰减是一样的，对ceph的云硬盘做快照，每次做完快照后再对云硬盘进行写入时就会触发COW操作， 即1次读操作、2次写操作，volume→volume的克隆本质上就是将 volume 的某一个 Snapshot 的状态复制变成另一个volume。

      为解决在产生较长的克隆依赖链后会有严重的性能损耗问题，在OpenStack Cinder 的/etc/cinder/cinder.conf中提供一个参数，可以解除父子依赖关系，在超过自定义设置的阀值后选择强制 flatten。

     

转存失败重新上传取消

    在图9中，通过 rbd_max_clone_depth来控制最大可克隆的层级。

    rbd_max_clone_depth = 5 这个参数控制卷克隆的最大层数，超过的话则使用 fallten。设为 0 的话，则禁止克隆。

    为了验证这个过程，下面我们做个实验，创建1个volume，命名为01，依次复制下，即由01复制成02，02复制为03，03复制为04，04复制为05，05复制为06，06复制为07，如下图流程图：

     

转存失败重新上传取消

   实验预期结果，就是当从06复制到07时，满足rbd_max_clone_depth > 5，此时触发flatten操作。

转存失败重新上传取消

图10

转存失败重新上传取消

图11

   图10、图11是 复制云硬盘后的查询到克隆盘信息

转存失败重新上传取消

图12

   图12中， 上面的log记录了复制07时，触发了flatten操作，对上级云硬盘06执行flatten操作，开始执行合并。

转存失败重新上传取消

图13

   图13所示是Flatten成功后，可以看到云硬盘06 的parent一项消失，此时在页面上可以删除云硬盘06

 

4 cinder和ceph层面对clone、flatten的实现

     现在市面上很多讲ceph的书（大多数翻译自ceph中国社区之手），在RBD块存储章节都会对快照、克隆等操作花很多篇幅去描述，基本都是在rbd层通过命令一步步分解rbd clone过程来讲原理。

     对于类似我这样的刚接触ceph不久的人来说，知识点分散在各处，看了前面忘了后面，很难在脑子里建立完整的概念，当然主要原因还是自己太菜了，迷雾重重看不透！

                                                                                                                      

转存失败重新上传取消

    

    言归正传，我只是想大概的了解下对云硬盘执行操作在底层是如何实现的，因此还是由上文中提到的小处（bug）来入手，自顶向下先设计一个思考流程，带着目标按照这个从上到下的顺序去理解，如下图所示：

                                                                                                                  

转存失败重新上传取消

         注:以下涉及的代码均来自GitHub开源，如有雷同，纯属巧合！

4.1  从快照克隆卷的流程

    （1）openstack cinder

         自顶向下，先从cinder层入手，通过代码可以看到从快照克隆出volume的思路，从本质上讲，快照克隆出新的卷，也是volume create的性质，所以先来了解下volume create过程

         cinder：/cinder/volumes.py

转存失败重新上传取消

     volumes.py中def create方法我省略了很多，主要就是通过req、body的参数来获取创建volume所需要的参数，根据不同参数来发送具体的创建volume请求，因为我是从快照来创建，snapshot id自然必不可少，在 volumes.py最后实际调用new_volume = self.volume_api.create()去实现。

 

cinder：/cinder/volume/api.py

     经过volume_api.create()，在/cinder/volume/api.py来处理前端发来的卷相关的所有请求，通过create_what{}表示volume的实现参数，然后分别就调用cinder.scheduler的scheduler_rpcapi，cinder.volume的volume_rpcapi建立创建volume的工作流：create_volume.get_flow

转存失败重新上传取消

    注：关于create volume flow的流程及具体实现，见/cinder/volume/rpcapi.py：def create_volume（），/cinder/volume/flows/api/create_volume.py，本篇省略过程

 

cinder：/cinder/volume/manager.py

    对于api来讲，只是做到处理前端发来的卷相关的所有请求，具体实现交由manager下的去完成，rpcapi调用inder/volume/manager.py:def create_volume（）去操作

转存失败重新上传取消

     执行中发现crate voluem 有snapshot id，然后调用/cinder/volume/flows/manager/create_volume.py下的私有方法_create_volume_from_snapshot()

转存失败重新上传取消

   最后根据配置文件指定的RBD后端请求/cinder/volume/drivers/rbd.py的create_volume_from_snapshot()

 

cinder:/cinder/volume/drivers/rbd.py

     众所周知，一般cinder使用RBD驱动来对接底层的后端存储（比如ceph、xsky），在openstack cinder层面最终交由create_volume_from_snapshot()实现，因为是通过快照来创建volume，还需要调用私有方法_clone()，满足条件的话，还要调用_flatten()和_resize()。

转存失败重新上传取消

 

（2）librbd

     经历多方接力才结束在cinder层面的流程，这还不算完，真正要实现create volume from snapshot的创建，核心在调用ceph执行。

    ceph:/src/pybind/rbd/rbd.pyx

转存失败重新上传取消

 

/ceph/blob/v10.2.3/src/librbd/librbd.cc

转存失败重新上传取消

    在librbd中对外提供api在class RBD中，从librbd.cc函数中看到有多个clone()、clone2()、clone3()函数，区别在于根据传入的不同参数来调用对应的函数，但这些函数都不像是具体的功能实现，只是一些相关参数传值。

    再看看/ceph/blob/v10.2.3/src/librbd/internal.cc函数，同librbd.cc一样，对应的clone()也是3种，因为篇幅如下展示的是clone3()函数（实际命名并不如此，通过参数来区分得知是clone2）：

转存失败重新上传取消

    将librbd.cc、internal.cc两个函数联系起来看，librbd.cc只是定义了对外的各种函数接口，接口的具体实现，调用的还是internal.cc中定义的函数内容。

    总结一下，根据自己的理解将整个流程绘成图，如下图所示中，需要一提的是，我没有涉及到librados的实现过程，因为clone等volume的操作，librbd可以说就是rbd的完整实现，rados只是作为后端的存储

转存失败重新上传取消

 

4.2  flatten的流程

    在前文“ 利用rbd_max_clone_depth触发flatten”小节中，我们描述了一个volume clone的过程，通过cinder.conf的一个参数，当满足rbd_max_clone_depth最大层数后，触发flatten操作，下面我们通过代码去看一看具体实现的流程。

    （1）openstack cinder

     对于上层云平台而言，从云硬盘1克隆出云硬盘2，或者从快照创建云硬盘，一般是能够触发flatten操作的主要场景，其实两者实现原理基本一致。

     因此，和之前的由snapshot来实现创建新的云硬盘一样，首要都是从create()开始，只是参数不同，克隆盘在create过程先要获取parent volume id

转存失败重新上传取消

    之后也是一样经历api→manager→driver的过程，这里省掉重复的过程，直接看cinder调用rbd驱动对克隆云硬盘的实现代码，如下图中/cinder/volume/drivers/rbd.py：

转存失败重新上传取消

     调用了私有方法_get_clone_depth()来判断depth，调用_flatten()来实现flatten操作，当然flatten过程经历一系列过程，在parent volume上创建snapshot，对snapshot加保护、再执行clone，然后flatten，这个过程一样可以通过rbd 命令来完成。

 

（2）librbd

      创建RADOSClient，连接到ceph rados，这里也是先调用clone()去执行，再触发flatten()操作，和我预期不同，flatten的过程比想象中还要复杂，才疏学浅，对整个过程的了解还需要更多的时间，只能先用根据自己的理解画出一张流程图表示一下：

转存失败重新上传取消