当前位置:   article > 正文

【算法】OpenCV-SGBM算法及源码的简明分析

sgbm

目录

SGBM的算法流程(对比SGM)

BT代价(xsobel和原始灰度gray)

BT代价的原理

X-Sobel的滤波计算过程

X-Sobel BT和gray BT加权融合

SAD-BT代价(邻域求和运算)

subpixel ineterpolation亚像素插值(二次曲线拟合视差值)

OpenCV的具体代码-实现详解

OpenCV-SGBM源码中的关键数据变量

X-Sobel BT和gray BT的实现

SAD-BT的实现

水平方向的SAD-BT的实现

垂直方向的SAD-BT的实现

代价聚合的实现

聚合代价路径

聚合代价的计算

半全局聚合代价

UniquenessCheck的实现

SubpixelIneterpolation的实现

L-R check的实现


完整测试代码:

LeonJin/opencv_sgbm_learning

SGBM的算法流程(对比SGM

原始的SGM算法流程如下:

参考:双目立体匹配步骤详解_李迎松~的博客-CSDN博客_双目立体匹配步骤

SGBM的算法流程如下:

参考:立体匹配算法推理笔记 - SGBM算法(一) - 知乎

对比之后可以发现,SGBM和SGM区别的地方在于匹配代价的计算:SGBM采用的是SAD-BT,而SGM采用的是MI。

MI是指互信息(MI,Mutual Information),一种全局的代价计算方法,耗时较多。

而OpenCV在实现SGBM的时候采用了BT代价,这是一种一维匹配代价,所以在应用中不仅是用x-sobel和原图gray生成加权融合的BT代价,而且采用SAD的思路,采用邻域求和的方法,计算SAD-BT,这样计算出来的代价就是局部块代价,每个像素点的匹配代价会包含周围局部区域的信息。

对比之后可以发现,其他步骤都是一致的,比如代价聚合cost aggregation,赢者通吃wta,亚像素插值subpixel interpolation等等。

这些步骤的具体原理可以参考:

【算法】SGM半全局匹配+多线程&SIMD256优化_JinSu_的博客-CSDN博客

下面我们开始探索最本质的区别:BT代价

BT代价(xsobel和原始灰度gray)

BT代价的原理

BT代价是一维匹配代价。

对比AD,AD也是一维匹配代价:像素灰度差值的绝对值。

对比census,census是二维匹配代价(比如,census核函数尺寸为5*5,会包含到局部的区域信息)

参考:

Birchfield S , Tomasi C . Depth Discontinuities by Pixel-to-Pixel Stereo[J]. International Journal of Computer Vision, 1999, 35(3):269-293.

Birchfield和Tomasi方法(BT方法)小结_Chestnut、的博客-CSDN博客

 

可以看出,

在序列比较平稳时,即相邻像素点的灰度值很接近时,两种方法的结果是相近的,

而当匹配序列起浮变化的时候(类似图像中的不连续区域),基于BT代价的不相似性依旧是接近于0,而AD则出现很大的波动。

由此可见,对于图片的不连续区域,利用BT代价计算法可以有效的进行准确匹配而不会产生过多的误差,证明该方法是可行且具有显著效果的。

X-Sobel的滤波计算过程

比如,preFilterCap=32,则最大值为66,最小值为0,映射结果在[1024-preFilerCap,1024+preFilerCap]内单调递增。

这样映射的好处就是,可以直接控制梯度的分辨率。比如preFilterCap=63的梯度分辨率会比preFilterCap=32的分辨率更小。

梯度分辨率更小的代价就可以捕捉到更加精细的梯度变化细节,当然也不是越小越大,要结合数据内容本身进行调整。

X-Sobel BT和gray BT加权融合

SAD-BT代价(邻域求和运算)

因为BT代价是一维匹配,所以通常要结合SAD的思路,采用邻域求和的方法,计算SAD-BT,这样计算出来的代价就是局部块代价,每个像素点的匹配代价会包含周围局部区域的信息。

SAD(sum of absolute differences),参考:

关于双目立体视觉的三大基本算法SAD、SSD、SGBM及发展现状的总结_何呵呵0706的博客-CSDN博客_sad和ssd算法

匹配代价函数之SAD_CV陈智君的博客-CSDN博客_sad代价

subpixel ineterpolation亚像素插值(二次曲线拟合视差值)

OpenCV的具体代码-实现详解

 ​​​

OpenCV-SGBM源码中的关键数据变量

  1. int width1 = width + std::min(minD, 0) - std::max(maxD, 0);//行代价空间的宽度
  2. int D = params.numDisparities;//视差范围,行代价空间的高度
  3. cv::v_int16::nlanes = 8
  4. int Da = (int)cv::alignSize(D, cv::v_int16::nlanes);//内存对齐,如果D为64,则不变,Da==D
  5. int Dlra = Da + cv::v_int16::nlanes;//Additional memory is necessary to store disparity values(MAX_COST) for d=-1 and d=D
  6. int DISP_SHIFT = cv::StereoMatcher::DISP_SHIFT;//视差偏移量,默认为4
  7. int DISP_SCALE = (1 << DISP_SHIFT);//视差偏移映射的系数scale,若DISP_SHIFT,则DISP_SCALE为16。
  8. //即在存放视差的时候都要乘以DISP_SCALE,这样的话,视差1会被映射为16,视差1.25会被映射为20,视差2会被映射为32,
  9. //后续取出视差进行实际计算的时候要手动偏移或者除以16,才能得到真实视差值;这样的好处就是用short变量存放float值,可以存放二次曲线插值出来的浮点型视差
  10. int SADWindowSize = 3;//SAD-BT代价邻域的尺寸,奇数,可以为3、5、7等
  11. int P1 = 8 * 1 * SADWindowSize * SADWindowSize;//设置惩罚P1
  12. int P2 = 32 * 1 * SADWindowSize * SADWindowSize;//设置惩罚P2,opencv-sgbm的P2是固定的,不同于sgm的P2是根据灰度值自适应调整
  13. int SW2 = SADWindowSize / 2;//半个SAD窗口的长度
  14. int SH2 = SADWindowSize / 2;
  15. int costWidth = width1 * Da;//所谓的二维数组实际上是可以存放为一维数组,二维的数据width1 * Da可以存放为长度为costWidth的一维数组
  16. int costHeight = 1;//若是5个路径则为1,若是8个路径则为图像实际高度,这里默认为1;
  17. typedef short CostType;//代价数值类型为short,16bit
  18. typedef uchar PixType;//图像像素的像素值类型为unsigned char,8bit
  19. typedef short DispType;//视差数据类型为short,16bit
  20. BufferSGBM;//opencv 4开始用一个统一的数据结构管理所有内存变量,比如代价空间Cbuf(存放SAD-BT代价),聚合代价Sbuf,单像素BT代价pixDiff等等。
  21. //BufferSGBM中管理的比较重要的数据变量,如下:
  22. CostType *Cbuf;//长度为 costWidth * costHeight,用于存放SAD-BT代价
  23. CostType *Sbuf;//长度为 costWidth * costHeight,用于存放聚合代价
  24. int hsumRows = SADWindowSize + 2;//缓存行数
  25. CostType *pixDiff;//长度为 costWidth,某行的像素点对之间的BT代价(水平扫描线上点和点之间的BT代价)
  26. CostType *hsumBuf;//长度为 costWidth * hsumRows,用于缓存hsumRows行水平方向的SAD-BT结果,用于计算垂直方向的SAD-BT代价
  27. PixType *tempBuf;//长度为 width * (4 * cn + 2),用于存放左图和右图在当前行的xsobel和rgb(如果cn==1,则为灰度值gray,如果cn==3,则为rgb),以及右图亚像素最小值和右图亚像素最大值
  28. uchar dirs = 16;
  29. uchar dirs2 = 8;
  30. std::vector<CostType *> Lr;//尺寸为 [2] * [(width1 * dirs2 + 2 * dirs)*Dlra]
  31. std::vector<CostType *> minLr;//尺寸为 [2] * [width1 * dirs2 + 2 * dirs]
  32. PixType *clipTab;//长度为256 + 1024 * 2,xsobel映射表,映射关系如上文“X-Sobel的滤波计算过程”所示

X-Sobel BT和gray BT的实现

X-Sobel BT和gray BT的计算过程在calcPixelCostBT函数中实现,

  1. /*
  2. For each pixel row1[x], max(maxD, 0) <= minX <= x < maxX <= width - max(0, -minD),
  3. and for each disparity minD<=d<maxD the function
  4. computes the cost (cost[(x-minX)*(maxD - minD) + (d - minD)]), depending on the difference between
  5. row1[x] and row2[x-d]. The subpixel algorithm from
  6. "Depth Discontinuities by Pixel-to-Pixel Stereo" by Stan Birchfield and C. Tomasi
  7. is used, hence the suffix BT.
  8. the temporary buffer should contain width2*2 elements
  9. */
  10. static void calcPixelCostBT( const Mat& img1, const Mat& img2, int y,
  11. int minD, int maxD, CostType* cost,
  12. PixType* buffer, const PixType* tab,
  13. int xrange_min = 0, int xrange_max = DEFAULT_RIGHT_BORDER )
  14. {
  15. int x, c, width = img1.cols, cn = img1.channels();
  16. int minX1 = std::max(maxD, 0), maxX1 = width + std::min(minD, 0);
  17. int D = (int)cv::alignSize(maxD - minD, cv::v_int16::nlanes), width1 = maxX1 - minX1;
  18. // This minX1 & maxX2 correction is defining which part of calculatable line must be calculated
  19. // That is needs of parallel algorithm
  20. xrange_min = (xrange_min < 0) ? 0 : xrange_min;
  21. xrange_max = (xrange_max == DEFAULT_RIGHT_BORDER) || (xrange_max > width1) ? width1 : xrange_max;
  22. maxX1 = minX1 + xrange_max;
  23. minX1 += xrange_min;
  24. width1 = maxX1 - minX1;
  25. int minX2 = std::max(minX1 - maxD, 0), maxX2 = std::min(maxX1 - minD, width);
  26. int width2 = maxX2 - minX2;
  27. const PixType *row1 = img1.ptr<PixType>(y), *row2 = img2.ptr<PixType>(y);
  28. PixType *prow1 = buffer + width2 * 2, *prow2 = prow1 + width * cn * 2;
  29. for (c = 0; c < cn * 2; c++)
  30. {
  31. prow1[width * c] = prow1[width * c + width - 1] =
  32. prow2[width * c] = prow2[width * c + width - 1] = tab[0];
  33. }
  34. int n1 = y > 0 ? -(int)img1.step : 0, s1 = y < img1.rows - 1 ? (int)img1.step : 0;
  35. int n2 = y > 0 ? -(int)img2.step : 0, s2 = y < img2.rows - 1 ? (int)img2.step : 0;
  36. int minX_cmn = std::min(minX1, minX2) - 1;
  37. int maxX_cmn = std::max(maxX1, maxX2) + 1;
  38. minX_cmn = std::max(minX_cmn, 1);
  39. maxX_cmn = std::min(maxX_cmn, width - 1);
  40. if (cn == 1){
  41. for (x = minX_cmn; x < maxX_cmn; x++){
  42. prow1[x] = tab[(row1[x + 1] - row1[x - 1]) * 2 + row1[x + n1 + 1] - row1[x + n1 - 1] + row1[x + s1 + 1] - row1[x + s1 - 1]];//顺序存放左图xsobel
  43. prow2[width - 1 - x] = tab[(row2[x + 1] - row2[x - 1]) * 2 + row2[x + n2 + 1] - row2[x + n2 - 1] + row2[x + s2 + 1] - row2[x + s2 - 1]];//逆序存放右图xsobel
  44. prow1[x + width] = row1[x];//顺序存放左图原始灰度值
  45. prow2[width - 1 - x + width] = row2[x];//逆序存放右图原始灰度值
  46. }
  47. }
  48. else
  49. {
  50. for (x = minX_cmn; x < maxX_cmn; x++)
  51. {
  52. prow1[x] = tab[(row1[x * 3 + 3] - row1[x * 3 - 3]) * 2 + row1[x * 3 + n1 + 3] - row1[x * 3 + n1 - 3] + row1[x * 3 + s1 + 3] - row1[x * 3 + s1 - 3]];
  53. prow1[x + width] = tab[(row1[x * 3 + 4] - row1[x * 3 - 2]) * 2 + row1[x * 3 + n1 + 4] - row1[x * 3 + n1 - 2] + row1[x * 3 + s1 + 4] - row1[x * 3 + s1 - 2]];
  54. prow1[x + width * 2] = tab[(row1[x * 3 + 5] - row1[x * 3 - 1]) * 2 + row1[x * 3 + n1 + 5] - row1[x * 3 + n1 - 1] + row1[x * 3 + s1 + 5] - row1[x * 3 + s1 - 1]];
  55. prow2[width - 1 - x] = tab[(row2[x * 3 + 3] - row2[x * 3 - 3]) * 2 + row2[x * 3 + n2 + 3] - row2[x * 3 + n2 - 3] + row2[x * 3 + s2 + 3] - row2[x * 3 + s2 - 3]];
  56. prow2[width - 1 - x + width] = tab[(row2[x * 3 + 4] - row2[x * 3 - 2]) * 2 + row2[x * 3 + n2 + 4] - row2[x * 3 + n2 - 2] + row2[x * 3 + s2 + 4] - row2[x * 3 + s2 - 2]];
  57. prow2[width - 1 - x + width * 2] = tab[(row2[x * 3 + 5] - row2[x * 3 - 1]) * 2 + row2[x * 3 + n2 + 5] - row2[x * 3 + n2 - 1] + row2[x * 3 + s2 + 5] - row2[x * 3 + s2 - 1]];
  58. prow1[x + width * 3] = row1[x * 3];
  59. prow1[x + width * 4] = row1[x * 3 + 1];
  60. prow1[x + width * 5] = row1[x * 3 + 2];
  61. prow2[width - 1 - x + width * 3] = row2[x * 3];
  62. prow2[width - 1 - x + width * 4] = row2[x * 3 + 1];
  63. prow2[width - 1 - x + width * 5] = row2[x * 3 + 2];
  64. }
  65. }
  66. memset(cost + xrange_min * D, 0, width1 * D * sizeof(cost[0]));//代价数组初始化为0
  67. buffer -= width - maxX2;
  68. cost -= (minX1 - xrange_min) * D + minD; // simplify the cost indices inside the loop
  69. //这里开始计算BT代价,opencv计算的BT代价分为两个部分:xsobel和原始图灰度值
  70. //BT代价的计算原理参考博文:https://blog.csdn.net/qq_41541249/article/details/106546206
  71. for (c = 0; c < cn * 2; c++, prow1 += width, prow2 += width)//这个循环先计算xsobel的BT代价,再计算原始灰度值的BT代价
  72. {
  73. // std::cout<<"c:"<<c<<std::endl;
  74. int diff_scale = c < cn ? 0 : 2;
  75. // precompute
  76. // v0 = min(row2[x-1/2], row2[x], row2[x+1/2]) and
  77. // v1 = max(row2[x-1/2], row2[x], row2[x+1/2]) and
  78. // to process values from [minX2, maxX2) we should check memory location (width - 1 - maxX2, width - 1 - minX2]
  79. // so iterate through [width - maxX2, width - minX2)
  80. for (x = width - maxX2; x < width - minX2; x++)
  81. {
  82. int v = prow2[x];
  83. int vl = x > 0 ? (v + prow2[x - 1]) / 2 : v;
  84. int vr = x < width - 1 ? (v + prow2[x + 1]) / 2 : v;
  85. int v0 = std::min(vl, vr);
  86. v0 = std::min(v0, v);
  87. int v1 = std::max(vl, vr);
  88. v1 = std::max(v1, v);
  89. buffer[x] = (PixType)v0;//右图-亚像素-最小值,就是右图的I_min,如上文“BT代价的原理”所示
  90. buffer[x + width2] = (PixType)v1;//右图-亚像素-最大值,就是右图的I_max
  91. }
  92. for (x = minX1; x < maxX1; x++)
  93. {
  94. int u = prow1[x];//左图 (i,j)
  95. int ul = x > 0 ? (u + prow1[x - 1]) / 2 : u;
  96. int ur = x < width - 1 ? (u + prow1[x + 1]) / 2 : u;
  97. int u0 = std::min(ul, ur);
  98. u0 = std::min(u0, u);//左图-亚像素-最小值,就是左图的I_min
  99. int u1 = std::max(ul, ur);
  100. u1 = std::max(u1, u);//左图-亚像素-最大值,就是左图的I_max
  101. int d = minD;
  102. #if CV_SIMD
  103. //这里采用simd128处理uchar数据(8 bit),一次可以处理16个uchar数据
  104. //如果是short类型的数据(16 bit),simd128一次只能处理8个short数据
  105. cv::v_uint8 _u = cv::vx_setall_u8((uchar)u), _u0 = cv::vx_setall_u8((uchar)u0);
  106. cv::v_uint8 _u1 = cv::vx_setall_u8((uchar)u1);
  107. for (; d <= maxD - 2 * cv::v_int16::nlanes; d += 2 * cv::v_int16::nlanes)
  108. {
  109. cv::v_uint8 _v = cv::vx_load(prow2 + width - x - 1 + d);
  110. cv::v_uint8 _v0 = cv::vx_load(buffer + width - x - 1 + d);
  111. cv::v_uint8 _v1 = cv::vx_load(buffer + width - x - 1 + d + width2);
  112. cv::v_uint8 c0 = cv::v_max(_u - _v1, _v0 - _u);
  113. cv::v_uint8 c1 = cv::v_max(_v - _u1, _u0 - _v);
  114. cv::v_uint8 diff = cv::v_min(c0, c1);
  115. cv::v_int16 _c0 = cv::vx_load_aligned(cost + x * D + d);
  116. cv::v_int16 _c1 = cv::vx_load_aligned(cost + x * D + d + cv::v_int16::nlanes);
  117. cv::v_uint16 diff1, diff2;
  118. cv::v_expand(diff, diff1, diff2);//Expand uint8 values to the uint16 type. uint8x16 ==> int16x8 int16x8
  119. cv::v_store_aligned(cost + x * D + d, _c0 + cv::v_reinterpret_as_s16(diff1 >> diff_scale));
  120. cv::v_store_aligned(cost + x * D + d + cv::v_int16::nlanes, _c1 + cv::v_reinterpret_as_s16(diff2 >> diff_scale));
  121. }
  122. #endif
  123. for (; d < maxD; d++)
  124. {
  125. //u = 左图 (i,j)
  126. //u0 = 左图-亚像素-最小值
  127. //u1 = 左图-亚像素-最大值
  128. int v = prow2[width - x - 1 + d];//右图(i-d,j)
  129. int v0 = buffer[width - x - 1 + d];//右图-亚像素-最小值
  130. int v1 = buffer[width - x - 1 + d + width2];//右图-亚像素-最大值
  131. int c0 = std::max(0, u - v1);
  132. c0 = std::max(c0, v0 - u);//计算d(x,y)
  133. int c1 = std::max(0, v - u1);
  134. c1 = std::max(c1, u0 - v);//计算d(y,x)
  135. //X-Sobel BT和gray BT加权融合
  136. //这里分为两个循环分别计算X-Sobel BT和gray BT
  137. //先计算X-Sobel BT,加权,权重为1,存放于cost[x * D + d]
  138. //再计算gray BT。加权,权重为1/4,取出cost[x * D + d],加权累加
  139. cost[x * D + d] = (CostType)(cost[x * D + d] + (std::min(c0, c1)>> diff_scale));//xsobel代价的权重 是 原图代价的权重的4倍(diff_scale=2)
  140. //X-Sobel BT的权重比gray BT的权重更高,这样的话,算法会更偏向与纹理特征
  141. }
  142. }
  143. }
  144. }

这里需要特别注意,中间结果的计算范围:

minX1 = std::max(maxD, 0) + xrange_min

minX2 = std::max(minX1 - maxD, 0)

maxX1 = std::max(maxD, 0) + xrange_max;

maxX2 = std::min(maxX1 - minD, width)

1)梯度和灰度在[minX_cmn,minX_cmn-1]内进行计算

minX_cmn = std::max(std::min(minX1, minX2) - 1, 1);

maxX_cmn = std::min(std::max(maxX1, maxX2) + 1, width - 1)

2)右图亚像素在[width - maxX2, width - minX2 - 1]内计算

3)BT代价在[minX1,maxX1-1]内进行计算

举例说明,假设minD=64,maxD=128,width=500,xrange_min=0,xrange_max = 372

  1. minX1 = std::max(maxD, 0) + xrange_min = 128 + 0 = 128
  2. minX2 = std::max(minX1 - maxD, 0) = 0
  3. maxX1 = std::max(maxD, 0) + xrange_max = 128 + 372 = 500
  4. maxX2 = std::min(maxX1 - minD, width) = 436
  5. minX_cmn = std::max(std::min(minX1, minX2) - 1, 1) = std::max(std::min(128, 0) - 1, 1) = 1
  6. maxX_cmn = std::min(std::max(maxX1, maxX2) + 1, width - 1) = std::min(std::max(500, 436) + 1, 499) = 499
  7. width - maxX2 = 500 - 436 = 64
  8. width - minX2 - 1 = 500 - 0 -1 =499
  9. 梯度和灰度在[1498]内进行计算
  10. 右图亚像素在[64499]内计算
  11. BT代价在[128,499]内进行计算

可以看出,梯度和灰度是在整个图像范围采集的,而右图的亚像素最小值或者最大值是在[minD,width-1]范围计算的,最终的代价是在[maxD,width-1]范围计算的。

SAD-BT的实现

假设SADWindowSize为3,那么我们需要像素点(x,y)周围8个像素点位置BT代价求和,才能得到SAD-BT。如上文“SAD-BT代价(邻域求和运算)”所示。

但是,opencv是并不是把整个图像范围的BT代价都计算好了,再做这个邻域求和操作,而是采用“缓存”和“滑窗”这两个机制,不仅仅节省空间(不用存放整个图像范围的BT代价),而且也不会增加计算时间(滑窗+缓存)。

OpenCV将SAD-BT拆分为水平方向和垂直方向,水平方向采用“滑窗”进行累加计算,垂直方向采用“缓存”+“滑窗”进行累加计算。

这两个机制都离不开数据变量,hsumBuf。长度为 costWidth * hsumRows,这里costWidth = Da*width1,hsumRows = SADWindowSize + 2

hsumBuf用于缓存hsumRows行水平方向的SAD-BT结果,hsumRows = SADWindowSize + 2

如果SADWindowSize=3,则hsumBuf用于缓存了5行水平方向的SAD-BT结果。

hsumBuf的数据尺寸概念图如下,实际上一维数组(大小为:Da * width1 * hsumRows)

pixDiff、CBuf、SBuf的数据尺寸概念图如下,实际上也是一维数组(大小为:Da * width1)

缓存的hsumRows用于计算垂直方向的SAD-BT,也就是最终的SAD-BT,存放在Cbuf

SAD-BT的计算过程在computeDisparitySGBM函数中实现,

  1. /*
  2. computes disparity for "roi" in img1 w.r.t. img2 and write it to disp1buf.
  3. that is, disp1buf(x, y)=d means that img1(x+roi.x, y+roi.y) ~ img2(x+roi.x-d, y+roi.y).
  4. minD <= d < maxD.
  5. disp2full is the reverse disparity map, that is:
  6. disp2full(x+roi.x,y+roi.y)=d means that img2(x+roi.x, y+roi.y) ~ img1(x+roi.x+d, y+roi.y)
  7. note that disp1buf will have the same size as the roi and
  8. disp2full will have the same size as img1 (or img2).
  9. On exit disp2buf is not the final disparity, it is an intermediate result that becomes
  10. final after all the tiles are processed.
  11. the disparity in disp1buf is written with sub-pixel accuracy
  12. (4 fractional bits, see StereoSGBM::DISP_SCALE),
  13. using quadratic interpolation, while the disparity in disp2buf
  14. is written as is, without interpolation.
  15. disp2cost also has the same size as img1 (or img2).
  16. It contains the minimum current cost, used to find the best disparity, corresponding to the minimal cost.
  17. */
  18. static void computeDisparitySGBM( const Mat& img1, const Mat& img2,
  19. Mat& disp1, const StereoSGBMParams& params )

因为这个函数里面不只是包含SAD-BT的计算,还包括了代价聚合,所以就不完整展开,这里只解释其中的一部分。

部分核心代码如下:

  1. if (pass == 1) // compute C on the first pass, and reuse it on the second pass, if any.
  2. {
  3. int dy1 = y == 0 ? 0 : y + SH2, dy2 = y == 0 ? SH2 : dy1;
  4. //当y == 0 时,设置 k = 0,1
  5. //当y!=0时,设置k = y + SH2,默认 k = y + 1
  6. for (k = dy1; k <= dy2; k++)
  7. {
  8. CostType *hsumAdd = mem.getHSumBuf(std::min(k, height - 1));//缓存第k行水平方向的SAD-BT代价
  9. if (k < height)
  10. {
  11. //计算像素点之间的BT代价,(i,j) <---> (i-d,j);这里的pixDiff用于存放第k行像素点之间的BT代价
  12. calcPixelCostBT(img1, img2, k, minD, maxD, mem.pixDiff, mem.tempBuf, mem.getClipTab());
  13. //接下来计算block-cost,也就是SAD窗口中所有像素点BT代价相加
  14. memset(hsumAdd, 0, Da * sizeof(CostType));
  15. #if CV_SIMD
  16. cv::v_int16 h_scale = cv::vx_setall_s16((short)SW2 + 1);
  17. for (d = 0; d < Da; d += cv::v_int16::nlanes)
  18. {
  19. cv::v_int16 v_hsumAdd = cv::vx_load_aligned(mem.pixDiff + d) * h_scale;
  20. for (x = Da; x <= SW2 * Da; x += Da)
  21. v_hsumAdd += cv::vx_load_aligned(mem.pixDiff + x + d);
  22. cv::v_store_aligned(hsumAdd + d, v_hsumAdd);
  23. }
  24. #else
  25. for (d = 0; d < D; d++)
  26. {
  27. //第一个SAD窗口的block-cost为第一列的BT代价*(SW2 + 1)+第二列的BT代价;简单理解就是边缘填充pading;这里还没有完成第一个SAD窗口
  28. //同时,也是opencv求block-cost的巧妙方法的初始值,初始化hsumAdd
  29. hsumAdd[d] = (CostType)(mem.pixDiff[d] * (SW2 + 1));
  30. for (x = Da; x <= SW2 * Da; x += Da)
  31. hsumAdd[d] = (CostType)(hsumAdd[d] + mem.pixDiff[x + d]);
  32. }
  33. #endif
  34. if (y > 0)
  35. {
  36. const CostType *hsumSub = mem.getHSumBuf(std::max(y - SH2 - 1, 0));//上SH2+1行的水平方向的SAD-BT
  37. const CostType *Cprev = mem.getCBuf(y - 1);//上一行的垂直方向的SAD-BT
  38. #if CV_SIMD
  39. for (d = 0; d < Da; d += cv::v_int16::nlanes)
  40. cv::v_store_aligned(C + d, cv::vx_load_aligned(Cprev + d) + cv::vx_load_aligned(hsumAdd + d) - cv::vx_load_aligned(hsumSub + d));
  41. #else
  42. for (d = 0; d < D; d++){
  43. C[d] = (CostType)(Cprev[d] + hsumAdd[d] - hsumSub[d]);//在垂直方向累加
  44. }
  45. #endif
  46. for (x = Da; x < width1 * Da; x += Da)
  47. {
  48. const CostType *pixAdd = mem.pixDiff + std::min(x + SW2 * Da, (width1 - 1) * Da);
  49. const CostType *pixSub = mem.pixDiff + std::max(x - (SW2 + 1) * Da, 0);
  50. #if CV_SIMD
  51. for (d = 0; d < Da; d += cv::v_int16::nlanes)
  52. {
  53. cv::v_int16 hv = cv::vx_load_aligned(hsumAdd + x - Da + d) - cv::vx_load_aligned(pixSub + d) + cv::vx_load_aligned(pixAdd + d);//下一行的水平方向的SAD-BT
  54. cv::v_store_aligned(hsumAdd + x + d, hv);
  55. cv::v_store_aligned(C + x + d, cv::vx_load_aligned(Cprev + x + d) - cv::vx_load_aligned(hsumSub + x + d) + hv);//在垂直方向累加
  56. }
  57. #else
  58. for (d = 0; d < D; d++)
  59. {
  60. int hv = hsumAdd[x + d] = (CostType)(hsumAdd[x - Da + d] + pixAdd[d] - pixSub[d]);//下一行的水平方向的SAD-BT
  61. C[x + d] = (CostType)(Cprev[x + d] + hv - hsumSub[x + d]);//在垂直方向累加
  62. }
  63. #endif
  64. }
  65. }
  66. else//y==0
  67. {
  68. #if CV_SIMD
  69. cv::v_int16 v_scale = cv::vx_setall_s16(k == 0 ? (short)SH2 + 1 : 1);
  70. for (d = 0; d < Da; d += cv::v_int16::nlanes)
  71. cv::v_store_aligned(C + d, cv::vx_load_aligned(C + d) + cv::vx_load_aligned(hsumAdd + d) * v_scale);
  72. #else
  73. int scale = k == 0 ? SH2 + 1 : 1;
  74. for (d = 0; d < D; d++)
  75. C[d] = (CostType)(C[d] + hsumAdd[d] * scale);//第一个SAD窗口的block-cost为第一行的BT代价*(SH2 + 1)+第二行的BT代价;简单理解就是边缘填充pading
  76. #endif
  77. for (x = Da; x < width1 * Da; x += Da)
  78. {
  79. const CostType *pixAdd = mem.pixDiff + std::min(x + SW2 * Da, (width1 - 1) * Da);
  80. const CostType *pixSub = mem.pixDiff + std::max(x - (SW2 + 1) * Da, 0);
  81. #if CV_SIMD
  82. for (d = 0; d < Da; d += cv::v_int16::nlanes)
  83. {
  84. cv::v_int16 hv = cv::vx_load_aligned(hsumAdd + x - Da + d) + cv::vx_load_aligned(pixAdd + d) - cv::vx_load_aligned(pixSub + d);//当前行(第k行)的水平方向的SAD-BT代价
  85. cv::v_store_aligned(hsumAdd + x + d, hv);
  86. cv::v_store_aligned(C + x + d, cv::vx_load_aligned(C + x + d) + hv * v_scale);
  87. }
  88. #else
  89. for (d = 0; d < D; d++)
  90. {
  91. CostType hv = (CostType)(hsumAdd[x - Da + d] + pixAdd[d] - pixSub[d]);//下一个SAD窗口在水平方向累加
  92. hsumAdd[x + d] = hv;//当前行(第k行)的水平方向的SAD-BT代价
  93. C[x + d] = (CostType)(C[x + d] + hv * scale);//第一个SAD窗口的block-cost为第一行的BT代价*(SH2 + 1)+第二行的BT代价 | k=0时scale=SH2 + 1,k=1时scale=1
  94. }
  95. #endif
  96. }
  97. }
  98. }
  99. else
  100. {
  101. if (y > 0)
  102. {
  103. const CostType *hsumSub = mem.getHSumBuf(std::max(y - SH2 - 1, 0));
  104. const CostType *Cprev = mem.getCBuf(y - 1);
  105. #if CV_SIMD
  106. for (x = 0; x < width1 * Da; x += cv::v_int16::nlanes)
  107. cv::v_store_aligned(C + x, cv::vx_load_aligned(Cprev + x) - cv::vx_load_aligned(hsumSub + x) + cv::vx_load_aligned(hsumAdd + x));
  108. #else
  109. for (x = 0; x < width1 * Da; x++)
  110. C[x] = (CostType)(Cprev[x] + hsumAdd[x] - hsumSub[x]);
  111. #endif
  112. }
  113. else
  114. {
  115. #if CV_SIMD
  116. for (x = 0; x < width1 * Da; x += cv::v_int16::nlanes)
  117. cv::v_store_aligned(C + x, cv::vx_load_aligned(C + x) + cv::vx_load_aligned(hsumAdd + x));
  118. #else
  119. for (x = 0; x < width1 * Da; x++)
  120. C[x] = (CostType)(C[x] + hsumAdd[x]);
  121. #endif
  122. }
  123. }
  124. }
  125. // also, clear the S buffer
  126. mem.clearSBuf(y);
  127. }

水平方向的SAD-BT的实现

这里涉及到四个变量hsumAdd、pixdiff、pixAdd和pixSub

hsumAdd表示要存放第0行的水平方向的SAD-BT代价

CostType *hsumAdd = mem.getHSumBuf(std::min(k, height - 1)) = hsumBuf + (std::min(k, height - 1)% hsumRows) * costWidth;

hsumAdd是缓存在hsumBuf的第k行水平方向的SAD-BT代价,或者说,下SH2行水平方向的SAD-BT代价(如果SADWindowSize=3,则hsumAdd是下1行水平方向的SAD-BT代价)

当y == 0 时,设置 k = 0,1,会先计算第0行和第1行的BT代价(存放在pixDiff),hsumAdd是第k行的水平方向的SAD-BT代价

当y != 0时,设置k = y + SH2,默认 k = y + 1,会计算下1行的BT代价(存放在pixDiff),hsumAdd则是下1行的水平方向的SAD-BT代价

y = 0,k = 0

y = 0,k = 1

y = 1,k = 2

y = 2,k = 3

y = 3,k = 4

y = 4,k = 5

...

y = n-1,k = n

pixDiff表示为第k行的BT代价。

pixAdd表示当前位置x的水平方向前 SW2 的pixdiff,单位是Da(如果SADWindowSize=3,则pixAdd为前1个BT代价)

pixAdd = pixDiff + min(x+SW2*Da,(width1-1)*Da)

pixSub表示当前位置x的水平方向后 (SW2 + 1)的pixdiff,单位是Da(如果SADWindowSize=3,则pixSub为后2个BT代价)

pixSub = pixDiff + max(x-(SW2+1)*Da,0)

水平方向的SAD-BT代价计算方式如下:

hsumAdd[x] = hsumAdd[x-Da] + pixAdd - pixSub

hsumAdd[x]表示当前"一个Da宽度"的水平方向的SAD-BT代价。

hsumAdd[x-Da]表示后"一个Da宽度"的水平方向的SAD-BT代价。

这里我们举个例子说明,水平方向的SAD-BT的实现:

y == 0,k == 0时,

当x=0时,也就是:

  1. memset(hsumAdd, 0, Da * sizeof(CostType));
  2. #if CV_SIMD
  3. cv::v_int16 h_scale = cv::vx_setall_s16((short)SW2 + 1);
  4. for (d = 0; d < Da; d += cv::v_int16::nlanes)
  5. {
  6. cv::v_int16 v_hsumAdd = cv::vx_load_aligned(mem.pixDiff + d) * h_scale;
  7. for (x = Da; x <= SW2 * Da; x += Da)
  8. v_hsumAdd += cv::vx_load_aligned(mem.pixDiff + x + d);
  9. cv::v_store_aligned(hsumAdd + d, v_hsumAdd);
  10. }
  11. #else
  12. for (d = 0; d < D; d++)
  13. {
  14. //第一个SAD窗口的block-cost为第一列的BT代价*(SW2 + 1)+第二列的BT代价;简单理解就是边缘填充pading;这里还没有完成第一个SAD窗口
  15. //同时,也是opencv求block-cost的巧妙方法的初始值,初始化hsumAdd
  16. hsumAdd[d] = (CostType)(mem.pixDiff[d] * (SW2 + 1));
  17. for (x = Da; x <= SW2 * Da; x += Da)
  18. hsumAdd[d] = (CostType)(hsumAdd[d] + mem.pixDiff[x + d]);
  19. }
  20. #endif

当x由Da开始递增时,  

  1. #if CV_SIMD
  2. cv::v_int16 v_scale = cv::vx_setall_s16(k == 0 ? (short)SH2 + 1 : 1);
  3. for (d = 0; d < Da; d += cv::v_int16::nlanes)
  4. cv::v_store_aligned(C + d, cv::vx_load_aligned(C + d) + cv::vx_load_aligned(hsumAdd + d) * v_scale);
  5. #else
  6. int scale = k == 0 ? SH2 + 1 : 1;
  7. for (d = 0; d < D; d++)
  8. C[d] = (CostType)(C[d] + hsumAdd[d] * scale);//第一个SAD窗口的block-cost为第一行的BT代价*(SH2 + 1)+第二行的BT代价;简单理解就是边缘填充pading
  9. #endif
  10. for (x = Da; x < width1 * Da; x += Da)
  11. {
  12. const CostType *pixAdd = mem.pixDiff + std::min(x + SW2 * Da, (width1 - 1) * Da);
  13. const CostType *pixSub = mem.pixDiff + std::max(x - (SW2 + 1) * Da, 0);
  14. #if CV_SIMD
  15. for (d = 0; d < Da; d += cv::v_int16::nlanes)
  16. {
  17. cv::v_int16 hv = cv::vx_load_aligned(hsumAdd + x - Da + d) + cv::vx_load_aligned(pixAdd + d) - cv::vx_load_aligned(pixSub + d);//当前行(第k行)的水平方向的SAD-BT代价
  18. cv::v_store_aligned(hsumAdd + x + d, hv);
  19. cv::v_store_aligned(C + x + d, cv::vx_load_aligned(C + x + d) + hv * v_scale);
  20. }
  21. #else
  22. for (d = 0; d < D; d++)
  23. {
  24. CostType hv = (CostType)(hsumAdd[x - Da + d] + pixAdd[d] - pixSub[d]);//下一个SAD窗口在水平方向累加
  25. hsumAdd[x + d] = hv;//当前行(第k行)的水平方向的SAD-BT代价
  26. C[x + d] = (CostType)(C[x + d] + hv * scale);//第一个SAD窗口的block-cost为第一行的BT代价*(SH2 + 1)+第二行的BT代价 | k=0时scale=SH2 + 1,k=1时scale=1
  27. }
  28. #endif
  29. }

因此,hsumAdd是第k行的水平方向的SAD-BT代价。

  • 当y == 0 时,设置 k = 0,1,会先计算第0行和第1行的BT代价(存放在pixDiff),hsumAdd是第k行的水平方向的SAD-BT代价

  • 当y != 0时,设置k = y + SH2,默认 k = y + 1,会计算下1行的BT代价(存放在pixDiff),hsumAdd则是下1行的水平方向的SAD-BT代价

垂直方向的SAD-BT的实现

这里说明几个关键变量:

CostType *hsumAdd = mem.getHSumBuf(std::min(k, height - 1)) = hsumBuf + (std::min(k, height - 1)% hsumRows) * costWidth;

hsumAdd是缓存在hsumBuf的第k行水平方向的SAD-BT代价,下SH2行水平方向的SAD-BT代价(如果SADWindowSize=3,则hsumAdd是下1行水平方向的SAD-BT代价)

hsumSub是缓存在hsumBuf的当前y行的上SH2+1行水平方向的SAD-BT代价(如果SADWindowSize=3,则hsumSub是上2行水平方向的SAD-BT代价)

CostType *hsumSub = mem.getHSumBuf(std::max(y - SH2 - 1, 0)) = hsumBuf + (std::max(y - SH2 - 1, 0)% hsumRows) * costWidth;

Cprev是上一行的垂直方向的SAD-BT代价

CostType *Cprev = mem.getCBuf(y - 1) = Cbuf + (!fullDP ? 0 : (row * costWidth));//fullDP==0

因为fullDP==0,所以Cprev其实就是Cbuf

垂直方向的SAD-BT代价(即,最终的SAD-BT代价)计算方式如下:

C[x] = Cprev[x] + hsumAdd - hsumSub

部分核心代码如下:

  1. const CostType *hsumSub = mem.getHSumBuf(std::max(y - SH2 - 1, 0));//上SH2+1行的水平方向的SAD-BT
  2. const CostType *Cprev = mem.getCBuf(y - 1);//上一行的垂直方向的SAD-BT
  3. #if CV_SIMD
  4. for (d = 0; d < Da; d += cv::v_int16::nlanes)
  5. cv::v_store_aligned(C + d, cv::vx_load_aligned(Cprev + d) + cv::vx_load_aligned(hsumAdd + d) - cv::vx_load_aligned(hsumSub + d));
  6. #else
  7. for (d = 0; d < D; d++){
  8. C[d] = (CostType)(Cprev[d] + hsumAdd[d] - hsumSub[d]);//在垂直方向累加
  9. }
  10. #endif
  11. for (x = Da; x < width1 * Da; x += Da)
  12. {
  13. const CostType *pixAdd = mem.pixDiff + std::min(x + SW2 * Da, (width1 - 1) * Da);
  14. const CostType *pixSub = mem.pixDiff + std::max(x - (SW2 + 1) * Da, 0);
  15. #if CV_SIMD
  16. for (d = 0; d < Da; d += cv::v_int16::nlanes)
  17. {
  18. cv::v_int16 hv = cv::vx_load_aligned(hsumAdd + x - Da + d) - cv::vx_load_aligned(pixSub + d) + cv::vx_load_aligned(pixAdd + d);//下一行的水平方向的SAD-BT
  19. cv::v_store_aligned(hsumAdd + x + d, hv);
  20. cv::v_store_aligned(C + x + d, cv::vx_load_aligned(Cprev + x + d) - cv::vx_load_aligned(hsumSub + x + d) + hv);//在垂直方向累加
  21. }
  22. #else
  23. for (d = 0; d < D; d++)
  24. {
  25. int hv = hsumAdd[x + d] = (CostType)(hsumAdd[x - Da + d] + pixAdd[d] - pixSub[d]);//下一行的水平方向的SAD-BT
  26. C[x + d] = (CostType)(Cprev[x + d] + hv - hsumSub[x + d]);//在垂直方向累加
  27. }
  28. #endif
  29. }

代价聚合的实现

  1. /*
  2. [formula 13 in the paper]
  3. compute L_r(p, d) = C(p, d) +
  4. min(L_r(p-r, d),
  5. L_r(p-r, d-1) + P1,
  6. L_r(p-r, d+1) + P1,
  7. min_k L_r(p-r, k) + P2) - min_k L_r(p-r, k)
  8. where p = (x,y), r is one of the directions.
  9. we process all the directions at once:
  10. 0: r=(-dx, 0)
  11. 1: r=(-1, -dy)
  12. 2: r=(0, -dy)
  13. 3: r=(1, -dy) !!!Note that only directions 0 to 3 are processed
  14. 4: r=(-2, -dy)
  15. 5: r=(-1, -dy*2)
  16. 6: r=(1, -dy*2)
  17. 7: r=(2, -dy)
  18. */
  19. //代价聚合-正向*4
  20. for (x = x1; x != x2; x += dx)
  21. {
  22. int delta0 = P2 + *mem.getMinLr(lrID, x - dx);
  23. int delta1 = P2 + *mem.getMinLr(1 - lrID, x - 1, 1);
  24. int delta2 = P2 + *mem.getMinLr(1 - lrID, x, 2);
  25. int delta3 = P2 + *mem.getMinLr(1 - lrID, x + 1, 3);
  26. CostType *Lr_p0 = mem.getLr(lrID, x - dx);
  27. CostType *Lr_p1 = mem.getLr(1 - lrID, x - 1, 1);
  28. CostType *Lr_p2 = mem.getLr(1 - lrID, x, 2);
  29. CostType *Lr_p3 = mem.getLr(1 - lrID, x + 1, 3);
  30. Lr_p0[-1] = Lr_p0[D] = MAX_COST;
  31. Lr_p1[-1] = Lr_p1[D] = MAX_COST;
  32. Lr_p2[-1] = Lr_p2[D] = MAX_COST;
  33. Lr_p3[-1] = Lr_p3[D] = MAX_COST;
  34. CostType *Lr_p = mem.getLr(lrID, x);
  35. const CostType *Cp = C + x * Da;
  36. CostType *Sp = S + x * Da;
  37. CostType *minL = mem.getMinLr(lrID, x);
  38. d = 0;
  39. #if CV_SIMD
  40. cv::v_int16 _P1 = cv::vx_setall_s16((short)P1);
  41. cv::v_int16 _delta0 = cv::vx_setall_s16((short)delta0);
  42. cv::v_int16 _delta1 = cv::vx_setall_s16((short)delta1);
  43. cv::v_int16 _delta2 = cv::vx_setall_s16((short)delta2);
  44. cv::v_int16 _delta3 = cv::vx_setall_s16((short)delta3);
  45. cv::v_int16 _minL0 = cv::vx_setall_s16((short)MAX_COST);
  46. cv::v_int16 _minL1 = cv::vx_setall_s16((short)MAX_COST);
  47. cv::v_int16 _minL2 = cv::vx_setall_s16((short)MAX_COST);
  48. cv::v_int16 _minL3 = cv::vx_setall_s16((short)MAX_COST);
  49. for (; d <= D - cv::v_int16::nlanes; d += cv::v_int16::nlanes)//循环中,d最大为D - cv::v_int16::nlanes
  50. {
  51. cv::v_int16 Cpd = cv::vx_load_aligned(Cp + d);
  52. cv::v_int16 Spd = cv::vx_load_aligned(Sp + d);
  53. cv::v_int16 L;
  54. L = cv::v_min(cv::v_min(cv::v_min(cv::vx_load_aligned(Lr_p0 + d), cv::vx_load(Lr_p0 + d - 1) + _P1), cv::vx_load(Lr_p0 + d + 1) + _P1), _delta0) - _delta0 + Cpd;
  55. cv::v_store_aligned(Lr_p + d, L);
  56. _minL0 = cv::v_min(_minL0, L);
  57. Spd += L;
  58. L = cv::v_min(cv::v_min(cv::v_min(cv::vx_load_aligned(Lr_p1 + d), cv::vx_load(Lr_p1 + d - 1) + _P1), cv::vx_load(Lr_p1 + d + 1) + _P1), _delta1) - _delta1 + Cpd;
  59. cv::v_store_aligned(Lr_p + d + Dlra, L);
  60. _minL1 = cv::v_min(_minL1, L);
  61. Spd += L;
  62. L = cv::v_min(cv::v_min(cv::v_min(cv::vx_load_aligned(Lr_p2 + d), cv::vx_load(Lr_p2 + d - 1) + _P1), cv::vx_load(Lr_p2 + d + 1) + _P1), _delta2) - _delta2 + Cpd;
  63. cv::v_store_aligned(Lr_p + d + Dlra * 2, L);
  64. _minL2 = cv::v_min(_minL2, L);
  65. Spd += L;
  66. L = cv::v_min(cv::v_min(cv::v_min(cv::vx_load_aligned(Lr_p3 + d), cv::vx_load(Lr_p3 + d - 1) + _P1), cv::vx_load(Lr_p3 + d + 1) + _P1), _delta3) - _delta3 + Cpd;
  67. cv::v_store_aligned(Lr_p + d + Dlra * 3, L);
  68. _minL3 = cv::v_min(_minL3, L);
  69. Spd += L;
  70. cv::v_store_aligned(Sp + d, Spd);
  71. }
  72. #if CV_SIMD_WIDTH > 32
  73. minL[0] = v_reduce_min(_minL0);
  74. minL[1] = v_reduce_min(_minL1);
  75. minL[2] = v_reduce_min(_minL2);
  76. minL[3] = v_reduce_min(_minL3);
  77. #else
  78. // Get minimum for L0-L3
  79. cv::v_int16 t0, t1, t2, t3;
  80. cv::v_zip(_minL0, _minL2, t0, t2);
  81. cv::v_zip(_minL1, _minL3, t1, t3);
  82. cv::v_zip(cv::v_min(t0, t2), cv::v_min(t1, t3), t0, t1);
  83. t0 = cv::v_min(t0, t1);
  84. t0 = cv::v_min(t0, cv::v_rotate_right<4>(t0));
  85. #if CV_SIMD_WIDTH == 32
  86. CostType buf[v_int16::nlanes];
  87. v_store_low(buf, v_min(t0, v_rotate_right<8>(t0)));
  88. minL[0] = buf[0];
  89. minL[1] = buf[1];
  90. minL[2] = buf[2];
  91. minL[3] = buf[3];
  92. #else
  93. cv::v_store_low(minL, t0);
  94. #endif
  95. #endif
  96. #else
  97. minL[0] = MAX_COST;
  98. minL[1] = MAX_COST;
  99. minL[2] = MAX_COST;
  100. minL[3] = MAX_COST;
  101. #endif
  102. for (; d < D; d++)
  103. {
  104. int Cpd = Cp[d], L;
  105. int Spd = Sp[d];
  106. L = Cpd + std::min((int)Lr_p0[d], std::min(Lr_p0[d - 1] + P1, std::min(Lr_p0[d + 1] + P1, delta0))) - delta0;//
  107. Lr_p[d] = (CostType)L;
  108. minL[0] = std::min(minL[0], (CostType)L);
  109. Spd += L;
  110. L = Cpd + std::min((int)Lr_p1[d], std::min(Lr_p1[d - 1] + P1, std::min(Lr_p1[d + 1] + P1, delta1))) - delta1;
  111. Lr_p[d + Dlra] = (CostType)L;
  112. minL[1] = std::min(minL[1], (CostType)L);
  113. Spd += L;
  114. L = Cpd + std::min((int)Lr_p2[d], std::min(Lr_p2[d - 1] + P1, std::min(Lr_p2[d + 1] + P1, delta2))) - delta2;
  115. Lr_p[d + Dlra * 2] = (CostType)L;
  116. minL[2] = std::min(minL[2], (CostType)L);
  117. Spd += L;
  118. L = Cpd + std::min((int)Lr_p3[d], std::min(Lr_p3[d - 1] + P1, std::min(Lr_p3[d + 1] + P1, delta3))) - delta3;
  119. Lr_p[d + Dlra * 3] = (CostType)L;
  120. minL[3] = std::min(minL[3], (CostType)L);
  121. Spd += L;
  122. Sp[d] = cv::saturate_cast<CostType>(Spd);
  123. }
  124. }

聚合代价路径

在这个地方我之前一直以为4个路径的值是由前面的代码进行过整理,但其实不是,并没有提前进行整理。前面所有的计算都只是在计算BT以及SAD-BT。

但是所谓的代价路径必须是遍历整个图像,比如:

仔细观察一下这张表,你会发现,Lr_p0取出上一个路径点和存放当前路径点的代价,都是在Lr[lrID]上,而且刚好是x方向的偏移。

再观察Lr_p2,同一行,y=0存放的位置和y=1取出的位置相等,而y由0变1的过程,lrID也由0变1。因此,Lr_p2取出上一个路径点是y的负方向,所以Lr_p2的方向是y轴的正方向。

再观察Lr_p1,

再观察Lr_p3,

opencv默认是5条代价路径和8条代价路径。如果是5条代价路径,则就是

 如果是8条路径,也就是full_dp,则为:

聚合代价的计算

这里需要留意一点,下面是其中一个代价聚合路径:

L = cv::v_min(cv::v_min(cv::v_min(cv::vx_load_aligned(Lr_p0 + d), cv::vx_load(Lr_p0 + d - 1) + _P1), cv::vx_load(Lr_p0 + d + 1) + _P1), _delta0) - _delta0 + Cpd;

这个公式来自:

这里的_delta0表示上一个路径点在所有视差的最小聚合代价,且加P2

  1. int delta0 = P2 + *mem.getMinLr(lrID, x - dx);
  2. cv::v_int16 _delta0 = cv::vx_setall_s16((short)delta0);

这里是为了和Cpd的初始值进行抵消。之前的代价Cpd都是被默认初始化为P2

mem.initCBuf((CostType)P2); // add P2 to every C(x,y). it saves a few operations in the inner loops

半全局聚合代价

所谓半全局聚合代价,实际上就是将所有路径的聚合代价加在一起

  1. L = Cpd + std::min((int)Lr_p0[d], std::min(Lr_p0[d - 1] + P1, std::min(Lr_p0[d + 1] + P1, delta0))) - delta0;//
  2. Spd += L;
  3. L = Cpd + std::min((int)Lr_p1[d], std::min(Lr_p1[d - 1] + P1, std::min(Lr_p1[d + 1] + P1, delta1))) - delta1;
  4. Spd += L;
  5. L = Cpd + std::min((int)Lr_p2[d], std::min(Lr_p2[d - 1] + P1, std::min(Lr_p2[d + 1] + P1, delta2))) - delta2;
  6. Spd += L;
  7. L = Cpd + std::min((int)Lr_p3[d], std::min(Lr_p3[d - 1] + P1, std::min(Lr_p3[d + 1] + P1, delta3))) - delta3;
  8. Spd += L;
  9. Sp[d] = cv::saturate_cast<CostType>(Spd);

UniquenessCheck的实现

  1. //uniqueness独特性检测,在视差维度上是不仅是最小,而且其他视差和当前视差的聚合代价比小于(100 - uniquenessRatio)/100
  2. //即,minS/Sp[d] > (100 - uniquenessRatio)/100,则判断为“不独特”
  3. //因此,uniquenessRatio越大,视差就越独特
  4. for (d = 0; d < D; d++)
  5. {
  6. if (Sp[d] * (100 - uniquenessRatio) < minS * 100 && std::abs(bestDisp - d) > 1)
  7. break;
  8. }
  9. if (d < D)
  10. continue;

uniqueness独特性检测,在视差维度上是不仅是最小,而且其他视差和当前视差的聚合代价比小于(100 - uniquenessRatio)/100

SubpixelIneterpolation的实现

亚像素插值SubpixelIneterpolation的算法原理在上文有说过,就是泰勒公式展开,二次曲线拟合。

  1. if (0 < d && d < D - 1)
  2. {
  3. // do subpixel quadratic interpolation:
  4. // fit parabola into (x1=d-1, y1=Sp[d-1]), (x2=d, y2=Sp[d]), (x3=d+1, y3=Sp[d+1])
  5. // then find minimum of the parabola.
  6. int denom2 = std::max(Sp[d - 1] + Sp[d + 1] - 2 * Sp[d], 1);
  7. d = d * DISP_SCALE + ((Sp[d - 1] - Sp[d + 1]) * DISP_SCALE + denom2) / (denom2 * 2); //泰勒公式展开,二次曲线插值
  8. }
  9. else
  10. d *= DISP_SCALE;
  11. disp1ptr[x + minX1] = (DispType)(d + minD * DISP_SCALE);
  12. }

L-R check的实现

OpenCV的sgbm方法里面是没有L-R check,即左右目视差一致性检测。

并没有做到真正的左右目视差图计算,而是一种类似插值前后的连续性检测,只不过会先转换到右图坐标系下进行。

  1. d = bestDisp;
  2. int _x2 = x + minX1 - d - minD;
  3. if (mem.disp2cost[_x2] > minS)
  4. {
  5. mem.disp2cost[_x2] = (CostType)minS;
  6. mem.disp2ptr[_x2] = (DispType)(d + minD);//存在亚像素插值之前的视差值
  7. }
  8. // 插值前后的连续性检测
  9. for (x = minX1; x < maxX1; x++)
  10. {
  11. // we round the computed disparity both towards -inf and +inf and check
  12. // if either of the corresponding disparities in disp2 is consistent.
  13. // This is to give the computed disparity a chance to look valid if it is.
  14. int d1 = disp1ptr[x];
  15. if (d1 == INVALID_DISP_SCALED)
  16. continue;
  17. int _d = d1 >> DISP_SHIFT;
  18. int d_ = (d1 + DISP_SCALE - 1) >> DISP_SHIFT;
  19. int _x = x - _d, x_ = x - d_;
  20. //mem.disp2ptr[_x]和mem.disp2ptr[x_]是插值前的视差值
  21. //_d和d_是插值后的视差值
  22. //这里的判断是要确定插值前后,视差值的变化是小于等于disp12MaxDiff的,后则就是不连续
  23. if (0 <= _x && _x < width && mem.disp2ptr[_x] >= minD && std::abs(mem.disp2ptr[_x] - _d) > disp12MaxDiff &&
  24. 0 <= x_ && x_ < width && mem.disp2ptr[x_] >= minD && std::abs(mem.disp2ptr[x_] - d_) > disp12MaxDiff)
  25. disp1ptr[x] = (DispType)INVALID_DISP_SCALED;
  26. }

disp2ptr:存放插值前视差值,然后假设存放于右图,存放的位置是当前x减当前视差值,即_x2 = x + minX1 - d - minD

d1 = disp1ptr[x]:插值后的视差值,默认是乘以DISP_SCALE的

_d = d1 >> DISP_SHIFT:插值前视差值右移DISP_SHIFT位,表示还原为真实视差值

_x = x - _d:当前x减当前插值后视差值

std::abs(mem.disp2ptr[_x] - _d) > disp12MaxDiff:判断插值前后右图坐标系下的视差连续性是否大于disp12MaxDiff

 完整测试代码:

LeonJin/opencv_sgbm_learning

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/2023面试高手/article/detail/510447
推荐阅读
相关标签
  

闽ICP备14008679号