OpenCV单词轮廓检测

0. 前言

在根据文档图像执行单词转录时，通常第一步是识别图像中单词的位置。我们可以使用两种不同的方法识别图像中的单词：

• 使用 CRAFT、EAST 等深度学习技术
• 使用基于 OpenCV 的技术

在本节中，我们将学习如何在不利用深度学习的情况下识别机器打印的单词。由于打印单词的背景和前景之间的对比度很高，因此不需要像 YOLO 之类的模型来识别单个单词的位置，在这种情况下，使用 OpenCV 可以在计算资源非常有限的情况下获得解决方案，唯一的缺点是准确率可能并非 100%，准确率取决于扫描图像的质量，如果扫描图像非常清晰，则准确率可以接近 100%。

1. 策略分析

利用 OpenCV 识别图像中的单词策略如下所示：

1. 将图像转换为灰度图像
2. 放大图像中的内容，膨胀操作可以将黑色像素扩散到相邻区域，因此将同一单词的字符连接起来，有助于确保同一个单词的字符之间的连接；需要注意的是，不能过度膨胀，以至于将属于不同相邻单词的字符也连接起来
3. 连接字符后，利用 cv2.findContours 在每个单词周围绘制一个边界框

2. 检测字符轮廓

(1) 加载图像，并查看图像样本：

import cv2, numpy as np
img = cv2.imread('1.png')
img1 = cv2.cvtColor(img, cv2.COLOR_RGB2BGR)
import matplotlib.pyplot as plt,cv2
plt.imshow(img1)
plt.show()
1
2
3
4
5
6

(2) 将输入图像转换为灰度图像：

img_gray = cv2.cvtColor(img1, cv2.COLOR_BGR2GRAY)
1

(3) 随机裁剪原始图像：

crop = img_gray[250:300,50:200]
plt.imshow(crop,cmap='gray')
plt.show()
1
2
3

(5) 二值化输入灰度图像：

_img_gray = np.uint8(img_gray < 200)*255
1

将小于 200 的像素的值置为 0，而像素强度大于 200 的值置为 255。

(6) 查找图像中的字符轮廓：

contours,hierarchy = cv2.findContours(_img_gray,cv2.RETR_EXTERNAL,cv2.CHAIN_APPROX_SIMPLE)
1

使用 cv2.findContours 函数可以通过将一组连续的像素创建为对象的单个区域来查找轮廓。

(7) 将阈值图像转换为三通道图像，以便在字符周围绘制彩色边界框：

thresh1 = np.stack([_img_gray]*3,axis=2)
1

(8) 创建空白图像，以便将 thresh1 中的相关内容复制到新图像中：

thresh2 = np.zeros((thresh1.shape[0],thresh1.shape[1]))
1

(9) 获取轮廓并在轮廓所在的位置绘制一个矩形边界框，同时，将 thresh1 图像中与矩形边界框对应的内容复制到 thresh2 中：

for cnt in contours:
    if cv2.contourArea(cnt)>0:
        [x,y,w,h] = cv2.boundingRect(cnt)
        if ((h>5) & (h<100)):
            thresh2[y:(y+h),x:(x+w)] = thresh1[y:(y+h),x:(x+w),0].copy()
            cv2.rectangle(thresh1,(x,y),(x+w,y+h),(255,0,0),2)
1
2
3
4
5
6

在以上代码中，只获取面积大于 5 像素的轮廓，并且只获取边界框高度在 5 到 100 像素之间的那些轮廓，这样可以排除可能是噪声的较小边界框，并排除可能包含整个图像的大边界框。

(10) 绘制结果图像：

fig = plt.figure()
fig.set_size_inches(20,20)
plt.imshow(img1)
plt.show()
1
2
3
4

我们已经可以在字符周围绘制边界框，但是如果想在单词周围绘制框，则需要将单词中的像素组合成一个连续的单元。接下来，我们利用膨胀技术在单词周围绘制边界框。

3. 检测单词轮廓

(1) 检查图像 thresh2：

fig = plt.figure()
fig.set_size_inches(20,20)
plt.imshow(thresh2)
plt.show()
1
2
3
4

接下来，需要将不同字符的像素连接成一个集合，使一个连续的像素集合构成一个单词。使用膨胀函数 cv2.dilate，将白色像素扩散周围的像素中，扩散程度由核大小决定。如果核大小为 5，则白色区域的所有边界向外移动 5 个像素。

(2) 使用尺寸为 1x2 的核执行膨胀操作：

dilated = cv2.dilate(thresh2, np.ones((1,2),np.uint8), iterations=1)
1

将核大小指定为 1x2 (np.ones((1,2),np.uint8))，以便相邻字符会出现交集，cv2.findContours 可以包含彼此接近的字符。但是，如果核大小过大，膨胀后的单词可能会有一些交集，导致一个边界框中包含多个单词。

(3) 获取膨胀图像的轮廓：

contours,hierarchy = cv2.findContours(np.uint8(dilated),cv2.RETR_EXTERNAL,cv2.CHAIN_APPROX_SIMPLE)
1

(5) 在原始图像上绘制膨胀后的图像轮廓：

for cnt in contours:
    if cv2.contourArea(cnt)>5:
        [x,y,w,h] = cv2.boundingRect(cnt)
        if ((h>5) & (h<100)):
            cv2.rectangle(img1,(x,y),(x+w,y+h),(255,0,0),2)
1
2
3
4
5

(6) 绘制带有轮廓的原始图像：

fig = plt.figure()
fig.set_size_inches(20,20)
plt.imshow(img1)
plt.show()
1
2
3
4

从上图中可以看出，我们获取了每个单词对应的边界框。本节的关键在于如何确定一组像素是否形成一个连通的单元，如果一组像素没有形成一个单元，使用膨胀进行处理，膨胀会扩散黑色像素，而侵蚀 (erode) 函数会扩散白色像素。

相关链接

OpenCV简介与图像处理基础
OpenCV图像运算
手写文本识别
YOLO 目标检测