实战-银行卡识别

理论部分

1.总体思路
首先把模板中的数字单个分离开，再提取银行卡上的ROI，再将两者的二值图像进行模板匹配，确定出每一个数字，即实现了银行卡号识别

补充介绍

ROI（region of interest），感兴趣区域。机器视觉、图像处理中，从被处理的图像以方框、圆、椭圆、不规则多边形等方式勾勒出需要处理的区域，称为感兴趣区域，ROI。在Halcon、OpenCV、Matlab等机器视觉软件上常用到各种算子（Operator）和函数来求得感兴趣区域ROI，并进行图像的下一步处理。

2.模板
要求：输入模板必须带有所有的数字，且字体与识别的银行卡号一样

输入：模板图像

输出：0-9各个数字模板

流程：

(1)输入模板图像

(2)模板图像转换为灰度图

(3)灰度图转换为二值图

(4)找到所有数字的外轮廓

(5)将轮廓画出

(6)对找到的轮廓排序，得到轮廓集合

(7)将每个数字制成一个模板

3.识别图片
要求：银行卡号的字体与模板的一样

输入：识别图像

输出：识别完成并画上识别结果的图像

流程:

(1)读取识别图像

(2)图像转换为灰度图

(3)灰度图进行礼帽操作

(4)利用Sobel算子进行边缘检测

(5)Sobel算子运算后的图像进行闭操作

(6)闭操作后的图像进行二值化（threshold）

(7)二值化后的图像再次进行闭操作

(8)找出轮廓

(9)画出轮廓

(10)对轮廓进行筛选得出ROI（根据数字区域的W/H;以及图像大小范围）

(11)对ROI进行排序

(12)提取ROI中的每一位数字进行模板匹配

(13)筛选出最符合的数字

(14)展示结果

4.参数

• 1.输入的模板
• 2.识别图片
• 3.卷积核的大小（关键是闭操作时，要使得能够将ROI凸显出来）
• 4.筛选ROI的时候，比例的大小以及区域大小的范围（可以适当调大参数，得出想要的ROI，再把ROI打印出来，再根据ROI调整）

代码部分

"""
参数调整：
1.输入的模板
2.检测的图片
3.卷积核的大小（关键是闭操作时，要使得能够将ROI凸显出来）
4.筛选ROI的时候，比例的大小以及区域大小的范围（可以适当调大参数，得出想要的ROI，再把ROI打印出来，再根据ROI调整）
"""
import cv2
import numpy as np
import imutils
from imutils import contours

# 初始化卷积核
myKernel = cv2.getStructuringElement(cv2.MORPH_RECT, (33, 21))
rectKernel = cv2.getStructuringElement(cv2.MORPH_RECT, (9, 3))


# sqKernel = cv2.getStructuringElement(cv2.MORPH_RECT, (5, 5))


def cv_show(name, imgs, time):
    cv2.imshow(name, imgs)
    cv2.waitKey(0)
    cv2.destroyAllWindows()


"""
模板图像的处理算法
输入:模板图像
输出:0-9各个数字模板
流程:
(1)读取模板图像
(2)模板图像转换为灰度图
(3)灰度图转换为二值图
(4)找到所有数字的外轮廓
(5)将轮廓画出
(6)对找到的轮廓排序,得到轮廓集合
(7)将每个数字制成一个模板
"""

temp = cv2.imread('./image/moban.png')
cv_show("temp", temp, 100)
ref = cv2.cvtColor(temp, cv2.COLOR_BGR2GRAY)
cv_show("ref_gray", ref, 100)
ref = cv2.threshold(ref, 10, 255, cv2.THRESH_BINARY_INV)[1]
cv_show("ref_t", ref, 100)

'''
计算轮廓
cv2.findContours()函数接受的参数为二值图，即黑白的（不是灰度图）
ref_, refCnts, hierarchy = cv2.findContours(ref.copy(), cv2.RETR_EXTERNAL, cv2.CHAIN_APPROX_SIMPLE)
cv2.RETR_EXTERNAL只检测外轮廓
cv2.CHAIN_APPROX_SIMPLE只保留终点坐标
ref_:显示返回值ref_其实是输入的原图
refCnts:返回的list中每个元素都是图像中的一个轮廓
'''

ref_, refCnts, hierarchy = cv2.findContours(ref.copy(), cv2.RETR_EXTERNAL, cv2.CHAIN_APPROX_SIMPLE)

# 画出找到的轮廓
cv2.drawContours(temp, refCnts, -1, (0, 0, 255), 2)
cv_show('temp', temp, 100)
print(np.array(refCnts, dtype=object).shape)
refCnts = imutils.contours.sort_contours(refCnts, method="left-to-right")[0]  # 排序，从左到右，从上到下
digits = {}

# 遍历每一个轮廓
for (i, c) in enumerate(refCnts):
    # 计算外接矩形并且resize成合适大小
    (x, y, w, h) = cv2.boundingRect(c)
    roi = ref[y:y + h, x:x + w]
    roi = cv2.resize(roi, (57, 88))

    # 每一个数字对应每一个模板
    digits[i] = roi

"""
输入图像的处理算法
输入:识别图像
输出:识别完成并画上识别结果的图像
流程:
(1)读取识别图像
(2)图像转换为灰度图
(3)灰度图进行礼帽操作
(4)利用Sobel算子进行边缘检测
(5)Sobel算子运算后的图像进行闭操作
(6)闭操作后的图像进行二值化（threshold）
(7)二值化后的图像再次进行闭操作
(8)找出轮廓
(9)画出轮廓
(10)对轮廓进行筛选得出ROI（根据数字区域的W/H;以及图像大小范围）
(11)对ROI进行排序
(12)提取ROI中的每一位数字进行模板匹配
(13)筛选出最符合的数字
(14)展示结果
"""

img = cv2.imread("./image/yinhangka.png")
cv_show("img", img, 800)
gray = cv2.cvtColor(img, cv2.COLOR_BGR2GRAY)
cv_show("img_gray", gray, 100)

# 礼帽操作，突出更明亮的区域
tophat = cv2.morphologyEx(gray, cv2.MORPH_TOPHAT, rectKernel)
cv_show('tophat', tophat, 100)

# 利用Sobel算子进行边缘检测
gradX = cv2.Sobel(tophat, ddepth=cv2.CV_32F, dx=1, dy=0, ksize=-1)

# 获得gradX的绝对值
gradX = np.absolute(gradX)
(minVal, maxVal) = (np.min(gradX), np.max(gradX))
gradX = (255 * ((gradX - minVal) / (maxVal - minVal)))
gradX = gradX.astype("uint8")

print(np.array(gradX).shape)
cv_show('Sobel', gradX, 100)

# 通过闭操作（先膨胀，再腐蚀）将数字连在一起
gradX = cv2.morphologyEx(gradX, cv2.MORPH_CLOSE, myKernel)
cv_show('close_1', gradX, 100)

# THRESH_OTSU会自动寻找合适的阈值，适合双峰，需把阈值参数设置为0
thresh = cv2.threshold(gradX, 0, 255, cv2.THRESH_BINARY | cv2.THRESH_OTSU)[1]
cv_show('thresh', thresh, 100)

# 再来一个闭操作
thresh = cv2.morphologyEx(thresh, cv2.MORPH_CLOSE, myKernel)
cv_show('close_2', thresh, 100)

# 计算轮廓
thresh_yuantu, threshCnts, hierarchy = cv2.findContours(thresh.copy(), cv2.RETR_EXTERNAL, cv2.CHAIN_APPROX_SIMPLE)
# 注！中间有4个数字的轮廓没识别好，导致下面判断矩阵w,h的时候把这4个数字给排除了，导致最终出现四个数字缺漏
# 解决角度：换图、别的findContours方法、上面的threshold阈值调整、下面的矩阵w、h判断条件修改

cnts = threshCnts
cur_img = img.copy()
cv2.drawContours(cur_img, cnts, -1, (0, 0, 255), 3)
cv_show('img', cur_img, 100)

locs = []

# 遍历轮廓
for (i, c) in enumerate(cnts):
    # 计算矩形
    (x, y, w, h) = cv2.boundingRect(c)
    print(w, h)
    # 该函数 矩形边框（Bounding Rectangle）是说，用一个最小的矩形，把找到的形状包起来。
    # 返回四个值，分别是x，y，w，h； x，y是矩阵左上点的坐标，w，h是矩阵的宽和高
    ar = w / float(h)

    # 选择合适的区域，根据实际任务来，这里的基本都是四个数字一组
    if 2.5 < ar < 4.0:
        if (100 < w < 200) and (30 < h < 50):
            # 符合的留下来
            locs.append((x, y, w, h))

print(locs)

# 将符合的轮廓从左到右排序
locs = sorted(locs, key=lambda o: o[0])
output = []

result = img.copy()

# 遍历每一个轮廓中的数字
for (i, (gX, gY, gW, gH)) in enumerate(locs):
    # initialize the list of group digits
    groupOutput = []

    # 根据坐标提取每一个组
    group = gray[gY - 5:gY + gH + 5, gX - 5:gX + gW + 5]
    cv_show('group', group, 100)

    # 预处理
    group = cv2.threshold(group, 0, 255, cv2.THRESH_BINARY | cv2.THRESH_OTSU)[1]
    cv_show('group', group, 100)

    # 计算每一组的轮廓
    yuantu, digitCnts, hierarchy = cv2.findContours(group.copy(), cv2.RETR_EXTERNAL, cv2.CHAIN_APPROX_SIMPLE)
    digitCnts = contours.sort_contours(digitCnts, method="left-to-right")[0]

    # 计算每一组中的每一个数值
    for c in digitCnts:
        # 找到当前数值的轮廓，resize成合适的的大小
        (x, y, w, h) = cv2.boundingRect(c)
        roi = group[y:y + h, x:x + w]
        roi = cv2.resize(roi, (57, 88))
        cv_show('roi', roi, 100)

        # 计算匹配得分
        scores = []

        # 在模板中计算每一个得分
        for (digit, digitROI) in digits.items():
            # 模板匹配
            res = cv2.matchTemplate(roi, digitROI, cv2.TM_CCOEFF)
            (_, score, _, _) = cv2.minMaxLoc(res)
            scores.append(score)

        # 得到最合适的数字
        groupOutput.append(str(np.argmax(scores)))

    # 画出来
    cv2.rectangle(result, (gX - 5, gY - 5), (gX + gW + 5, gY + gH + 5), (0, 0, 255), 1)
    cv2.putText(result, "".join(groupOutput), (gX, gY - 15), cv2.FONT_HERSHEY_SIMPLEX, 0.65, (0, 0, 255), 2)

    # 得到结果
    output.extend(groupOutput)

# 打印结果
print("Card number: {}".format("".join(output)))
cv_show("result", result, 800)
contrast = np.hstack((img, result))
cv_show("contrast", contrast, 0)

# 保存结果
cv2.imwrite("result.jpg", result)
cv2.imwrite("contrast.jpg", contrast)

# 注！中间有4个数字的轮廓没识别好，导致下面判断矩阵w,h的时候把这4个数字给排除了，导致最终出现四个数字缺漏
# 解决角度：换图、别的findContours方法、上面的threshold阈值调整、下面的矩阵w、h判断条件修改

---