在智能制造背景下,传统锯片表面缺陷检测环节仍以人眼检测为主,这种检测方式存在检测效率低,检测精度差等问题。为此,提出基于深度学习的锯片表面缺陷智能检测系统。对大量锯片表面缺陷图像处理后构建数据集,利用YOLOv5s、YOLOv5m、YOLOv5l三种模型对数据集进行训练,根据综合评价指标和平均精度均值指标对三种模型的检测与识别性能进行比较后,决定采用YOLOv5m作为锯片表面缺陷检测模型,其综合评价指标F1和平均精度均值mAP分别达到了0.788、0.868,实现了对裂纹、点缺陷和结疤等表面缺陷的快速、准确检测和分类。此外,系统开发了锯片表面缺陷检测UI界面,实现锯片表面缺陷检测的自动化和可视化。这种方式提高了工业检测的效率,减少了人为误差,在冶金锯片表面缺陷智能检测方面具有一定的现实意义。 In the context of intelligent manufacturing, the traditional saw blade surface defect detection link is still dominated by human eye detection, and this detection method has problems such as low detection efficiency and poor detection accuracy. For this reason, a saw blade surface defect intelligent detection system based on deep learning is proposed. A large number of saw blade surface defect images are processed to construct a dataset, and the dataset is trained using three models, YOLOv5s, YOLOv5m and YOLOv5l. After comparing the detection and recognition performance of the three models according to the comprehensive evaluation indexes and the mean average accuracy metrics, it is decided to adopt YOLOv5m as the saw blade surface defect detection model, whose comprehensive evaluation indexes, F1, and the mean average accuracy mean mAP reached 0.788 and 0.868, respectively, achieving fast and accurate detection and classification of surface defects such as cracks, point defects and scars. In addition, the system develops a UI interface for saw blade surface defect detection, which realizes the automation and visualization of saw blade surface defect detection. This approach improves the efficiency of industrial inspection and reduces human errors, which is of practical significance in the intelligent detection of surface defects on metallurgical saw blades.
在智能制造背景下,传统锯片表面缺陷检测环节仍以人眼检测为主,这种检测方式存在检测效率低,检测精度差等问题。为此,提出基于深度学习的锯片表面缺陷智能检测系统。对大量锯片表面缺陷图像处理后构建数据集,利用YOLOv5s、YOLOv5m、YOLOv5l三种模型对数据集进行训练,根据综合评价指标和平均精度均值指标对三种模型的检测与识别性能进行比较后,决定采用YOLOv5m作为锯片表面缺陷检测模型,其综合评价指标F1和平均精度均值mAP分别达到了0.788、0.868,实现了对裂纹、点缺陷和结疤等表面缺陷的快速、准确检测和分类。此外,系统开发了锯片表面缺陷检测UI界面,实现锯片表面缺陷检测的自动化和可视化。这种方式提高了工业检测的效率,减少了人为误差,在冶金锯片表面缺陷智能检测方面具有一定的现实意义。
冶金锯片,缺陷识别,深度学习,YOLO算法,卷积神经网络,可视化
Siyi Chen, Zirou Wang, Bin Jiang, Xi Cui, Lili Meng*
School of Mechanical Engineering, North China University of Science and Technology, Tangshan Hebei
Received: Apr. 11th, 2024; accepted: May 9th, 2024; published: May 16th, 2024
In the context of intelligent manufacturing, the traditional saw blade surface defect detection link is still dominated by human eye detection, and this detection method has problems such as low detection efficiency and poor detection accuracy. For this reason, a saw blade surface defect intelligent detection system based on deep learning is proposed. A large number of saw blade surface defect images are processed to construct a dataset, and the dataset is trained using three models, YOLOv5s, YOLOv5m and YOLOv5l. After comparing the detection and recognition performance of the three models according to the comprehensive evaluation indexes and the mean average accuracy metrics, it is decided to adopt YOLOv5m as the saw blade surface defect detection model, whose comprehensive evaluation indexes, F1, and the mean average accuracy mean mAP reached 0.788 and 0.868, respectively, achieving fast and accurate detection and classification of surface defects such as cracks, point defects and scars. In addition, the system develops a UI interface for saw blade surface defect detection, which realizes the automation and visualization of saw blade surface defect detection. This approach improves the efficiency of industrial inspection and reduces human errors, which is of practical significance in the intelligent detection of surface defects on metallurgical saw blades.
Keywords:Metallurgical Saw Blade, Defect Identification, Deep Learning, YOLO Algorithm, Convolutional Neural Net, Visualization
Copyright © 2024 by author(s) and beplay安卓登录
This work is licensed under the Creative Commons Attribution International License (CC BY 4.0).
http://creativecommons.org/licenses/by/4.0/
冶金锯片在金属切割和加工中扮演着重要的角色,通常用于切割金属材料以满足不同行业的制造和建筑需求。然而,由于生产工艺、材料磨损等因素的影响,锯片可能会出现各种缺陷,如刃口磨损、裂纹、偏差等。这些缺陷不仅会降低切割质量,还可能导致设备损坏或生产中断,给生产过程带来不必要的成本和风险。为满足工业生产需求,确保工业生产质量,对冶金锯片表面的缺陷检测必不可少。
目前冶金锯片表面缺陷大多采用人工检测或脉冲超声检测、X射线检测和涡流检测等机器辅助人眼检测的方式,这些检测方法往往无法实时提供反馈,不能立即识别和解决潜在的表面缺陷问题,可能导致质量问题和生产中断 [
随着深度学习、计算机视觉与图像处理等专业领域的高速发展,基于计算机视觉的表面缺陷检测技术被广泛运用于工业生产重点检测领域,其所具有的高效率、低成本、低错误率等优点在降低了人力与错误率的同时也提高了生产效率 [
从上述可知,当前较少有深度学习算法专门针对锯片表面缺陷检测展开研究。因此,为提高锯片表面缺陷检测效率和精度,针对锯片表面的裂纹、点缺陷和结疤等多种缺陷,引入YOLO算法对锯片表面进行智能检测。同时,系统开发了锯片表面缺陷检测UI界面,可以通过输入图片、视频和摄像头拍摄三种不同的形式实现锯片缺陷检测自动化和可视化,为工业锯片表面缺陷检测提供了一定的参考价值。
YOLO (You Only Look Once)算法是一种快速且准确的物体检测算法。YOLO的核心思想是将物体检测问题转化为回归问题。它将输入图像划分为一个固定大小的网格,并通过卷积神经网络对每个网格进行预测 [
图1. YOLOv5_6.1版网络架构图
YOLOv5的网络结构主要由四个部分组成:Backbone网络、Neck网络、Head网络和可选的分割Head。如图1所示。
Backbone网络是YOLOv5的主干网络,它负责从输入图像中提取特征。YOLOv5中采用了BottleneckCSP和Focus模块作为Backbone的基本组件。BottleneckCSP模块结合了Cross Stage Partial Networks (CSP)和Bottleneck结构,用于提取图像的语义特征。Focus模块对输入图像进行切片操作,将通道数扩充为原来的4倍,并通过一次卷积操作得到下采样特征图 [
Neck网络是特征金字塔结构,用于融合不同层级的特征图以提升检测性能。YOLOv5中采用了融合Feature Pyramid Network (FPN)和Path Aggregation Network (PAN)的结构。FPN层将自底向上的特征金字塔与主干网络的特征图进行融合,以提取不同尺度的特征信息。PAN层则将主干网络层和检测层的特征进行融合,以获取更加丰富的语义和位置信息。
Head网络是YOLOv5的检测头,用于生成目标检测结果。它输出一个向量,包含目标的类别概率、置信度和边界框的位置信息。YOLOv5中使用了多个检测层来检测不同尺度的目标。每个检测层输出相应的目标预测结果,并进行后处理得到最终的检测框和类别。可选的分割Head是YOLOv5新增的部分,用于进行语义分割(Semantic Segmentation) [
以唐山某冶金锯片企业为研究对象,收集包含正常表面和带有各种缺陷的表面图像,获取锯片表面缺陷的相关数据并收集。对收集到的图片进行缩放和平移、颜色扰动和镜像翻转等处理,对数据集进行扩增,增加数据集的多样性。
对收集好的锯片图像进行预处理,包括数据集标注和标签格式转换。
(1) 数据集标注
利用标注工具labeling对锯片图片进行标注,如图2所示。并将标注文件以xml格式保存到新的文件夹中。
图2. 锯片缺陷标注
(2) 标签格式转换
YOLO运行的标签格式为txt格式,因此需要将数据集标签的xml格式转换为txt格式,并将txt文件保存到新建文件夹中。
大量的数据集可以获得更广泛的样本覆盖,在训练过程中,引入更多的数据增强技术可以提供更多的样本多样性,进一步提升模型的泛化能力。因此本系统引入Mixup、Mosaic更为复杂的数据增强方法。Mosaic数据增强方法的核心思想是将多个不同的图像拼接成一个大图像,并在该大图像上进行训练,如图3示。Mixup数据增强方法的核心思想是将两个不同的图像进行线性混合,同时将它们的标签也按照相同的比例进行混合,如图4所示。
图3. MOsaic增强
图4. MIixup增强
根据训练集大约占整个数据集的70%,测试集占整个数据集的20%,验证集占整个数据集的10%的比例对数据集进行划分。其中训练集用于模型训练的主要数据,验证集用于在训练过程中评估模型的表现,以避免过拟合,验证集用于在模型训练完毕后进行最终评估的数据 [
在win11操作系统和显卡NVIDIA GeForce RTX 3060 Laptop GPU下,通过Pytorch框架下实现的模型的搭建,训练和验证。YOLOv5有YOLOv5s、YOLOv5m、YOLOv5l和四种模型版本,模型的大小和深度依次增加,选择YOLOv5m模型进行训练,根据数据集和实验设置对YOLOv5模型配置文件中的参数值进行修改和调整 [
利用平均精度均值mAP@0.5,精确率(Precision)、召回率(Recall)和综合指标F1对不同模型的训练结果进行比较分析。PR曲线通过在不同的分类阈值下计算模型的准确率和召回率来展示二者之间的关系。在PR曲线中,横轴表示召回率(Recall),纵轴表示精确率(Precision) [
P r e c i s i o n = T P T P + F P (1)
R e c a l l = T P T P + F N (2)
其中TP (True Positive)为正样本预测出正样本数量,FP (False Positive)为负样本预测出正样本数量,FN (False Negative)为正样本预测出负样本数量。
F1是精确率Precision和召回率Rcall的调和平均数,用于评估模型在检测出所有目标的情况下的精确性和完整性,F1的值介于0~1之间,值越接近1说明效果越好 [
F 1 = 2 × P × R P + R (3)
基于YOLOv5的3种模型进行模型训练,3种模型的评估结果如图5~图7所示,评估指标如表1所示。由表可知,YOLOv5l模型可能由于模型更为复杂,拥有的数据集规模相对较小或者训练时间不足导致各项指标相比其他2个模型较差。YOLOv5s模型的精确率(0.784)比YOLOv5m的(0.742)较高但是YOLOv5s模型的召回率(0.819)即在正确的检测结果中召回正确的个数相比于YOLOv5m的(0.839)略低并且由F1综合评价指标可以看出YOLOv5m模型在检测出所有目标的情况下的精确性和完整性都比YOLOv5s模型更好。同时考虑在不同置信度下的表现,YOLOv5m模型的mAP指标的具体数值比YOLOv5s较高,模型性能更好。综上分析,决定采用YOLOv5m模型进行冶金锯片表面缺陷检测模型。
图5. YOLOv5s模型的训练结果
图6. YOLOv5m模型的训练结果
图7. YOLOv5l模型的训练结果
指标 模型 | P | R | mAP@0.5 | F1 |
---|---|---|---|---|
YOLOv5s | 3 | 4 | 7 | 8 |
YOLOv5m | 4 | 3 | 5 | 9 |
YOLOv5l | 7 | 6 | 7 | 8 |
表1. YOLOv5的3种模型各项指标
可视化UI界面允许用户与系统进行交互和操作。通过界面上的按钮、菜单、输入框等控件,用户可以选择不同的功能和操作,如开始检测、调整参数、导入导出数据等。界面上的实时反馈和状态显示可以让用户了解系统的运行状态,发现并解决问题。
在操作设计上,可视化UI界面使用户能够方便地上传待检测的冶金锯片表面图像、视频或者摄像头实时检测,通过简单的操作将图像输入系统。用户可以通过使用文件选择器等方式将文件上传至系统,以下是三种检测方式的详细内容。
(1) 图片检测方式:用户点击上传图片按钮:允许用户从计算机本地选择并上传待检测的图片。用户点击检测按钮后触发图像检测算法,系统将分析所选图片并检测出表面缺陷,如图8所示。检测结果将以可视化方式显示在界面上,是用矩形框和文字标记方式来突出显示缺陷区域。
(2) 视频检测方式:视频播放器允许用户加载本地视频文件在线播放视频。用户可以控制视频的播放和停止,以便随时进行缺陷检测,且系统应支持实时检测,在视频播放时不断分析并标记检测结果,如图9所示。其检测结果与图片检测方式类似,检测结果应以可视化方式展示在视频画面上,并提供相关信息。
(3) 摄像头检测方式:用户选择设备摄像头后,通过开始/暂停按钮启动和停止摄像头的实时检测。与上述两种方式检测相似,摄像头捕获的实时画面在界面上显示,检测结果也以实时方式显示在监控画面上,如图10所示。
图8 .图片检测界面
图9. 视频检测界面
图10. 摄像头检测界面
三种不同的检测方式可以根据企业的具体需求和生产环境,提供更高的生产效率、产品质量、成本效益和数据分析能力,有助于企业在竞争激烈的市场中取得竞争优势。
该系统针对冶金锯片表面缺陷检测问题,使用YOLOv5算法对采集到的数据集进行了模型训练通过深度学习的方式,能够自动地检测和分类图像中的锯片裂纹、结痂和点缺陷等三类不同类型表面缺陷。经过训练,获得了一个在锯片表面缺陷检测任务中表现出色的YOLOv5目标检测模型。在对测试数据集进行评估时,模型的平均精度达到了86.8%,证明了其在锯片表面缺陷检测和分类方面的良好性能。
系统通过建立UI界面实现了锯片表面缺陷检测的自动化和可视化,通过该界面输入待检测锯片的图像、视频或通过摄像头拍摄,进行表面缺陷智能检测,实现对锯片的实时监测和预警。这种自动化和可视化的方式不仅提高了工业检测的效率,还减少了人为误差,进一步推动了工业检测的智能化和可视化发展。
大学生创新创业训练计划“基于深度学习的锯片表面缺陷智能检测系统研究”(X2023280)。
陈思诒,王子柔,蒋 彬,崔 溪,孟丽丽. 基于深度学习的锯片表面缺陷可视化智能检测系统研究Research on Intelligent Detection System for Visualization of Saw Blade Surface Defects Based on Deep Learning[J]. 计算机科学与应用, 2024, 14(05): 23-32. https://doi.org/10.12677/csa.2024.145111
http://kns.cnki.net/kcms/detail/50.1075.TP.20240221.1709.014.html, 2024-03-27.
https://doi.org/10.1016/j.compeleceng.2022.108208
https://doi.org/10.1111/mice.12710
https://doi.org/10.26990/d.cnki.gsltc.2023.000538
https://doi.org/10.19287/j.cnki.1005-2402.2018.11.024
https://doi.org/10.13846/j.cnki.cn12-1070/tg.2024.02.009
https://doi.org/10.19562/j.chinasae.qcgc.2024.02.019
https://doi.org/10.14004/j.cnki.ckt.2022.1304
https://doi.org/10.13655/j.cnki.ibci.2024.01.049
https://doi.org/10.16652/j.issn.1004-373x.2020.01.024