电力工程技术  2024, Vol. 43 Issue (2): 73-82  
0

引用本文  

周文青, 刘刚. 基于深度学习和无人机图像的架空线路缺陷巡检综述[J]. 电力工程技术, 2024, 43(2): 73-82.
ZHOU Wenqing, LIU Gang. Review of overhead line defect inspection based on deep learning and UAV images[J]. Electric Power Engineering Technology, 2024, 43(2): 73-82.

基金项目

国家自然科学基金资助项目(51977083);广东省自然科学基金资助项目(2022A1515011182)

作者简介

周文青(1996), 男, 博士在读, 研究方向为电力装备智能巡检(E-mail: 202110182754@mail.scut.edu.cn); 刘刚(1969), 男, 博士, 教授, 研究方向为电力装备在线监测。

文章历史

收稿日期:2023-09-27
修回日期:2023-12-02
DOI: 10.12158/j.2096-3203.2024.02.008
文章编号: 2096-3203(2024)02-0073-10   中图分类号: TM726.3   
基于深度学习和无人机图像的架空线路缺陷巡检综述
周文青, 刘刚    
华南理工大学电力学院, 广东 广州 510641
摘要:架空输电线路巡检是电网运维工作的一项重要内容,利用无人机进行线路巡视检测已成为运维人员完成电力巡检工作的重要手段。首先,文中概述无人机巡检任务中人机协同作业系统以及无人机智能自主作业系统的架构;其次,分析当前架空输电线路缺陷巡检领域数据集状况以及数据扩增技术;再次,综述基于深度学习的无人机图像缺陷检测典型方法以及评价指标,并对比总结各种方法的优缺点;然后,讨论无人机图像视觉检测方法中图像采集规范、数据集形式、缺陷检测算法专业化应用等对架空线路缺陷的检测效果,指出图像检测指标和类别定义在电力巡检专业化领域中的不足;最后,探讨基于深度学习的无人机图像缺陷巡检的未来发展方向。
关键词输电线路    无人机巡检    缺陷检测    深度学习    卷积神经网络    巡检策略    
0 引言

架空输电线路作为电力系统中进行电能输送的重要一次设备,是我国电力网络中最重要的基础设施之一,其安全稳定运行是实现电能输送的重要前提和保障。随着电力行业的飞速发展,电网规模不断扩大,输电线路长度快速增长。国家能源局发布的数据显示,截至2021年底,我国220 kV及以上电压等级输电线路总长达83.88万千米,相比2011年增长了76.59%。而输电线路长期处于自然环境中,受气候条件、周围动物活动以及人类活动等因素的影响,有较高概率出现隐患、缺陷甚至事故[1-3],会降低电网可靠性,造成国民经济损失,因此电力运维人员须定期对架空线路进行巡检。随着输电线路规模迅速增长,传统人工巡检方式效率较低的问题日益突显。目前无人机(unmanned aerial vehicle,UAV)技术应用逐步成熟,基于无人机图像巡检的架空线路巡检作业模式得到了广泛应用。相比传统人工户外巡检方式,人机协同作业的巡检效率显著提升[4-8]。2015年起,电网系统开始大规模开展直升机、固定翼、多旋翼协同作业,截至2019年底,机巡里程达45万千米。

随着架空线路无人机巡检里程的增加,伴随产生了另一个问题:无人机采集的光学图像数据呈爆炸式增长。除了运维人员在飞行巡检过程中对图像进行肉眼判断是否存在缺陷外,采集的图像或者视频还会存入机载设备或者直接上传至云端数据库,以供运维人员后续进行更细致的缺陷识别。但采用人工方式对这些图像进行筛查不仅效率低下,而且容易漏检或误检。自2012年卷积神经网络(convolution neural network, CNN)AlexNet[9]在ImageNet比赛获得冠军以来,基于CNN的图像处理技术飞速发展,在图像分类、图像识别、图像分割等领域远超传统的图像处理方法(如局部二值模式(local binary patterns,LBP)、尺度不变特征变换(scale-invariant feature transform,SIFT)、梯度方向直方图(histogram of oriented gradients,HOG)等)[10-14]。这得益于CNN优异的特征抽取和表征能力,无须手工设计特征,具有很强的鲁棒性,而且通过CNN可以实现图像输入和预测结果输出的端到端模式,简化了图像检测流程[15-17]。根据这一特点,基于深度学习的架空线路无人机图像缺陷检测方法也被部署应用在服务端,协同人工筛选,以提高缺陷检测效率[18-21]

文中从架空线路无人机图像缺陷识别出发,在综述相关研究文献的基础上,阐述深度学习技术在该领域的应用场景。首先,介绍目前无人机巡检任务中的常见作业形式; 其次,概述现有架空输电线路无人机巡检的缺陷图像数据集类别和形式;随后,探讨深度学习技术在无人机图像缺陷检测方面的应用,对比分析各缺陷模型的检测结果;最后,指出无人机和深度学习应用于输电线路巡检时存在的关键问题,并探讨该领域未来的发展方向。

1 无人机巡检 1.1 无人机巡检概况

2015年国家能源局发布DL/T 1482—2015《架空输电线路无人机巡检作业技术导则》,详细规定了架空线路无人机巡检的作业要求、巡检方式方法、巡检内容等。根据机型分类,无人机可分为固定翼无人机和旋翼无人机,在现场巡检任务中四旋翼无人机是应用最多、最广泛的一种机型。在无人机巡检任务载荷系统方面,可搭载可见光设备、红外设备、紫外设备、激光点云设备等。实际运维过程中主要采用旋翼无人机搭载可见光检测设备,因此文中主要讨论旋翼无人机作业方式和基于深度学习的可见光图像缺陷识别方法。

图 1展示了架空线路无人机巡检作业涉及的通用标准和通用技术。通用标准除了《架空输电线路无人机巡检作业技术导则》外,还包括GB 26859—2011《电力安全工作规程电力线路部分》、DL/T 741—2010《架空输电线路运行规程》和DL/T 1248—2013《架空输电线路状态检修导则》。通用技术主要涉及无人机的自主巡航、自主避障及返航、遥控、图传通信功能,是实现架空线路无人机巡检的技术基础。

图 1 架空线路无人机巡检标准与技术 Fig. 1 UAV inspection standards and technologies for overhead lines

图 2为架空线路无人机巡检示意。在人为控制或者根据既定航线的情况下,无人机沿着输电走廊巡检。在杆塔区域需要重点巡视接地装置、绝缘子、导线挂点、地线挂点和线路金具等部件,要求能发现销钉级元件缺陷;在线路区域巡视应能发现雷击导线断股、地线断股等细微缺陷[22-23]

图 2 架空线路无人机巡检示意 Fig. 2 Schematic diagram of UAV overhead line inspection

目前常用的无人机作业方式为人机协同作业方案和无人机智能自主作业方案。

1.2 人机协同作业方案

人机协同作业是指架空线路运维人员操控无人机进行线路巡检,也是目前电力运维中应用最广泛的方案。在该作业方案下,主要分为准备阶段、巡检阶段和数据处理阶段,如图 3所示。巡检期间,无人机的起飞、巡检飞行、返航降落以及在杆塔区域和线路区域的图像数据采集都需要人为操控。在图像数据采集过程中,可利用部署在无人机系统的轻量化缺陷识别模型辅助运维人员进行缺陷快速定位与识别。

图 3 人机协同作业流程 Fig. 3 Operation process of humanmachine collaboration
1.3 无人机智能自主作业方案

人机协同作业方式对操作人员的专业技能要求比较高,并且对无人机操控的熟练度以及技能方面存在着不确定性。为了克服这一缺点,需要借助无人机自主巡检技术[5-6, 24-25]

目前电力企业中广泛使用的自主巡检技术有2种:激光雷达技术和实时动态(real-time kinematic,RTK)高精度定位技术[6]。激光雷达技术实现了对架空输电线路信息的快速获取,采用三维点云数据对飞行线路进行规划,综合无人机的飞行状态参数、姿态数据和无人机本身搭载的激光雷达,实现自主巡航和运维检修。RTK高精度定位技术基于流动站和基准站进行差分定位,无人机在进行架空输电线路的运维检修时受限于基站之间的距离和网络传输的问题,须建立多个基站来保证信号传递的安全性和稳定性,实现无人机的自主巡检。准备阶段和数据处理阶段的作业流程与人机协同作业一致。

2 架空线路巡检缺陷数据集 2.1 数据集概况

在DL/T 1482—2015《架空输电线路无人机巡检作业技术导则》中,无人机要检测的对象多达25种,涉及的缺陷类型及其尺寸大小不一。按照检测目标的尺寸大小可将缺陷数据样本大致分为4种:杆塔级、部件级、部位级以及元件级[26]。典型的缺陷类型如表 1所示,图 4为无人机架空线路巡检拍摄的现场图片。

表 1 架空线路巡检典型缺陷 Table 1 Classical defects during overhead line inspection

图 4 架空线路无人机巡检图片 Fig. 4 Images acquired by UAV during overhead line inspection
2.2 数据集扩增

数据丰富程度是制约基于深度学习的目标检测模型精度的一个重要因素,如果数据量不够丰富,CNN无法充分学习到所需检测目标的特征,便会降低检测精度,降低检测算法的鲁棒性。对于输电线路目标缺陷检测,不同缺陷类型的样本库大小也不同,例如螺栓缺失、飘挂物等缺陷要多于导、地线损伤断股,缺陷数据集整体呈现长尾分布效应。

针对上述数据不平衡问题,研究人员通常采用的方法有设置平衡采样策略[17]、加权损失函数[27]和数据增强[16-17, 28-31],其中数据增强是一种操作简单、效果明显的方法。数据增强是指在已有数据不足的情况下,利用图像处理技术,增加训练数据集的多样性,从而满足训练模型的需求,提高模型泛化性能。根据是否在训练过程中实现数据增强,可分为离线增强和在线增强。

离线增强是指在线下利用已有缺陷数据集进行增强,可以利用传统的图像处理方法,如图像几何变换(旋转、缩放、切变、平移、仿射变换等)、图像模糊、锐化、加噪、对比度变换、图像颜色空间变换、随机裁剪等操作。离线增强可以扩增架空线路无人机缺陷检测样本的丰富度和多样性。

目前深度算法中常用的在线扩增方法有MixUp、Copy Paste及Mosaic。MixUp[32]利用2组不同图像数据构建新的数据对$(\tilde{x}, \tilde{y})$,如式(1)所示。

$ \left\{\begin{array}{l} \tilde{x}=\lambda x_i+(1-\lambda) x_j \\ \tilde{y}=\lambda y_i+(1-\lambda) y_j \end{array}\right. $ (1)

式中:(xi, yi)、(xj, yj)为原始数据集中的训练样本对(x为训练样本,y为其对应的标签);λ为服从Beta分布的参数。

Copy Paste[33]和MixUp类似,但只复制源对象的确切像素至目标图像并随机粘贴,而不是对象边界框中的所有像素。Mosaic[34]将原始数据中的4张图片通过随机缩放、随机裁减、随机排布的方式进行拼接,得到新的图像,并且对原图中的标签信息作相同处理,从而得到新的图像-标签对,其处理流程如图 5所示。该方法融合了4张图像的信息,丰富了检测物体的背景和需要检测的小目标物体。

图 5 Mosaic数据增强流程 Fig. 5 Process for Mosaic data augmentation

除了采用常规的图像操作变换方法外,也可以通过生成对抗网络(generative adversarial network,GAN)或者扩散模型生成新的图像,增加缺陷样本丰富度,但该方法本身需要学习大量原始图像,目前在电力领域应用较少。

3 基于深度学习的缺陷检测方法 3.1 基于CNN的缺陷检测方法

近年来,基于CNN的深度学习技术已广泛应用于各种图像处理任务中,如图像分类、目标检测、语义分割、实例分割、目标跟踪和超分辨率。在AlexNet之后,相继提出VGG[35]、Inception[36-37]、残差网络(residual net ̄work, ResNet)[38]、稠密连接网络(dense network,DenseNet)[39]、MobileNet[40]和ResNeXt[41]等经典网络。其中ResNet的提出解决了深度CNN引起的梯度消失或梯度爆炸问题,对后续的网络结构设计具有重要的启发意义。

借助CNN高效的图像特征提取和多尺度特征融合能力,研究人员开发出了很多经典的目标检测算法。目前主流的目标检测算法主要分为基于锚框(anchor based)和无锚框(anchor free)两种类型。无锚框的典型算法包括VOLOv1[42]、CornerNet[43]、CenterNet[44]和单阶段全卷积目标检测(fully convolutional one-stage object detection,FCOS)网络[45]等,该类算法不依赖于锚框的选择,省去了手动选择先验框的过程,从而减少了设计参数的需求,但由于没有固定的参考锚框,该类算法在目标定位方面可能不如基于锚框类算法精确。基于锚框的算法可以细分为3类:单阶段检测算法,如YOLOv2—v7[34, 46-49]、单次多边框检测(single shot multibox detector,SSD)[50]、RetinaNet[27];双阶段检测算法,如Faster RCNN[51, 28]、基于区域的全卷积神经网络(region-based fully convolutional network,R-FCN)[52]、Mask RCNN[53]等;多阶段检测算法,如Cascade R-CNN[54]。基于锚框的算法通过预定义的一系列先验框准确定位并分类目标物体,提高了检测速度,但缺乏泛化能力,如果目标物体形状变化较大,锚框难以覆盖所有可能的形状,则会影响缺陷检测精度。

图 6为单阶段和双阶段检测算法的框架,其中骨干网络用于图像特征提取,不同深度下的卷积特征代表了不同的语义信息。Neck网络用于图像特征信息的融合与优化,例如特征金字塔网络[27]、路径聚合网络(path aggregation network,PANet)[55]、双向特征金字塔网络(bidirectional feature pyramid network,BiFPN)[56]等;Head网络在单阶段算法中用于输出分类和检测的结果,而在双阶段检测算法或者多阶段检测算法中,Head网络担任筛选提议框的作用,与结果预测进行分离,尽管检测精度有所提高,但计算复杂度相对较高,因此在推理过程中其速度相对于单阶段检测算法较低。

图 6 单阶段、双阶段检测算法框架 Fig. 6 Architecture of one-stage and two-stage detector algorithms
3.2 基于Transformer的缺陷检测方法

Transformer模型是Google于2017年提出的一种基于自注意力机制的神经网络结构,主要由编码器和解码器组成,被广泛应用于自然语言处理(natural language processing,NLP)领域,取代了传统的循环神经网络(recurrent neural network, RNN)和长短期记忆网络(long-short term memory, LSTM)等模型,成为当前NLP领域最流行的模型之一[57]。Transformer模型拥有出色的长序列处理能力以及全局建模能力,已应用到端到端的图像处理任务中。

Transformer模型中的编码器-解码器结构在整个检测架构中可以替代原来的Neck-Head网络,用于充分融合CNN骨干网络提取的局部卷积特征和Transformer的全局特征,进而增强模型的整体特征表达能力。这类典型目标检测模型包括Detection Transformer(DETR)[58]、Vision Transformer Detector (ViTDet)[59]、Adaptive Clustering Transformer (ACT)[60]等。DETR目标检测网络的算法流程,如图 7所示,把图像看作是一个序列,并利用Transformer模型对图像中所有位置进行建模,在输出端加入一个全局位置嵌入,从而实现目标检测。

图 7 DETR算法检测流程 Fig. 7 Detection process of DETR algorithm

Transformer模型在目标检测领域的另一种应用手段是作为分层Transformer的骨干网络。通过自注意力编码图像全局特征,为检测器提供高质量中间特征,这类典型检测算法包括Feature Pyramid Transformer(FPT)[61]、Swin Transformer[62]等。

在上述2类算法模型中,结构设计上的差异导致了功能上的区别。以DETR和Swin Transformer这2种典型算法为例,在特征表示方面,Swin Transformer使用分层的Transformer结构,可以在不同层级上提取多尺度的特征表示,类似ResNet网络;而DETR使用CNN作为编码器,可以捕捉不同尺度的特征,但没有显式的多层级特征表示。在注意力机制方面,Swin Transformer使用局部注意力窗口机制,在局部区域内进行自注意力计算,减少了计算复杂性;而DETR使用全局自注意力机制,将整个特征图作为输入,进行全局的自注意力计算,因此训练和推理速度相对较慢。

3.3 缺陷检测评价指标

在目标检测领域,通常使用多个指标来衡量检测器的性能,包括每秒帧数(frames per second,FPS)、精度、召回率、平均精度(mean average precision,mAP)和平均召回率(mean average recall,mAR)等。精度计算依据为交并比(intersection over union,IoU),IoU是真实边界框和预测边界框之间的重叠面积与并集面积之比,可通过设置IoU阈值来判断预测结果是否正确。如果IoU大于阈值,则将其归类为真阳性(true positive,TP),而低于IoU阈值将归类为假阳性(false positive,FP)。如果模型未能检测到真实边界框中存在的对象,则称为假阴性(false negative,FN),其他为真阴性(true negative,TN)。以上指标组成混淆矩阵,精度用于衡量正确预测的百分比,而召回率用于衡量相对于真实标注的正确预测结果。平均精度Pav计算如式(2)所示。

$ \left\{\begin{array}{l} P_{\mathrm{av}}=\sum\limits_i\left(R_i-R_{i-1}\right) P_i \\ R_i=\frac{N_{\mathrm{TP}}}{N_{\mathrm{TP}}+N_{\mathrm{FN}}} \\ P_i=\frac{N_{\mathrm{TP}}}{N_{\mathrm{TP}}+N_{\mathrm{FP}}} \end{array}\right. $ (2)

式中:RiPi分别为IoU阈值为i(i=0.5, 0.55, …, 0.95)时的召回率和精度;NTPNFNNFP分别为真阳性、假阴性、假阳性的个数。通常会遍历不同的IoU阈值得到PR曲线,再根据PR曲线计算Pav值。对所有检测类别,其平均精度Pavm计算如下:

$ P_{\mathrm{av}}^{\mathrm{m}}=\frac{1}{C} \sum\limits_{j=1}^C P_{\mathrm{av}, j} $ (3)

式中:C为类别数量;Pav, j为第j类缺陷的检测平均精度。

除了检测精度和召回率外,在架空线路缺陷检测领域,还须关注检测准确率、漏检率和误检率,其指标定义如表 2所示,表中NTN为归类为真阴性的个数。

表 2 架空线路缺陷检测指标 Table 2 Defect detection metrics for overhead line
3.4 架空线路缺陷检测应用效果

在实际架空线路缺陷检测任务中,面临着缺陷目标尺寸差异大、无人机巡检架空线路图像背景复杂多样等问题。文中梳理了现有深度学习检测方法在架空线路缺陷巡检方面的公开文献,分析了各类模型算法针对不同缺陷类型的检测应用效果,整理结果如表 3所示。表中以mAP和mAR为对比指标,并给出了所使用到的架空线路缺陷数据集类别以及数据集数量。

表 3 基于深度学习的架空线路缺陷检测应用效果 Table 3 Defect detection effect for overhead line based on deep learning

表 3可以看出,检测类别增多时,现有深度学习检测算法的检测性能降低,其原因是深度神经网络无法充分学习到不同尺度的缺陷特征,例如杆塔、金具、绝缘子、地线缺陷这4类缺陷一起训练并检测时,其效果差强人意。而大部分基于深度学习的架空线路缺陷检测算法在判断同一种金具或部件是否好坏时都取得了很好的效果。

另外,对于同一类缺陷,算法的选取对结果也很重要。由表 3可知,YOLO系列算法性能普遍优于其他双阶段检测算法,该系列算法将不同尺度的特征进行融合,在不同层次的特征图上进行目标检测,能够同时检测不同尺寸的目标。这种多尺度特征融合的设计使得YOLO在目标尺度变化较大的情况下仍能保持较好的检测性能。无锚框算法性能普遍较低,其原因可能是缺乏预定义先验框的引导,定位精度较低,而且没有明确的目标尺度感知机制,对于不同尺度的目标可能存在检测困难的问题。Transformer模型侧重于对序列数据的建模,缺乏空间局部性建模能力,可能无法充分捕捉到图像的全局结构和上下文信息,不利于缺陷目标的准确定位和分类,因此在表 3中展现出的检测结果并不理想。

3.5 模型轻量化

目前一些无人机机型自身搭载了轻量化缺陷识别算法,可以帮助架空线路运维人员在巡检过程中分析判断设备元件缺陷状况[68-69]。模型轻量化是指为了在计算资源受限的设备上实现高效的模型部署和推理而进行的一系列技术手段,包括参数剪枝、量化、低秩近似、知识蒸馏、网络剪枝、网络结构优化设计等,这些手段可以减少模型的参数量和计算量,提高模型的轻量性和效率。

4 现存的问题与展望 4.1 现存的问题

目前基于深度学习的架空线路无人机缺陷检测方案中存在以下问题:

(1) 缺乏专业统一的架空线路缺陷数据集。例如缺陷类别命名不统一、存在重叠、标注格式不统一等,这些因素会导致深度缺陷检测算法无法有效训练学习各类缺陷特征,进而影响检测性能。

(2) 图像质量参差不齐。关于拍摄目标和拍摄条件控制(目标、距离、角度、倾斜度、拍摄数量等)尚未形成统一标准,图像质量直接影响智能分析算法的缺陷或隐患检测性能。

(3) 检测算法未能对设备缺陷程度作出准确判断。例如对于绝缘子缺失这种缺陷类型,检测算法可以得出绝缘子缺失这一结果,但不能告知绝缘子缺失数量,即无法判断缺陷程度,而这直接关系到设备的状态评估以及对应检修策略的制定。

4.2 展望 4.2.1 构建系统化、专业化缺陷数据库

基于深度学习的缺陷检测算法模型性能好坏与缺陷样本库的质量和数量紧密相关。要构建系统化、专业化缺陷数据库,首先需要确定缺陷类别的层次化关系,例如绝缘子缺失缺陷,在缺陷类别判定上除了简单归类为缺失外,还须标记出缺失的绝缘子数量,让算法充分学习缺陷特征,进而对缺陷程度作出判断。其次是制定数据标注规范,以保证不同人标注的数据具有一致性。标注规范需要包括缺陷的种类、大小、位置、严重程度等信息,对于难以判断的缺陷类别,应该采用多人投票决策的方式得到最终结果。另外,对于大量需要标注的数据,可以采用图 8所示的半自动化标注流程。

图 8 图像数据标注半自动化流程 Fig. 8 Semi ̄automatic process of image data labeling
4.2.2 规范无人机巡检作业图像采集

在基于深度学习的输电线路图像缺陷检测模型中,图像的拍摄质量对图像检测结果起着关键性作用。输电线路的设计与建设过程中已经具备了一定程度的规范性和标准性,为基于图像数据的目标缺陷检测模型提供了标准化图像数据的可行性。

DL/T 1482—2015《架空输电线路无人机巡检作业技术导则》中要求小型无人机在杆塔和导线巡视过程中与巡检部件的空间距离不宜小于10 m,然而以销钉为例,大多位于挂板侧或者导线侧联板底部,如图 9所示。在这种情况下,无人机需要更近距离和调整俯仰角进行拍摄以获得优质的巡检图像。除此之外,对采集图像的规范化命名也有利于在后期缺陷巡检过程中快速定位缺陷类型。

图 9 销钉紧固件常见安装位置 Fig. 9 Common installation locations for cotter pins

随着无人机自主作业的普及,要在航线规划中根据缺陷识别的实际需求,设计不同的拍摄点和拍摄要求,实现图像数据规范化采集。

4.2.3 基于领域知识的深度学习算法改进

目前电力行业中应用的基于深度学习的输电线路图像缺陷检测算法模型很多,并在一些特定的缺陷上检测精度很高,但从综述调研结果来看,现有研究大多直接将计算机视觉领域的算法迁移至电力缺陷巡检领域,并没有充分利用领域知识。

在电力架空输电线路缺陷巡检任务中,不同缺陷目标一般遵从着一定的层次逻辑关系,即大部件中包含小元件,例如间隔棒松脱往往是紧固件螺栓脱落导致的。利用这一关系,可以设计级联式的输电线路图像目标缺陷检测算法。

以主要级联设计为两级的销钉缺陷算法为例,第一级联算法的任务是识别出图像中出现销钉的大部件,例如悬垂线夹、联板,初步确定销钉位置,这一级联算法的算法检测窗口由部件级目标在图像中所占大小来确定,检测窗口较大,检测速度较快,能快速筛选海量数据;第二级联算法的任务是在第一级联识别结果的基础上进行元件定位和缺陷类别判定,由于这一级联算法在特定区域内进行检测,相比直接检测整张图像,检测精度大幅提高。

5 结语

随着电网数字化、智能化的进一步推进与发展,基于无人机的架空输电线路缺陷巡检将成为未来的主流模式,而基于深度学习的无人机图像缺陷识别算法将是分析海量巡检图像数据的重要工具。

文中综述了目前无人机巡检作业的主要流程,剖析了现有无人机缺陷数据集状况和基于深度学习的架空线路无人机巡检图像缺陷识别算法的特点,总结了3类典型深度学习方法基本原理和检测效果,分析探讨了现今存在的问题并对未来研究工作进行了展望。深度学习等智能方法的深入研究和应用将推动电力系统分析和控制理论体系的不断发展和完善。利用深度学习技术对输电线路状态实现敏捷感知和高效数据处理,并以此构建自动化、智能化的缺陷巡检系统,可有效提高架空输电线路运维水平,加速推动我国数字电网建设。

参考文献
[1]
HAO Y P, LIANG W, WANG X Y, et al. Automatic calculation of graphic area change rate for icing overhead power line insulators based on bounding box automatic matching and GrabCut contour automatic segmentation[J]. IEEE Transactions on Power Delivery, 2023, 38(4): 2821-2830. DOI:10.1109/TPWRD.2023.3262807 (0)
[2]
HAO Y P, LIANG W, YANG L, et al. Methods of image recognition of overhead power line insulators and ice types based on deep weakly-supervised and transfer learning[J]. IET Generation, Transmission & Distribution, 2022, 16(11): 2140-2153. (0)
[3]
CHEN B H. Fault statistics and analysis of 220-kV and above transmission lines in a southern coastal provincial power grid of China[J]. IEEE Open Access Journal of Power and Energy, 2020, 7: 122-129. DOI:10.1109/OAJPE.2020.2975665 (0)
[4]
陈兰波. 电力线路无人机巡检方案研究[J]. 科技与创新, 2020(11): 36-38, 41.
CHEN Lanbo. Research on UAV patrol inspection scheme of power line[J]. Science and Technology & Innovation, 2020(11): 36-38, 41. (0)
[5]
包文杰. 无人机输电线路巡检中的多种中继技术应用[J]. 集成电路应用, 2023, 40(2): 194-195.
BAO Wenjie. Application of multi-relay technology in UAV transmission line patrol inspection[J]. Application of IC, 2023, 40(2): 194-195. (0)
[6]
丁楠. 架空输电线路无人机运维巡检技术研究[J]. 现代工业经济和信息化, 2023, 13(1): 262-263, 266.
DING Nan. Research on UAV operation and maintenance inspection technology for overhead transmission lines[J]. Modern Industrial Economy and Informationization, 2023, 13(1): 262-263, 266. (0)
[7]
李敏, 于倩, 李捷, 等. 高压输电线路的无人机巡检技术分析[J]. 集成电路应用, 2023, 40(2): 126-127.
LI Min, YU Qian, LI Jie, et al. Analysis of UAV inspection technology for high-voltage transmission lines[J]. Application of IC, 2023, 40(2): 126-127. (0)
[8]
ALHASSAN A B, ZHANG X D, SHEN H M, et al. Power transmission line inspection robots: a review, trends and challenges for future research[J]. International Journal of Electrical Power & Energy Systems, 2020, 118: 105862. (0)
[9]
KRIZHEVSKY A, SUTSKEVER I, HINTON G E. ImageNet classification with deep convolutional neural networks[J]. Communications of the ACM, 2012, 60: 84-90. (0)
[10]
WANG X Y, HAN T X, YAN S C. An HOG-LBP human detector with partial occlusion handling[C]//2009 IEEE 12th International Conference on Computer Vision. Kyoto, Japan. IEEE, 2009: 32-39. (0)
[11]
DALAL N, TRIGGS B. Histograms of oriented gradients for human detection[C]//2005 IEEE Computer Society Conference on Computer Vision and Pattern Recognition (CVPR'05). San Diego, CA, USA. IEEE, 2005: 886-893. (0)
[12]
OBERWEGER M, WENDEL A, BISCHOF H. Visual recognition and fault detection for power line insulators[C]//19th Computer Vision Winter Workshop. 2014. (0)
[13]
ZHAO Z B, XU G Z, QI Y C. Representation of binary feature pooling for detection of insulator strings in infrared images[J]. IEEE Transactions on Dielectrics and Electrical Insulation, 2016, 23(5): 2858-2866. DOI:10.1109/TDEI.2016.7736846 (0)
[14]
JABID T, UDDIN M Z. Rotation invariant power line insulator detection using local directional pattern and support vector machine[C]//2016 International Conference on Innovations in Science, Engineering and Technology (ICISET). Dhaka, Bangladesh. IEEE, 2016: 1-4. (0)
[15]
王凯, 王健, 刘刚, 等. 基于辅助数据RetinaNet算法的销钉缺陷智能识别[J]. 广东电力, 2019, 32(9): 41-48.
WANG Kai, WANG Jian, LIU Gang, et al. RetinaNet algorithm based on auxiliary data for intelligent identification on pin defects[J]. Guangdong Electric Power, 2019, 32(9): 41-48. (0)
[16]
郭敬东, 陈彬, 王仁书, 等. 基于YOLO的无人机电力线路杆塔巡检图像实时检测[J]. 中国电力, 2019, 52(7): 17-23.
GUO Jingdong, CHEN Bin, WANG Renshu, et al. YOLO-based real-time detection of power line poles from unmanned aerial vehicle inspection vision[J]. Electric Power, 2019, 52(7): 17-23. (0)
[17]
王凯, 王健, 刘刚, 等. 基于RetinaNet和类别平衡采样方法的销钉缺陷检测[J]. 电力工程技术, 2019, 38(4): 80-85.
WANG Kai, WANG Jian, LIU Gang, et al. Defect detection of pins based on RetinaNet and class balanced sampling methods[J]. Electric Power Engineering Technology, 2019, 38(4): 80-85. (0)
[18]
马忠梅, 韩宝卿, 李文娟, 等. 智能识别技术在无人机输电线路巡检中的应用[J]. 集成电路应用, 2022, 39(8): 126-127.
MA Zhongmei, HAN Baoqing, LI Wenjuan, et al. Application of intelligent identification in UAV inspection for transmission lines[J]. Application of IC, 2022, 39(8): 126-127. (0)
[19]
GONG Y, ZHOU W Q, WANG K, et al. Defect detection of small cotter pins in electric power transmission system from UAV images using deep learning techniques[J]. Electrical Engineering, 2023, 105(2): 1251-1266. DOI:10.1007/s00202-022-01729-8 (0)
[20]
白剑锋. 基于大数据分析的输电线路状态评估和故障预测研究[D]. 广州: 华南理工大学, 2018.
BAI Jianfeng. Research on condition assessment and fault prediction of transmission lines based on big data analysis[D]. Guangzhou: South China University of Technology, 2018. (0)
[21]
潘哲. 基于深度学习的航拍巡检图像绝缘子检测与故障识别研究[D]. 太原: 太原理工大学, 2019.
PAN Zhe. Research on insulator detection and fault identification in aerial inspection images based on deep learning[D]. Taiyuan: Taiyuan University of Technology, 2019. (0)
[22]
HAN J M, YANG Z, ZHANG Q Y, et al. A method of insulator faults detection in aerial images for high-voltage transmission lines inspection[J]. Applied Sciences, 2019, 9(10): 2009. DOI:10.3390/app9102009 (0)
[23]
施孟佶, 秦开宇, 李凯, 等. 高压输电线路多无人机自主协同巡线设计与测试[J]. 电力系统自动化, 2017, 41(10): 117-122.
SHI Mengji, QIN Kaiyu, LI Kai, et al. Design and testing on autonomous multi-UAV cooperation for high-voltage transmission line inspection[J]. Automation of Electric Power Systems, 2017, 41(10): 117-122. (0)
[24]
吴飞龙, 林韩, 汤明文, 等. 多种中继方式在大型无人机输电线路巡检中的应用[J]. 中国电力, 2015, 48(2): 104-110.
WU Feilong, LIN Han, TANG Mingwen, et al. Application of various relay modes for transmission line inspection with large-size unmanned helicopters[J]. Electric Power, 2015, 48(2): 104-110. (0)
[25]
HUI X L, BIAN J, ZHAO X G, et al. Vision-based autonomous navigation approach for unmanned aerial vehicle transmission-line inspection[J]. International Journal of Advanced Robotic Systems, 2018, 15(1): 172988141775282. (0)
[26]
赵振兵, 齐鸿雨, 聂礼强. 基于深度学习的输电线路视觉检测研究综述[J]. 广东电力, 2019, 32(9): 11-23.
ZHAO Zhenbing, QI Hongyu, NIE Liqiang. Research overview on visual detection of transmission lines based on deep learning[J]. Guangdong Electric Power, 2019, 32(9): 11-23. (0)
[27]
LIN T Y, DOLLÁR P, GIRSHICK R, et al. Feature pyramid networks for object detection[EB/OL]. [2023-05-29]. http://arxiv.org/abs/1612.03144.pdf. (0)
[28]
王万国, 田兵, 刘越, 等. 基于RCNN的无人机巡检图像电力小部件识别研究[J]. 地球信息科学学报, 2017, 19(2): 256-263.
WANG Wanguo, TIAN Bing, LIU Yue, et al. Study on the electrical devices detection in UAV images based on region based convolutional neural networks[J]. Journal of Geo-Information Science, 2017, 19(2): 256-263. (0)
[29]
李宁, 郑仟, 谢贵文, 等. 基于无人机图像识别技术的输电线路缺陷检测[J]. 电子设计工程, 2019, 27(10): 102-106, 112.
LI Ning, ZHENG Qian, XIE Guiwen, et al. Detection of defects in transmission line based on the unmanned aerial vehicle image recognition technology[J]. Electronic Design Engineering, 2019, 27(10): 102-106, 112. (0)
[30]
李轶. 基于深度学习的无人机输电线路巡检故障检测研究[J]. 流体测量与控制, 2022(6): 56-58, 82.
LI Yi. Research on fault detection of UAV transmission line inspection based on deep learning[J]. Fluid Measurement & Control, 2022(6): 56-58, 82. (0)
[31]
TAO X, ZHANG D P, WANG Z H, et al. Detection of power line insulator defects using aerial images analyzed with convolutional neural networks[J]. IEEE Transactions on Systems, Man, and Cybernetics: Systems, 2020, 50(4): 1486-1498. DOI:10.1109/TSMC.2018.2871750 (0)
[32]
ZHANG H Y, CISSE M, DAUPHIN Y N, et al. Mixup: beyond empirical risk minimization[EB/OL]. [2023-05-29]. http://arxiv.org/abs/1710.09412.pdf. (0)
[33]
GHIASI G, CUI Y, SRINIVAS A, et al. Simple copy-paste is a strong data augmentation method for instance segmentation[C]//2021 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR). Nashville, TN, USA. IEEE, 2021: 2917-2927. (0)
[34]
BOCHKOVSKIY A, WANG C Y, LIAO H Y M. YOLOv4: optimal speed and accuracy of object detection[EB/OL]. [2023-05-29]. http://arxiv.org/abs/2004.10934.pdf. (0)
[35]
SIMONYAN K, ZISSERMAN A. Very deep convolutional networks for large-scale image recognition[EB/OL]. [2023-05-29]. http://arxiv.org/abs/1409.1556.pdf. (0)
[36]
SZEGEDY C, VANHOUCKE V, IOFFE S, et al. Rethinking the Inception architecture for computer vision[C]//2016 IEEE Conference on Computer Vision and Pattern Recognition (CVPR). Las Vegas, NV, USA. IEEE, 2016: 2818-2826. (0)
[37]
SZEGEDY C, IOFFE S, VANHOUCKE V, et al. Inception-v4, Inception-ResNet and the impact of residual connections on learning[EB/OL]. [2023-05-29]. http://arxiv.org/abs/1602.07261.pdf. (0)
[38]
HE K M, ZHANG X Y, REN S Q, et al. Deep residual learning for image recognition[C]//2016 IEEE Conference on Computer Vision and Pattern Recognition (CVPR). Las Vegas, NV, USA. IEEE, 2016: 770-778. (0)
[39]
HUANG G, LIU Z, VAN DER MAATEN L, et al. Densely connected convolutional networks[C]//2017 IEEE Conference on Computer Vision and Pattern Recognition (CVPR). Honolulu, HI, USA. IEEE, 2017: 2261-2269. (0)
[40]
HOWARD A G, ZHU M L, CHEN B, et al. MobileNets: efficient convolutional neural networks for mobile vision applications[EB/OL]. [2023-05-29]. http://arxiv.org/abs/1704.04861.pdf. (0)
[41]
XIE S N, GIRSHICK R, DOLLÁR P, et al. Aggregated residual transformations for deep neural networks[C]//2017 IEEE Conference on Computer Vision and Pattern Recognition (CVPR). Honolulu, HI, USA. IEEE, 2017: 5987-5995. (0)
[42]
REDMON J, DIVVALA S, GIRSHICK R, et al. You only look once: unified, real-time object detection[EB/OL]. [2023-05-29]. http://arxiv.org/abs/1506.02640.pdf. (0)
[43]
LAW H, DENG J. CornerNet: detecting objects as paired keypoints[EB/OL]. [2023-05-29]. http://arxiv.org/abs/1808.01244.pdf. (0)
[44]
DUAN K W, BAI S, XIE L X, et al. CenterNet: keypoint triplets for object detection[EB/OL]. [2023-05-29]. http://arxiv.org/abs/1904.08189.pdf. (0)
[45]
TIAN Z, SHEN C H, CHEN H, et al. FCOS: fully convolutional one-stage object detection[EB/OL]. [2023-05-29]. http://arxiv.org/abs/1904.01355.pdf. (0)
[46]
REDMON J, FARHADI A. YOLO9000: better, faster, stronger[EB/OL]. [2023-05-29]. http://arxiv.org/abs/1612.08242.pdf. (0)
[47]
REDMON J, FARHADI A. YOLOv3: an incremental improvement[EB/OL]. [2023-05-29]. http://arxiv.org/abs/1804.02767.pdf. (0)
[48]
LI C Y, LI L L, JIANG H L, et al. YOLOv6: a single-stage object detection framework for industrial applications[EB/OL]. [2023-05-29]. http://arxiv.org/abs/2209.02976.pdf. (0)
[49]
WANG C Y, BOCHKOVSKIY A, LIAO H Y M. YOLOv7: trainable bag-of-freebies sets new state-of-the-art for real-time object detectors[C]//2023 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR). Vancouver, BC, Canada. IEEE, 2023: 7464-7475. (0)
[50]
LIU W, ANGUELOV D, ERHAN D, et al. SSD: single shot MultiBox detector[C]//European Conference on Computer Vision. Cham: Springer, 2016: 21-37. (0)
[51]
REN S Q, HE K M, GIRSHICK R, et al. Faster R-CNN: towards real-time object detection with region proposal networks[EB/OL]. [2023-05-29]. http://arxiv.org/abs/1506.01497.pdf. (0)
[52]
DAI J F, LI Y, HE K M, et al. R-FCN: object detection via region-based fully convolutional networks[EB/OL]. [2023-05-29]. http://arxiv.org/abs/1605.06409.pdf. (0)
[53]
HUANG Z J, HUANG L C, GONG Y C, et al. Mask scoring R-CNN[C]//2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR). Long Beach, CA, USA. IEEE, 2019: 6402-6411. (0)
[54]
CAI Z W, VASCONCELOS N. Cascade R-CNN: delving into high quality object detection[EB/OL]. [2023-05-29]. http://arxiv.org/abs/1712.00726.pdf. (0)
[55]
LIU S, QI L, QIN H F, et al. Path aggregation network for instance segmentation[C]//2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition. Salt Lake City, UT, USA. IEEE, 2018: 8759-8768. (0)
[56]
TAN M X, PANG R M, LE Q V. EfficientDet: scalable and efficient object detection[C]//2020 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR). Seattle, WA, USA. IEEE, 2020: 10778-10787. (0)
[57]
VASWANI A, SHAZEER N, PARMAR N, et al. Attention is all you need[EB/OL]. [2023-05-29]. https://arxiv.org/abs/1706.03762. (0)
[58]
CARION N, MASSA F, SYNNAEVE G, et al. End-to-end object detection with transformers[C]//VEDALDI A, BISCHOF H, BROX T, et al. European Conference on Computer Vision. Cham: Springer, 2020: 213-229. (0)
[59]
LI Y H, MAO H Z, GIRSHICK R, et al. Exploring plain vision transformer backbones for object detection[C]//AVIDAN S, BROSTOW G, CISSÉ M, et al. European Conference on Computer Vision. Cham: Springer, 2022: 280-296. (0)
[60]
ZHENG M H, GAO P, ZHANG R R, et al. End-to-end object detection with adaptive clustering transformer[EB/OL]. [2023-05-29]. https://arxiv.org/abs/2011.09315. (0)
[61]
ZHANG D, ZHANG H W, TANG J H, et al. Feature pyramid transformer[C]//VEDALDI A, BISCHOF H, BROX T, et al. European Conference on Computer Vision. Cham: Springer, 2020: 323-339. (0)
[62]
LIU Z, LIN Y T, CAO Y, et al. Swin transformer: hierarchical vision transformer using shifted windows[C]//2021 IEEE/CVF International Conference on Computer Vision (ICCV). Montreal, QC, Canada. IEEE, 2021: 9992-10002. (0)
[63]
SADYKOVA D, PERNEBAYEVA D, BAGHERI M, et al. IN-YOLO: real-time detection of outdoor high voltage insulators using UAV imaging[J]. IEEE Transactions on Power Delivery, 2020, 35(3): 1599-1601. DOI:10.1109/TPWRD.2019.2944741 (0)
[64]
LIU C Y, WU Y Q, LIU J J, et al. Insulator faults detection in aerial images from high-voltage transmission lines based on deep learning model[J]. Applied Sciences, 2021, 11(10): 4647. DOI:10.3390/app11104647 (0)
[65]
ZHANG S H, QU C N, RU C Y, et al. Multi-objects recognition and self-explosion defect detection method for insulators based on lightweight GhostNet-YOLOv4 model deployed onboard UAV[J]. IEEE Access, 2023, 11: 39713-39725. DOI:10.1109/ACCESS.2023.3268708 (0)
[66]
HAN G J, ZHAO L, LI Q, et al. A lightweight algorithm for insulator target detection and defect identification[J]. Sensors, 2023, 23(3): 1216. DOI:10.3390/s23031216 (0)
[67]
LAN M, ZHANG Y P, ZHANG L F, et al. Defect detection from UAV images based on region-based CNNs[C]//2018 IEEE International Conference on Data Mining Workshops (ICDMW). Singapore. IEEE, 2018: 385-390. (0)
[68]
刘文, 陆小锋, 毛建华, 等. 基于机载计算机的无人机智能巡检方案[J]. 计算机测量与控制, 2022, 30(7): 181-186, 206.
LIU Wen, LU Xiaofeng, MAO Jianhua, et al. Intelligent inspection scheme of UAV based on airborne computer[J]. Computer Measurement & Control, 2022, 30(7): 181-186, 206. (0)
[69]
黄悦华, 陈照源, 陈庆, 等. 基于边缘计算和改进YOLOv5s算法的输电线路故障实时检测方法[J]. 电力建设, 2023, 44(1): 91-99.
HUANG Yuehua, CHEN Zhaoyuan, CHEN Qing, et al. Real-time detection method for transmission line faults applying edge computing and improved YOLOv5s algorithm[J]. Electric Power Construction, 2023, 44(1): 91-99. (0)
Review of overhead line defect inspection based on deep learning and UAV images
ZHOU Wenqing, LIU Gang    
School of Electric Power Engineering, South China University of Technology, Guangzhou 510641
Abstract: Line commutated converter based high voltage direct current (LCC-HVDC) is the key to large-scale grid connection and long-distance transmission of renewable energy. However, faults such as DC blocking and commutation failure may lead to short-term excess reactive power and transient overvoltage at the sending end, endangering operational safety. In this paper, a method based on grid-forming based reactive power compensation device (GFM-RPC) to suppress transient overvoltage at the renewable energy transmission terminal is proposed, which is different from the traditional reactive power compensation with the characteristic of current source based on voltage-current cascade control. A voltage dynamic analysis model based on differential-algebraic relationship is constructed to clarify the mechanism of GFM-RPC suppressing transient overvoltage, and the advantages of the proposed method compared to existing methods based on static synchronous compensator (STATCOM) for suppressing transient overvoltage is compared and analyzed. The simulation is used to verify the effect of GFM-RPC on the suppression of transient overvoltage at the renewable energy transmission terminal, and the influence of the main parameters on the overvoltage suppression effect is analyzed. It is shown that reactive power compensation devices such as STATCOM with external characteristics of current sources exhibit a reverse regulation characteristic of deteriorating voltage dynamics at the moment of DC transmission system fault, while the reverse regulation characteristic can be eliminated by GFM-RPC, as well as suppression of voltage magnitude overshoot can be achieved through reasonable parameter configuration for GFM-RPC.
Keywords: transmission lines    unmanned aerial vehicle (UAV) inspection    defect detection    deep learning    convolutional neural network    inspection strategy