一种飞机发动机拆装比赛平台的制作方法
未命名
08-13
阅读:241
评论:0
1.本发明涉及飞机发动机的教学领域,尤其涉及一种发动机拆装比赛平台。
背景技术:
2.随着国家大力推广技能型人才培养课程,技能型人才培养及评价体系越来越完善,一度出现教师岗位空缺的现象,“师少生多”的问题导致对学生操作技能准确性无法进行有效的指导和评价。本发明针对该问题进行研究,结合人工智能技术来实现科学的操作技能辅助评价,在传统的技能训练的基础上增加了人机交互式的辅助训练功能,达到操作技能规范指标化和脱离教练式的无人教学效果。传统技能训练存在场地和设备的限制、专业动作须专人指导,训练数据难以记录等问题,本发明将人工智能技术应用于发动机拆装技能比赛,建立了技能规范性辅助评测系统,对飞行器发动机拆装过程中的细微操作动作进行精确识别,实现飞行器发动机拆装技能的智能化评分。
技术实现要素:
3.有鉴于此,本发明提供一种基于智能化评分系统的发动机拆装比赛平台及评分方法,目的在于:1)通过构建融合卡尔曼滤波的目标追踪算法,先由目标追踪算法定位初始帧的目标区域,再由卡尔曼滤波算法对后续帧的目标区域移动速度进行预测,实现后续帧的目标区域的追踪,通过融合卡尔曼滤波解决了当追踪目标背景出现干扰时,目标追踪算法追踪错误的问题,同时也解决了当目标区域离开背景图像追踪没有结束的问题,即利用目标区域在时间和空间的关联性对目标区域进行追踪,不受目标背景的干扰影响,且当在时间上未检测到目标区域,停止目标区域追踪,同时在追踪过程中实时对目标区域大小进行更新,避免在追踪到的关键操作区域中增加过多无关信息;2)分别从像素深度信息以及颜色信息对操作实体像素进行标注,并将基于深度信息检测的操作实体像素集合与基于肤色检测的操作实体像素集合之间的共同像素标记为操作实体像素,从而得到结合肤色检测以及像素深度动态变化的操作实体像素,将操作实体图像序列中所提取的拆装动作特征向量序列输入到发动机拆装关键动作识别模型中,得到发动机拆装过程中的关键动作流,进而按照预设的拆装关键动作模板对关键动作流进行评分,实现智能化发动机拆装评分。
4.实现上述目的,本发明提供的一种飞机发动机拆装比赛平台,所述比赛平台包括平台本体及评分系统,其中评分系统的评分方法包括以下步骤:
5.s1:实时采集飞行器发动机拆装视频,对飞行器发动机拆装视频帧中的关键操作区域进行识别,并逐帧对关键操作区域进行追踪,得到拆装动作目标区域序列,其中融合卡尔曼滤波的目标追踪算法为所述关键操作区域识别追踪的主要实施方法;
6.s2:对识别追踪得到的拆装动作目标区域序列进行关键动作提取,得到飞行器发动机拆装关键动作图像序列;
7.s3:对提取得到的飞行器发动机拆装关键动作图像序列进行操作实体分割,得到操作实体图像序列,其中基于深度信息和肤色检测融合的算法为所述操作实体分割的主要
实施方法;
8.s4:对操作实体图像序列进行特征提取,得到每张操作实体图像的拆装动作特征向量,其中结合自定义不变矩阵的融合图像几何特征提取方法为拆装动作特征向量提取的主要实施方法;
9.s5:构建发动机拆装关键动作识别模型,将操作实体图像序列中所提取的拆装动作特征向量序列输入到所构建模型中,得到发动机拆装过程中的关键动作流,所构建模型以拆装动作特征向量为输入,以动作识别结果为输出;
10.s6:按照预设的拆装关键动作模板对关键动作流进行评分,得到发动机拆装评分结果。
11.作为本发明的进一步改进方法:
12.可选地,所述s1步骤中实时采集飞行器发动机拆装视频,包括:
13.构建发动机拆装比赛平台,其中所述发动机拆装比赛平台包括视频采集设备、视频分析设备以及评分系统,视频采集设备用于实时采集选手的飞行器发动机拆装视频,视频分析设备用于对飞行器发动机拆装视频进行分析,评分系统用于对飞行器发动机拆装视频进行评分;
14.利用发动机拆装比赛平台中的视频采集设备实时采集选手的飞行器发动机拆装视频,并以视频帧为单位对飞行器发动机拆装视频进行分帧处理,得到若干飞行器发动机拆装视频帧,将飞行器发动机拆装视频帧发送到视频分析设备中,其中飞行器发动机拆装视频帧集合为:
15.{i(n)|n∈[1,n]}
[0016]
其中:
[0017]
i(n)表示第n帧飞行器发动机拆装视频帧,n表示飞行器发动机拆装视频帧的总数。
[0018]
可选地,所述s1步骤中对飞行器发动机拆装视频帧中的关键操作区域进行识别,并逐帧对关键操作区域进行追踪,包括:
[0019]
视频分析设备对飞行器发动机拆装视频帧中的关键操作区域进行识别,并逐帧对关键操作区域进行追踪,按帧顺序将关键操作区域构成序列,得到拆装动作目标区域序列,在本发明实施例中,融合卡尔曼滤波的目标追踪算法为所述关键操作区域识别追踪的主要实施方法,其中对飞行器发动机拆装视频帧中的关键操作区域进行识别以及追踪的流程为:
[0020]
s11:对于飞行器发动机拆装视频帧i(n),将视频帧中像素的颜色表示从rgb颜色空间转换为hsv颜色空间,将h颜色分量作为像素的颜色值,则飞行器发动机拆装视频帧i(n)中第x行第y列像素的颜色值为gn(x,y);
[0021]
s12:构建搜索窗,并将搜索窗的初始位置设置为飞行器发动机拆装视频帧i(1)中心;
[0022]
s13:计算得到搜索窗在飞行器发动机拆装视频帧i(1)中的质心位置(xc(1),yc(1)):
[0023]
[0024]
其中:
[0025]
ωc表示搜索窗内的像素集合;
[0026]
调整搜索窗的大小:
[0027][0028]
lc(1)=1.2wc[0029]
其中:
[0030]
wc(1)表示搜索窗在飞行器发动机拆装视频帧i(1)中的宽度,宽度单位为像素数目;
[0031]
lc(1)表示搜索窗在飞行器发动机拆装视频帧i(1)中的长度,长度单位为像素数目;
[0032]
s14:移动搜索窗的中心到质心,并计算移动距离;若移动距离大于预设值的距离阈值,则返回步骤s13,对当前搜索窗的中心以及大小进行迭代更新,否则将搜索窗内的图像设置为飞行器发动机拆装视频帧i(1)中的关键操作区域m(1);
[0033]
s15:估计关键操作区域移动速率:
[0034]vn
=av
n-1
+εn[0035]
pn=ap
n-1a[0036]
其中:
[0037]vn
=(vn(x),vn(y))表示由飞行器发动机拆装视频帧i(n)到飞行器发动机拆装视频帧i(n+1)的关键操作区域中心移动速率预测值,vn(x)表示水平方向的移动速率预测值,vn(y)表示竖直方向的移送速率预测值,v0=(0,0);
[0038]
εn表示关键操作区域中心移动速率预测值vn的预测高斯噪声;
[0039]
pn表示关键操作区域中心移动速率预测值vn的预测误差;
[0040]
a表示关键操作加速度的经验矩阵;
[0041]
并对估计得到的关键操作区域移动速率进行更新:
[0042]qn
=pn/(pn+δn)
[0043]vn
=vn+qnδn[0044]
pn=(1-qn)pn[0045]
其中:
[0046]
δn表示关键操作区域中心移动速率预测值vn的更新高斯噪声;
[0047]qn
表示卡尔曼更新增益;
[0048]vn
=vn+qnδn表示关键操作区域中心移动速率预测值vn的更新公式;
[0049]
s16:根据求解得到的第n帧的关键操作区域移动速率,估计第n+1帧的关键操作区域中心(xc(n+1),yc(n+1)):
[0050]
xc(n+1)=xc(n)+vn(x)δt
[0051]
yc(n+1)=yc(n)+vn(y)δt
[0052]
其中:
[0053]
δt表示相邻帧的时间间隔;
[0054]
并以第n帧的关键操作区域为第n+1帧构建相同大小的搜索窗,以(xc(n+1),yc(n+1))为搜素窗中心,调整第n+1帧的搜索窗大小,将搜索窗内的图像设置为飞行器发动机拆装视频帧i(n+1)中的关键操作区域m(n+1);
[0055]
令n=n+1,返回步骤s15,直到n+1=n;
[0056]
所述拆装动作目标区域序列为:
[0057]
(m(1),m(2),...,m(n),...,m(n))
[0058]
其中:
[0059]
m(n)表示飞行器发动机拆装视频帧i(n)中的关键操作区域,即第n帧的关键操作区域。
[0060]
在本发明实施例中,本发明通过构建融合卡尔曼滤波的目标追踪算法,先由目标追踪算法定位初始帧的目标区域,再由卡尔曼滤波算法对接下来的目标区域进行预测并追踪,融合算法解决了目标追踪算法追踪目标出错或者追踪目标丢失的状况,可以在复杂的环境下对操作实体进行追踪,通过融合卡尔曼滤波解决了当追踪目标背景出现干扰时,目标追踪算法追踪错误的问题,同时也解决了当目标区域离开背景图像追踪没有结束的问题。
[0061]
可选地,所述s2步骤中对识别追踪得到的拆装动作目标区域序列进行关键动作提取,包括:
[0062]
视频分析设备对识别追踪得到的拆装动作目标区域序列依次进行关键动作提取,得到飞行器发动机拆装关键动作图像序列,其中关键动作提取流程为:
[0063]
s21:利用canny边缘检测算法对拆装动作目标区域序列中的关键操作区域依次进行边缘标注;
[0064]
s22:计算关键操作区域的边缘形状与所设置的预选关键动作形状的hausdorff距离的绝对值,选取绝对值小于预设置阈值的关键操作区域作为候选关键动作图像;
[0065]
s23:计算候选关键动作图像的边缘形状同邻近帧关键操作区域的边缘形状的hausdorff距离的绝对值,保留绝对值高于预设置阈值邻近帧关键操作区域,并将所保留邻近帧关键操作区域作为候选关键动作图像;
[0066]
s24:对当前候选关键动作图像进行计数,若当前候选关键动作图像数目低于2n/3,则返回步骤s23,否则将候选关键动作图像作为关键动作图像,按帧顺序对关键动作图像进行排序,得到飞行器发动机拆装关键动作图像序列(g(1),g(2),...,g(s),...,g(s)),其中g(s)表示第s张关键动作图像,s表示所提取的关键动作图像总数。
[0067]
可选地,所述s3步骤中对提取得到的飞行器发动机拆装关键动作图像序列进行操作实体分割,包括:
[0068]
对提取得到的飞行器发动机拆装关键动作图像序列进行操作实体分割,得到操作实体图像序列,在本发明实施例中,基于深度信息和肤色检测融合的算法为所述操作实体分割的主要实施方法,其中操作实体分割的流程为:
[0069]
s31:对于飞行器发动机拆装关键动作图像序列中的任意关键动作图像g(s),将其中像素坐标转换到世界坐标:
[0070][0071]
其中:
[0072]
d1,d2分别表示视频采集设备所接收视频帧中单位像素分别在水平方向以及竖直方向的长度;
[0073]
x0,y0分别表示视频采集设备所接收视频帧的中心像素坐标和原点像素坐标之间相差的水平方向和竖直方向像素数,原点表示图像左上角;
[0074]
f表示视频采集设备的焦距;
[0075]
k1,k2表示视频采集设备的外部参数,分别为视频采集设备的位置以及旋转方向参数;
[0076]
(xs,ys,zs)表示任意关键动作图像g(s)中第xs行第ys列像素(xs,ys)在世界坐标系下的映射结果;
[0077]
s32:对于关键动作图像g(s)和g(s+1),若关键动作图像g(s)中存在坐标为(xs,ys,zs)的像素但g(s+1)中不存在,则将坐标为(xs,ys,zs)的像素标记为基于深度信息检测的操作实体像素;
[0078]
s33:将像素的颜色表示从rgb颜色空间转换到ycrcb空间:
[0079][0080]
其中:
[0081]
r,g,b分别为像素在rgb颜色空间的颜色值表示,y,cr,cb分别为像素在ycrcb颜色空间的颜色值表示;
[0082]
s34:将cr值在(132,175)之间且cb值在(85,130)之间的像素标记为基于肤色检测的操作实体像素;
[0083]
s35:在关键动作图像中将基于深度信息检测的操作实体像素集合与基于肤色检测的操作实体像素集合之间的共同像素标记为操作实体像素,关键动作图像中的所有操作实体像素构成分割得到的操作实体图像,则关键动作图像g(s)所分割得到的操作实体图像为g(s);
[0084]
将飞行器发动机拆装关键动作图像序列的操作实体分割结果构成操作实体图像序列g:
[0085]
g=(g(1),g(2),...,g(s),...,g(s))
[0086]
其中:
[0087]
g(s)为关键动作图像g(s)所分割得到的操作实体图像。
[0088]
可选地,所述s4步骤中对操作实体图像序列进行特征提取,得到操作实体图像的拆装动作特征向量,包括:
[0089]
对操作实体图像序列进行特征提取,得到操作实体图像的拆装动作特征向量,在本发明实施例中,结合自定义不变矩阵的融合图像几何特征提取方法为拆装动作特征向量
提取的主要实施方法,其中操作实体图像的特征提取流程为:
[0090]
s41:将操作实体图像转换为操作实体灰度图像,则操作实体图像g(s)中像素(xs,ys)的灰度值为f(xs,ys);
[0091]
s42:计算得到操作实体图像g(s)的几何特征[r1(s),r2(s),r3(s)]:
[0092][0093][0094][0095]
其中:
[0096]
表示操作实体图像g(s)的面积,ls表示操作实体图像g(s)的周长;
[0097]
表示操作实体图像最小外接矩形的面积;
[0098]
l(th(s))表示操作实体图像最小外接矩形的长,w(th(s))表示操作实体图像最小外接矩形的宽;
[0099]
s43:提取操作实体图像g(s)的不变特征[α1(s),α2(s),α3(s)]:
[0100]
α1(s)=β
02
(s)+β
20
(s)
[0101]
α2(s)=(β
02
(s)-β
20
(s))2+β
10
(s)
[0102]
α3(s)=(β
30
(s)-3β
12
(s))2+(3β
12
(s)-β
03
(s))2[0103][0104]
其中:
[0105]
β
pq
(s)为操作实体图像g(s)中的不变参数;
[0106]
s44:构造操作实体图像g(s)的拆装动作特征向量:
[0107][0108]
其中:
[0109]
f(s)为操作实体图像g(s)的拆装动作特征向量。
[0110]
可选地,所述s5步骤中构建发动机拆装关键动作识别模型,包括:
[0111]
构建发动机拆装关键动作识别模型,所构建模型以拆装动作特征向量为输入,以动作识别结果为输出;
[0112]
所构建发动机拆装关键动作识别模型的结构包括输入层、映射层以及输出层,输入层用于接收拆装动作特征向量,映射层为卷积层结构,对所接收拆装动作特征向量进行卷积映射,输出层为全连接层结构,利用权重矩阵对卷积映射结果进行赋权,得到卷积映射结果在不同动作下的概率,选取概率最大的动作作为拆装动作特征向量对应的动作识别结果;
[0113]
基于发动机拆装关键动作识别模型的动作识别流程为:
[0114]
s51:输入层接收拆装动作特征向量f(s),并将拆装动作特征向量f(s)传输至映射层;
[0115]
s52:映射层对拆装动作特征向量f(s)进行卷积映射:
[0116]f′
(s)=σ(conv(f(s)))
[0117]
其中:
[0118]
σ(
·
)表示激活函数,将其设置为relu函数;
[0119]
conv(
·
)表示卷积层的卷积操作;
[0120]f′
(s)表示拆装动作特征向量f(s)的卷积映射结果;
[0121]
将卷积映射结果f
′
(s)传输至输出层;
[0122]
s53:输出层基于权重矩阵对卷积映射结果f
′
(s)进行赋权:
[0123]f″
(s)=w
tf′
(s)
[0124]
其中:
[0125]
w表示权重矩阵,t表示转置;
[0126]f″
(s)表示卷积映射结果f
′
(s)在不同动作下的概率,f
″
(s)的行数表示可识别动作数,每一行的值表示卷积映射结果f
′
(s)属于该动作的概率;
[0127]
s54:选取概率最大的动作作为拆装动作特征向量f(s)对应的动作识别结果h(s)。
[0128]
可选地,所述s5步骤中将操作实体图像序列中所提取的拆装动作特征向量序列输入到所构建发动机拆装关键动作识别模型中,包括:
[0129]
将操作实体图像序列中所提取的拆装动作特征向量序列f输入到所构建发动机拆装关键动作识别模型中,得到发动机拆装过程中的关键动作流,其中拆装动作特征向量序列f形式为:
[0130]
f=(f(1),f(2),...,f(s),...,f(s))
[0131]
其中:
[0132]
f(s)为操作实体图像g(s)的拆装动作特征向量;
[0133]
发动机拆装过程中的关键动作流action的表示形式为:
[0134]
action=(h(1),h(2),...,h(s),...,h(s))
[0135]
其中:
[0136]
h(s)表示将f(s)输入到发动机拆装关键动作识别模型中,模型输出的动作识别结果。
[0137]
可选地,所述s6步骤中按照预设的拆装关键动作模板对关键动作流进行评分,得到发动机拆装评分结果,包括:
[0138]
评分系统按照预设的拆装关键动作模板对关键动作流进行评分,得到发动机拆装评分结果,其中发动机拆装评分流程为:
[0139]
s61:将关键动作流action同预设的拆装关键动作模板进行动作流程匹配,其中预设的拆装关键动作模板的形式为(h
′
(1),h
′
(2),...,h
′
(s),...,h
′
(m)),其中m表示预设的拆装关键动作模板中的动作数;
[0140]
s62:将h(s)同预设的拆装关键动作模板中的前2个动作进行逐一匹配,其中s的初始值为1,若匹配成功,则记+a分,并令s=s+1,在拆装关键动作模板中删去匹配成功的动作以及匹配成功动作前的动作,更新拆装关键动作模板,并记-bc分,返回步骤s62,其中c表示所删去拆装关键动作模板中匹配成功动作前的动作数,将a设置为100/m,b=a/3;若未匹配成功,则令s=s+1,返回步骤s62,直到s=s;
[0141]
s63:记录当前拆装关键动作模板中未匹配成功的动作数c
*
,并记-bc
*
分,将最终的计分结果作为发动机拆装评分结果。
[0142]
为了解决上述问题,本发明提供一种电子设备,所述电子设备包括:
[0143]
存储器,存储至少一个指令;
[0144]
通信接口,实现电子设备通信;及
[0145]
处理器,执行所述存储器中存储的指令以实现上述所述的基于智能化评分系统的发动机拆装比赛平台及评分方法。
[0146]
为了解决上述问题,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一个指令,所述至少一个指令被电子设备中的处理器执行以实现上述所述的基于智能化评分系统的发动机拆装比赛平台及评分方法。
[0147]
相对于现有技术,本发明提出一种基于智能化评分系统的发动机拆装比赛平台及评分方法,该技术具有以下优势:
[0148]
首先,本方案提出一种关键操作区域的识别追踪流程,对于飞行器发动机拆装视频帧i(n),将视频帧中像素的颜色表示从rgb颜色空间转换为hsv颜色空间,将h颜色分量作为像素的颜色值,则飞行器发动机拆装视频帧i(n)中第x行第y列像素的颜色值为gn(x,y);构建搜索窗,并将搜索窗的初始位置设置为飞行器发动机拆装视频帧i(1)中心;计算得到搜索窗在飞行器发动机拆装视频帧i(1)中的质心位置(xc(1),yc(1)):
[0149][0150]
其中:ωc表示搜索窗内的像素集合;调整搜索窗的大小:
[0151][0152]
lc(1)=1.2wc[0153]
其中:wc(1)表示搜索窗在飞行器发动机拆装视频帧i(1)中的宽度,宽度单位为像素数目;lc(1)表示搜索窗在飞行器发动机拆装视频帧i(1)中的长度,长度单位为像素数目;移动搜索窗的中心到质心,并计算移动距离;若移动距离大于预设值的距离阈值,则返回质心位置计算步骤,对当前搜索窗的中心以及大小进行迭代更新,否则将搜索窗内的图像设置为飞行器发动机拆装视频帧i(1)中的关键操作区域m(1);估计关键操作区域移动速率:
[0154]vn
=av
n-1
+εn[0155]
pn=ap
n-1a[0156]
其中:vn=(vn(x),vn(y))表示由飞行器发动机拆装视频帧i(n)到飞行器发动机拆装视频帧i(n+1)的关键操作区域中心移动速率预测值,vn(x)表示水平方向的移动速率预测值,vn(y)表示竖直方向的移送速率预测值,v0=(0,0);εn表示关键操作区域中心移动速率预测值vn的预测高斯噪声;pn表示关键操作区域中心移动速率预测值vn的预测误差;a表示关键操作加速度的经验矩阵;并对估计得到的关键操作区域移动速率进行更新:
[0157]qn
=pn/(pn+δn)
[0158]vn
=vn+qnδn[0175][0176]
构造操作实体图像g(s)的拆装动作特征向量:
[0177][0178]
其中:f(s)为操作实体图像g(s)的拆装动作特征向量,将操作实体图像序列中所提取的拆装动作特征向量序列输入到发动机拆装关键动作识别模型中,得到发动机拆装过程中的关键动作流,进而按照预设的拆装关键动作模板对关键动作流进行评分,实现智能化发动机拆装评分。
附图说明
[0179]
图1为本发明一实施例提供的发动机拆装比赛平台的评分方法的流程示意图;
[0180]
图2为本发明一实施例提供的实现发动机拆装比赛平台的评分方法的电子设备的结构示意图。
[0181]
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
[0182]
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
[0183]
本技术实施例提供一种发动机拆装比赛平台及评分方法。所述基于智能化评分系统的发动机拆装比赛平台及评分方法的执行主体包括但不限于服务端、终端等能够被配置为执行本技术实施例提供的该方法的电子设备中的至少一种。换言之,所述基于智能化评分系统的发动机拆装比赛平台及评分方法可以由安装在终端设备或服务端设备的软件或硬件来执行,所述软件可以是区块链平台。所述服务端包括但不限于:单台服务器、服务器集群、云端服务器或云端服务器集群等。
[0184]
实施例1:
[0185]
s1:实时采集飞行器发动机拆装视频,对飞行器发动机拆装视频帧中的关键操作区域进行识别,并逐帧对关键操作区域进行追踪,得到拆装动作目标区域序列,其中融合卡尔曼滤波的目标追踪算法为所述关键操作区域识别追踪的主要实施方法。
[0186]
所述s1步骤中实时采集飞行器发动机拆装视频,包括:
[0187]
构建发动机拆装比赛平台,其中所述发动机拆装比赛平台包括视频采集设备、视频分析设备以及评分系统,视频采集设备用于实时采集选手的飞行器发动机拆装视频,视频分析设备用于对飞行器发动机拆装视频进行分析,评分系统用于对飞行器发动机拆装视频进行评分;
[0188]
利用发动机拆装比赛平台中的视频采集设备实时采集选手的飞行器发动机拆装视频,并以视频帧为单位对飞行器发动机拆装视频进行分帧处理,得到若干飞行器发动机拆装视频帧,将飞行器发动机拆装视频帧发送到视频分析设备中,其中飞行器发动机拆装视频帧集合为:
[0189]
{i(n)|n∈[1,n]}
[0190]
其中:
[0191]
i(n)表示第n帧飞行器发动机拆装视频帧,n表示飞行器发动机拆装视频帧的总数。
[0192]
所述s1步骤中对飞行器发动机拆装视频帧中的关键操作区域进行识别,并逐帧对关键操作区域进行追踪,包括:
[0193]
视频分析设备对飞行器发动机拆装视频帧中的关键操作区域进行识别,并逐帧对关键操作区域进行追踪,按帧顺序将关键操作区域构成序列,得到拆装动作目标区域序列,在本发明实施例中,融合卡尔曼滤波的目标追踪算法为所述关键操作区域识别追踪的主要实施方法,其中对飞行器发动机拆装视频帧中的关键操作区域进行识别以及追踪的流程为:
[0194]
s11:对于飞行器发动机拆装视频帧i(n),将视频帧中像素的颜色表示从rgb颜色空间转换为hsv颜色空间,将h颜色分量作为像素的颜色值,则飞行器发动机拆装视频帧i(n)中第x行第y列像素的颜色值为gn(x,y);
[0195]
s12:构建搜索窗,并将搜索窗的初始位置设置为飞行器发动机拆装视频帧i(1)中心;
[0196]
s13:计算得到搜索窗在飞行器发动机拆装视频帧i(1)中的质心位置(xc(1),yc(1)):
[0197][0198]
其中:
[0199]
ωc表示搜索窗内的像素集合;
[0200]
调整搜索窗的大小:
[0201][0202]
lc(1)=1.2wc[0203]
其中:
[0204]
wc(1)表示搜索窗在飞行器发动机拆装视频帧i(1)中的宽度,宽度单位为像素数目;
[0205]
lc(1)表示搜索窗在飞行器发动机拆装视频帧i(1)中的长度,长度单位为像素数目;
[0206]
s14:移动搜索窗的中心到质心,并计算移动距离;若移动距离大于预设值的距离阈值,则返回步骤s13,对当前搜索窗的中心以及大小进行迭代更新,否则将搜索窗内的图像设置为飞行器发动机拆装视频帧i(1)中的关键操作区域m(1);
[0207]
s15:估计关键操作区域移动速率:
[0208]vn
=av
n-1
+εn[0209]
pn=ap
n-1a[0210]
其中:
[0211]vn
=(vn(x),vn(y))表示由飞行器发动机拆装视频帧i(n)到飞行器发动机拆装视频帧i(n+1)的关键操作区域中心移动速率预测值,vn(x)表示水平方向的移动速率预测值,
vn(y)表示竖直方向的移送速率预测值,v0=(0,0);
[0212]
εn表示关键操作区域中心移动速率预测值vn的预测高斯噪声;
[0213]
pn表示关键操作区域中心移动速率预测值vn的预测误差;
[0214]
a表示关键操作加速度的经验矩阵;
[0215]
并对估计得到的关键操作区域移动速率进行更新:
[0216]qn
=pn/(pn+δn)
[0217]vn
=vn+qnδn[0218]
pn=(1-qn)pn[0219]
其中:
[0220]
δn表示关键操作区域中心移动速率预测值vn的更新高斯噪声;
[0221]qn
表示卡尔曼更新增益;
[0222]vn
=vn+qnδn表示关键操作区域中心移动速率预测值vn的更新公式;
[0223]
s16:根据求解得到的第n帧的关键操作区域移动速率,估计第n+1帧的关键操作区域中心(xc(n+1),yc(n+1)):
[0224]
xc(n+1)=xc(n)+vn(x)δt
[0225]
yc(n+1)=yc(n)+vn(y)δt
[0226]
其中:
[0227]
δt表示相邻帧的时间间隔;
[0228]
并以第n帧的关键操作区域为第n+1帧构建相同大小的搜索窗,以(xc(n+1),yc(n+1))为搜素窗中心,调整第n+1帧的搜索窗大小,将搜索窗内的图像设置为飞行器发动机拆装视频帧i(n+1)中的关键操作区域m(n+1);
[0229]
令n=n+1,返回步骤s15,直到n+1=n;
[0230]
所述拆装动作目标区域序列为:
[0231]
(m(1),m(2),...,m(n),...,m(n))
[0232]
其中:
[0233]
m(n)表示飞行器发动机拆装视频帧i(n)中的关键操作区域,即第n帧的关键操作区域。
[0234]
s2:对识别追踪得到的拆装动作目标区域序列进行关键动作提取,得到飞行器发动机拆装关键动作图像序列。
[0235]
所述s2步骤中对识别追踪得到的拆装动作目标区域序列进行关键动作提取,包括:
[0236]
视频分析设备对识别追踪得到的拆装动作目标区域序列依次进行关键动作提取,得到飞行器发动机拆装关键动作图像序列,其中关键动作提取流程为:
[0237]
s21:利用canny边缘检测算法对拆装动作目标区域序列中的关键操作区域依次进行边缘标注;
[0238]
s22:计算关键操作区域的边缘形状与所设置的预选关键动作形状的hausdorff距离的绝对值,选取绝对值小于预设置阈值的关键操作区域作为候选关键动作图像;
[0239]
s23:计算候选关键动作图像的边缘形状同邻近帧关键操作区域的边缘形状的hausdorff距离的绝对值,保留绝对值高于预设置阈值邻近帧关键操作区域,并将所保留邻
近帧关键操作区域作为候选关键动作图像;
[0240]
s24:对当前候选关键动作图像进行计数,若当前候选关键动作图像数目低于2n/3,则返回步骤s23,否则将候选关键动作图像作为关键动作图像,按帧顺序对关键动作图像进行排序,得到飞行器发动机拆装关键动作图像序列(g(1),g(2),...,g(s),...,g(s)),其中g(s)表示第s张关键动作图像,s表示所提取的关键动作图像总数。
[0241]
s3:对提取得到的飞行器发动机拆装关键动作图像序列进行操作实体分割,得到操作实体图像序列,其中基于深度信息和肤色检测融合的算法为所述操作实体分割的主要实施方法。
[0242]
所述s3步骤中对提取得到的飞行器发动机拆装关键动作图像序列进行操作实体分割,包括:
[0243]
对提取得到的飞行器发动机拆装关键动作图像序列进行操作实体分割,得到操作实体图像序列,在本发明实施例中,基于深度信息和肤色检测融合的算法为所述操作实体分割的主要实施方法,其中操作实体分割的流程为:
[0244]
s31:对于飞行器发动机拆装关键动作图像序列中的任意关键动作图像g(s),将其中像素坐标转换到世界坐标:
[0245][0246]
其中:
[0247]
d1,d2分别表示视频采集设备所接收视频帧中单位像素分别在水平方向以及竖直方向的长度;
[0248]
x0,y0分别表示视频采集设备所接收视频帧的中心像素坐标和原点像素坐标之间相差的水平方向和竖直方向像素数,原点表示图像左上角;
[0249]
f表示视频采集设备的焦距;
[0250]
k1,k2表示视频采集设备的外部参数,分别为视频采集设备的位置以及旋转方向参数;
[0251]
(xs,ys,zs)表示任意关键动作图像g(s)中第xs行第ys列像素(xs,ys)在世界坐标系下的映射结果;
[0252]
s32:对于关键动作图像g(s)和g(s+1),若关键动作图像g(s)中存在坐标为(xs,ys,zs)的像素但g(s+1)中不存在,则将坐标为(xs,ys,zs)的像素标记为基于深度信息检测的操作实体像素;
[0253]
s33:将像素的颜色表示从rgb颜色空间转换到ycrcb空间:
[0254][0255]
其中:
[0256]
r,g,b分别为像素在rgb颜色空间的颜色值表示,y,cr,cb分别为像素在ycrcb颜色空间的颜色值表示;
[0257]
s34:将cr值在(132,175)之间且cb值在(85,130)之间的像素标记为基于肤色检测的操作实体像素;
[0258]
s35:在关键动作图像中将基于深度信息检测的操作实体像素集合与基于肤色检测的操作实体像素集合之间的共同像素标记为操作实体像素,关键动作图像中的所有操作实体像素构成分割得到的操作实体图像,则关键动作图像g(s)所分割得到的操作实体图像为g(s);
[0259]
将飞行器发动机拆装关键动作图像序列的操作实体分割结果构成操作实体图像序列g:
[0260]
g=(g(1),g(2),...,g(s),...,g(s))
[0261]
其中:
[0262]
g(s)为关键动作图像g(s)所分割得到的操作实体图像。
[0263]
s4:对操作实体图像序列进行特征提取,得到每张操作实体图像的拆装动作特征向量,其中结合自定义不变矩阵的融合图像几何特征提取方法为拆装动作特征向量提取的主要实施方法。
[0264]
所述s4步骤中对操作实体图像序列进行特征提取,得到操作实体图像的拆装动作特征向量,包括:
[0265]
对操作实体图像序列进行特征提取,得到操作实体图像的拆装动作特征向量,在本发明实施例中,结合自定义不变矩阵的融合图像几何特征提取方法为拆装动作特征向量提取的主要实施方法,其中操作实体图像的特征提取流程为:
[0266]
s41:将操作实体图像转换为操作实体灰度图像,则操作实体图像g(s)中像素(xs,ys)的灰度值为f(xs,ys);
[0267]
s42:计算得到操作实体图像g(s)的几何特征[r1(s),r2(s),r3(s)]:
[0268][0269][0270][0271]
其中:
[0272]
表示操作实体图像g(s)的面积,ls表示操作实体图像g(s)的周长;
[0273]
表示操作实体图像最小外接矩形的面积;
[0274]
l(th(s))表示操作实体图像最小外接矩形的长,w(th(s))表示操作实体图像最小外接矩形的宽;
[0275]
s43:提取操作实体图像g(s)的不变特征[α1(s),α2(s),α3(s)]:
[0276]
α1(s)=β
02
(s)+β
20
(s)
[0277]
α2(s)=(β
02
(s)-β
20
(s))2+β
10
(s)
[0278]
α3(s)=(β
30
(s)-3β
12
(s))2+(3β
12
(s)-β
03
(s))2[0279]
[0280]
s44:构造操作实体图像g(s)的拆装动作特征向量:
[0281][0282]
其中:
[0283]
f(s)为操作实体图像g(s)的拆装动作特征向量。
[0284]
s5:构建发动机拆装关键动作识别模型,将操作实体图像序列中所提取的拆装动作特征向量序列输入到所构建模型中,得到发动机拆装过程中的关键动作流,所构建模型以拆装动作特征向量为输入,以动作识别结果为输出。
[0285]
所述s5步骤中构建发动机拆装关键动作识别模型,包括:
[0286]
构建发动机拆装关键动作识别模型,所构建模型以拆装动作特征向量为输入,以动作识别结果为输出;
[0287]
所构建发动机拆装关键动作识别模型的结构包括输入层、映射层以及输出层,输入层用于接收拆装动作特征向量,映射层为卷积层结构,对所接收拆装动作特征向量进行卷积映射,输出层为全连接层结构,利用权重矩阵对卷积映射结果进行赋权,得到卷积映射结果在不同动作下的概率,选取概率最大的动作作为拆装动作特征向量对应的动作识别结果;
[0288]
基于发动机拆装关键动作识别模型的动作识别流程为:
[0289]
s51:输入层接收拆装动作特征向量f(s),并将拆装动作特征向量f(s)传输至映射层;
[0290]
s52:映射层对拆装动作特征向量f(s)进行卷积映射:
[0291]f′
(s)=σ(conv(f(s)))
[0292]
其中:
[0293]
σ(
·
)表示激活函数,将其设置为relu函数;
[0294]
conv(
·
)表示卷积层的卷积操作;
[0295]f′
(s)表示拆装动作特征向量f(s)的卷积映射结果;
[0296]
将卷积映射结果f
′
(s)传输至输出层;
[0297]
s53:输出层基于权重矩阵对卷积映射结果f
′
(s)进行赋权:
[0298]f″
(s)=w
tf′
(s)
[0299]
其中:
[0300]
w表示权重矩阵,t表示转置;
[0301]f″
(s)表示卷积映射结果f
′
(s)在不同动作下的概率,f
″
(s)的行数表示可识别动作数,每一行的值表示卷积映射结果f
′
(s)属于该动作的概率;
[0302]
s54:选取概率最大的动作作为拆装动作特征向量f(s)对应的动作识别结果h(s)。
[0303]
所述s5步骤中将操作实体图像序列中所提取的拆装动作特征向量序列输入到所构建发动机拆装关键动作识别模型中,包括:
[0304]
将操作实体图像序列中所提取的拆装动作特征向量序列f输入到所构建发动机拆装关键动作识别模型中,得到发动机拆装过程中的关键动作流,其中拆装动作特征向量序列f形式为:
[0305]
f=(f(1),f(2),...,f(s),...,f(s))
[0306]
其中:
[0307]
f(s)为操作实体图像g(s)的拆装动作特征向量;
[0308]
发动机拆装过程中的关键动作流action的表示形式为:
[0309]
action=(h(1),h(2),...,h(s),...,h(s))
[0310]
其中:
[0311]
h(s)表示将f(s)输入到发动机拆装关键动作识别模型中,模型输出的动作识别结果。
[0312]
s6:按照预设的拆装关键动作模板对关键动作流进行评分,得到发动机拆装评分结果。
[0313]
所述s6步骤中按照预设的拆装关键动作模板对关键动作流进行评分,得到发动机拆装评分结果,包括:
[0314]
评分系统按照预设的拆装关键动作模板对关键动作流进行评分,得到发动机拆装评分结果,其中发动机拆装评分流程为:
[0315]
s61:将关键动作流action同预设的拆装关键动作模板进行动作流程匹配,其中预设的拆装关键动作模板的形式为(h
′
(1),h
′
(2),...,h
′
(s),...,h
′
(m)),其中m表示预设的拆装关键动作模板中的动作数;
[0316]
s62:将h(s)同预设的拆装关键动作模板中的前2个动作进行逐一匹配,其中s的初始值为1,若匹配成功,则记+a分,并令s=s+1,在拆装关键动作模板中删去匹配成功的动作以及匹配成功动作前的动作,更新拆装关键动作模板,并记-bc分,返回步骤s62,其中c表示所删去拆装关键动作模板中匹配成功动作前的动作数,将a设置为100/m,b=a/3;若未匹配成功,则令s=s+1,返回步骤s62,直到s=s;
[0317]
s63:记录当前拆装关键动作模板中未匹配成功的动作数c
*
,并记-bc
*
分,将最终的计分结果作为发动机拆装评分结果。
[0318]
实施例2:
[0319]
如图2所示,是本发明一实施例提供的实现基于智能化评分系统的发动机拆装比赛平台及评分方法的电子设备的结构示意图。
[0320]
所述电子设备1可以包括处理器10、存储器11、通信接口13和总线,还可以包括存储在所述存储器11中并可在所述处理器10上运行的计算机程序,如程序12。
[0321]
其中,所述存储器11至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如:sd或dx存储器等)、磁性存储器、磁盘、光盘等。所述存储器11在一些实施例中可以是电子设备1的内部存储单元,例如该电子设备1的移动硬盘。所述存储器11在另一些实施例中也可以是电子设备1的外部存储设备,例如电子设备1上配备的插接式移动硬盘、智能存储卡(smart media card,smc)、安全数字(secure digital,sd)卡、闪存卡(flash card)等。进一步地,所述存储器11还可以既包括电子设备1的内部存储单元也包括外部存储设备。所述存储器11不仅可以用于存储安装于电子设备1的应用软件及各类数据,例如程序12的代码等,还可以用于暂时地存储已经输出或者将要输出的数据。
[0322]
所述处理器10在一些实施例中可以由集成电路组成,例如可以由单个封装的集成电路所组成,也可以是由多个相同功能或不同功能封装的集成电路所组成,包括一个或者
多个中央处理器(central processing unit,cpu)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器10是所述电子设备的控制核心(control unit),利用各种接口和线路连接整个电子设备的各个部件,通过运行或执行存储在所述存储器11内的程序或者模块(用于实现发动机拆装评分的程序12等),以及调用存储在所述存储器11内的数据,以执行电子设备1的各种功能和处理数据。
[0323]
所述通信接口13可以包括有线接口和/或无线接口(如wi-fi接口、蓝牙接口等),通常用于在该电子设备1与其他电子设备之间建立通信连接,并实现电子设备内部组件之间的连接通信。
[0324]
所述总线可以是外设部件互连标准(peripheral component interconnect,简称pci)总线或扩展工业标准结构(extended industry standard architecture,简称eisa)总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器11以及至少一个处理器10等之间的连接通信。
[0325]
图2仅示出了具有部件的电子设备,本领域技术人员可以理解的是,图2示出的结构并不构成对所述电子设备1的限定,可以包括比图示更少或者更多的部件,或者组合某些部件,或者不同的部件布置。
[0326]
例如,尽管未示出,所述电子设备1还可以包括给各个部件供电的电源(比如电池),优选地,电源可以通过电源管理装置与所述至少一个处理器10逻辑相连,从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备1还可以包括多种传感器、蓝牙模块、wi-fi模块等,在此不再赘述。
[0327]
可选地,该电子设备1还可以包括用户接口,用户接口可以是显示器(display)、输入单元(比如键盘(keyboard)),可选地,用户接口还可以是标准的有线接口、无线接口。可选地,在一些实施例中,显示器可以是led显示器、液晶显示器、触控式液晶显示器以及oled(organic light-emitting diode,有机发光二极管)触摸器等。其中,显示器也可以适当的称为显示屏或显示单元,用于显示在电子设备1中处理的信息以及用于显示可视化的用户界面。
[0328]
应该了解,所述实施例仅为说明之用,在专利申请范围上并不受此结构的限制。
[0329]
所述电子设备1中的所述存储器11存储的程序12是多个指令的组合,在所述处理器10中运行时,可以实现:
[0330]
对飞行器发动机拆装视频帧中的关键操作区域进行识别,并逐帧对关键操作区域进行追踪,得到拆装动作目标区域序列;
[0331]
对识别追踪得到的拆装动作目标区域序列进行关键动作提取,得到飞行器发动机拆装关键动作图像序列;
[0332]
对提取得到的飞行器发动机拆装关键动作图像序列进行操作实体分割,得到操作实体图像序列;
[0333]
对操作实体图像序列进行特征提取,得到每张操作实体图像的拆装动作特征向量;
[0334]
构建发动机拆装关键动作识别模型,将操作实体图像序列中所提取的拆装动作特
征向量序列输入到所构建模型中,得到发动机拆装过程中的关键动作流;
[0335]
按照预设的拆装关键动作模板对关键动作流进行评分,得到发动机拆装评分结果。
[0336]
具体地,所述处理器10对上述指令的具体实现方法可参考图1至图2对应实施例中相关步骤的描述,在此不赘述。
[0337]
需要说明的是,上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。并且本文中的术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、装置、物品或者方法不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、装置、物品或者方法所固有的要素。在没有更多限制的情况下,由语句“包括一个
……”
限定的要素,并不排除在包括该要素的过程、装置、物品或者方法中还存在另外的相同要素。
[0338]
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在如上所述的一个存储介质(如rom/ram、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,或者网络设备等)执行本发明各个实施例所述的方法。
[0339]
以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。
技术特征:
1.一种飞机发动机拆装比赛平台,所述比赛平台包括平台本体及结合于平台本体上的比赛评分系统,其特征在于,所述比赛评分系统的评分方法包括:s1:实时采集飞行器发动机拆装视频,对飞行器发动机拆装视频帧中的关键操作区域进行识别,并逐帧对关键操作区域进行追踪,得到拆装动作目标区域序列;s2:对识别追踪得到的拆装动作目标区域序列进行关键动作提取,得到飞行器发动机拆装关键动作图像序列;s3:对提取得到的飞行器发动机拆装关键动作图像序列进行操作实体分割,得到操作实体图像序列;s4:对操作实体图像序列进行特征提取,得到每张操作实体图像的拆装动作特征向量;s5:构建发动机拆装关键动作识别模型,将操作实体图像序列中所提取的拆装动作特征向量序列输入到所构建模型中,得到发动机拆装过程中的关键动作流;s6:按照预设的拆装关键动作模板对关键动作流进行评分,得到发动机拆装评分结果。2.如权利要求1所述的飞机发动机拆装比赛平台,其特征在于,所述s1步骤中实时采集飞行器发动机拆装视频,包括:利用发动机拆装比赛平台中的视频采集设备实时采集选手的飞行器发动机拆装视频,并以视频帧为单位对飞行器发动机拆装视频进行分帧处理,得到若干飞行器发动机拆装视频帧,将飞行器发动机拆装视频帧发送到视频分析设备中,其中飞行器发动机拆装视频帧集合为:{i(n)|n∈[1,n]}其中:i(n)表示第n帧飞行器发动机拆装视频帧,n表示飞行器发动机拆装视频帧的总数。3.如权利要求2所述的飞机发动机拆装比赛平台,其特征在于,所述s1步骤中对飞行器发动机拆装视频帧中的关键操作区域进行识别,并逐帧对关键操作区域进行追踪,包括:视频分析设备对飞行器发动机拆装视频帧中的关键操作区域进行识别,并逐帧对关键操作区域进行追踪,按帧顺序将关键操作区域构成序列,得到拆装动作目标区域序列,其中对飞行器发动机拆装视频帧中的关键操作区域进行识别以及追踪的流程为:s11:对于飞行器发动机拆装视频帧i(n),将视频帧中像素的颜色表示从rgb颜色空间转换为hsv颜色空间,将h颜色分量作为像素的颜色值,则飞行器发动机拆装视频帧i(n)中第x行第y列像素的颜色值为g
n
(x,y);s12:构建搜索窗,并将搜索窗的初始位置设置为飞行器发动机拆装视频帧i(1)中心;s13:计算得到搜索窗在飞行器发动机拆装视频帧i(1)中的质心位置(x
c
(1),y
c
(1)):其中:ω
c
表示搜索窗内的像素集合;调整搜索窗的大小:
l
c
(1)=1.2w
c
其中:w
c
(1)表示搜索窗在飞行器发动机拆装视频帧i(1)中的宽度,宽度单位为像素数目;l
c
(1)表示搜索窗在飞行器发动机拆装视频帧i(1)中的长度,长度单位为像素数目;s14:移动搜索窗的中心到质心,并计算移动距离;若移动距离大于预设值的距离阈值,则返回步骤s13,对当前搜索窗的中心以及大小进行迭代更新,否则将搜索窗内的图像设置为飞行器发动机拆装视频帧i(1)中的关键操作区域m(1);s15:估计关键操作区域移动速率:v
n
=av
n-1
+ε
n
p
n
=ap
n-1
a其中:v
n
=(v
n
(x),v
n
(y))表示由飞行器发动机拆装视频帧i(n)到飞行器发动机拆装视频帧i(n+1)的关键操作区域中心移动速率预测值,v
n
(x)表示水平方向的移动速率预测值,v
n
(y)表示竖直方向的移送速率预测值,v0=(0,0);ε
n
表示关键操作区域中心移动速率预测值v
n
的预测高斯噪声;p
n
表示关键操作区域中心移动速率预测值v
n
的预测误差;a表示关键操作加速度的经验矩阵;并对估计得到的关键操作区域移动速率进行更新:q
n
=p
n
/(p
n
+δ
n
)v
n
=v
n
+q
n
δ
n
p
n
=(1-q
n
)p
n
其中:δ
n
表示关键操作区域中心移动速率预测值v
n
的更新高斯噪声;q
n
表示卡尔曼更新增益;v
n
=v
n
+q
n
δ
n
表示关键操作区域中心移动速率预测值v
n
的更新公式;s16:根据求解得到的第n帧的关键操作区域移动速率,估计第n+1帧的关键操作区域中心(x
c
(n+1),y
c
(n+1)):x
c
(n+1)=x
c
(n)+v
n
(x)δty
c
(n+1)=y
c
(n)+v
n
(y)δt其中:δt表示相邻帧的时间间隔;并以第n帧的关键操作区域为第n+1帧构建相同大小的搜索窗,以(x
c
(n+1),y
c
(n+1))为搜素窗中心,调整第n+1帧的搜索窗大小,将搜索窗内的图像设置为飞行器发动机拆装视频帧i(n+1)中的关键操作区域m(n+1);令n=n+1,返回步骤s15,直到n+1=n;所述拆装动作目标区域序列为:(m(1),m(2),...,m(n),...,m(n))其中:m(n)表示飞行器发动机拆装视频帧i(n)中的关键操作区域,即第n帧的关键操作区域。
4.如权利要求3所述的飞机发动机拆装比赛平台,其特征在于,所述s2步骤中对识别追踪得到的拆装动作目标区域序列进行关键动作提取,包括:视频分析设备对识别追踪得到的拆装动作目标区域序列依次进行关键动作提取,得到飞行器发动机拆装关键动作图像序列,其中关键动作提取流程为:s21:利用canny边缘检测算法对拆装动作目标区域序列中的关键操作区域依次进行边缘标注;s22:计算关键操作区域的边缘形状与所设置的预选关键动作形状的hausdorff距离的绝对值,选取绝对值小于预设置阈值的关键操作区域作为候选关键动作图像;s23:计算候选关键动作图像的边缘形状同邻近帧关键操作区域的边缘形状的hausdorff距离的绝对值,保留绝对值高于预设置阈值邻近帧关键操作区域,并将所保留邻近帧关键操作区域作为候选关键动作图像;s24:对当前候选关键动作图像进行计数,若当前候选关键动作图像数目低于2n/3,则返回步骤s23,否则将候选关键动作图像作为关键动作图像,按帧顺序对关键动作图像进行排序,得到飞行器发动机拆装关键动作图像序列(g(1),g(2),...,g(s),...,g(s)),其中g(s)表示第s张关键动作图像,s表示所提取的关键动作图像总数。5.如权利要求4所述的一种飞机发动机拆装比赛平台,其特征在于,所述s3步骤中对提取得到的飞行器发动机拆装关键动作图像序列进行操作实体分割,包括:对提取得到的飞行器发动机拆装关键动作图像序列进行操作实体分割,得到操作实体图像序列,其中操作实体分割的流程为:s31:对于飞行器发动机拆装关键动作图像序列中的任意关键动作图像g(s),将其中像素坐标转换到世界坐标:其中:d1,d2分别表示视频采集设备所接收视频帧中单位像素分别在水平方向以及竖直方向的长度;x0,y0分别表示视频采集设备所接收视频帧的中心像素坐标和原点像素坐标之间相差的水平方向和竖直方向像素数,原点表示图像左上角;f表示视频采集设备的焦距;k1,k2表示视频采集设备的外部参数,分别为视频采集设备的位置以及旋转方向参数;(x
s
,y
s
,z
s
)表示任意关键动作图像g(s)中第x
s
行第y
s
列像素(x
s
,y
s
)在世界坐标系下的映射结果;s32:对于关键动作图像g(s)和g(s+1),若关键动作图像g(s)中存在坐标为(x
s
,y
s
,z
s
)的像素但g(s+1)中不存在,则将坐标为(x
s
,y
s
,z
s
)的像素标记为基于深度信息检测的操作实体像素;s33:将像素的颜色表示从rgb颜色空间转换到ycrcb空间:
s44:构造操作实体图像g(s)的拆装动作特征向量:其中:f(s)为操作实体图像g(s)的拆装动作特征向量。7.如权利要求1所述的一种飞机发动机拆装比赛平台,其特征在于,所述s5步骤中构建发动机拆装关键动作识别模型,包括:构建发动机拆装关键动作识别模型,所构建模型以拆装动作特征向量为输入,以动作识别结果为输出;所构建发动机拆装关键动作识别模型的结构包括输入层、映射层以及输出层,输入层用于接收拆装动作特征向量,映射层为卷积层结构,对所接收拆装动作特征向量进行卷积映射,输出层为全连接层结构,利用权重矩阵对卷积映射结果进行赋权,得到卷积映射结果在不同动作下的概率,选取概率最大的动作作为拆装动作特征向量对应的动作识别结果;基于发动机拆装关键动作识别模型的动作识别流程为:s51:输入层接收拆装动作特征向量f(s),并将拆装动作特征向量f(s)传输至映射层;s52:映射层对拆装动作特征向量f(s)进行卷积映射:f
′
(s)=σ(conv(f(s)))其中:σ(
·
)表示激活函数,将其设置为relu函数;conv(
·
)表示卷积层的卷积操作;f
′
(s)表示拆装动作特征向量f(s)的卷积映射结果;将卷积映射结果f
′
(s)传输至输出层;s53:输出层基于权重矩阵对卷积映射结果f
′
(s)进行赋权:f
″
(s)=w
t
f
′
(s)其中:w表示权重矩阵,t表示转置;f
″
(s)表示卷积映射结果f
′
(s)在不同动作下的概率,f
″
(s)的行数表示可识别动作数,每一行的值表示卷积映射结果f
′
(s)属于该动作的概率;s54:选取概率最大的动作作为拆装动作特征向量f(s)对应的动作识别结果h(s)。8.如权利要求7所述的飞机发动机拆装比赛平台,其特征在于,所述s5步骤中将操作实体图像序列中所提取的拆装动作特征向量序列输入到所构建发动机拆装关键动作识别模型中,包括:将操作实体图像序列中所提取的拆装动作特征向量序列f输入到所构建发动机拆装关键动作识别模型中,得到发动机拆装过程中的关键动作流,其中拆装动作特征向量序列f形式为:f=(f(1),f(2),...,f(s),...,f(s))其中:
f(s)为操作实体图像g(s)的拆装动作特征向量;发动机拆装过程中的关键动作流action的表示形式为:action=(h(1),h(2),...,h(s),...,h(s))其中:h(s)表示将f(s)输入到发动机拆装关键动作识别模型中,模型输出的动作识别结果。9.如权利要求8所述的飞机发动机拆装比赛平台,其特征在于,所述s6步骤中按照预设的拆装关键动作模板对关键动作流进行评分,得到发动机拆装评分结果,包括:评分系统按照预设的拆装关键动作模板对关键动作流进行评分,得到发动机拆装评分结果,其中发动机拆装评分流程为:s61:将关键动作流action同预设的拆装关键动作模板进行动作流程匹配,其中预设的拆装关键动作模板的形式为(h
′
(1),h
′
(2),...,h
′
(s),...,h
′
(m)),其中m表示预设的拆装关键动作模板中的动作数;s62:将h(s)同预设的拆装关键动作模板中的前2个动作进行逐一匹配,其中s的初始值为1,若匹配成功,则记+a分,并令s=s+1,在拆装关键动作模板中删去匹配成功的动作以及匹配成功动作前的动作,更新拆装关键动作模板,并记-bc分,返回步骤s62,其中c表示所删去拆装关键动作模板中匹配成功动作前的动作数,将a设置为100/m,b=a/3;若未匹配成功,则令s=s+1,返回步骤s62,直到s=s;s63:记录当前拆装关键动作模板中未匹配成功的动作数c
*
,并记-bc
*
分,将最终的计分结果作为发动机拆装评分结果。
技术总结
本发明涉及飞机发动机的教学领域,揭露了一种飞机发动机拆装比赛平台,该平台包括本体及设置于平台上的评分系统,所述评分系统涉及的评分方法包括:对飞行器发动机拆装视频帧中的关键操作区域进行识别以及追踪;对拆装动作目标区域序列进行关键动作提取;对飞行器发动机拆装关键动作图像序列进行操作实体分割;对操作实体图像序列进行特征提取以及动作识别,得到关键动作流;按照预设的拆装关键动作模板对关键动作流进行评分。本发明结合融合卡尔曼滤波的追踪算法实现关键操作区域的有效识别追踪,并分别结合肤色信息以及深度信息进行操作实体像素标注,进而获得有效表征操作实体动作的特征向量以及动作,基于拆装关键动作模板对关键动作流实现智能化发动机拆装比赛评分。对关键动作流实现智能化发动机拆装比赛评分。对关键动作流实现智能化发动机拆装比赛评分。
技术研发人员:刘道文
受保护的技术使用者:湖南易捷达信息科技有限责任公司
技术研发日:2023.04.06
技术公布日:2023/8/9
版权声明
本文仅代表作者观点,不代表航空之家立场。
本文系作者授权航家号发表,未经原创作者书面授权,任何单位或个人不得引用、复制、转载、摘编、链接或以其他任何方式复制发表。任何单位或个人在获得书面授权使用航空之家内容时,须注明作者及来源 “航空之家”。如非法使用航空之家的部分或全部内容的,航空之家将依法追究其法律责任。(航空之家官方QQ:2926969996)
飞行汽车 https://www.autovtol.com/
上一篇:一种汽车座椅检测机器人 下一篇:一种接收机波束修正方法、系统、设备及介质
