一种基于多难度课程学习的深度学习脑出血分类方法

未命名 09-13 阅读:67 评论:0


1.本发明涉及医学图像分类技术领域,具体是一种基于多难度课程学习的深度学习脑出血分类方法。


背景技术:

2.脑出血(ich)具有高死亡率和时间敏感性,医生会根据不同的出血类型和出血的程度采取不同的治疗措施,根据脑部出血位置的不同,脑出血可以分为脑实质内出血(iph)、脑室内出血(ivh)、硬膜下出血(sdh)、硬膜外出血(edh)、蛛网膜下腔出血(sah)五种类型。众所周知,脑部存在着大量的神经细胞,脑内存在的神经中枢控制着人体的各个器官,不同的出血类型会对不同的神经功能形成破坏,所以,对不同类型脑出血的早期检测对于挽救患者的神经功能乃至生命有重要意义。
3.临床上,对于一般的脑出血患者,首选的检查方式应该是采用计算机断层扫描(computed tomography,ct),在出血的检测和诊断中,ct成像方式因其速度快、成本低、能精确捕获相当好的对比度图像的能力而起着非常重要的作用,根据ct图像,医生可以明确脑出血的具体位置,出血量的大小、是否存在脑部水肿,以及脑出血是否破入脑室等,这些信息对病人的诊治至关重要。
4.随着计算机技术的进步,基于计算机辅助的脑出血类型识别技术也在不断的进步,从传统的机器学习方法到目前的深度学习方法,脑出血的检测与类型识别准确度也在不断的提高。针对传统的机器学习方法,由于阈值的检测并不准确,提取距离变换的特征也非常有限,这类传统机器学习方法检测速度慢,检测效果不好。随着深度学习的发展,卷积神经网络(cnn)因其可靠性和高效率而广受欢迎,成为医学诊断支持的重要因素。基于深度学习的脑出血检测和分类的方法不断被提出,虽然基于深度学习的脑出血检测与识别已经取得了很好的结果,但是这些方法很少从根本上解决数据样本不平衡的问题,以及训练效率等问题,所以脑出血的分类精度仍然有很大的提升空间。


技术实现要素:

5.本发明的目的在于解决现有技术中存在的问题,提供一种基于多难度课程学习的深度学习脑出血分类方法,通过融合临床信息、改进训练方法、改进分类网络构建新的分类模型,能够在提升训练速度的同时能获得更好的分类效果。
6.本发明为实现上述目的,通过以下技术方案实现:
7.一种基于多难度课程学习的深度学习脑出血分类方法,包括步骤:
8.s1、构建convbotnext-t分类网络、bert语义网络,其中,convbotnext-t分类网络作为主干网络,是在convnext-t网络的基础上,将convnext-t网络的c5中的3
×
3卷积替换为多头自注意力结构,利用自注意力机制替换convnext-t网络的最后三个卷积层;bert语义网络用于将临床信息转换为一维语义向量,并将向量信息添加到convbotnext-t分类网络中,用以辅助分类;
9.s2、采用基于难度的多模式课程学习方法训练convbotnext-t分类网络;
10.s3、将脑出血ct图像输入convbotnext-t分类网络,由convbotnext-t分类网络提取图像特征后结合bert语义网络输出的语义向量,最后输出脑实质内出血、脑室内出血、硬膜下出血、硬膜外出血、蛛网膜下腔出血、合并出血的六类出血亚型的概率。
11.优选的,步骤s1中:bert语义网络将病人初诊时的临床症状作为输入,bert最后一层输出的第一个token位置当作句子的表示,将获得的语义向量与主干网络的全连接层拼接一起用于分类。
12.优选的,步骤s1中:临床信息包括患者是否有脑挫裂伤、昏迷、中度清醒期、头痛、恶心、呕吐和偏瘫症状。
13.优选的,步骤s2中:将健康图像x
h1
、原始病理图像x
p
、合成的伪病理图像x
rp
作为模型的训练输入图像,其中,合成的伪病理图像x
rp
是掩膜和健康图像通过网络融合,合成的病理图像;通过生成人工掩膜的方式,能够得到不局限于病变的位置、形状及大小的掩膜。
14.优选的,步骤s2中:定义三种难度,分别为:出血区域比例、与健康图像的灰度差异、与健康图像的灰度分布差异;
15.出血区域比例d1为:
[0016][0017]
其中,x
p
是病理图像,f
p
是预先训练的分割器,n(
·
)是计算像素个数的函数;
[0018]
分母计算的是脑部图像的总的像素个数,当分割出的病理掩模的像素个数变大时,d1就会增加,表明出血区域占整个脑部图像的比例越大,越容易被分类;
[0019]
与健康图像的灰度差异d2为:
[0020][0021]
其中,表示病理图像的第i个像素的值,表示配准后健康图像的第i个像素的平均值,n表示病理图像的总像素个数,d2越大,说明该图像越容易被分类;
[0022]
与健康图像的像素灰度分布差异d3为:
[0023][0024]
其中,n表示病理图像的总像素个数,表示病理图像x
p
的第i个像素的值,表示配准后的健康图像的第i个像素的正态分布的期望,ρi表示配准后的健康图像的第i个像素的方差;
[0025]
d3计算的是概率密度函数的和,与越接近,d3越大,说明该图像与健康图像的分布越相似,越不容易被分类。
[0026]
优选的,其中,m表示有m张配准好的图像,表示第j张图像的第i个像素的值。
[0027]
优选的,步骤s2中:首先根据难度度量di对训练数据集d
train
中的每个图像样本进行排序,得到排序后的训练数据集根据模型当前的能力,按比例选择排序后的训练数据集,对训练批数据进行采样来训练模型,这样模型就能够在培训中逐渐从简单的样本过渡到更复杂的样本,直至收敛,这样的学习方式称之为课程学习,每一种难度对应一种课程。
[0028]
优选的,步骤s2中:通过训练时间步t的函数,定义模型能力c(t)∈(0,1],计算公式为:
[0029][0030]
其中,c(0)为模型的初始能力,通常设置为0.01,p为控制课程安排的系数,通常设置为2,t为课程学习的持续时间,并决定了课程学习的持续时间;
[0031]
根据模型的能力,获得每个课程的训练样本bi(ti),在第一轮训练结束之后,进一步估计模型在不同课程上对应的不同训练样本bi(ti)上的复杂度pbj(tj);
[0032]
复杂度pbj(tj)衡量的是训练每个bi(ti)到收敛时的时间长度,pbj(tj)的计算公式为:
[0033]
pbj(tj)=t(bi(ti))
[0034]
当前pbj(tj)较高的课程意味着该模型没有很好地学习,需要改进;pbj(tj)用来动态地确定每个训练时间步的课程;在第二次训练的时候首先选择pbj(tj)最大的课程,来训练当前的模型,然后依次训练其他课程;再次估计所选课程中的模型能力,并在所选课程对应的训练样本上计算模型的pbj(tj)再进行训练,一直循环,直到全部训练结束。
[0035]
优选的,步骤s2中,损失函数为:
[0036][0037]
其中,y
t
∈{0,1}表示类别t的真实标签,y
t
∈[0,1]表示类别t的预测,t∈{1,2,3,4,5,6}。
[0038]
对比现有技术,本发明的有益效果在于:
[0039]
本发明从网络设计、模型训练两个方面提出三种提高分类精度的措施,具体而言,通过构建结合临床信息的语义辅助分类网络,减少了漏诊、误诊的可能性;通过构建结合多头自注意力(multi-head self attention,mhsa)机制的convbotnext-t主干分类网络,更好地捕捉特征信息的全局依赖性,在参数量较少的同时保证了分类精度;通过基于难度的多模式课程学习方法,提升了训练速度的同时并提升了分类性能;收敛速度快,分类精度更高,提升训练速度的同时能获得更好的分类效果。
附图说明
[0040]
图1是本发明的基于多难度课程学习的脑出血分类模型一;
[0041]
图2是本发明的基于多难度课程学习的脑出血分类模型二;
[0042]
图3是本发明的基于bert的临床语义编码模型;
[0043]
图4是本发明的convbotnext-t网络结构示意图;
[0044]
图5是本发明的基于convnext-t的脑出血分类网络示意图;
[0045]
图6是本发明的基于难度的多模式课程学习模型;
[0046]
图7是本发明的课程学习示意图;
具体实施方式
[0047]
下面结合具体实施例,进一步阐述本发明。应理解,这些实施例仅用于说明本发明而不用于限制本发明的范围。此外应理解,在阅读了本发明讲授的内容之后,本领域技术人员可以对本发明作各种改动或修改,这些等价形式同样落于本技术所限定的范围。
[0048]
由于基于深度学习的脑出血分类方法的分类结果好坏与训练数据的质量有密切关系,针对基于有监督深度学习的脑出血分类模型来说,需要有足够的脑出血样本,并且要求样本的类别能覆盖到全部类别,各个类别有一定比例的样本已经做好了类别标注。但是在实际情况中,样本的数量往往不够,并且样本的质量不够高,因为人体脑部结构复杂,从不同的个体获取的脑出血ct图像形态差异也很大,并且脑部的每个位置都有出血的可能,现实中的样本一般不能覆盖到脑部的各个位置,即样本出血位置覆盖面不够广,并且不同出血类型的样本数据量也不一定会平衡。因此数据样本不够、样本出血位置覆盖面不够广、样本类别之间数据不平衡等方面是可以改进的方向。
[0049]
在以前的基于深度学习的脑出血分类研究工作中,一般脑出血图像是脑出血分类的唯一依据,很少利用到患者的其他信息,单纯的只靠脑出血图像确定脑出血的类别依据太单一,可能会导致诊断不准确,比如一个患者明明有很剧烈的头痛,但是医生却说影像显示没有出血,这可能是由于出血量过少,影像医生漏诊了。其实,不同脑出血类型的患者的临床表现也是有较大的差别的,因此,患者的临床信息(clinical information,ci)也可以作为辅助分类的依据,这样就能一定程度的减少漏诊、误诊等情况。因此,将临床信息用于辅助分类可以增加分类的准确率。
[0050]
由于基于深度学习的图像分类任务往往数据量很大,并且一般的模型参数众多,因此,训练一个模型往往需要很长的时间,根据数据量和模型参数的不同,耗时差异较大。因此,寻求一种好的训练方法和分类网络,在保证准确度的同时,可以提升训练速度,这也是提高分类效果的改进方向。
[0051]
由于基于深度学习的图像分类任务在进行模型训练寻找最优解的时候,常采用随机梯度下降优化算法,粒子群优化等常规算法,这些优化算法可能会使得模型收敛到局部最优解,导致一些错误的分类预测,比如用训练好的模型分类一些出血小的样本时,可能会出现错误的预测。所以,如果对优化算法加以改进,使得模型收敛到全局最优解,可以提升模型的分类精确度。
[0052]
实施例:如附图1-2所示,本发明所述是一种基于多难度课程学习的深度学习脑出血分类方法,是以卷积神经网络(cnn)为基础,利用convbotnext-t主干网络和基于bert的语义辅助网络相融合的方式进行建模,将脑出血数据分为五种出血亚型和一种合并类型,最终得到好的分类输出结果。
[0053]
主要是将健康图像x
h1
、原始病理图像x
p
、合成的病理图像x
rp
作为模型的训练输入图像;主干网络模块是基于convnext-t网络设计的convbotnext-t分类网络模块,临床信息(clinical information,ci)经过bert语义网络模块(bert model,bm),将其转化为一维语义向量,将向量信息添加到convbotnext-t分类网络模块中,用以辅助分类;为了提高训练
速度,采用多模式课程学习(multi mode course learning,mmcl)方法训练网络;最后输出脑实质内出血(iph)、脑室内出血(ivh)、硬膜下出血(sdh)、硬膜外出血(edh)、蛛网膜下腔出血(sah)、合并出血(any)等六类出血亚型的概率。
[0054]
包括步骤:
[0055]
s1、构建convbotnext-t分类网络、bert语义网络,其中,convbotnext-t分类网络作为主干网络,是在convnext-t网络的基础上,将convnext-t网络的c5中的3
×
3卷积替换为多头自注意力结构,利用自注意力机制替换convnext-t网络的最后三个卷积层;bert语义网络用于将临床信息转换为一维语义向量,并将向量信息添加到convbotnext-t分类网络中,用以辅助分类;
[0056]
s2、采用基于难度的多模式课程学习方法训练convbotnext-t分类网络;
[0057]
s3、将脑出血ct图像输入convbotnext-t分类网络,由convbotnext-t分类网络提取图像特征后结合bert语义网络输出的语义向量,最后输出脑实质内出血、脑室内出血、硬膜下出血、硬膜外出血、蛛网膜下腔出血、合并出血的六类出血亚型的概率。
[0058]
具体的:
[0059]
一、网络模块
[0060]
1)bert语义网络
[0061]
bert语义网络是基于bert的临床语义编码网络。
[0062]
在以往的基于深度学习的脑出血分类研究工作中,脑出血图像是判断患者脑出血类型的唯一依据,但是在实际工作中,如果仅凭影像医生的判断,可能会导致误诊。对于临床医生来说,患者的临床表现也对脑出血的分类有重要的指示作用。因此,本技术将临床信息作为辅助分类的依据,用以提高分类的准确率,并期望能在一定程度上减少漏诊、误诊等情况。
[0063]
为了将临床信息用于辅助分类任务,需要将临床信息这类标准化语句用矢量表示出来,采用一种基于bert的语义网络模型,如图3所示,
[0064]
2)convbotnext-t分类网络
[0065]
convbotnext-t分类网络为基于convnext-t的脑出血图像特征提取网络。
[0066]
随着技术的发展,视觉转换器(vision transformers,vit)模型因为其良好的分类效果正在逐步取代convnet模型。但是普通的vit模型在应用于一些目标检测和语义分割时,效果不佳。改进的转换器(transformers),如swin transformers重新引入了convnet先验,使transformers作为一种通用的视觉主干网络,并在各种视觉任务上表现出卓越的性能。
[0067]
convnext模型完全由标准卷视网模块构建,在精度和可扩展性方面可与transformers媲美,同时保持了标准convnets的简单性和有效性。convnext是一个向transformer网络靠拢的cnn模型,每一点精度的提升都是经过大量的实验得到证明。
[0068]
convnext-t对应于resnet-50,convnext-t的网络结构首先有个输入4x4x 96的卷积层,然后经过3+3+9+3=21个bulding block,每个block为3层,所以有3x 21=63层,最后有个fc层(全连接层),所以一共有1+63+1=65层。
[0069]
botnet(bottleneck transformer)与resnet网络相比,与resnet的唯一区别,是在c5中,将3
×
3卷积替换成了多头自注意力(multi-head self attention,mhsa)结构。利
用自注意力机制来替换convnext-t的最后三个卷积层,这样的结构,使用卷积提取图像中局部的信息,然后利用自注意力机制来对全局的依赖性进行建模,能够降低网络获取局部信息的代价,提升训练效率。
[0070]
本发明结合botnet与convnext-t,提出一种基于convnext-t的脑出血分类主干网络,并命名为convbotnext-t网络,网络结构如图4所示,该网络的演变过程如表1所示:
[0071]
表1 convbotnext-t网络的演变过程
[0072][0073][0074]
3)基于convnext-t的脑出血分类网络模型
[0075]
在convbotnext-t网络作为主干分类网络的基础上,结合临床信息的语义网络作为辅助分支,提出一种基于convnext-t的脑出血分类网络模型,模型结构如图5所示,临床信息经过bert模型编码为向量,与主干网络convbotnext-t提取的图像特征拼接并进行分类,期望提高分类效率,帮助医生减少误诊、漏诊。
[0076]
二、模型训练
[0077]
由于深度学习分类模型需要训练大量的参数,好的训练方法和优化算法不仅可以提高训练速度,还可以提高分类精度,为提高脑出血图像分类网络的训练速度和网络的分类精度,本技术提出一种基于难度的多模式课程学习优化算法,通过对网络训练方法,提高模型的训练速度,并且可以提高分类的精度。
[0078]
人们在学习的过程当中,一般遵循先易后难的学习原则,即,先学习简单的,再学习复杂的,这样逐步学习的方式使得学习效率更高。比如在学习数学的时候,通常先学习加减法,再学习乘除法,先学习10以内的,再学习100以内的,逐步递进,最后融会贯通。基于这种思想,对于分类神经网络来说,可以先让神经网络分类容易区分的,再分类那些不好分的,本技术提出了一种基于难度的多模式课程学习网络训练方法,根据样本的难度和模型
[0092]
一般情况下,对于健康图像来说,每个像素的值都服从正态分布,将病理图像的每个像素与健康图像对应位置的像素的分布进行比较,如果分布差异越大,表明该图像越容易被分类。为了评估与健康图像的灰度分布差异d3,利用其中健康图像的像素信息,来构建每个像素上的正常组织对应的灰度分布。方便起见,假设该分布是正态分布,与健康图像的像素灰度分布差异用d3表示,如式(1.3)所示。
[0093][0094]
其中,n表示病理图像的总像素个数,表示病理图像x
p
的第i个像素的值,表示配准后的健康图像的第i个像素的正态分布的期望,为了方便,用平均值代替,计算公式如式(1.4),表示配准后的健康图像的第i个像素的方差,计算公式如式(1.5)所示。
[0095][0096]
其中m表示有m张配准好的图像,表示第j张图像的第i个像素的值。对病理图像的每一个像素都进行计算,可以得到与健康图像灰度分布差异d3。同样将大脑去除头骨后得到的脑组织才进行计算,这样可以排除脑组织以外的信息,由式(1.3)可知,d3计算的是概率密度函数的和,与越接近,d3越大,说明该图像与健康图像的分布越相似,越不容易被分类。
[0097]
2)基于难度的多模式课程学习算法
[0098]
首先根据难度度量di对训练数据集d
train
中的每个图像样本进行排序,得到排序后的训练数据集根据模型当前的能力,按比例选择排序后的训练数据集,对训练批数据进行采样来训练模型。这样,该模型就能够在培训中逐渐从简单的样本过渡到更复杂的样本,直至收敛,这样的学习方式称之为课程学习,每一种难度对应一种课程。课程学习示意图如图7所示。
[0099]
通过训练时间步t的函数,定义模型能力c(t)∈(0,1],计算公式如式(2.1)。
[0100][0101]
其中,c(0)为模型的初始能力,通常设置为0.01,p为控制课程安排的系数,通常设置为2,t为课程学习的持续时间,并决定了课程学习的持续时间。在实现中,在训练时间步t,选择排序的训练数据集的顶部c(t)部分对训练批进行采样来训练模型。
[0102]
根据模型的能力,获得每个课程的训练样本bi(ti),在第一轮训练结束之后,进一步估计模型在不同课程上对应的不同训练样本bi(ti)上的复杂度pbj(tj)。复杂度pbj(tj)衡量的是训练每个bi(ti)到收敛时的时间长度,pbj(tj)的计算公式如式(2.2)所示,因此当前pbj(tj)较高的课程意味着该模型没有很好地学习,需要改进。因此,pbj(tj)可以用来动态地确定每个训练时间步的课程。在第二次训练的时候首先选择学习不足的课程,即pbj(tj)
最大的课程,来训练当前的模型,然后依次训练其他课程。再次估计所选课程中的模型能力,并在所选课程对应的训练样本上计算模型的pbj(tj)再进行训练,一直循环,直到全部训练结束。
[0103]
pbj(tj)=t(bi(ti))
ꢀꢀꢀꢀ
(2.2)
[0104]
随着训练时间的增加,慢慢将分类难度大的图像加入训练,使得模型分类能力逐步增强。基于多难度的课程学习算法如2所示。
[0105]
表2基于难度的多模式课程学习算法
[0106][0107][0108]
3)损失函数
[0109]
脑出血亚型分类可以作为多标签分类问题。一个数据样本,例如,一张ct切片,可以同时出现多种类型的出血。训练提出的模型5种亚型及合并出血类型分类,模型的输出值在0到1之间,表示每种类型的脑出血的发生概率的发生概率。总的来说,提出的模型在最后一个(分类)层上包含6个单元,输出6个独立的类别概率。使用多标签对数损失,对给定输入样本的每种出血类型的二进制交叉熵损失相加,得到如公式(3.1)。
[0110][0111]
其中,y
t
∈{0,1}表示类别t的真实标签,y
t
∈[0,1]表示类别t的预测(类概率)。脑出血有5种亚型和一个合并类型,因此t∈{1,2,3,4,5,6}。
[0112]
本发明通过构建结合临床信息的语义辅助分类网络,减少了漏诊、误诊的可能性;
通过构建结合多头自注意力(multi-head self attention,mhsa)机制的convbotnext-t主干分类网络,更好地捕捉特征信息的全局依赖性,在参数量较少的同时保证了分类精度;通过提出一种基于难度的多模式课程学习网络算法,提升了训练速度的同时并提升了分类性能。

技术特征:
1.一种基于多难度课程学习的深度学习脑出血分类方法,其特征在于,包括步骤:s1、构建convbotnext-t分类网络、bert语义网络,其中,convbotnext-t分类网络作为主干网络,是在convnext-t网络的基础上,将convnext-t网络的c5中的3
×
3卷积替换为多头自注意力结构,利用自注意力机制替换convnext-t网络的最后三个卷积层;bert语义网络用于将临床信息转换为一维语义向量,并将向量信息添加到convbotnext-t分类网络中,用以辅助分类;s2、采用基于难度的多模式课程学习方法训练convbotnext-t分类网络;s3、将脑出血ct图像输入convbotnext-t分类网络,由convbotnext-t分类网络提取图像特征后结合bert语义网络输出的语义向量,最后输出脑实质内出血、脑室内出血、硬膜下出血、硬膜外出血、蛛网膜下腔出血、合并出血的六类出血亚型的概率。2.根据权利要求1所述的一种基于多难度课程学习的深度学习脑出血分类方法,其特征在于,步骤s1中:bert语义网络将病人初诊时的临床症状作为输入,bert最后一层输出的第一个token位置当作句子的表示,将获得的语义向量与主干网络的全连接层拼接一起用于分类。3.根据权利要求1所述的一种基于多难度课程学习的深度学习脑出血分类方法,其特征在于,步骤s1中:临床信息包括患者是否有脑挫裂伤、昏迷、中度清醒期、头痛、恶心、呕吐和偏瘫症状。4.根据权利要求1所述的一种基于多难度课程学习的深度学习脑出血分类方法,其特征在于,步骤s2中:将健康图像x
h1
、原始病理图像x
p
、合成的伪病理图像x
rp
作为模型的训练输入图像,其中,合成的伪病理图像x
rp
是掩膜和健康图像通过网络融合,合成的病理图像;通过生成人工掩膜的方式,能够得到不局限于病变的位置、形状及大小的掩膜。5.根据权利要求1所述的一种基于多难度课程学习的深度学习脑出血分类方法,其特征在于,步骤s2中:定义三种难度,分别为:出血区域比例、与健康图像的灰度差异、与健康图像的灰度分布差异;出血区域比例d1为:其中,x
p
是病理图像,f
p
是预先训练的分割器,n(
·
)是计算像素个数的函数;分母计算的是脑部图像的总的像素个数,当分割出的病理掩模的像素个数变大时,d1就会增加,表明出血区域占整个脑部图像的比例越大,越容易被分类;与健康图像的灰度差异d2为:其中,表示病理图像的第i个像素的值,表示配准后健康图像的第i个像素的平均值,n表示病理图像的总像素个数,d2越大,说明该图像越容易被分类;与健康图像的像素灰度分布差异d3为:
其中,n表示病理图像的总像素个数,表示病理图像x
p
的第i个像素的值,表示配准后的健康图像的第i个像素的正态分布的期望,表示配准后的健康图像的第i个像素的方差;d3计算的是概率密度函数的和,与越接近,d3越大,说明该图像与健康图像的分布越相似,越不容易被分类。6.根据权利要求5所述的一种基于多难度课程学习的深度学习脑出血分类方法,其特征在于,其中,m表示有m张配准好的图像,表示第j张图像的第i个像素的值。7.根据权利要求5所述的一种基于多难度课程学习的深度学习脑出血分类方法,其特征在于,步骤s2中:首先根据难度度量d
i
对训练数据集d
train
中的每个图像样本进行排序,得到排序后的训练数据集根据模型当前的能力,按比例选择排序后的训练数据集,对训练批数据进行采样来训练模型,这样模型就能够在培训中逐渐从简单的样本过渡到更复杂的样本,直至收敛,这样的学习方式称之为课程学习,每一种难度对应一种课程。8.根据权利要求7所述的一种基于多难度课程学习的深度学习脑出血分类方法,其特征在于,步骤s2中:通过训练时间步t的函数,定义模型能力c(t)∈(0,1],计算公式为:其中,c(0)为模型的初始能力,通常设置为0.01,p为控制课程安排的系数,通常设置为2,t为课程学习的持续时间,并决定了课程学习的持续时间;根据模型的能力,获得每个课程的训练样本b
i
(t
i
),在第一轮训练结束之后,进一步估计模型在不同课程上对应的不同训练样本b
i
(t
i
)上的复杂度pb
j
(t
j
);复杂度pb
j
(t
j
)衡量的是训练每个b
i
(t
i
)到收敛时的时间长度,pb
j
(t
j
)的计算公式为:pb
j
(t
j
)=t(b
i
(t
i
))当前pb
j
(t
j
)较高的课程意味着该模型没有很好地学习,需要改进;pb
j
(t
j
)用来动态地确定每个训练时间步的课程;在第二次训练的时候首先选择pb
j
(t
j
)最大的课程,来训练当前的模型,然后依次训练其他课程;再次估计所选课程中的模型能力,并在所选课程对应的训练样本上计算模型的pb
j
(t
j
)再进行训练,一直循环,直到全部训练结束。9.根据权利要求8所述的一种基于多难度课程学习的深度学习脑出血分类方法,其特征在于,步骤s2中,损失函数为:其中,y
t
∈{0,1}表示类别t的真实标签,y
t
∈[0,1]表示类别t的预测,t∈{1,2,3,4,5,6}。

技术总结
本发明公开了一种基于多难度课程学习的深度学习脑出血分类方法,主要涉及医学图像分类技术领域;包括步骤:S1、构建ConvBoTNeXt-T分类网络、Bert语义网络;S2、采用基于难度的多模式课程学习方法训练ConvBoTNeXt-T分类网络;S3、将脑出血CT图像输入ConvBoTNeXt-T分类网络,最后输出脑实质内出血、脑室内出血、硬膜下出血、硬膜外出血、蛛网膜下腔出血、合并出血的六类出血亚型的概率;本发明通过融合临床信息、改进训练方法、改进分类网络构建新的分类模型,能够在提升训练速度的同时能获得更好的分类效果。分类效果。分类效果。


技术研发人员:刘小娟 周尚波 唐宏安
受保护的技术使用者:重庆理工大学
技术研发日:2023.05.12
技术公布日:2023/9/12
版权声明

本文仅代表作者观点,不代表航空之家立场。
本文系作者授权航家号发表,未经原创作者书面授权,任何单位或个人不得引用、复制、转载、摘编、链接或以其他任何方式复制发表。任何单位或个人在获得书面授权使用航空之家内容时,须注明作者及来源 “航空之家”。如非法使用航空之家的部分或全部内容的,航空之家将依法追究其法律责任。(航空之家官方QQ:2926969996)

飞行汽车 https://www.autovtol.com/

分享:

扫一扫在手机阅读、分享本文

相关推荐