基于生物模仿学习的多足机器人腿部损伤步态调整方法

1.本发明涉及机器人控制技术领域，更具体的说是采用生物模仿学习技术实现多足机器人腿部复合损伤状态下的步态调整控制。


背景技术：

2.地面智能移动机器人的种类繁多，按运动方式划分，主要可归类为：轮式、履带式、足式和复合式。轮式和履带式机器人主要用于在结构化环境中执行重复、单一和规律性的任务。而仿生足式机器人是一类特殊的机器人，其外形和运动行为仿照自然界动物的特点进行设计和发展。相比传统的轮式和履带式机器人，仿生足式机器人能够灵活地选择离散的支撑点进行移动，具有出色的越障和避障能力，特别适合在复杂的非结构化环境中工作。由于足式机器人在民用和军用领域具有巨大的潜力，它已成为智能机器人领域的研究热点。
3.然而，在危险或恶劣的工作环境中，仿生多足机器人仍然面临许多困难的实际问题，这在很大程度上限制了它们的进一步发展和应用拓展。当多足机器人的腿部受损时，其稳定性和运动能力会急剧下降，甚至完全瘫痪。此外，在许多应用环境中，现场进行机器人维护和零部件的更换非常困难，甚至不可行，这导致多足机器人无法完成预定的任务。因此，如何合理利用仿生多足机器人独特步态丰富、多肢体和冗余自由度的特点，使其能够在某些腿部损伤情况下通过自适应调整步态迅速恢复运动能力，成为一个亟待攻克且富有挑战性的难题。
4.目前多足机器人的运动控制技术大多采用基于模型的控制方法，研究人员需要对多足机器人进行运动学和动力学建模，然后设计相应的控制策略，这类控制方法对系统的建模精度要求很高且通常只适用于机器人无损状态下工作，此外还存在建模繁琐、求解困难、实时性差等缺点，一旦机器人出现复杂的复合损伤，自身结构和状态将发生很大的变化，原有的机器人模型将不再适用，导致机器人控制不精准或完全失控。而另一些无模型方法，例如基于动物运动神经系统控制机理启发的cpg控制策略和无模型的强化学习控制策略，需要大量的试错和迭代学习，调整时间非常长，因此很难满足大多数应用场景对速度的苛刻要求。此外，上述这些方法在复杂的复合损伤条件下均可能找不到可以利用的调整步态。由此，可以看出现有的基于模型、仿生cpg和强化学习的运动控制策略在调整速度与控制精度两方面远未到达实用化的要求。
5.在自然界中的动物在不幸损伤一条或多条腿后是不会丧失基本的运动能力的，它们往往能够很快适应自己残缺的身体，快速开发出适合自己的移动方式。如果能将动物的这种快速、自适应运动调整能力赋予给仿生多足机器人，将大大提升多足机器人的损伤恢复能力和环境适应性，为仿生多足机器人的实用化发展提供强有力的技术支撑。为此，本发明提出了采用关键点检测技术分析多足生物损伤步态，利用cpg拟合生物关节角度变化信息，实现多足机器人损伤状态下的步态自动调整。


技术实现要素：

6.针对多足机器人损伤状态下的步态调整控制，本发明首先通过搭建多足动物实验拍摄平台，构建多足动物复合损伤状态下的高帧率视频数据集。为了对多足生物的损伤步态进行快速精确的分析，本发明利用关键点检测技术对视频数排中的关节点进行标注，获取多足动物关节角度的变化数据。通过对关节角度变化数据进行凝练分析，将所得到的信息作为参数送入cpg中，产生与生物节律一致的稳定周期信号作为机器人关节角度控制信号。为了实现上述目的，本发明采用如下技术方案：
7.基于生物模仿学习的多足机器人腿部损伤步态调整方法，包括以下步骤：
8.1)搭建生物损伤步态拍摄平台，利用平面镜成像原理以同时观察仰视与侧视视角下的生物损伤运动情况，并利用高速相机拍摄清晰且高帧率的生物复合损伤步态视频；
9.2)构建多足生物关键点检测数据集，定义多足生物的躯干及各条腿部关节为其关键点，提取出少量生物复合损伤步态视频的关键帧，对视频中的多足生物关键点进行人工标注，由于上述过程只标注了少量的数据，为了扩充数据集，防止训练数据不足导致过拟合，对数据集图像进行数据增强处理，以训练出更加鲁棒的模型；
10.3)使用基于深度学习的关键点检测技术，采用encoder-decoder网络架构，通过全卷积神经网络搭建堆叠densenet关键点检测网络模型，引入中间监督的技术，将用于模型训练的损失应用于每个沙漏形encoder-decoder模块的输出，以最小化训练损失之和作为模型的训练目标函数；
11.4)循环训练以提升模型检测精度，在每一次训练结束后得到关键点检测网络的输出，采样验证过程中关键点估计值的置信度过低或位置过度偏离的图像，并重新进行人工标注，将标注后的结果送入训练集中进行下一轮的训练，直到模型满足预定效果；
12.5)获取生物损伤运动步态信号，将关键点检测网络输出的位置坐标信息转化为生物关节角度信息，利用滑动平均滤波与savitzky-golay平滑滤波对角度数据进行降噪；
13.6)获取周期性角度数据的凝练信息，统计数据计算得到角度信号的平均幅值与占空比，利用快速傅里叶变换将角度信号分解出不同的频率及其对应的相位，分别计算给定频率下角度曲线的自相关系数，选取对应角度曲线自相关系数最大的频率及其所对应的相位作为周期性信号的频率信息与相位信息；
14.7)为了获取到稳定性的周期控制信号，选用hopf振荡器作为cpg的单元模型，将角度信息的凝练数据作为振荡器参数，产生与生物步态节律相似的稳定周期性振荡信号，利用hopf振荡器的输出信号控制多足机器人腿部舵机实现损伤步态调整。
15.步骤2)所述的数据增强处理由以下方式得到：
16.对图像进行翻转和平移、改变图像亮度、对图像进行裁剪、缩放图像大小、模糊处理、更改对比度以及加入随机的高斯噪声。
17.步骤3)所采用的训练目标函数是采用如下公式得到：
[0018][0019]
其中n代表输入训练图像数量，yi代表第i个输入图像的置信度图，f(x)i代表堆叠沙漏型网络结构的中间输出，f
′
(x)i代表f(x)i中部分被优化的特征图像，g(f(x))i代表与yi对应的网络输出。
[0020]
步骤6)中的给定频率下角度曲线的自相关系数由以下公式确定：
[0021][0022]
其中k为给定频率ωa下信号的周期值取整，acf(x，k)为角度数据序列x
t
间隔为k的自相关系数，n为时间序列的长度，lag(x，k)代表角度数据序列x
t
间隔相位为k的数据延迟，coy(x，lag(x，k))表示x
t
与lag(x，k)之间的协方差，var(x)为时间序列x
t
的方差，为时间序列x
t
的均值，xi为代表时间序列x
t
的第i个数据。
[0023]
步骤7)中的hopf振荡器的输出信号采用如下公式计算：
[0024][0025]
其中，ω为振荡器的频率，ω
st
、ω
sw
分别为支撑相与摆动相的频率，参数a决定了ω在ω
st
和ω
sw
之间变化的速度，为正常数，o
x
、oy为振荡器的输出，其中o
x
用作多足机器人髋关节的角度控制信号，β为载荷因子即统计关节角度变化曲线得到的占空比，t为关节角度曲线经快速傅里叶变化后确定的周期，r为极限环半径，为统计关节角度变化曲线得到的幅值中位数，μ为振荡器的幅值，a为统计得到的角度信号平均幅值，为o
x
、oy的变化速度，α为控制振荡器收敛到极限环的速度的参数。
[0026]
本发明具有以下有益效果：1)通过搭建多足生物实验拍摄平台，构建了包含有多种复合损伤状态的多足生物步态数据集；2)利用关键点检测技术提取多足生物损伤状态下的周期性关节角度变化数据；3)对周期性角度数据进行分析处理，得到角度数据凝练的统计信息；4)根据生物损伤状态下的步态数据，利用cpg信号发生器产生与生物步态节律相似的稳定周期性振荡信号，实现多足机器人的损伤步态调整。
附图说明
[0027]
图1为本发明实施例中构建的多足生物实验拍摄装置
[0028]
图2为日本弓背蚁的腿部编号及其身体坐标系
[0029]
图3为本发明实施例中利用deeplabcut对视频数据进行标注的样例
[0030]
图4为本发明实施例中采用的双层堆叠densenet网络架构示意
[0031]
图5为本发明实施例中关键点检测整体流程图
[0032]
图6为本发明实施例中获取得到的蚂蚁各条腿髋关节原始角度与滤波结果示意图
[0033]
图7为本发明实施例中hopf振荡器输出结果示意
[0034]
图8为本发明实施例中六足机器人实物验证平台
[0035]
图9为本发明实施例中方法对比结果
具体实施方式
[0036]
下面结合附图和具体实施方式对发明作进一步的详细说明。实施例是对本发明中技术方案清楚完整的描述，所描述的实施例是本发明一部分实施例而不是全部实施例。此处所描述的具体实施例方式仅用于解释本发明，并不用于限定本发明的保护范围。
[0037]
1)如图1所示，多足生物实验拍摄装置由拍摄通道、高速相机、镜面、支撑架组成，选用缺失了2号、4号两条腿日本弓背蚁作为实验对象，图2为蚂蚁腿部编号以及其身体坐标系的定义；拍摄视频前，先将拍摄装置与蚂蚁培育室连接，使得蚂蚁适应通道环境；拍摄过程中，在拍摄通道内放入损伤状态的日本弓背蚁，在拍摄装置正前方架设photron公司的fastcam mini ux100 type 200k-c-32gb高速相机作为主要采集设备，选择分辨率1280*280，拍摄速度125fps；由于镜面与水平面呈45
°
夹角，高速相机可以同时拍摄到蚂蚁通过拍摄通道的侧视与仰视视角；
[0038]
2)如图3所示，利用deeplabcut软件对视频数据进行标注，从拍摄得到的蚂蚁视频中均匀随机采样161帧图像，分别对这161张图像进行手动标注，标注对象包括：蚂蚁头、胸、腹的中心点，各条腿部的髋关节、踝关节与足尖。将标注得到的数据按照4∶1的比例拆分为训练集与验证集；
[0039]
3)对标注完成的图像进行数据增强处理，包括对图像进行翻转和平移、改变图像亮度、对图像进行裁剪、缩放图像大小、模糊处理、更改对比度以及加入随机的高斯噪声；
[0040]
4)如图4所示，双层堆叠densenet网络架构。输入图像x经过上一步的图像增强处理，来增加模型的鲁棒性与泛用性。对应的标注真值也要经过同样的空间变换处理，并被用来画出置信度图y与层次姿态图。将输入图像送入网络以产生一组与置信度图相对应的图像g(f(x))。将最小化g(f(x))以及f
′
(x)和真值y之间的均方误差作为训练目标，其中f
′
(x)是f(x)中部分被优化的特征图像，它们被用来重现置信度图以达到中间监督的作用。当损失函数最小化直到验证误差不变时模型收敛，模型收敛目标由以下公式得到：
[0041][0042]
其中n代表输入训练图像数量，yi代表第i个输入图像的置信度图，f(x)i代表堆叠沙漏型网络结构的中间输出，f
′
(x)i代表f(x)i中部分被优化的特征图像，g(f(x))i代表与yi对应的网络输出；
[0043]
5)如图5所示，为关键点检测的整体流程。当验证过程中出现关键点估计值的置信度过低或位置过度偏离的情况时，将这些图像采样出来并重新进行人工标注，将标注后的结果送入训练集中进行下一轮的训练，直到模型满足预定效果。最终将需要进行关键点检测的数据输入到模型中，能够输出关键点的准确位置坐标及其置信度；
[0044]
6)如图6所示，为根据关键点检测得到的蚂蚁髋关节角度变化曲线，蚂蚁某一条腿的髋关节角度定义为蚂蚁身体的正方向与该腿髋关节指向足尖的向量之间的夹角。由于收集得到的角度数据包含高频噪声，会影响到对角度周期性规律的统计分析，因此需要对角度曲线进行平滑滤波。利用滑动平均滤波与savitzky-golay平滑滤波方法对原始角度数据
进行处理，savitzky-golay平滑滤波方法被广泛地运用于数据流平滑除噪，是一种在时域内基于局域多项式最小二乘法拟合的滤波方法。这种滤波器最大的特点在于在滤除噪声的同时可以确保信号的形状、宽度不变；
[0045]
7)对平滑处理完成之后的数据进行统计分析，关节角度的幅值定义为角度数据中每个周期内的幅值的均值，占空比定义为关节角度数据中支撑相所占时间与时间总长度的比例；信号的频率与相位由快速傅里叶变换获取，取fft对应幅值最高的前5个频率作为备选频率，频率的具体确定通过计算给定信号频率下角度信号的自相关系数确定，选取对应于角度信号的自相关系数最大的频率作为信号频率，而信号相位则为该信号频率在fft下所对应的相位，角度信号的自相关系数由以下公式确定：
[0046][0047]
其中k为给定频率ωa下信号的周期值取整，acf(x，k)为角度数据序列x
t
间隔为k的自相关系数，n为时间序列的长度，lag(x，k)代表角度数据序列x
t
间隔相位为k的数据延迟，cov(x，lag(x，k))表示x
t
与lag(x，k)之间的协方差，var(x)为时间序列x
t
的方差，为时间序列x
t
的均值，xi为代表时间序列x
t
的第i个数据；
[0048]
8)如图7(a)所示，是将1号腿的统计数据作为参数送入hopf振荡器得到的输出结果，图7(b)为hopf振荡器生成的稳定极限环，hopf振荡器的输出信号采用如下公式计算：
[0049][0050]
其中，ω为振荡器的频率，ω
st
、ω
sw
分别为支撑相与摆动相的频率，参数a决定了ω在ω
st
和ω
sw
之间变化的速度，为正常数，o
x
、oy为振荡器的输出，其中o
x
用作多足机器人髋关节的角度控制信号，β为载荷因子即统计关节角度变化曲线得到的占空比，t为关节角度曲线经快速傅里叶变化后确定的周期，r为极限环半径，为统计关节角度变化曲线得到的幅值中位数，μ为振荡器的幅值，a为统计得到的角度信号平均幅值，为o
x
、oy的变化速度，α为控制振荡器收敛到极限环的速度的参数；
[0051]
9)图8为进行方法验证的实物六足机器人平台。将cpg的o
x
输出信号作为实物六足机器人的髋关节信号，机器人膝关节角度根据髋关节处于支撑相或者摆动相在-5
°
与15
°
之间进行切换，令机器人初始朝向为x轴方向，水平面内垂直该方向为y轴方向。评价指标选用机器人在30s内的有效移动距离δd＝r
x-|ry|度量，其中r
x
为机器人在x轴方向上的移动距离，ry为机器人在y轴方向上的移动距离。与如下两种方法进行对比：使用经典三角步态、将
拍摄视频得到的角度数据直接部署于机器人上。在缺失2号与4号腿部的情况下，经典三角步态不再适用于六足机器人的直线行走，机器人会在地面上进行圆周运动；而直接部署角度数据的方法也会让六足机器人运动轨迹偏离前进方向；本实验方法能够使六足机器人按照前进方向移动，且几乎没有产生横向偏移。图9为方法验证结果，根据实验结果可以看到，在有效移动距离指标上，我们的方法明显优于其他两种方法。
[0052]
由此可见，本发明提出的基于生物模仿学习的多足机器人腿部损伤步态调整方法，可以在标注少量训练样本的情况下，利用基于堆叠densenet框架的关键点检测技术对高帧率生物视频数据进行标注，并提取出生物关节角度数据内部蕴含的周期性信息，将该信息作为参数送入cpg中以产生与生物节律一致的周期信号，充分利用了生物应对不同复合损伤状态下先验数据的同时，产生稳定且具有周期性的控制信号，实现多足机器人基于生物动作模仿学习应对复合损伤的调整方法。
[0053]
以上，仅为本发明较佳的一种实施方案，并非用于限制本发明的保护范围，任何有关技术领域的普通技术人员在本技术揭露的技术范围内，进行等同变化或等效替换所获得的方案，都应涵盖在本技术的保护范围之内。权利要求书规定的保护范围为本技术的保护范围。

技术特征：
1.基于生物模仿学习的多足机器人腿部损伤步态调整方法，其特征在于，包括以下步骤：1)搭建生物损伤步态拍摄平台，利用平面镜成像原理以同时观察仰视与侧视视角下的生物损伤运动情况，并利用高速相机拍摄清晰且高帧率的生物复合损伤步态视频；2)构建多足生物关键点检测数据集，定义多足生物的躯干及各条腿部关节为其关键点，提取出少量生物复合损伤步态视频的关键帧，对视频中的多足生物关键点进行人工标注，由于上述过程只标注了少量的数据，为了扩充数据集，防止训练数据不足导致过拟合，对数据集图像进行数据增强处理，以训练出更加鲁棒的模型；3)使用基于深度学习的关键点检测技术，采用encoder-decoder网络架构，通过全卷积神经网络搭建堆叠densenet关键点检测网络模型，引入中间监督的技术，将用于模型训练的损失应用于每个沙漏形encoder-decoder模块的输出，以最小化训练损失之和作为模型的训练目标函数；4)循环训练以提升模型检测精度，在每一次训练结束后得到关键点检测网络的输出，采样验证过程中关键点估计值的置信度过低或位置过度偏离的图像，并重新进行人工标注，将标注后的结果送入训练集中进行下一轮的训练，直到模型满足预定效果；5)获取生物损伤运动步态信号，将关键点检测网络输出的位置坐标信息转化为生物关节角度信息，利用滑动平均滤波与savitzky-golay平滑滤波对角度数据进行降噪；6)获取周期性角度数据的凝练信息，统计数据计算得到角度信号的平均幅值与占空比，利用快速傅里叶变换将角度信号分解出不同的频率及其对应的相位，分别计算给定频率下角度曲线的自相关系数，选取对应角度曲线自相关系数最大的频率及其所对应的相位作为周期性信号的频率信息与相位信息；7)为了获取到稳定性的周期控制信号，选用hopf振荡器作为cpg的单元模型，将角度信息的凝练数据作为振荡器参数，产生与生物步态节律相似的稳定周期性振荡信号，利用该信号控制多足机器人腿部舵机实现损伤步态调整。2.根据权利要求1所述的基于生物模仿学习的多足机器人腿部损伤步态调整方法，其特征在于，步骤2)所述的数据增强处理由以下方式得到：对图像进行翻转和平移、改变图像亮度、对图像进行裁剪、缩放图像大小、模糊处理、更改对比度以及加入随机的高斯噪声。3.根据权利要求1所述的基于生物模仿学习的多足机器人腿部损伤步态调整方法，其特征在于，步骤3)所采用的训练目标函数是采用如下公式得到：其中n代表输入训练图像数量，y
i
代表第i个输入图像的置信度图，f(x)
i
代表堆叠沙漏型网络结构的中间输出，f
′
(x)
i
代表f(x)
i
中部分被优化的特征图像，g(f(x))
i
代表与y
i
对应的网络输出。4.根据权利要求1所述的基于生物模仿学习的多足机器人腿部损伤步态调整方法，其特征在于，步骤6)中的给定频率下角度曲线的自相关系数由以下公式确定：
其中k为给定频率ω
a
下信号的周期值取整，acf(x，k)为角度数据序列x
t
间隔为k的自相关系数，n为时间序列的长度，lag(x，k)代表角度数据序列x
t
间隔相位为k的数据延迟，cov(x，lag(x，k))表示x
t
与lag(x，k)之间的协方差，var(x)为时间序列x
t
的方差，为时间序列x
t
的均值，x
i
为代表时间序列x
t
的第i个数据。5.根据权利要求1所述的基于生物模仿学习的多足机器人腿部损伤步态调整方法，其特征在于，步骤7)中的hopf振荡器的输出信号采用如下公式计算：其中，ω为振荡器的频率，ω
st
、ω
sw
分别为支撑相与摆动相的频率，参数a决定了ω在ω
st
和ω
sw
之间变化的速度，为正常数，o
x
、o
y
为振荡器的输出，其中o
x
用作多足机器人髋关节的角度控制信号，β为载荷因子即统计关节角度变化曲线得到的占空比，t为关节角度曲线经快速傅里叶变化后确定的周期，r为极限环半径，为统计关节角度变化曲线得到的幅值中位数，μ为振荡器的幅值，a为统计得到的角度信号平均幅值，为o
x
、o
y
的变化速度，α为控制振荡器收敛到极限环的速度的参数。

技术总结
本发明涉及基于生物模仿学习的多足机器人腿部损伤步态调整方法，该方法包括如下步骤：通过搭建多足动物拍摄平台，构建多足动物复合损伤状态下的视频数据集；利用关键点检测技术对视频数据关节点进行标注，获取多足动物关节角度变化数据；对关节角度变化数据进行凝练分析，将所得的信息作为参数送入CPG中，产生与生物节律一致的周期信号用于损伤机器人关节角度控制。本发明，实现了多足机器人面对复合损伤状态下，利用生物模仿学习实现步态调整的任务，利用基于堆叠DenseNet的关键点检测技术对生物进行姿态分析的方法能够为生物动作统计分析提供了良好的数据支撑，基于生物数据的CPG生成稳定的周期性震荡信号，在损伤机器人的步态控制上取得了良好的效果。人的步态控制上取得了良好的效果。人的步态控制上取得了良好的效果。


技术研发人员：曾明 孟畅 李元昊 王湘晖 钟舒桐 赵峰
受保护的技术使用者：天津大学
技术研发日：2023.06.08
技术公布日：2023/9/12