一种无线供能边缘智能场景下的神经网络模型分割及资源分配方法

1.本发明属于5g网络边缘智能技术领域，尤其涉及一种无线供能边缘智能系统中神经网络(deep neural network,dnn)模型的分割及资源分配方法，该方法适用于信道状态时变、用户设备有时延约束的情况下制定出合理的神经网络模型分割和资源分配决策，最大化用户任务完成率。


背景技术：

2.在边缘智能系统中，设备有限的能耗是执行dnn推理任务过程中很重要的一个制约因素。尽管有边缘服务器辅助完成dnn模型推理任务，但是本地计算和卸载也需要大量的计算和传输能耗，并且从不同的网络层对dnn进行分割所产生的总能耗差别很大，因此制定一个最优的分割决策非常重要。
3.另外，考虑到无线设备通常是电池供电，需要频繁更换电池且不环保，应用无线能量传输(wireless power transfer,wpt)技术可以为设备持续供电。在该无线供能量边缘智能系统中，无线接入点(access point,ap)给设备传输能量同时也可以接收设备卸载的计算任务。同时，该系统存在两个挑战，一个挑战是在无线信道衰落的环境中，信道状态的变化会给时间分配决策造成很大影响，如何联合优化卸载和时间资源分配是一个关键问题。另外在每个时隙内设备捕获能量有限，如何分配设备的发射功率和计算频率来保证设备能通过有限的能量完成dnn推理也未得到解决。


技术实现要素：

4.本发明要克服现有技术的上述缺点，提供一种无线供能边缘智能系统中神经网络的分割及资源分配方法。
5.首先，为了最大化dnn推理计算任务完成率，本发明提出了一个无线能量传输环境下的神经网络模型分割及资源分配模型，该模型在考虑无线信道状态时变的基础上，进一步考虑到了多个用户设备的时延约束。其次，本发明提出了一个基于强化学习和matlab凸优化函数的优化算法以实现有效的时间资源分配决策、dnn模型分割决策、发送功率分配决策和计算速率分配决策，从而最大化dnn推理任务完成率。
6.为了实现上述过程，本发明提供以下的技术方案：
7.一种无线供能边缘智能场景下的神经网络模型分割及资源分配方法，包括以下步骤：
8.步骤1：将边缘服务器放置于接入点ap，并通过有线与ap连接，ap有稳定的电源供应。在ap的通信范围内放置n个用户设备，每个设备i有一个单独的天线，既可以用来捕获能量，也可以进行数据卸载。
9.步骤2：系统分为t个时隙，每个时隙设备i都会产生一个深度神经网络dnn推理任务ri＝{li,ci,oi}，其中li表示dnn网络层数量，ci＝{c
i,j
|j∈{1,
…
li}}，c
i,j
表示计算dnn模
型i第j层所需要的浮点数计算量(flops)，oi＝{o
i,j
|j∈{1,
…
li}}，o
i,j
表示第j层输出的数据量大小。s＝(s0,s1,
…
,sn)是dnn模型分割决策向量，si表示第i个任务的分割决策。
10.步骤3：在时隙t内，信道状态h
t
不变，设备在前αt时间同时进行能量捕获，α∈[0,1]，后(1-α)t时间以时分复用的通信方式进行数据卸载。设备i捕获到的能量为ei＝μphiαt，其中μ∈(0,1)是能量捕获效率系数，p是ap的发送功率，hi是设备i的无线信道增益。
[0011]
步骤4：以每个用户设备的能量ei和时隙长度t为约束条件，以时间资源分配决策α、dnn模型分割决策s、发送功率分配决策p和计算速率分配f决策为优化变量，以最大化用户计算任务的完成率为优化目标建立优化问题
[0012]
步骤5：通过强化学习算法训练时间分配决策，将优化问题转化为问题采用遍历搜索的方式搜索dnn模型分割决策，以此将问题转化为凸优化问题采用matlab中的fmincon函数求解凸优化问题最终求得优化问题从而得到最佳dnn网络分割及资源分配方案。
[0013]
进一步地，所述步骤4中，优化问题的表达式为：
[0014][0015]
其中i(x)是一个指示性函数，这里表示网络层在本地计算需要的时延，fi表示设备i的计算速率，表示传输中间参数需要的传输时延，ri表示设备的传输速率，表示网络层在边缘服务器计算需要的时延，fe是服务器的计算速率；优化变量α表示能量捕获时间占比决策，s＝(s0,s1,
…
,sn)表示dnn模型分割决策向量；p＝(p0,p1,
…
,pn)表示功率分配决策向量；f＝(f0,f1,
…
,fn)表示计算速率分配决策向量。
[0016]
再进一步的，步骤4所述的优化问题的限制条件表达式为：
[0017][0018][0019]
0≤α≤1(4)
[0020][0021][0022][0023]
其中式(2)表示所有用户任务的传输时延之和不能超过总计算卸载时间；式(3)表示用户设备计算卸载所需的能量消耗不能超过前αt时间内捕获的能量，这里为本地计算所需能耗，k为设备芯片能耗效率系数，为传输能耗，为空闲能耗，是设备空转时的功率，为设备空转时间；式(4)表示设备能量捕获的时间
限制在时隙长度之内；式(5)表示dnn切割点在0至网络层数li之间；式(6)表示设备计算速率限制在0至之内，表示设备最大计算速率；式(7)表示设备发送功率限制在0至之内，表示设备最大发射功率。
[0024]
更进一步的，所述步骤5中，问题的表达式为:
[0025][0026][0027]
其中表示任务i的总完成时延；式(9)表示所有用户设备i传输时延不能超过分配给它的卸载时延，其中ρi表示任务i的时间资源限制占总卸载时延的比例。另外，上述问题中式(3)、式(5)、式(6)、式(7)也为问题的限制条件表达式。
[0028]
问题的表达式为：
[0029][0030]
上述问题中式(3)、式(6)、式(7)和问题中式(9)为问题的限制条件表达式。
[0031]
更进一步地，所述步骤5中，采用强化学习结合遍历搜索及matlab函数的算法对步骤4中问题进行求解的步骤为：
[0032]
步骤5.1：随机初始化强化学习中神经网络的参数θ，从时隙t＝1时刻开始遍历，根据t时刻信道状态h
t
输出决策按照探索步长δ生成含有k个候选值的集合，表示为
[0033]
步骤5.2：将从步骤4.1中得到的k个候选值全部代入问题求解，遍历每一个用户任务，通过遍历搜索的方式搜索si，将问题进一步转化为凸优化问题将每一个si代入问题并通过fmincon函数求解问题得到最优的遍历完成之后进一步得到和任务完成率。
[0034]
步骤5.3：根据步骤4.2得到的结果，在候选决策值中选出使得任务完成率最大的最优决策值并将对应的状态-动作对放到经验回放池中。当回放池被放满的时候，旧的状态-动作会被新的替换。
[0035]
步骤5.4：从经验回放池中批量选取状态-动作对作为样本用来训练神经网络，将神经网络参数从θ
t
更新到θ
t+1
(对应的策略也变为)，最新的策略用在下一个时隙中根据h
t+1
来生成决策估计值
[0036]
步骤5.5：重复上述过程直至收敛，求得最优策略
[0037]
本发明的有益效果主要表现在：适用于无线供能多用户边缘智能场景下的神经网络任务分割及相关资源分配决策，根据无线信道状态和用户提出的时延约束，联合优化能量捕获时间分配、神经网络模型分割、发送功率分配和计算速率分配决策，最后大幅提高多用户神经网络推理计算任务的完成率。
附图说明
[0038]
图1为本发明的无线供能边缘智能系统dnn推理模型图。
[0039]
图2为本发明的神经网络模型结构图。
[0040]
图3为本发明的算法流程图。
具体实施方式
[0041]
下面结合附图对本发明做进一步说明。
[0042]
结合图1、图2、图3，一种无线供能边缘智能场景下的神经网络模型分割及资源分配方法，包括如下步骤：
[0043]
步骤1：将边缘服务器放置于接入点ap，并通过有线与ap连接，ap有稳定的电源供应，在基站的通信范围内放置n个用户设备。系统是分时隙的，每个时隙t内设备与ap之间的信道状态为h
t
，并且每个时隙设备都会产生一个dnn推理任务，设备有单独的天线，既可以用来捕获能量，也可以卸载分割之后的dnn模型。
[0044]
步骤2：每个时隙设备i都会产生一个dnn推理任务，本发明将其表示为ri＝{li,ci,oi}，其中li表示dnn网络层数量，ci＝{c
i,j
|j∈{1,
…
li}}，c
i,j
表示计算dnn模型i第j层所需要的浮点数计算量(flops)，oi＝{o
i,j
|j∈{1,
…
li}}，o
i,j
表示第j层输出的数据量大小。s＝(s0,s1,
…
,sn)是dnn模型分割决策向量，si表示第i个任务的分割决策。
[0045]
步骤3：在时隙t内，信道状态h
t
不变，设备在前αt时间同时进行能量捕获，后(1-α)t时间以时分复用的通信方式进行数据卸载。设备i捕获到的能量为ei＝μphiαt，其中μ∈(0,1)是能量捕获效率系数，p是ap的发送功率，hi是设备i的无线信道增益。
[0046]
步骤4：以每个用户设备的能量ei和时隙t为约束条件，以时间资源分配决策、dnn模型分割决策、发送功率分配决策和计算速率分配决策为优化变量，以最大化用户计算任务的完成率为优化目标建立优化问题
[0047]
步骤5：通过强化学习算法训练时间分配决策，将优化问题转化为问题采用遍历搜索的方式搜索dnn模型分割决策，以此将问题转化为凸优化问题采用matlab中的fmincon函数求解凸优化问题最终求得优化问题从而得到最佳dnn网络分割及资源分配方案。
[0048]
进一步地，所述步骤4中，优化问题的表达式为：
[0049][0050]
其中i(x)是一个指示性函数，这里表示网络层在本地计算需要的时延，fi表示设备i的计算速率，表示传输中间参数需要的传输时延，ri表示设备的传输速率，表示网络层在边缘服务器计算需要的时延，fe是服务器的计算速率；优化变量α表示能量捕获时间占比决策，s＝(s0,s1,
…
,sn)表示dnn模型分割决策向量；p＝(p0,p1,
…
,pn)表示功率分配决策向量；f＝(f0,f1,
…
,fn)表示计算速率分配决策向量。
[0051]
再进一步的，优化问题的限制条件表达式为：
[0052][0053][0054]
0≤α≤1(14)
[0055][0056][0057][0058]
其中式(12)表示所有用户任务的传输时延之和不能超过总计算卸载时间；式(13)表示用户设备计算卸载所需的能量消耗不能超过前αt时间内捕获的能量，这里为本地计算所需能耗，k为设备芯片能耗效率系数，为传输能耗，为空闲能耗，是设备空转时的功率，为设备空转时间；式(14)表示设备能量捕获的时间限制在时隙长度之内；式(15)表示dnn切割点在0至网络层数li之间；式(16)表示设备计算速率限制在0至之内，表示设备最大计算速率；式(17)表示设备发送功率限制在0至之内，表示设备最大发射功率。
[0059]
更进一步的，所述步骤5中，问题的表达式为:
[0060][0061][0062]
其中表示任务i的总完成时延；式(19)表示所有用户设备i传输时延不能超过分配给它的卸载时延，其中ρi表示任务i的时间资源限制占总卸载时延的比例。另外，上述问题中式(13)、式(15)、式(16)、式(17)也为问题的限制条件表达式。
[0063]
问题的表达式为：
[0064][0065]
上述问题中式(13)、式(16)、式(17)和问题中式(19)为问题的限制条件表达式。
[0066]
更进一步地，所述步骤5中，采用强化学习结合遍历搜索及matlab函数的算法对步骤4中问题进行求解的步骤为：
[0067]
步骤5.1：随机初始化强化学习中神经网络的参数θ，从时隙t＝1时刻开始遍历，根据t时刻信道状态h
t
输出决策按照探索步长δ生成含有k个候选值的集合，表示为
[0068]
步骤5.2：将从步骤4.1中得到的k个候选值全部代入问题求解，遍历每一个用户任务，通过遍历搜索的方式搜索si，将问题进一步转化为凸优化问题将每一个si代入问题并通过fmincon函数求解问题得到最优的遍历完成之后进一步得到和任
务完成率。
[0069]
步骤5.3：根据步骤4.2得到的结果，在候选决策值中选出使得任务完成率最大的最优决策值并将对应的状态-动作对放到经验回放池中。当回放池被放满的时候，旧的状态-动作会被新的替换。
[0070]
步骤5.4：从经验回放池中批量选取状态-动作对作为样本用来训练神经网络，将神经网络参数从θ
t
更新到θ
t+1
(对应的策略也变为)，最新的策略用在下一个时隙中根据h
t+1
来生成决策估计值
[0071]
步骤5.5：重复上述过程直至收敛，求得最优策略
[0072]
针对如图1所示的无线供能边缘智能系统dnn推理场景来说明本发明的具体实施方案。
[0073]
首先，系统中有一个边缘服务器与接入点ap连接，在基站的通信范围内有n个用户设备，每个设备都有一个神经网络推理计算任务，并且有一个单独的天线，既可以用来捕获能量，也可以进行数据卸载。
[0074]
其次，以每个用户设备的能量ei和时隙t为约束条件，以时间资源分配决策、dnn模型分割决策、发送功率分配决策和计算速率分配决策为优化变量，以最大化用户计算任务的完成率为优化目标建立优化问题
[0075]
然后，通过强化学习算法以及matlab中的fmincon函数求解出优化问题从而得到最佳dnn网络分割及资源分配方案。
[0076]
最后，根据所求的最优解，将神经网络模型分割方案、资源分配方案应用到边缘物联网设备上。
[0077]
本发明适用于无线信道时变且用户时延约束的无线供能多用户边缘智能场景，制定合适的能量捕获时间分配、神经网络模型分割、发送功率分配和计算速率分配决策，大幅提高多用户神经网络推理计算任务的完成率。
[0078]
本说明书的实施例所述的内容仅仅是对发明构思的实现形式的列举，仅作说明用途。本发明的保护范围不应当被视为仅限于本实施例所陈述的具体形式，本发明的保护范围也及于本领域的普通技术人员根据本发明构思所能想到的等同技术手段。

技术特征：
1.一种无线供能边缘智能场景下的神经网络模型分割及资源分配方法，其特征在于，包括如下步骤：步骤1：将边缘服务器放置于接入点ap，并通过有线与ap连接，ap有稳定的电源供应；在ap的通信范围内放置n个用户设备，每个设备i有一个单独的天线，既可以用来捕获能量，也可以进行数据卸载；步骤2：系统分为t个时隙，每个时隙设备i都会产生一个深度神经网络dnn推理任务r
i
＝{l
i
，c
i
，o
i
}，其中l
i
表示dnn网络层数量，c
i
＝{c
i，j
|j∈{1，
…
l
i
}}，c
i，j
表示计算dnn模型i第j层所需要的浮点数计算量(flops)，o
i
＝{o
i，j
|j∈{1，
…
l
i
}}，o
i，j
表示第j层输出的数据量大小；s＝(s0，s1，...，s
n
)是dnn模型分割决策向量，s
i
表示第i个任务的分割决策；步骤3：在时隙t内，信道状态h
t
不变，设备在前αt时间同时进行能量捕获，α∈[0，1]，后(1-α)t时间以时分复用的通信方式进行数据卸载；设备i捕获到的能量为e
i
＝μph
i
αt，其中μ∈(0，1)是能量捕获效率系数，p是ap的发送功率，h
i
是设备i的无线信道增益；步骤4：以每个用户设备的能量e
i
和时隙长度t为约束条件，以时间资源分配决策α、dnn模型分割决策s、发送功率分配决策p和计算速率分配f决策为优化变量，以最大化用户计算任务的完成率为优化目标建立优化问题步骤5：通过强化学习算法训练时间分配决策，将优化问题转化为问题采用遍历搜索的方式搜索dnn模型分割决策，以此将问题转化为凸优化问题采用matlab中的fmincon函数求解凸优化问题最终求得优化问题从而得到最佳dnn网络分割及资源分配方案。2.如权利要求1所述的一种无线供能边缘智能场景下的神经网络模型分割及资源分配方法，其特征在于，步骤4所述的优化问题的表达式为：其中i(x)是一个指示性函数，这里表示网络层在本地计算需要的时延，f
i
表示设备i的计算速率，表示传输中间参数需要的传输时延，r
i
表示设备的传输速率，表示网络层在边缘服务器计算需要的时延，f
e
是服务器的计算速率；优化变量α表示能量捕获时间占比决策，s＝(s0，s1，...，s
n
)表示dnn模型分割决策向量；p＝(p0，p1，...，p
n
)表示功率分配决策向量；f＝(f0，f1，...，f
n
)表示计算速率分配决策向量。3.如权利要求1所述的一种无线供能边缘智能场景下的神经网络模型分割及资源分配方法，其特征在于，步骤4所述的优化问题的限制条件表达式为：的限制条件表达式为：0≤α≤1(4)
其中式(2)表示所有用户任务的传输时延之和不能超过总计算卸载时间；式(3)表示用户设备计算卸载所需的能量消耗不能超过前αt时间内捕获的能量，这里为本地计算所需能耗，k为设备芯片能耗效率系数，k为设备芯片能耗效率系数，为传输能耗，为空闲能耗，是设备空转时的功率，为设备空转时间；式(4)表示设备能量捕获的时间限制在时隙长度之内；式(5)表示dnn切割点在0至网络层数l
i
之间；式(6)表示设备计算速率限制在0至f
imax
之内，f
imax
表示设备最大计算速率；式(7)表示设备发送功率限制在0至之内，表示设备最大发射功率。4.如权利要求1所述的一种无线供能边缘智能场景下的神经网络模型分割及资源分配方法，其特征在于，所述步骤5中，问题的表达式为：的表达式为：的表达式为：其中表示任务i的总完成时延；式(9)表示所有用户设备i传输时延不能超过分配给它的卸载时延，其中ρ
i
表示任务i的时间资源限制占总卸载时延的比例；另外，上述问题中式(3)、式(5)、式(6)、式(7)也为问题的限制条件表达式；问题的表达式为：上述问题中式(3)、式(6)、式(7)和问题中式(9)为问题的限制条件表达式。5.如权利要求1所述的一种无线供能边缘智能场景下的神经网络模型分割及资源分配方法，其特征在于，所述步骤5中，采用强化学习结合遍历搜索及matlab函数的算法对步骤4中的优化问题进行求解的步骤为：步骤5.1：随机初始化强化学习中神经网络的参数θ，从时隙t＝1时刻开始遍历，根据t时刻信道状态h
t
输出决策按照探索步长δ生成含有k个候选值的集合，表示为步骤5.2：将从步骤4.1中得到的k个候选值全部代入问题求解，遍历每一个用户任务，通过遍历搜索的方式搜索s
i
，将问题进一步转化为凸优化问题将每一个s
i
代入问题并通过fmincon函数求解问题得到最优的f
i*
，遍历完成之后进一步得到和任务完成率；步骤5.3：根据步骤4.2得到的结果，在候选决策值中选出使得任务完成率最大的最优决策值并将对应的状态-动作对放到经验回放池中；当回放池被放满的时候，旧的状态-动作会被新的替换；步骤5.4：从经验回放池中批量选取状态-动作对作为样本用来训练神经网络，将神经网络参数从θ
t
更新到θ
t+1
(对应的策略也变为)，最新的策略用在下一个时隙中根据h
t+1
来生成决策估计值步骤5.5：重复上述过程直至收敛，求得最优策略

技术总结
一种无线供能边缘智能场景下的神经网络模型分割及资源分配方法，包括以下步骤：系统中有一个边缘服务器、一个BS和N个用户设备，每个设备有一个单独的天线，可用于捕获能量或数据卸载，设备每个时隙都产生一个DNN推理任务；以用户设备捕获的能量和时隙长度为约束条件，以神经网络模型分割方案和资源分配方案为优化变量，建立以最大化计算任务的完成率为目标的优化问题采用强化学习结合MATLAB凸优化函数算法求解问题并把求得结果应用于用户设备上。本发明适用于无线信道时变且用户时延约束的无线供能多用户边缘智能场景，能大幅提高多用户神经网络推理计算任务的完成率。高多用户神经网络推理计算任务的完成率。高多用户神经网络推理计算任务的完成率。


技术研发人员：田贤忠 许鹏程 邵宇恒
受保护的技术使用者：浙江工业大学
技术研发日：2023.05.09
技术公布日：2023/8/14