一种基于统计信道状态信息的联邦学习资源优化设计方法

1.本发明涉及无线通信和联邦学习系统，特别涉及一种无线通信场景下基于统计信道状态信息的联邦学习无线资源优化方案。


背景技术：

2.联邦边缘学习作为边缘机器学习最具吸引力的范例之一，允许分布式设备能够协同训练全局模型的同时，保证隐私数据的本地化处理。与集中式学习模式相比，联邦边缘学习可以有效地保护用户隐私和数据安全，避免了隐私敏感数据在无线信道上的传输。此外，学习中心从云服务器下沉到网络边缘，边缘设备只需将最新模型参数传输到边缘基站，由此显著降低通信成本，从而克服了由于潜在的网络拥塞而导致的传播延迟过大的缺点。
3.尽管联邦边缘学习具有上述优点，其依然面临着急需解决的挑战。由于边缘设备通过无线信道连接到边缘基站，因此基站接收到的模型参数不可避免地会受到信道衰落和加性噪声的影响。因此，设计上行通信以实现更可靠的模型更新仍然是部署联邦边缘学习系统。近年来，智能反射面技术被设想为未来第六代通信系统的重要推动者，其可通过在可编程表面上装备大量的无源反射元件，重新诱导和配置信号相移，从而主动操纵无线传播，以此显著减少信号失真和传输误差。然而，现有工作高度依赖于瞬时信道状态信息的可用性和准确性。然而，获取准确的瞬时信道状态信息是极具挑战性的，并且可能会产生额外的通信开销。相较于瞬时信道状态信息，统计信道状态信息的变化频率较慢，适合用于配置智能反射面。同时，对于ris辅助的联邦学习系统来说，无线中断下的通算资源优化方案在现有的工作中仍未涉及。


技术实现要素：

4.针对智能反射面赋能的联邦学习系统对瞬时信道状态信息的依赖性问题，本发明提出一种基于统计信道状态信息的联邦学习无线资源优化方案，旨在降低系统训练开销的同时，尽可能地保证传输可靠性。
5.为了实现上述目的，本发明技术方案：
6.一种基于统计信道状态信息的联邦学习资源优化设计方法。首先，构造统计信道状态信息下智能反射面赋能的联邦梯度聚合模型，并推导无线中断概率影响下的联邦学习训练损失上界；以此为基础，建立通信资源约束下、以带宽分配和ris相位配置为变量的损失上界最小化问题，以减弱甚至消除通信中断对联邦学习收敛性能的影响。本发明的优点在于，所提联邦学习系统无需精准估计瞬时信道状态信息，而从而极大地降低系统训练开销。同时，通过所提出的针对联邦学习框架的无线资源优化方案，进一步提升了训练的精确度。
7.所采用的具体技术方案：
8.基于统计信道状态信息的联邦学习无线聚合和资源优化方案，包括以下具体步骤：
9.s1、统计信道状态信息下智能反射面赋能的联邦梯度无线聚合建模；
10.s2、中断概率约束下联邦学习训练框架收敛性分析及问题建模；
11.s3、联邦学习通算资源分配优化策略。
12.本发明的有益效果：
13.本发明提出一种基于统计信道状态信息的联邦学习无线资源优化方案。本发明无需精准估计瞬时信道状态信息，而从而极大地降低系统训练开销。同时，针对训练过程中由无线中断引发的模型误差项，本发明提出了一种针对带宽分配向量及ris相移矩阵的联合优化方法，从而有效地提升了模型训练精度。
附图说明
14.图1本发明流程示意图。
15.图2智能反射面赋能的无线通信模型。
具体实施方式
16.下面将结合说明书附图，对本发明做进一步的说明。
17.如图1所示，本发明所述的基于统计信道状态信息的联邦学习无线资源优化方案，包括以下步骤：
18.s1、无线通信下基于统计信道状态信息的联邦学习建模；
19.s2、无线通信下联邦学习收敛性分析框架及优化问题建模；
20.s3、联邦学习通算资源分配优化策略。
21.所述步骤s1旨在建立无线通信场景下基于统计信道状态信息的联邦学习梯度聚合模型，其建模涉及两方面，一是统计信道状态信息下智能反射面(ris)赋能的无线通信模型；二是无线通信中断概率下的联邦学习梯度聚合模型。
22.所述统计信道状态信息下智能反射面赋能的无线通信模型包括(如图2所示)：无线基站(bs)、边缘设备、智能反射面以及智能反射面控制器，且能支撑且不限于由配备j个天线的无线基站和k个单天线的边缘设备(边缘设备索引集合表示为)组成的联邦学习系统；为了应对频率选择性衰落和符号干扰，所述无线通信模型采用正交频分多址(ofdm)调制技术将可用带宽b划分为多个子带宽，然后分配给各个边缘设备；智能反射面由l个被动的反射元件组成，元件索引集合表示为其以均匀方形平面阵列(uspa)的方式排列(ls＝lc×
lc,其中lc表示uspa尺寸)；智能反射面与智能反射面控制器通过控制链路相关联，并且，智能反射面控制器通过调节反射元件系数来控制信号反射；在每个子带宽的信道中，有两条从边缘设备到达无线基站(bs)的无线链路，分别为直传链路hk∈cj和级联链路υk＝gθνk∈cj，其中，g和νk分别表示无线基站(bs)和边缘设备到智能反射面之间的信道增益，表示智能反射面反射元件的相移矩阵，其中向量φ＝[φ1,φ2,...,φ
l
]
t
且|φ
l
|＝1；无线基站(bs)到智能反射面之间的信道增益g中只包含视距成分且表示为式中，非负常数其中，τg和d分别表示无线基站(bs)到智能反射面之间的路径损耗因子和相对距离，常数d0为参考距离，且ξ0表示无线
基站(bs)到智能反射面之间的频率相关系数；边缘设备到智能反射面和无线基站(bs)之间的信道增益νk和hk可建模为莱斯分布，且分别表示为
[0023][0024][0025]
其中，和表示信道增益νk和hk的视距成分，αk和分别边缘设备到智能反射面和无线基站(bs)之间的频率相关系数，κd和κr为莱斯因子；信道增益νk和hk的非视距成分和分别服从复高斯分布和其中，和分别表示和的方差，i表示单位矩阵；视距成分和可通过计算天线的阵列响应得到；假定非视距成分和在边缘设备上是未知的，并且，只有统计信道状态信息，例如角度、信道特性(如均值和方差)以及一些固定的信道参数可用作设计无线系统传输方案；通过利用正交的子带宽进行传输，则边缘设备的信道容量ck表示为
[0026][0027]
其中，pk和βk分别为边缘设备的发送功率和带宽分配比率，n0表示加性噪声；由于非视距成分和的随机性，当边缘设备的传输速率rk在联邦学习过程中保持恒定，则边缘设备的无线通信中断概率表示为
[0028]
所述无线通信中断概率下的联邦学习梯度聚合模型，适用且不限于由单个无线基站(bs)和k个单天线的边缘设备组成的联邦学习系统；每个边缘设备存有本地数据集其由已标记的数据样本特征和关联标签组成；边缘设备在无线基站(bs)的协调下协作训练一个全局的模型其中边缘设备本地学习的目标是最小化本地数据集上的局部经验损失函数fk(w)，表示为式中，f(w,z)为本地样本损失函数，其衡量模型w在训练样本z上的预测偏差；基于本地样本损失函数，全局经验损失函数f(w)建模为所有边缘设备的平均局部经验损失函数，即
[0029]
所述中断概率下的联邦学习梯度聚合模型可描述为一个迭代计算过程，并且第n轮迭代的具体步骤如下：
[0030]
1.2.1)边缘设备利用无线基站广播的模型w
(n)
和从本地数据集中选取的数量为nb的数据子集近似计算局部梯度
[0031]
1.2.2)边缘设备在单迭代轮次时延约束下，利用无线系统以单个数据包的形式将局部梯度传送到无线基站；假设边缘设备处理单个样本所消耗的cpu周期为ck，其分配给计算的cpu频率用fk表示，并且，每个样本大小(以比特为单位)是一致的，则
对于任意的传输速率rk，单迭代轮次时延约束表示为其中表示局部梯度的数据量；由于边缘设备的无线通信中断概率与传输速率rk成反比，则
[0032]
1.2.3)利用循环冗余校验机制，无线基站可检测无线通信中断是否发生，定义无线通信中断事件i k
，表示为：
[0033][0034]
每当发生无线通信中断时，相关局部梯度将被排除在联邦学习梯度聚合过程之外，则第n轮迭代的全局梯度计算为
[0035]
1.2.4)接着，第n+1轮迭代全局的模型w
(n+1)
估计为其中η为学习率；最后，无线基站向所有边缘设备广播w
(n+1)
，以启动下一次训练迭代；一旦满足收敛条件，达到最大通信次数，则终止联邦学习训练过程。
[0036]
所述步骤s2旨在建立无线通信下的联邦学习收敛性分析框架，其通过将无线通信中断概率引入到梯度更新过程中，构造联邦学习的收敛误差闭式上界，并通过最小化该上界构造通算资源分配优化问题。
[0037]
所述无线通信下联邦学习收敛性分析框架立足于如下的学习设定：
[0038]
2.1)全局经验损失函数f(w)是光滑的，且光滑系数向量为l＝[l1,l2,...,lq]
t
；
[0039]
2.2)全局经验损失函数f(w)是强凸的，且强凸系数为μ；
[0040]
2.3)局部梯度是真实梯度的独立无偏估计，其具有有界方差，且方差向量表示为σ；
[0041]
定义最优模型w
*
，基于以上假设，分析出联邦学习的收敛误差闭式上界，表示为
[0042][0043]
其中，比例因子，式中，常数l＝||l||
∞
。
[0044]
所述联邦学习通算资源分配优化问题建模基于最小化收敛误差闭式上界：
[0045]
具体来说，无线通信中断对联邦学习收敛的影响概括为在收敛误差闭式上界中引
入损失间隙从而降低收敛速度；
[0046]
当损失间隙变为并且，边缘设备的无线通信中断概率之和是相对于的单调递增函数；通过最小化的单调递增函数；通过最小化将同时降低，从而降低收敛误差闭式上界，实现更快的收敛；
[0047]
以最小化为目标，优化带宽分配比率向量β＝[β1,β2,...,βk]
t
和智能反射面的相移矩阵θ，辅助无线通信中断下的联邦学习“通信-学习”的协同设计；
[0048]
得到优化目标函数：
[0049][0050][0051][0052][0053]
式中，
[0054]
第一个约束条件保证相移矩阵的恒模要求；
[0055]
第二个约束来自带宽分配比率之和不超过1；
[0056]
第三个约束保证设备带宽分配比率的非负性。
[0057]
所述步骤s3，通过构造伯恩施坦型不等式逼近原始的优化目标函数，并利用交替优化算法得到优化目标函数的近似解，其包括两个主要步骤：
[0058]
s31一是利用伯恩施坦型不等式逼近原始的优化目标函数；
[0059]
s32二是利用交替优化算法得到优化目标函数的近似解；
[0060]
s31：所述利用伯恩施坦型不等式逼近原始的优化目标函数，描述为：
[0061]
定义边缘设备无线通信中断概率上界向量，表示为ρ＝[ρ1,ρ2,...,ρk]
t
，则原始的优化目标函数转化为如下的概率优化问题，表示为：
[0062][0063][0064][0065][0066][0067]
式中，概率约束可通过伯恩施坦型不等式来合理地逼
近，具体来说，定义中间向量x＝[x1,x2,...,xk]
t
和y＝[y1,y2,...,yk]
t
，则上述概率优化问题可等价地转换成以下的逼近问题，表示为：
[0068][0069][0070][0071][0072][0073]
式中，中间变量式中，中间变量系数项系数项
[0074]
所述s32：利用交替优化算法得到优化目标函数的近似解，描述为：
[0075]
给定无线通信中断概率上界向量ρ，原始的逼近问题简化为如下的可行性检测问题，表示为：
[0076][0077][0078][0079][0080][0081]
定义中间矩阵和ξk[0082][0083]
其中，令则通过引入相关向量并对变量x执行一阶泰勒展开，上述可行性检测问题可以进一步转化
为如下的显式优化问题，表示为：
[0084][0085][0086][0087][0088]
式中，为xk在第t次一阶泰勒展开时的结果。至此，上述显式优化问题可利用凸差分技术和现有的凸优化求解器高效求解。
[0089]
给定β,θ，x,y，原始的逼近问题简化为如下的单变量求解问题，表示为：
[0090][0091][0092][0093]
令tk＝ln(1/ρk)，可得且tk≥0，则上述单变量求解问题重写为如下的等效变换问题，表示为：
[0094][0095][0096][0097]
上述问题可利用现有的凸优化求解器高效求解。
[0098]
上述描述仅是对本技术较佳实施例的描述，并非是对本技术范围的任何限定。任何熟悉该领域的普通技术人员根据上述揭示的技术内容做出的任何变更或修饰均应当视为等同的有效实施例，均属于本技术技术方案保护的范围。

技术特征：
1.一种基于统计信道状态信息的联邦学习资源优化设计方法，其特征在于，包括：s1、无线通信下基于统计信道状态信息的联邦学习建模；s2、无线通信下联邦学习收敛性分析框架及优化问题建模；s3、联邦学习通算资源分配优化策略，输出最优目标函数近似解以反馈影响s1的联邦学习建模。2.如权利要求1所述的方法，其特征在于，所述步骤s1旨在建立无线通信场景下基于统计信道状态信息的联邦学习梯度聚合模型，其建模涉及两方面，一是统计信道状态信息下智能反射面(ris)赋能的无线通信模型；二是无线通信中断概率下的联邦学习梯度聚合模型。3.如权利要求2所述的方法，其特征在于，所述统计信道状态信息下智能反射面赋能的无线通信模型包括：无线基站(bs)、边缘设备、智能反射面以及智能反射面控制器，且能支撑且不限于由配备j个天线的无线基站和k个单天线的边缘设备组成的联邦学习系统，其中边缘设备索引集合表示为为了应对频率选择性衰落和符号干扰，所述无线通信模型采用正交频分多址(ofdm)调制技术将可用带宽划分为多个子带宽，然后分配给各个边缘设备；智能反射面由l个被动的反射元件组成，元件索引集合表示为其以均匀方形平面阵列(uspa)的方式排列，l
s
＝l
c
×
l
c
,其中l
c
表示uspa尺寸；智能反射面与智能反射面控制器通过控制链路相关联，并且，智能反射面控制器通过调节反射元件系数来控制信号反射；在每个子带宽的信道中，有两条从边缘设备到达无线基站的无线链路，分别为直传链路和级联链路其中，g和ν
k
分别表示无线基站和边缘设备到智能反射面之间的信道增益，表示智能反射面反射元件的相移矩阵，其中向量φ＝[φ1,φ2,...,φ
l
]
t
且|φ
l
|＝1；无线基站到智能反射面之间的信道增益g中只包含视距成分且表示为式中，非负常数其中，τ
g
和d分别表示无线基站到智能反射面之间的路径损耗因子和相对距离，常数d0为参考距离，且ξ0表示无线基站到智能反射面之间的频率相关系数；边缘设备到智能反射面和无线基站之间的信道增益ν
k
和h
k
建模为莱斯分布，且分别表示为建模为莱斯分布，且分别表示为其中，和表示信道增益ν
k
和h
k
的视距成分，α
k
和分别边缘设备到智能反射面和无线基站之间的频率相关系数，κ
d
和κ
r
为莱斯因子；信道增益ν
k
和h
k
的非视距成分和分别服从复高斯分布和其中，和分别表示和的方差，i表示单位矩阵；视距成分和通过计算天线的阵列响应得到；假定非视距成分和在边缘设备上是未知的，并且，只有统计信道状态信息；通过利用正交的子带宽进行传
输，则边缘设备的信道容量表示为其中，p
k
和β
k
分别为边缘设备的发送功率和带宽分配比率，n0表示加性噪声；由于非视距成分和的随机性，当边缘设备的传输速率r
k
在联邦学习过程中保持恒定，则边缘设备的无线通信中断概率表示为4.如权利要求2所述的方法，其特征在于，所述无线通信中断概率下的联邦学习梯度聚合模型，适用且不限于由单个无线基站和k个单天线的边缘设备组成的联邦学习系统；每个边缘设备存有本地数据集其由已标记的数据样本特征和关联标签组成；边缘设备在无线基站的协调下协作训练一个全局的模型其中边缘设备本地学习的目标是最小化本地数据集上的局部经验损失函数f
k
(w)，表示为式中，f(w,z)为本地样本损失函数，其衡量模型w在训练样本z上的预测偏差；基于本地样本损失函数，全局经验损失函数f(w)建模为所有边缘设备的平均局部经验损失函数，即全局经验损失函数f(w)建模为所有边缘设备的平均局部经验损失函数，即所述中断概率下的联邦学习梯度聚合模型描述为一个迭代计算过程，并且第n轮迭代的具体步骤如下：1)边缘设备利用无线基站广播的模型w
(n)
和从本地数据集中选取的数量为n
b
的数据子集近似计算局部梯度2)边缘设备在单迭代轮次时延约束下，利用无线系统以单个数据包的形式将局部梯度传送到无线基站；假设边缘设备处理单个样本所消耗的cpu周期为c
k
，其分配给计算的cpu频率用f
k
表示，并且，每个样本大小(以比特为单位)是一致的，则对于任意的传输速率r
k
，单迭代轮次时延约束表示为其中表示局部梯度的数据量；由于边缘设备的无线通信中断概率与传输速率r
k
成反比，则3)利用循环冗余校验机制，无线基站检测无线通信中断是否发生，定义无线通信中断事件表示为：每当发生无线通信中断时，相关局部梯度将被排除在联邦学习梯度聚合过程之外，则
第n轮迭代的全局梯度计算为4)接着，第n+1轮迭代全局的模型w
(n+1)
估计为其中η为学习率；最后，无线基站向所有边缘设备广播w
(n+1)
，以启动下一次训练迭代；一旦满足收敛条件，达到最大通信次数，则终止联邦学习训练过程。5.如权利要求1所述的方法，其特征在于，所述步骤s2旨在建立无线通信下的联邦学习收敛性分析框架，其通过将无线通信中断概率引入到梯度更新过程中，构造联邦学习的收敛误差闭式上界，并通过最小化该上界构造通算资源分配优化问题。6.如权利要求5所述的方法，其特征在于，所述无线通信下联邦学习收敛性分析框架立足于如下的学习设定：1)全局经验损失函数n(w)是光滑的，且光滑系数向量为l＝[l1,l2,...,l
q
]
t
；2)全局经验损失函数f(w)是强凸的，且强凸系数为μ；3)局部梯度是真实梯度的独立无偏估计，其具有有界方差，且方差向量表示为σ；定义最优模型w
*
，基于以上假设，分析出联邦学习的收敛误差闭式上界，表示为其中，比例因子，式中，常数l＝||l||
∞
。7.如权利要求5所述的方法，其特征在于，所述联邦学习通算资源分配优化问题建模基于最小化收敛误差闭式上界：无线通信中断对联邦学习收敛的影响概括为在收敛误差闭式上界中引入损失间隙从而降低收敛速度；当损失间隙变为并且，边缘设备的无线通信中断概率之和是相对于的单调递增函数；通过最小化的单调递增函数；通过最小化将同时降低，从而降低收敛误差闭式上界，实现更快的收敛；以最小化为目标，优化带宽分配比率向量β＝[β1,β2,...,β
k
]
t
和智能反射面的相移矩阵θ，辅助无线通信中断下的联邦学习“通信-学习”的协同设计；得到优化目标函数：
式中，第一个约束条件保证相移矩阵的恒模要求；第二个约束来自带宽分配比率之和不超过1；第三个约束保证设备带宽分配比率的非负性。8.如权利要求1所述的方法，其特征在于，所述步骤s3，通过构造伯恩施坦型不等式逼近原始的优化目标函数，并利用交替优化算法得到优化目标函数的近似解，其包括两个主要步骤：s31一是利用伯恩施坦型不等式逼近原始的优化目标函数；s32二是利用交替优化算法得到优化目标函数的近似解。9.如权利要求8所述的方法，其特征在于，s31：所述利用伯恩施坦型不等式逼近原始的优化目标函数，描述为：定义边缘设备无线通信中断概率上界向量，表示为ρ＝[ρ1,ρ2,...,ρ
k
]
t
，则原始的优化目标函数转化为如下的概率优化问题，表示为：目标函数转化为如下的概率优化问题，表示为：目标函数转化为如下的概率优化问题，表示为：目标函数转化为如下的概率优化问题，表示为：目标函数转化为如下的概率优化问题，表示为：式中，概率约束通过伯恩施坦型不等式来合理地逼近，定义中间向量x＝[x1,x2,...,x
k
]
t
和y＝[y1,y2,...,y
k
]
t
，则上述概率优化问题等价地转换成以下的逼近问题，表示为：下的逼近问题，表示为：下的逼近问题，表示为：下的逼近问题，表示为：
式中，中间变量式中，中间变量系数项系数项10.如权利要求8所述的方法，其特征在于，所述s32：利用交替优化算法得到优化目标函数的近似解，描述为：给定无线通信中断概率上界向量ρ，原始的逼近问题简化为如下的可行性检测问题，表示为：示为：示为：示为：示为：定义中间矩阵和ξ
k
其中，令则通过引入相关向量并对变量x执行一阶泰勒展开，上述可行性检测问题进一步转化为如下的显式优化问题，表示为：下的显式优化问题，表示为：下的显式优化问题，表示为：
式中，为x
k
在第t次一阶泰勒展开时的结果；至此，上述显式优化问题利用凸差分技术和现有的凸优化求解器高效求解；给定β,θ,x,y，原始的逼近问题简化为如下的单变量求解问题，表示为：给定β,θ,x,y，原始的逼近问题简化为如下的单变量求解问题，表示为：给定β,θ,x,y，原始的逼近问题简化为如下的单变量求解问题，表示为：令t
k
＝ln(1/ρ
k
)，得且t
k
≥0，则上述单变量求解问题重写为如下的等效变换问题，表示为：题，表示为：题，表示为：上述问题利用现有的凸优化求解器高效求解。

技术总结
本发明提出一种基于统计信道状态信息的联邦学习资源优化设计方法。首先，构造统计信道状态信息下智能反射面赋能的联邦梯度聚合模型，并推导无线中断概率影响下的联邦学习训练损失上界；以此为基础，建立通信资源约束下、以带宽分配和智能反射面相位配置为变量的损失上界最小化问题，以减弱甚至消除通信中断对联邦学习收敛性能的影响。本发明的优点在于，所提联邦学习系统无需精准估计瞬时信道状态信息，而从而极大地降低系统训练开销。同时，通过所提出的针对联邦学习框架的无线资源优化方案，进一步提升了训练的精确度。进一步提升了训练的精确度。进一步提升了训练的精确度。


技术研发人员：王睿 李贺举
受保护的技术使用者：同济大学
技术研发日：2023.06.15
技术公布日：2023/8/24