一种动态调整权重的负载均衡方法及装置与流程

1.本技术涉及数据库技术领域，更具体地，涉及一种动态调整权重的负载均衡方法及装置。


背景技术：

2.负载均衡，英文名称为loadbalance，其含义是指将同类负载(工作任务)进行平衡、分摊到多个操作单元上进行运行，例如ftp服务器、web服务器、企业核心应用服务器和其它主要任务服务器等，从而协同完成工作任务。
3.负载均衡构建在原有网络结构之上，它提供了一种透明且廉价有效的方法扩展服务器和网络设备的带宽、加强网络数据处理能力、增加吞吐量、提高网络的可用性和灵活性。
4.目前市面上的负载均衡方法主要有轮询、加权轮询、随机、hash、最小连接、最小响应时间等，这些方法都存在一个共性问题，即难以真正做到对后端服务器的负载均衡，尤其在是使用异构的后端服务器的情况下。在高并发请求的场景中，这一共性问题会导致异构后端服务器有的负载很轻，性能没有充分发挥出来，而有的后端服务器负载确很重，导致其性能急剧下降。
5.究其原因，在于上述传统的负载均衡算法设置后端服务器的权重时，难以设置有效、合理的权重。
6.基于此，有必要引入一种新的方法及系统，能够真正做到对异构后端服务器进行负载均衡，从而解决上述的共性问题，实现所有异构后端服务器均衡地承载工作任务，进而充分合理地利用后端服务器的处理资源，提高后端服务器及集群的性能。


技术实现要素：

7.针对上面提到的技术问题，本发明提供一种动态调整权重的负载均衡方法及装置，通过对异构后端服务器的进行动态权重调整和任务调度，所有异构后端服务器都能够根据权重的调整均衡地承载工作任务，并提供高效地任务处理能力，解决了现有技术中难以真正做到对后端服务器的负载均衡的共性技术问题，实现了异构后端服务器的负载均衡，进而充分合理地利用后端服务器的处理资源，提高后端服务器及集群的性能。
8.本发明提供一种动态调整权重的负载均衡方法，所述方法包括：
9.s101，对后端服务器的运行参数进行实时监测，并对监测数据进行分析得到分析结果；
10.s102，接收并根据所述分析结果，以及所述后端服务器的关键并发连接数，对所述后端服务器进行任务调度和权重调整；
11.s103，返回任务调度和权重调整结果；
12.其中，所述方法根据所述分析结果和所述关键连接数，实时动态地对所有所述后端服务器的权重值进行调整。
13.如上所述，所述s101，对后端服务器的运行参数进行实时监测，并对监测数据进行分析得到分析结果的步骤包括：
14.实时监测所述后端服务器的并发连接数和响应时间；
15.统计所述后端服务器的当前并发连接数、当前响应时间、总的并发连接数、总的响应时间、近期总的并发连接数、近期总的响应时间，并计算获取各所述服务器的总的平均响应时间、近期平均响应时间、当前响应时间比值、近期响应时间比值；
16.其中，
17.总的平均响应时间＝总的响应时间/总的并发连接数；
18.近期平均响应时间＝近期总的响应时间/近期总的并发连接数；
19.近期响应时间比值＝近期平均响应时间/总的平均响应时间*100％；
20.当前响应时间比值＝当前响应时间/近期平均响应时间*100％。
21.如上所述，所述s101，对后端服务器的运行参数进行实时监测，并对监测数据进行分析得到分析结果的步骤还包括：
22.根据预设响应时间比例阈值和所述近期响应时间比值，判断所述后端服务器的负载状态，并发送所述分析结果，
23.当所述近期响应时间比值大于或等于所述预设响应时间比例阈值时，所述后端服务器超载，发送的所述分析结果为“超载”；
24.当所述近期响应时间比值小于所述预设响应时间比例阈值时，所述后端服务器不超载，不发送所述分析结果；
25.其中，
26.所述预设响应时间比例阈值根据所述并发连接数和所述响应时间确定。
27.如上所述，所述s102，接收并根据所述分析结果，以及所述后端服务器的关键并发连接数，对所述后端服务器进行任务调度和权重调整的步骤包括：
28.当接收到的所述分析结果为“超载”时，获取所述后端服务器的关键并发连接数；
29.1)当所述后端服务器未设置所述关键并发连接数，则对所述关键并发连接数进行设置；
30.2)当全部后端服务器均已经设置所述关键并发连接数，且当前所述后端服务器的所述并发连接数大于或等于所述关键并发连接数，则对所述后端服务器的权重进行动态调整。
31.如上所述，所述当所述后端服务器未设置所述关键并发连接数，则对所述关键并发连接数进行设置的步骤为：
32.当所述后端服务器的所述当前响应时间比值接近所述响应时间比例阈值，则将当前所述后端服务器的并发连接数设置为所述关键并发连接数。
33.如上所述，所述当全部所述后端服务器均已经设置所述关键并发连接数，且当前所述后端服务器的所述并发连接数大于或等于所述关键并发连接数，则对所述后端服务器的权重进行动态调整的步骤包括：
34.获取当前所有后端服务器的所述并发连接数和权重值，并计算得到所有后端服务器的连接权重比值，
35.连接权重比值＝当前并发连接数/权重值；
36.根据所述连接权重比值确定并发连接数最小的后端服务器；
37.将所述后端服务器的承载任务向所述并发连接数最小的后端服务器进行调度，并下调所述后端服务器的权重值，记录当前的所述并发连接数为所述关键并发连接数。
38.如上所述，所述将所述后端服务器的承载任务向所述并发连接数最小的后端服务器进行调度，并下调所述后端服务器的权重值，记录当前的所述并发连接数为所述关键并发连接数的步骤还包括：
39.根据所述关键并发连接数计算并得到所述后端服务器的调整权重值，并将所述后端服务器的权重值调整为所述调整权重值。
40.相应的，本发明还提供了一种动态调整权重的负载均衡装置，所述装置包括测量单元、分析单元、处理单元和执行单元；
41.其中，
42.所述测量单元，用于对后端服务器的运行参数进行实时监测，获取监测数据；其中，所述监测数据包括所述当前并发连接数、所述当前响应时间、所述总的并发连接数、所述总的响应时间、所述近期总的并发连接数和所述近期总的响应时间；
43.所述分析单元，用于对所述监测数据进行分析，得到分析结果；
44.所述处理单元，用于接收并根据所述分析结果，以及所述后端服务器的关键并发连接数，对所述后端服务器进行权重调整；
45.所述执行单元，用于根据调整后的所述后端服务器的权重，对全部所述后端服务器的任务进行任务调度；
46.所述装置根据所述分析结果和所述关键连接数，实时动态地对所有所述后端服务器的权重值进行调整。
47.本发明通过应用以上技术方案，实现了通过对异构后端服务器的进行动态权重调整和任务调度，所有异构后端服务器都能够根据权重的调整均衡地承载工作任务，并提供高效地任务处理能力，解决了现有技术中难以真正做到对后端服务器的负载均衡的共性技术问题，完成了异构后端服务器的负载均衡，进而充分合理地利用后端服务器的处理资源，提高后端服务器及集群的性能。
附图说明
48.为了更清楚地说明本技术实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本技术的一些实施例，对于本领域技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
49.图1示出了本发明实施例提出的一种动态调整权重的负载均衡方法的流程示意图；
50.图2示出了本发明实施例提出的一种动态调整权重的负载均衡装置的结构示意图。
具体实施方式
51.下面将结合本技术实施例中的附图，对本技术实施例中的技术方案进行清楚、完
整地描述，显然，所描述的实施例仅仅是本技术一部分实施例，而不是全部的实施例。基于本技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本技术保护的范围。
52.本发明提供了一种动态调整权重的负载均衡方法，如图1所示，所述方法包括以下步骤：
53.s101，对后端服务器的运行参数进行实时监测，并对监测数据进行分析得到分析结果。
54.本实施例中，所述s101，对后端服务器的运行参数进行实时监测，并对监测数据进行分析得到分析结果的步骤包括：
55.实时监测所述后端服务器的并发连接数和响应时间；
56.统计所述后端服务器的当前并发连接数、当前响应时间、总的并发连接数、总的响应时间、近期总的并发连接数、近期总的响应时间，并计算获取各所述服务器的总的平均响应时间、近期平均响应时间、当前响应时间比值、近期响应时间比值；
57.其中，
58.总的平均响应时间＝总的响应时间/总的并发连接数；
59.近期平均响应时间＝近期总的响应时间/近期总的并发连接数；
60.近期响应时间比值＝近期平均响应时间/总的平均响应时间*100％；
61.当前响应时间比值＝当前响应时间/近期平均响应时间*100％。
62.为了实现对后端服务器进行实时监测并准确返回分析结果，在本发明的实施例中，所述s101，对后端服务器的运行参数进行实时监测，并对监测数据进行分析得到分析结果的步骤还包括：
63.根据预设响应时间比例阈值和所述近期响应时间比值，判断所述后端服务器的负载状态，并发送所述分析结果，
64.当所述近期响应时间比值大于或等于所述预设响应时间比例阈值时，所述后端服务器超载，发送的所述分析结果为“超载”；
65.当所述近期响应时间比值小于所述预设响应时间比例阈值时，所述后端服务器不超载，不发送所述分析结果；
66.其中，
67.所述预设响应时间比例阈值根据所述并发连接数和所述响应时间确定。
68.s102，接收并根据所述分析结果，以及所述后端服务器的关键并发连接数，对所述后端服务器进行任务调度和权重调整。
69.其中，所述方法根据所述分析结果和所述关键连接数，实时动态地对所有所述后端服务器的权重值进行调整。
70.本实施例中，所述s102，接收并根据所述分析结果，以及所述后端服务器的关键并发连接数，对所述后端服务器进行任务调度和权重调整的步骤包括：
71.当接收到的所述分析结果为“超载”时，获取所述后端服务器的关键并发连接数；
72.1)当所述后端服务器未设置所述关键并发连接数，则对所述关键并发连接数进行设置；
73.2)当全部后端服务器均已经设置所述关键并发连接数，且当前所述后端服务器的
所述并发连接数大于或等于所述关键并发连接数，则对所述后端服务器的权重进行动态调整。
74.本实施例中，所述当所述后端服务器未设置所述关键并发连接数，则对所述关键并发连接数进行设置的步骤为：
75.当所述后端服务器的所述当前响应时间比值接近所述响应时间比例阈值，则将当前所述后端服务器的并发连接数设置为所述关键并发连接数。
76.可选择地，所述当全部所述后端服务器均已经设置所述关键并发连接数，且当前所述后端服务器的所述并发连接数大于或等于所述关键并发连接数，则对所述后端服务器的权重进行动态调整的步骤包括：
77.获取当前所有后端服务器的所述并发连接数和权重值，并计算得到所有后端服务器的连接权重比值，
78.连接权重比值＝当前并发连接数/权重值；
79.根据所述连接权重比值确定并发连接数最小的后端服务器；
80.将所述后端服务器的承载任务向所述并发连接数最小的后端服务器进行调度，并下调所述后端服务器的权重值，记录当前的所述并发连接数为所述关键并发连接数。
81.可选择地，所述将所述后端服务器的承载任务向所述并发连接数最小的后端服务器进行调度，并下调所述后端服务器的权重值，记录当前的所述并发连接数为所述关键并发连接数的步骤还包括：
82.根据所述关键并发连接数计算并得到所述后端服务器的调整权重值，并将所述后端服务器的权重值调整为所述调整权重值。
83.s103，返回任务调度和权重调整结果。
84.通过应用以上技术方案，对后端服务器的运行参数进行实时监测，并对监测数据进行分析得到分析结果；接收并根据所述分析结果，以及所述后端服务器的关键并发连接数，对所述后端服务器进行任务调度和权重调整；返回任务调度和权重调整结果，实现了通过对异构后端服务器的进行动态权重调整和任务调度，所有异构后端服务器都能够根据权重的调整均衡地承载工作任务，并提供高效地任务处理能力，解决了现有技术中难以真正做到对后端服务器的负载均衡的共性技术问题，完成了异构后端服务器的负载均衡，进而充分合理地利用后端服务器的处理资源，提高后端服务器及集群的性能。
85.与本发明实施例中的一种所述动态调整权重的负载均衡方法相对应，本发明还公开了一种动态调整权重的负载均衡装置，如图2所示，所述装置包括测量单元、分析单元、处理单元和执行单元；
86.其中，
87.所述测量单元，用于对后端服务器的运行参数进行实时监测，获取监测数据；其中，所述监测数据包括所述当前并发连接数、所述当前响应时间、所述总的并发连接数、所述总的响应时间、所述近期总的并发连接数和所述近期总的响应时间；
88.所述分析单元，用于对所述监测数据进行分析，得到分析结果；
89.所述处理单元，用于接收并根据所述分析结果，以及所述后端服务器的关键并发连接数，对所述后端服务器进行权重调整；
90.所述执行单元，用于根据调整后的所述后端服务器的权重，对全部所述后端服务
器的任务进行任务调度；
91.所述装置根据所述分析结果和所述关键连接数，实时动态地对所有所述后端服务器的权重值进行调整。
92.本说明书中的各个实施例均采用相关的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。
93.以上所述仅为本发明的较佳实施例而已，并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等，均包含在本发明的保护范围内。

技术特征：
1.一种动态调整权重的负载均衡方法，所述方法包括：s101，对后端服务器的运行参数进行实时监测，并对监测数据进行分析得到分析结果；s102，接收并根据所述分析结果，以及所述后端服务器的关键并发连接数，对所述后端服务器进行任务调度和权重调整；s103，返回任务调度和权重调整结果；其特征在于，所述方法根据所述分析结果和所述关键连接数，实时动态地对所有所述后端服务器的权重值进行调整。2.如权利要求1所述的方法，其特征在于，所述s101，对后端服务器的运行参数进行实时监测，并对监测数据进行分析得到分析结果的步骤包括：实时监测所述后端服务器的并发连接数和响应时间；统计所述后端服务器的当前并发连接数、当前响应时间、总的并发连接数、总的响应时间、近期总的并发连接数、近期总的响应时间，并计算获取各所述服务器的总的平均响应时间、近期平均响应时间、当前响应时间比值、近期响应时间比值；其中，总的平均响应时间＝总的响应时间/总的并发连接数；近期平均响应时间＝近期总的响应时间/近期总的并发连接数；近期响应时间比值＝近期平均响应时间/总的平均响应时间*100％；当前响应时间比值＝当前响应时间/近期平均响应时间*100％。3.如权利要求2所述的方法，其特征在于，所述s101，对后端服务器的运行参数进行实时监测，并对监测数据进行分析得到分析结果的步骤还包括：根据预设响应时间比例阈值和所述近期响应时间比值，判断所述后端服务器的负载状态，并发送所述分析结果，当所述近期响应时间比值大于或等于所述预设响应时间比例阈值时，所述后端服务器超载，发送的所述分析结果为“超载”；当所述近期响应时间比值小于所述预设响应时间比例阈值时，所述后端服务器不超载，不发送所述分析结果；其中，所述预设响应时间比例阈值根据所述并发连接数和所述响应时间确定。4.如权利要求1所述的方法，其特征在于，所述s102，接收并根据所述分析结果，以及所述后端服务器的关键并发连接数，对所述后端服务器进行任务调度和权重调整的步骤包括：当接收到的所述分析结果为“超载”时，获取所述后端服务器的关键并发连接数；1)当所述后端服务器未设置所述关键并发连接数，则对所述关键并发连接数进行设置；2)当全部后端服务器均已经设置所述关键并发连接数，且当前所述后端服务器的所述并发连接数大于或等于所述关键并发连接数，则对所述后端服务器的权重进行动态调整。5.如权利要求4所述的方法，其特征在于，所述当所述后端服务器未设置所述关键并发连接数，则对所述关键并发连接数进行设置的步骤为：当所述后端服务器的所述当前响应时间比值接近所述响应时间比例阈值，则将当前所
述后端服务器的并发连接数设置为所述关键并发连接数。6.如权利要求4所述的方法，其特征在于，所述当全部所述后端服务器均已经设置所述关键并发连接数，且当前所述后端服务器的所述并发连接数大于或等于所述关键并发连接数，则对所述后端服务器的权重进行动态调整的步骤包括：获取当前所有后端服务器的所述并发连接数和权重值，并计算得到所有后端服务器的连接权重比值，连接权重比值＝当前并发连接数/权重值；根据所述连接权重比值确定并发连接数最小的后端服务器；将所述后端服务器的承载任务向所述并发连接数最小的后端服务器进行调度，并下调所述后端服务器的权重值，记录当前的所述并发连接数为所述关键并发连接数。7.如权利要求6所述的方法，其特征在于，所述将所述后端服务器的承载任务向所述并发连接数最小的后端服务器进行调度，并下调所述后端服务器的权重值，记录当前的所述并发连接数为所述关键并发连接数的步骤还包括：根据所述关键并发连接数计算并得到所述后端服务器的调整权重值，并将所述后端服务器的权重值调整为所述调整权重值。8.一种实施权利要求1所述动态调整权重的负载均衡方法的装置，其特征在于，所述装置包括测量单元、分析单元、处理单元和执行单元；其中，所述测量单元，用于对后端服务器的运行参数进行实时监测，获取监测数据；其中，所述监测数据包括所述当前并发连接数、所述当前响应时间、所述总的并发连接数、所述总的响应时间、所述近期总的并发连接数和所述近期总的响应时间；所述分析单元，用于对所述监测数据进行分析，得到分析结果；所述处理单元，用于接收并根据所述分析结果，以及所述后端服务器的关键并发连接数，对所述后端服务器进行权重调整；所述执行单元，用于根据调整后的所述后端服务器的权重，对全部所述后端服务器的任务进行任务调度；所述装置根据所述分析结果和所述关键连接数，实时动态地对所有所述后端服务器的权重值进行调整。

技术总结
本发明公开了一种动态调整权重的负载均衡方法及装置，该方法包括：对后端服务器的运行参数进行实时监测，并对监测数据进行分析得到分析结果；接收并根据所述分析结果，以及所述后端服务器的关键并发连接数，对所述后端服务器进行任务调度和权重调整；返回任务调度和权重调整结果；其中，所述方法根据所述分析结果和所述关键连接数，实时动态地对所有所述后端服务器的权重值进行调整，从而充分合理地利用后端服务器的处理资源，提高后端服务器及集群的任务处理性能。群的任务处理性能。群的任务处理性能。


技术研发人员：李宝民
受保护的技术使用者：通明智云（北京）科技有限公司
技术研发日：2023.02.17
技术公布日：2023/7/13