基于负载均衡的通信方法、装置以及计算机程序产品与流程

    专利查询2025-06-23  38

    本技术涉及计算机通信,特别是涉及一种基于负载均衡的通信方法、装置以及计算机程序产品。
    背景技术
    ::1、大多数的云环境应用系统都使用了服务器集群技术,集群是将相同服务部署在多台服务器上构成一个集群整体对外提供服务,这些集群可以是web应用服务器、数据库服务器或者分布式缓存服务器集群等等。服务器集群之间总会有一台负载均衡服务器,负载均衡服务器的任务就是作为服务器流量的入口,将客户机的请求转发给服务器集群中的后端服务器处理,实现客户机到真实的后端服务端的透明转发。负载均衡服务器一般用于分发流量到后端服务器,以便提升服务的并发处理能力,增加吞吐量以及服务的可用性。2、负载均衡有硬件负载均衡和软件负载均衡之分。其中硬件负载均衡成本较为昂贵。常用的软件负载均衡包括lvs、nginx和haproxy等。现有的这些负载均衡软件,通常都基于网络内核协议栈框架功能,如iptables实现的负载均衡是流量进入到协议栈深层进行的报文处理,其中这些负载均衡软件的网络内核协议栈框架功能都是基于cpu进行处理的,需要耗费大量的cpu资源对报文做分析或流量转发,从而使得负载均衡性能较低,很难满足云环境高性能的负载要求。3、通常群集的负载在四层网络调度技术,可基于ip、端口或者内容等进行分发,其中基于ip的负载均衡是效率最高的。基于ip的负载均衡模式,常见的有地址转换(nat)、ip隧道(tun)和直接路由(dr)三种工作模式。4、地址转换:network address translation,简称:nat模式,类似于防火墙的私有网络结构,负载均衡服务器的负载均衡调度器是所有后端服务器的网关,客户机的访问入口,也是各个后端服务器回应客户机的访问出口。参考图1a所示,在nat模式下,例如客户机需要访问后端服务器1,首先向负载均衡调度器发送相应的访问请求,负载均衡调度器将客户机发送的访问请求转发给后端服务器1。之后后端服务器1将与访问请求对应的响应信息发送给负载均衡调度器,负载均衡调度器将该响应信息转发给客户机。从而nat模式双向流量都经过负载均衡调度器。5、ip隧道:ip tunnel,简称:tun模式,采用开放式的网络结构,参考图1b所示,负载均衡调度器作为客户机的访问入口,把访问请求通过ip隧道转发至后端服务器,而后端服务器不经过负载均衡调度器,直接将响应信息返回给客户机。6、直接路由:direct routing,简称dr模式,采用半开放式的网络结构,参考图1b所示,负载均衡调度器作为客户机的访问入口,把访问请求通过直接路由方式转发至后端服务器,而后端服务器不经过负载均衡调度器,直接将响应信息返回给客户机。7、综上,基于各种模式下的负载均衡转发方法,客户机与后端服务器之间的网络通信,都需要经过负载均衡服务器,由负载均衡服务器进行转发。从而当负载均衡服务器接收到客户端发送的多个请求时,各个后端服务器只能等待负载均衡服务器依次转发,多个后端服务器的处理并发能力被限制,导致后端服务器的资源浪费。8、针对上述的现有技术中存在的各个后端服务器等待负载均衡服务器依次转发请求,导致的处理并发能力被限制以及资源浪费的技术问题,目前尚未提出有效的解决方案。技术实现思路1、本技术的实施例提供了一种基于负载均衡的通信方法、装置以及计算机程序产品,以至少解决现有技术中存在的各个后端服务器等待负载均衡服务器依次转发请求,导致的处理并发能力被限制以及资源浪费的技术问题。2、根据本技术实施例的一个方面,提供了一种基于负载均衡的通信方法,包括:负载均衡服务器通过负载均衡调度器接收客户机发送的第一握手信号,其中第一握手信号用于请求与后端服务器建立通信连接;负载均衡服务器通过负载均衡调度器将第一握手信号的目的地址更改为后端服务器的地址,将生成的第二握手信号分别发送给后端服务器和客户机,其中第一握手信号的目的地址为负载均衡服务器的地址;后端服务器根据第二握手信号生成相应的响应信号,并将响应信号发送至客户机,其中响应信号用于指示同意客户机的建立通信连接的请求;客户机根据第二握手信号和响应信号生成确认信号,并将确认信号发送给后端服务器,建立通信连接,其中确认信号用于指示已收到响应信号;以及客户机根据与后端服务器建立的通信连接,与后端服务器进行直接通信。3、根据本技术实施例的另一个方面,还提供了一种基于负载均衡的通信装置,包括:信号接收模块,用于负载均衡服务器通过负载均衡调度器接收客户机发送的第一握手信号,其中第一握手信号用于请求与后端服务器建立通信连接;地址更改模块,用于负载均衡服务器通过负载均衡调度器将第一握手信号的目的地址更改为后端服务器的地址,将生成的第二握手信号分别发送给后端服务器和客户机,其中第一握手信号的目的地址为负载均衡服务器的地址;信号生成模块,用于后端服务器根据第二握手信号生成相应的响应信号,并将响应信号发送至客户机,其中响应信号用于指示同意客户机的建立通信连接的请求;通信连接模块,用于客户机根据第二握手信号和响应信号生成确认信号,并将确认信号发送给后端服务器,建立通信连接,其中确认信号用于指示已收到响应信号;以及通信模块,用于客户机根据与后端服务器建立的通信连接,与后端服务器进行直接通信。4、根据本技术实施例的另一个方面,还提供了一种基于负载均衡的通信装置,包括:处理器;以及存储器,与处理器连接,用于为处理器提供处理以下处理步骤的指令:负载均衡服务器通过负载均衡调度器接收客户机发送的第一握手信号,其中第一握手信号用于请求与后端服务器建立通信连接;负载均衡服务器通过负载均衡调度器将第一握手信号的目的地址更改为后端服务器的地址,将生成的第二握手信号分别发送给后端服务器和客户机,其中第一握手信号的目的地址为负载均衡服务器的地址;后端服务器根据第二握手信号生成相应的响应信号,并将响应信号发送至客户机,其中响应信号用于指示同意客户机的建立通信连接的请求;客户机根据第二握手信号和响应信号生成确认信号,并将确认信号发送给后端服务器,建立通信连接,其中确认信号用于指示已收到响应信号;以及客户机根据与后端服务器建立的通信连接,与后端服务器进行直接通信。5、根据本技术实施例的另一个方面,还提供了一种计算机程序产品,包括计算机程序,计算机程序被处理器执行时实现以上方法的步骤。6、在本技术实施例中,负载均衡服务器仅在客户机与后端服务器建立通信连接时,为客户机转发握手信号,在此之后的数据交换都是客户机和后端服务器之间直接进行的,从而缩短处理路径,提升处理效率。并且在客户机与后端服务器建立了通信连接之后,负载均衡服务器也不负载对数据信息进行转发,从而客户机可以直接与后端服务器进行通信,而后端服务器也无需等待负载均衡服务器为其进行数据信息的转发,从而多个后端服务器可以同时与客户机通信,减少了对于后端服务器的局限性,提高了后端服务器的并发能力,减少了后端服务器的资源浪费。进而解决了现有技术中存在的各个后端服务器等待负载均衡服务器依次转发请求,导致的处理并发能力被限制以及资源浪费的技术问题。当前第1页12当前第1页12
    技术特征:

    1.一种基于负载均衡的通信方法,其特征在于,包括:

    2.根据权利要求1所述的方法,其特征在于,所述负载均衡服务器通过所述负载均衡调度器将所述第一握手信号的目的地址更改为所述后端服务器的地址的操作,包括:

    3.根据权利要求1所述的方法,其特征在于,所述后端服务器通过所述负载均衡调度器将所述响应信号发送至所述客户机的操作,包括:

    4.根据权利要求1所述的方法,其特征在于,所述客户机根据所述第二握手信号和所述响应信号生成确认信号的操作,包括:

    5.根据权利要求1所述的方法,其特征在于,还包括:

    6.根据权利要求2所述的方法,其特征在于,还包括:所述负载均衡调度器运行于预设的数据处理器。

    7.根据权利要求6所述的方法,其特征在于,还包括:所述负载均衡调度器是基于ebpf技术实现的。

    8.一种基于负载均衡的通信装置,其特征在于,包括:

    9.一种基于负载均衡的通信装置,其特征在于,包括:

    10.一种计算机程序产品,包括计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1所述方法的步骤。


    技术总结
    本申请公开了一种基于负载均衡的通信方法、装置以及计算机程序产品。其中方法,包括:负载均衡服务器通过负载均衡调度器接收客户机发送的第一握手信号;负载均衡服务器通过负载均衡调度器将第一握手信号的目的地址更改为后端服务器的地址,将生成的第二握手信号分别发送给后端服务器和客户机;后端服务器根据第二握手信号生成相应的响应信号,并将响应信号发送至客户机;客户机根据第二握手信号和响应信号生成确认信号,并将确认信号发送给后端服务器,建立通信连接;以及客户机根据与后端服务器建立的通信连接,与后端服务器进行直接通信。

    技术研发人员:侯俊,杜东东,张文博,张征宇,李华
    受保护的技术使用者:福建海云捷迅科技有限公司
    技术研发日:
    技术公布日:2024/11/26
    转载请注明原文地址:https://tc.8miu.com/read-29730.html

    最新回复(0)