服务器负载均衡的设计与实现
服务器负载均衡的设计与实现
在该架构中OpenFlow控制器可以获取每个服务器的运行状态，并根据运行状态分发用户请求，最大程度地利用每台服务器的计算资源，并且可以在系统运行期间动态地添加或删除服务器，使系统具备很高的灵活性。
1、动态负载均衡架构的整体设计
负载均衡架构是在一个非结构化的网络中使用集中式的控制器实现多台服务器共同对外提供服务。OpenFlow网络中的所有交换机都连接在一个控制器上，每台服务器有两块网卡，一块网卡连接到OpenFlow网络对用户提供网络服务，另一块通过以太网交换机和控制器相连，以便控制器通过SNMP协议获取服务器的运行状态，具体架构如图所示。
在上述负载均衡架构中控制器是网络的核心，其主要功能有四个，分别为：
保证网络正常的通信、获取服务器的运行状态、通过负载均衡算法计算服务器的综合负载、向交换机下发流表项以转发用户请求；控制器的模块设计如图所示。
本文阐述的负载均衡架构可以工作在任意openflow网络中，而不是专门为某个服务器
所设计的负载均衡，控制器的首要任务就是保证网络可以提供正常的数据转发服务，为了保证网络既可以为其他服务提供基础支持又保证负载均衡能够正常工作，在控制器的转发控制中有两个模块，第一个模块负责负载均衡服务，第二个模块负责网络的基本通信。当一个数据包到达Openflow交换机后，如果交换机找不到可以匹配的流表项，就会向控制发送packet-in消息，控制器收到packet-in消息之后首先交给负载均衡模块，由负载均衡模块处理该消息，如果该数据包的目的IP 不是负载均衡所负责的网络服务，如果该数据包的目的IP不是负载均衡所负责的网络服务，负载均衡模块就不会做任何处理而是直接packet-in 消息传递给网络通信模块，以保证其它业务正常通信。如果该数据包的目的IP是负载均衡所负责的网络服务，负载均衡模块就向交换机下发流表项让交换机完成负载均衡服务。
为了有效地利用计算资源，控制器还需要根据服务器的运行状态转发用户请求，因此控制器还要完成这方面的工作。在此架构中每台服务器都有一块通过以太网交换机和控制器相连的网卡，控制器通过以太网交换机和服务器通信，利用SNMP协议获取服务器的运行状态。在此架构中就算没有和服务器相连的网卡，控制器也可以通过Openflow网络和服务器通信，本文之所以没有这么做是因为控制器直接和连接在openflow网络中的服务器通信需要交换机把所有服务器所发送的消息封装成packet-in消息发送给交换机，控制器也必须通过向交换机发送packet-out消息才能把数据发送给服务器，这样做会给交换机和控制器同时带来很大的压力。
因为服务器的运行状态必须由多条信息才能描述清楚，所以就算得到服务器的运行状态之后，也无法根据多条信息判断哪台服务器的负载最低。因此本文在控制器中运行了一个负载均衡算法，控制器会把服务的运行状态作为负载均衡算法的参数代入到服务器综合负载的运算中，计算出服务器的综合负载，并根据综合负载得到负载最小的服务器。
负载均衡的核心内容就是让交换机分发用户的请求，用户请求的第一个数据包到达交换级之后，交换机会通过packet-in消息把数据包发送给控制器，控制器中的负载均衡模块会通过SNMP协议获取所有服务器的运行状态，并根据运行状态计算服务器的综合负载，之后把用户的请求转发给综合负载最小的服务器。
2、动态负载均衡架构的设计与实现
负载均衡常用的算法有随机、轮训和最小连接数，原因是这三种算法很容易用硬件实现，这三种算法中最小连接数算法的效果是最理想的，但是如果集群中的服务器在CPU、内存、网络带宽上的配置不相同，这三个算法都不能充分地发挥服务器集群的计算能力。在openflow网络中，网络的控制层由软件制定，负载均衡算法也可以集成在控制器中，使用软件完成，这样可以更准确地评估服务器的负载情况。本文阐述的负载均衡方案中就设计了一个负载均衡算法，根据服务器的运行状态计算服务器的综合负载，并返回综合负载最小的服务器。该算法可以在服务器性能差距较大的集群中充分发挥每一台服务器的计算能力，算法的具体实现过程如下：
1）动态反馈当前服务器负载量
主要收集每台服务器CPU和内存的使用率，这些信息并不能直接表示一台服务器的负载情况，所以使用公式1把CPU和内存信息转换为服务器的负载量，其中LC为第i台服务器CPU的使用率，LM为第i台内存的使用率，r1和r2为权值，用于强调该服务类型对各个部分的不同影响程度，r1+r2=1,LS为计算得出的第i台服务器负载量
LS=r1LC+r2*LM
2）服务器处理能力计算；
集群中服务器的性能也可能不同，在计算服务器负载的时候还要考虑服务器的处理能力，第i台服务器的处理能力使用C(i)表示，C的计算方法如公式所示，其中P为第i台服务器CPU的个数，M为第i台服务器内存的大小，r1和r2为权值，r1+r2=1。
C=r1*P+r2*M
3）通过服务器当前的负载量和服务器的计算能力，计算第i台计算机的综合负载AL，AL的计算方法如下
AL=LS/C
基于服务器运行状态的动态反馈负载均衡算法（SBLB）
该算法根据虚拟机的实时运行状态计算出每个服务器的综合负载，并返回负载差距在一定范围内的拥有最小负载的服务器队列，当有客户请求到达时，以一定的概率从该队列中选择某个虚拟机服务器为其提供服务，从而最小化服务器响应时间和提高系统的吞吐率。
如图所示，显示了基于服务器运行状态的动态反馈负载均衡算法的工作环境，在
floodlight控制器上运行虚拟机管理模块，虚拟机管理模块调用libvirt API来采集服
务器的CPU使用率、空闲内存等负载信息，之后将收集到的每个服务器的负载信息
发送给负载均衡策略模块，用以计算服务器的综合负载值以便floodlight控制器制
定响应客户的流表。为了准确的表示服务器是否达到我们想要的利用率，引入权值
的概念，权值通过服务器反馈的综合负载值进行动态调整，他们之间为相关关系。
当新算出的权值变小时表示当前服务器比较忙，这样就可以相应减少分配到服务器
的客户请求。反之，当权值变大时表示当前服务器比较空闲并没有达到理想状态，这样就可以响应增加分配到该服务器的客户请求。
几种负载均衡算法
几种负载均衡算法 本地流量管理技术主要有以下几种负载均衡算法： 静态负载均衡算法包括：轮询，比率，优先权 动态负载均衡算法包括: 最少连接数,最快响应速度，观察方法，预测法，动态性能分配，动态服务器补充，服务质量，服务类型，规则模式。 静态负载均衡算法 ◆轮询（Round Robin）：顺序循环将请求一次顺序循环地连接每个服务器。当其中某个服务器发生第二到第7 层的故障，BIG-IP 就把其从顺序循环队列中拿出，不参加下一次的轮询，直到其恢复正常。 ◆比率（Ratio）：给每个服务器分配一个加权值为比例，根椐这个比例，把用户的请求分配到每个服务器。当其中某个服务器发生第二到第7 层的故障，BIG-IP 就把其从服务器队列中拿出，不参加下一次的用户请求的分配, 直到其恢复正常。 ◆优先权（Priority）：给所有服务器分组,给每个组定义优先权，BIG-IP 用户的请求，分配给优先级最高的服务器组（在同一组内，采用轮询或比率算法，分配用户的请求）；当最高优先级中所有服务器出现故障，BIG-IP 才将请求送给次优先级的服务器组。这种方式，实际为用户提供一种热备份的方式。 动态负载均衡算法 ◆最少的连接方式（Least Connection）：传递新的连接给那些进行最少连接处理的服务器。当其中某个服务器发生第二到第7 层的故障，BIG-IP 就把其从服务器队列中拿出，不参加下一次的用户请求的分配, 直到其恢复正常。 ◆最快模式（Fastest）：传递连接给那些响应最快的服务器。当其中某个服务器发生第二到第7 层的故障，BIG-IP 就把其从服务器队列中拿出，不参加下一次的用户请求的分配，直到其恢复正常。 ◆观察模式（Observed）：连接数目和响应时间以这两项的最佳平衡为依据为新的请求选择服务器。当其中某个服务器发生第二到第7 层的故障，BIG-IP就把其从服务器队列中拿出，不参加下一次的用户请求的分配，直到其恢复正常。 ◆预测模式（Predictive）：BIG-IP利用收集到的服务器当前的性能指标，进行预测分析，选择一台服务器在下一个时间片内，其性能将达到最佳的服务器相应用户的请求。(被BIG-IP 进行检测) ◆动态性能分配(Dynamic Ratio-APM):BIG-IP 收集到的应用程序和应用服务器的各项性能参数，动态调整流量分配。 ◆动态服务器补充(Dynamic Server Act.):当主服务器群中因故障导致数量减少时，动态地将备份服务器补充至主服务器群。 ◆服务质量(QoS）:按不同的优先级对数据流进行分配。 ◆服务类型(ToS): 按不同的服务类型（在Type of Field中标识）负载均衡对数据流进行分配。 ◆规则模式：针对不同的数据流设置导向规则，用户可自行。 负载均衡对应本地的应用交换，大家可以通过对上述负载均衡算法的理解，结合实际的需求来采用合适你的负载均衡算法，我们常用到的一般是最少连接数、最快反应、或者轮询，决定选用那种算法，主要还是要结合实际的需求。
服务器负载均衡技术
HUAWEI USG6000V系列NFV防火墙技术白皮书之---服务器负载均衡技术白皮书 华为技术有限公司 Huawei Technologies Co., Ltd.
目录 1背景和概述 (2) 2全局服务器负载均衡（GSLB） (3) 3本地服务器负载均衡（LSLB） (4) 3.1使用目的MAC地址转换的服务器负载均衡（DR） (4) 3.2使用网络地址转换实现的服务器负载均衡（L4 SLB） (5) 3.3使用轻量代理和网络地址转换的服务器负载均衡（L4 lwProxy SLB） (7) 3.4使用全量Socket 代理的服务器负载均衡（L7 Socket Proxy SLB） (9) 3.4.1socket代理加业务会话关联保持 (9) 3.4.2根据URL类型不同的分担，静态资源访问和动态计算访问分开多种服务 器10 3.4.3SSL卸载 (10) 3.4.4链路优化：压缩、协议优化、本地cache、多路复用 (11) 3.5业务保持技术 (13) 4华为USG防火墙支持的SLB功能列表 (14)
1 背景和概述 随着互联网的快速发展，用户访问量的快速增长，使得单一的服务器性能已经无法满足大量用户的访问，企业开始通过部署多台服务器来解决性能的问题，由此就产生了服务器负载均衡的相关技术方案。 在实际的服务器负载均衡应用中，由于需要均衡的业务种类以及实际服务器部署场景的不同（比如是否跨地域、跨ISP数据中心等），存在多种负载均衡的技术。如下典型的组网方式如图所示： 服务提供方为了支撑大批量的用户访问，以及跨不同地域、不同接入ISP的用户都能够获得高质量的业务访问体验，其已经在不同地域、不同ISP数据中心搭建了服务器，这样就带来一个需求，也就是客户的访问能够就近、优先选择同一个ISP数据中心的服务器，从而获得高质量的业务访问体验。 同时，基于单台服务器能够提供的业务访问并发是有限的，那么就自然想到使用多台服务器来形成一个“集群”，对外展现出一个业务访问服务器，以满足大量用户访问、而且可以根据业务访问量的上升可以动态的进行业务能力扩容的需要。
Tomcat集群与负载均衡
Tomcat集群与负载均衡（转载） 在单一的服务器上执行WEB应用程序有一些重大的问题，当网站成功建成并开始接受大量请求时，单一服务器终究无法满足需要处理的负荷量，所以就有点显得有点力不从心了。另外一个常见的问题是会产生单点故障，如果该服务器坏掉，那么网站就立刻无法运作了。不论是因为要有较佳的扩充性还是容错能力，我们都会想在一台以上的服务器计算机上执行WEB应用程序。所以，这时候我们就需要用到集群这一门技术了。 在进入集群系统架构探讨之前，先定义一些专门术语： 1. 集群(Cluster)：是一组独立的计算机系统构成一个松耦合的多处理器系统，它们之间通过网络实现进程间的通信。应用程序可以通过网络共享内存进行消息传送，实现分布式计算机。 2. 负载均衡(Load Balance)：先得从集群讲起，集群就是一组连在一起的计算机，从外部看它是一个系统，各节点可以是不同的操作系统或不同硬件构成的计算机。如一个提供Web服务的集群，对外界来看是一个大Web服务器。不过集群的节点也可以单独提供服务。 3. 特点：在现有网络结构之上，负载均衡提供了一种廉价有效的方法扩展服务器带宽和增加吞吐量，加强网络数据处理能力，提高网络的灵活性和可用性。集群系统(Cluster)主要解决下面几个问题： 高可靠性（HA）：利用集群管理软件，当主服务器故障时，备份服务器能够自动接管主服务器的工作，并及时切换过去，以实现对用户的不间断服务。 高性能计算（HP）：即充分利用集群中的每一台计算机的资源，实现复杂运算的并行处理，通常用于科学计算领域，比如基因分析，化学分析等。 负载平衡：即把负载压力根据某种算法合理分配到集群中的每一台计算机上，以减轻主服务器的压力，降低对主服务器的硬件和软件要求。 目前比较常用的负载均衡技术主要有： 1. 基于DNS的负载均衡 通过DNS服务中的随机名字解析来实现负载均衡，在DNS服务器中，可以为多个不同的地址配置同一个名字，而最终查询这个名字的客户机将在解析这个名字时得到其中一个地址。因此，对于同一个名字，不同的客户机会得到不同的地址，他们也就访问不同地址上的Web服务器，从而达到负载均衡的目的。 2. 反向代理负载均衡（如Apache+JK2+Tomcat这种组合） 使用代理服务器可以将请求转发给内部的Web服务器，让代理服务器将请求均匀地转发给多台内部Web服务器之一上，从而达到负载均衡的目的。这种代理方式与普通的代理方式有所不同，标准代理方式是客户使用代理访问多个外部Web服务器，而这种代理方式是多个客户使用它访问内部Web服务器，因此也被称为反向代理模式。 3. 基于NAT（Network Address Translation）的负载均衡技术（如Linux Virtual Server，简称LVS）
服务器负载均衡的设计与实现
服务器负载均衡的设计与实现 在该架构中OpenFlow控制器可以获取每个服务器的运行状态，并根据运行状态分发用户请求，最大程度地利用每台服务器的计算资源，并且可以在系统运行期间动态地添加或删除服务器，使系统具备很高的灵活性。 1、动态负载均衡架构的整体设计 负载均衡架构是在一个非结构化的网络中使用集中式的控制器实现多台服务器共同对外提供服务。OpenFlow网络中的所有交换机都连接在一个控制器上，每台服务器有两块网卡，一块网卡连接到OpenFlow网络对用户提供网络服务，另一块通过以太网交换机和控制器相连，以便控制器通过SNMP协议获取服务器的运行状态，具体架构如图所示。 在上述负载均衡架构中控制器是网络的核心，其主要功能有四个，分别为： 保证网络正常的通信、获取服务器的运行状态、通过负载均衡算法计算服务器的综合负载、向交换机下发流表项以转发用户请求；控制器的模块设计如图所示。 本文阐述的负载均衡架构可以工作在任意openflow网络中，而不是专门为某个服务器
所设计的负载均衡，控制器的首要任务就是保证网络可以提供正常的数据转发服务，为了保证网络既可以为其他服务提供基础支持又保证负载均衡能够正常工作，在控制器的转发控制中有两个模块，第一个模块负责负载均衡服务，第二个模块负责网络的基本通信。当一个数据包到达Openflow交换机后，如果交换机找不到可以匹配的流表项，就会向控制发送packet-in消息，控制器收到packet-in消息之后首先交给负载均衡模块，由负载均衡模块处理该消息，如果该数据包的目的IP 不是负载均衡所负责的网络服务，如果该数据包的目的IP不是负载均衡所负责的网络服务，负载均衡模块就不会做任何处理而是直接packet-in 消息传递给网络通信模块，以保证其它业务正常通信。如果该数据包的目的IP是负载均衡所负责的网络服务，负载均衡模块就向交换机下发流表项让交换机完成负载均衡服务。 为了有效地利用计算资源，控制器还需要根据服务器的运行状态转发用户请求，因此控制器还要完成这方面的工作。在此架构中每台服务器都有一块通过以太网交换机和控制器相连的网卡，控制器通过以太网交换机和服务器通信，利用SNMP协议获取服务器的运行状态。在此架构中就算没有和服务器相连的网卡，控制器也可以通过Openflow网络和服务器通信，本文之所以没有这么做是因为控制器直接和连接在openflow网络中的服务器通信需要交换机把所有服务器所发送的消息封装成packet-in消息发送给交换机，控制器也必须通过向交换机发送packet-out消息才能把数据发送给服务器，这样做会给交换机和控制器同时带来很大的压力。 因为服务器的运行状态必须由多条信息才能描述清楚，所以就算得到服务器的运行状态之后，也无法根据多条信息判断哪台服务器的负载最低。因此本文在控制器中运行了一个负载均衡算法，控制器会把服务的运行状态作为负载均衡算法的参数代入到服务器综合负载的运算中，计算出服务器的综合负载，并根据综合负载得到负载最小的服务器。 负载均衡的核心内容就是让交换机分发用户的请求，用户请求的第一个数据包到达交换级之后，交换机会通过packet-in消息把数据包发送给控制器，控制器中的负载均衡模块会通过SNMP协议获取所有服务器的运行状态，并根据运行状态计算服务器的综合负载，之后把用户的请求转发给综合负载最小的服务器。 2、动态负载均衡架构的设计与实现 负载均衡常用的算法有随机、轮训和最小连接数，原因是这三种算法很容易用硬件实现，这三种算法中最小连接数算法的效果是最理想的，但是如果集群中的服务器在CPU、内存、网络带宽上的配置不相同，这三个算法都不能充分地发挥服务器集群的计算能力。在openflow网络中，网络的控制层由软件制定，负载均衡算法也可以集成在控制器中，使用软件完成，这样可以更准确地评估服务器的负载情况。本文阐述的负载均衡方案中就设计了一个负载均衡算法，根据服务器的运行状态计算服务器的综合负载，并返回综合负载最小的服务器。该算法可以在服务器性能差距较大的集群中充分发挥每一台服务器的计算能力，算法的具体实现过程如下： 1）动态反馈当前服务器负载量 主要收集每台服务器CPU和内存的使用率，这些信息并不能直接表示一台服务器的负载情况，所以使用公式1把CPU和内存信息转换为服务器的负载量，其中LC为第i台服务器CPU的使用率，LM为第i台内存的使用率，r1和r2为权值，用于强调该服务类型对各个部分的不同影响程度，r1+r2=1,LS为计算得出的第i台服务器负载量 LS=r1LC+r2*LM 2）服务器处理能力计算； 集群中服务器的性能也可能不同，在计算服务器负载的时候还要考虑服务器的处理能力，第i台服务器的处理能力使用C(i)表示，C的计算方法如公式所示，其中P为第i台服务器CPU的个数，M为第i台服务器内存的大小，r1和r2为权值，r1+r2=1。
数据库负载均衡解决方案
双节点数据库负载均衡解决方案 问题的提出？ 在SQL Server数据库平台上，企业的数据库系统存在的形式主要有单机模式和集群模式（为了保证数据库的可用性或实现备份）如：失败转移集群（MSCS）、镜像（Mirror）、第三方的高可用（HA）集群或备份软件等。伴随着企业的发展，企业的数据量和访问量也会迅猛增加，此时数据库就会面临很大的负载和压力，意味着数据库会成为整个信息系统的瓶颈。这些“集群”技术能解决这类问题吗？SQL Server数据库上传统的集群技术 Microsoft Cluster Server(MSCS) 相对于单点来说Microsoft Cluster Server(MSCS)是一个可以提升可用性的技术，属于高可用集群，Microsoft称之为失败转移集群。 MSCS 从硬件连接上看，很像Oracle的RAC，两个节点，通过网络连接，共享磁盘；事实上SQL Server 数据库只运行在一个节点上，当出现故障时，另一个节点只是作为这个节点的备份； 因为始终只有一个节点在运行，在性能上也得不到提升,系统也就不具备扩展的能力。当现有的服务器不能满足应用的负载时只能更换更高配置的服务器。 Mirror 镜像是SQL Server 2005中的一个主要特点，目的是为了提高可用性，和MSCS相比，用户实现数据库的高可用更容易了，不需要共享磁盘柜，也不受地域的限制。共设了三个服务器，第一是工作数据库（Principal Datebase），第二个是镜像数据库（Mirror），第三个是监视服务器（Witness Server，在可用性方面有了一些保证，但仍然是单服务器工作；在扩展和性能的提升上依旧没有什么帮助。
软路由实现双WAN口带宽叠加
软路由实现双WAN口带宽叠加 一、硬件条件 1、要实现双W AN并能实现带宽的叠加，那自然要有两个宽带了，这是必须的，至于怎么弄两个宽带，那我就不多说了，自己想办法去。 2、要有两个网卡，不必太在意是无线网卡还是有线网卡，在我的“晒晒俺的双wan”一贴中有同学提出海蜘蛛（一个软路由软件）是否支持无线网卡，在这里我可以很负责任的告诉你在VMware Workstation虚拟机上是支持的，因为我用的就是一块INTEL 3945 无线网卡。 3、下载必要的软件，我这里就不写下载地址了，在网上连必要的软件都淘不来的，那也没必要再往下看了（没有贬低什么人的意思）。 二、言归正传 在windows系统上运行VMware Workstation虚拟机软件。而且基于虚拟机的话，电脑还可以在windows系统下正常做事情，并不像一些方案专门要独占一台电脑来做路由。还有一个好处就是可以相对比较方便的添加更多的物理网卡，叠加更多的线路带宽。无线网卡就不必多说了，像萨基姆760N这种性能不错的USB网卡仅30元左右。有线网卡的话，PCI或PCI-E等等的网卡由于插槽数有限，插不了很多。如果用多口的网卡价格又贵上很多。怎么办？我们可以用USB网卡，USB2.0的百兆网卡仅20元左右，配合USB HUB或者Card Bus 转USB卡之类的，可以拓展出很多个USB口，网卡可以轻易增加很多个。然后用虚拟机桥接给虚拟网卡即可。 1、先下载软件： 虚拟机请使用V6.0以上版本，V5版本会出现海蜘蛛安装时不识别虚拟硬盘的情况。另外绿色版的VMware有可能会出现错误，譬如海蜘蛛FAQ中推荐的20MB绿盟版，添加虚拟网卡报错。 2，安装虚拟机：
负载均衡调度算法
负载调度算法 负载均衡（Load Balance），又称为负载分担，就是将负载（工作任务）进行平衡、分摊到多个操作单元上进行执行，例如Web服务器、FTP服务器、企业关键应用服务器和其它关键任务服务器等，从而共同完成工作任务。负载均衡建立在现有网络结构之上，它提供了一种廉价又有效的方法来扩展网络设备和服务器的带宽、增加吞吐量、加强网络数据处理能力、提高网络的灵活性和可用性。 在调度器的实现技术中，IP负载均衡技术是效率最高的。在已有的IP负载均衡技术中有通过网络地址转换（Network Address Translation）将一组服务器构成一个高性能的、高可用的虚拟服务器，称之为VS/NAT技术。在分析VS/NAT 的缺点和网络服务的非对称性的基础上，提出通过IP隧道实现虚拟服务器的方法VS/TUN，和通过直接路由实现虚拟服务器的方法VS/DR，它们可以极大地提高系统的伸缩性。 在内核中的连接调度算法上，IPVS实现了以下几种调度算法： 1 轮叫调度 1.1 轮叫调度含义 轮叫调度（Round Robin Scheduling）算法就是以轮叫的方式依次将请求调度不同的服务器，即每次调度执行i = (i + 1) mod n，并选出第i台服务器。算法的优点是其简洁性，它无需记录当前所有连接的状态，所以它是一种无状态调度。 轮叫是基站为终端分配带宽的一种处理流程，这种分配可以是针对单个终端或是一组终端的。为单个终端和一组终端连接分配带宽，实际上是定义带宽请求竞争机制，这种分配不是使用一个单独的消息，而是上行链路映射消息中包含的一系列分配机制。 1.2 轮叫调度算法流程 轮询调度算法的原理是每一次把来自用户的请求轮流分配给内部中的服务器，从1开始，直到N（内部服务器个数），然后重新开始循环。在系统实现时，我们引入了一个额外条件，即当服务器的权值为零时，表示该服务器不可用而不被调度。这样做的目的是将服务器切出服务（如屏蔽服务器故障和系统维护），同时与其他加权算法保持一致。所以，算法要作相应的改动，它的算法流程如下：假设有一组服务器S = {S0, S1, …, Sn-1}，一个指示变量i表示上一次选择的服务器，W(Si)表示服务器Si的权值。变量i被初始化为n-1，其中n > 0。 j = i; do { j = (j + 1) mod n;
负载均衡的基础原理说明
大家都知道一台服务器的处理能力，主要受限于服务器自身的可扩展硬件能力。所以，在需要处理大量用户请求的时候，通常都会引入负载均衡器，将多台普通服务器组成一个系统，来完成高并发的请求处理任务。 之前负载均衡只能通过DNS来实现，1996年之后，出现了新的网络负载均衡技术。通过设置虚拟服务地址（IP），将位于同一地域（Region）的多台服务器虚拟成一个高性能、高可用的应用服务池；再根据应用指定的方式，将来自客户端的网络请求分发到
服务器池中。网络负载均衡会检查服务器池中后端服务器的健康状态，自动隔离异常状态的后端服务器，从而解决了单台后端服务器的单点问题，同时提高了应用的整体服务能力。 网络负载均衡主要有硬件与软件两种实现方式，主流负载均衡解决方案中，硬件厂商以F5为代表目前市场占有率超过50%，软件主要为NGINX与LVS。但是，无论硬件或软件实现，都逃不出基于四层交互技术的“转发”或基于七层协议的“代理”这两种方式。四层的转发模式通常性能会更好，但七层的代理模式可以根据更多的信息做到更智能地分发流量。一般大规模应用中，这两种方式会同时存在。 2007年F5提出了ADC（Application delivery controller）的概念为传统的负载均衡器增加了大量的功能，常用的有：SSL卸载、压缩优化和TCP连接优化。NGINX也支持很多ADC的特性，但F5的中高端型号会通过硬件加速卡来实现SSL卸载、压缩优化这一类CPU密集型的操作，从而可以提供更好的性能。 F5推出ADC以后，各种各样的功能有很多，但其实我们最常用的也就几种。这里我也简单的总结了一下，并和LVS、Nginx对比了一下。
F5负载均衡算法详解
应用交换技术的负载均衡算法 应用交换技术里主要包括四项关键的技术： ●截获和检查流量 ●服务器监控健康检查 ●负载均衡算法 ●会话保持 截获和检查流量保证只有合适的数据包才能通过； 服务器监控和健康检查随时了解服务器群的可用性状态； 负载均衡和应用交换功能通过各种策略导向到合适的服务器； 会话的保持以实现与应用系统完美结合； F5在应用交换技术中的优势： A、截获和检查流量 –BIG-IP 有最强的数据包截获和检查引擎去检查任何数据流量包中的任何部分，可以检测16384bytes包的深度，理论上可以检测 64Kbytes的包长度 –这使得BIG-IP 明显有别于其他的厂商的产品 B、用于定制控制的iRules工具 –可用来定义如何根据报头和/或TCP有效负载信息来引导、保存和过滤流量。 –iRules增强了企业或服务提供商定根据业务需求定制应用流量的能力。 –通用检查引擎和iRules分别是应用智能和业务决策来进行应用流量管理的方法和工具。 C、服务器监控和健康检查
–服务器(Node)-Ping(ICMP) –服务(Port)-Connect –扩展的应用验证(EA V) –扩展的内容验证(ECV) –针对VOD服务器的专用健康检查机制 –针对节点的检查频率和超时频度,e.g.10seconds响应,e.g.5seconds D、负载均衡和应用交换功能 –Global Load Balancer提供17种负载均衡算法 –F5提供最优质的负载均衡和应用交换功能 静态算法 动态算法 智能算法 I –control UIE + Irules –Local Load Balancer提供12种负载均衡算法 E、持续功能 –连续性与负载平衡是相互对立的，但它对于负载平衡又是必不可少的! –简单的连续性—基于源地址 –HTTP Cookie 连续性 –SSL Session ID 连续性 –目的地址的亲合作用--caches –standby BIG-IP实现对连续性记录的镜像 –智能与第七层的内容交换组合 F5做为应用交换领域的领导厂商，一直保持着技术上的领先地位，F5已经有40多项技术申请了专利，其它的竞争合作伙伴都在购买F5的这些专利技术。接下来我们讨论一下负载均衡算法。
集群的负载均衡技术综述
集群的负载均衡技术综述 摘要：当今世界，无论在机构内部的局域网还是在广域网如Internet上，信息处理量的增长都远远超出了过去最乐观的估计，即使按照当时最优配置建设的网络，也很快会感到吃不消。如何在完成同样功能的多个网络设备之间实现合理的业务量分配，使之不致于出现一台设备过忙、而别的设备却未充分发挥处理能力的情况，负载均衡机制因此应运而生。本组在课堂上讲解了《集群监控与调度》这一课题，本人在小组内负责负载均衡部分内容，以及PPT的制作。 关键词：负载均衡集群网络计算机 一、前言 负载均衡建立在现有网络结构之上，它提供了一种廉价有效的方法扩展服务器带宽和增加吞吐量，加强网络数据处理能力，提高网络的灵活性和可用性。它主要完成以下任务：解决网络拥塞问题，服务就近提供，实现地理位置无关性；为用户提供更好的访问质量；提高服务器响应速度；提高服务器及其他资源的利用效率；避免了网络关键部位出现单点失效。 其实，负载均衡并非传统意义上的“均衡”，一般来说，它只是把有可能拥塞于一个地方的负载交给多个地方分担。如果将其改称为“负载分担”，也许更好懂一些。说得通俗一点，负载均衡在网络中的作用就像轮流值日制度，把任务分给大家来完成，以免让一个人累死累活。不过，这种意义上的均衡一般是静态的，也就是事先确定的“轮值”策略。 与轮流值日制度不同的是，动态负载均衡通过一些工具实时地分析数据包，掌握网络中的数据流量状况，把任务合理分配出去。结构上分为本地负载均衡和地域负载均衡(全局负载均衡)，前一种是指对本地的服务器集群做负载均衡，后一种是指对分别放置在不同的地理位置、在不同的网络及服务器群集之间作负载均衡。 服务器群集中每个服务结点运行一个所需服务器程序的独立拷贝，诸如Web、FTP、Telnet或e-mail服务器程序。对于某些服务（如运行在Web服务器上的那些服务）而言，程序的一个拷贝运行在群集内所有的主机上，而网络负载均衡则将工作负载在这些主机间进行分配。对于其他服务（例如e-mail），只有一台主机处理工作负载，针对这些服务，网络负载均衡允许网络通讯量流到一个主机上，并在该主机发生故障时将通讯量移至其他主机。 二、负载均衡技术实现结构 在现有网络结构之上，负载均衡提供了一种廉价有效的方法扩展服务器带宽和增加吞吐量，加强网络数据处理能力，提高网络的灵活性和可用性。它主要完成以下任务： 1.解决网络拥塞问题，服务就近提供，实现地理位置无关性 2.为用户提供更好的访问质量 3.提高服务器响应速度
负载均衡解决方案设计设计
一、用户需求 本案例公司中现有数量较多的服务器群： WEB网站服务器 4台 邮件服务器 2台 虚拟主机服务器 10台 应用服务器 2台 数据库 2台（双机+盘阵） 希望通过服务器负载均衡设备实现各服务器群的流量动态负载均衡，并互为冗余备份。并要求新系统应有一定的扩展性，如数据访问量继续增大，可再添加新的服务器加入负载均衡系统。 二、需求分析 我们对用户的需求可分如下几点分析和考虑： 1.新系统能动态分配各服务器之间的访问流量；同时能互为冗余，当其中 一台服务器发生故障时，其余服务器能即时替代工作，保证系统访问的 不中断； 2.新系统应能管理不同应用的带宽，如优先保证某些重要应用的带宽要 求，同时限定某些不必要应用的带宽，合理高效地利用现有资源；
3.新系统应能对高层应用提供安全保证，在路由器和防火墙基础上提供了 更进一步的防线； 4.新系统应具备较强的扩展性。 o容量上：如数据访问量继续增大，可再添加新的服务器加入系统； o应用上：如当数据访问量增大到防火墙成为瓶颈时，防火墙的动态负载均衡方案，又如针对链路提出新要求时关于Internet访问 链路的动态负载均衡方案等。 三、解决方案 梭子鱼安全负载均衡方案总体设计 采用服务器负载均衡设备提供本地的服务器群负载均衡和容错，适用于处在同一个局域网上的服务器群。服务器负载均衡设备带给我们的最主要功能是：
当一台服务器配置到不同的服务器群（Farm）上，就能同时提供多个不同的应用。可以对于每个服务器群设定一个IP地址，或者利用服务器负载均衡设备的多TCP端口配置特性，配置超级服务器群（SuperFarm），统一提供各种应用服务。
双线路网络
双网接入的种类与设置方法 一、双IP双线路实现方式 双IP双线路实现方式是指在一台服务器上安装2块网卡，分别配置电信、网通不同的IP地址，这样一台服务器上就有了两个IP地址，在服务器上配置路由表，实现服务器访问电信和网通各自不同的IP的时候，分别走不同的通道。另一方面，用户通过唯一的域名来访问服务器，而域名解析的时候，通过实施对不同的IP地址请求返回不同的服务器IP的方法来实现，网通用户请求域名时返回网通的IP，电信用户请求域名时返回电信的IP，这也就是所谓的智能dns解析。双IP双线路在一定程度上提高了网通与电信用户访问网站的速度，但缺点是由于服务器接入的是双网卡必须在服务器上进行路由表设置，这给普通用户增加了维护难度，并且所有的数据包都需要在服务器上进行路由判断然后再发往不同的网卡，当访问量较大时服务器资源占用很大。此方案是最简单的双线解决方案，一般限于规模较小的IDC提供商使用。 二、单IP双线路 普通的单IP双线路是指在服务器上设置一个IP，此IP是网通IP或是电信IP，通过路由设备设置数据包是通过是电信网络或是网通网络发出来实现的双线技术。此方案也可以提高网通用户与电信用户的访问速度，解决了双IP双线需要在服务器上设置路由的问题，但由于IP地址采用的是网通或电信的IP，访问用户在发送请求数据包时不会自动判别最好的路由。所以这种解决方案只能说是半双线的技术方案、是一种过渡形式的解决方案。此方案一般为单线IDC 服务商往双线IDC服务商转型期所采用的临时方案。 三、 CDN方式实现双线路 CDN（Content Delivery Network）互联网内容分发网络,就是多服务器分网托管加智能域名DNS，即服务器是CDN 服务商提供，放在不同网络节点上，通过缓冲程序自动抓取用户源服务器的数据，然后缓存在不同网段节点的服务器上。再配合智能DNS服务器的分网解析功能，实现不同网络用户都能访问到离自己最近网段上的网站，从而避免因为网络问题而影响网站访问速度的目的。现绝大部份CDN技术在处理静态网站上比较成熟，对交互性很强如全动态页面的网站还不是很成熟。目前CDN方案主要作为一种辅助的解决方案需要配合其它的双线方案才能达到最好的效果。 四、用BGP协议实现的单IP双线路 BGP（边界网关协议）协议主要用于互联网AS（自治系统）之间的互联，BGP的最主要功能在于控制路由的传播和选择最好的路由。中国网通与中国电信都具有AS号（自治系统号），全国各大网络运营商多数都是通过BGP协议与自身的AS号来互联的。使用此方案来实现双线路需要在CNNIC（中国互联网信息中心）申请IDC自己的IP地址段和AS 号，然后通过BGP协议将此段IP地址广播到网通、电信等其它的网络运营商，使用BGP协议互联后网通与电信的所有骨干路由设备将会判断到IDC机房IP段的最佳路由，以保证网通、电信用户的高速访问。使用此方案具体以下优点：1．服务器只需要设置一个IP地址，最佳访问路由是由网络上的骨干路由器根据路由跳数与其它技术指标来确定的，不会对占用服务器的任何系统资源。服务器的上行路由与下行路由都能选择最优的路径，所以能真正实现高速的单IP双线访问。 2．由于BGP协议本身具有冗余备份、消除环路的特点，所以当IDC服务商有多条BGP互联线路时可以实现路由的相互备份，在一条线路出现故障时路由会自动切换到其它线路。 3．使用BGP协议还可以使网络具有很强的扩展性可以将IDC网络与其他运营商互联，轻松实现单IP多线路，做到所有互联运营商的用户访问都很快。这个是双IP双线无法比拟的。 五、单机双线路接入 和第一种方案差不多，区别是: 第一种方案访问网通的ip时走网通线路，访问电信时走电信线路，可以理解为ip 分工处理；本方案是将两个宽带提供的流量相加，它可以是两个网通线路、两个电信线路、网通+电信。可以理解为流量合并处理
分布式与集群的区别
1、Linux集群主要分成三大类( 高可用集群，负载均衡集群，科学计算集群)（下面只介绍负载均衡集群） 负载均衡集群(Load Balance Cluster) 负载均衡系统：集群中所有的节点都处于活动状态，它们分摊系统的工作负载。一般Web服务器集群、数据库集群和应用服务器集群都属于这种类型。 负载均衡集群一般用于相应网络请求的网页服务器，数据库服务器。这种集群可以在接到请求时，检查接受请求较少，不繁忙的服务器，并把请求转到这些服务器上。从检查其他服务器状态这一点上看，负载均衡和容错集群很接近，不同之处是数量上更多。 2、负载均衡系统：负载均衡又有DNS负载均衡（比较常用）、IP负载均衡、反向代理负载均衡等，也就是在集群中有服务器A、B、C，它们都是互不影响，互不相干的，任何一台的机器宕了，都不会影响其他机器的运行，当用户来一个请求，有负载均衡器的算法决定由哪台机器来处理，假如你的算法是采用round算法，有用户a、b、c，那么分别由服务器A、B、C来处理； 3、分布式是指将不同的业务分布在不同的地方。 而集群指的是将几台服务器集中在一起，实现同一业务。 分布式中的每一个节点，都可以做集群。 而集群并不一定就是分布式的。 举例：就比如新浪网，访问的人多了，他可以做一个群集，前面放一个响应服务器，后面几台服务器完成同一业务，如果有业务访问的时候，响应服务器看哪台服务器的负载不是很重，就将给哪一台去完成。 而分布式，从窄意上理解，也跟集群差不多，但是它的组织比较松散，不像集群，有一个组织性，一台服务器垮了，其它的服务器可以顶上来。 分布式的每一个节点，都完成不同的业务，一个节点垮了，哪这个业务就不可访问了。
A10服务器负载均衡解决方案解读
1SJ tit works ***** 单位 A10负载均衡解决方案 A10 Networks Inc. 1SJ tit works
目录 1.项目概述 (1) 2.需求分析及讨论 (1) 2.1应用系统所面临的共性问题 (1) 2.2需求分析 (2) 3.A10公司负载均衡解决方案 (3) 3.1网络结构图 (3) 3.2A10负载均衡解决方案 (3) 3.2.1APP Server负载均衡的实现 (4) 3.2.2应用优化的实现 (4) 3.3解决方案说明 (5) 3.4方案的优点 (6) 4.A10 AX的优点及各型号指标总结 (7) 5.A10公司简介 (7) 6.AX介绍 (8) 6.1 A10公司AX简介 (8) AX系列功能 (8)
1. 项目概述 2. 需求分析及讨论 2.1应用系统所面临的共性问题 随着用户量增大及业务的发展，一个应用系统往往会出现各种问题。瓶颈可能出现在服务器、存储、网络设备，带宽等的性能不足，而运行一旦出现故障给业务带来的影响范围是巨大的，服务器可能出现的问题表现为如下几点： ?高可用问题 关健性应用要求7*24稳定运行不被中断，高可用性问题被放在首要位置。 ?利用“不平衡”现象 数据的大集中使得服务器的访问压力日益增大，服务器性能往往会成为一个系统的瓶颈，随着性能问题的产生，单点故障的发生也将比较频繁，为了解决这些问题，传统的方式多为采取更换更好的服务器并且采用双机备份系统提供服务的方式，这样必然存在 一半的资源浪费的情况，而在压力不断上升的情况下，这种动作讲不断的重复，不但服务器的利用率不平衡，而且持续引起投资的浪费。 ?“峰值”问题 服务器的处理多存在“波峰”和“波谷”的变化。而且“波峰”时，业务量大小的变化又不规律，这就使服务器不得不面对“峰值堵塞”问题。原有解决方法为增加服务器或主机数量，提高处理能力。但仍存在性能不平衡问题，且这样做，投资成本大。 ?多米诺”现象 单台服务器的设置，不可避免会出现“单点故障”，需要进行服务器“容错”。为实现容错，往往在主服务器旁安置一台或多台备份服务器。但这样做，平时只有一台服务器工作，其它服务器处于空闲状态，无法完全利用所有服务器的处理资源，当出现“峰值堵塞”时，“多米 诺”效应往往会发生，即所有服务器连续被“堵”至“死”。最终的结果将导致系统的瘫痪。 ?“扩展”不便 随着物理和应用的集中，服务器上所要处理的数据量(traffic )增大，客户交易产生
电信网通双线备份自动切换配置
电信网通双线备份自动切换配置 RouterOS 2.9中路由规则增加的两点功能： 1、在RouterOS 2.9路由规则中增加了check-gateway的功能，能检测到网关的线路状态，如果网关无法探测到，便认为网关无法连接，会自动禁止访问网关的数据通过，check-gate way功能的探测时间为10s一个周期。 2、在RouterOS 2.9中具备了对缺省网关的判断，在RouterOS 2.9的任何一个路由表中只能存在一个缺省网关，即到任何目标地址为0.0.0.0/0，没有做路由标记（routing-mark）的规则,如果存在另一个缺省网关则认为是错误，路由将不予以执行。如下图： 从上图我们可以看到，所有访问电信的IP段从10.200.15.1出去，其他的数据走网通的缺省网关出去，在我们可以这些网关的前缀都为“AS”，即确定的静态路由，而在第二排可以看到蓝色一行，他也是一个缺省网关，但因为一个路由表中只能存在一个缺省网关，所有前缀为“S”即静态但不确定的网关，被认为位非法的。如果当202.112.12.12.11网关断线，则10.20 0.15.1会自动启用，变为缺省路由，实现现在的切换，如下：
当202.112.12.11断线后，check-gateway在10s一个周期后探测到，并将10.200.15. 11设置为缺省路由，如果202.112.12.11正常后，系统也将会将202.112.12.11设置为缺省路由，因为他是先于10.200.15.1添加入路由表中。 源地址双线应用案例 这是一个典型的通过一个路由器并使用两条ISP线路接入的环境（比如都是两条电线的ADS L或者LAN接入）： 当然，你可以选择负载均衡！这里有多种方法可以选择，只是根据你的环境，选择最适合你解决方案。
几种的负载均衡算法
实用标准文案 几种负载均衡算法 本地流量管理技术主要有以下几种负载均衡算法： 静态负载均衡算法包括：轮询，比率，优先权 动态负载均衡算法包括: 最少连接数,最快响应速度，观察方法，预测法，动态性能分配，动态服务器补充，服务质量，服务类型，规则模式。 静态负载均衡算法 ◆轮询（Round Robin）：顺序循环将请求一次顺序循环地连接每个服务器。当其中某个服务器发生第二到第7 层的故障，BIG-IP 就把其从顺序循环队列中拿出，不参加下一次的轮询，直到其恢复正常。 ◆比率（Ratio）：给每个服务器分配一个加权值为比例，根椐这个比例，把用户的请求分配到每个服务器。当其中某个服务器发生第二到第7 层的故障，BIG-IP 就把其从服务器队列中拿出，不参加下一次的用户请求的分配, 直到其恢复正常。 ◆优先权（Priority）：给所有服务器分组,给每个组定义优先权，BIG-IP 用户的请求，分配给优先级最高的服务器组（在同一组内，采用轮询或比率算法，分配用户的请求）；当最高优先级中所有服务器出现故障，BIG-IP 才将请求送给次优先级的服务器组。这种方式，实际为用户提供一种热备份的方式。 动态负载均衡算法 ◆最少的连接方式（Least Connection）：传递新的连接给那些进行最少连接处理的服务器。当其中某个服务器发生第二到第7 层的故障，BIG-IP 就把其从服务器队列中拿出，不参加下一次的用户请求的分配, 直到其恢复正常。
◆最快模式（Fastest）：传递连接给那些响应最快的服务器。当其中某个服务器发生第二到第7 层的故障，BIG-IP 就把其从服务器队列中拿出，不参加下一次的用户请求的分配，直精彩文档．实用标准文案 到其恢复正常。 ◆观察模式（Observed）：连接数目和响应时间以这两项的最佳平衡为依据为新的请求选择服务器。当其中某个服务器发生第二到第7 层的故障，BIG-IP就把其从服务器队列中拿出，不参加下一次的用户请求的分配，直到其恢复正常。 ◆预测模式（Predictive）：BIG-IP利用收集到的服务器当前的性能指标，进行预测分析，选择一台服务器在下一个时间片内，其性能将达到最佳的服务器相应用户的请求。(被BIG-IP 进行检测) ◆动态性能分配(Dynamic Ratio-APM):BIG-IP 收集到的应用程序和应用服务器的各项性能参数，动态调整流量分配。 ◆动态服务器补充(Dynamic Server Act.):当主服务器群中因故障导致数量减少时，动态地将备份服务器补充至主服务器群。 ◆服务质量(QoS）:按不同的优先级对数据流进行分配。 ◆服务类型(ToS): 按不同的服务类型（在Type of Field中标识）负载均衡对数据流进行分配。 ◆规则模式：针对不同的数据流设置导向规则，用户可自行。 负载均衡对应本地的应用交换，大家可以通过对上述负载均衡算法的理解，结合实际的需求来采用合适你的负载均衡算法，我们常用到的一般是最少连接数、最快反应、或者轮询，决定选用那种算法，主要还是要结合实际的需求。
服务器负载均衡
服务器集群方案 LVS项目简介 LVS--Linux Virtual Server（Linux虚拟服务器）。针对高可伸缩、高可用网络服务的需求，LVS采用了基于IP层和基于内容请求分发的负载平衡调度解决方法，并在Linux内核中实现了这些方法，将一组服务器构成一个实现可伸缩的、高可用网络服务的虚拟服务器。一组服务器通过高速的局域网或者地理分布的广域网相互连接，在它们的前端有一个负载调度器。负载调度器能无缝地将网络请求调度到真实服务器上，从而使得服务器集群的结构对客户是透明的，客户访问集群系统提供的网络服务就像访问一台高性能、高可用的服务器一样。客户程序不受服务器集群的影响不需作任何修改。系统的伸缩性通过在服务机群中透明地加入和删除一个节点来达到，通过检测节点或服务进程故障和正确地重置系统达到高可用性。二、IP虚拟服务器软件IPVS 在调度器的实现技术中，IP负载均衡技术是效率最高的。在已有的IP负载均衡技术中有通过网络地址转换（Network Address Translation）将一组服务器构成一个高性能的、高可用的虚拟服务器，称之为VS/NAT技术（Virtual Server via Network Address Translation），大多数商品化的IP负载均衡调度器产品都是使用此方法，如Cisco的LocalDirector、F5的Big/IP和 Alteon的ACEDirector。在分析VS/NAT的缺点和网络服务的非对称性的基础上，LVS提供通过IP隧道实现虚拟服务器的方法VS/TUN （Virtual Server via IP Tunneling），和通过直接路由实现虚拟服务器的方法VS/DR （Virtual Server via Direct Routing），它们可以极大地提高系统的伸缩性。所以，IPVS软件实现了这三种IP负载均衡技术，它们的大致原理如下： 1、Virtual Server via Network Address Translation（VS/NAT）通过网络地址转换，调度器重写请求报文的目标地址，根据预设的调度算法，将请求分派给后端的真实服务器；真实服务器的响应报文通过调度器时，报文的源地址被重写，再返回给客户，完成整个负载调度过程。 2、Virtual Server via IP Tunneling（VS/TUN）采用NAT技术时，由于请求和响应报文都必须经过调度器地址重写，当客户请求越来越多时，调度器的处理能力将成为瓶颈。为了解决这个问题，调度器把请求报文通过IP隧道转发至真实服务器，而真实服务器将响应直接返回给客户，所以调度器只处理请求报文。由于一般网络服务应答比请求报文大许多，采用 VS/TUN技术后，集群系统的最大吞吐量可以提高10倍。
服务器负载均衡三种部署方式典型配置..
目录 服务器负载均衡三种部署方式典型配置 (2) 【应用场景】 (2) 【工作原理】 (2) 【三种方式的典型配置方法】 (3) 一、服务器负载均衡NA T模式配置 (3) 1、配置拓扑 (3) 2、拓扑说明 (3) 3、设备配置及说明 (4) 二、服务器负载均衡DR模式配置 (16) 1、配置拓扑 (16) 2、拓扑说明 (16) 3、设备配置及说明 (16) 三、服务器负载均衡NA T模式旁路部署配置 (23) 1、配置拓扑 (23) 2、拓扑说明 (23) 3、设备配置及说明 (23)
服务器负载均衡三种部署方式典型配置 服务器负载均衡部署方式可以分为三种方式：网络地址转换模式（NAT）、直接路由（DR）模式、NAT模式旁路部署。 【应用场景】 1、NA T模式应用场景：用户允许修改网络拓扑结构，此模式同时可以实现加速和流控的功 能。 2、DR模式应用场景：用户不允许修改网络拓扑结构，但是此模式配置需要修改服务器配 置。 3、NA T模式旁路模式应用场景：用户既不允许修改网络拓扑结构，也不允许修改服务器配 置。 【工作原理】 1、NAT模式：负载均衡设备分发服务请求时，进行目的IP地址转换（目的IP地址为实服务的IP），通过路由将报文转发给各个实服务。 客户端将到虚拟IP的请求发送给服务器群前端的负载均衡设备，负载均衡设备上的虚服务接收客户端请求，依次根据持续性功能、调度算法，选择真实服务器，再通过网络地址转换，用真实服务器地址重写请求报文的目标地址后，将请求发送给选定的真实服务器；真实服务器的响应报文通过负载均衡设备时，报文的源地址被还原为虚服务的虚拟IP，再返回给客户，完成整个负载调度过程。 2、DR模式：负载均衡设备分发服务请求时，不改变目的IP地址，而将报文的目的MAC 替换为实服务的MAC后直接把报文转发给实服务。 DR方式的服务器负载均衡时，除了负载均衡设备上配置了虚拟IP，真实服务器也都配置了虚拟IP，真实服务器配置的虚拟IP要求不能响应ARP请求。实服务除了虚拟IP，还需要配置一个真实IP，用于和负载均衡设备通信，负载均衡设备和真实服务器在同一个链路域内。发送给虚拟IP的报文，由负载均衡设备分发给相应的真实服务器，从真实服务器返回给客户端的报文直接通过交换机返回。