负载均衡原理

简介几种负载均衡原理

高并发解决方案之一 ——负载均衡

程序员小灰-负载均衡的原理

负载均衡层级概念

1.什么是负载均衡？

当一台服务器的性能达到极限时，我们可以使用服务器集群来提高网站的整体性能。那么，在服务器集群中，需要有一台服务器充当调度者的角色，用户的所有请求都会首先由它接收，调度者再根据每台服务器的负载情况将请求分配给某一台后端服务器去处理。

那么在这个过程中，调度者如何合理分配任务，保证所有后端服务器都将性能充分发挥，从而保持服务器集群的整体性能最优，这就是负载均衡问题。

下面详细介绍负载均衡的四种实现方式。 

（一）HTTP重定向

过程描述       

当用户向服务器发起请求时 ， 请求首先被集群调度者截获 ； 调度者 根据某种分配策略 ， 选择一台服务器 ，并 将选中的服务器的IP地址封装在HTTP响应消息头部的Location字段中 ，并将响应消息的状态码设为302，最后将这个响应消息返回给浏览器。

当 浏览器收到响应消息后，解析Location字段，并向该URL发起请求 ，然后指定的服务器处理该用户的请求，最后将结果返回给用户。

在 【使用HTTP重定向来实现服务器集群负载均衡的过程中，需要一台服务器作为请求调度者】 。 【用户的一项操作需要发起两次HTTP请求】 ，一次向调度服务器发送请求，获取后端服务器的IP，第二次向后端服务器发送请求，获取处理结果。 

简单来说就是：

【当http代理（比如 浏览器）向web服务器请求某个URL后，web服务器可以通过http响应头信息中的Location标记来返回一个新的URL。 这意味着HTTP代理需要 继续请求这个新的URL，完成自动跳转 。】

调度策略

调度服务器收到用户的请求后，究竟选择哪台后端服务器处理请求，这由调度服务器所使用的调度策略决定。

随机分配策略 

当调度服务器收到用户请求后，可以随机决定使用哪台后端服务器，然后将该服务器的IP封装在HTTP响应消息的Location属性中，返回给浏览器即可。

轮询策略(RR) 

调度服务器需要维护一个值，用于记录上次分配的后端服务器的IP。那么当新的请求到来时，调度者将请求依次分配给下一台服务器。

由于轮询策略需要调度者维护一个值用于记录上次分配的服务器IP，因此需要额外的开销；此外，由于这个值属于互斥资源，那么当多个请求同时到来时，为了避免线程的安全问题，因此需要锁定互斥资源，从而降低了性能。而随机分配策略不需要维护额外的值，也就不存在线程安全问题，因此性能比轮询要高。 

缺点：

1、吞吐率限制

主站点服务器的吞吐率平均分配到了被转移的服务器。现假设使用RR（Round Robin）调度策略，子服务器的最大吞吐率为1000reqs/s， 那么主站点服务器的吞吐率要达到3000reqs/s才能完X全X发X挥X三Xzi服务器的作用，那么如果有100台子服务器，那么主服务器的吞吐率可想而知得有大？相反，如果主服务的最大吞吐率为6000reqs/s，那么平均分配到子服务器的吞吐率为2000reqs/s，而现子服务器的最大吞吐率为1000reqs/s，因此就得增加子服务器的数量，增加到6个才能满足。

2、重定向访问深度不同

有的重定向一个静态页面，有的重定向相比复杂的动态页面，那么实际服务器的负载差异是不可预料的，而主站服务器却一无所知。因此整站使用重定向方法做负载均衡不太好。

我们需要权衡转移请求的开销和处理实际请求的开销，前者相对于后者越小，那么重定向的意义就越大，例如下载。你可以去很多镜像下载网站试下，会发现基本下载都使用了Location做了重定向。

==============================================================

评论

发表评论

您还没有登录,请您登录后再发表评论