05-LoadBalancer负载均衡
changming06 2024-10-02 08:39:00 阅读 79
1.Ribbon目前也进入维护模式
1.1 Ribbon介绍
Spring Cloud Ribbon是基于Netflix Ribbon实现的一套客户端负载均衡的工具。
简单的说,Ribbon是Netflix发布的开源项目,主要功能是提供客户端的软件负载均衡算法和服务调用。Ribbon客户端组件提供一系列完善的配置项如连接超时,重试等。简单的说,就是在配置文件中列出Load Balancer(简称LB)后面所有的机器,Ribbon会自动的帮助你基于某种规则(如简单轮询,随机连接等)去连接这些机器。我们很容易使用Ribbon实现自定义的负载均衡算法。
https://github.com/Netflix/ribbon
1.2 Ribbon替代方案
spring-cloud-loadbalancer
2.spring-cloud-loadbalancer概述
2.1 官网
2.2 是什么
LB负载均衡(Load Balance)是什么
简单的说就是将用户的请求平摊的分配到多个服务上,从而达到系统的<code>HA(高可用),常见的负载均衡有软件Nginx
,LVS
,硬件F5
等
spring-cloud-starter-loadbalancer组件是什么
Spring Cloud LoadBalancer是由SpringCloud官方提供的一个开源的、简单易用的客户端负载均衡器,它包含在SpringCloud-commons中用它来替换了以前的Ribbon组件。相比较于Ribbon,SpringCloud LoadBalancer不仅能够支持RestTemplate,还支持WebClient(WeClient是Spring Web Flux中提供的功能,可以实现响应式异步请求)。
https://docs.spring.io/spring-cloud-commons/reference/spring-cloud-commons/loadbalancer.html
2.3 面试题
loadbalancer本地负载均衡客户端 VS Nginx服务端负载均衡区别
Nginx是服务器负载均衡,客户端所有请求都会交给nginx,然后由nginx实现转发请求,即负载均衡是由服务端实现的。
loadbalancer本地负载均衡,在调用微服务接口时候,会在注册中心上获取注册信息服务列表之后缓存到JVM本地,从而在本地实现RPC远程服务调用技术。
个人理解,客户端负载均衡,是由客户端,选择向那台机器发起请求,并获得响应。而服务端负载均衡,是由服务器端(nginx),决定某个请求,由那台机器处理,然后响应给客户端。
3.spring-cloud-loadbalancer负载均衡解析
3.1 理论
LoadBalancer 在工作时分成两步:
第一步,先选择ConsulServer从服务端查询并拉取服务列表,知道了它有多个服务(上图3个服务),这3个实现是完全一样的,
默认轮询调用谁都可以正常执行。类似生活中求医挂号,某个科室今日出诊的全部医生,客户端你自己选一个。
第二步,按照指定的负载均衡策略从server取到的服务注册列表中由客户端自己选择一个地址,所以LoadBalancer是一个客户端的负载均衡器。
3.2 实操
3.2.1 官网参考如何正确使用
https://docs.spring.io/spring-cloud-commons/reference/spring-cloud-commons/loadbalancer.html
3.2.2 按照8001拷贝新建8002
略
3.2.3 启动Consul,然后启动8001和8002
启动Consul
<code>consul agent -dev
获取在consul中配置的测试信息,通过8001或8002接口
略
bug
在consul中的配置重启后,消失了
3.2.4 Consul数据持久化配置并注册为Window服务
1.在consul.exe的同级目录下,新建mydata文件夹
2.新建consul_start.bat文件
@echo.Consul Start......
@echo off
@sc create Consul binpath= "D:\Develop\consul\consul.exe agent -server -ui -bind=127.0.0.1 -client=0.0.0.0 -bootstrap-expect 1 -data-dir D:\Develop\consul\mydata "
@net start Consul
@sc config Consul start= AUTO
@echo.Consul start is OK......success
@pause
3.管理员权限打开
4.启动结果
5.win后台
会多出consul服务
6.后续consul的配置数据会保存到mydata文件夹
3.2.5 修改Order模块
1.引入依赖
<code><!--loadbalancer-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-loadbalancer</artifactId>
</dependency>
2.新增接口
@GetMapping(value = "/consumer/pay/get/info")
public String getInfoByConsul() {
return restTemplate.getForObject(PAYMENT_SRV_URL + "/pay/get/info", String.class);
}
3.consul服务
4.测试
http://localhost:8080/consumer/pay/get/info
访问改接口,可见交替访问8001和8002
3.3 小总结
3.3.1 使用DiscoveryClient动态获取上线的服务列表
3.3.2 订单模块新增代码
<code>@Resource
private DiscoveryClient discoveryClient;
@GetMapping("/discovery")
public String discovery() {
//获取所有的consul中的服务名
List<String> services = discoveryClient.getServices();
for (String element : services) {
System.out.println(element);
}
System.out.println("===================================");
//获取key服务的所有服务实例
List<ServiceInstance> instances = discoveryClient.getInstances("cloud-payment-service");
for (ServiceInstance element : instances) {
//服务实例名 + 服务主机名 + 服务端口号 + 服务url
System.out.println(element.getServiceId() + "\t" + element.getHost() + "\t" + element.getPort() + "\t" + element.getUri());
}
return instances.get(0).getServiceId() + ":" + instances.get(0).getPort();
}
输出信息
cloud-consumer-order
cloud-payment-service
consul
===================================
cloud-payment-servicex8001http://x:8001 x是主机名
cloud-payment-servicex8002 http://x:8002
3.3.3 负载均衡原理小总结
负载均衡算法:rest接口第几次请求数 % 服务器集群总数量 = 实际调用服务器位置下标 ,每次服务重启动后rest接口计数从1开始。
<code>List<ServiceInstance> instances = discoveryClient.getInstances("cloud-payment-service");
//如
List [0] instances = 127.0.0.1:8002
List [1] instances = 127.0.0.1:8001
8001+ 8002 组合成为集群,它们共计2台机器,集群总数为2, 按照轮询算法原理:
当总请求数为1时: 1 % 2 =1 对应下标位置为1 ,则获得服务地址为127.0.0.1:8001
当总请求数位2时: 2 % 2 =0 对应下标位置为0 ,则获得服务地址为127.0.0.1:8002
当总请求数位3时: 3 % 2 =1 对应下标位置为1 ,则获得服务地址为127.0.0.1:8001
当总请求数位4时: 4 % 2 =0 对应下标位置为0 ,则获得服务地址为127.0.0.1:8002
如此类推......
4.负载均衡算法原理
4.1 默认算法,有几种
4.1.1 官网
https://docs.spring.io/spring-cloud-commons/reference/spring-cloud-commons/loadbalancer.html#switching-between-the-load-balancing-algorithms
4.1.2 默认两种
轮询
<code>public class RoundRobinLoadBalancer implements ReactorServiceInstanceLoadBalancer
随机
public class RoundRobinLoadBalancer implements ReactorServiceInstanceLoadBalancer
源码
略,见org.springframework.cloud.client.loadbalancer.reactive.ReactiveLoadBalancer
接口
4.2 算法切换
@LoadBalancerClient(value = "cloud-payment-service",configuration = RestTemplateConfig.class)
public class RestTemplateConfig {
@Bean
@LoadBalanced
public RestTemplate restTemplate(){
return new RestTemplate();
}
@Bean
ReactorLoadBalancer<ServiceInstance> randomLoadBalancer(Environment environment,
LoadBalancerClientFactory loadBalancerClientFactory) {
String name = environment.getProperty(LoadBalancerClientFactory.PROPERTY_NAME);
return new RandomLoadBalancer(loadBalancerClientFactory
.getLazyProvider(name, ServiceInstanceListSupplier.class),
name);
}
}
The classes you pass as
@LoadBalancerClient
or@LoadBalancerClients
configuration arguments should either not be annotated with@Configuration
or be outside component scan scope.
在RestTemplateConfig的类上,有@LoadBalancerClient或者@LoadBalancerClients,就不该在使用@Configuration注解了,包含了。
Configuration(proxyBeanMethods = false)
@Import(LoadBalancerClientConfigurationRegistrar.class)
@Target(ElementType.TYPE)
@Retention(RetentionPolicy.RUNTIME)
@Documented
public @interface LoadBalancerClient
@Configuration(proxyBeanMethods = false)
@Retention(RetentionPolicy.RUNTIME)
@Target({ ElementType.TYPE })
@Documented
@Import(LoadBalancerClientConfigurationRegistrar.class)
public @interface LoadBalancerClients
只是为了记录自己的学习历程,且本人水平有限,不对之处,请指正。
声明
本文内容仅代表作者观点,或转载于其他网站,本站不以此文作为商业用途
如有涉及侵权,请联系本站进行删除
转载本站原创文章,请注明来源及作者。