1、负载均衡 Robbin

在刚才的案例中，我们启动了一个user-service，然后通过DiscoveryClient来获取服务实例信息，然后获取ip和端口来访问。

但是实际环境中，我们往往会开启很多个 user-service 的集群。此时我们获取的服务列表中就会有多个，到底该访问哪一个呢？

一般这种情况下我们就需要编写负载均衡算法，在多个实例列表中进行选择。

不过 Eureka 中已经帮我们集成了负载均衡组件：Ribbon，简单修改代码即可使用。

什么是 Ribbon：

接下来，我们就来使用 Ribbon 实现负载均衡。

2、启动两个服务实例

首先我们启动两个user-service实例，一个8081，一个8082。

Eureka 监控面板：

3、开启负载均衡

因为 Eureka 中已经集成了 Ribbon，所以我们无需引入新的依赖。直接修改代码：

在 RestTemplate 的配置方法上添加@LoadBalanced注解：

    @Bean
    @LoadBalanced
    public RestTemplate restTemplate(){
        return new RestTemplate();
    }

@LoadBalanced 内置了一个拦截器，拦截了请去

修改调用方式，不再手动获取 ip和端口，而是直接通过服务名称调用：

package cn.ys.consumer.controller;

import cn.ys.consumer.pojo.User;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.client.RestTemplate;

@RestController
@RequestMapping("consumer")
public class ConsumerController {

    @Autowired
    private RestTemplate restTemplate;

    @GetMapping("{id}")
    public User queryById(@PathVariable("id") Long id ){

        // 获取ip和端口信息
        String url = "http://user-service/user/" + id;
        User user = restTemplate.getForObject(url, User.class);
        return user;
    }

}

访问页面，查看结果：

后面的了解即可

4、源码跟踪

为什么我们只输入了 service名称 就可以访问了呢？之前还要获取 ip和端口。

显然有人帮我们根据 service名称，获取到了服务实例的 ip和端口。它就是 LoadBalancerInterceptor

我们进行源码跟踪：Ctrl + Shift + Alt +N

继续跟入execute方法：发现获取了 8082端口的服务

再跟下一次，发现获取的是 8081：

5、负载均衡策略

Ribbon 默认的负载均衡策略是简单的轮询，我们可以测试一下：

编写测试类，在刚才的源码中我们看到拦截中是使用RibbonLoadBalanceClient来进行负载均衡的，其中有一个choose方法，是这样介绍的：

现在这个就是负载均衡获取实例的方法。

我们对注入这个类的对象，然后对其测试：

@RunWith(SpringRunner.class)
@SpringBootTest(classes = UserConsumerDemoApplication.class)
public class LoadBalanceTest {

    @Autowired
    RibbonLoadBalancerClient client;

    @Test
    public void test(){
        for (int i = 0; i < 100; i++) {
            ServiceInstance instance = this.client.choose("user-service");
            System.out.println(instance.getHost() + ":" + instance.getPort());
        }
    }
}

结果：

符合了我们的预期推测，确实是轮询方式。

我们是否可以修改负载均衡的策略呢？

继续跟踪源码，发现这么一段代码：

我们看看这个rule是谁：

这里的rule默认值是一个RoundRobinRule，看类的介绍：

这不就是轮询的意思嘛。

我们注意到，这个类其实是实现了接口IRule的，查看一下：

定义负载均衡的规则接口。

它有以下实现：

SpringBoot 也帮我们提供了修改负载均衡规则的配置入口：

user-service:
  ribbon:
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule

格式是：{服务名称}.ribbon.NFLoadBalancerRuleClassName，值就是IRule的实现类。

再次测试，发现结果变成了随机：

6、重试机制

Eureka 的服务治理强调了CAP原则中的AP，即可用性和可靠性。它与 Zookeeper 这一类强调 CP（一致性，可靠性）的服务治理框架最大的区别在于：Eureka 为了实现更高的服务可用性，牺牲了一定的一致性，极端情况下它宁愿接收故障实例也不愿丢掉健康实例，正如我们上面所说的自我保护机制。

但是，此时如果我们调用了这些不正常的服务，调用就会失败，从而导致其它服务不能正常工作！这显然不是我们愿意看到的。

我们现在关闭一个 user-service 实例：

因为服务剔除的延迟，consumer 并不会立即得到最新的服务列表，此时再次访问你会得到错误提示：

但是此时，8081 服务其实是正常的。

因此 Spring Cloud 整合了 Spring Retry 来增强 RestTemplate 的重试能力，当一次服务调用失败后，不会立即抛出一次，而是再次重试另一个服务。

只需要简单配置即可实现 Ribbon 的重试：

spring:
  cloud:
    loadbalancer:
      retry:
        enabled: true # 开启Spring Cloud的重试功能
user-service:
  ribbon:
    ConnectTimeout: 250 # Ribbon的连接超时时间
    ReadTimeout: 1000 # Ribbon的数据读取超时时间
    OkToRetryOnAllOperations: true # 是否对所有操作都进行重试
    MaxAutoRetriesNextServer: 1 # 切换实例的重试次数
    MaxAutoRetries: 1 # 对当前实例的重试次数

根据如上配置，当访问到某个服务超时后，它会再次尝试访问下一个服务实例，如果不行就再换一个实例，如果不行，则返回失败。切换次数取决于MaxAutoRetriesNextServer参数的值

引入 spring-retry 依赖

<dependency>
    <groupId>org.springframework.retry</groupId>
    <artifactId>spring-retry</artifactId>
</dependency>

我们重启 user-consumer-demo，测试，发现即使 user-service2 宕机，也能通过另一台服务实例获取到结果！