Hystrix入门demo

Hystrix入门demo

Hystrix的三种降级策略

  • 熔断触发降级
  • 超时触发降级
  • 资源隔离触发降级

熔断触发降级

? 熔断机制是一种保护性的机制,当系统某个服务失败率过高的时候,将开启熔断器,对该服务的后续调用直接拒绝,进行fallback操作。

熔断器开启的两个条件

  • 请求数达到设定的阈值
  • 请求的失败数 / 总请求书 > 错误占比阈值

代码展示

     /**
     * HystrixProperty的参数可参考 hystrixCommandProperties
     * 熔断触发降级
     * @return
     */
    @GetMapping("/circuitBreaker/{num}")
    @HystrixCommand(commandProperties  = {
            @HystrixProperty (name = "circuitBreaker.enabled" ,value = "true"),
            @HystrixProperty(name = "circuitBreaker.requestVolumeThreshold",value ="5"),
            @HystrixProperty(name = "circuitBreaker.sleepWindowInMilliseconds" , value ="5000"),  //熔断时间5秒
            @HystrixProperty(name="circuitBreaker.errorThresholdPercentage",value = "50")  //错误流程比例

    } ,fallbackMethod = "fallback")
    public String circuitBreaker(@PathVariable("num")int num){
        if(num%2==0){
            return "正常访问";
        }

        throw new RuntimeException("");
    }

    public String fallback(int num){
        return "熔断触发降级";
    }

参数解析:

@HystrixProperty (name = "circuitBreaker.enabled" ,value = "true") 开启熔断降级功能

@HystrixProperty(name = "circuitBreaker.requestVolumeThreshold",value ="5") 最小请求次数,这里是5个请求

@HystrixProperty(name = "circuitBreaker.sleepWindowInMilliseconds" , value ="5000") 熔断时间5秒

@HystrixProperty(name="circuitBreaker.errorThresholdPercentage",value = "50") 错误比例超过50%,就熔断


fallbackMethod = "fallback" 触发回调的方法 , 当前类的下的方法名

注意: 请求服务方法和回调方法,入参要一致,不然会报错的

功能解析:

  • 当请求错误的时候,会触发fallback这个回调方法
  • 10s钟之内,当发起了超过5次请求,且失败率超过50%,熔断自动开启,从熔断开启到后续5s之内的请求,都不会进入到方法里,并且直接触发fallback这个回调方法返回。

结果展示:

技术分享图片

? 分析: 可以看到我发送了三次请求:http://127.0.0.1:9091/hystrix/circuitBreaker/1 , 然后发送http://127.0.0.1:9091/hystrix/circuitBreaker/2 请求两次,这两次返回都是正常访问的。发送第三次的时候就返回熔断触发降级了。 这是因为:前面发送了5个请求,3个失败了,2个成功,但是我们设置了是5次请求且失败率是50%以上触发的。所以到第6个请求的时候触发了熔断降级,需要等待5秒后才能正常恢复正常。

超时触发降级

? 超时触发降级:当系统某个服务请求需要时间超过这个服务正常的请求时间,可以认为该服务已经请求失败,直接降级返回。

? 项目经历的场景:比如测试一个数据源是否有效,正常情况下的话(不管成功还是失败),会很快就能返回了,有些情况,服务会一直请求访问数据源而卡着。这个时候用超时触发降级就能达到要求了。因为他卡着其实这个数据源你是不成功的,那我直接返回给前台告诉他数据源不可用就行了

代码展示:

    /**
     * 超时时间触发降级
     * @return
     */
    @GetMapping("/timeOut")
    @HystrixCommand(commandProperties  = {
        @HystrixProperty(name = "execution.timeout.enabled" , value = "true"),
        @HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds" , value = "1000"),
    } ,fallbackMethod = "fallback")
    public String timeOut() throws InterruptedException {
        Thread.sleep(3000) ;
        return "正常访问";

    }


    public String fallback(){
        return "触发降级";
    }

参数解析:

@HystrixProperty(name = "execution.timeout.enabled" , value = "true"), 启动超时触发降级
@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds" , value = "1000"), 超过1s就触发降级

功能解析:

  • 当请求超过1s,就会触发降级

资源隔离触发降级

资源隔离触发降级又分成两种:

  • 信号量隔离
  • 线程池隔离

信号量隔离

? 信号隔离是通过限制依赖服务的并发请求数,来控制隔离开关,它不会使用Hystrix管理的线程池处理请求。使用容器(Tomcat)的线程处理请求逻辑。特点:不涉及线程切换,资源调度,上下文的转换等,相对效率高。触发条件:信号量隔离也会启动熔断机制。如果请求并发数超标,则触发熔断,返回fallback数据。

     public String fallback(){
        return "触发降级";
    }

	@GetMapping("/semaphore")
    @HystrixCommand(
            commandProperties = {
                    @HystrixProperty(name = "execution.isolation.strategy" , value = "SEMAPHORE"),
                    @HystrixProperty(name = "execution.isolation.semaphore.maxConcurrentRequests" , value = "2") //信号量大小
            },
            fallbackMethod = "fallback"
    )
    public String semaphore() throws InterruptedException {
        return "semaphore正常访问";
    }

参数配置:

  • @HystrixProperty(name = "execution.isolation.strategy" , value = "SEMAPHORE"), 隔离的种类,可选值只有THREAD(线程池隔离)和SEMAPHORE(信号量隔离)。默认是THREAD线程池隔离。设置信号量隔离后,线程池相关配置失效。
  • @HystrixProperty(name = "execution.isolation.semaphore.maxConcurrentRequests" , value = "2") 信号量大小,这服务只能两个请求同时访问 信号量最大并发数。默认值是10。常见配置500~1000。

功能解析:

? 这个方法不能超过2个线程以上同时访问。

线程池隔离

? hystrix进行资源隔离,其实是提供了一个抽象,叫做command,就是说,你如果要把对某一个依赖服务的所有调用请求,全部隔离在同一份资源池内对这个依赖服务的所有调用请求,全部走这个资源池内的资源,不会去用其他的资源了,这个就叫做资源隔离

? 比如:对某一个商品服务所有的调用请求,全部隔离到一个线程池内,对商品服务的每次调用请求都封装在一个command里面每个command(每次服务调用请求)都是使用线程池内的一个线程去执行的,所以哪怕现在这个商品服务同时发起的调用量已经到了1000了,但是线程池内就10个线程,其他的请求都会存到等待队列中,最多就只会用这10个线程去执行请求,对商品服务的请求,因为接口调用延迟。不会将tomcat内部所有的线程资源全部耗尽。

使用线程隔离的好处:

  • 应用程序可以不受失控的第三方客户端的威胁,如果第三方客户端出现问题,可以通过降级来隔离依赖。
  • 当失败的客户端服务恢复时,线程池将会被清除,应用程序也会恢复,而不至于使整个Tomcat容器出现故障。
  • 简而言之,由线程供的隔离功能可以使客户端和应用程序优雅的处理各种变化,而不会造成中断。

线程池的缺点

  • 线程最主要的缺点就是增加了CPU的计算开销,每个command都会在单独的线程上执行,这样的执行方式会涉及到命令的排队、调度和上下文切换。
  • Netflix在设计这个系统时,决定接受这个开销的代价,来换取它所提供的好处,并且认为这个开销是足够小的,不会有重大的成本或者是性能影响。

代码展示:

 private int num1 = 1;
   

@HystrixCommand(
            commandProperties = {
                    @HystrixProperty(name = "execution.isolation.strategy" , value = "THREAD"),  //使用线程池的隔离
                    @HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds" , value = "3000"),  //超时设置为3秒

            },
            threadPoolProperties = {

                    @HystrixProperty(name = "coreSize" , value = "20"), //线程池大小
                    @HystrixProperty(name = "maxQueueSize" , value = "1000"), //等待队列长度
                    @HystrixProperty(name = "keepAliveTimeMinutes", value = "2"),//线程存活时间
                    @HystrixProperty(name = "queueSizeRejectionThreshold" , value = "800"),  
            },
            groupKey = "ThreadService", commandKey = "thread" ,threadPoolKey = "ThreadService",
            fallbackMethod = "fallback"
            )
    public void  thread() throws  Exception  {
        Thread.sleep(1000);
        System.out.println(Thread.currentThread() + "正常访问" + num1++);
    }



    public void fallback(){
        System.out.println("熔断时间:" + new Date());
    }

参数解析:

  • ? @HystrixProperty(name = "execution.isolation.strategy" , value = "THREAD") 使用线程池的隔离

  • ? @HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds" , value = "3000") 超时设置为3秒,默认是1s


  • ? @HystrixProperty(name = "coreSize" , value = "20") 线程池大小,默认是5个

  • ? @HystrixProperty(name = "maxQueueSize" , value = "1000") 等待队列长度,注意 :该设置只会在初始化时有效,之后不能修改threadpool的queue size

  • ? @HystrixProperty(name = "keepAliveTimeMinutes", value = "2") 线程存活时间,如果corePoolSize和maxPoolSize设成一样(默认实现)该设置无效

  • ? @HystrixProperty(name = "queueSizeRejectionThreshold" , value = "800"), 即使maxQueueSize没有达到,达到queueSizeRejectionThreshold该值后,请求也会被拒绝。因为maxQueueSize不能被动态修改,这个参数将允许我们动态设置该值。if maxQueueSize == -1,该字段将不起作用


  • threadPoolKey 线程池的名字。 默认的threadpool key就是command group名称

  • groupKey 群组的key

  • commandKey 代表了一类command,一般来说,代表了底层的依赖服务的一个接口

? command group一般来说,可以是对应一个服务,多个command key对应这个服务的多个接口,多个接口的调用共享同一个线程池

如果说你的command key,要用自己的线程池,可以定义自己的threadpool key.

测试用例:

@Autowired
private ThreadService threadService;

@Test
public void  threadTest() throws Exception {


    System.out.println("开始时间: " + new Date());
    for (int i = 0; i < 100; i++) {
        new Thread(new Runnable() {
            public void run()  {
                try {
                    threadService.thread();
                } catch (Exception e) {
                    e.printStackTrace();
                }
            }
        }).start();
  }
    Thread.sleep(100000 );
    System.out.println("完成了");
}

结果测试展示:

技术分享图片

  • 可以留意到了线程的名字是ThreadService就是我们设置的threadPoolKey,看序号刚好就到20,跟我们想象的结果一样的,证明了maxQueueSize是对的

  • 超时的熔断时间-开始时间 = 4 秒 .这个是正常的。因为这里的开始时间是第一个启动线程的开始时间,而不是那个熔断的线程启动的开始时间,算下来有4秒跟三秒差不多。其实也验证了我们这个execution.isolation.thread.timeoutInMilliseconds的设置是正确的。

代码地址: https://gitee.com/gzgyc/cloud-demo.git 里的hystrix-demo

Hystrix入门demo

原文:https://www.cnblogs.com/dabenxiang/p/13676116.html