Hystrix针对不可用服务的保护机制以及引入缓存

之前我写过一篇博文,通过案例了解Hystrix的各种基本使用方式,在这篇文章里,我们是通过Hystrix调用正常工作的服务,也就是说,Hytrix的保护机制并没有起作用,这里我们将在HystrixProtectDemo.java里演示调用不可用的服务时,hystrix启动保护机制的流程。这个类是基于NormalHystrixDemo.java改写的,只是在其中增加了getFallback方法,代码如下。

1	//省略必要的package和import代码
2	public class HystrixProtectDemo extends HystrixCommand<String> {
3		RestClient client = null;
4		HttpRequest request = null;
5	    //构造函数很相似
6		public HystrixDemoProtectDemo() {
7		super(HystrixCommandGroupKey.Factory.asKey("ExampleGroup"));
8		}
9	   //initRestClient方法没变
10		private void initRestClient(){
11	        //和NormalHystrixDemo.java一样,具体请参考代码
12		}
13		//run方法也没变
14		protected String run() {
15			//和NormalHystrixDemo.java一样,具体请参考代码
16		}
17	    //这次多个了getFallback方法,一旦出错,会调用其中的代码
18		protected String getFallback() {
19			//省略跳转到错误提示页面的动作
20			return "Call Unavailable Service.";
21		}
22		//main函数
23		public static void main(String[] args) {
24			HystrixDemoProtectDemo normalDemo = new HystrixDemoProtectDemo();
25			normalDemo.initRestClient();
26			try {
27				Thread.sleep(1000);
28			} catch (InterruptedException e) {
29				e.printStackTrace();
30			}
31			String result = normalDemo.execute();
32			System.out.println("Call available function, result is:" + result);
33		}
34	}

这个类里的构造函数和NormalHystrixDemo.java很相似,而initRestClient和run方法根本没变,所以就不再详细给出了。

在第18行里,我们重写了HystrixCommand类的getFallback方法,在其中定义了一旦访问出错的动作,这里仅仅是输出一段话,在实际的项目里,可以跳转到相应的错误提示页面。

而main函数里的代码和NormalHystrixDemo.java里的完全一样,只是,在运行这段代码前无需运行HystrixServerDemo项目的启动类,这样服务一定是调用不到的。运行本段代码后,我们能看到如下的结果。  

In run

Call available function, result is:Call Unavailable Service.

从第2行的输出上,我们能确认,一旦调用服务出错,Hystrix处理类能自动地调用getFallback方法。

如果这里没有定义getFallback方法,那么一旦服务不可用,那么用户可能在连接超时之后,在浏览器里看到一串毫无意义的内容,这样用户体验就很差,如果整个系统的其它容错措施也没到位,甚至就有可能导致当前和下游模块瘫痪。

相反,在这里由于我们在hystirx提供的getFallback方法里做了充分的准备,那么一旦出现错误,这段错误处理的代码能被立即触发,其效果就相当于熔断后继的处理流程。

由getFallback出面,友好地告知用户出问题了,以及后继该如何处理,这样一方面能及时熔断请求从而保护整个系统,另一方面不会造成因体验过差而用户大规模流失的情况。

如果每次请求都要走后台应用程序乃至再到数据库检索一下数据,这对服务器的压力太大,有时候这一因素甚至会成为影响网站服务性能的瓶颈。所以,大多数网站会把一些无需实时更新的数据放入缓存,前端请求是到缓存里拿数据。

Hystrix在提供保护性便利的同时,也能支持缓存的功能,在下面的HystrixCacheDemo.java里,我们将演示Hystrix从缓存中读取数据的步骤,代码如下。

1    //省略必要的package和import代码
2    public class HystrixCacheDemo extends HystrixCommand<String> {
3        //用户id
4        Integer id;
5         //用一个HashMap来模拟数据库里的数据
6        private HashMap<Integer,String> userList = new HashMap<Integer,String>();
7        //构造函数
8        public HystrixCacheDemo(Integer id) {
9        super(HystrixCommandGroupKey.Factory.asKey("RequestCacheCommand"));
10            this.id = id;
11            userList.put(1, "Tom");
12        }

在第3行里,我们定义了一个用户id,并在第6行定义了一个存放用户信息的HashMap。

在第8行的构造函数里,我们在第10行里用参数id来初始化了本对象的id属性,并在第11行里,通过put方法模拟地构建了一个用户,在项目里,用户的信息其实是存在数据库里的。

13        protected String run() {
14            System.out.println("In run");
15            return userList.get(id);
16        }

如果不走缓存的话,第13行定义run函数将会被execute方法触发,在其中的第15行里,我们通过get方法从userList这个HashMap里获得一条用户数据,这里我们用get方法来模拟根据id从数据库里获取数据的诸多动作。

17		protected String getCacheKey() {
18			return String.valueOf(id);
19		}

  第17行定义的getCacheKey方法是Hystrix实现缓存的关键,在其中我们可以定义“缓存对象的标准”,具体而言,我们在这里是返回String.valueOf(id),也就是说,如果第二个HystrixCacheDemo对象和第一个对象具有相同的String.valueOf(id)的值,那么第二个对象在调用execute方法时,就可以走缓存。

public static void main(String[] args) {
21         //初始化上下文,否则无法用缓存机制
22            HystrixRequestContext context = HystrixRequestContext.initializeContext();
23            //定义两个具有相同id的对象
24            HystrixCacheDemo cacheDemo1 = new HystrixCacheDemo(1);
25            HystrixCacheDemo cacheDemo2 = new HystrixCacheDemo(1);
26            //第一个对象调用的是run方法,没有走缓存
27            System.out.println("the result for cacheDemo1 is:" + cacheDemo1.execute());
28            System.out.println("whether get from cache:" + cacheDemo1.isResponseFromCache);
29            //第二个对象,由于和第一个对象具有相同的id,所以走缓存
30            System.out.println("the result for cacheDemo2 is:" + cacheDemo2.execute());
31            System.out.println("whether get from cache:" + cacheDemo2.isResponseFromCache);
32            //销魂上下文,以清空缓存
33            context.shutdown();
34            //再次初始化上下文,但由于缓存已清,所以cacheDemo3没走缓存
35            context = HystrixRequestContext.initializeContext();
36            HystrixCacheDemo cacheDemo3 = new HystrixCacheDemo(1);
37            System.out.println("the result for 3 is:" + cacheDemo3.execute());
38            System.out.println("whether get from cache:" + cacheDemo3.isResponseFromCache);
39            context.shutdown();

在第20行的main方法里,我们定义了如下的主要逻辑。

第一,在第22行,通过initializeContext方法,初始化了上下文,这样才能启动缓存机制。,在第24和25行里,我们创建了两个不同名的,但相同id的HystrixCacheDemo对象。

第二,在第27行里,我们通过cacheDemo1对象的execute方法,根据id查找用户,虽然我们在这里是通过run方法里第15行的get方法从HashMap里取数据,但大家可以把这想象成从数据表里取数据。

第三,在第30行里,我们调用了cacheDemo2对象的execute方法,由于它和cacheDemo1对象具有相同的id,所以这里并没有走execute方法,而是直接从保存cacheDemo1.execute的缓存里拿数据,这就可以避免因多次访问数据库而造成了系统损耗。

第四,我们在第33行销毁了上下文,并在第35行里重新初始化了上下文,之后,虽然在第36行定义的cacheDemo3对象的id依然是1,但由于上下文对象被重置过,其中的缓存也被清空,所以在第37里执行的execute方法并没有走缓存。

运行上述代码,我们能看到如下的输出,这些打印结果能很好地验证上述对主要流程的说明。

1    In run
2    the result for cacheDemo1 is:Tom
3    whether get from cache:false
4    the result for cacheDemo2 is:Tom
5    whether get from cache:true
6    In run
7    the result for 3 is:Tom

这里请大家注意,在缓存相关的getCacheKey方法里,我们不是定义“保存缓存值”的逻辑,而是定义“缓存对象的标准”,初学者经常会混淆这点。具体而言,在这里的getCacheKey方法里,我们并没有保存id是1的User对象的值(这里是Tom),而是定义了如下的标准:只要两个(或多个)HystrixCacheDemo对象具有相同的String.valueOf(id)的值,而且缓存中也已经存有id的1的结果值,那么后继对象则可以直接从缓存里读数据。

在上文里,我们演示了通过Hystrix调用可用以及不可用服务的运行结果,并在调用过程中引入了缓存机制,这里,我们将在上述案例的基础上归纳Hystrix的一般工作流程。

第一,我们可以通过extends HystrixCommand<T>的方式,让一个类具备Hystrix保护机制的特性,其中T是泛型,在上述案例中我们用到的是String。

第二,一旦继承了HystrixCommand之后,我们就可以通过重写run方法和getFallback方法来定义调用“可用”和“不可用”服务的业务功能代码,其中,这两个方法的返回值需要和第一步里定义的泛型T一致。而在项目里,我们一般在getFallback方法里,定义“服务不可用”时的保护措施(也就是后文里将要提到的降级措施)。

第三,我们还可以通过缓存机制来降低并发情况下对服务器的压力,在Hystrix里,我们可以在getCacheKey里定义“判断可以走缓存对象的标准”。

在使用缓存是,请注意两点,第一需要开启上下文,第二,Hystrix会根据定义在类里的属性判断多次调用的对象是否是同一个,如果是,而且之前被调用过,则可以走缓存。

    本文谢绝转载。

原文地址:https://www.cnblogs.com/JavaArchitect/p/9557991.html

时间: 2024-09-30 19:09:23

Hystrix针对不可用服务的保护机制以及引入缓存的相关文章

SpringCould-------使用Hystrix 实现断路器进行服务容错保护

消费: <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd"> <modelV

《亿级流量电商详情页系统实战:缓存架构+高可用服务架构+微服务架构》

视频教程:http://www.roncoo.com/course/view/af7d501667fe4a19a60e9467e6d2b3d9 升级说明: 该课程原本是123节课时,已于2017年7月份全部更新完毕.在原有123节课时的基础上,再免费新增70到80节左右的内容(注:课程大纲可能会做进一步优化,具体以最终更新为准),课程名将变更为<亿级流量电商详情页系统实战(第二版):缓存架构+高可用服务架构+微服务架构>简称第二版.本次免费新增内容将会从9月中旬开始更新,一直到10月底更新完毕

Spring Cloud(四):服务容错保护 Hystrix【Finchley 版】

Spring Cloud(四):服务容错保护 Hystrix[Finchley 版] 发表于 2018-04-15 |  更新于 2018-05-07 | 分布式系统中经常会出现某个基础服务不可用造成整个系统不可用的情况,这种现象被称为服务雪崩效应.为了应对服务雪崩,一种常见的做法是手动服务降级.而 Hystrix 的出现,给我们提供了另一种选择. Hystrix [h?st'r?ks] 的中文含义是 "豪猪",豪猪周身长满了刺,能保护自己不受天敌的伤害,代表了一种防御机制,这与 Hy

7.Spring-Cloud服务容错保护之Hystrix初探

在微服务架构中,存在着多个服务单元,若一个单元出现故障,就很容易因依赖关系而出现故障的蔓延,最终导致整个系统的瘫痪,这样的架构相较传统的架构更加不稳定,为了解决这样的问题,产生了断路器等一系列的服务保护机制. "断路器"本身是一种开关装置,用于在电路上保护线路过载,当线路中有电器发生短路,"断路器"能够及时切断故障电路,防止发生过载.发热甚至起火等严重后果. 分布式架构中,断路器模式的作用也是类似的,当某个服务单元发生故障(类似于用电器发生短路)之后,通过断路器的故

笔记:Spring Cloud Hystrix 服务容错保护

由于每个单元都在不同的进程中运行,依赖通过远程调用的方式执行,这样就有可能因为网络原因或是依赖服务自身问题出现调用故障或延迟,而这些问题会直接导致调用方的对外服务也出现延迟,若此时调用方的请求不断增加,最后就会因等待出现故障的依赖方响应形成任务积压,最终导致自身服务的瘫痪. 在微服务架构中,存在着大量的服务单元,若一个单元出现故障,就很容易因依赖关系而引发故障的蔓延,最终导致整个系统的瘫痪,这样的架构相较传统架构更加不稳定,为了解决这样的问题,产生了断路器等一系列的服务保护机制. 在分布式架构中

第五章 服务容错保护:Spring Cloud Hystrix

在微服务架构中,我们将系统拆分为很多个服务,各个服务之间通过注册与订阅的方式相互依赖,由于各个服务都是在各自的进程中运行,就有可能由于网络原因或者服务自身的问题导致调用故障或延迟,随着服务的积压,可能会导致服务崩溃.为了解决这一系列的问题,断路器等一系列服务保护机制出现了. 断路器本身是一种开关保护机制,用于在电路上保护线路过载,当线路中有电器发生短路时,断路器能够及时切断故障电路,防止发生过载.发热甚至起火等严重后果. 在分布式架构中,断路器模式的作用也是类似的. 针对上述问题,Spring

六、服务容错保护(Hystrix服务降级)

1.简介 在微服务架构中,我们将系统拆分成立一个个的服务单元,各单元应用间通过服务注册与订阅的方式互相依赖.由于每个单元都在不同的进程间运行,依赖通过远程调用的方式执行,这样就可以因为网络原因或者依赖服务自身问题出现调用故障或延迟,若此时调用方的请求不断增加,最后就会出现因等待出现故障的依赖方响应而形成任务的积压,线程资源无法释放,最终导致自身服务的瘫痪,进一步甚至出现故障的蔓延导致整个系统的瘫痪.如果这样的架构存在如此严重的隐患,那么相较于传统的架构就会更加的不稳定.为了解决这样的问题,就产生

Spring Cloud 八:服务容错保护(Hystrix断路器)【Dalston版】

断路器 断路器模式源于Martin Fowler的Circuit Breaker一文."断路器"本身是一种开关装置,用于在电路上保护线路过载,当线路中有电器发生短路时,"断路器"能够及时的切断故障电路,防止发生过载.发热.甚至起火等严重后果. 在分布式架构中,断路器模式的作用也是类似的,当某个服务单元发生故障(类似用电器发生短路)之后,通过断路器的故障监控(类似熔断保险丝),直接切断原来的主逻辑调用.但是,在Hystrix中的断路器除了切断主逻辑的功能之外,还有更复

Spring Cloud构建微服务架构:服务容错保护(Hystrix服务降级)

动手试一试 在开始使用Spring Cloud Hystrix实现断路器之前,我们先拿之前实现的一些内容作为基础,其中包括: eureka-server工程:服务注册中心,端口:1001 eureka-client工程:服务提供者,两个实例启动端口分别为2001 下面我们可以复制一下之前实现的一个服务消费者:eureka-consumer-ribbon,命名为eureka-consumer-ribbon-hystrix.下面我们开始对其进行改在: 第一步:pom.xml的dependencies