外部服务的隔离及降级

本文的来源是之前的一次生产事故,当时由于某家医院的机房网络故障,造成整个某项业务的全部停止服务,也就是说其它医院虽说与平台的网络畅通,但是由于平台的资源全部被消耗,其它医院也不能再提供给患者提供任何服务。下图是用户、平台及医院的调用关系图:

我最近找了一些公共的开源框架,包扩大概的看了看apache commons和google guava工具包,都没有找到合适的工具,便花了两个晚上的时间,自己实现了一个简单的版本,源码可见于

https://github.com/mantuliu/distributed/tree/master/src/main/java/com/mantu/common/util

其中BusinessLimiter是具体的限流类,核心代码就是tryAcquire() 和release()操作

BusinessLimiterUtil是工具类,可以通过它和调用方的properties文件结合使用,创建多个BusinessLimiter的实例,例如结合上面的业务场景,可以在配置文件中配置每家医院的限流值,当医院一的接口出现故障时,由于对每家医院都使用的限流,因此医院一超出阀值调用被自动丢弃,保证其它医院支付服务的正常进行,从而实现了外部服务的隔离和降级。

使用demo可见于:

https://github.com/mantuliu/distributed/tree/master/src/main/java/com/mantu/common/sample

这个版本的实现还是非常简单的,后续会支持更复杂的情况,对于“坏服务”实现自动降级和摘除节点。

时间: 2024-10-06 09:17:29

外部服务的隔离及降级的相关文章

【Hystrix】实现服务隔离和降级

一.背景 1.1 服务熔断 1.2 服务降级 1.3 服务隔离 1.4 总结 二.使用Hystrix实现服务隔离和降级 2.1 Hytrix 简介 2.2 线程池方式 2.3 信号量 三.项目搭建 3.1 订单工程 1. 引入Maven依赖 2. Service 3.Controller 4.工具类 3.2 会员工程 四.项目源码 一.背景 在今天,基于SOA的架构已经大行其道.伴随着架构的SOA化,相关联的服务熔断.降级.限流等思想,也在各种技术讲座中频繁出现. 伴随着业务复杂性的提高,系统的

第七章:外部服务认证

第六章的例子像我们展示了如何使用安全cookies和tornado.web.authenticated装饰器来实现一个简单的用户验证表单.在本章中,我们将着眼于如何对第三方服务进行身份验证.流行的Web API,比如Facebbok和Twitter,使用OAuth协议安全验证某人的身份,同时允许他们的用户保持第三方应用访问他们个人信息的控制权.Tornado提供了一些Python mix-in来帮助开发者验证外部服务,既包括显式地支持流行服务,也包括通过通用的OAuth支持.在本章中,我们将探讨

.netcore 3.1高性能微服务架构:封装调用外部服务的接口方法--HttpClient客户端思路分析

众所周知,微服务架构是由一众微服务组成,项目中调用其他微服务接口更是常见的操作.为了便于调用外部接口,我们的常用思路一般都是封装一个外部接口的客户端,使用时候直接调用相应的方法.webservice或WCF的做法就是引用服务,自动生成客户端.在webapi2.0里,我们都会手动封装一个静态类.那么在.netcore3.1的微服务时代,我们该如何处理这个问题呢? ----思路都是一样的,封装一个外部服务,并且使用依赖注入和 HttpFactory工厂等.netcore特有的方式提升性能.接下来我们

微服务熔断隔离机制及注意事项

导读:本文重点分析微服务化过程中熔断机制及应用注意事项,包括微服务调用与"雪崩效应"及解决方案.熔断机制及考虑因素.隔离机制及实现方式考量等内容. 随着企业微服务化战略的实施,业务功能细分,越来越多的服务从原有的单体应用中分解成一系列独立开发.部署.运维的微小服务,服务之间则依赖于各种RPC框架互相通信.纵然,微服务化有着很多优势,但与之伴随而来的是各种复杂性,对开发人员来说,除了业务领域本身外,还需要考虑由于服务拆分之后诸如分布式事务.服务部署及运维.rpc调用等系列问题,本文将重点

SpringCloud微服务:Sentinel哨兵组件,管理服务限流和降级

源码地址:GitHub·点这里||GitEE·点这里 一.基本简介 1.概念描述 Sentinel 以流量为切入点,从流量控制.熔断降级.系统负载保护等多个维度保护服务的稳定性.包括核心的独立类库,监控台,丰富的使用场景验证.(这似乎是阿里开源组件的一贯作风,极其有特点,且特点很规律) 基本特性图: 补刀一句:这种图很多人可能不在意,但是一般官方给这个图就是该中间件的基本使用思路,与核心功能点. 2.基础性概念 资源管理 资源是Sentinel组件中的核心概念之一.应用服务器上脚本,静态页面,A

配置管理 ACM 在高可用服务 AHAS 流控降级组件中的应用场景

应用配置管理(Application Configuration Management,简称 ACM)是一款应用配置中心产品.基于ACM您可以在微服务.DevOps.大数据等场景下极大地减轻配置管理的工作量,同时保证配置的安全合规.ACM 有着丰富的使用场景,本文将介绍其在 AHAS 流控降级 中的应用. 什么是 AHAS 流控降级AHAS 流控降级 是面向分布式服务架构的专业流量控制组件,主要以流量为切入点,从流量控制.熔断降级.系统保护等多个维度帮助您保障服务的稳定性,同时提供强大的聚合监控

外部服务发现-ingress

Ingress`其实就是从 kuberenets 集群外部访问集群的一个入口,将外部的请求转发到集群内不同的 Service 上,其实就相当于 nginx.haproxy 等负载均衡代理服务器,Ingress controller 可以理解为一个监听器,通过不断地与 kube-apiserver 打交道,实时的感知后端 service.pod 的变化,当得到这些变化信息后,Ingress controller 再结合 Ingress 的配置,更新反向代理负载均衡器,达到服务发现的作用. 在Kub

C#.NET 大型企业信息化系统集成快速开发平台 4.2 版本 - 外部服务调用、内部服务调用优化,面向服务化的

现在的信息系统越来越复杂,越来越庞大,不仅需要内部是一个整体,而且还需要提供很多对外的服务调用. 1:别人如何调用最方便?用不同的开发语言调用.2:服务的返回状态是什么样子的?有利于排查问题.3:服务的安全性.可过渡升级性.性能效率要有保障.4:服务也需要有完整的调用日志记录等. 下面是一个服务调用有效性判断的函数代码,供大家参考. 1 //----------------------------------------------------------------- 2 // All Rig

kubernetes集群内通过endpoint访问外部服务

kubernetes内的服务访问集群外独立的服务最好通过endpoint方式,例如MySQL 1.创建mysql-service.yaml apiVersion: v1 kind: Service metadata: name: mysql-production namespace: ms spec: ports: - port: 3306 targetPort: 3306 protocol: TCP 2.创建mysql-endpoints.yaml kind: Endpoints apiVer