微服务之Polly熔断策略

紧接着上一篇说,咱们继续介绍Polly这个类库

熔断策略(Circuit-breaker)

如果调用某个目标服务出现过多超时、异常等情况,可以采取一定时间内熔断该服务的调用,熔断期间的请求将不再继续调用目标服务,而是直接返回,节约资源,提高服务的稳定性,熔断周期结束后如果目标服务情况好转则恢复调用。

注意:为了服务的稳定性,在执行需要多次 Retry重试策略的情况下( 重试策略,感兴趣的小伙伴可以查看我上一篇,或者自行搜索),最好组合熔断策略,预防可能存在的风险。

熔断状态

  1. 打开(Open)

    熔断器打开状态,此时对目标服务的调用都直接返回错误,熔断周期内不会走网络请求,当熔断周期结束时进入半开状态;

  2. 关闭(Closed)

    关闭状态下正常发生网络请求,但会记录符合熔断条件的连续执行次数,如果错误数量达到设定的阈值(如果在没有达到阈值之前恢复正常,之前的累积次数将会归零),熔断状态进入到打开状态;

  3. 半开(Half-Open)

    半开状态下允许定量的服务请求,如果调用都成功(或一定比例)则认为恢复了,关闭熔断器,否则认为还没好,又回到熔断器打开状态;

熔断使用说明

// 在连续3次异常后熔断,并保持1分钟的熔断状态,调用者将收到断路保护的异常信息
Policy
    .Handle<SomeExceptionType>()
    .CircuitBreaker(3, TimeSpan.FromMinutes(1));

熔断代码测试

private static int times = 0;
public static void TestPolicy()
{
    var circuitBreakerPolicy = Policy
            .Handle<Exception>()
            .CircuitBreaker(
                exceptionsAllowedBeforeBreaking: 4,             // 连续4次异常
                durationOfBreak: TimeSpan.FromMinutes(1),       // 断开1分钟
                onBreak: (exception, breakDelay) =>             // 断路器打开时
                    Console.WriteLine($"熔断: {breakDelay.TotalMilliseconds } ms, 异常: " + exception.Message),
                onReset: () =>                                  // 熔断器关闭时
                    Console.WriteLine("熔断器关闭了"),
                onHalfOpen: () =>                               // 熔断时间结束时,从断开状态进入半开状态
                    Console.WriteLine("熔断时间到,进入半开状态")
            );

    for (int i = 0; i < 12; i++)  // 模拟多次调用,触发熔断
    {
        try
        {
            var result = circuitBreakerPolicy.Execute(Test);
            Console.WriteLine(result);
        }
        catch (Exception ex)
        {
            Console.WriteLine("try-catch:" + ex.Message);
        }
        Thread.Sleep(500);
    }
}

private static string Test()
{
    times++;

    if (times % 5 != 0) // 模仿某些错误情况下抛异常
    {
        throw new Exception("exception message");
    }
    return "success";
}

熔断高级配置

根据时间段内总请求数中的异常比例触发熔断:

var advancedCircuitBreakerPolicy = Policy
    .Handle<Exception>()
    .AdvancedCircuitBreaker(
        failureThreshold: 0.5,                          // 至少50%有异常则熔断
        samplingDuration: TimeSpan.FromSeconds(10),     // 10秒内
        minimumThroughput: 8,                           // 最少共有多少次调用
        durationOfBreak: TimeSpan.FromSeconds(30),
        onBreak: (exception, breakDelay) =>             // 断路器打开时
            Console.WriteLine($"熔断: {breakDelay.TotalMilliseconds } ms, 异常: " + exception.Message),
        onReset: () =>                                  // 熔断器关闭时
            Console.WriteLine("熔断器关闭了"),
        onHalfOpen: () =>                               // 熔断时间结束时,从断开状态进入半开状态
            Console.WriteLine("熔断时间到,进入半开状态")
    );

可以看到使用起来还是 挺方便简单的,可以结合项目框架组合出不同玩法,哈哈哈,感兴趣的同学可以自行古哥或者度娘哈。回见

原文地址:https://www.cnblogs.com/Leo_wl/p/11105121.html

时间: 2024-11-08 13:56:15

微服务之Polly熔断策略的相关文章

三分钟学会.NET微服务之Polly

原文:三分钟学会.NET微服务之Polly 熔断降级是一个非常重要的概念,我们先说一下什么是熔断降级,咱们都知道服务发现,一个有问题的服务器没来得急注销过一会就崩溃掉了,那么我们的请求就有可能访问一个已经崩溃的服务器,那么就会请求失败,因为已经game over了.那么这个问题怎么解决呢,你一定要承认,这个问题是无法避免的.没有什么方法说,我拿到的服务器都没有问题,这事是不可能的,所以你要承认你会有机会拿到有问题的服务器.那么熔断降级就是来解决这种问题的. 一.什么是熔断 熔断就像是“保险丝”,

大型微服务架构稳定性建设策略

前言 随着业务的不断发展, 我们的系统后台服务将面对越来越多的压力. 业务模式越来越丰富, 系统功能实现越来越多:系统服务建设越来越多, 彼此交互错综复杂,性能下降:使用用户逐渐增加, 流量压力加大,系统瓶颈凸显:促销运营活动带来瞬间高并发流量, 对系统造成影响.这些问题都将考验我们对大型网站稳定性技术策略的掌握程度. 问题 大型网站的基本特点有哪些:大型网站稳定性技术策略有哪些:面对流量峰值的时候,我们需要在事前.事中.事后做哪些事情:性能优化的方向又有哪些? 我们如何选择. 内容 什么是稳定

Java架构:一文读懂微服务架构的重构策略

你很有可能正在处理大型复杂的单体应用程序,每天开发和部署应用程序的经历都很缓慢而且很痛苦.微服务看起来非常适合你的应用程序,但它也更像是一项遥不可及的必杀技.如何才能走上微服务架构的道路?下面将介绍一些策略,帮你摆脱单体地狱,而无须从头开始重写你的应用程序. 通过开发所谓的绞杀者应用程序(strangler application),可以逐步将单体架构转换为微服务架构.绞杀者应用程序的想法来自绞杀式藤蔓,这些藤蔓在雨林中生长,它们包围绕树木生成,甚至有时会杀死树木.绞杀者应用程序是一个由微服务组

Polly 熔断策略

熔断策略主要以 CircuitBreaker 来完成. 工作原理 熔断器可以被看作为一个主要含有三个状态的状态机 如果以电路开关来看: 开关闭合对应 CLOSED 状态, 开关打开对应 OPEN 状态, 而 HALF OPEN 只是为了过渡处理过程中的状态变化 OPEN 状态, FLOW 不通 CLOSED 状态, FLOW 正常 CLOSED 熔断器的初始状态就是 CLOSED, 当熔断器状态为 CLOSED 的时候: 所有通过策略的操作将会被执行, 熔断器也会记录这些操作的失败与成功 如果通

.NET Core微服务之基于Polly+AspectCore实现熔断与降级机制

一.熔断.降级与AOP 1.1 啥是熔断? 在广义的解释中,熔断主要是指为控制股票.期货或其他金融衍生产品的交易风险,为其单日价格波动幅度规定区间限制,一旦成交价触及区间上下限,交易则自动中断一段时间("熔即断"),或就此"躺平"而不得超过上限或下限("熔而不断"). 而对于微服务来说,熔断就是我们常说的"保险丝",意为当服务出现某些状况时,切断服务,从而防止应用程序不断地常识执行可能会失败的操作造成系统的"雪崩&q

微服务实践分享(8) 控制调用中心

1.熔断 在微服务领域,熔断机制是从消费端保护微服务提供者的措施,当微服务的运行质量低于某个临界值时,启动熔断机制,暂停微服务调用一段时间,以保障后端的微服务不会因为持续过负荷而宕机. 2.降级 服务降级主要包括容错降级和屏蔽降级 屏蔽降级:1)throw null 不发起远程调用,直接返回空 2)throw exception 不发起远程调用,直接抛出指定异常 3)execute bean 不发起远程调用,直接执行本地模拟接口实现 服务降级是可逆操作,当系统压力恢复到一定值不需要降级服务时,要

微服务实践(总)-原文

本系列文章为 dockone.io 首发,转载请标明出处,以示尊重!! http://dockone.io/people/hokingyang   希望读者通过本系列文章对微服务优缺点有一个比较好的理解,以及何时使用这种架构.也许微服务架构比较适合你的应用.也许你正在开发一个大型.复杂单体式应用,日常开发和部署经验非常缓慢和痛苦,而微服务看起来是远方一个极乐世界.幸运的是,有可以参考的脱离苦海的策略,本篇文章中,我将描述如何逐步将单体式应用迁移到微服务架构. 本系列七篇文章列表如下: 微服务实战

使用Istio治理微服务入门

近两年微服务架构流行,主流互联网厂商内部都已经微服务化,初创企业虽然技术积淀不行,但也通过各种开源工具拥抱微服务.再加上容器技术赋能,Kubernetes又添了一把火,微服务架构已然成为当前软件架构设计的首选.但微服务化易弄,服务治理难搞! 一.微服务的"痛点" 微服务化没有统一标准,多数是进行业务领域垂直切分,业务按一定的粒度划分职责,并形成清晰.职责单一的服务接口,这样每一块规划为一个微服务.微服务之间的通信方案相对成熟,开源领域选择较多的有RPC或RESTful API方案,比如

idou老师教你学Istio 16:如何用 Istio 实现微服务间的访问控制

摘要使用 Istio 可以很方便地实现微服务间的访问控制.本文演示了使用 Denier 适配器实现拒绝访问,和 Listchecker 适配器实现黑白名单两种方法. 使用场景 有时需要对微服务间的相互访问进行控制,比如使满足某些条件(比如版本)的微服务能够(或不能)调用特定的微服务. 访问控制属于策略范畴,在 Istio 中由 Mixer 组件实现. Mixer拓扑图,来源官方文档 如上图所示,服务的外部请求会被 Envoy 拦截,每个经过 Envoy 的请求都会调用 Mixer,为 Mixer