WCF之并发,吞吐量和限流

  • 并发
    • Single重入模式.对于每一个服务实例,同一时刻只能处理一个请求,其他对该实例的请求被排队.
      • PerCall,每一线程会分配一个新的服务实例上。不会有并发性问题。不影响吞吐量.

      • PerSession,保护服务实例不会受到多线程客户端的影响.多客户端可以并发访问,无并发性问题。减少单一客户端吞吐量.

      • Singleton, 实例不受任何并发访问影响。多线程和多客户端都无法并发访问。吞吐量最小.

    • Retrant重入模式.
      • 客户端可以对同一服务实例,可以进行第2次或者多次的请求进入。

      • 单线程,用于回调不是One_way的,当服务退出时释放锁以发起回调.

      • PerCall: 在SingleMode中。调用回调时,当回调完成返回到Service时,由于不可重入,被挡在外面等待。WCF会在该情况时。异常。

      • Reentrant:回调的调用可以进入Service的实例中。不会有死锁.

      • PerSession:允许多线程客户端并发访问.单件:允许任何线程调用服务实例.


    • Multip重入模式
      • 可以增大吞吐量,当服务实例进行处理时,系统不会自动加锁,对临界资源手动处理.

      • 分别对Cache/Session共享状态/服务实例进行加锁.


  • 限流
    • 通过ServiceThrottle进行配置.每一个Session对应一个实例,但不是每一个实例对应一个Session,所以Session个数<实例数量.

    • 跨服务主机的负载平衡能力对可扩展性有影响.会话影响负载平衡:党没有会话时,请求可以被分配到任何主机上,对于传输层会话,需要Sticky IP.对于其他的会话,需要Sticky会话.

  • WCF对于Stream操作规定了一些限制.
    • 1)只有部分绑定支持,而且在使用Stream操作时,不能使用Reliable Messaging.

    • 2)对于Stream对象本身,FileStream是不可序列化的,当我们把一个FileStream对象作为Stream类型返回给客户端,在客户端,我们仅仅能够使用Stream类型,而不能转化为原本的FileStream类型.而且Stream.Length的调用会抛出异常,原因是不支持Length属性的序列化.

    • 3)必须修改TransferMode的值.

    • 4)Stream对象的大小不能超过MaxReceivedMessageSize的设置,该属性的最大值为Int.MaxValue.

    • 5)涉及Stream的操作的返回值,参数,ref,out参数中只能有一个是Stream对象.

    • 6)Stream不支持Session,按照Session的配置得到的结果仍然是PerCall.另外,Stream对象可能较大,所以应该增大绑定的SendTimeout.

WCF之并发,吞吐量和限流

时间: 2024-10-25 12:40:52

WCF之并发,吞吐量和限流的相关文章

谈谈高并发系统的限流

开涛大神在博客中说过:在开发高并发系统时有三把利器用来保护系统:缓存.降级和限流.本文结合作者的一些经验介绍限流的相关概念.算法和常规的实现方式. 缓存 缓存比较好理解,在大型高并发系统中,如果没有缓存数据库将分分钟被爆,系统也会瞬间瘫痪.使用缓存不单单能够提升系统访问速度.提高并发访问量,也是保护数据库.保护系统的有效方式.大型网站一般主要是"读",缓存的使用很容易被想到.在大型"写"系统中,缓存也常常扮演者非常重要的角色.比如累积一些数据批量写入,内存里面的缓存

聊聊高并发系统之限流特技-1 开涛

在开发高并发系统时有三把利器用来保护系统:缓存.降级和限流.缓存的目的是提升系统访问速度和增大系统能处理的容量,可谓是抗高并发流量的银弹:而降级是当服务出问题或者影响到核心流程的性能则需要暂时屏蔽掉,待高峰或者问题解决后再打开:而有些场景并不能用缓存和降级来解决,比如稀缺资源(秒杀.抢购).写服务(如评论.下单).频繁的复杂查询(评论的最后几页),因此需有一种手段来限制这些场景的并发/请求量,即限流. 限流的目的是通过对并发访问/请求进行限速或者一个时间窗口内的的请求进行限速来保护系统,一旦达到

高并发系统之限流特技

在开发高并发系统时有三把利器用来保护系统:缓存.降级和限流.缓存的目的是提升系统访问速度和增大系统能处理的容量,可谓是抗高并发流量的银弹:而降级是当服务出问题或者影响到核心流程的性能则需要暂时屏蔽掉,待高峰或者问题解决后再打开:而有些场景并不能用缓存和降级来解决,比如稀缺资源(秒杀.抢购).写服务(如评论.下单).频繁的复杂查询(评论的最后几页),因此需有一种手段来限制这些场景的并发/请求量,即限流. 限流的目的是通过对并发访问/请求进行限速或者一个时间窗口内的的请求进行限速来保护系统,一旦达到

聊聊高并发系统之限流特技

在开发高并发系统时,有很多手段用来保护系统:缓存.降级和限流.缓存的目的是提升系统访问速度和增大系统处理能力,可谓是抗高并发流量的银弹:而降级是当服务出问题或者影响到核心流程的性能则需要暂时屏蔽掉,待高峰过去或者问题解决后再打开的场景:而有些场景并不能用缓存和降级来解决,比如稀缺资源(秒杀.抢购).写服务(如评论.下单).频繁的复杂查询(评论的最后几页),因此需有一种手段来限制这些场景的并发/请求量,即限流. 限流的目的是通过对并发访问进行限速或者一个时间窗口内的的请求进行限速来保护系统,一旦达

dubbo是如何控制并发数和限流的?

ExecuteLimitFilter ExecuteLimitFilter ,在服务提供者,通过 的 "executes" 统一配置项开启: 表示每服务的每方法最大可并行执行请求数. ExecuteLimitFilter是通过信号量来实现的对服务端的并发数的控制. ExecuteLimitFilter执行流程: 首先会去获得服务提供者每服务每方法最大可并行执行请求数 如果每服务每方法最大可并行执行请求数大于零,那么就基于基于服务 URL + 方法维度获取一个RpcStatus实例 通过

高并发限流算法

开篇 在高并发系统中,有很多手段来保护系统,如缓存.降级和限流等. 缓存:让数据尽早进入缓存,离程序近一点,不要大量频繁的访问DB,可提供系统访问速度和增大系统处理能力. 降级:当服务出问题或者影响到核心流程的性能,需要将服务暂时屏蔽掉,待高峰期过去或问题解决后再启用. 然后,有些场景不能用缓存和降级来解决.比如电商的双十一,用户的购买,下单等行为,是涉及到大量写操作,而且是核心链路,无法降级的. 限流:通过把并发访问/请求进行限速或者一定时间窗口内的请求限制在一定范围内来保护系统,一旦达到限制

常用限流方案的设计与实现

为了保证业务在高峰期的可用性,主流系统都会配备服务降级的工具,而限流就是目前系统最常采用的方案之一.限流即流量限制,目的是在遇到流量高峰或者流量突增(流量尖刺)时,把流量速率控制在合理的范围之内,不至于被高流量击垮. 常见的限流方式 服务降级中的限流并没有我们想象的那么简单.第一,限流方案必须时可选的,没有任何方案可以适用所有场景.第二,限流策略必须时可配置的. 集中常见的限流方式: 通过限制单位时间段内的调用量来限流. 通过限制系统的并发调用程度来限流. 通过漏桶(Leaky Bucket)算

基于Redis实现分布式应用限流--转

原文地址:https://my.oschina.net/giegie/blog/1525931 摘要: 限流的目的是通过对并发访问/请求进行限速或者一个时间窗口内的的请求进行限速来保护系统,一旦达到限制速率则可以拒绝服务. 限流的目的是通过对并发访问/请求进行限速或者一个时间窗口内的的请求进行限速来保护系统,一旦达到限制速率则可以拒绝服务. 前几天在DD的公众号,看了一篇关于使用 瓜娃 实现单应用限流的方案 -->原文,参考<redis in action> 实现了一个jedis版本的,

服务化体系之—限流

服务化体系之—限流 08月 29, 2016 | Filed under 技术 (上)设计篇 在实现算法之前,先临时客串一下产品经理,尝试用最少的字,把“限流”这简单二字所展开的种种需求给说清楚. 1.各种目的 1. 保护每个服务节点. 2. 保护服务集群背后的资源,比如数据库. 3. 避免单个调用者过度使用服务,影响其他调用者. 2. 各种设定维度 2.1. 节点级别 vs 集群级别 如果以保护每个服务节点为目的,可以简单的在本地做节点级别的限流. 但如果以保护服务集群背后的资源为目的,就需要