管理大量定时任务,如果高效触发超时?

1. 背景

很多时候,业务有定时任务或定时超时的需求,当任务量很大时,可能需要维护大量的timer,或者进行低效的扫描。

例如:对每个用户会维护一个APP到服务器的TCP连接,用来实时收发信息,对这个TCP连接,如果连续30s没有请求包,服务端就要将这个连接断开。

一般说怎么实现这类需求呢?

2. 一般思路

2.1 轮询扫描法

(1)用一个Map<uid, last_packet_time>来记录每一个uid最近一次请求时间last_packet_time;

(2)当某个用户uid有请求包来到,实时更新这个Map;

(3)启动一个timer,当Map中不为空时,轮询扫描这个Map,检查每个uid的last_packet_time是否超过30s,如果超过则进行超时处理

2.2 多timer触发法

(1)用一个Map<uid, last_packet_time>来记录每一个uid最近一次请求时间last_packet_time;

(2)当某个用户uid有请求包来到,实时更新这个Map,并同时对这个uid请求包启动一个timer,30s之后触发;

(3)每个uid请求包对应的timer触发后,检查Map中,查看这个uid的last_packet_time是否超过30s,如果超过则进行超时处理

轮询扫描法:只启动一个timer,但需要轮询,效率较低

多timer触发法:不需要轮询,但每个请求包要启动一个timer,比较耗资源

特别在同时在线量很大时,很容易CPU100%。

3. 环形队列法

三个数据结构:

(1)30s超时,就创建一个index从0到30的环形队列(本质上数组)

(2)环上每一个slot是一个Set<uid>任务集合

(3)同时还有一个Map<uid, index>记录uid落在环上的哪个slot

算法:

(1)启动一个timer,每隔1s,在上述环形队列中移动一个,0->1->2->3...->29->30->0...

(2)有一个Current Index指针来标识刚检测过的slot

当有某用户uid有请求包达到时:

(1)从Map结构中,查找出这个uid存储在哪个slot里

(2)从这个slot的Set结构中,删除这个uid

(3)将uid重新加入到新的slot,具体是哪一个slot呢?-->Current Index指针所指向的上一个slot,因为整个slot,会被timer在30s之后扫描到

(4)更新Map,这个uid对应slot的index值

哪些元素会被超时删除掉?

Current Index每秒移动一个slot,这个slot对应的Set<uid>中所有uid都应该被集体超时,如果最近30s有请求包来到,一定被放到Current Index的前一个slot,Current Index所在的slot对应Set中所有元素,都是最近30s没有请求包来到的。

所以,当没有超时时,Current Index扫描到的每一个Slot的Set中应该都没有元素。

这个环形队列法是一个通用的方法,Set和Map中可以使任何task,本文的uid是一个最简单的举例。

4. Netty - HashedWheelTimer

原文地址:https://www.cnblogs.com/lujiango/p/9378669.html

时间: 2024-11-09 18:38:15

管理大量定时任务,如果高效触发超时?的相关文章

10w定时任务,如何高效触发超时

一.缘起 很多时候,业务有定时任务或者定时超时的需求,当任务量很大时,可能需要维护大量的timer,或者进行低效的扫描. 例如:58到家APP实时消息通道系统,对每个用户会维护一个APP到服务器的TCP连接,用来实时收发消息,对这个TCP连接,有这样一个需求:"如果连续30s没有请求包(例如登录,消息,keepalive包),服务端就要将这个用户的状态置为离线". 其中,单机TCP同时在线量约在10w级别,keepalive请求包大概30s一次,吞吐量约在3000qps. 一般来说怎么

环形队列高效触发大量超时任务的算法实现

基于环形队列的超时触发算法只需要一个timer即可实现批量超时任务的触发,CPU消耗低,效率高.下面是此算法的简单实现. 1,TaskHolder.java package com.zws.timer; /**  *   * @author wensh.zhu  * @date 2018-04-22  */ public class TaskHolder { /** 任务所需等待的圈数,即任务需要走几圈**/ private int cycles; private int delays; pri

用户和用户管理及定时任务复习

定时任务复习 1.什么是定时任务? 2.如何编辑查看定时任务(配置文件位置?),语法的特殊字符意义是什么?- * , / 3.书写定时任务有哪些要领? 4.生产如何调试定时任务 5.生产场景配置定时任务需要注意的问题? 用户和用户管理 linux UID GID管理员:root oldboy用户和组的关系: 用户分类: 超级用户:UID = 0 root普通用户: UID 500起 由超级用户或者具有超级用户权限的用户创造虚拟用户:UID 1-499 存在满足文件或者服务启动的需要.一般 都不能

Spring+Quartz 整合二:调度管理与定时任务分离

新的应用场景:很多时候,我们常常会遇到需要动态的添加或修改任务,而spring中所提供的定时任务组件却只能够通过修改xml中trigger的配置才能控制定时任务的时间以及任务的启用或停止,这在带给我们方便的同时也失去了动态配置任务的灵活性.所有的配置都在xml中完成,包括cronExpression表达式,十分的方便.但是如果我的任务信息是保存在数据库的,想要动态的初始化,而且任务较多的时候不是得有一大堆的xml配置?或者说我要修改一下trigger的表达式,使原来5秒运行一次的任务变成10秒运

Linux 系统管理 - 进程管理 - 系统定时任务

01.crond服务管理与访问控制   =>  service  crond  restart   和   chkconfig   crond  on 02.用户的crontab设置  =>  [选项] 选项: -e:编辑 crontab 定时任务 -l:查询crontab任务 -r:删除当前用户所有的crontab任务

塔读定时任务_手动触发

@Controller @RequestMapping(value="/admin/tadu") public class TaDuController { @Resource(name="taDuService") private TaDuService taDuService; @RequestMapping @ResponseBody public String taDuTask(){ if(TaDuServiceImpl.isRunning){ return

(整理三)高并发架构思路,附十万定时任务执行解决方案

一.什么是高并发 高并发(High Concurrency)是互联网分布式系统架构设计中必须考虑的因素之一,它通常是指,通过设计保证系统能够同时并行处理很多请求. 高并发相关常用的一些指标有响应时间(Response Time),吞吐量(Throughput),每秒查询率QPS(Query Per Second),并发用户数等. 响应时间:系统对请求做出响应的时间.例如系统处理一个HTTP请求需要200ms,这个200ms就是系统的响应时间. 吞吐量:单位时间内处理的请求数量. QPS:每秒响应

thrift 是rpc协议

什么是RPC 从网络协议来说,Http协议与Rpc同属于应用层, 他们的底层都是tcp协议. RPC(即Remote Procedure Call,远程过程调用)和HTTP(HyperText Transfer Protocol,超文本传输协议)他们最本质的区别,就是RPC主要工作在TCP协议之上,而HTTP服务主要是工作在HTTP协议之上,我们都知道HTTP协议是在传输层协议TCP之上的,所以效率来看的话,RPC当然是要更胜一筹. 1.RPC服务 (1)RPC架构      先说说RPC服务的

时区切换导致quartz定时任务没有触发问题

时区切换对Quartz的cron表达式有影响,切换的1小时内停止触发定时任务,导致sla没有定时清空内存计数,误发限流. 美国夏令时PST切换到冬令时PDT,会有时间跳变.不带时区跳变的,会出现时间重叠或不连续 问题复现 mac本机模拟,把时区换成美国的,然后把时间调到11月5号01:59 import java.text.ParseException; import java.util.Date; import org.quartz.CronTrigger; import org.quartz