一、数据交换平台
数据交换平台的项目目的,就是为了解决异构数据库之间的数据交换问题。
这个平台的设计,参考了淘宝开源的DataX、大众点评的Wormhole,等,受到的启发很大。
项目由小到大,逐步形成平台化发展,几乎汇总了公司后台db之间的所有数据同步,任务个数有近500个,每天数据量达3亿。
目前,平台运行稳定,推广部署到其他分公司。趁这个机会,整理了一些文档,拿出来分享,也算是回馈感恩吧。
上一篇文档,说了一些需求和初步设计。
这一篇重点说下,两块共享内存的设计细节,直接上图。
二、任务实时数据:Shmrt
三、任务详细参数:Shmtd
时间: 2024-10-10 15:26:45