多终端数据同步机制设计(二)

多终端数据同步机制设计(二)

Intro

如果您没有看上一篇文章,建议您先移步到这里查看第一部分 上一次主要解决了基本的数据增量同步的问题,但仍然存在一些问题。 可能存在的主要问题:

  1. 大数据量传输时,数据在传输过程出现部分丢失,数据不完整
  2. 超大数据量需要同步,导致响应时间过长而导致连接超时

针对以上可能出现的这两个问题,需要对数据进行校验并且数据量超过一定量时进行分批量传输, 本文将着手解决 数据校验数据分批次传输 这两个问题。

同步流程概览

结合之前的同步流程,加上数据校验和分批次传输数据,大概流程如下: 客户端调用服务器端的 Pull 接口从服务器端拉取数据, 如果本地版本号等于服务器端最新版本号,则已更新的最新版本, 如果本地版本小于服务器端最新的版本号,则拉取需要更新的数据,服务器端返回数据的同时会返回本地传输的数据的一个校验值, 客户端获取到服务器端响应时先根据接收到的数据计算校验值,计算出来之后与服务器端返回的校验值进行比较, 如果本地计算的校验值与服务器端返回的校验值一致则进行更新客户端本地数据,不一致则视为无效数据,重新请求 Pull 接口。

更新到最新版本之后,判断本地是否存在未提交的版本,如果本地不存在修改则本次数据同步完成,如果本地存在修改,则提交本地修改,提交本地数据的之前要先计算传输数据的校验值,校验值和本地数据一起传给服务器端 Push接口。 服务器端 Push 接收到客户端请求之后需要进行数据校验,根据传输的数据计算校验值并与客户端传的校验值比较, 如果两个值不一致,则视为数据在传输过程中发生丢失或是异常数据,则不处理并返回客户端,本次请求属于异常请求。 如果两个值一致,再进行数据处理,处理结束之后,数据会有一个返回状态和其他必要的属性,根据数据计算校验值,与从服务器拉取数据时类似,不再赘述, 客户端数据校验通过之后,根据服务器端处理状态进行本地数据的更新。

下面展示添加数据校验后的主要流程图:

服务器端获取数据:

客户端拉取数据:

服务器端更新数据:

客户端推送更新数据:

数据校验

数据校验,我们用的是MD5进行校验,取传输数据的MD5,使用MD5有两方面的考虑: 一方面因为MD5生成的字符串不算太长,不会影响传输的数据量, 另一方面也是因为MD5比较通用一些,APP端实现起来也比较方便。

数据分批传输

数据分批次传输,自己感觉这里实现的比较 LOW ,这里类似于网站上的分页,没想到更好的解决方案,期待大神分享更好的解决方案。 返回客户端 当前请求数据页码索引 和 本次数据传输总页数,如果页码索引小于总页数,则页码索引+1,再请求一次接口知道返回的页码索引等于总页数。

Summary

数据转MD5踩到的坑

数据转MD5的时候,再次踩了一个坑, 开始是这样做的,用MD5算法计算出字节数组,然后使用 System.Text.Encoding.UTF8.GetString() 方法转换成字符串,结果在调试的时候就傻逼了,获取到的字符串是乱码、乱码、乱码。。。【No zuo no die】

下面祭出我鲜血淌过的代码【笑Cry】

 1     /// <summary>
 2     /// 对象转换为MD5字符串
 3     /// </summary>
 4     /// <param name="obj">对象</param>
 5     /// <param name="isLowwer">是否是小写</param>
 6     /// <returns></returns>
 7     public static string ToMD5String(this object obj, bool isLowwer = false)
 8     {
 9         if (obj == null)
10         {
11             return "";
12         }
13         //创建MD5对象
14         MD5 md5 = new MD5CryptoServiceProvider();
15         byte[] byteArray = null;
16         using (MemoryStream ms = new MemoryStream())
17         {
18             new System.Runtime.Serialization.Formatters.Binary.BinaryFormatter().Serialize(ms, obj);
19             byteArray = ms.ToArray();
20         }
21         //计算指定字节数组的哈希值
22         byte[] bMD5 = md5.ComputeHash(byteArray);
23         //释放加密服务提供类的所有资源
24         md5.Clear();
25         System.Text.StringBuilder sbMD5Pwd = new System.Text.StringBuilder();
26         if (isLowwer)
27         {
28             for (int i = 0; i < bMD5.Length; i++)
29             {
30                 //将每个字节数据转换为2位小写的16进制的字符
31                 sbMD5Pwd.Append(bMD5[i].ToString("x2"));
32             }
33         }
34         else
35         {
36             for (int i = 0; i < bMD5.Length; i++)
37             {
38                 //将每个字节数据转换为2位大写的16进制的字符
39                 sbMD5Pwd.Append(bMD5[i].ToString("X2"));
40             }
41         }
42         return sbMD5Pwd.ToString();
43     }

End

最后提供整个同步流程设计的流程图,点我下载

另如果你有别的方案欢迎共同讨论,希望大神看到能给出自己的看法和意见,有不正确的地方还希望能够告知。

时间: 2024-08-03 18:47:10

多终端数据同步机制设计(二)的相关文章

多终端数据同步机制设计

多终端数据同步机制设计(一) Intro 因为项目需要,需要设计一个多终端数据同步的机制, 需要满足以下条件: 1. 多个终端数据操作及同步 2. 每次同步的时候只拉取需要同步的数据,且数据不能存在丢失 3. 尽可能少的调用服务器端接口 同步流程 整体同步流程 我想仿照Git数据同步的方式来进行数据同步,于是放着Git同步的流程来进行设计,首先每次提交会有一个版本号,另外每次提交之前应尽可能先从服务器端拉取数据, 保证客户端的数据是最新的情况下再进行提交本地的修改.按照Git的方式来进行数据同步

Android 建立手机与手表数据同步机制总结

Android Wear 数据同步机制总结 当手机与手表建立蓝牙连接之后,数据就可以通过Google Play Service进行传输. 同步数据对象Data Item DataItem提供手机与手表数据存储的自动同步,一个DataItem对象由其创建者与路径组成的URI所确定.一个DataItem对象为手机和手表提供了一个数据通路,开发者通过改变指定的DataItem实现手机和手表的数据自动同步. 访问数据层API DataItem可以提供手机和手表数据的保存,改变该对象的操作则依赖数据层AP

线程同步机制(二)-- 线程同步辅助类

我们在线程同步机制(一)--Synchronized和Lock简要介绍中学习了同步和临界区的概念,并且讨论了多个并发任务共享一个资源时的同步情况.访问共享资源的代码块叫临界区. 我们在线程同步机制(一)--Synchronized和Lock简要介绍中学习了一下内容: synchronized关键字 Lock接口及其实现类,如ReentrantLock,ReentrantReadWriteLock.ReadLock和ReentrantReadWriteLock.WriteLock 本章我们将学习如

基于OAuth2.0协议 第三方登录与数据同步验证设计

前段时间,公司跟别的公司签订合作伙伴,搞了一个第三方登录与数据共享同步,是基于OAuth2.0协议,现在空闲了,做一下笔记. 到github下载一个OAuth2.0的PHP类库(当然,你也可以自己写一个^-^,但个人觉得没必要造轮子),有写好Mysql与Mongodb的Demo,参考一下,然后嵌套自己的业务代码,下面是客户端与服务端的交互流程: +-----------+ +-----------+| | 带client_id的URL请求获取code | || | ---------------

[android数据库同步]【架构】一种Android界面数据同步刷新机制

我们来谈谈客户端界面的数据同步问题. 界面数据同步的需求 比如,下面的AB两个界面中都显示了学生Leslie的信息,当我们在A界面修改学生学号时,我们希望回到B界面时,学生的信息也能跟着改变,才能保证业务数据的正确和一致性. 这就涉及到数据的同步和刷新问题. 主界面显示了学生和老师的信息 另一个界面也显示了学生的信息 刷新数据时都要从数据源再次请求数据吗? 如今手机应用的数据几乎都来自网络(或者本地数据库).假如我们在A界面上修改了学生的信息并同步到网络,若回到B界面需要刷新该学生的信息,再次调

justinmind夜话:数据母板系列视频教程之原型设计二十一条军规

案例描述:使用数据母板实现原型设计二十一条军规 知识点: 数据母板 效果图: 本站在线效果预览:(原型文件) 原型下载地址:数据母板原型设计二十一条军规 .vp  数据母板原型设计二十一条军规.html 在线视频: 实现步骤:

游戏开发手记:游戏逻辑模块组织及数据同步

这周工作主要分两部分,一是服务器这边的基础模块搭建,二是服务器与客户端通信模式以及数据同步等方案的协定和验证.总体来说进展不错. 服务器采用actor模式来构建,目前暂时把服务器上运行着的actor叫做service,每个service维护一个请求队列.一个goroutine不断取出请求并进行处理.一组负责处理消息的逻辑模块.游戏服务器里的每个玩家都是一个service,不隶属玩家的功能模块也作为service运行(如排行榜.聊天.公会),还有其他全局模块也作为独立的service运行(如玩家i

利用触发器实现kettle数据同步

2016年8月17日 一.目的 通过触发器实现数据同步二.思路 1.在数据库需要同步的源表中建立一个insert触发器,当有新数据插入时,会自动将新插入数据的主键记录到临时表temp中.(当然也可以记录多个字段) 2.比较临时表temp和源表中的数据,匹配两个表中的主键值是否一致(也可以匹配多个字段),将符合条件的源表数据筛选出来,同步到目标表. 3.当同步完数据之后,清空temp表中的数据,进行下一轮同步.三.优缺点 1.优点 避免对相同数据的扫描,减少同步时间. 2.缺点 只在本地测试,未能

rsync+inotify-tools实时数据同步配置实战

实验环境的准备: 源服务器:10.0.0.130 目标服务器:10.0.0.139 一.在源服务器安装Rsync服务端 1.关闭SELINUX vi /etc/selinux/config #编辑防火墙配置文件 #SELINUX=enforcing #注释掉 #SELINUXTYPE=targeted #注释掉 SELINUX=disabled #增加 :wq! #保存,退出 setenforce 0  #立即生效 2.开启防火墙tcp 873端口(Rsync默认端口) vi /etc/sysc