数据搬运工DSS~介绍

DSS介绍

DSS是为了实现异地数据同步而开发的一套.net平台的应用程序,它寄宿到windows服务上,由多个客户端和一个服务端组成,其中客户端用来收集数据(数据源端),服务端用来将数据写入指定数据库(数据目的端),整个数据传输的过程采用socket来实现,数据量单次在200K左右,保证了传输的性能;在服务端通过仓储大叔的CacheQueue队列组件来解决高并发的问题,队列为了便于后台维护,采用了文件存储的方式。

DSS系统架构图

DSS数据一致性的设计

DSS解决方案图

DSS为每个客户端配置一个单独的端口,减少数据冲突

<socketServer>
    <servers>
      <!-- maxMessageSize:1000K,socketBufferSize:8192,缓冲区指处理多少字节后进行真实的处理,如写文件写库等-->
      <server name="client1"
              port="8403"
              socketBufferSize="819200"
              messageBufferSize="819200"
              maxMessageSize="10240000"
              maxConnections="200000"
              serviceType="Tsingda.DSS.Server.ListeningService.Application.DSSCommandManager, Tsingda.DSS.Server.ListeningService.Application"
              protocol="dssBinary"/>
      <server name="client2"
              port="8402"
              socketBufferSize="819200"
              messageBufferSize="819200"
              maxMessageSize="10240000"
              maxConnections="200000"
              serviceType="Tsingda.DSS.Server.ListeningService.Application.DSSCommandManager, Tsingda.DSS.Server.ListeningService.Application"
              protocol="dssBinary"/>
      <server name="strCmd"
             port="8404"
             socketBufferSize="8192"
             messageBufferSize="8192"
             maxMessageSize="102400"
             maxConnections="20000"
             serviceType="Tsingda.DSS.Server.ListeningService.Application.StringCommandManager, Tsingda.DSS.Server.ListeningService.Application"
             protocol="asyncBinary"/>
    </servers>
  </socketServer>

好了,对于数据搬运工就介绍到这里,下次我们将分析一下源代码的实现!

时间: 2024-07-30 18:53:11

数据搬运工DSS~介绍的相关文章

informix数据迁移工具使用介绍

一.dbschema USAGE:     dbschema [-q] [-t tabname] [-s user] [-p user] [-r rolename] [-f procname]              [-hd tabname] -d dbname [-w passwd] [-seq sequence] [-l [num]]              [-u [ia] udtname [all]] [-it [Type]] [-ss [-si]] [filename] EG:

PDF数据提取------1.介绍

1.关于PDF文件     PDF(Portable Document Format的简称,意为“便携式文件格式”)是由Adobe Systems在1993年用于文件交换所发展出的文件格式.它的优点在于跨平台.能保留文件原有格式(Layout).开放标准,能自由授权(Royalty-free)自由开发PDF兼容软件.(PDF - 维基百科) 2.关于解析PDF 就像大神灵感之源的博文关于PDF的代码,真是多得不得了...,由于现在实习公司需要从大量文档中提取金融数据.对于网页解析我们有强大的Ht

014-HQL中级4-Hive中的三种不同的数据导出方式介绍

根据导出的地方不一样,将这些方式分为三种:(1).导出到本地文件系统:(2).导出到HDFS中:(3).导出到Hive的另一个表中.为了避免单纯的文字,我将一步一步地用命令进行说明. 一.导出到本地文件系统 hive> insert overwrite local directory '/home/wyp/wyp' > select * from wyp; 复制代码 这条HQL的执行需要启用Mapreduce完成,运行完这条语句之后,将会在本地文件系统的/home/wyp/wyp目录下生成文件

013-HQL中级3-Hive四种数据导入方式介绍

Hive的几种常见的数据导入方式这里介绍四种:(1).从本地文件系统中导入数据到Hive表:(2).从HDFS上导入数据到Hive表:(3).从别的表中查询出相应的数据并导入到Hive表中:(4).在创建表的时候通过从别的表中查询出相应的记录并插入到所创建的表中. 一.从本地文件系统中导入数据到Hive表先在Hive里面创建好表,如下: hive> create table wyp > (id int, name string, > age int, tel string) > R

电子商务行业数据集成案例介绍

1 引言 电子商务是一种新兴的.处于发展过程中的现代商务方式,从95年来得到了迅速发展,显现了巨大的现代商业价值.1997年欧洲.美国.新加坡等许多国家政府发表了电子商务发展纲要,其目的是引导全球电子商务的自由竞争和健康发展,大力推动电子商务的实践.我国政府的发展纲要也将在近期出台,促进我国企业适应国际化的发展.参与国际竞争.有理由相信,在21世纪,电子商务将逐渐成为社会生活的主要方式,也将成为数字化社会的基础. 电商较传统行业,在物流.客户.订单管理上有着更细化.更高的要求,比如物流过程跟踪.

Python数据整合与数据准备-BigGorilla介绍

一.前言 “根据访谈记录和专家估计,数据科学家将50%至80%的时间花在搜集和准备难以梳理的数字数据的琐碎工作中,然后才能开发这些数据完成有用的工作” — Steve Lohr, Aug 17, 2014, New York Times (For Big-Data Scientists, ‘Janitor Work’ Is Key Hurdle to Insights) 二.BigGorilla介绍 BigGorilla是一个开源数据整合和数据准备生态系统(由Python提供支持),以允许数据科

几种.NET平台数据持久化框架介绍

原文连接:http://yuxnet.blog.163.com/blog/static/164863495201131532223362/ 在.NET平台下,关于数据持久层框架非常多,本文主要对如下几种做简要的介绍并推荐一些学习的资源: 1.NHibernate 2.NBear 3.Castle ActiveRecord 4.iBATIS.NET 5.DAAB 附加介绍:DLinq 一.NHibernate 提起NHibernate,相信大家都不陌生,NHibernate来源于非常优秀的基于Ja

作业一:数据软件系统的介绍及spss的操作简介

数据分析软件介绍 数据分析是指用适当的统计分析方法对收集来的大量数据进行分析,提取有用信息和形成结论而对数据加以详细研究和概括总结的过程.这一过程也是质量管理体系的支持过程.在实用中,数据分析可帮助人们作出判断,以便采取适当行动. 数据分析的数学基础在20世纪早期就已确立,但直到计算机的出现才使得实际操作成为可能,并使得数据分析得以推广.数据分析是数学与计算机科学相结合的产物. 在统计学领域,有些人将数据分析划分为描述性统计分析.探索性数据分析以及验证性数据分析:其中,探索性数据分析侧重于在数据

数码复印机数据安全检查技术介绍

一.数码复印机介绍 自从上世纪五十年代美国施乐公司推出第一台商用复印机以来,复印机已走过了半个多世纪的历程,复印技术也日趋完善.复印机产品从手动到全自动,从单一功能到多功能,从模拟式到数码式,从单色到多色.全彩色的发展,复印技术随着信息时代的到来,走上更加完善.更加成熟的道路. 数码复合机是以复印功能为基础,标配或可选打印.扫描.传真功能,采用数码原理,以激光打印的方式进行文件输出,可以根据需要对图像.文字进行编辑操作,拥有较大容量纸盘,高内存.大硬盘.强大的网络支持和多任务并行处理能力,能够满