ETL调度开发(1)——编写说明

前言:

在数据库运行维护过程中经常会需要在系统之间进行文件传输,对数据进行抽取、转换、整合等操作。并且在数据整合之后进行统计调度,这里将会对本人开发的一个ETL调度进行详细的说明。

需求概述:

调度分为如下方式:

ü  一个是SHELL编写的ETL调度,支持小时、日、周、月文件的调度。

ü  一个是流程调度,主要是根据配置表调用指定过程,并发执行。

进程描述:

文件调度进程每分钟起一次,文件调度后的后续处理进程也是每分钟起一次,自动预警进程每5分钟检查一次。

预警描述:

每日文件在指定时间内未到达时将短信提醒相关人员(ETL调度程序文件未到达提醒),截止目前遇到的几种异常情况已经加入到自动处理程序

另外:文件流程,或者统计流程连续出错指定次数之后则停止统计,同时通过短信预警。

后续开始设计对应的配置表以及描述各个配置表之间的关系和配置方法。

ETL调度开发(1)——编写说明

时间: 2024-10-06 09:47:41

ETL调度开发(1)——编写说明的相关文章

ETL调度开发(4)——FTP加载文件子程序

ETL工具中最基础的功能是加载远程服务器的文件,如下小程序以二进制方式获取远程服务器上的文件: #!/usr/bin/bash #created by lubinsu #2014 source ~/.bash_profile filename=$6 srcdir=$4 descdir=$5 ftpip=$1 ftpusr=$2 ftppwd=$3 #get files ftp -i -in <<! open ${ftpip} user ${ftpusr} ${ftppwd} bin cd ${

ETL调度开发(5)——连接数据库执行数据库命令子程序

ETL调度中读写数据信息,都需要连接数据库,下面的子程序通过传入的数据库连接字符串和数据库命令(或SQL)执行所需要的操作: #!/usr/bin/bash #created by lubinsu #2014 source ~/.bash_profile values=`sqlplus -S $1 << EOF set heading off feedback off pagesize 0 verify off echo off WHENEVER SQLERROR exit SQL.SQLCO

ETL调度开发(2)——配置表说明

根据需求我们需要创建部分所需的配置表,各表说明如下: 1.文件FTP主机配置表:SHELL_HOST_CFG COLUMN_NAME DATA_TYPE COMMENTS LATN_ID NUMBER HOST_ID NUMBER 主机ID HOST_NAME VARCHAR2 主机名 HOST_IP VARCHAR2 主机IP HOST_PORT VARCHAR2 主机端口 USERNAME VARCHAR2 用户名 PASSWD VARCHAR2 密码 HOST_PATH VARCHAR2

ETL调度开发(5)——连接数据库运行数据库命令子程序

ETL调度中读写数据信息,都须要连接数据库,以下的子程序通过传入的数据库连接字符串和数据库命令(或SQL)运行所须要的操作: #!/usr/bin/bash #created by lubinsu #2014 source ~/.bash_profile values=`sqlplus -S $1 << EOF set heading off feedback off pagesize 0 verify off echo off WHENEVER SQLERROR exit SQL.SQLCO

系统设计与架构笔记:ETL工具开发和设计的建议

最近项目组里想做一个ETL数据抽取工具,这是一个研发项目,但是感觉公司并不是特别重视,不重视不是代表它不重要,而是可能不会对这个项目要求太高,能满足我们公司的小需求就行,想从这个项目里衍生出更多的东西估计难.昨天领导让我写写自己的见解,今天写了点,不过说见解还真不敢,所以取了个名字叫建议了,今天把这个文档贴到自己博客里和大伙分享分享. 贴文档之前,我想很多朋友估计并不熟悉ETL,如果接粗过数据挖掘一定对ETL很熟悉了,ETL是数据挖掘里非常重要的一环,具体什么是ETL,大家看下面这段文字: ET

【lushengduan】01、搭建安卓App开发环境 编写程序HelloWorld

一.搭建开发环境 1.JDK环境变量 JDK下载 链接:http://pan.baidu.com/s/1gen1o9l 密码:8fko 打开计算机-属性-高级系统设置-环境变量,新建JAVA_HOME系统环境变量 C:\Program Files\Java\jdk1.7.0_80 新建CLASSPATH系统环境变量 .;%JAVA_HOME%lib;%JAVA_HOME%lib\tools.jar; 在系统环境变量Path后面追加 ;%JAVA_HOME%/bin;C:\Program File

基于JZ2440开发板编写bootloader总结(一)

凡走过必留下痕迹,学点什么都会有用的. 本系列博文总结了自己在学习嵌入式Linux编程过程中的收获,若有错误,恳请指正,谢谢! --参考教材韦东山系列教材 bootloader 是一个用于启动linux内核的C程序,为了达到最终启动内核的目的需要完成以下几个步骤: step1:硬件相关初始化,为启动内核准备硬件平台: step2:将内核从NAND FLASH读取到SDRAM: step3:设置需要传递给内核的启动参数: step4:跳转到SDRAM,运行内核: 下面将详细讲述各个步骤细节: 第一

项目管理(十二)- 敏捷开发之编写故事

在本章我们将关注故事编写,为了更好的构造故事,我们关注六个特性,一个好的故事应该具有如下6个方面的特点 故事的6个特征 1.独立的 避免故事之间的相互依赖,在对故事排列优先级时,或者使用故事做计划时,故事间的相互依赖会导致一些问题 2.可讨论的 故事是可讨论的,他们不是签署好的合同或者软件中必须实现的需求,敏捷故事是功能的简短描述,细节将在客户团队和开发团队中讨论中产生,故事是提醒客户团队和开发团队以后要进行关于需求的对话,它并不是具体的需求本身,因而它不需要包含具体的细节.这些细节可以在后期例

全志A33 lichee 搭建Qt App开发环境编写helloworld

开发平台 芯灵思SinlinxA33开发板 淘宝店铺: [https://sinlinx.taobao.com/]() 嵌入式linux 开发板交流 QQ:641395230 Step 1 在虚拟机(CentOS7)上安装Qt Creator 将qt-creator-opensource-linux-x86_64-3.5.1.run 拷贝到虚拟机中,双击安装,全部点下一步即可. Step 2 Qt Creater 设置 打开Qt Creator (Applications->Programmin