datax的安装和使用(windows)

  github官方文档和项目:https://github.com/alibaba/DataX

  下载后在windows环境下是可以直接用python编译执行的,但从github上下载的版本只支持python2.x版本,而现在python3.x正流行,这给我们带来不少麻烦。

  在查找资料后我找到了解决办法:

  datax 支持Python3需要修改替换datax/bin下面的三个python文件,替换文件地址:https://github.com/WeiYe-Jing/datax-web/tree/master/doc/datax-web/datax-python3

  替换掉datax/bin下面这三个文件

  替换完成后,亲测可以使用,我的python是3.8.1版本。

  接下来我完成了datax的一个简单的入门测试,根据开头给出的github网址,找到官方文档

  

  根据官方文档选择需要数据库和数据源的读写实例,配置job.json文件。

  在操作之前需要在navicat中建立两个表,table1和table2,字段如图:

  

  我想要测试一下mysql表之间的数据传输,参照mysql读写文档,配置了如下job.json:

  

{
    "job": {
        "content": [
            {
                "reader": {
                    "name": "mysqlreader",
                    "parameter": {
                        "username": "root",
                        "password": "123456",
                        "column": [
                            "id",
                            "name"
                        ],
                        "connection": [
                            {
                                "table": [
                                    "table1"
                                ],
                                "jdbcUrl": [
                                    "jdbc:mysql://localhost/datax?characterEncoding=utf8"
                                ]
                            }
                        ]
                    }
                },
                "writer": {
                    "name": "mysqlwriter",
                    "parameter": {
                        "username": "root",
                        "password": "123456",
                        "column": [
                            "id",
                            "name"
                        ],
                        "connection": [
                            {
                                "table": [
                                    "table2"
                                ],
                                "jdbcUrl": "jdbc:mysql://localhost/datax?characterEncoding=utf8"
                            }
                        ]
                    }
                }
            }
        ],
        "setting": {
            "speed": {
                "channel": 1,
                "byte": 104857600
            },
            "errorLimit": {
                "record": 10,
                "percentage": 0.05
            }
        }
    }
}

  

  接下来用win+r打开cmd命令窗口,输入按照配置文件启动datax的命令:python D:\datax\datax\bin\datax.py D:\datax\datax\job\job3.json(注意自己的安装路径)

  如果cmd出现乱码,输入CHCP 65001

  最后出现如下结果表示任务完成:

  我们打开table2,发现table1里的数据已经全导入进来了。

  

原文地址:https://www.cnblogs.com/Aduorisk/p/12408559.html

时间: 2024-08-29 15:12:41

datax的安装和使用(windows)的相关文章

C# 远程服务器 安装、卸载 Windows 服务,读取远程注册表,关闭杀掉远程进程

这里安装windows服务我们用sc命令,这里需要远程服务器IP,服务名称.显示名称.描述以及执行文件,安装后需要验证服务是否安装成功,验证方法可以直接调用ServiceController来查询服务,也可以通过远程注册表来查找服务的执行文件:那么卸载文件我们也就用SC命令了,卸载后需要检测是否卸载成功,修改显示名称和描述也用sc命令.至于停止和启动Windows服务我们可以用sc命令也可以用ServiceController的API,当停止失败的时候我们会强制杀掉远程进程,在卸载windows

[收藏]win8安装弹出输入的产品密钥与用于安装任何可用windows映像都不匹配

问题描述: 帮朋友装win8(第一次装大神不要喷我啊)结果到 现在安装 这一步的时候 点击 现在安装 弹出个窗口 说输入的产品密钥与用于安装任何可用windows映像都不匹配.请输入其他产品密钥 解决办法: 现在大家一般都用U盘安装的方式,那么只需使用记事本编辑一个名为 EI.CFG 的文本文件(注意不带 .txt 扩展名) ,然后将其放到 Windows 8 安装文件 Sources 文件夹中即可.EI.CFG 文件内容如下: [EditionID] PROFESSIONAL [Channel

安装 Linux 与 Windows 10 双系统,你需要了解的一切

该选Windows 10还是Linux Mint?鱼与熊掌当然可以兼得,但咱们得掌握点小技巧才能顺利搞定. Windows 10绝不是唯一一款值得我们安装在自己计算机之上的免费操作系统.Linux只靠一块U盘就能顺利运行,而且完全无需对现有系统作出任何修改.当然,如果大家打算定期加以使用,最好也能在电脑上给Linux留出一席之地. 同时安装Linux发行版与Windows也就是大家常常提到的“双系统”方案,大家可以在每一次启动PC设备时选择自己要使用哪款操作系统.对于大多数人来说,这是安装Lin

linux中安装wine运行windows程序

http://blog.csdn.net/pipisorry/article/details/41653361 Wine的介绍 Wine是Wine Is Not an Emulator(Wine不是模拟器)的缩写,其实是一个转换层(或程序装入器),能够在Linux及与POSIX兼容的其他类似操作系统上运行Windows应用程序.Wine在Linux上无法模拟Windows应用程序,而是提供了另外的方法来实施DLL(典型的Windows应用程序可以调用这些DLL)和代替Windows NT内核的进

如何安装sql server2005 windows 8

如何安装sql server2005 ? windows 8 1 从网上下载到本地文件 ,这里使用的是cs_sql_2005_dev_all_dvd 安装版. 2. 点击下图所表示进行安装 ? 3. 第一屏幕会出现这些,因为本机是64位,所以选择64 4 ?点击 安装->服务器组件·工具 联机丛书和示例 这会带你到这个屏幕 5 接受 许可,点击 下一步 6.? 7. 如果国内网络不好,会出现如下: 解决办法:下载.net framework 3.5? (1) 又出现了一个问题,就是不能识别 do

u盘安装系统(windows XP,win7,win8,2008通用)

1. 2G U盘一个.  UltraISO软件(下面有下载) 2.首先插入U盘格式化成FAT文件系统,打开UltraISO软件 (1)用UltraISO软件打开系统镜像 (2)点击菜单 "启动"-写入硬盘映像 (3)写入方式改成USB-HDD ,点击便捷启动-写入新硬盘主引导记录(MBR)-USB-HDD (4)点击写入 写入完毕就做好了然后重启把BIOS里的启动项调成USB-HDD启动保存后重启就可以安装了安装windows server 2008过程中会要求重启,这点要注意在重启时

centos安装后恢复windows引导

刚出现了CentOS 7正式版,笔者便安装尝试,发现和REDHAT 7一样,Grub2不能正确引导windows分区,解决方法很简单 vim  /boot/grub2/grub.cfg 在### END /etc/grub.d/00_header ###之后添加: ### BEGIN /etc/grub.d/30_os-prober ### menuentry 'Windows 8 (loader) (on /dev/sda1)' --class windows --class os $menu

Mac OS X系统下利用VirtualBox安装和配置Windows XP虚拟机

准备工作 下载并安装VirtualBox for Mac到https://www.virtualbox.org/wiki/Downloads下载VirtualBox <版本> for OS X hosts 下载并安装VirtualBox Extension Pack在步骤1的页面点击VirtualBox <版本> Oracle VM VirtualBox Extension Pack右侧的链接进行下载. 下载Windows XP镜像(请自行搜索^^) 在VirtualBox中安装W

安装github for windows问题解决

到官网下载windows环境下的github,在安装时出现以下问题 An error occurred trying to download 'http://github-windows.s3.amazonaws.com/GitHub.application'. See the setup log file located at 'C:\Users\...\AppData\Local\Temp\VSD7580.tmp\install.log' for more information. 由此可知

Mysql数据库一:安装与创建windows服务

Mysql数据库安装与创建windows服务 1.先下载压缩包(mysql-5.7.18-winx64.zip)移动到对应目录(如D:\software)后解压. 2.安装服务端: mysqld:带d是服务端程序 D:\> D:\software\mysql-5.7.18-winx64\bin\mysqld --initialize-insecure (控制台最好以管理员模式启动) 此时已经为我们初始化好了服务端程序,并创建了初始用户root 密码空, 初始程序为我们在D:\software\m