airflow使用mysql数据库,LocalExecutor并发调度(1)

mysql-airflow

在mysql上执行

create database airflow; —— 创建数据库

GRANT all privileges on airflow.* TO ‘airflow‘@‘%‘ IDENTIFIED BY ‘123456‘; —— 将数据库airflow的所有权限授权airflow用户,密码123456且该用户可在任何IP段登录操作

FLUSH PRIVILEGES; —— 刷新权限

set explicit_defaults_for_timestamp = 1;

修改airflow配置文件airflow.cfg

sql_alchemy_conn = mysql://airflow:[email protected]/airflow

初始化数据库

airflow initdb

若之前使用sqllite初始化过可使用airflow resetdb

airflow-LocalExecutor

修改执行器,使airflow并发调度任务

修改配置文件airflow.cfg

executor = LocalExecutor

重启scheduler即可(默认并发调度16)

分布式问题

1.需要使用同步方式解决dags目录与worker的同步问题——待解决

2.需要解决scheduler的单点问题,可参考 apache-airflow 调度系统 https://blog.csdn.net/somezz/article/details/82749495

cankao :https://my.oschina.net/u/3770892/blog/3069220

原文地址:https://www.cnblogs.com/lshan/p/11768812.html

时间: 2024-10-02 20:09:18

airflow使用mysql数据库,LocalExecutor并发调度(1)的相关文章

MySQL数据库高并发优化配置

from:http://www.111cn.net/database/mysql/59776.htm MySQL的优化我分为两个部分,一是服务器物理硬件的优化,二是MySQL自身(my.cnf)的优化. 一.服务器硬件对MySQL性能的影响 ① 磁盘寻道能力(磁盘I/O),以目前高转速SCSI硬盘(7200转/秒)为例,这种硬盘理论上每秒寻道7200次,这是物理特性决定的,没有办法改变. MySQL每秒钟都在进行大量.复杂的查询操作,对磁盘的读写量可想而知.所以,通常认为磁盘I/O是制约MySQ

Linux MYSQL 数据库

Linux MYSQL  数据库 1.1.概述: DBMS datebase management system  数据库管理系统 DML:date manapulate lanaguage  数据操作语言 INSERT,REPLACE,UPDATE,DELETE DLL: Date Defination Lanauage 数据定义语言 CREATE,创建数据库 ALTER,修改数据库 DROP 删除数据库和表 DCL:Date Control Language 数据控制语言 常用数据库软件 O

mysql数据库事件调度(Event)

mysql中的事件调度器可以定时对数据库增加,删除和执行操作,相当于数据库中的临时触发器,与Linux系统中的执行计划任务一样,这样就可以大大降低工作量. 1.开启事件调度器 [[email protected] ~]# vim /usr/my.cnf         --在配置文件中加入以下语句启用调度器 event_scheduler=1 [[email protected] ~]# /etc/init.d/mysql restart ERROR! MySQL server PID file

MySql数据库并发和事务资料汇总

InnoDB多版本并发控制-MVCC http://my.oschina.net/xinxingegeya/blog/208821 MySql并发控制 http://my.oschina.net/xinxingegeya/blog/215417 MySQL之事务 http://my.oschina.net/xinxingegeya/blog/215419 MySql命令行控制事务 http://my.oschina.net/xinxingegeya/blog/296459 MySQL事务隔离级别

数据库 - 并发调度的可串行性

并发调度的可串行性 DBMS对并发事务不同的调度(schedule)可能会产生不同的结果 什么样的调度是正确的? 串行化(Serial)调度是正确的 对于串行调度,各个事务的操作没有交叉,也就没有相互干扰,当然也不会产生并发所引起的.如前所述,事务对数据库的作用是将数据库从一个一致的状态转变为另一个一致的状态.多个事务串行执行后,数据库仍旧保持一致的状态. 可串行化(Serializable)调度 多个事务的并发执行是正确的,当且仅当其结果与按某一次序串行地执行这些事务时的结果相同.可串行化调度

mysql数据库的参数以及性能的调配

 mysql数据库的特性以及参数性能 一:mysql与其他数据库的比较 MySQL是一个关系型数据库管理系统,开发者为瑞典MySQL AB公司,现在已经被Sun公司收购,支持FreeBSD.Linux.MAC.Windows等多种操作系统与其他的大型数据库例如Oracle.DB2.SQL Server等相比功能稍弱一些 1.可以处理拥有上千万条记录的大型数据 2.支持常见的SQL语句规范 3.可移植行高,安装简单小巧 4.良好的运行效率,有丰富信息的网络支持 5.调试.管理,优化简单(相对其他大

Spring mvc整合mybatis基于mysql数据库实现用户增删改查及其分页显示的完整入门实例【转】

Spring mvc整合mybatis例子, 基于mysql数据库实现对用户的增.删.改.查,及分页显示的完整例子. 查询显示用户 添加用户 更新用户 官方验证: 项目截图 必须修改applicationContext.xml中mysql的配置为本地的,否则启动失败. 另外jar包多一个ehcache.jar无关紧要,删除即可. 1. 使用阿里巴巴Druid连接池(高效.功能强大.可扩展性好的数据库连接池.监控数据库访问性能.支持Common-Logging.Log4j和JdkLog,监控数据库

浅谈MySQL数据库备份的几种方法

mysql常见的备份方式有:mysqldump.mysqlhotcopy.BACKUP TABLE .SELECT INTO OUTFILE,又或者备份二进制日志(binlog),还可以是直接拷贝数据文件和相关的配置文件.MyISAM 表是保存成文件的形式,因此相对比较容易备份,上面提到的几种方法都可以使用.Innodb 所有的表都保存在同一个数据文件 ibdata1 中(也可能是多个文件,或者是独立的表空间文件),相对来说比较不好备份,免费的方案可以是拷贝数据文件.备份 binlog,或者用 

Mysql数据库理论基础之八--数据库事务

一.简介 由MySQL AB公司开发,是最流行的开放源码SQL数据库管理系统,主要特点: 1.是一种数据库管理系统 2.是一种关联数据库管理系统 3.是一种开放源码软件,且有大量可用的共享MySQL软件 4.MySQL数据库服务器具有快速.可靠和易于使用的特点 5.MySQL服务器工作在客户端/服务器模式下,或嵌入式系统中 InnoDB存储引擎将InnoDB表保存在一个表空间内,该表空间可由数个文件创建.这样,表的大小就能超过单独文件的最大容量.表空间可包括原始磁盘分区,从而使得很大的表成为可能