浅谈 Redis 与 MySQL 的耦合性以及利用管道完成 MySQL 到 Redis 的高效迁移

http://blog.csdn.net/dba_waterbin/article/details/8996872

㈠ Redis 与 MySQL 的耦合性
    
    
    在业务架构早期、我们便该"吃着碗里的看着锅里的"、切莫让MySQL 有梦、而Redis 无心
    毕竟、有些关系型的结构不适合放到Redis跑、"男女搭配、干活不累"嘛、推荐让MySQL与Redis喜结连理
    
    其次、这 2 人、一般是在不同场景做选择、而不会在性能上选择、
    只有在 2 者都可用的情况下、综合性能、硬件成本、运维成本等选择
    比如、网页游戏启用 Redis+MySQL:
    游戏中的:好友关系、排行榜、计数器、队列、cache都很适合通过 Redis来实现
    
    再举个例子是新浪微博的架构、比如用户关注关系:

在 MySQL中是 <粉丝,关注的人>这样一行一行存储的。而在 Redis中你可以存成一个set,或者zset等

大体流程是由 MySQL 复制到 Redis 的
    基本结构应该是:
    1. 发微博-- > 进入消息队列-- > 存入MySQL-- > 复制到Redis
    2. 查询 -- > 查询缓存-- > 查询Redis -- > 查询MySQL
    
    
    
    ㈡ 快速迁移 MySQL →→ Redis 


    
       ① MySQL 要导出的表 david_lin

[plain] view plaincopyprint?

  1. mysql> desc david_lin;
  2. +---------+-------------+------+-----+---------+-------+
  3. | Field   | Type        | Null | Key | Default | Extra |
  4. +---------+-------------+------+-----+---------+-------+
  5. | id      | int(11)     | NO   | PRI | NULL    |       |
  6. | myname  | varchar(25) | NO   | UNI | NULL    |       |
  7. | mymoney | int(11)     | NO   |     | 0       |       |
  8. +---------+-------------+------+-----+---------+-------+
  9. mysql> select * from david_lin;
  10. +----+--------+---------+
  11. | id | myname | mymoney |
  12. +----+--------+---------+
  13. |  1 | david  |  100000 |
  14. |  2 | rocky  |  200000 |
  15. +----+--------+---------+

② 编写导出脚本
          
            每行数据中执行的 Redis命令如下:
            HSET david_lin [myname] [mymoney]

[plain] view plaincopyprint?

  1. [[email protected] ~]# cat mysql_to_redis.sql
  2. SELECT CONCAT(
  3. "*4\r\n",
  4. ‘$‘, LENGTH(redis_cmd), ‘\r\n‘,
  5. redis_cmd, ‘\r\n‘,
  6. ‘$‘, LENGTH(redis_key), ‘\r\n‘,
  7. redis_key, ‘\r\n‘,
  8. ‘$‘, LENGTH(hkey), ‘\r\n‘,
  9. hkey, ‘\r\n‘,
  10. ‘$‘, LENGTH(hval), ‘\r\n‘,
  11. hval, ‘\r‘
  12. )
  13. FROM (
  14. SELECT
  15. ‘HSET‘ AS redis_cmd,
  16. ‘david‘ AS redis_key,
  17. myname AS hkey,
  18. mymoney AS hval
  19. FROM david_lin
  20. ) AS t

③ 开始导入

[plain] view plaincopyprint?

  1. [[email protected] ~]# mysql -uroot -poracle test --skip-column-names --raw < mysql_to_redis.sql | redis-cli --pipe
  2. All data transferred. Waiting for the last reply...
  3. Last reply received from server.
  4. errors: 0, replies: 0

④ 在Redis 里查询

[plain] view plaincopyprint?

  1. redis 127.0.0.1:6379> hgetall david
  2. 1) "david"
  3. 2) "100000"
  4. 3) "rocky"
  5. 4) "200000"

这里仅是个 demo、数据量小、不过、看这结果、有些类似行转列哈、列运算了、有木有 :)

时间: 2024-10-01 07:32:37

浅谈 Redis 与 MySQL 的耦合性以及利用管道完成 MySQL 到 Redis 的高效迁移的相关文章

浅谈SQL优化入门:2、等值连接和EXPLAIN(MySQL)

1.等值连接:显性连接和隐性连接 在<MySQL必知必会>中对于等值连接有提到两种方式,第一种是直接在WHERE子句中规定如何关联即可,那么第二种则是使用INNER JOIN关键字.如下例两种方式是"等同"的. //WHERE方式 SELECT vend_name, prod_name, prod_price, quantity FROM vendors, products, orderitems WHERE vendors.vend_id = products.vend_

浅谈:APP有哪些常被黑客利用的安全漏洞

首先,说到APP的安全漏洞,身为程序猿的大家应该不陌生:如果抛开安卓自身开源的问题的话,其主要产生的原因就是开发过程中疏忽或者代码不严谨引起的.但这些责任也不能怪在程序猿头上,有时会因为BOSS时间催得紧等很多可观原因.所以本文会对 Android 系统的开源设计以及生态环境做一些浅谈. 1. 应用反编译漏洞:APK 包非常容易被反编译成可读文件,稍加修改就能重新打包成新的 APK.利用:软件破解,内购破解,软件逻辑修改,插入恶意代码,替换广告商 ID.建议:使用 ProGuard 等工具混淆代

浅谈MySQL存储引擎-InnoDB&amp;MyISAM

存储引擎在MySQL的逻辑架构中位于第三层,负责MySQL中的数据的存储和提取.MySQL存储引擎有很多,不同的存储引擎保存数据和索引的方式是不同的.每一种存储引擎都有它的优势和劣势,本文只讨论最常见的InnoDB和MyISAM两种存储引擎进行讨论.本文中关于数据存储形式和索引的可以查看图解MySQL索引 MySQL逻辑架构图: InnoDB存储引擎 InnoDB是默认的事务型存储引擎,也是最重要,使用最广泛的存储引擎.在没有特殊情况下,一般优先使用InnoDB存储引擎. 1??.数据存储形式

浅谈mysql主从复制的高可用解决方案

1.熟悉几个组件(部分摘自网络)1.1.drbd     —— DRBD(Distributed Replicated Block Device),DRBD号称是 "网络 RAID",开源软件,由 LINBIT 公司开发.DRBD 实际上是一种块设备的实现,主要被用于Linux平台下的高可用(HA)方案之中.他是有内核 模块和相关程序而组成,通过网络通信来同步镜像整个设备,有点类似于一个网络RAID的功能.也就是说当你将数据写入本地的DRBD设备上的文件系统 时, 数据会同时被发送到网

浅谈MySQL索引背后的数据结构及算法

摘要 本文以MySQL数据库为研究对象,讨论与数据库索引相关的一些话题.特别需要说明的是,MySQL支持诸多存储引擎,而各种存储引擎对索引的支持 也各不相同,因此MySQL数据库支持多种索引类型,如BTree索引,哈希索引,全文索引等等.为了避免混乱,本文将只关注于BTree索引,因为这是 平常使用MySQL时主要打交道的索引,至于哈希索引和全文索引本文暂不讨论. 文章主要内容分为四个部分. 第一部分主要从数据结构及算法理论层面讨论MySQL数据库索引的数理基础. 第二部分结合MySQL数据库中

浅谈mysql innodb缓存策略

浅谈mysql innodb缓存策略: The InnoDB Buffer Pool Innodb 持有一个存储区域叫做buffer pool是为了在内存中缓存数据和索引,知道innodb bufferpool怎么工作,和利用它读取频繁访问的数据,是mysql优化重要的方面. 理想状况下,把bufferpool的大小调整到足够大,留下足够的内存空间给其他该服务器上的进程(使其无缺页即可).bufferpool越大,innodb 月表现为内存型数据库,从硬盘上一次读取数据,之后并成了从内存中读取数

浅谈Redis及其安装配置

一.Redis的介绍 二.Redis的安装配置 三.Redis的配置文件说明 四.Redis的简单操作 简介: Redis是一个开源的使用ANSI C语言编写.支持网络.可基于内存亦可持久化的日志型.Key-Value数据库,并提供多种语言的API.从2010年3月15日起,Redis的开发工作由VMware主持 数据模型: 作为Key-value型数据库,Redis也提供了键(Key)和键值(Value)的映射关系.但是,除了常规的数值或字符串,Redis的键值还可以是以下形式之一:    L

浅谈Mysql共享锁、排他锁、悲观锁、乐观锁及其使用场景

浅谈Mysql共享锁.排他锁.悲观锁.乐观锁及其使用场景 Mysql共享锁.排他锁.悲观锁.乐观锁及其使用场景 一.相关名词 |--表级锁(锁定整个表) |--页级锁(锁定一页) |--行级锁(锁定一行) |--共享锁(S锁,MyISAM 叫做读锁) |--排他锁(X锁,MyISAM 叫做写锁) |--悲观锁(抽象性,不真实存在这个锁) |--乐观锁(抽象性,不真实存在这个锁) 二.InnoDB与MyISAM Mysql 在5.5之前默认使用 MyISAM 存储引擎,之后使用 InnoDB .查

浅谈mysql

关于数据库其实我们可以简单的理解为存储货物的一个厂库,里面分别是按照一定的分类存放的物品,然后人们有时会从厂库中拿走或存储一些物品,有时也会更改或增加一些分类 这些物品都分门别类的存放在厂库中,方便人们的查询和存储. MySQL是一个关系型数据库管理系统,开发者为瑞典MySQL AB公司.目前MySQL被广泛地应用在互联网行业.由于其体积小.速度快.总体拥有成本低,尤其是开放源码这一特点,许多互联网公司选择了MySQL作为后端数据库.2008年MySQL被Sun公司收购,2010年甲骨文成功收购