后端架构高可用可伸缩

去年参加技术分享活动,七牛的一个技术简要的介绍了一些高可用可伸缩的一些经验之谈,听完之后受益匪浅,整理一下,主要分以下几个部分:

  • 入口层高可用
  • 业务层高可用
  • 缓存层高可用
  • 数据库高可用
  • 入口层可伸缩
  • 业务层可伸缩
  • 缓存层可伸缩
  • 数据库可伸缩


下面来分层介绍实践方法。

入口层高可用

nigix两个 keeplive保活 心跳做好。

  • 使用心跳技术:keeplive提供这个技术
  • 比如机器A IP是1.2.3.4,机器B IP是1.2.3.5,那么再申请一个IP (1.2.3.6)我们称之为心跳IP,平时绑定再A上面,如果A宕机,那么IP会自动绑定到B上面
  • DNS 层面绑定到心跳IP即可
  • 两台机器必须在同一网段
  • 服务监听必须监听所有IP,如果仅仅监听心跳IP,那么从机上的服务(不持有心跳IP的机器)会启动失败
  • 服务器利用率下降(混合部署可以改善这一点)

考虑一个问题,两台机器,两个公网IP,DNS把域名同时定位到两个IP,这算高可用吗

不算,客户端(比如浏览器) 解析完后会随机选一个 IP访问 , 而不是一个失败后就去另一个 。 所以如果一台机器当机 ,那么就有一半左右的用户无法访问 。

业务层高可用

  • 业务层不要有状态 , 状态分散到缓存层和数据库层 。 只要没有状态,业务层的服务死掉后,前面的nginx会自动把流量打到剩下的服务 。 所以,业务层无状态是一个重点。
  • 友情提醒:不要因为想让服务无状态就直接用cookie session, 里边的坑有点大,考察清楚后再用比较好。比如重放攻击 。

缓存层高可用

  • 缓存层分得细一点,保证单台缓存宕机后数据库还能撑得住 。
  • 中小模下缓存层和业务层可以混合部署, 这样可以节省机器
  • 大型规模网站,业务层和缓存层分开部署。
  • 缓存层高可用,缓存可以启用主从两台,主缓存活着的时候,主缓存读,主从缓存都写,主缓存宕机后,从变主,主恢复后, 变成新的从。这样可以保证数据完整性,实现高可用

数据库高可用

  • MySQL有主从模式, 还有主主模式都能满足你的需求
  • MongoDB也有ReplicaSet的概念,基本都能满足大家的需求。

高可用小结

入口层可伸缩

  • 入囗层如何提供伸缩性?直接铺机器 ?然后DNS加IP就可以了吧?
  • 可以,但也有需要注意的地方
  • 尽管一个域名解析到几十个IP没有问题,但是很浏览器客户端只会使用前面几个IP,部分域名供应商对此有优化(比如每次返回的IP顺序随机 ), 但是这个优化效果不稳定。推荐的做法是使用少量的nginx机 器作为入囗,业务服务器隐藏在内网(HTTP类型的业务这种方式居多)

业务层可伸缩

  • 跟应付高可用一样,保证无状态是很好的手段。加机器继续水平部署即可。

缓存层可伸缩

  • 直接用 codis或者redis 3.0 即可
  • 如果低峰期间数据库能抗的住 ,那么直接下线存然后上新缓存就是最简单有效的办法

缓存类型

  • 强一致性缓存: 无法接受从缓存中读取错误的数据(比如用户余额)
  • 弱一致性缓存:可以接受一段时间内的错误数据,例如微博转发数
  • 不变型缓存:缓存key对应的value不会变更
    弱一致性和不变型缓存扩容很方便,用一致性HASH即可

    一致性HASH

    在分布式集群中,对机器的添加删除,或者机器故障后自动脱离集群这些操作是分布式集群管理最基本的功能。如果采用常用的hash(object)%N算法,那么在有机器添加或者删除后,很多原有的数据就无法找到了,这样严重的违反了单调性原则
    一致性HASH可以有效解决这个问题,一致性哈希算法在保持了单调性的同时,还是数据的迁移达到了最小,这样的算法对分布式集群来说是非常合适的,避免了大量数据迁移,减小了服务器的的压力。
    举个例子
    如果缓存从9台扩容到10台, 简单Hash况下90%的缓存会马上失效,而一致性Hash 情况下,只有10%的缓存会失效。

强一致缓存问题

  • 1.缓存客户端的配置更新时间会有微小的差异,在这个时间窗内有可能会拿到过期的数据。
  • 2.如果在扩充节点之后裁撤节点,会拿到脏数据。比如a这个key之前在机器1, 扩容后在机器2,数据更新了, 但裁撤节点后key回到机器1 这样就会有脏数据的问题

问题二解决方法:要么保持永不减少节点,要么节点调整间隔大于数据有效时间。
问题一解决方法:
  - 两套hash配置都更新到客户端,但仍使用旧的配置
  - 两个个客户端改为只有两套hash结果一致的情况下会使用缓存,其余情况从数据库读,但写入缓存。
  -  逐个客户端通知使用新配置。

数据库可伸缩

  • 水平拆分
  • 垂直拆分
  • 定期滚动

时间: 2024-10-13 12:50:28

后端架构高可用可伸缩的相关文章

架构高可用可伸缩

后端架构高可用可伸缩经验之谈 后端架构高可用可伸缩 去年参加技术分享活动,七牛的一个技术简要的介绍了一些高可用可伸缩的一些经验之谈,听完之后受益匪浅,整理一下,主要分以下几个部分: 入口层高可用 业务层高可用 缓存层高可用 数据库高可用 入口层可伸缩 业务层可伸缩 缓存层可伸缩 数据库可伸缩 下面来分层介绍实践方法. 入口层高可用 nigix两个 keeplive保活 心跳做好. 使用心跳技术:keeplive提供这个技术 比如机器A IP是1.2.3.4,机器B IP是1.2.3.5,那么再申

七牛李道兵:高可用可伸缩架构实用经验谈

七牛李道兵:高可用可伸缩架构实用经验谈 移动互联网.云计算和大数据的成熟和发展,让更多的好想法得以在很短的时间内实现为产品.此时,如果用户需求抓得准,用户数量将很可能获得爆发式增长,而不需要像以往一样需要精心运营几年的时间.然而用户数量的快速增长(尤其是短时间内的爆发式增长),通常会让应用开发者有些吃不消,不得不面临一些严峻的技术挑战:如何避免因为单台机器当机导致服务不可用:如何避免在服务容量不足时,用户体验下降,等等.在系统构建之初就采用高可用和可伸缩架构,将能有效避免这些问题. 如何构建高可

高可用可伸缩架构实用经验谈

移动互联网.云计算和大数据的成熟和发展,让更多的好想法得以在很短的时间内实现为产品.此时,如果用户需求抓得准,用户数量将很可能获得爆发式增长,而不需要像以往一样需要精心运营几年的时间.然而用户数量的快速增长(尤其是短时间内的爆发式增长),通常会让应用开发者有些吃不消,不得不面临一些严峻的技术挑战:如何避免因为单台机器当机导致服务不可用:如何避免在服务容量不足时,用户体验下降,等等.在系统构建之初就采用高可用和可伸缩架构,将能有效避免这些问题. 如何构建高可用和可伸缩架构呢?七牛云存储首席架构师李

《亿级流量电商详情页系统实战:缓存架构+高可用服务架构+微服务架构》

视频教程:http://www.roncoo.com/course/view/af7d501667fe4a19a60e9467e6d2b3d9 升级说明: 该课程原本是123节课时,已于2017年7月份全部更新完毕.在原有123节课时的基础上,再免费新增70到80节左右的内容(注:课程大纲可能会做进一步优化,具体以最终更新为准),课程名将变更为<亿级流量电商详情页系统实战(第二版):缓存架构+高可用服务架构+微服务架构>简称第二版.本次免费新增内容将会从9月中旬开始更新,一直到10月底更新完毕

亿级流量电商详情页系统实战-缓存架构+高可用服务架构+微服务架构第二版视频教程

14套java精品高级架构课,缓存架构,深入Jvm虚拟机,全文检索Elasticsearch,Dubbo分布式Restful 服务,并发原理编程,SpringBoot,SpringCloud,RocketMQ中间件,Mysql分布式集群,服务架构,运 维架构视频教程 14套精品课程介绍: 1.14套精 品是最新整理的课程,都是当下最火的技术,最火的课程,也是全网课程的精品: 2.14套资 源包含:全套完整高清视频.完整源码.配套文档: 3.知识也 是需要投资的,有投入才会有产出(保证投入产出比是

MySQL集群架构篇:MHA+MySQL-PROXY+LVS实现MySQL集群架构高可用/高性能-技术流ken

MHA简介 MHA可以自动化实现主服务器故障转移,这样就可以快速将从服务器晋级为主服务器(通常在10-30s),而不影响复制的一致性,不需要花钱买更多的新服务器,不会有性能损耗,容易安装,不必更改现有的部署环境,适用于任何存储引擎. MHA提供在线主服务器切换,改变先正运行的主服务器到另外一台上,这个过程只需0.5-2s的时间,这个时间内数据无法写入. MHA Manager通过ssh连接mysql slave服务器.所以在配置MHA的时候,我们首先实现的就是各个节点的互信. 虽然MHA试图从宕

分布式架构高可用架构篇_07_MySQL主从复制的配置(CentOS-6.7+MySQL-5.6)

环境 操作系统:CentOS-6.6-x86_64-bin-DVD1.iso MySQL 版本:mysql-5.6.22.tar.gz 主节点 IP:192.168.1.205 主机名:edu-mysql-01 从节点 IP:192.168.1.206 主机名:edu-mysql-02 MySQL 主从复制官方文档 http://dev.mysql.com/doc/refman/5.6/en/replication.html MySQL 主从复制的方式 MySQL5.6 开始主从复制有两种方式:

20Lync2013升级到SkypeForBusiness2015进阶篇--SFB后端Mirror高可用切换测试

6.1.3 查看镜像高可用 刚才创建的共享文件夹写入了SQL的备份文件 6.1.4 高可用测试 切换后,客户端是不会受影响的,可以反复切换下后端,测试下载拓扑信息,以及重启前端服务器,看是否正常启动所有的服务

网站架构高可用小结

对于一个网站而言,最重要的事情就是保证网站一直"可用",也就是能够被访问到, 先不管你可以支持多少并发,也不要管后台数据的收集和整理有没有很成熟,首先不论怎样你都必须网站可用. 在前面我们已经阐述了网站高可用的一些手段,下面会进行一些整体的论述. 怎样来阐述一个网站的可用性手段了? 我们应该依据网站的架构,一次从前往后来进行阐述,也就是应用层.服务层和数据层,最后在阐述一些综合性的问题. 1.应用高可用 我们知道应用是无状态的,应用层应该只对请求做逻辑处理. 首先我们保证其高可用的手段