LVS详细笔记

1. 做一个靠谱,被信任的人。

2. 自身小事做起,勤奋,努力的态度,不计较,不抱怨,好习惯当下做起

3. 不要自我感觉

4. 把你"所有"的精力集中到一点,你就能成功

5,集中自己的所有时间去学习

ARP协议:通过ip地址获得主机物理mac地址

32 bit的ip地址

48 bit的mac地址

ARP原理:

原理是把目的主机的32位ip地址转换成目的主机48位的以太网地址(mac地址)

ip地址是逻辑地址,而主机之间的通信是通过物理的mac地址通信的

ARP协议要求通信的主机双方必须在同一网段(即局域网环境)

arp缓存表是把双刃剑

1,有arp缓存表可以加快arp的解析速度

2,也给黑客带来了攻击服务器的风险,俗称arp欺骗和arp攻击

OSI模型把网络划分成7层,隔层之间不直接打交道,都是通过aip调用。

ip地址工作在三层,mac地址在二层

ARP是三层协议,但是工作在二层

ARP欺骗原理

arp攻击就是通过伪造ip地址和mac地址对实现arp欺骗。

如何防止:

arp -s  192.168.0.11  mac

#####################LVS+keepalived

集群:一堆集群依靠网络协同工作就是集群

java架构师:50W起步

java服务集群

j2ee程序架构

JVM底层

tomcat、java打包

程序解耦(程序设计,调优,java流程)

为什么要用集群??

性能,可用性,伸缩性,扩展性,安全

1.高性能(performance) 评价一个网站好坏的直接感触

2,价格有效性  ,小型机(IBM)特贵

3.高可用性  7*24运行  availability

4.可伸缩性  可动态添加新机器  scalability 数据库的伸缩很困难

集群的分类:

1.LB    负载均衡集群

2.HA    高可用性集群

3.高性能计算

4.网格计算

负载均衡的作用:

(1):分担请求和数据流量,从而增加吞吐量,并发量

(2):保证集群的7*24小时服务

(3):用于web服务器,数据库的从

典型负载均衡软件:  lvs,F5 (4 osi) nginx (7osi) haproxy(4+7osi)

典型的高可用软件:  keepalived heratbeat

互联网商业集群硬件:F5 ,netscaler redware.A10

LVS:linux virtural server

LVS:

1,真正实现负载均衡功能的是ipvs

2,ipvs工作在内核层,实现调度,不能直接访问

3,ipvsadm 管理ipvs,或者用keepalived来管理ipvs

LVS 专业术语:

VIP :虚拟ip地址  virtural ip address  用于给客户端计算机提供服务的ip地址

RIP:real ip,集群下面节点使用的ip地址,物理ip地址

DIP:director ip 用于连接内外网络的ip,物理网卡上的ip地址,他是负载均衡器上的ip

CIP:client ip 客户端用户计算机请求集群服务器的ip地址,该地址用作发送给集群的请求的源ip地址

############在LVS框架中,提供了含有三种IP负载均衡技术的IP虚拟服务器软件:

IP虚拟服务器软件IPVS

基于内容请求分发的内核Layer-7交 换机KTCPVS

集群管理软件

在已有的IP负载均衡技术中,IPVS软件实现了这三种IP负载均衡技术

LVS三种模式:

1,NAT()

2,TUN(TUNNELING)

3,DR(DIRECT ROUTING)

4,FULLNAT

目前最流行的模式DR  -熟练使用

特点:改写请求报文的目标mac地址,将请求转发给真实服务器,而真实服务器将响应后的处理直接返回给客户端使用.

此DR模式没有ip隧道的开销,对集群的真实服务器也没有必须支持ip隧道协议的要求

DR模式要求调度器LB与真实服务器RS都有一块网卡连接在同一物理网段上,即必须在同一个局域网环境

DR模式 :

工作原理:

关键点:

1,绑定vip到lo,避免了ip冲突问题,解决了Real server 无法识别client的报文问题

2,绑定vip会主动响应arp广播,因此要抑制arp,告诉real server 不要抢lvs的arp包,只接收包

能顺利说出秒杀5-12K左右

DR模式的总结

1,通过在调度器LB上修改数据包的目的mac地址实现转发,,注意 ,源ip仍然是cip,目的ip地址仍然是VIP

2,请求的报文经过调度器而RS响应处理后的报文无需经过调度器LB,直接返回给客户端因此,并发访问量大时候效率很高

3,因DR模式是通过MAC地址的改写机制实现的转发,因此所有RS节点和调度器LB只能在一个局域网LAN中(小缺点)

4,需要注意RS节点的vip的绑定(lo:vip.lol:vip)和arp抑制问题

5,强调:RS节点的默认网关不需要调度器LB的DIP,而直接是IDC机房分配的上级路由器的IP(这是RS带有外网ip地址的情况)

6,由于DR模式的调度器仅仅进行了目的MAC地址改写,因此,调度器LB无法改变请求报文的目的端口

7,当前调度器LB支持几乎所有的unix linux系统,但目前不支持windows,但是真实的RS可以是windows.

8.总的来说,DR模式效率很高,但是配置麻烦,因此,访问量不大的公司可以使用haproxy、nginx,这符合运维的原则:简单,易用,高效 日PV2000W,并发1W以下使用haproxy,nginx(lvs NAT模式)就好

9,直接对外的访问业务,例如web服务做RS节点,RS最好用公网ip地址(直接把请求返回给用户),如果不直接对外业务,例如mysql,存储系统,最好使用内部ip地址

NAT模式:了解即可,工作中基本使用DR模式

总结:

1,NAT技术将请求的报文(DNAT)和响应的报文(SNAT),通过调度器地址重写然后转发给内部的服务器。报文返回时候改写成原来的用户请求的地址

2,只需啊哟在调度器LB上配置WAN公网ip即可,调度器也要有似有LAN ip和内部RS节点通

3,每台内部RS节点的网关地址,必须配置成调度器LB的私有LAN内物理网卡地址

省略

########################IPVS调度器实现了如下十种负载调度算法:LVS调度算法

10种调度算法

固定调度算法:rr,wrr,dh,sh

动态调度算法:wlc,lc,lblc,lblcr,SED,NQ.

最常用的三种RR WRR WLC

10种调度算法见下表:

rr :轮询调度,他将请求依次分配不同的RS节点,RS服务器均摊请求,这种算法比较简单,但是只适合RS节点相差性能不大的情况

wrr:加权轮询调度,它将依据不同RS节点的权值分配任务,权值高的RS将优先获得任务,并且分配的连接数比权值低的RS节点更多。相同权值的RS得到相同数目的连接数

dh:destination hashing 以目的地址为关键字查找一个静态hash表来获取需要的RS

sh:source hashing 以源地址为关键字查找一个静态hash表来获取需要的RS

动态调度算法:

wlc:加权最小连接数调度(weighted least-connection)假设各台RS的权值依次为Wi(i=1...n) 。当前的tcp连接数依次为Ti(i=1..n),依次取TI/WI为最小的RS作为下一个分配的RS

LC

LBLC

LBLCR

SED

NQ    都不常用

#################LVS调度算法的生产环境选型

一般的网络服务http mail mysql 常用的调度算法是rr,wrr wlc

#################LVS集群的特点

LVS集群的特点可以归结如下:

功能

有实现三种IP负载均衡技术和八种连接调度算法的IPVS软件。在IPVS内部实现上,采用了高效的Hash函数和垃圾回收机制,能正确处理所调度报文相 关的ICMP消息(有些商品化的系统反而不能)。虚拟服务的设置数目没有限制,每个虚拟服务有自己的服务器集。它支持持久的虚拟服务(如HTTP Cookie和HTTPS等需要该功能的支持),并提供详尽的统计数据,如连接的处理速率和报文的流量等。针对大规模拒绝服务(Deny of Service)攻击,实现了三种防卫策略。

有基于内容请求分发的应用层交换软件KTCPVS,它也是在Linux内核中实现。有相关的集群管理软件对资源进行监测,能及时将故障屏蔽,实现系统的高可用性。主、从调度器能周期性地进行状态同步,从而实现更高的可用性。

适用性

后端服务器可运行任何支持TCP/IP的操作系统,包括Linux,各种Unix(如FreeBSD、Sun Solaris、HP Unix等),Mac/OS和Windows NT/2000等。

负载调度器能够支持绝大多数的TCP和UDP协议:

协议 内 容

TCP HTTP,FTP,PROXY,SMTP,POP3,IMAP4,DNS,LDAP,HTTPS,SSMTP等

UDP DNS,NTP,ICP,视频、音频流播放协议等

无需对客户机和服务器作任何修改,可适用大多数Internet服务。

性能

LVS服务器集群系统具有良好的伸缩性,可支持几百万个并发连接。配置100M网卡,采用VS/TUN或VS/DR调度技术,集群系统的吞吐量可高达1Gbits/s;如配置千兆网卡,则系统的最大吞吐量可接近10Gbits/s。

可靠性

LVS服务器集群软件已经在很多大型的、关键性的站点得到很好的应用,所以它的可靠性在真实应用得到很好的证实。有很多调度器运行一年多,未作一次重启动。

软件许可证

LVS集群软件是按GPL(GNU Public License)许可证发行的自由软件,这意味着你可以得到软件的源代码,有权对其进行修改,但必须保证你的修改也是以GPL方式发行。

官方资料

LVS项目介绍:http://www.linuxvirtualserver.org/zh/lvs1.html

LVS集群的体系结构http://www.linuxvirtualserver.org/zh/lvs2.html

LVS集群中ip负载均衡技术http://www.linuxvirtualserver.org/zh/lvs3.html

LVS负载调度http://www.linuxvirtualserver.org/zh/lvs4.html

##########################安装LVS

1,5.X系统下载ipvsadm-1.24.tar.gz

6.X系统下载ipvsadmin-1.26.tar.gz   适合kernel 2.6.28以后

下载地址:

http://www.linuxvirtualserver.org/software/ipvs.html

安装准备:

lsmod | grep ip_vs    lsmod 是查看内核模块的

uname -r

如果没有查看   ls /usr/src/kernels/2.6.32-504.30.3.el6.x86_64/ 是否存在,存在则

ln -s /usr/src/kernels/2.6.32-504.30.3.el6.x86_64/   /usr/src/linux

如果没有,安装yum install kernel-devel -y

#################开始安装LVS

tar  xvf ipvsadm-1.26.tar.gz

cd ipvsadm-1.26

make    --此步如果报错,安装yum install libnl*  popt* -y

make install

lsmod | grep ip_vs   --此时还没有

/sbin/ipvsadm    或者modprobe ip_vs

IP Virtual Server version 1.2.1 (size=4096)

Prot LocalAddress:Port Scheduler Flags

-> RemoteAddress:Port           Forward Weight ActiveConn InActConn

[[email protected] ipvsadm-1.26]#

[email protected] ipvsadm-1.26]# lsmod | grep ip_vs

ip_vs                 125220  0

libcrc32c               1246  1 ip_vs

ipv6                  317340  142 ip_vs,ip6t_REJECT,nf_conntrack_ipv6,nf_defrag_ipv6

[[email protected] ipvsadm-1.26]#

LVS安装小结:

1,centos 5.x 安装lvs,使用1.24版本,不要用1.2.6

2.centos6.x  安装1.26版本,并且先安装 yum install libnl*  popt* -y

3.安装LVS后,要执行ipvsadm把ip_vs模块加载到内核

############手动配置LVS负载均衡服务

1, 解析vip到域名www.xxxx.com   192.168.0.200

2,  配置LVS虚拟ip(vip)

ifconfig eth1:0 192.168.0.200/24

3.手动执行配置添加LVS服务增加两台RS

ipvsadm -C   clear teh whole table

ipvsadm --set 30 5 60 set tcp tcpfin udp timeout

ipvsadm -A -t vip:80 -s rr   add virtual service with options  -s 调度算法

ipvsadm -a -t vip:80 -r 192.168.0.221  -g      -a: add real server with options

-g: gatewaying (direct routing) (default) LVS模式

ipvsadm -a -t 192.168.200:80 -r 192.168.0.221 -g -w 1

ipvsadm -a -t 192.168.0.200:80 -r 192.168.0.222 -g -w 1

[[email protected] ~]# ipvsadm -L -n

IP Virtual Server version 1.2.1 (size=4096)

Prot LocalAddress:Port Scheduler Flags

-> RemoteAddress:Port           Forward Weight ActiveConn InActConn

TCP  192.168.0.200:80 rr

-> 192.168.0.221:80             Route   1      0          0

-> 192.168.0.222:80             Route   1      0          0

###########删除:

1.删除节点

[[email protected] ~]#   ipvsadm -d -t 192.168.0.200:80 -r 192.168.0.222   删除节点

[[email protected] ~]# ipvsadm -L -n

IP Virtual Server version 1.2.1 (size=4096)

Prot LocalAddress:Port Scheduler Flags

-> RemoteAddress:Port           Forward Weight ActiveConn InActConn

TCP  192.168.0.200:80 rr

-> 192.168.0.221:80             Route   1    0          0

2.删除服务

ipvsadm -D -t vip:80

此时还无法通过vip访问到web

4.手工在RS端绑定

(1),每台RS端都执行以下步骤

(01)绑定vip到lo

ifconfig lo:0 vip/32   --注意此时的mask是32位

[[email protected] ~]# ifconfig lo:0 192.168.0.200/32

lo:0      Link encap:Local Loopback

inet addr:192.168.0.200  Mask:0.0.0.0

UP LOOPBACK RUNNING  MTU:16436  Metric:1

route add -host  192.168.0.200 dev lo 添加主机路由

[[email protected] ~]# route -n

Kernel IP routing table

Destination     Gateway         Genmask         Flags Metric Ref    Use Iface

192.168.0.200   0.0.0.0         255.255.255.255 UH    0      0        0 lo

0.0.0.0         192.168.0.1     0.0.0.0         UG    0      0        0 eth0

5.手工在RS端抑制ARP

echo "1" > /proc/sys/net/ipv4/conf/lo/arp_ignore

echo "2" > /proc/sys/net/ipv4/conf/lo/arp_announce

echo "1" > /proc/sys/net/ipv4/conf/all/arp_ignore

echo "2" > /proc/sys/net/ipv4/conf/all/arp_announce

详细介绍arp技术参数

arp_ignore

1,表示只回答目标ip地址是来访问网络接口本地地址的arp查询请求

arp_announce :对网络接口上,本地ip地址的发出的arp回应,做出相应级别的限制

2,表示对查询目标使用最适当的本地地址,在此模式将忽略这个ip数据包的源地址

以上都是临时配置,重启失效

###################LVS集群分发请求RS不均衡生产环境实战解决

生产环境中ipvsadm -L -n 发现两台RS负载不均衡,一台有很多请求,一台没有。经过测试发现没有请求的RS服务正常,lo:vip 也有,但是就是没有请求

tcp 172.168.1.50:3307 wrr presient 10

172.168.1.51:3307   route 1 0   0

172.168.1.52:3307   route 1 8  12758

问题原因:

persistent 10的原因,persistent会话保持,当clientA 访问网站的时候,LVS分发给了52.,那么ClientA 再点击其他的操作请求,也会发送给52这台机器

解决办法:

到keepalived中注释掉persistent 10 然后/etc/init.d/keepalived reload  然后两边负载都会均衡

实现会话保持的方案:

http://oldboy.blog.51cto.com/2561410/1331316

############LVS故障排错原理

1,把绑定的vip做成lo配置文件(ifcfg-lo)

2.负载均衡和反向代理集群的三角形排查理论

时间: 2024-10-13 11:34:29

LVS详细笔记的相关文章

xshell远程终端操作Ubuntu server安装LAMP环境之最详细笔记之二PHP开发环境配置

前言: 昨天学会了安装server,今天试着通过远程终端xshell来安装LAMP,搭配一下开发环境,也有集成环境可以一键安装使用,还是瞎折腾一下,手动一步一步搭建一下这个开发环境. 接上一篇:ubuntu server 14.04 LTS下搭建LAMP环境之最详细笔记之一U盘安装双系统本文原创博客地址:http://www.cnblogs.com/unofficial官网地址:www.pushself.com) 准备: 在windows系统上首先需要安装xhsell,具体下载地址可以搜一下,安

ubuntu server 14.04 LTS下搭建LAMP环境之最详细笔记之一U盘安装双系统

前言: 一直在WIN上使用PHP,不喜欢用WAMP,每次都是手动在windows配置环境,偶尔有一次装了小红帽玩了两天,感觉不是很习惯就换了回来,过了没几天见讨论LAMP环境,于是安装了ubuntu的desktop版本.安装好了环境使用了一下感觉也没有多大的意思,因为那一段时间没有怎么使用PHP,就这样又忽略掉了这一次学习的机会,直到上周日朋友最近在学习这方面的知识,说是要将一个老式电脑安装一个linux来玩玩.本文原创博客地址:http://www.cnblogs.com/unofficial

LVS学习笔记--DR模式部署

一.部署环境: 服务器版本:CentOS6.5(Finnal) 网络拓扑: 二.需求分析:调度服务器与网页服务器均在同一网段局域网环境,用户提交的请求会经过调度器的分配指定到网页服务器,同时保证服务高可用性(任意一台网站服务器宕机后调度器会剔除它直至服务器恢复至正常:主调度器宕机后从调度器会接管它直至其恢复正常.). 三.相关配置: 部署调度器LVS服务脚本: #!/bin/sh mkdir tools cd tools/ # yum install lrzsz # rz # ls wget h

(转载)Linux下安装配置MySQL+Apache+PHP+WordPress的详细笔记

Linux下安装配置MySQL+Apache+PHP+WordPress的详细笔记 Linux下配LMAP环境,花了我好几天的时间.之前没有配置过,网上的安装资料比较混乱,加上我用的版本问题,安装过程中出现了一些错误,经过好几次安装,翻了好多资料,最后找出问题的所在,才把环境搭建好,对于高手来说,这或许不算什么,但对于一个刚入门的新人,却是不一样了,这篇文章记录着我的一些笔记,希望对于那些刚刚入门的人们有所帮助,仅作为参考. 安装首先我们得获得MySQL,Apache,PHP,WordPress

LNMP 源码安装 超详细笔记记录 PHP7 MariaDB 10.1.12

LNMP 源码安装 超详细笔记记录 php 7.04 版本 mariaDB  10.1.12 版本 首先安装nginx 一般编译nginx时,都要先安装pcre.zlib等外部支持程序,然后编译安装nginx时指定这些外部支持程序的位置,这样nginx在每次启动的时候,就会去动态加载这些东西了. 下面介绍的是另一种方式,即将这些程序编译到nginx里面去,这样nginx启动时就不会采用动态加载的方式去load.从古谱中可获知,这种方式会比动态加载有更高的效率. 首先 安装 yum install

LVS详细介绍以及遇到的坑

LVS详细介绍以及遇到的坑 一,概述 本文介绍了我搭建LVS集群的步骤,并且在使用LVS(Linux Virtual Server)过程中遇到的问题和坑, 二,LVS简单介绍 大家都知道,LVS中文意思就是linux虚拟服务器,是一个虚拟的服务器集群系统,可以在Unix/Linux平台下实现负载均衡集群功能,  该项目是章文嵩博士组织成立,是中国国内最早出现的自由软件项目之一. LVS项目的特点:有实现三种IP负载均衡技术和八种连接调度算法的IPVS软件.在IPVS内部实现上,采用了高效的Has

LVS学习笔记之DR模式详细部署

服务器以及软件规划: linux服务器 :3台 系统版本 : centos 6.5 x86_64(1台是lvs 调度器,安装lvs调度软件,2台是RS服务器,运行web服务) 2.IP地址规划: LVS Server:             eth0:0   VIP:192.168.1.222/24 eth0     DIP:192.168.1.134/24 RS1:                          RS2:                            eth0  

LVS 实验笔记1 一些基础概念

基础概念 rsync 同步软件 效率不高 inotify 通知 三种集群: LB: load balance 提高服务器的并发能力 HA: 高可用 high availability不会因为一台服务器宕机导致服务不可用 HP:high perfomence  高性能计算集群 并行处理集群 分布式文件系统 将大任务切割为小任务,分别进行处理 health check:健康检查 NFS:net filesystem 共享存储设备 DAS:直接附加存储 块级别交换数据 直接连到多态主机,性能好,但是要

LVS学习笔记及总结(思维导图版)

转自: http://www.07net01.com/2015/10/944377.html 下图是我在跟随马哥的脚步学习LVS过程中的学习笔记,以此为蓝本总结的,若有不足之处请谅解!