常见的web集群调度器
目前常见的web集群调度器分为软件和硬件,软件通常使用开源的LVS,Haproxy,Nginx,硬件一般使用比较多的是F5,也有很多人使用国内的一些产品,如梭子鱼,绿盟等
Haproxy应用分析
LVS在企业应用中抗负载能力很强,但存在不足
- LVS不支持正则处理,不能实现动静分离
- 对于大型网站,LVS的实施配置复杂,维护成本相对较高
Haproxy是一款可提供高可用性,负载均衡,及基于TCP和HTTP应用的代理的软件
- 特别适用于负载特别大的web站点
- 运行在当前的硬件上可支持数以万计的并发连接连接请求
Haproxy调度算法原理
RR:最简单常用的,轮询调度
举例说明:
- 有三个节点A、B、C,第一个用户访问会被指派到节点A,第二个用户访问会被指派到节点B,第三个用户访问会被指派到节点
- 第四个用户访问继续指派到节点A,轮询分配访问请求实现负载均衡效果
LC:最小连接数算法,根据后端的节点连接数大小动态分配前端请求
举例说明:
- 有三个节点A、B、C,各节点的连接数分别为A:4、B:5、 C:6,此时如果有第一个用户连接请求,会被指派到A上,连接数变为A:5、B:5、 C:6
- 第二个用户请求会继续分配到A上,连接数变为A:6、B:5、 C:6,再有新的请求会分配给B,每次将新的请求指派给连接数最小的客户端
- 由于实际情况下A、B、C的连接数会动态释放,很难会出现- -样连接数的情况,因此此算法相比较rr算法有很大改进,是目前用到比较多的一种算法
SH:来源访问调度算法,用于有session会话记录在服务器端,可以基于来源ip,cookie做群集调度
- 有三个节点A、B、C,第一个用户第一次访问被指派到了A,第二个用户第一次访问被指派到了B
- 当第一个用户第二次访问时会被继续指派到A,第二个用户第二次访问时依旧会被指派到B,只要负载均衡调度器不重启,第一个用户访问都会被指派到A,第二个用户访问都会被指派到B,实现集群的调度
- 此调度算法好处是实现会话保持,但某些IP访问量非常大时会引|起负载不均衡,部分节点访问量超大,影响业务使用
Haproxy日志管理
Haproxy的日志默认是输出到系统的syslog中,在生产环境中一般单独定义出来
定义的方法步骤
- 修改Haproxy配置文件中关于日志配置的选项,加入配置:
log /devlog local0 info log /dev/log local0 notice
- 修改rsyslog配置,将Haproxy相关的配置独立定义到haproxy.conf,并放到/etc/rsyslog.d/下
- 保存配置文件并重启rsyslog服务,完成rsyslog配置
Haproxy参数优化
随着企业网站负载增加,haproxy参数优化相当重要
maxconn:最大连接数,根据应用实际情况进行调整,推荐使用10240
daemon:守护进程模式,Haproxy可以使用非守护进程模式启动,建议使用守护进程模式启动
nbproc:负载均衡的并发进程数,建议与当前服务器CPU核数相等或为其2倍
retries:重试次数,主要用于对集群节点的检查,如果节点多,且并发量大,设置为2次或3次
option http-server-close:主动关闭http请求选项,建议在生产环境中使用此选项
timeout http-keep-alive:长连接超时时间,设置长连接超时时间可以设置为10s
timeout http-request:http请求超时时间,建议将此时间设置为5~10s,增加http连接释放速度
timeout client:客户端超时时间,如果访问量过大,节点响应慢可以将此时间设置短一些,建议设置为1min左右就可以了
实验拓扑图
实验环境
Haporxy服务器:192.168.100.210
Nginx服务器1:192.168.100.201
Nginx服务器2:192.168.100.202
client测试机:192.168.100.100
1、分别在三台Linux服务器上安装实验所需环境包
Nginx服务器1:
[[email protected] ~]# yum install -y pcre-devel zlib-devel gcc gcc-c++ make
Nginx服务器2:
[[email protected] ~]# yum install -y pcre-devel zlib-devel gcc gcc-c++ make
Haporxy服务器:
[[email protected] ~]# yum install -y pcre-devel bzip2-devel gcc gcc-c++ make
2、分别将四台虚拟机的网络模式改为仅主机模式(操作相同)
3、在宿主机将所需工具包共享出来
Nginx服务器1配置
1、配置固定IP地址
[[email protected] ~]# vim /etc/sysconfig/network-scripts/ifcfg-ens33
TYPE=Ethernet
PROXY_METHOD=none
BROWSER_ONLY=no
BOOTPROTO=static #dhcp改为static
DEFROUTE=yes
IPV4_FAILURE_FATAL=no
IPV6INIT=yes
IPV6_AUTOCONF=yes
IPV6_DEFROUTE=yes
IPV6_FAILURE_FATAL=no
IPV6_ADDR_GEN_MODE=stable-privacy
NAME=ens33
UUID=8ecd53ce-afdb-46f8-b7ff-b2f428a3bc8f
DEVICE=ens33
ONBOOT=yes
IPADDR=192.168.100.201 #IP地址
NETMASK=255.255.255.0 #子网掩码
GATEWAY=192.168.100.1 #网关
[[email protected] ~]# systemctl restart network #重启网络服务
[[email protected] ~]# ifconfig #查看网卡信息
ens33: flags=4163<UP,BROADCAST,RUNNING,MULTICAST> mtu 1500
inet 192.168.100.201 netmask 255.255.255.0 broadcast 192.168.100.255 #IP地址配置成功
inet6 fe80::c776:9d00:618:88f2 prefixlen 64 scopeid 0x20<link>
ether 00:0c:29:eb:34:07 txqueuelen 1000 (Ethernet)
RX packets 51789 bytes 75688349 (72.1 MiB)
RX errors 0 dropped 0 overruns 0 frame 0
TX packets 7987 bytes 543001 (530.2 KiB)
TX errors 0 dropped 0 overruns 0 carrier 0 collisions 0
2、挂载工具包,解压Nginx源码包
[[email protected] ~]# mkdir /mnt/tools #创建挂载点
[[email protected] ~]# mount.cifs //192.168.100.100/tools /mnt/tools/ #挂载
Password for [email protected]//192.168.100.100/tools:
[[email protected] ~]# cd /mnt/tools/LNMP/
[[email protected] LNMP]# ls
Discuz_X3.4_SC_UTF8.zip nginx-1.12.2.tar.gz php-7.1.20.tar.gz
mysql-boost-5.7.20.tar.gz php-7.1.10.tar.bz2
[[email protected] LNMP]# tar zxf nginx-1.12.2.tar.gz -C /opt/ #解压源码包
[[email protected] LNMP]# cd /opt/
[[email protected] opt]# ls
nginx-1.12.2 rh
[[email protected] opt]#
3、编译安装Nginx服务
[[email protected] opt]# cd nginx-1.12.2/
[[email protected] nginx-1.12.2]# ls
auto CHANGES CHANGES.ru conf configure contrib html LICENSE man README src
[[email protected] nginx-1.12.2]# useradd -M -s /sbin/nologin nginx #创建nginx用户
[[email protected] nginx-1.12.2]# ./configure \ #配置Nginx服务
> --prefix=/usr/local/nginx \ #安装路径
> --user=nginx \ #属主
> --group=nginx \ #属组
> --with-http_stub_status_module
#启用ngx_http_stub_status_module支持(获取nginx自上次启动以来的工作状态)
[[email protected] nginx-1.12.2]# make && make install #编译安装Nginx服务
4、配置Nginx服务站点首页,并开启服务
[[email protected] nginx-1.12.2]# cd /usr/local/nginx/html/
[[email protected] html]# echo "this is abc web" > index.html #创建站点首页
[[email protected] html]# ln -s /usr/local/nginx/sbin/nginx /usr/local/sbin/ #建立软链接
[[email protected] html]# nginx -t #检查配置文件语法
nginx: the configuration file /usr/local/nginx/conf/nginx.conf syntax is ok
nginx: configuration file /usr/local/nginx/conf/nginx.conf test is successful
[[email protected] html]# nginx #开启服务
[[email protected] html]# netstat -ntap | grep 80 #查看端口
tcp 0 0 0.0.0.0:80 0.0.0.0:* LISTEN 18683/nginx: master
[[email protected] html]# systemctl stop firewalld.service #关闭防火墙
[[email protected] html]# setenforce 0 #关闭增强型安全功能
[[email protected] html]#
5、测试访问Nginx服务
Nginx服务器2配置
1、配置固定IP地址
[[email protected] ~]# vim /etc/sysconfig/network-scripts/ifcfg-ens33
TYPE=Ethernet
PROXY_METHOD=none
BROWSER_ONLY=no
BOOTPROTO=static #dhcp改为static
DEFROUTE=yes
IPV4_FAILURE_FATAL=no
IPV6INIT=yes
IPV6_AUTOCONF=yes
IPV6_DEFROUTE=yes
IPV6_FAILURE_FATAL=no
IPV6_ADDR_GEN_MODE=stable-privacy
NAME=ens33
UUID=09073596-a7cf-404c-a098-28c3ff58c44b
DEVICE=ens33
ONBOOT=yes
IPADDR=192.168.100.202 #IP地址
NETMASK=255.255.255.0 #子网掩码
GATEWAY=192.168.100.1 #网关
[[email protected] ~]# systemctl restart network #重启网络服务
[[email protected] ~]# ifconfig #查看网卡信息
ens33: flags=4163<UP,BROADCAST,RUNNING,MULTICAST> mtu 1500
inet 192.168.100.202 netmask 255.255.255.0 broadcast 192.168.100.255 #IP地址配置成功
inet6 fe80::5134:22f5:842b:5201 prefixlen 64 scopeid 0x20<link>
ether 00:0c:29:0d:f1:75 txqueuelen 1000 (Ethernet)
RX packets 50790 bytes 74736905 (71.2 MiB)
RX errors 0 dropped 0 overruns 0 frame 0
TX packets 7366 bytes 466513 (455.5 KiB)
TX errors 0 dropped 0 overruns 0 carrier 0 collisions 0
2、挂载工具包,解压Nginx源码包
[[email protected] ~]# mkdir /mnt/tools #创建挂载点
[[email protected] ~]# mount.cifs //192.168.100.100/tools /mnt/tools/ #挂载
Password for [email protected]//192.168.100.100/tools:
[[email protected] ~]# cd /mnt/tools/LNMP/
[[email protected] LNMP]# ls
Discuz_X3.4_SC_UTF8.zip nginx-1.12.2.tar.gz php-7.1.20.tar.gz
mysql-boost-5.7.20.tar.gz php-7.1.10.tar.bz2
[[email protected] LNMP]# tar zxf nginx-1.12.2.tar.gz -C /opt/ #解压源码包
[[email protected] LNMP]# cd /opt/
[[email protected] opt]# ls
nginx-1.12.2 rh
[[email protected] opt]#
3、编译安装Nginx服务
[[email protected] opt]# cd nginx-1.12.2/
[[email protected] nginx-1.12.2]# ls
auto CHANGES CHANGES.ru conf configure contrib html LICENSE man README src
[[email protected] nginx-1.12.2]# useradd -M -s /sbin/nologin nginx #创建nginx用户
[[email protected] nginx-1.12.2]# ./configure \ #配置Nginx服务
> --prefix=/usr/local/nginx \ #安装路径
> --user=nginx \ #属主
> --group=nginx \ #属组
> --with-http_stub_status_module
#启用ngx_http_stub_status_module支持(获取nginx自上次启动以来的工作状态)
[[email protected] nginx-1.12.2]# make && make install #编译安装Nginx服务
4、配置Nginx服务站点首页,并开启服务
[[email protected] nginx-1.12.2]# cd /usr/local/nginx/html/
[[email protected] html]# echo "this is xyz web" > index.html #创建站点首页
[[email protected] html]# ln -s /usr/local/nginx/sbin/nginx /usr/local/sbin/ #建立软链接
[[email protected] html]# nginx -t #检查配置文件语法
nginx: the configuration file /usr/local/nginx/conf/nginx.conf syntax is ok
nginx: configuration file /usr/local/nginx/conf/nginx.conf test is successful
[[email protected] html]# nginx #开启服务
[[email protected] html]# netstat -ntap | grep 80 #查看端口
tcp 0 0 0.0.0.0:80 0.0.0.0:* LISTEN 18683/nginx: master
[[email protected] html]# systemctl stop firewalld.service #关闭防火墙
[[email protected] html]# setenforce 0 #关闭增强型安全功能
[[email protected] html]#
5、测试访问Nginx服务
Haproxy服务器配置
1、配置固定IP地址
[[email protected] ~]# vim /etc/sysconfig/network-scripts/ifcfg-ens33
TYPE=Ethernet
PROXY_METHOD=none
BROWSER_ONLY=no
BOOTPROTO=static #dhcp改为static
DEFROUTE=yes
IPV4_FAILURE_FATAL=no
IPV6INIT=yes
IPV6_AUTOCONF=yes
IPV6_DEFROUTE=yes
IPV6_FAILURE_FATAL=no
IPV6_ADDR_GEN_MODE=stable-privacy
NAME=ens33
UUID=3ceed540-b04c-48d6-a4f7-79951f09ea1d
DEVICE=ens33
ONBOOT=yes
IPADDR=192.168.100.210 #IP地址
NETMASK=255.255.255.0 #子网掩码
GATEWAY=192.168.100.1 #网关
[[email protected] ~]# systemctl restart network #重启网络服务
[[email protected] ~]# ifconfig #查看网卡信息
ens33: flags=4163<UP,BROADCAST,RUNNING,MULTICAST> mtu 1500
inet 192.168.100.210 netmask 255.255.255.0 broadcast 192.168.100.255 #IP地址配置成功
inet6 fe80::3e1d:31ba:f66a:6f80 prefixlen 64 scopeid 0x20<link>
ether 00:0c:29:95:9b:1b txqueuelen 1000 (Ethernet)
RX packets 51747 bytes 75871654 (72.3 MiB)
RX errors 0 dropped 0 overruns 0 frame 0
TX packets 7407 bytes 470471 (459.4 KiB)
TX errors 0 dropped 0 overruns 0 carrier 0 collisions 0
2、编译安装haproxy服务
[[email protected] ~]# mkdir /mnt/tools #创建挂载点
[[email protected] ~]# mount.cifs //192.168.100.100/tools /mnt/tools/ #挂载
Password for [email protected]//192.168.100.100/tools:
[[email protected] ~]# cd /mnt/tools/MySQL/
[[email protected] MySQL]# ls
amoeba-mysql-binary-2.2.0.tar.gz haproxy-1.5.19.tar.gz mysql-5.5.24.tar.gz
boost_1_59_0.tar.gz jdk-6u14-linux-x64.bin mysql-5.7.17.tar.gz
[[email protected] MySQL]# tar zxf haproxy-1.5.19.tar.gz -C /opt/ #解压haproxy源码包
[[email protected] MySQL]# cd /opt/
[[email protected] opt]# ls
haproxy-1.5.19 rh
[[email protected] opt]#
[[email protected] opt]# cd haproxy-1.5.19/
[[email protected] haproxy-1.5.19]# make TARGET=linux26 #编译haproxy服务
[[email protected] haproxy-1.5.19]# make install #安装haproxy服务
3、配置haproxy服务
[[email protected] haproxy-1.5.19]# mkdir /etc/haproxy #创建配置文件目录
[[email protected] haproxy-1.5.19]# cp examples/haproxy.cfg /etc/haproxy/ #模板复制到配置目录下
[[email protected] haproxy-1.5.19]# vim /etc/haproxy/haproxy.cfg #编辑配置文件
chroot /usr/share/haproxy ##注释掉
redispatch ##注释掉
# this config needs haproxy-1.1.28 or haproxy-1.2.1
#为全局配置
global
log 127.0.0.1 local0 #配置日志记,local0为日志设备,默认存放到系统日志
log 127.0.0.1 local1 notice #notice为 日志级别,通常有24个级别
#log loghost local0 info
maxconn 4096 #最大连接数
uid 99 #用户uid
gid 99 #用户gid
daemon
#debug
#quiet
#defaults配置项配置默认参数,一般会被应用组件继承,如果在应用组件中没有特别声明,将安装默认配置参数设置
defaults
log global #定义日志为global配置中的日志定义
mode http #模式为http
option httplog #采用http日志格式记录日志
option dontlognull #日志不为空
retries 3 #检查节点服务器失败连续达到三次则认为节点不可用
maxconn 2000 #最大连接数
contimeout 5000 #连接超时时间
clitimeout 50000 #客户端超时时间
srvtimeout 50000 #服务器超时时间
listen webcluster 0.0.0.0:80
option httpchk GET /index.html #检查服务器的index.html文件
balance roundrobin #负载均衡调度算法使用轮询算法
server inst1 192.168.100.201:80 check inter 2000 fall 3 #定义备份节点,健康检查请求三次
server inst2 192.168.100.202:80 check inter 2000 fall 3
[[email protected] haproxy-1.5.19]# cp /opt/haproxy-1.5.19/examples/haproxy.init /etc/init.d/haproxy #启动文件
[[email protected] haproxy-1.5.19]# chmod +x /etc/init.d/haproxy #添加执行权限
[[email protected] haproxy-1.5.19]# chkconfig --add haproxy #添加到service
[[email protected] haproxy-1.5.19]# ln -s /usr/local/sbin/haproxy /usr/sbin/ #便于系统识别
[[email protected] haproxy-1.5.19]#
[[email protected] haproxy-1.5.19]# service haproxy start #开启服务
Starting haproxy (via systemctl): [ 确定 ]
[[email protected] haproxy-1.5.19]# systemctl stop firewalld.service #关闭防火墙
[[email protected] haproxy-1.5.19]# setenforce 0 #关闭增强型安全功能
[[email protected] haproxy-1.5.19]#
4、用测试主机访问haproxy服务器IP地址
5、日志定义,修改haproxy配置文件
[[email protected] haproxy-1.5.19]# cd /etc/haproxy/
[[email protected] haproxy]# vim haproxy.cfg
log /dev/log local0 info #添加
log /dev/log local0 notice #添加
#log 127.0.0.1 local0 #注释
#log 127.0.0.1 local1 notice #注释
[[email protected] haproxy]# service haproxy restart ##重启服务
[[email protected] haproxy]# touch /etc/rsyslog.d/haproxy.conf ##创建系统日志haproxy配置文件
[[email protected] haproxy]# vim /etc/rsyslog.d/haproxy.conf
if ($programname == ‘haproxy‘ and $syslogseverity-text == ‘info‘) ##根据级别创建不同的日志文件
then -/var/log/haproxy/haproxy-info.log
&~
if ($programname == ‘haproxy‘ and $syslogseverity-text == ‘notice‘)
then -/var/log/haproxy/haproxy-notice.log
&~
[[email protected] haproxy]# systemctl restart rsyslog.service ##重启系统日志服务
[[email protected] haproxy]# cd /var/log/ ##此时是没有haproxy日志
##重新访问网页
[[email protected] haproxy]# cd /var/log/haproxy/
[[email protected] haproxy]# ls ##此时就生成了info级别的日志文件
haproxy-info.log
原文地址:https://blog.51cto.com/14449541/2459314
时间: 2024-11-09 11:28:58