LVS-DR 作业原理

LVS-DR(Linux Virtual Server Director Server)作业方式,是生产环境中最常用的一 种作业方式。

  • LVS-DR 方式,Director Server 作为群集的拜访入口,不作为网关运用
  • 节点 Director Server 与 Real Server 需求在同一个网络中,返回给客户端的数据不需求通过 Director Server。
  • 为了呼应对整个群集的拜访,Director Server 与 Real Server 都需求装备 VIP 地址

数据包流向剖析

  • 客户端发送恳求到 Director Server,恳求的数据报文(源 IP 是 CIP,方针 IP 是 VIP) 抵达内核空间。
  • Director Server 和 Real Server 在同一个网络中,数据通过二层数据链路层来传输。
  • 内核空间判断数据包的方针 IP 是本机 VIP,此时 IPVS 比对数据包恳求的服务是否是集群服务,是集群服务就从头封装数据包。修正源 MAC 地址为 Director Server 的 MAC 地址,修正方针 MAC 地址为 Real Server 的 MAC 地址,源 IP 地址与方针 IP 地址没有改 变,然后将数据包发送给 Real Server。
  • 抵达 Real Server 的恳求报文的 MAC 地址是本身的 MAC 地址,就接纳此报文。数 据包从头封装报文(源 IP 地址为 VIP,方针 IP 为 CIP),将呼应报文通过 lo 接口传送给物理 网卡然后向外宣布。
  • Real Server 直接将呼应报文传送到客户端。

LVS-DR方式的特点

  • Director Server 和 Real Server 有必要在同一个物理网络中。
  • Real Server 能够运用私有地址,也能够运用公网地址。如果运用公网地址,能够通过 互联网对 RIP 进行直接拜访。
  • 一切的恳求报文经由 Director Server,但回复呼应报文不能通过 Director Server。
  • Real Server 的网关不允许指向 Director Server IP,即不允许数据包通过 Director S erver。
  • Real Server 上的 lo 接口装备 VIP 的 IP 地址。

ARP问题

问题一:IP 地址冲突,客户端怎么知道发送恳求信息给负载均衡节点还是节点服务器?

在LVS-DR负载均衡集群中,负载均衡器与节点服务器都要装备相同的VIP地址,在局域网中具有相同的IP地 址。势必会造成各服务器ARP通讯的紊乱

  • 当ARP播送发送到LVS-DR集群时,由于负载均衡器和节点服务器都是连接到相同的网络上,它们都会接纳到ARP播送
  • 只有前端的负载均衡器进行呼应,其他节点服务器不应该呼应ARP播送

解决办法:

  • 对节点服务器进行处理,使其不呼应针对VIP的ARP恳求

  • 用虚拟接口lo:0承载VIP地址

  • 设置内核参数arp_ ignore=1: 体系只呼应意图IP为本地IP的ARP恳求

     路由器发送ARP恳求(播送)
    ARP---->播送去找ip地址解析成mac地址
    默许运用调度服务器上的外网地址(vip地址)呼应,
    需求在实在服务器上修正内核参数
    使实在服务器只对自己服务器上的实在IP地址呼应ARP解析。
    

问题二:第2次再有拜访恳求,会造成网关设备arp紊乱

RealServer返回报文(源IP是VIP)经路由器转发,从头封装报文时,需求先获取路由器的MAC地址,发送ARP恳求时,Linux默许运用IP包的源IP地址(即VIP)作为ARP恳求包中的源IP地址,而不运用发送接口的IP地址,路由器收到ARP恳求后,将更新ARP表项,原有的VIP对应Director的MAC地址会被更新为VIP对应RealServer的MAC地址。路由器依据ARP表项,会将新来的恳求报文转发给RealServer,导致Director的VIP紊乱

解决办法:

对节点服务器进行处理,设置内核参数arp_announce=2:体系不运用IP包的源地址来设置ARP恳求的源地址,而挑选物理网卡上的的IP地址作为arp报文的源地址

 路由器上绑定了 实在服务器1的mac信息,
 #恳求抵达实在服务器
 在实在服务器上修正内核参数
 只对一切服务器实在网卡上的地址进行反应,解析

解决ARP的两个问题的设置办法

修正/etc/sysctl.conf 文件,调整内核的ARP呼应参数。

 vim /etc/sysctl.conf     //增加以下四行参数
 net.ipv4.conf.lo.arp_ignore = 1  
 net.ipv4.conf.lo.arp_announce = 2
 net.ipv4.conf.all.arp_ignore = 1
 net.ipv4.conf.all.arp_announce = 2
 sysctl -p  //改写装备,读取修正后的装备
 #arp_ignore=1 :使本机体系只呼应意图IP为本地物理网卡IP的ARP恳求。
 #arp_announce=2:使本机体系不运用即将返回的IP数据包的源地址来作为ARP恳求报文的源地址,而选用发送接口(物理网卡)的IP作为ARP恳求报文源地址。

布置LVS-DR集群

环境

  • LVS负载调度器:ens33:192.168.1.12
  • Web1 节点服务器1:192.168.1.10
  • Web2 节点服务器2:192.168.1.11
  • NFS服务器:192.168.1.128
  • VIP:192.168.200
  • 客户端(win10):192.168.1.33

布置nfs同享存储

IP:192.168.1.128

systemctl stop firewalld.service
systemctl disable firewalld.service 
setenforce 0
#封闭防火墙
yum install -y nfs-utils rpcbind
#装置nfs-utils、rpcbind软件

image.png

systemctl start rpcbind.service
systemctl start nfs.service 
systemctl enable rpcbind.service 
systemctl enable nfs.service 
#敞开nfs和rpcbind

image.png

mkdir /opt/lwx /opt/wyn                              #创立两个文件夹
echo '<h1>This is lwx <h1>' >/opt/lwx/index.html     #写入lwx
echo '<h1>This is wyn <h1>' >/opt/wyn/index.html     #写入wyn
chmod 777 /opt/lwx /opt/wyn                          #授权
#创立两个文件夹放置两个html测验文件

image.png
vim /etc/exports #设置nfs同享战略,写入以下内容

/usr/share *(ro,sync)
/opt/lwx 192.168.1.0/24(rw,sync) 
/opt/wyn 192.168.1.0/24(rw,sync)
exportfs -rv 
showmount -e  
#发布同享 

image.png

image.png
etc/exprot参数阐明:

  1. Rw :该主机对该同享目录有读写权限
  2. No_root_squash: 客户机用root拜访该同享文件夹时,不映射root用户
  3. Sync: 资料同步写入到内存与硬盘中

布置节点服务器web1

IP:192.168.1.10

systemctl stop firewalld.service
systemctl disable firewalld.service 
setenforce 0
#封闭防火墙
yum install httpd -y
#装置httpd服务

image.png

#增加虚拟网卡承载vip地址 
cd /etc/sysconfig/network-scripts/ 
#切换到网卡装备文件目录  
cp ifcfg-lo ifcfg-lo:0  
#复制原有网卡装备进行修正  
vim ifcfg-lo:0 
#只留以下内容
DEVICE=lo:0  
IPADDR=192.168.1.200  #修正为vip地址  
NETMASK=255.255.255.255  #修正子网掩码,有必要全为1
ONBOOT=yes  
ifup lo:0    #发动网卡  
ifconfig     #检查活动网卡  

image.pngimage.pngimage.png

route add -host 192.168.1.200 dev lo:0
#增加静态路由信息,dev指出网卡
route -n
#检查

image.png 

vim /etc/rc.d/rc.local
route add -host 192.168.1.200 dev lo:0 
chmod +x /etc/rc.d/rc.local
#将设置路由指令增加到开机履行装备文件内相当于开机自启并给装备文件增加履行权限 

image.png

#调整 proc 呼应参数  
#增加体系只呼应意图IP为本地IP的ARP恳求  
#体系不运用原地址来设置ARP恳求的源地址,而是物理mac地址上的IP  
vim /etc/sysctl.conf  
net.ipv4.conf.lo.arp_ignore = 1  
net.ipv4.conf.lo.arp_announce = 2  
net.ipv4.conf.all.arp_ignore = 1  
net.ipv4.conf.all.arp_announce = 2  
#arp_ignore=1,使本机只呼应意图IP为本地物理网卡IP的ARP恳求。  
#arp_announce=2,使本机体系选用发送接口的IP作为ARP恳求报文源地址
sysctl -p    #改写装备,读取修正后的装备

image.png

image.png

#挂载站点,将NFS服务器的同享目录,挂载到httpd服务的根目录
systemctl restart httpd 
#敞开web服务 
showmount -e 192.168.1.128 
#检查nfs同享服务器同享战略
mount 192.168.1.128:/opt/lwx /var/www/html/
#将同享目录挂载到本地web服务器站点给目录
df -h
#检查挂载点
cat /var/www/html/index.html

image.png

布置节点服务器web2

IP:192.168.1.11

systemctl stop firewalld.service
systemctl disable firewalld.service 
setenforce 0
#封闭防火墙
yum install httpd -y
#装置httpd服务

image.png

#增加虚拟网卡承载vip地址 
cd /etc/sysconfig/network-scripts/ 
#切换到网卡装备文件目录  
cp ifcfg-lo ifcfg-lo:0  
#复制原有网卡装备进行修正  
vim ifcfg-lo:0 
#只留以下内容
DEVICE=lo:0  
IPADDR=192.168.1.200  #修正为vip地址  
NETMASK=255.255.255.255  #修正子网掩码,有必要全为1
ONBOOT=yes  
ifup lo:0    #发动网卡  
ifconfig     #检查活动网卡  

image.png

image.png

route add -host 192.168.1.200 dev lo:0
#增加静态路由信息,dev指出网卡
route -n
#检查

image.png

vim /etc/rc.d/rc.local
route add -host 192.168.1.200 dev lo:0 
chmod +x /etc/rc.d/rc.local
#将设置路由指令增加到开机履行装备文件内相当于开机自启并给装备文件增加履行权限 

image.png

image.png

#调整 proc 呼应参数  
#增加体系只呼应意图IP为本地IP的ARP恳求  
#体系不运用原地址来设置ARP恳求的源地址,而是物理mac地址上的IP  
vim /etc/sysctl.conf  
net.ipv4.conf.lo.arp_ignore = 1  
net.ipv4.conf.lo.arp_announce = 2  
net.ipv4.conf.all.arp_ignore = 1  
net.ipv4.conf.all.arp_announce = 2  
#arp_ignore=1,使本机只呼应意图IP为本地物理网卡IP的ARP恳求。  
#arp_announce=2,使本机体系选用发送接口的IP作为ARP恳求报文源地址
sysctl -p    #改写装备,读取修正后的装备

image.png

image.png

#挂载站点,将NFS服务器的同享目录,挂载到httpd服务的根目录
systemctl restart httpd 
#敞开web服务 
showmount -e 192.168.1.128 
#检查nfs同享服务器同享战略
mount 192.168.1.128:/opt/wyn /var/www/html/
#将同享目录挂载到本地web服务器站点给目录
df -h
#检查挂载点
cat /var/www/html/index.html

image.png

布置lvs负载调度器

IP:192.168.1.12

systemctl stop firewalld.service
systemctl disable firewalld.service 
setenforce 0
#封闭防火墙

image.png  

modprobe ip_vs              #加载模块
cat /proc/net/ip_vs         #检查
yum install ipvsadm -y      #装置ipv

image.png

#装备虚拟IP地址(VIP:192.168.1.200),增加虚拟网卡ens33:0 
cd /etc/sysconfig/network-scripts/  
cp ifcfg-ens33 ifcfg-ens33:0 
vim ifcfg-ens33:0
DEVICE=ens33:0  
ONBOOT=YES  
IPADDR=192.168.1.200 
NETMASK=255.255.255.255   #子网掩码有必要全为1
ifup ens33:0              #发动虚拟网卡
ifconfig                  #检查网卡信息

image.pngimage.pngimage.png

#修正装备文件调整/proc呼应参数 
#由于LVS负载调度器和各节点需求共用VIP地址,需求封闭icmp的重定向,不充任路由器。
vim /etc/sysctl.conf  
net.ipv4.ip_forward = 0                    #封闭路由转发功用
net.ipv4.conf.all.send_redirects = 0  
net.ipv4.conf.default.send_redirects = 0  
net.ipv4.conf.ens33.send_redirects = 0  
sysctl -p                                  #改写装备,读取修正后的装备

image.png

image.png

设置负载分配战略(调度战略),-s rr表明指定轮询算法,-g表明运用DR方式
ipvsadm -C                        #清空原有规则  
ipvsadm -A -t 192.168.1.200:80 -s rr        
ipvsadm -a -t 192.168.1.200:80 -r 192.168.1.10:80 -g  
ipvsadm -a -t 192.168.1.200:80 -r 192.168.1.11:80 -g  
ipvsadm                          #检查调度战略  
ipvsadm -ln                      #以数字方式检查调度战略,Route代表DR方式

image.png

保存战略,发动ipvsadm。发动服务前一定要保存战略,生成相应文件
ipvsadm-save > /etc/sysconfig/ipvsadm
systemctl start ipvsadm

客户端装备并测验

IP:192.168.1.33

浏览器输入VIP地址:192.168.1.200

image.png

image.png

image.png