集群与分布式

集群的含义

  • Cluster,集群、群集,为处理某个特定问题将多台核算机组合起来形成的单个体系
  • 由多台主机构成,但对外只表现为一个全体

问题

  • 互联网运用中,随着站点对硬件性能、呼应速度、服务稳定性、数据可靠性等要求越来越高,单台服务器现已无法满意负载均衡及高可用的要求

处理方法

  • 运用价格昂贵的小型机、大型机
  • 运用多台相对廉价的一般服务器构建服务群集

经过整合多台服务器,运用LVS来到达服务器的高可用和负载均衡,并以同一个IP地址对外供给相同的服务。

在企业中常用的一种群集技能——LVS (Linux Virtual Server,Linux虚拟服务器)

企业群集分类

  • 负载均衡群集
  • 高可用群集
  • 高性能运算群集。

负载均衡群集(Load Balance cluster)

LB: Load Balancing,负载均衡,多个主机组成,每个主机只承担一部分拜访恳求

  • 进步运用体系的呼应才能、尽可能处理更多的拜访恳求、削减推迟为方针,取得高并发、高负载(LB)的全体性能
  • Lb的负载分配依赖于主节点的分流算法,将来自客户机的拜访恳求分担给多个服务器节点,然后缓解整个体系的负载压力.例如,“dns轮询”“反向署理”等“

高可用群集

HA: High Availiablity,高可用,防止 SPOF(single Point Of failure)

  • 进步运用体系的可靠性、尽可能地削减中断时刻为方针,保证服务的连续性,到达高可用(HA)的容错效果
  • HA的作业方法包含双工主从两种方法

高性能运算群集

HPC: High-performance computing,高性能

  • 进步运用体系的CPU运算速度、扩展硬件资源和剖析才能为方针,取得相当于大型、超级核算机的高性能运算(HPC)才能
  • 高性能依赖于“分布式运算”、“并行核算”,经过专用硬件和软件将多个服务器的CPU、内存等资源整合在一起,完成只有大型、超级核算机才具有的核算才能

负载均衡集群架构

  1. 第一层,负载调度器(Load Balancer或Director)

拜访整个群集体系的仅有进口,对外运用一切服务器共有的VIP地址,也称为群集IP地址。 通常会装备主、备两台调度器完成热备份,当主调度器失效以后能够滑润替换至备用调度器,保证高可用性。

  1. 第二层,服务器池(Server Pool)

群集所供给的运用服务、由服务器池承担,其中每个节点具有独立的RIP地址(实在IP),只处理调度器分发过来的客户机恳求。 当某个节点暂时失效时,负载调度器的容错机制会将其隔离,等待过错排除以后再重新纳入服务器池。

  1. 第三层,同享存储(Share Storage)

为服务器池中的一切节点供给稳定、共同的文件存取服务,保证整个群集的统一性。 同享存储能够运用NAS设备,或许供给NFS同享服务(一种协议)的专用服务器。

LVS负载均衡群集-NAT模式

LVS作业方法和相关命令

Linux Virtual Server

  • 针对Linux内核开发的负载均衡处理方
  • 1998年5月,由我国的章文嵩博士创立
  • 官方网站: www.linuxvirtualserver.org/
  • LVS 实际上相当于依据IP地址的虚拟化运用, 为依据IP地址和内容恳求分发的负载均衡提出了一种高效的处理方法

LVS现在已成为Linux内核的一部分,默许编译为ip_vs模块,必要时能够主动调用。在CentOS 7体系中,以下操作能够手动加载ip_vs模块,并检查当前体系中ip_vs模块的版别信息

 [root@localhost ~]# modprobe ip_vs     #加载ip_vs模块
 [root@localhost ~]# cat /proc/net/ip_vs  #检查ip_vs信息
 IP Virtual Server version 1.2.1 (size=4096)
 Prot LocalAddress:Port Scheduler Flags
   -> RemoteAddress:Port Forward Weight ActiveConn InActConn       

检查ip_vs模块的子模块

 [root@localhost ~]# cd /usr/lib/modules/3.10.0-693.el7.x86_64/kernel/net/netfilter/ipvs/
 [root@localhost ipvs]# ls
 ip_vs_dh.ko.xz  ip_vs.ko.xz    ip_vs_lblcr.ko.xz  ip_vs_nq.ko.xz    ip_vs_rr.ko.xz  ip_vs_sh.ko.xz  ip_vs_wrr.ko.xz
 ip_vs_ftp.ko.xz  ip_vs_lblc.ko.xz  ip_vs_lc.ko.xz   ip_vs_pe_sip.ko.xz  ip_vs_sed.ko.xz  ip_vs_wlc.ko.xz

留意:lvs只能做4层署理,也便是ip:端口进行转发

LVS的负载调度算法

轮询(Round Robin)

  • 将收到的拜访恳求按照次序轮流分配给群会集的各节点(实在服务器),均等地对待每一台服务器,而不管服务器实际的衔接数和体系负载

加权轮询(Weighted Round Robin)

  • 依据调度器设置的权重值来分发恳求,权重值高的节点优先取得使命,分配的恳求数越多
  • 保证性能强的服务器承担更多的拜访流量

最少衔接(Least Connections)

  • 依据实在服务器已树立的衔接数进行分配,将收到的拜访恳求优先分配给衔接数最少的节点

加权最少衔接(WeightedLeastConnections)

  • 在服务器节点的性能差异较大时,能够为实在服务器主动调整权重
  • 性能较高的节点将承担更大比例的活动衔接负载

IP_Hash

  • 依据恳求来源的IP地址进行Hash核算,得到后端服务器
  • 这样来自同一个IP的恳求总是会落到同一台服务器上处理,以致于能够将恳求上下文信息存储在这个服务器上

url_hash

  • 按拜访url的hash结果来分配恳求,使每个url定向到同一个后端服务器
  • 后端服务器为缓存时比较有用

fair

  • 选用的不是内建负载均衡运用的轮换的均衡算法
  • 而是能够依据页面大小、加载时刻长短智能的进行负载均衡
  • 也便是依据后端服务器时刻来分配用户恳求,呼应时刻短的优先分配

ipvsadm功用与选项阐明

ipvsadm是LVS的管理工具

选项 功用
-A 增加虚拟服务器
-D 删除整个虚拟服务器
-s 指定负载调度算法(轮询:rr、加权轮询:wrr、最少衔接:lc、加权最少衔接:wlc)
-a 表明增加实在服务器(节点服务器)
-d 删除某一个节点
-t 指定 VIP地址及 TCP端口
-r 指定 RIP地址及 TCP端口
-m 表明运用 NAT群集方法
-g 表明运用 DR方法
-i 表明运用 TUN方法
-w 设置权重(权重为 0 时表明暂停节点)
-p 60 表明坚持长衔接60秒
-l 列表检查 LVS 虚拟服务器(默许为检查一切)
-n 以数字方法显示地址、端口等信息,常与“-l”选项组合运用。ipvsadm -ln

负载均衡群集作业方法剖析

负载均衡群集是目前企业用得最多的群集类型

群集的负载调度技能有三种作业方法

  1. 地址转化(NAT方法)
  2. IP地道(TUN方法)
  3. 直接路由(DR方法)

1. 地址转化(NAT方法)

  • 类似于防火墙的私有网络结构,负载调度器作为一切服务器节点的网关,即作为客户机的拜访进口,也是各节点回应客户机的拜访出口
  • 服务器节点运用私有iP地址,与调度器坐落同一个物理网络,安全性要优于其他两种方法
  • 长处:集群中的服务器能够运用任何支撑TCP/IP的操作体系,只需负载均衡器有一个合法的IP地址。
  • 缺陷:扩展性有限,当服务器节点增加过多时,因为一切的恳求和应对都需求经过负载均衡器,因此负载均衡器将成为整个体系的瓶颈。

IP地道(TUN方法)

  • 选用开放式的网络结构,负载调度器仅作为客户机的访向进口,各节点经过各自的Internet衔接直接回应客户机,而不再经过负载调度器
  • 服务器节点涣散在互联网中的不同位置,具有独立的公网IP地址,经过专用IP地道与负载调度器彼此通信
  • 长处:负载均衡器只担任将恳求包分发给后端节点服务器,而RS将应对包直接发给用户。所以,削减了负载均衡器的很多数据活动,负载均衡器不再是体系的瓶颈,也能处理很巨大的恳求量。
  • 缺陷:地道方法的RS节点需求合法IP,这种方法需求一切的服务器支撑“IP Tunneling”。

直接路由(DR方法)

  • 选用半开放式的网络结构,与TUN方法的结构类似,但各节点并不是涣散在各地,而是与调度器坐落同一个物理网络
  • 负载调度器与各节点服务器经过本地网络衔接,不需求树立专用的IP地道
  • 长处:负载均衡器只担任将恳求包分发给后端节点服务器,而RS将应对包直接发给用户。所以,削减了负载均衡器的很多数据活动,负载均衡器不再是体系的瓶颈,也能处理很巨大的恳求量。
  • 缺陷:需求负载均衡器与实在服务器RS都有一块网卡衔接到同一物理网段上,有必要在同一个局域网环境。

LVS-nat群集布置

LVS调度器作为Web服务器池的网关,LVS两块网卡,别离衔接内外网,运用轮询(rr)调度算法

布置过程

  • 1.加载ip_vs模块,装置ipvsadm工
  • 2.开启路由转发
  • 3.新建LVS虚拟服务器并增加节点服务器
  • 4.装备节点服务器树立
    • 测试网站
    • 挂载NFS同享存储
    • 树立测试网页
  • 5.保存规则并测试

环境

  • LVS负载调度器:ens33:192.168.1.12 ens37:10.0.0.1
  • Web1 节点服务器1:192.168.1.10
  • Web2 节点服务器2:192.168.1.11
  • NFS服务器:192.168.1.128
  • 客户端(win10):10.0.0.12

布置nfs同享存储

ip:192.168.1.128

systemctl stop firewalld.service
systemctl disable firewalld.service 
setenforce 0
#封闭防火墙
yum install -y nfs-utils rpcbind
#装置nfs-utils、rpcbind软件包

LVS负载均衡群集-NAT模式

systemctl start rpcbind.service
systemctl start nfs.service 
systemctl enable rpcbind.service 
systemctl enable nfs.service 
#开启nfs和rpcbind

LVS负载均衡群集-NAT模式

mkdir /opt/lwx /opt/wyn                              #创立两个文件夹
echo '<h1>This is lwx <h1>' >/opt/lwx/index.html     #写入lwx
echo '<h1>This is wyn <h1>' >/opt/wyn/index.html     #写入wyn
chmod 777 /opt/lwx /opt/wyn                          #授权
#创立两个文件夹放置两个html测试文件

LVS负载均衡群集-NAT模式

vim /etc/exports        #设置nfs同享战略,写入以下内容
/usr/share *(ro,sync) 
/opt/lwx 192.168.1.0/24(rw,sync) 
/opt/wyn 192.168.1.0/24(rw,sync)
exportfs -rv 
showmount -e  
#发布同享 

LVS负载均衡群集-NAT模式

LVS负载均衡群集-NAT模式
etc/exprot参数阐明:

  1. Rw :该主机对该同享目录有读写权限
  2. No_root_squash: 客户机用root拜访该同享文件夹时,不映射root用户
  3. Sync: 资料同步写入到内存与硬盘中

布置节点服务器web1

ip:192.168.1.10

systemctl stop firewalld.service
systemctl disable firewalld.service 
setenforce 0
#封闭防火墙
yum install httpd -y
#装置httpd服务

LVS负载均衡群集-NAT模式

showmount -e 192.168.1.128
#检查nfs服务
mount 192.168.1.128:/opt/lwx /var/www/html/
#挂载站点,将NFS服务器的同享目录/opt/lwx/,挂载到httpd服务的根目录
systemctl start httpd
#开启httpd服务

LVS负载均衡群集-NAT模式

LVS负载均衡群集-NAT模式

vim /etc/sysconfig/network-scripts/ifcfg-ens33
GATEWAY=192.168.159.100     
#指定网关为lvs的ip地址                  
#DNS1=8.8.8.8               
#DNS2=114.114.114.114      
 #注释掉
systemctl restart network
#重启网络服务

LVS负载均衡群集-NAT模式

LVS负载均衡群集-NAT模式

布置节点服务器web2

ip:192.168.1.11

布置方法和web1一样

systemctl stop firewalld.service
systemctl disable firewalld.service 
setenforce 0
#封闭防火墙
yum install httpd -y
#装置httpd服务

LVS负载均衡群集-NAT模式

showmount -e 192.168.1.128
#检查nfs服务
mount 192.168.1.128:/opt/wyn /var/www/html/
#挂载站点,将NFS服务器的同享目录/opt/wyn/,挂载到httpd服务的根目录
systemctl start httpd
#开启httpd服务        

LVS负载均衡群集-NAT模式

vim /etc/sysconfig/network-scripts/ifcfg-ens33
GATEWAY=192.168.159.100     
#指定网关为lvs的ip地址                  
#DNS1=8.8.8.8               
#DNS2=114.114.114.114      
 #注释掉
systemctl restart network
#重启网络服务

LVS负载均衡群集-NAT模式

LVS负载均衡群集-NAT模式

布置LVS负载调度器

内网网卡:192.168.1.12(ens33) ,外网网卡:10.0.0.1(ens36)

增加一块网卡
    ifconfig #检查网卡信息,每台增加的网卡不一定都是ens36,依据自己的虚拟机来装备

LVS负载均衡群集-NAT模式

LVS负载均衡群集-NAT模式

vim   /etc/sysconfig/network-scripts/ifcfg-ens33
#GATEWAY=192.168.1.2
#DNS1=8.8.8.8
#DNS2=114.114.114.114
#网关和DNS注释掉

LVS负载均衡群集-NAT模式

cp  /etc/sysconfig/network-scripts/ifcfg-ens33    /etc/sysconfig/network-scripts/ifcfg-ens36
#复制ens33到ens36
vim   /etc/sysconfig/network-scripts/ifcfg-ens36
NAME=ens36  
DEVICE=ens36
#ens33改为36,注释掉uuid
IPADDR=10.0.0.1     
NETMASK=255.255.255.0 
#设置IP地址
#GATEWAY=192.168.1.2 
#DNS1=8.8.8.8
#DNS2=114.114.114.114
#网关和DNS注释掉
systemctl restart network 
#重启网络

LVS负载均衡群集-NAT模式

LVS负载均衡群集-NAT模式

systemctl stop firewalld.service
systemctl disable firewalld.service 
setenforce 0
#封闭防火墙

LVS负载均衡群集-NAT模式

vim /etc/sysctl.conf 
net.ipv4.ip_forward = 1       #增加这一行 
sysctl -p                  #读取修改后的装备 
net.ipv4.ip_forward = 1

LVS负载均衡群集-NAT模式

LVS负载均衡群集-NAT模式

装备SNAT战略(假如内网想主动衔接外网的话,需求装备SNAT战略)
iptables -t nat -F
iptables -t nat -A POSTROUTING -s 192.168.1.0/24 -o ens36 -j SNAT --to 10.0.0.1
#增加snat规则
iptables -nL POSTROUTING -t nat
#检查nat战略

LVS负载均衡群集-NAT模式

加载LVS内核模块
modprobe ip_vs     #加载ip_vs模块
cat /proc/net/ip_vs   #检查ip_vs模块的版别

LVS负载均衡群集-NAT模式

装置ipvsadm管理工具,开启服务
yum install -y ipvsadm
#开启服务前有必要保存负载分配战略,生成/etc/sysconfig/ipvsadm文件。假如该文件不存在,服务无法发动。
ipvsadm-save > /etc/sysconfig/ipvsadm 
或许 
ipvsadm --save > /etc/sysconfig/ipvsadm 
或许 
touch /etc/sysconfig/ipvsadm
systemctl start ipvsadm.service   
#开启服务

LVS负载均衡群集-NAT模式

LVS负载均衡群集-NAT模式

装备负载分配战略(NAT方法只需求在负载器上装备,节点服务器不需求特殊装备)
ipvsadm -C  
#清空原有规则
ipvsadm -A -t 10.0.0.1:80 -s rr 
#指定指定VIP地址及TCP端口,-s rr 指定负载调度战略为轮询

LVS负载均衡群集-NAT模式

ipvsadm -a -t 10.0.0.1:80 -r 192.168.1.10:80 -m -w 1
ipvsadm -a -t 10.0.0.1:80 -r 192.168.1.11:80 -m -w 1
#先指定虚拟服务器再增加实在服务器地址,
-r指定实在服务器地址
-m指定nat方法
-w指定权重值
权重为1时可省略不写
ipvsadm
#检查战略
ipvsadm-save >/etc/sysconfig/ipvsadm
#保存负载分配战略
ipvsadm -ln 
#以数字方法检查战略,Masq表明NAT方法

LVS负载均衡群集-NAT模式

LVS负载均衡群集-NAT模式

客户机拜访测试

win10客户机,网关地址设置为负载调度器的外网IP:10.0.0.1

浏览器多次拜访负载调度器的外网IP地址10.0.0.1。

LVS负载均衡群集-NAT模式

LVS负载均衡群集-NAT模式

LVS负载均衡群集-NAT模式