devbox
知新_RL
这个屌丝很懒，什么也没留下！
关注作者
热门标签
热门文章
当前位置:   article > 正文

LVS配置部署_lvs virtual 和 real端口不一致

作者：知新_RL | 2024-07-13 16:40:11

赞

踩

lvs virtual 和 real端口不一致

目录

一、ipvsadm安装

二、ipvsadm配置参数

三、NAT地址转换模式 Virtual Server via Network Address Translation（VS/NAT）

四、DR直接路由模式 Virtual Server via Direct Routing（VS/DR）

五、keeplived+lvs配置示例

Linux2.4内核以后内置LVS功能模块

lvs的管理工具：ipvsadm

LVS的本身分成了两个部分

第一部分是工作在内核空间的一个IPVS的模块

第二部分是工作在用户空间的定义集群服务的工具ipvsadm将集群服务传送给IPVS模块

一、ipvsadm安装

apt-get install -y ipvsadm

 

二、ipvsadm配置参数

  1. #virtual-service-address:是指虚拟服务器的ip 地址
  2.  
  3. #real-service-address:是指真实服务器的ip 地址
  4.  
  5. #scheduler：调度方法
  6.  
  7.  
  8.  
  9. #virtual-service-address:是指虚拟服务器的ip 地址
  10.  
  11. #real-service-address:是指真实服务器的ip 地址
  12.  
  13. #scheduler：调度方法
  14.  
  15. #ipvsadm 的用法和格式如下：
  16.  
  17. ipvsadm -A|E -t|u|f virutal-service-address:port [-s scheduler] [-p[timeout]] [-M netmask]
  18.  
  19. ipvsadm -D -t|u|f virtual-service-address
  20.  
  21. ipvsadm -C
  22.  
  23. ipvsadm -R
  24.  
  25. ipvsadm -S [-n]
  26.  
  27. ipvsadm -a|e -t|u|f service-address:port -r real-server-address:port [-g|i|m] [-w weight]
  28.  
  29. ipvsadm -d -t|u|f service-address -r server-address
  30.  
  31. ipvsadm -L|l [options]
  32.  
  33. ipvsadm -Z [-t|u|f service-address]
  34.  
  35. ipvsadm --set tcp tcpfin udp
  36.  
  37. ipvsadm --start-daemon state [--mcast-interface interface]
  38.  
  39. ipvsadm --stop-daemon
  40.  
  41. ipvsadm -h
  42.  
  43. #命令选项解释：有两种命令选项格式，长的和短的，具有相同的意思。在实际使用时，两种都可以。
  44.  
  45. -A --add-service #在内核的虚拟服务器表中添加一条新的虚拟服务器记录。也就是增加一台新的虚拟服务器。
  46.  
  47. -E --edit-service #编辑内核虚拟服务器表中的一条虚拟服务器记录。
  48.  
  49. -D --delete-service #删除内核虚拟服务器表中的一条虚拟服务器记录。
  50.  
  51. -C --clear #清除内核虚拟服务器表中的所有记录。
  52.  
  53. -R --restore #恢复虚拟服务器规则
  54.  
  55. -S --save #保存虚拟服务器规则，输出为-R 选项可读的格式
  56.  
  57. -a --add-server #在内核虚拟服务器表的一条记录里添加一条新的真实服务器记录。也就是在一个虚拟服务器中增加一台新的真实服务器
  58.  
  59. -e --edit-server #编辑一条虚拟服务器记录中的某条真实服务器记录
  60.  
  61. -d --delete-server #删除一条虚拟服务器记录中的某条真实服务器记录
  62.  
  63. -L|-l --list #显示内核虚拟服务器表
  64.  
  65. -Z --zero #虚拟服务表计数器清零（清空当前的连接数量等）
  66.  
  67. --set tcp tcpfin udp #设置连接超时值
  68.  
  69. --start-daemon #启动同步守护进程。他后面可以是master 或backup，用来说明LVS Router 是master 或是backup。在这个功能上也可以采用keepalived 的VRRP 功能。
  70.  
  71. --stop-daemon #停止同步守护进程
  72.  
  73. -h --help #显示帮助信息
  74.  
  75. #其他的选项:
  76.  
  77. -t --tcp-service service-address #说明虚拟服务器提供的是tcp 的服务[vip:port] or [real-server-ip:port]
  78.  
  79. -u --udp-service service-address #说明虚拟服务器提供的是udp 的服务[vip:port] or [real-server-ip:port]
  80.  
  81. -f --fwmark-service fwmark #说明是经过iptables 标记过的服务类型。
  82.  
  83. -s --scheduler scheduler #使用的调度算法，有这样几个选项rr|wrr|lc|wlc|lblc|lblcr|dh|sh|sed|nq,默认的调度算法是： wlc.
  84.  
  85. -p --persistent [timeout] #持久稳固的服务。这个选项的意思是来自同一个客户的多次请求，将被同一台真实的服务器处理。timeout 的默认值为300 秒。
  86.  
  87. -M --netmask #子网掩码
  88.  
  89. -r --real-server server-address #真实的服务器[Real-Server:port]
  90.  
  91. -g --gatewaying 指定LVS 的工作模式为直接路由模式（也是LVS 默认的模式）
  92.  
  93. -i --ipip #指定LVS 的工作模式为隧道模式
  94.  
  95. -m --masquerading #指定LVS 的工作模式为NAT 模式
  96.  
  97. -w --weight weight #真实服务器的权值
  98.  
  99. --mcast-interface interface #指定组播的同步接口
  100.  
  101. -c --connection #显示LVS 目前的连接 如：ipvsadm -L -c
  102.  
  103. --timeout #显示tcp tcpfin udp 的timeout 值 如：ipvsadm -L --timeout
  104.  
  105. --daemon #显示同步守护进程状态
  106.  
  107. --stats #显示统计信息
  108.  
  109. --rate #显示速率信息
  110.  
  111. --sort #对虚拟服务器和真实服务器排序输出
  112.  
  113. --numeric -n #输出IP 地址和端口的数字形式

 

LVS的10种调度算法

1. Fixed Scheduling Method 静态调服方法
 

  1. RR  #轮询
  2.  
  3. #调度器通过"轮叫"调度算法将外部请求按顺序轮流分配到集群中的真实服务器上，它均等地对待每一台服务器，而不管服务器上实际的连接数和系统负载。
  4.  
  5. WRR  #加权轮询
  6.  
  7. #调度器通过"加权轮叫"调度算法根据真实服务器的不同处理能力来调度访问请求。 这样可以保证处理能力强的服务器处理更多的访问流量。调度器 可以自动问询真实服务器的负载情况，并动态地调整其权值。
  8.  
  9. DH  #目标地址hash
  10.  
  11. #算法也是针对目标IP地址的负载均衡，但它是一种静态映射算法，通过一个散列（Hash）函数将一个目标IP地址映射到一台服务器。
  12.  
  13. #目标地址散列调度算法先根据请求的目标IP地址，作为散列键（Hash Key）从静态分配的散列表找出对应的服务器，若该服务器是可用的且未超载，将请求发送到该服务器，否则返回空。
  14.  
  15. SH  #源地址hash
  16.  
  17. #算法正好与目标地址散列调度算法相反，它根据请求的源IP地址，作为散列键（Hash Key）从静态分配的散列表找出对应的服务器，若该服务器是 可用的且未超载，将请求发送到该服务器，否则返回空。
  18.  
  19. #它采用的散列函数与目标地址散列调度算法的相同。除了将请求的目标IP地址换成请求的源IP地址外，它的算法流程与目标地址散列调度算法的基本相似。在实际应用中，源地址散列调度和目标地址散列调度可以结合使用在防火墙集群中，它们可以保证整个系统的唯一出入口。

2.Dynamic Scheduling Method 动态调服方法

  1. LC  #最少连接
  2.  
  3. #调度器通过"最少连接"调度算法动态地将网络请求调度到已建立的链接数最少的服务器上。 如果集群系统的真实服务器具有相近的系统性能，采用"最小连接"调度算法可以较好地均衡负载。
  4.  
  5. WLC #加权最少连接
  6.  
  7. #在集群系统中的服务器性能差异较大的情况下，调度器采用"加权最少链接"调度算法优化负载均衡性能，具有较高权值的服务器将承受较大比例的活动连接负载。调度器可以自动问询真实服务器的负载情况，并动态地调整其权值。
  8.  
  9. SED #最少期望延迟
  10.  
  11. #基于wlc算法，举例说明：ABC三台机器分别权重123，连接数也分别是123，name如果使用WLC算法的话一个新请求 进入时他可能会分给ABC中任意一个，使用SED算法后会进行这样一个运算
  12.  
  13. #A:(1+1)/2    
  14.  
  15. #B:(1+2)/2    
  16.  
  17. #C:(1+3)/3
  18.  
  19. #根据运算结果，把连接交给C
  20.  
  21. NQ  #从不排队调度方法
  22.  
  23. #无需列队，如果有台realserver的连接数=0 就直接分配过去，不需要进行sed运算.
  24.  
  25. LBLC   #基于本地的最少连接
  26.  
  27. # "基于局部性的最少链接" 调度算法是针对目标IP地址的负载均衡，目前主要用于Cache集群系统。
  28.  
  29. #该算法根据请求的目标IP地址找出该 目标IP地址最近使用的服务器，若该服务器 是可用的且没有超载，将请求发送到该服务器；
  30.  
  31. #若服务器不存在，或者该服务器超载且有服务器处于一半的工作负载，则用"最少链接"的原则选出一个可用的服务器，将请求发送到该服务器。
  32.  
  33. LBLCR   #带复制的基于本地的最少连接
  34.  
  35. #"带复制的基于局部性最少链接"调度算法也是针对目标IP地址的负载均衡，目前主要用于Cache集群系统。
  36.  
  37. #它与LBLC算法的不同 之处是它要维护从一个 目标IP地址到一组服务器的映射，而LBLC算法维护从一个目标IP地址到一台服务器的映射。
  38.  
  39. #该算法根据请求的目标IP地址找出该目标IP地址对应的服务器组，按"最小连接"原则从服务器组中选出一台服务器，
  40.  
  41. #若服务器没有超载，将请求发送到该服务器；若服务器超载，则按"最小连接"原则从这个集群中选出一 台服务器 ，将该服务器加入到服务器组中，将请求发送到该服务器。同时，当该服务器组有一段时间没有被修改， 将最忙的服务器从服务器组中删除，以降低复制的程度。

 

三、NAT地址转换模式 Virtual Server via Network Address Translation（VS/NAT）

  1. #启动Linux的路由转发功能
  2.  
  3. cat /proc/sys/net/ipv4/ip_forward #0
  4.  
  5. echo 1 > /proc/sys/net/ipv4/ip_forward #sysctl -w net.ipv4.ip_forward=1 #临时的
  6.  
  7. cat /proc/sys/net/ipv4/ip_forward #1
  8.  
  9. #永久 /etc/sysctl.conf文件 net.ipv4.ip_forward=0改为net.ipv4.ip_forward=1
  1. # Director Server 192.168.174.129 网络配置：桥接
  2.  
  3. sudo ifconfig ens33 192.168.5.201 桥接如果不能自动生成ip可自行设置 与主机ip同网段
  4.  
  5. #ens33桥接网卡 ens38仅主机模式/NAT
  6.  
  7. sudo ifconfig ens38:1 192.168.5.200 //或者ens33:1

  1. #添加规则
  2.  
  3. sudo ipvsadm -A -t 192.168.5.200:80 -s rr -p 300 #定义一个集群服务
  4.  
  5. sudo ipvsadm -a -t 192.168.5.200:80 -r 192.168.120.128 -m #添加RealServer并指派调度算法为NAT
  6.  
  7. sudo ipvsadm -a -t 192.168.5.200:80 -r 192.168.120.129 -m #添加RealServer并指派调度算法为NAT

 

 

#Real Server配置路由 网络配置: 仅主机模式/NAT

#ens33仅主机模式

 

  1. sudo route add -net 0.0.0.0 gw 192.168.120.130 
  2. #测试时容易断 route add default gw 192.168.120.130

 

四、DR直接路由模式 Virtual Server via Direct Routing（VS/DR）

DR模式共用VIP，为保证客户端请求VIP能得到MAC地址，需要配置ARP抑制

  1. #Real Server1
  2.  
  3. echo 1 > /proc/sys/net/ipv4/conf/lo/arp_ignore
  4.  
  5. echo 2 > /proc/sys/net/ipv4/conf/lo/arp_announce
  6.  
  7. #Real Server2
  8.  
  9. echo 1 > /proc/sys/net/ipv4/conf/all/arp_ignore
  10.  
  11. echo 2 > /proc/sys/net/ipv4/conf/all/arp_announce
  12.  
  13. #以上命令需填加到/etc/rc.local文件中让其开机自动生效

 

虚拟ip 1)

  1. # /etc/network/interfaces  或centos  /etc/sysconfig/network-scripts/ifcfg-lo:0
  2.  
  3.  
  4. #real server
  5.  
  6. auto lo:0
  7.  
  8. iface lo:0 inet static
  9.  
  10. address 192.168.174.200
  11.  
  12. netmask 255.255.255.255
  13.  
  14. broadcast 192.168.174.200
  15.  
  16.  
  17. ifup lo:0 #只有interfaces文件形式的才能这样  ifconfig配置的sudo ifconfig lo:0 down
  18.  
  19. route add -host 192.168.174.200 dev lo:0
  20.  
  21. sudo sh -c 'echo "route add -host 192.168.174.200 dev lo:0" >> /etc/rc.local'
  22.  
  23.  
  24.  
  25. #director
  26.  
  27. auto ens33:1
  28.  
  29. iface ens33:1 inet static
  30.  
  31. address 192.168.174.200
  32.  
  33. netmask 255.255.255.0
  34.  
  35. broadcast 192.168.174.200
  36.  
  37.  
  38. ifdown ens33:1
  39.  
  40. ifup ens33:1
  41.  
  42. route add -host 192.168.174.200 dev ens33:1
  43.  
  44. sudo sh -c 'echo "route add -host 192.168.174.200 dev ens33:1" >> /etc/rc.local'
  45.  
  46. # >表示覆盖原文件内容 >>表示追加内容
  47.  
  48.  
  49. #添加规则
  50.  
  51. #sudo ipvsadm -A -t 192.168.174.200:80 -s wlc && sudo ipvsadm -a -t 192.168.174.200:80 -r 192.168.174.130 -g -w 2  && sudo ipvsadm -a -t 192.168.174.200:80 -r 192.168.174.132 -g -w 2 && sudo ipvsadm -L -n

虚拟的ip 2)

  1. #director建立虚拟ip进行消息广播  sudo ifconfig ens33:1 down
  2.  
  3. sudo ifconfig ens33:1 192.168.174.200 netmask 255.255.255.0 broadcast 192.168.174.200
  4.  
  5. #虚拟地址添加到路由表
  6.  
  7. sudo route add -host 192.168.174.200 dev ens33:1
  8.  
  9. #添加规则
  10.  
  11. sudo ipvsadm -A -t 192.168.174.200:80 -s wlc && sudo ipvsadm -a -t 192.168.174.200:80 -r 192.168.174.130 -g -w 2 && sudo ipvsadm -L -n
  12.  
  13.  
  14.  
  15. #real server 环回口配置
  16.  
  17. sudo ifconfig lo:0 192.168.174.200 netmask 255.255.255.255 broadcast 192.168.174.200 up
  18.  
  19. sudo route add -host 192.168.174.200 dev lo:0
  20.  
  21.  
  22.  
  23. sudo ipvsadm -A -t 192.168.174.200:80 -s wlc
  24.  
  25. sudo ipvsadm -a -t 192.168.174.200:80 -r 192.168.174.130 -g -w 2
  26.  
  27. sudo ipvsadm -a -t 192.168.174.200:80 -r 192.168.174.132 -g -w 2
  28.  
  29. sudo ipvsadm -L -n

 

 

  1. #保存规则
  2.  
  3. ipvsadm -S sudo > sudo /etc/sysconfig/ipvsadm.sl #权限不足
  4.  
  5. #sudo sh -c "ipvsadm -S > /etc/sysconfig/ipvsadm.sl" #将一个字串作为完整的命令来执行
  6.  
  7. #sudo ipvsadm -S |sudo tee /etc/sysconfig/ipvsadm.sl #管道和tee  -a追加

 

#恢复规则

ip a #查看

netstat -nr #路由表

ipvsadm -ln --stats #分发情况

 

ipvsadm -ln --rate #查看速率

 

五、keeplived+lvs配置示例

  1. ! Configuration File for keepalived
  2. #名称和{之间有一个空格
  3. global_defs {
  4. 	   notification_email {
  5. 		 3232@123.com
  6. 	   }
  7. 	   notification_email_from 3123@312.com
  8. 	   smtp_server 127.0.0.1
  9. 	   smtp_connect_timeout 30
  10. 	   router_id 1
  11. }
  12.  
  13. #VRRP脚本 放vrrp_instance GROUP_1前面
  14. vrrp_script chk_haproxy {
  15.     script "/opt/chk_haproxy.sh" #执行权限 关闭SElinux,不然vrrp script 脚本是不可以执行的
  16.     interval 3
  17.     weight 1
  18. }
  19.  
  20. vrrp_instance GROUP_1 {
  21.     state MASTER
  22.     interface ens38
  23.     virtual_router_id 100
  24.     priority 100
  25.     advert_int 1
  26.     authentication {
  27.         auth_type PASS
  28.         auth_pass 11111111
  29. 	}
  30. 	track_script {
  31. 		chk_haproxy
  32. 	}
  33. 	virtual_ipaddress {
  34.         192.168.5.200
  35. 	}
  36. }
  37.  
  38. # lvs配置 
  39. #关闭后lvs规则也清除
  40. #virtual_ip 自动设置
  41. virtual_server 192.168.5.200 80 {     # 指定虚拟IP地址和服务端口
  42.  
  43.     delay_loop 1             # 服务健康检查周期，1秒
  44.     lb_algo wrr               # 负载均衡调度算法，一般用wrr、rr、wlc
  45.     lb_kind NAT              # 负载均衡转发规则。一般包括DR,NAT,TUN 3种
  46.     #persistence_timeout 5    # 会话保持时间。把用户请求请求间隔在未超过保持时间时，一直分发到某个服务节点
  47.     protocol TCP             # 转发协议 有TCP和UDP两种
  48.     
  49.     # 配置真实服务器
  50.     real_server 192.168.174.130 80 {    #指定IP和端口
  51.     
  52.         weight 1       # 权重，数值越大，权重越高 
  53.         
  54.         # 健康检查方式 常见有 TCP_CHECK, HTTP_GET, SSL_GET, MISC_CHECK(自定义脚本)
  55.         TCP_CHECK {               # 通过TcpCheck方式判断RealServer的健康状态
  56.             connect_timeout 10    # 连接超时时间
  57.             nb_get_retry 3        # 重连次数
  58.             delay_before_retry 3  # 重连时间间隔
  59.             connect_port 80     # 检测端口
  60.         }
  61.         
  62.     }
  63.  
  64.     real_server 192.168.174.130 81 {    
  65.         weight 2
  66.         TCP_CHECK {
  67.             connect_timeout 10
  68.             nb_get_retry 3
  69.             delay_before_retry 3
  70.             connect_port 81
  71.         }
  72.         
  73.     }
  74. 	
  75.     real_server 192.168.174.130 82 {    
  76.         weight 3
  77.         TCP_CHECK {
  78.             connect_timeout 10
  79.             nb_get_retry 3
  80.             delay_before_retry 3
  81.             connect_port 82
  82.         }
  83.         
  84.     }
  85. 	
  86.     real_server 192.168.174.132 80 {    
  87.         weight 1
  88.         TCP_CHECK {
  89.             connect_timeout 10
  90.             nb_get_retry 3
  91.             delay_before_retry 3
  92.             connect_port 80
  93.         }
  94.         
  95.     }
  96. 	
  97.     real_server 192.168.174.132 81 {    
  98.         weight 2
  99.         TCP_CHECK {
  100.             connect_timeout 10
  101.             nb_get_retry 3
  102.             delay_before_retry 3
  103.             connect_port 81
  104.         }
  105.         
  106.     }
  107. 	
  108.     real_server 192.168.174.132 82 {    
  109.         weight 3
  110.         TCP_CHECK {
  111.             connect_timeout 10
  112.             nb_get_retry 3
  113.             delay_before_retry 3
  114.             connect_port 82
  115.         } 
  116.     }
  117. }
  118.

 

配置文档 http://kb.linuxvirtualserver.org/wiki/Ipvsadm

参考文档 https://www.cnblogs.com/MacoLee/p/5856858.html

 

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/知新_RL/article/detail/820510
推荐阅读
相关标签

Copyright © 2003-2013 www.wpsshop.cn 版权所有，并保留所有权利。

  

闽ICP备14008679号