赞
踩
在kubernetes中,pod是应用程序的载体,我们可以通过pod的ip来访问应用程序,但是pod的ip地址不是固定的,这也就意味着不方便直接采用pod的ip对服务进行访问。
为了解决这个问题,kubernetes提供了Service资源,Service会对提供同一个服务的多个pod进行聚合,并且提供一个统一的入口地址。通过访问Service的入口地址就能访问到后面的pod服务。
Service在很多情况下只是一个概念,真正起作用的其实是kube-proxy服务进程,每个Node节点上都运行着一个kube-proxy服务进程。当创建Service的时候会通过api-server向etcd写入创建的service的信息,而kube-proxy会基于监听的机制发现这种Service的变动,然后**它会将最新的Service信息转换成对应的访问规则**。
- # 10.97.97.97:80 是service提供的访问入口
- # 当访问这个入口的时候,可以发现后面有三个pod的服务在等待调用,
- # kube-proxy会基于rr(轮询)的策略,将请求分发到其中一个pod上去
- # 这个规则会同时在集群内的所有节点上都生成,所以在任何一个节点上访问都可以。
- [root@node1 ~]# ipvsadm -Ln
- IP Virtual Server version 1.2.1 (size=4096)
- Prot LocalAddress:Port Scheduler Flags
- -> RemoteAddress:Port Forward Weight ActiveConn InActConn
- TCP 10.97.97.97:80 rr
- -> 10.244.1.39:80 Masq 1 0 0
- -> 10.244.1.40:80 Masq 1 0 0
- -> 10.244.2.33:80 Masq 1 0 0
● userspace 模式
userspace模式下,kube-proxy会为每一个Service创建一个监听端口,发向Cluster IP的请求被Iptables规则重定向到kube-proxy监听的端口上,kube-proxy根据LB算法选择一个提供服务的Pod并和其建立链接,以将请求转发到Pod上。 该模式下,kube-proxy充当了一个四层负责均衡器的角色。由于kube-proxy运行在userspace中,在进行转发处理时会增加内核和用户空间之间的数据拷贝,虽然比较稳定,但是效率比较低。
● iptables 模式
iptables模式下,kube-proxy为service后端的每个Pod创建对应的iptables规则,直接将发向Cluster IP的请求重定向到一个Pod IP。 该模式下kube-proxy不承担四层负责均衡器的角色,只负责创建iptables规则。该模式的优点是较userspace模式效率更高,但不能提供灵活的LB策略,当后端Pod不可用时也无法进行重试。
● ipvs模式
ipvs模式和iptables类似,kube-proxy监控Pod的变化并创建相应的ipvs规则。ipvs相对iptables转发效率更高。除此以外,ipvs支持更多的LB算法。
- # 此模式必须安装ipvs内核模块, 否则会降级为iptables
- # 开启ipvs 将mode设置为 "ipvs" 并且删除kube-proxypod 使他重新创建
- kubectl edit cm kube-proxy -n kube-system
- configmap/kube-proxy edited
- [root@master ~]# kubectl delete pod -l k8s-app=kube-proxy -n kube-system
- pod "kube-proxy-gtfkb" deleted
- pod "kube-proxy-nzrf5" deleted
- pod "kube-proxy-trd4z" deleted
-
- [root@master ~]# ipvsadm -Ln
- IP Virtual Server version 1.2.1 (size=4096)
- Prot LocalAddress:Port Scheduler Flags
- -> RemoteAddress:Port Forward Weight ActiveConn InActConn
- TCP 172.17.0.1:32233 rr
- TCP 192.168.88.100:32233 rr
- TCP 10.96.0.1:443 rr
- -> 192.168.88.100:6443 Masq 1 0 0
- TCP 10.96.0.10:53 rr
- -> 10.244.0.7:53 Masq 1 0 0
- -> 10.244.0.9:53 Masq 1 0 0
- TCP 10.96.0.10:9153 rr
- -> 10.244.0.7:9153 Masq 1 0 0
- -> 10.244.0.9:9153 Masq 1 0 0
- TCP 10.99.93.79:443 rr
- -> 192.168.88.102:443 Masq 1 0 0
- TCP 10.101.231.4:443 rr
- -> 10.244.36.113:9876 Masq 1 1 0
- -> 10.244.169.141:9876 Masq 1 0 0
- TCP 10.111.65.221:80 rr
- TCP 10.244.0.0:32233 rr
- TCP 10.244.0.1:32233 rr
- TCP 10.244.219.64:32233 rr
- UDP 10.96.0.10:53 rr
- -> 10.244.0.7:53 Masq 1 0 0
- -> 10.244.0.9:53 Masq 1 0 0
基于rr(轮循)将请求转发到相应的地址上去
service的资源清单文件
- kind: Service # 资源类型
- apiVersion: v1 # 资源版本
- metadata: # 元数据
- name: service # 资源名称
- namespace: dev # 命名空间
- spec: # 描述
- selector: # 标签选择器,用于确定当前service代理哪些pod
- app: nginx
- type: # Service类型,指定service的访问方式
- clusterIP: # 虚拟服务的ip地址
- sessionAffinity: # session亲和性,支持ClientIP、None两个选项
- ports: # 端口信息
- - protocol: TCP
- port: 3017 # service端口
- targetPort: 5003 # pod端口
- nodePort: 31122 # 主机端口
session亲和性:倾向于将请求转发到某一个pod上去
● ClusterIP:默认值,它是Kubernetes系统自动分配的虚拟IP,只能在集群内部访问
● NodePort:将Service通过指定的Node上的端口暴露给外部,通过此方法,就可以在集群外部访问服务
● LoadBalancer:使用外接负载均衡器完成到服务的负载分发,注意此模式需要外部云环境支持
● ExternalName: 把集群外部的服务引入集群内部,直接使用
在使用Service之前,首先用Deployment创建出3个pod,注意要为pod设置app=nginx-pod的标签,创建deployment.yaml
- apiVersion: apps/v1
- kind: Deployment
- metadata:
- name: pc-deployment
- namespace: dev
- spec:
- replicas: 3
- selector:
- matchLabels:
- app: nginx-pod
- template:
- metadata:
- labels:
- app: nginx-pod
- spec:
- containers:
- - name: nginx
- image: nginx:1.17.1
- ports:
- - containerPort: 80
-
- # 创建deployment,查看pod
- [root@master ~]# kubectl get pod -n dev -o wide
- NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES
- pc-deployment-6756f95949-6qnrx 1/1 Running 0 36m 10.244.2.6 k8s-node2 <none> <none>
- pc-deployment-6756f95949-966zf 1/1 Running 0 36m 10.244.2.5 k8s-node2 <none> <none>
- pc-deployment-6756f95949-jwhqd 1/1 Running 0 21m 10.244.2.3 k8s-node2 <none> <none>
为了方便后面的测试,修改三台nginx的index.html页面
- # 分别修改nginx的主页内容为ip地址
- [root@master ~]# kubectl exec -it pc-deployment-6756f95949-6qnrx -n dev /bin/sh
- kubectl exec [POD] [COMMAND] is DEPRECATED and will be removed in a future version. Use kubectl exec [POD] -- [COMMAND] instead.
- # echo "10.244.2.6" > /usr/share/nginx/html/index.html
- [root@master ~]# curl 10.244.2.6
- 10.244.2.6
- [root@master ~]# kubectl exec -it pc-deployment-6756f95949-966zf -n dev /bin/sh
- kubectl exec [POD] [COMMAND] is DEPRECATED and will be removed in a future version. Use kubectl exec [POD] -- [COMMAND] instead.
- # echo "10.244.2.5" > /usr/share/nginx/html/index.html
- [root@master ~]# curl 10.244.2.5
- 10.244.2.5
- [root@master ~]# kubectl exec -it pc-deployment-6756f95949-jwhqd -n dev /bin/sh
- kubectl exec [POD] [COMMAND] is DEPRECATED and will be removed in a future version. Use kubectl exec [POD] -- [COMMAND] instead.
- # echo "10.244.2.3" > /usr/share/nginx/html/index.html
- [root@master ~]# curl 10.244.2.3
- 10.244.2.3
-
创建service-cluster.yaml文件
- apiVersion: v1
- kind: Service
- metadata:
- name: service-clusterip
- namespace: dev
- spec:
- selector:
- app: nginx-pod
- clusterIP: 10.99.99.99 # service的ip地址,如果不写,默认会生成一个
- type: ClusterIP
- ports:
- - port: 80 # Service端口
- targetPort: 80 # pod端口
-
- # 创建service并查看
- [root@master ~]# kubectl create -f service-cluster.yaml
- service/service-clusterip created
- [root@master ~]# kubectl get svc -n dev -o wide
- NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE SELECTOR
- service-clusterip ClusterIP 10.99.99.99 <none> 80/TCP 5m15s app=nginx-pod
-
- # 查看ipvs映射规则
- [root@master ~]# ipvsadm -Ln
- IP Virtual Server version 1.2.1 (size=4096)
- Prot LocalAddress:Port Scheduler Flags
- -> RemoteAddress:Port Forward Weight ActiveConn InActConn
- TCP 10.99.99.99:80 rr
- -> 10.244.2.3:80 Masq 1 0 0
- -> 10.244.2.5:80 Masq 1 0 0
- -> 10.244.2.6:80 Masq 1 0 0
放我们的一个请求发送到10.99.99.99这个地址的时候,会以rr(轮循)的策略转发到下面的三个地址上去,我们可以向这个地址发送请求看看返回的是什么结果:
- [root@master ~]# curl 10.99.99.99
- 10.244.2.6
- # 循环访问测试
- [root@master ~]# while true; do curl 10.99.99.99;sleep 5;done;
- 10.244.2.5
- 10.244.2.3
- 10.244.2.6
- 10.244.2.5
- 10.244.2.3
- 10.244.2.6
- 10.244.2.5
Endpoint是kubernetes中的一个资源对象,存储在etcd中,用来记录一个service对应的所有pod的访问地址,它是根据service配置文件中selector描述产生的。
一个Service由一组Pod组成,这些Pod通过Endpoints暴露出来,Endpoints是实现实际服务的端点集合。换句话说,service和pod之间的联系是通过endpoints实现的。
对Service的访问被分发到了后端的Pod上去,目前kubernetes提供了两种负载分发策略:
● 如果不定义,默认使用kube-proxy的策略,比如随机、轮询
● 基于客户端地址的会话保持模式,即来自同一个客户端发起的所有请求都会转发到固定的一个Pod上: 此模式可以使在spec中添加`sessionAffinity: ClientIP`选项
- # 为service添加亲和性选项
- apiVersion: v1
- kind: Service
- metadata:
- name: service-clusterip
- namespace: dev
- spec:
- sessionAffinity: ClientIP
- selector:
- app: nginx-pod
- clusterIP: 10.99.99.99 # service的ip地址,如果不写,默认会生成一个
- type: ClusterIP
- ports:
- - port: 80 # Service端口
- targetPort: 80 # pod端口
-
- # 创建service并查看一下
- [root@master ~]# kubectl create -f service-cluster.yaml
- service/service-clusterip created
- [root@master ~]# vi service-cluster.yaml
- [root@master ~]# kubectl describe svc service-cluster -n dev
- Name: service-clusterip
- Namespace: dev
- Labels: <none>
- Annotations: <none>
- Selector: app=nginx-pod
- Type: ClusterIP
- IP Family Policy: SingleStack
- IP Families: IPv4
- IP: 10.99.99.99
- IPs: 10.99.99.99
- Port: <unset> 80/TCP
- TargetPort: 80/TCP
- Endpoints: 10.244.2.3:80,10.244.2.5:80,10.244.2.6:80
- Session Affinity: ClientIP
- Events: <none>
现在已经被改为了持久化访问了:(persistent代表持久化访问后面加上时间)
- [root@master ~]# ipvsadm -Ln
- IP Virtual Server version 1.2.1 (size=4096)
- Prot LocalAddress:Port Scheduler Flags
- -> RemoteAddress:Port Forward Weight ActiveConn InActConn
- TCP 10.99.99.99:80 rr persistent 10800
- -> 10.244.2.3:80 Masq 1 0 0
- -> 10.244.2.5:80 Masq 1 0 0
- -> 10.244.2.6:80 Masq 1 0 0
现在我们再来进行一次循环访问测试
- [root@master ~]# while true; do curl 10.99.99.99;sleep 5;done;
- 10.244.2.6
- 10.244.2.6
- 10.244.2.6
- 10.244.2.6
最后看一下service的删除
- [root@master ~]# kubectl delete -f service-cluster.yaml
- service "service-clusterip" deleted
在某些场景中,开发人员可能不想使用Service提供的负载均衡功能,而希望自己来控制负载均衡策略,针对这种情况,kubernetes提供了HeadLiness Service,这类Service不会分配Cluster IP,如果想要访问service,只能通过service的域名进行查询。
创建service-headliness类型的service
- apiVersion: v1
- kind: Service
- metadata:
- name: service-headliness
- namespace: dev
- spec:
- selector:
- app: nginx-pod
- clusterIP: None # 将clusterIP设置为None,即可创建headliness Service
- type: ClusterIP
- ports:
- - port: 80
- targetPort: 80
-
-
- # 创建service并进行查看
- [root@master ~]# vi service-headliness.yaml
- [root@master ~]# kubectl create -f service-headliness.yaml
- service/service-headliness created
- [root@master ~]# kubectl get svc -n dev -o wide
- NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE SELECTOR
- service-headliness ClusterIP None <none> 80/TCP 27s app=nginx-pod
发现没有IP地址 但是依然和pod关联,用describe命令可以看到关联的pod信息
- [root@master ~]# kubectl describe svc service-headliness -n dev
- Name: service-headliness
- Namespace: dev
- Labels: <none>
- Annotations: <none>
- Selector: app=nginx-pod
- Type: ClusterIP
- IP Family Policy: SingleStack
- IP Families: IPv4
- IP: None
- IPs: None
- Port: <unset> 80/TCP
- TargetPort: 80/TCP
- Endpoints: 10.244.2.3:80,10.244.2.5:80,10.244.2.6:80 #所关联的pod的ip
- Session Affinity: None
- Events: <none>
查看域名解析情况
- [root@master ~]# kubectl exec -it pc-deployment-6756f95949-6qnrx -n dev /bin/sh
- kubectl exec [POD] [COMMAND] is DEPRECATED and will be removed in a future version. Use kubectl exec [POD] -- [COMMAND] instead.
- # cat /etc/resolv.conf
- nameserver 10.96.0.10
- search dev.svc.cluster.local svc.cluster.local cluster.local localdomain
- options ndots:5
-
-
- [root@master ~]# dig @10.96.0.10 service-headliness.dev.svc.cluster.local
- service-headliness.dev.svc.cluster.local. 30 IN A 10.244.2.6
- service-headliness.dev.svc.cluster.local. 30 IN A 10.244.2.5
- service-headliness.dev.svc.cluster.local. 30 IN A 10.244.2.3
在之前的样例中,创建的Service的ip地址只有集群内部才可以访问,如果希望将Service暴露给集群外部使用,那么就要使用到另外一种类型的Service,称为NodePort类型。NodePort的工作原理其实就是将service的端口映射到Node的一个端口上,然后就可以通过`NodeIp:NodePort`来访问service了。
创建service-nodeport.yaml
- apiVersion: v1
- kind: Service
- metadata:
- name: service-nodeport
- namespace: dev
- spec:
- selector:
- app: nginx-pod
- type: NodePort # service类型
- ports:
- - port: 80
- nodePort: 30002 # 指定绑定的node的端口(默认的取值范围是:30000-32767), 如果不指定,会默认分配
- targetPort: 80
-
-
- [root@master ~]# kubectl create -f service-nodeport.yaml
- service/service-nodeport created
- [root@master ~]# kubectl get svc -n dev -o wide
- NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE SELECTOR
- service-nodeport NodePort 10.108.75.190 <none> 80:30002/TCP 26s app=nginx-pod
cluster ip用于集群内部访问,外部访问使用机器Ip加上端口:
LoadBalancer和NodePort很相似,目的都是向外部暴露一个端口,区别在于LoadBalancer会在集群的外部再来做一个负载均衡设备,而这个设备需要外部环境支持的,外部服务发送到这个设备上的请求,会被设备负载之后转发到集群中。
ExternalName类型的Service用于引入集群外部的服务,它通过`externalName`属性指定外部一个服务的地址,然后在集群内部访问此service就可以访问到外部的服务了。
创建service-externalname.yaml的yaml文件
- apiVersion: v1
- kind: Service
- metadata:
- name: service-externalname
- namespace: dev
- spec:
- type: ExternalName # service类型
- externalName: hud9866 #改成ip地址也可以
-
-
- [root@k8s-master01 ~]# dig @10.96.0.10 service-externalname.dev.svc.cluster.local
- service-externalname.dev.svc.cluster.local. 30 IN CNAME www.baidu.com.
- hud9866 30 IN CNAME www.a.shifen.com.
- www.a.shifen.com. 30 IN A 39.156.66.18
- www.a.shifen.com. 30 IN A 39.156.66.14
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。