虽然每个Pod都会分配一个单独的Pod IP,然而却存在如下两个问题:
- Pod IP 会随着Pod的重建产生变化
- Pod IP 仅仅时集群内可见的虚拟IP,外部无法访问
这样对访问这个服务带来了难度。因此Kubernetes设计了Service来解决这个问题
Service可以看作是一组同类Pod对外访问接口,借助Service应用可以方便地实现服务的发现和负载均衡
创建集群内部可访问的Service
#暴露Serviec kubectl expose deployment nginx --name=svc-nginx1 --type=ClusterIP --port=80 --target-port=80 -n dev #查看service kubectl get service -n dev -o wide # 这里会产生一个CLUSYER-IP,就是service的IP,在Service的生命周期中,这个地址是不回变动的 # 可以通这个IP访问service中对应的POD curl serviceIP ClusterIP只允许集群内部访问
创建外部也可以访问的Service
#将type改为Nodeport即可 kubectl expose deploy nginx --type=NodePort --name=svc-nginx2 --port=80 --target-port=80 -n dev # 查看service kubectl get svc -n dev NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE svc-nginx1 ClusterIP 10.100.240.232 <none> 80/TCP 12m svc-nginx2 NodePort 10.109.61.23 <none> 80:31962/TCP 20s 浏览器上访问 http://nodeIP:31962 #删除service kubectl delete service svc-nginx1 -n dev
配置文件方式
vim svc-nginx.yml apiVersion: v1 kind: Service metadata: name: svc-nginx namespace: dev spec: clusterIP: 10.99.160.47 #可写可不写 ports: - port: 80 protocol: TCP targetPort: 80 selector: run: nginx type: NodePort # 创建 kubectl create -f svc-nginx.yml # 删除 kubectl delete -f svc-nginx.yml
在kubernetes中,Pod是应用程序的载体,我们可以通过Pod的IP来访问应用程序,但是Pod的IP地址不是固定的,这就意味着不方便直接采用Pod的IP对服务进行访问。
为了解决这个问题,kubernetes提供了Service资源,Service会对提供同一个服务的多个Pod进行聚合,并且提供一个统一的入口地址,通过访问Service的入口地址就能访问到后面的Pod服务
Service在很多情况下只是一个概念,真正起作用的其实是kube-proxy服务进程,每个Node节点上都运行了一个kube-proxy的服务进程。当创建Service的时候会通过API Server向etcd写入创建的Service的信息,而kube-proxy会基于监听的机制发现这种Service的变化,然后它会将最新的Service信息转换为对应的访问规则。
# 10.97.97.97:80 是service提供的访问入口 # 当访问这个入口的时候,可以发现后面有三个pod的服务在等待调用, # kube-proxy会基于rr(轮询)的策略,将请求分发到其中一个pod上去 # 这个规则会同时在集群内的所有节点上都生成,所以在任何一个节点上访问都可以。 [root@k8s-node1 ~]# ipvsadm -Ln IP Virtual Server version 1.2.1 (size=4096) Prot LocalAddress:Port Scheduler Flags -> RemoteAddress:Port Forward Weight ActiveConn InActConn TCP 10.97.97.97:80 rr -> 10.244.1.39:80 Masq 1 0 0 -> 10.244.1.40:80 Masq 1 0 0 -> 10.244.2.33:80 Masq 1 0 0
kube-proxy目前支持三种工作模式:
userspace模式:
userspace模式下,kube-proxy会为每一个Service创建一个监听端口,发向Cluster IP的请求被iptables规则重定向到kube-proxy监听的端口上,kube-proxy根据LB算法(负载均衡算法)选择一个提供服务的Pod并和其建立连接,以便将请求转发到Pod上。
该模式下,kube-proxy充当了一个四层负载均衡器的角色。由于kube-proxy运行在userspace中,在进行转发处理的时候会增加内核和用户空间之间的数据拷贝,虽然比较稳定,但是效率非常低下。
iptables模式:
iptables模式下,kube-proxy为Service后端的每个Pod创建对应的iptables规则,直接将发向Cluster IP的请求重定向到一个Pod的IP上。
该模式下kube-proxy不承担四层负载均衡器的角色,只负责创建iptables规则。该模式的优点在于较userspace模式效率更高,但是不能提供灵活的LB策略,当后端Pod不可用的时候无法进行重试
ipvs模式:
ipvs模式和iptables类似,kube-porxy监控pod的变化并创建相应的ipvs规则。ipvs相对于iptable转发效率更高。除此之外,ipvs支持更多的LB算法
# 此模式必须安装ipvs内核模块,否则会降级为iptables # 开启ipvs,搜索mode改为ipvs [root@master ~]# kubectl edit cm kube-proxy -n kube-system [root@master ~]# kubectl delete pod -l k8s-app=kube-proxy -n kube-system [root@master ~]# ipvsadm -Ln IP Virtual Server version 1.2.1 (size=4096) Prot LocalAddress:Port Scheduler Flags -> RemoteAddress:Port Forward Weight ActiveConn InActConn TCP 172.17.0.1:30317 rr TCP 192.168.248.10:30317 rr TCP 10.96.0.1:443 rr -> 192.168.248.10:6443 Masq 1 0 0 TCP 10.96.0.10:53 rr -> 10.244.0.6:53 Masq 1 0 0 -> 10.244.0.7:53 Masq 1 0 0 TCP 10.96.0.10:9153 rr -> 10.244.0.6:9153 Masq 1 0 0 -> 10.244.0.7:9153 Masq 1 0 0 TCP 10.105.180.5:80 rr TCP 10.109.167.17:443 rr -> 192.168.248.12:443 Masq 1 0 0 TCP 10.111.120.209:80 rr TCP 10.244.0.0:30317 rr TCP 10.244.0.1:30317 rr TCP 127.0.0.1:30317 rr TCP 127.0.0.1:31628 rr TCP 172.17.0.1:31628 rr TCP 192.168.248.10:31628 rr TCP 10.244.0.0:31628 rr TCP 10.244.0.1:31628 rr UDP 10.96.0.10:53 rr -> 10.244.0.6:53 Masq 1 0 0 -> 10.244.0.7:53 Masq 1 0 0
Service类型
Service的资源清单文件:
apiVersion: v1 # 版本 kind: Service # 类型 metadata: # 元数据 name: # 资源名称 namespace: # 命名空间 spec: selector: # 标签选择器,用于确定当前Service代理那些Pod app: nginx type: NodePort # Service的类型,指定Service的访问方式 clusterIP: # 虚拟服务的IP地址 sessionAffinity: # session亲和性,支持ClientIP、None两个选项,默认值为None ports: # 端口信息 - port: 8080 # Service端口 protocol: TCP # 协议 targetPort : # Pod端口 nodePort: # 主机端口 spec.type的说明: ● ClusterIP:默认值,它是kubernetes系统自动分配的虚拟IP,只能在集群内部访问。 ● NodePort:将Service通过指定的Node上的端口暴露给外部,通过此方法,就可以在集群外部访问服务。 ● LoadBalancer:使用外接负载均衡器完成到服务的负载分发,注意此模式需要外部云环境的支持。 ● ExternalName:把集群外部的服务引入集群内部,直接使用
Service使用
在使用Service之前,首先利用Deployment创建出3个Pod,注意要为Pod设置app=nginx-pod的标签。
创建deployment.yml文件,内容如下:
apiVersion: apps/v1 kind: Deployment metadata: name: pc-deployment namespace: dev spec: replicas: 3 selector: matchLabels: app: nginx-pod template: metadata: labels: app: nginx-pod spec: containers: - name: nginx image: nginx:1.17.1 ports: - containerPort: 80 #创建Deployment [root@master ~]# kubectl create -f deployment.yml deployment.apps/pc-deployment created #查看创建pod的情况 [root@master ~]# kubectl get pod -n dev -o wide NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES pc-deployment-c848d767-nf6x2 1/1 Running 0 86s 10.244.1.130 node1 <none> <none> pc-deployment-c848d767-r54gk 1/1 Running 0 86s 10.244.1.131 node1 <none> <none> pc-deployment-c848d767-vpmr8 1/1 Running 0 86s 10.244.2.119 node2 <none> <none> #访问nginx服务 root@master ~]# curl 10.244.2.119:80 <!DOCTYPE html> <html> <head> <title>Welcome to nginx!</title> <style> body { 35em; margin: 0 auto; font-family: Tahoma, Verdana, Arial, sans-serif; } </style> .................... .................... #为了方便后面的测试,修改三台Nginx的index.html(三台修改的ip地址不一样) # kubectl exec -it pc-deployment-c848d767-nf6x2 -n dev /bin/sh # echo "10.244.1.130" > /usr/share/nginx/html/index.html #访问测试 [root@master ~]# curl 10.244.1.131:80 10.244.1.131 [root@master ~]# curl 10.244.1.130:80 10.244.1.130 [root@master ~]# curl 10.244.2.119:80 10.244.2.119
ClusterIP类型的Service
创建service-clusterip.yml文件,内容如下:
apiVersion: v1 kind: Service metadata: name: service-clusterip namespace: dev spec: selector: app: nginx-pod clusterIP: 10.97.97.97 # service的IP地址,如果不写,默认会生成一个 type: ClusterIP ports: - port: 80 # Service的端口 targetPort: 80 # Pod的端口 #创建Service [root@master ~]# kubectl create -f service-clusterip.yml service/service-clusterip created #查看Service [root@master ~]# kubectl get svc service-clusterip -n dev NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE service-clusterip ClusterIP 10.97.97.97 <none> 80/TCP 74s #查看详情信息 [root@master ~]# kubectl describe svc service-clusterip -n dev Name: service-clusterip Namespace: dev Labels: <none> Annotations: <none> Selector: app=nginx-pod Type: ClusterIP IP: 10.97.97.97 Port: <unset> 80/TCP TargetPort: 80/TCP Endpoints: 10.244.1.130:80,10.244.1.131:80,10.244.2.119:80 Session Affinity: None Events: <none> # 查看ipvs映射规则 [root@master ~]# ipvsadm -Ln TCP 10.97.97.97:80 rr -> 10.244.1.130:80 Masq 1 0 0 -> 10.244.1.131:80 Masq 1 0 0 -> 10.244.2.119:80 Masq 1 0 0 #访问10.97.97.97:80观察效果 [root@master ~]# curl 10.97.97.97:80 10.244.1.130 [root@master ~]# curl 10.97.97.97:80 10.244.2.119 [root@master ~]# curl 10.97.97.97:80 10.244.1.131 [root@master ~]# while true;do curl 10.97.97.97:80; sleep 5;done; 10.244.1.130 10.244.2.119 10.244.1.131
负载分发策略
对Service的访问被分发到了后端的Pod上去,目前kubernetes提供了两种负载分发策略:
-
如果不定义,默认使用kube-proxy的策略,比如随机、轮询等。
-
基于客户端地址的会话保持模式,即来自同一个客户端发起的所有请求都会转发到固定的一个Pod上,这对于传统基于Session的认证项目来说很友好,此模式可以在spec中添加sessionAffinity: ClusterIP选项。
查看ipvs的映射规则,rr表示轮询:
[root@node1 ~]# ipvsadm -Ln IP Virtual Server version 1.2.1 (size=4096) Prot LocalAddress:Port Scheduler Flags -> RemoteAddress:Port Forward Weight ActiveConn InActConn TCP 172.17.0.1:31628 rr -> 10.244.1.130:80 Masq 1 0 0 -> 10.244.1.131:80 Masq 1 0 0 -> 10.244.2.119:80 Masq 1 0 0 TCP 192.168.248.11:31628 rr -> 10.244.1.130:80 Masq 1 0 0 -> 10.244.1.131:80 Masq 1 0 0 -> 10.244.2.119:80 Masq 1 0 0 TCP 10.96.0.1:443 rr -> 192.168.248.10:6443 Masq 1 0 0 TCP 10.96.0.10:53 rr -> 10.244.0.6:53 Masq 1 0 0 -> 10.244.0.7:53 Masq 1 0 0 TCP 10.96.0.10:9153 rr -> 10.244.0.6:9153 Masq 1 0 0 -> 10.244.0.7:9153 Masq 1 0 0 TCP 10.97.97.97:80 rr -> 10.244.1.130:80 Masq 1 0 0 -> 10.244.1.131:80 Masq 1 0 0 -> 10.244.2.119:80 Masq 1 0 0 TCP 10.109.167.17:443 rr -> 192.168.248.12:443 Masq 1 0 0 TCP 10.111.120.209:80 rr TCP 10.244.1.0:31628 rr -> 10.244.1.130:80 Masq 1 0 0 -> 10.244.1.131:80 Masq 1 0 0 -> 10.244.2.119:80 Masq 1 0 0 TCP 10.244.1.1:30317 rr TCP 10.244.1.1:31628 rr -> 10.244.1.130:80 Masq 1 0 0 -> 10.244.1.131:80 Masq 1 0 0 -> 10.244.2.119:80 Masq 1 0 0 TCP 127.0.0.1:30317 rr TCP 127.0.0.1:31628 rr -> 10.244.1.130:80 Masq 1 0 0 -> 10.244.1.131:80 Masq 1 0 0 -> 10.244.2.119:80 Masq 1 0 0 TCP 172.17.0.1:30317 rr TCP 192.168.248.11:30317 rr TCP 10.105.180.5:80 rr -> 10.244.1.130:80 Masq 1 0 0 -> 10.244.1.131:80 Masq 1 0 0 -> 10.244.2.119:80 Masq 1 0 0 TCP 10.244.1.0:30317 rr UDP 10.96.0.10:53 rr -> 10.244.0.6:53 Masq 1 0 0 -> 10.244.0.7:53 Masq 1 0 0 # 修改分发策略 [root@master ~]# vim service-clusterip.yml apiVersion: v1 kind: Service metadata: name: service-clusterip namespace: dev spec: selector: app: nginx-pod clusterIP: 10.97.97.97 # service的IP地址,如果不写,默认会生成一个 type: ClusterIP sessionAffinity: ClientIP # 修改分发策略为基于客户端地址的会话保持模式 ports: - port: 80 # Service的端口 targetPort: 80 # Pod的端口 [root@master ~]# kubectl apply -f service-clusterip.yml Warning: kubectl apply should be used on resource created by either kubectl create --save-config or kubectl apply service/service-clusterip configured #循环测试访问 [root@master ~]# while true;do curl 10.97.97.97:80; sleep 5; done; 10.244.1.130 10.244.1.130 10.244.1.130 10.244.1.130 #删除Service [root@master ~]# kubectl delete -f service-clusterip.yml
HeadLiness类型的Service
在某些场景中,开发人员可能不想使用Service提供的负载均衡功能,而希望自己来控制负载均衡策略,针对这种情况,kubernetes提供了HeadLinesss Service,这类Service不会分配Cluster IP,如果想要访问Service,只能通过Service的域名进行查询
创建service-headliness.yml文件,内容如下
apiVersion: v1 kind: Service metadata: name: service-headliness namespace: dev spec: selector: app: nginx-pod clusterIP: None # 将clusterIP设置为None,即可创建headliness Service type: ClusterIP ports: - port: 80 # Service的端口 targetPort: 80 # Pod的端口 #创建Service [root@master ~]# kubectl create -f service-headliness.yml service/service-headliness created #查看Service [root@master ~]# kubectl get svc service-headliness -n dev -o wide NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE SELECTOR service-headliness ClusterIP None <none> 80/TCP 27s app=nginx-pod #查看详情 [root@master ~]# kubectl describe svc service-headliness -n dev Name: service-headliness Namespace: dev Labels: <none> Annotations: <none> Selector: app=nginx-pod Type: ClusterIP IP: None Port: <unset> 80/TCP TargetPort: 80/TCP Endpoints: 10.244.1.130:80,10.244.1.131:80,10.244.2.119:80 Session Affinity: None Events: <none>
查看域名解析情况
# 查看pod [root@master ~]# kubectl get pod -n dev NAME READY STATUS RESTARTS AGE pc-deployment-c848d767-nf6x2 1/1 Running 0 50m pc-deployment-c848d767-r54gk 1/1 Running 0 50m pc-deployment-c848d767-vpmr8 1/1 Running 0 50m #进入Pod中,执行cat /etc/resolv.conf命令 [root@master ~]# kubectl exec -it pc-deployment-c848d767-nf6x2 -n dev /bin/sh # cat /etc/resolv.conf nameserver 10.96.0.10 search dev.svc.cluster.local svc.cluster.local cluster.local options ndots:5 #通过Service的域名进行查询 [root@master ~]# yum install bind-utils -y [root@master ~]# dig @10.96.0.10 service-headliness.dev.svc.cluster.local ; <<>> DiG 9.11.4-P2-RedHat-9.11.4-26.P2.el7_9.7 <<>> @10.96.0.10 service-headliness.dev.svc.cluster.local ; (1 server found) ;; global options: +cmd ;; Got answer: ;; WARNING: .local is reserved for Multicast DNS ;; You are currently testing what happens when an mDNS query is leaked to DNS ;; ->>HEADER<<- opcode: QUERY, status: NOERROR, id: 7234 ;; flags: qr aa rd; QUERY: 1, ANSWER: 3, AUTHORITY: 0, ADDITIONAL: 1 ;; WARNING: recursion requested but not available ;; OPT PSEUDOSECTION: ; EDNS: version: 0, flags:; udp: 4096 ;; QUESTION SECTION: ;service-headliness.dev.svc.cluster.local. IN A ;; ANSWER SECTION: service-headliness.dev.svc.cluster.local. 30 IN A 10.244.1.131 service-headliness.dev.svc.cluster.local. 30 IN A 10.244.2.119 service-headliness.dev.svc.cluster.local. 30 IN A 10.244.1.130 ;; Query time: 18 msec ;; SERVER: 10.96.0.10#53(10.96.0.10) ;; WHEN: 二 10月 19 16:49:41 CST 2021 ;; MSG SIZE rcvd: 237
NodePort类型的Service
在之前的案例中,创建的Service的IP地址只能在集群内部才可以访问,如果希望Service暴露给集群外部使用,那么就需要使用到另外一种类型的Service,称为NodePort类型的Service。NodePort的工作原理就是将Service的端口映射到Node的一个端口上,然后就可以通过NodeIP:NodePort来访问Service了。
创建service-nodeport.yml文件,内容如下:
apiVersion: v1 kind: Service metadata: name: service-nodeport namespace: dev spec: selector: app: nginx-pod type: NodePort # Service类型为NodePort ports: - port: 80 # Service的端口 targetPort: 80 # Pod的端口 nodePort: 30002 # 指定绑定的node的端口(默认取值范围是30000~32767),如果不指定,会默认分配 # 创建service [root@master ~]# kubectl create -f service-nodeport.yml service/service-nodeport created # 查看Service [root@master ~]# kubectl get svc service-nodeport -n dev -o wide NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE SELECTOR service-nodeport NodePort 10.100.49.233 <none> 80:30002/TCP 55s app=nginx-pod #访问 通过浏览器访问:http://192.168.248.11:30002即可访问对应的Pod。
LoadBalancer类型的Service
LoadBalancer和NodePort很相似,目的都是向外部暴露一个端口,区别在于LoadBalancer会在集群的外部再来做一个负载均衡设备,而这个设备需要外部环境的支持,外部服务发送到这个设备上的请求,会被设备负载之后转发到集群中
ExternalName类型的Service
ExternalName类型的Service用于引入集群外部的服务,它通过externalName属性指定一个服务的地址,然后在集群内部访问此Service就可以访问到外部的服务了
创建service-externalname.yml文件,内容如下:
apiVersion: v1 kind: Service metadata: name: service-externalname namespace: dev spec: type: ExternalName # Service类型为ExternalName externalName: www.baidu.com # 改成IP地址也可以 # 创建Service [root@master ~]# kubectl create -f service-externalname.yml service/service-externalname created #域名解析 [root@master ~]# dig @10.96.0.10 service-externalname.dev.svc.cluster.local ; <<>> DiG 9.11.4-P2-RedHat-9.11.4-26.P2.el7_9.7 <<>> @10.96.0.10 service-externalname.dev.svc.cluster.local ; (1 server found) ;; global options: +cmd ;; Got answer: ;; WARNING: .local is reserved for Multicast DNS ;; You are currently testing what happens when an mDNS query is leaked to DNS ;; ->>HEADER<<- opcode: QUERY, status: NOERROR, id: 50343 ;; flags: qr aa rd; QUERY: 1, ANSWER: 4, AUTHORITY: 0, ADDITIONAL: 1 ;; WARNING: recursion requested but not available ;; OPT PSEUDOSECTION: ; EDNS: version: 0, flags:; udp: 4096 ;; QUESTION SECTION: ;service-externalname.dev.svc.cluster.local. IN A ;; ANSWER SECTION: service-externalname.dev.svc.cluster.local. 30 IN CNAME www.baidu.com. www.baidu.com. 30 IN CNAME www.a.shifen.com. www.a.shifen.com. 30 IN A 14.215.177.39 www.a.shifen.com. 30 IN A 14.215.177.38 ;; Query time: 66 msec ;; SERVER: 10.96.0.10#53(10.96.0.10) ;; WHEN: 二 10月 19 17:06:37 CST 2021 ;; MSG SIZE rcvd: 247