K8S学习笔记（十二）- K8S Service详解

K8S学习笔记（十二）- K8S Service详解

三月 28, 2022

主要介绍kubernetes的流量负载组件：Service和Ingress。

Service介绍

在kubernetes中，Pod是应用程序的载体，我们可以通过Pod的IP来访问应用程序，但是Pod的IP地址不是固定的，这就意味着不方便直接采用Pod的IP对服务进行访问。
为了解决这个问题，kubernetes提供了Service资源，Service会对提供同一个服务的多个Pod进行聚合，并且提供一个统一的入口地址，通过访问Service的入口地址就能访问到后面的Pod服务。
1

Service在很多情况下只是一个概念，真正起作用的其实是kube-proxy服务进程，每个Node节点上都运行了一个kube-proxy的服务进程。
当创建Service的时候会通过API Server向etcd写入创建的Service的信息，而kube-proxy会基于监听的机制发现这种Service的变化，然后它会将最新的Service信息转换为对应的访问规则。
2

1
2
3
4
5
6
7
8
9
10
11
12
# 10.97.97.97:80 是service提供的访问入口
# 当访问这个入口的时候，可以发现后面有三个pod的服务在等待调用，
# kube-proxy会基于rr（轮询）的策略，将请求分发到其中一个pod上去
# 这个规则会同时在集群内的所有节点上都生成，所以在任何一个节点上访问都可以。
[root@k8s-node1 ~]# ipvsadm -Ln
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
 -> RemoteAddress:Port  Forward Weight ActiveConn InActConn
 TCP 10.97.97.97:80 rr
  -> 10.244.1.39:80   Masq  1  0  0
  -> 10.244.1.40:80   Masq  1  0  0
  -> 10.244.2.33:80   Masq  1  0  0

kube-proxy目前支持三种工作模式：

userspace模式

userspace模式下，kube-proxy会为每一个Service创建一个监听端口，发向Cluster IP的请求被iptables规则重定向到kube-proxy监听的端口上，kube-proxy根据LB算法（负载均衡算法）选择一个提供服务的Pod并和其建立连接，以便将请求转发到Pod上。
该模式下，kube-proxy充当了一个四层负载均衡器的角色。由于kube-proxy运行在userspace中，在进行转发处理的时候会增加内核和用户空间之间的数据拷贝，虽然比较稳定，但是效率非常低下。
3

iptables模式

iptables模式下，kube-proxy为Service后端的每个Pod创建对应的iptables规则，直接将发向Cluster IP的请求重定向到一个Pod的IP上。
该模式下kube-proxy不承担四层负载均衡器的角色，只负责创建iptables规则。
该模式的优点在于较userspace模式效率更高，但是不能提供灵活的LB策略，当后端Pod不可用的时候无法进行重试。
4

ipvs模式

ipvs模式和iptables类似，kube-proxy监控Pod的变化并创建相应的ipvs规则。
ipvs相对iptables转发效率更高，除此之外，ipvs支持更多的LB算法。
5
开启ipvs（必须安装ipvs内核模块，否则会降级为iptables）

1
2
# 修改mode为ipvs
kubectl edit cm kube-proxy -n kube-system

6

1
2
3
4
5
# 删除老得kube-proxy的pod
kubectl delete pod -l k8s-app=kube-proxy -n kube-system

# 测试ipvs模块是否开启成功
ipvsadm -Ln

Service类型

Service的资源清单：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
apiVersion: v1 # 版本
kind: Service # 类型
metadata: # 元数据
  name: # 资源名称
  namespace: # 命名空间
spec:
  selector: # 标签选择器，用于确定当前Service代理那些Pod
    app: nginx
  type: NodePort # Service的类型，指定Service的访问方式
  clusterIP: # 虚拟服务的IP地址
  sessionAffinity: # session亲和性，支持ClientIP、None两个选项，默认值为None
  ports: # 端口信息
    - port: 8080 # Service端口
      protocol: TCP # 协议
      targetPort : # Pod端口
      nodePort:  # 主机端口

spec.type的说明：

  • ClusterIP：默认值，它是kubernetes系统自动分配的虚拟IP，只能在集群内部访问。
  • NodePort：将Service通过指定的Node上的端口暴露给外部，通过此方法，就可以在集群外部访问服务。
  • LoadBalancer：使用外接负载均衡器完成到服务的负载分发，注意此模式需要外部云环境的支持。
  • ExternalName：把集群外部的服务引入集群内部，直接使用。

Service使用

实验环境准备

在使用Service之前，首先利用Deployment创建出3个Pod，注意要为Pod设置app=nginx-pod的标签。
创建deployment.yaml文件，内容如下：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
apiVersion: apps/v1
kind: Deployment
metadata:
  name: pc-deployment
  namespace: dev
spec:
  replicas: 3
  selector:
    matchLabels:
      app: nginx-pod
  template:
    metadata:
      labels:
        app: nginx-pod
    spec:
      containers:
        - name: nginx
          image: nginx:1.17.1
          ports:
            - containerPort: 80
1
2
3
4
5
6
7
8
9
10
11
12
13
kubectl create -f deployment.yaml

kubectl get pod -n dev -o wide --show-labels

# 为了方便后面的测试，修改三台Nginx的index.html
# pod只有一个用户容器，可以不用加-c nginx
kubectl exec -it pc-deployment-7d7dd5499b-j28f4 -n dev /bin/bash

# 容器内
root@pc-deployment-7d7dd5499b-j28f4:/# echo "10.244.169.149" > /usr/share/nginx/html/index.html && exit

# 查看修改是否生效
curl 10.244.169.149

ClusterIP

创建Service

创建service-clusterip.yaml文件，内容如下：

1
2
3
4
5
6
7
8
9
10
11
12
13
apiVersion: v1
kind: Service
metadata:
  name: service-clusterip
  namespace: dev
spec:
  selector:
    app: nginx-pod
  clusterIP: # service的IP地址，如果不写，默认会生成一个
  type: ClusterIP
  ports:
    - port: 80 # Service的端口
      targetPort: 80 # Pod的端口
1
2
3
4
5
kubectl create -f service-clusterip.yaml

# 查看
kubectl get svc -n dev -o wide
kubectl describe svc service-clusterip -n dev

7

1
2
# 查看ipvs的映射规则
ipvsadm -Ln

8

1
2
3
4
# 多次访问，查看效果
curl 10.100.157.35
curl 10.100.157.35
curl 10.100.157.35

负载分发策略

对Service的访问被分发到了后端的Pod上去，目前kubernetes提供了两种负载分发策略：

  • 如果不定义，默认使用kube-proxy的策略，比如随机、轮询等。
  • 基于客户端地址的会话保持模式，即来自同一个客户端发起的所有请求都会转发到固定的一个Pod上，这对于传统基于Session的认证项目来说很友好，此模式可以在spec中添加sessionAffinity: ClientIP。
    ipvs的映射规则，rr表示轮询。
    1
    2
    # 验证当前轮训策略
    while true;do curl 10.100.157.35; sleep 2; done;

修改分发策略

1
2
3
4
5
6
7
8
9
10
11
12
13
14
apiVersion: v1
kind: Service
metadata:
  name: service-clusterip
  namespace: dev
spec:
  selector:
    app: nginx-pod
  clusterIP: 10.100.157.35 # service的IP地址，如果不写，默认会生成一个
  sessionAffinity: ClientIP
  type: ClusterIP
  ports:
    - port: 80 # Service的端口
      targetPort: 80 # Pod的端口
1
2
3
4
kubectl apply -f service-clusterip.yaml

# 重新验证轮训策略
while true;do curl 10.100.157.35; sleep 2; done;
1
2
# 删除service
kubectl delete -f service-clusterip.yaml

Headliness

在某些场景中，开发人员可能不想使用Service提供的负载均衡功能，而希望自己来控制负载均衡策略，
针对这种情况，kubernetes提供了HeadLinesss Service，这类Service不会分配Cluster IP，如果想要访问Service，只能通过Service的域名进行查询。

创建service-headliness.yaml文件，内容如下：

1
2
3
4
5
6
7
8
9
10
11
12
13
apiVersion: v1
kind: Service
metadata:
  name: service-headliness
  namespace: dev
spec:
  selector:
    app: nginx-pod
  clusterIP: None # 将clusterIP设置为None，即可创建headliness Service
  type: ClusterIP
  ports:
    - port: 80 # Service的端口
      targetPort: 80 # Pod的端口
1
2
3
4
5
6
7
8
kubectl create -f service-headliness.yaml

# 查看
kubectl get svc service-headliness -n dev -o wide
kubectl describe svc service-headliness -n dev

# 删除
kubectl delete -f service-headliness.yaml

NodePort

在之前的案例中，创建的Service的IP地址只能在集群内部才可以访问，如果希望Service暴露给集群外部使用，那么就需要使用到另外一种类型的Service，称为NodePort类型的Service。
NodePort的工作原理就是将Service的端口映射到Node的一个端口上，然后就可以通过NodeIP:NodePort来访问Service了。
9

创建service-nodeport.yaml文件，内容如下：

1
2
3
4
5
6
7
8
9
10
11
12
13
apiVersion: v1
kind: Service
metadata:
  name: service-nodeport
  namespace: dev
spec:
  selector:
    app: nginx-pod
  type: NodePort # Service类型为NodePort
  ports:
    - port: 80 # Service的端口
      targetPort: 80 # Pod的端口
      nodePort: 30002 # 指定绑定的node的端口（默认取值范围是30000~32767），如果不指定，会默认分配
1
2
3
4
5
6
7
8
9
10
11
12
kubectl create -f service-nodeport.yaml

# 查看
kubectl get svc service-nodeport -n dev -o wide

# 访问
curl 172.16.7.200:30002
curl 172.16.7.201:30002
curl 172.16.7.202:30002

# 删除
kubectl delete -f service-nodeport.yaml

NodeBalancer

LoadBalancer和NodePort很相似，目的都是向外部暴露一个端口，区别在于LoadBalancer会在集群的外部再来做一个负载均衡设备，而这个设备需要外部环境的支持，外部服务发送到这个设备上的请求，会被设备负载之后转发到集群中。
10

ExternalName

ExternalName类型的Service用于引入集群外部的服务，它通过externalName属性指定一个服务的地址，然后在集群内部访问此Service就可以访问到外部的服务了。
11

创建service-externalname.yaml文件，内容如下：

1
2
3
4
5
6
7
8
apiVersion: v1
kind: Service
metadata:
  name: service-externalname
  namespace: dev
spec:
  type: ExternalName # Service类型为ExternalName
  externalName: www.baidu.com # 改成IP地址也可以
1
2
3
4
5
6
kubectl create -f service-externalname.yaml

# 域名解析
dig @10.96.0.10 service-externalname.dev.svc.cluster.local

kubectl delete -f service-externalname.yaml

Ingress介绍

我们已经知道，Service对集群之外暴露服务的主要方式有两种：NodePort和LoadBalancer，但是这两种方式，都有一定的缺点：

  • NodePort方式的缺点是会占用很多集群机器的端口，那么当集群服务变多的时候，这个缺点就愈发明显。
  • LoadBalancer的缺点是每个Service都需要一个LB，浪费，麻烦，并且需要kubernetes之外的设备的支持。

基于这种现状，kubernetes提供了Ingress资源对象，Ingress只需要一个NodePort或者一个LB就可以满足暴露多个Service的需求，工作机制大致如下图所示：
12
实际上，Ingress相当于一个七层的负载均衡器，是kubernetes对反向代理的一个抽象，它的工作原理类似于Nginx，
可以理解为Ingress里面建立了诸多映射规则，Ingress Controller通过监听这些配置规则并转化为Nginx的反向代理配置，然后对外提供服务。

  • Ingress：kubernetes中的一个对象，作用是定义请求如何转发到Service的规则。
  • Ingress Controller：具体实现反向代理及负载均衡的程序，对Ingress定义的规则进行解析，根据配置的规则来实现请求转发，实现的方式有很多，比如Nginx，Contour，Haproxy等。

Ingress（以Nginx）的工作原理如下：

  1. 用户编写Ingress规则，说明那个域名对应kubernetes集群中的那个Service。
  2. Ingress控制器动态感知Ingress服务规则的变化，然后生成一段对应的Nginx的反向代理配置。
  3. Ingress控制器会将生成的Nginx配置写入到一个运行着的Nginx服务中，并动态更新。
  4. 到此为止，其实真正在工作的就是一个Nginx了，内部配置了用户定义的请求规则。
    13

Ingress使用

环境准备

搭建Ingress环境

1
2
3
4
5
6
7
8
9
10
11
12
mkdir ingress-controller
cd ingress-controller

# 获取ingress-nginx，本次使用的是0.30版本
wget https://raw.githubusercontent.com/kubernetes/ingress-nginx/nginx-0.30.0/deploy/static/mandatory.yaml
wget https://raw.githubusercontent.com/kubernetes/ingress-nginx/nginx-0.30.0/deploy/static/provider/baremetal/service-nodeport.yaml

kubectl apply -f ./

# 查看
kubectl get pod -n ingress-nginx
kubectl get svc -n ingress-nginx

准备Service和Pod

为了后面的实验比较方便，创建如下图所示的模型：
14
创建tomcat-nginx.yaml文件，内容如下：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
apiVersion: apps/v1
kind: Deployment
metadata:
  name: nginx-deployment
  namespace: dev
spec:
  replicas: 3
  selector:
    matchLabels:
      app: nginx-pod
  template:
    metadata:
      labels:
        app: nginx-pod
    spec:
      containers:
      - name: nginx
        image: nginx:1.17.1
        ports:
        - containerPort: 80

---

apiVersion: apps/v1
kind: Deployment
metadata:
  name: tomcat-deployment
  namespace: dev
spec:
  replicas: 3
  selector:
    matchLabels:
      app: tomcat-pod
  template:
    metadata:
      labels:
        app: tomcat-pod
    spec:
      containers:
      - name: tomcat
        image: tomcat:8.5-jre10-slim
        ports:
        - containerPort: 8080

---

apiVersion: v1
kind: Service
metadata:
  name: nginx-service
  namespace: dev
spec:
  selector:
    app: nginx-pod
  clusterIP: None
  type: ClusterIP
  ports:
  - port: 80
    targetPort: 80

---

apiVersion: v1
kind: Service
metadata:
  name: tomcat-service
  namespace: dev
spec:
  selector:
    app: tomcat-pod
  clusterIP: None
  type: ClusterIP
  ports:
  - port: 8080
    targetPort: 8080
1
2
3
kubectl create -f tomcat-nginx.yaml

kubectl get svc,pod -n dev

Http代理

创建ingress-http.yaml文件，内容如下：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
apiVersion: extensions/v1beta1
kind: Ingress
metadata:
  name: ingress-http
  namespace: dev
spec:
  rules:
  - host: nginx.123456.com
    http:
      paths:
      - path: /
        backend:
          serviceName: nginx-service
          servicePort: 80
  - host: tomcat.123456.com
    http:
      paths:
      - path: /
        backend:
          serviceName: tomcat-service
          servicePort: 8080
1
2
3
4
5
6
kubectl create -f ingress-http.yaml

# 查看
kubectl get ingress ingress-http -n dev
kubectl describe ingress ingress-http -n dev
kubectl get svc -n ingress-nginx

在本机的hosts文件中添加如下的规则（172.16.7.200为Master节点的IP地址）

1
2
172.16.7.200 nginx.123456.com
172.16.7.200 tomcat.123456.com

访问

1
2
http://nginx.123456.com:30096
http://tomcat.123456.com:30096

Https代理

1
2
3
4
5
# 生成证书
openssl req -x509 -sha256 -nodes -days 365 -newkey rsa:2048 -keyout tls.key -out tls.crt -subj "/C=CN/ST=BJ/L=BJ/O=nginx/CN=123456.com"

# 创建密钥
kubectl create secret tls tls-secret --key tls.key --cert tls.crt

创建ingress-https.yaml文件，内容如下：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
apiVersion: extensions/v1beta1
kind: Ingress
metadata:
  name: ingress-https
  namespace: dev
spec:
  tls:
    - hosts:
      - nginx.123456.com
      - tomcat.123456.com
      secretName: tls-secret # 指定秘钥
  rules:
  - host: nginx.123456.com
    http:
      paths:
      - path: /
        backend:
          serviceName: nginx-service
          servicePort: 80
  - host: tomcat.123456.com
    http:
      paths:
      - path: /
        backend:
          serviceName: tomcat-service
          servicePort: 8080
1
2
3
4
5
kubectl create -f ingress-https.yaml

# 查看
kubectl get ingress ingress-https -n dev
kubectl describe ingress ingress-https -n dev

访问

1
2
https://nginx.123456.com:31356
https://tomcat.123456.com:31356