一、Service介绍

提供了Service资源，Service会对提供同一个服务的多个pod进行聚合，并且提供一个统一的入口地址。通过访问Service的入口地址就能访问到后面的pod服务。

Service在很多情况下只是一个概念，真正起作用的其实是kube-proxy服务进程，每个Node节点上都运行着一个kube-proxy服务进程。当创建Service的时候会通过api-server向etcd写入创建的service信息，而kube-proxy会基于监听的机制发现这种Service的变动，然后它会将最新的Service信息转换成对应的访问规则。

#10.97.97.97:80 是service提供的访问入口

#当访问这个入口的时候，可以发现后面有三个pod的服务在等待调用。

#kube-proxy会基于rr（轮询）的策略，将请求分发到其中一个pod上去

#这个规则会同时在集群内的所有节点上都生成，所以在任务一个节点上访问都可以。

[root@master ~]# ipvsadm -Ln

IP Virtual Server version 1.2.1 (size=4096)

Prot LocalAddress:Port Scheduler Flags

 -> RemoteAddress:Port              Forward Weight ActiveConn InActConn

TCP  10.97.97.97:80 rr

    -> 10.244.1.39:80                    Masq       1       0                0

    -> 10.244.1.40:80                    Masq       1       0                0

    -> 10.244.1.33:80                    Masq       1       0                0


kube-proxy 目前支持三种工作模式：userspace、iptables、ipvs

在 Kubernetes集群中，每个 Node运行一个 kube-proxy进程。 kube-proxy负责为 Service实现了一种 VIP（虚拟 IP）的形式，而不是 ExternalName的形式。在 Kubernetes v1.0版本，代理完全在 userspace。在 Kubernetes v1.1版本，新增了 iptables代理，但并不是默认的运行模式。从 Kubernetes v1.2起，默认就是 iptables代理。在 Kubernetes v1.8.0-beta.0中，添加了 ipvs代理。

在 Kubernetes v1.0版本， Service是 4 层（ TCP/ UDP over IP）概念。在 Kubernetes v1.1版本，新增了 Ingress API（ beta版），用来表示 7 层（ HTTP）服务为何不使用 round-robin DNS？

DNS会在很多的客户端里进行缓存，很多服务在访问 DNS进行域名解析完成、得到地址后不会对 DNS的解析进行清除缓存的操作，所以一旦有他的地址信息后，不管访问几次还是原来的地址信息，导致负载均衡无效。


userspace模式

userspace模式下，kube-proxy会为每一个Service创建一个监听端口，发向Cluster IP的请求被Iptables规则重定向到kube-proxy监听的端口上，kube-proxy根据LB算法选择一个提供服务的pod并和其建立链接，以将请求转发到Pod上。

该模式下，kube-proxy充当了一个四层负责均衡器的角色，由于kube-proxy运行在userspace中，在进行转发处理时会增加内核和用户空间之间的数据拷贝，虽然比较稳定，但是效率比较低。

iptables模式

iptables模式下，kube-proxy为service后端的每个Pod创建对应的iptables规则，直接将发向Cluster IP的请求重定向到一个Pod IP。

该模式下，kube-proxy不承担四层负责均衡器的角色，只负责创建iptables规则。该模式的优点是较userspace模式效率更高，但不能提供灵活的LB策略，当后端Pod不可用时也无法进行重试。

iptables 是一个 Linux 内核功能，是一个高效的防火墙，并提供了大量的数据包处理和过滤方面的能力。它可以在核心数据包处理管线上用 Hook 挂接一系列的规则。iptables 模式中 kube-proxy 在 NAT pre-routing Hook 中实现它的 NAT 和负载均衡功能。这种方法简单有效，依赖于成熟的内核功能，并且能够和其它跟 iptables 协作的应用（例如 Calico）融洽相处。

然而 kube-proxy 的用法是一种 O(n) 算法，其中的 n 随集群规模同步增长，这里的集群规模，更明确的说就是服务和后端 Pod 的数量。

ipvs模式

ipvs模式和iptables模式类似，kube-proxy监控Pod的变化并创建相应的ipvs规则，ipvs相对iptables转发效率更高。除此之外，ipvs支持更多的LB算法。

此模式必须安装ipvs内核模块，否则会降级为iptables。


IPVS 是一个用于负载均衡的 Linux 内核功能。IPVS 模式下，kube-proxy 使用 IPVS 负载均衡代替了 iptable。这种模式同样有效，IPVS 的设计就是用来为大量服务进行负载均衡的，它有一套优化过的 API，使用优化的查找算法，而不是简单的从列表中查找规则。

这样一来，kube-proxy 在 IPVS 模式下，其连接过程的复杂度为 O(1)。换句话说，多数情况下，他的连接处理效率是和集群规模无关的。

另外作为一个独立的负载均衡器，IPVS 包含了多种不同的负载均衡算法，例如轮询、最短期望延迟、最少连接以及各种哈希方法等。而 iptables 就只有一种随机平等的选择算法。

IPVS 的一个潜在缺点就是，IPVS 处理数据包的路径和通常情况下 iptables 过滤器的路径是不同的。如果计划在有其他BOB体育使用 iptables 的环境中使用 IPVS，需要进行一些研究，看看他们是否能够协调工作。（Calico 已经和 IPVS kube-proxy 兼容）


VS/NAT模式,基本原理和过程,

开启ipvs

#编辑kube-proxy
 kubectl edit cm kube-proxy -n kube-system
 修改mode: "ipvs"
  
 #删除kube-proxy对应的pod
 kubectl delete pod -l k8s-app=kube-proxy -n kube-system
  
 #查看规则
 ipvsadm -Ln


iptables和ipvs性能对比


二、Service类型

Service的资源清单文件：

apiVersion: v1  #版本号
 kind: Service #类型
 metadata:  #元数据
   name: service   #名称
   namespace:  dev #所属命名空间
 spec:  #详情描述
   selector: #选择器，用于确定当前service代理哪些pod
     app: nginx
   type: #Service 类型，指定service的访问方式
   clusterIP:  #虚拟服务的ip地址
   sessionAffinity: #session亲和性，支持ClientIP、None两个选项
   ports: #端口信息
     - protocol： TCP
       port: 3017 #service端口
       targetPort: 3005 #pod端口
       nodePort: 31123 #主机端口

type类型有如下几种：

  • ClusterIP：默认值，它是kubernetes官方自动分配的虚拟ip，只能在集群内部访问。
  • NodePort：将Service通过指定的Node上的端口暴露给外部，通过此方法，就可以在集群外部访问服务。
  • LoadBalancer：使用外接负载均衡器完成到服务的负载分发，注意此模式需要外部云环境支持。
  • ExternalName：把集群外部的服务引入集群内部，直接使用。

三、Service的使用

实验环境准备

在使用service之前，首先利用Deployment创建3个pod，注意要为pod设置app=nginx-pod的标签

创建deployment.yaml，内容如下：

apiVersion: apps/v1  
 kind: Deployment
 metadata:           
   name: pc-deployment   
   namespace:  dev
 spec:  
   replicas: 3 
   selector: 
     matchLabels: 
       app: nginx-pod
   template:   
     metadata:
       labels:
         app: nginx-pod
     spec:
       containers:
         - name: nginx
           image: nginx:1.17.1
           ports:
             - containerPort: 80
#创建deployment
 kubectl create -f deployment.yaml
  
 #查看pod详情
 kubectl get pods -n dev --show-labels
  
 #为了方便测试，修改三台nginx的index.html页面
 kubectl exec -it pc-deployment-66cb59b984-8d48h -n dev /bin/sh
  
 #注意这里的ip要不一样
 echo "10.244.1.40" > /usr/share/nginx/html/index.html

ClusterIP类型的Service

创建service-clusterip.yaml文件

apiVersion: apps/v1  
 kind: Service
 metadata:           
   name: service-clusterip
   namespace:  dev
 spec:  
   selector: 
     app: nginx-pod
   clusterIp: 10.97.97.97 #service的ip地址，如果不写，默认会生成一个
   type: ClusterIP
   ports:
     - port: 80 #service端口
       targetPort: 80 #pod端口
#创建service
 kubectl create -f service-clusterip.yaml
  
 #查看service
 kubectl get svc -n dev -o wide
  
 #查看service详细信息
 kubectl describe svc -n dev -o wide
  
 #查看ipvs映射规则
 ipvsadm -Ln

查看service的详细信息

在这里有一个Endpoints列表，里面就是当前可以负载到的服务入口

kubectl describe svc service-clusterip -n dev

Endpoint

Endpoint是kubernetes中的一个资源对象，存储在etcd中，用来记录一个service对应的所有pod的访问地址，它是根据service配置文件中selector描述产生的。

一个service由一组pod组成，这些pod通过Endpoint暴露出来，Endpoints是实现实际服务的端点集合。换句话说，service和pod之间的联系是通过endpoints实现的。

使用kubectl get endpoints -n dev查看endpoints信息

负载分发策略

对Service的访问被分发到了后端的pod上去，目前kubernetes提供了两种负载分发策略：

  • 如果不定义，默认使用kube-proxy的策略，比如随机，轮询。
  • 基于客户端地址的会话保持模式，即来自同一个客户端发起的所有请求都会转发到固定的一个Pod上，此模式可以在spec中添加sessionAffinity: ClientIP 选项。

HeadLiness类型的Service

在某些场景中，會員註冊人员可能不想使用Service提供的负载均衡功能，希望自己来控制负载均衡器策略，针对这种情况，kubernetes提供了HeadLiness Service，这类Service不会分配Cluster IP，如果想要访问service，只能通过service的域名进行查询。

创建service-headliness.yaml

apiVersion: apps/v1  
 kind: Service
 metadata:           
   name: service-headliness
   namespace:  dev
 spec:  
   selector: 
     app: nginx-pod
   clusterIp: None #将clusterIP设置为None，即可创建headliness service
   type: ClusterIP
   ports:
     - port: 80 #service端口
       targetPort: 80 #pod端口
#创建service
 kubectl create -f service-headliness.yaml
  
 #查看service，此时CLUSTER-IP的位置为None
 kubectl get svc service-headliness -n dev -o wide
  
 #查看service详细信息
 kubectl describe svc service-headliness -n dev -o wide
  
 #查看pod
 kubectl get pods -n dev
 #进入其中一台查看
 kubectl exec -it pc-deployment-7878451b7d-gid12 -n dev /bin/sh
 #查看域名解析情况
 cat /etc/resolv.conf
  
 dig @10.96.0.10 service-headliness.dev.svc.cluster.local

NodePort 类型的Service

在之前的样例中，创建的Service的ip地址只有集群内部才可以访问，如果希望将Service暴露给集群外部使用，那么就要使用NodePort类型的Service。NodePort的工作原理其实就是将service的端口映射到Node的一个端口上，然后就可以通过NodeIp:NodePort来访问service了。

创建service-nodeport.yaml

apiVersion: apps/v1  
 kind: Service
 metadata:           
   name: service-nodeport
   namespace:  dev
 spec:  
   selector: 
     app: nginx-pod
   type: NodePort
   ports:
     - port: 80 #service端口
       nodePort: 30002 #指定绑定的node的端口（默认范围是30000-32767），如果不指定，会默认分配
       targetPort: 80 #pod端口
#创建service
 kubectl create -f service-nodeport.yaml
  
 #查看service
 kubectl get svc service-nodeport -n dev -o wide
  
 #查看service详细信息
 kubectl describe svc service-headliness -n dev -o wide
  
 #查看pod
 kubectl get pods -n dev
  
 #访问pod则使用nodeIp + nodePort 访问

LoadBalancer类型的Service

LoadBalancer和NodePort和相似，目的是都是向外部暴露一个端口，区别在于LoadBalancer会在集群的外部再来做一个负载均衡设备，而这个设备需要外部环境支持的，外部服务发送到这个设备上的请求，会被设备负载之后转发到集群中。

ExternalName类型的Service

Externalname类型的Service用于引入集群外部的服务，它通过externalName属性指定外部一个服务的地址，然后在集群内部访问此service就可以访问到外部的服务了

apiVersion: apps/v1  
 kind: Service
 metadata:           
   name: service-externalname
   namespace:  dev
 spec:  
   type: ExternalName #service的类型
   externalName: www.baidu.com   #ip或者域名都可以

创建service

kubectl create -f service-externalname.yaml

域名解析

dig @10.96.0.10 service-externalname.dev.svc.cluster.local

四、Ingress介绍

在前面提到Service对集群之外暴露服务的主要方式有两种：NodePort和LoadBalancer，但是这两种有一定的缺点：

  • NodePort方式的缺点是会占用很多集群机器的端口，那么当集群服务变多的时候，这个缺点愈发明显。
  • LB方式的缺点是每个service需要一个LB，浪费、麻烦，并且需要kubernetes之外设备的支持。

基于这种现状，kubernetes提供了Ingress资源对象，Ingress只需要一个NodePort或者一个LB就可以满足暴露多个Service的需求，工作机制如下图所示：

实际上，Ingress相当于一个7层的负载均衡器，是kubernetes对反向代理的一个抽象，他的工作原理类似于Nginx，可以理解成在Ingress里建立诸多映射规则，Ingress Controller通过监听这些配置规则并转化成Nginx的配置，然后对外部提供服务。主要有两个核心概念：

  • ingress：kubernetes中的一个对象，作用是定义请求如何转发到service的规则。
  • ingress controller：具体实现反向代理及负载均衡的BOB体育，对Ingress定义的规则进行解析，根据配置的规则来实现请求转发，实现方式有很多，比如Nginx，Contour，Haproxy等等。

Ingress（以Nginx为例）的工作原理如下：

  1. 用户编写Ingress规则，说明哪个域名对应kubernetes集群中的哪个Service
  2. Ingress控制器动态感知Ingress服务规则的变化，然后生成一段对应的Nginx配置
  3. Ingress控制器会将生成的Nginx配置写入到一个运行着Nginx的服务中，并动态更新
  4. 到此为止，其实真正在工作的就是Nginx了，内部配置了用户定义的请求转发规则

五、Ingress使用

1.环境准备 

搭建Ingress环境

#创建文件夹
 mkdir ingress-controller
 cd ingress-controller
  
 #获取ingress-nginx，本次案例使用的是0.3版本
 wget http://raw.githubusercontent.com/kubernetes/ingress-nginx/nginx-0.30.0/deploy/static/mandatory.yaml
 wget http://raw.githubusercontent.com/kubernetes/ingress-nginx/nginx-0.30.0/deploy/static/provider/baremetal/service-nodeport.yaml
  
 #修改mandatory.yaml文件中的仓库，可以不用修改
  
 #创建ingress-nginx
 kubectl apply -f ./
  
 #查看ingress-nginx
 kubectl get pod -n ingress-nginx
  
 #查看service
 kubectl get svc -n ingress-nginx

准备Service和Pod

为了方便实验，创建如下模型

创建tomcat-nginx.yaml

apiVersion: apps/v1  
 kind: Deployment
 metadata:           
   name: nginx-deployment
   namespace:  dev
 spec:  
   replicas: 3
   selector: 
     matchLabels: 
       app: nginx-pod
   template:
     metadata:
       labels:
         app: nginx-pod
     spec:
       containers:
        - name: nginx
          image: nginx:1.17.1
          ports:
            - containerPort: 80
 ---
 apiVersion: apps/v1  
 kind: Deployment
 metadata:           
   name: tomcat-deployment
   namespace:  dev
 spec:  
   replicas: 3
   selector: 
     matchLabels: 
       app: tomcat-pod
   template:
     metadata:
       labels:
         app: tomcat-pod
     spec:
       containers:
        - name: tomcat
          image: tomcat:8.5-jre10-slim
          ports:
            - containerPort: 8080
  
 ---
  
 apiVersion: v1  
 kind: Service
 metadata:           
   name: nginx-service
   namespace:  dev
 spec:  
   selector: 
     app: nginx-pod
   clusterIP: None
   type: ClusterIP
   ports:
    - port: 80
      targetPort: 80
  
 ---
 apiVersion: v1  
 kind: Service
 metadata:           
   name: tomcat-service
   namespace:  dev
 spec:  
   selector: 
     app: tomcat-pod
   clusterIP: None
   type: ClusterIP
   ports:
    - port: 8080
      targetPort: 8080

创建

kubectl create -f tomcat-nginx.yaml

2.Http代理

创建ingress-http.yaml

apiVersion: extensions/v1beta1  
 kind: Ingress
 metadata:           
   name: ingress-http
   namespace:  dev
 spec:  
   rules:
    - host: nginx.ifun.com
      http:
       - path: /
         backend:
           serviceName: nginx-service
           servicePort: 80
    - host: tomcat.ifun.com
      http:
       - path: /
         backend:
           serviceName: tomcat-service
           servicePort: 8080
#创建
 kubectl create -f ingress-http.yaml
  
 #查看ingress信息
 kubectl get ing ingress-http -n dev
 kubectl describe ing ingress-http -n dev
  
 #查看service信息对应端口信息
 kubectl get svc -n ingress-nginx

修改hosts文件

masterIp nginx.ifun.com
 masterIp tomcat.ifun.com

3.Https代理

生成证书

openssl req -x509 -sha256 -nodes -days 365 -newkey rsa:2048 -keyout tls.key -out tls.crt -subj /C=CN/ST=BJ/L=BJ/O=nginx/CN=ifun.com

创建秘钥

kubectl create secret tls tls-secret --key tls.key --cert tls.crt

创建ingress-http.yaml

apiVersion: extensions/v1beta1  
 kind: Ingress
 metadata:           
   name: ingress-http
   namespace:  dev
 spec:  
   tls:
     - hosts:
       - nginx.ifun.com
       - tomcat.ifun.com
       secretName: tls-secret # 指定秘钥
   rules:
    - host: nginx.ifun.com
      http:
       - path: /
         backend:
           serviceName: nginx-service
           servicePort: 80
    - host: tomcat.ifun.com
      http:
       - path: /
         backend:
           serviceName: tomcat-service
           servicePort: 8080

创建ingress

kubectl create -f ingress-http.yaml

查看端口

kubectl get svc -n ingress-nginx