Zero to JupyterHub with Kubernetes中篇 - Kubernetes 常规使用记录

前言：纯个人记录使用。

搭建 Zero to JupyterHub with Kubernetes 上篇 - Kubernetes 离线二进制部署。
搭建 Zero to JupyterHub with Kubernetes 中篇 - Kubernetes 常规使用记录。
搭建 Zero to JupyterHub with Kubernetes 下篇 - Jupyterhub on k8s。

参考： https://www.yuque.com/fairy-era/yg511q/xyqxge

文章目录

- 1、Kubernets介绍
- - 1.1 简介
  - 1.2 架构与组件
- 2、重要资源实战
- - 2.1 Namespace
  - 2.2 Pods
  - 2.3 Deployment
  - 2.4 pvc 和 pv 数据存储
  - 2.5 Service

1、Kubernets介绍

1.1 简介

Kubernetes是Google 团队发起的一个开源项目，用于自动部署、扩展和管理容器化(docker)的应用程序。主要目的是管理跨多个主机的容器。

Kubernetes 中的绝大多数概念都抽象成 Kubernetes 管理的一种资源对象（一切皆资源）。

1.2 架构与组件

在这里插入图片描述

Master : 负责管理集群，协调集群中的所有活动，例如调度应用程序、维护应用程序的所需状态、扩展应用程序和滚动更新。

kube-apiserver：集群控制的访问入口，提供HTTP REST服务。
kube-controller-manager：集群中所有资源对象的自动化控制中心，负责维护集群的状态，比如程序部署、故障检测、自动扩展、滚动更新等。
kube-scheduler：负责集群资源调度，按照策略将Pod调度到相应node上。
etcd：负责存储集群中各种资源对象信息（键值对形式）。

Node：k8s集群工作节点。每个工作节点都有一个kubelet，它管理本节点并且负责与Master主节点通信。每个节点上都需安装Docker相关服务。

kubelet ：负责维护容器的生命周期，通过控制docker来创建、更新、销毁容器（负责Pod的创建、启动、监控、重启、销毁等工作），同时与Master 节点通讯，实现集群管理的基本功能。
kube-proxy：实现集群内部服务发现和负载均衡（代理应用的访问入口，如jupyterhub应用）。
docker：负责pod容器应用。

Kubernetes 核心组件：

etcd：保存了整个集群的状态，就是一个数据库
apiserver ：提供了资源操作的唯一入口，并提供认证、授权、访问控制、API注册和发现等机制
controller manager：负责维护集群的状态，比如故障检测、自动扩展、滚动更新等
scheduler ：负责资源的调度、按照预定的调度策略将Pod调度到相应的机器上
kubelet ：负责维护容器的生命周期、同时负责Volume（CSI/Container Storage Interface）和网络（CNI/Container Network Interface）的管理
kube-proxy ：负责为Service提供cluster 内部的服务发现和负载均衡
docker：负责镜像管理以及Pod和容器的真正运行(CRI/Container R untime Interface)

其他插件：

Dashboard ：提供集群GUI
Metrics-scraper：为Dashboard提供资源监控
Ingress Controller ：为服务提供外网接口
Coredns：负责为整个集群提供DNS服务

2、重要资源实战

kubectl：k8s集群命令行工具

kubectl [command] [type] [name] [flags]

● command：指定要对资源执行的操作，比如create、get、delete。
● type：指定资源的类型，比如deployment、pod、service。
● name：指定资源的名称，名称大小写敏感。
● flags：指定额外的可选参数。

command 资源操作命令

# 基本命令
create	创建一个资源
edit	编辑一个资源
get	    获取一个资源
patch	更新一个资源
delete	删除一个资源
explain	解释展示资源文档

# 运行调试命令
run	        在集群中运行一个指定的镜像
expose	    暴露资源为Service，常用于暴露应用端口
describe	显示资源内部信息
logs	    输出容器在Pod中的日志
attach	    连接运行中的容器，通常用于与正在运行的进程进行交互，查看进程的输出或向进程发送输入。
exec	    执行容器中的一个命令（bin/bash）  参数 -i(interactive)交互式 ,-t 启用伪终端
cp	        在Pod内外复制文件
rollout	    管理版本的发布
scale	    扩（缩）容Pod的数量
autoscale	自动调整Pod的数量

# 高级命令
apply	 通过yaml文件对资源进行配置
label	 更新资源上的标签

# 其他
cluster-info	集群信息	显示集群信息
version         显示当前Client和Server的版本
api-resources   查看集群资源对象

type 资源操作类型

# 查看集群所有资源对象
[root@k8s-master ~/test]$ kubectl api-resources
NAME                              SHORTNAMES   APIVERSION                             NAMESPACED   KIND
namespaces                        ns           v1                                     false        Namespace
pods                              po           v1                                     true         Pod
nodes                             no           v1                                     false        Node
# Pod资源控制器 
replicasets                       rs           apps/v1                                true         ReplicaSet
deployments                       deploy       apps/v1                                true         Deployment
# 负载均衡和服务发现
services                          svc          v1                                     true         Service
ingresses                         ing          extensions/v1beta1                     true         Ingress
# 资源存储
persistentvolumeclaims            pvc          v1                                     true         PersistentVolumeClaim
persistentvolumes                 pv           v1                                     false        PersistentVolume
 ...

常规使用方式

# 创建或更新资源
kubectl apply -f xxx.yaml
# 删除资源
kubectl delete -f xxx.yaml
# 查看资源
kubectl get(describe) 资源名称

2.1 Namespace

Namespace：命名空间，用于进行资源隔离。

kubernetes系统中一种非常重要的资源，它的主要作用是用来实现多套系统的资源隔离或者多租户的资源隔离。
默认情况下，kubernetes集群中的所有Pod都是可以相互访问的。但是在实际中，可能不想让两个Pod之间进行互相的访问，那么此时就可以将两个Pod划分到不同的Namespace下。kubernetes通过将集群内部的资源分配到不同的Namespace中，可以形成逻辑上的“组”，以方便不同的组的资源进行隔离使用和管理。
可以通过kubernetes的授权机制，将不同的Namespace交给不同租户进行管理，这样就实现了多租户的资源隔离。此时还能结合kubernetes的资源配额机制，限定不同租户能占用的资源，例如CPU使用量、内存使用量等等，来实现租户可用资源的管理。

# 查看所有命名空间
[root@k8s-master /data/s0/kubernetes/test]$ kubectl get namespace
NAME                   STATUS   AGE
default                Active   7d5h   # 所有未指定的Namespace的对象都会被分配在default命名空间。
kube-node-lease        Active   7d5h   # 集群节点之间的心跳维护，v1.13开始引入。
kube-public            Active   7d5h   # 此命名空间的资源可以被所有人访问（包括未认证用户）。
kube-system            Active   7d5h   # 所有由kubernetes系统创建的资源都处于这个命名空间(calico网络pod)
kubernetes-dashboard   Active   2d1h   # 人为自定义集群资源可视化命名空间
# 查看命名空间中资源
[root@k8s-master /data/s0/kubernetes/test]$ kubectl get pods -n kubernetes-dashboard -o wide(/json/yaml:结果输出形式) 
NAME                                         READY   STATUS    RESTARTS   AGE   IP               NODE         NOMINATED NODE   READINESS GATES
dashboard-metrics-scraper-7b59f7d4df-l6ngh   1/1     Running   0          28d   10.244.235.195   k8s-master   <none>           <none>
kubernetes-dashboard-548f88599b-k7824        1/1     Running   1          28d   10.244.169.132   k8s-node2    <none>           <none>

# 创建命名空间
[root@k8s-master /data/s0/kubernetes/test]$ kubectl create ns test 
namespace/test created

2.2 Pods

pods： Pod 是Kubernetes调度的基本单位，是一组紧密相关的容器集合（至少一个），它们共享PID、IPC、Network 和 namespace。Pod 设计理念是支持多个容器在一个Pod中共享网络和文件系统，可以通过进程间通讯和文件共享这种简单高效的方式组合完成整个服务。每个Pod可以由一个或多个业务容器和一个根容器（Pause）组成。一个Pod表示某个应用的一个实例。

在这里插入图片描述

Pod 创建与删除

pod资源清单

apiVersion: v1     #必选，版本号，例如v1
kind: Pod       　 #必选，资源类型，例如 Pod
metadata:       　 #必选，元数据
  name: string     #必选，Pod名称
  namespace: string  #Pod所属的命名空间,默认为"default"
  labels:       　　  #自定义标签列表
     name: string      　          
spec:  #必选，Pod中容器的详细定义
  containers:  #必选，Pod中容器列表
    - name: string   #必选，容器名称
      image: string  #必选，容器的镜像名称
      imagePullPolicy: [ Always|IfNotPresent|Never]  #获取镜像的策略,always:总是从镜像仓库拉取；IfNotPresent：优先使用本地镜像，无再从镜像仓库拉取；Never 只使用本地镜像 
      command: [string]   #容器的启动命令列表，如不指定，使用打包时使用的启动命令
      args: [string]      #容器的启动命令参数列表
      workingDir: string  #容器的工作目录
      volumeMounts:       #挂载到容器内部的存储卷配置
        - name: string      #引用pod定义的共享存储卷的名称，需用volumes[]部分定义的的卷名
          mountPath: string #存储卷在容器内mount的绝对路径，应少于512字符
          readOnly: boolean #是否为只读模式
      ports: #需要暴露的端口库号列表
        - name: string        #端口的名称
          containerPort: int  #容器需要监听的端口号
          hostPort: int       #容器所在主机需要监听的端口号，默认与Container相同
          protocol: string    #端口协议，支持TCP和UDP，默认TCP
      env:   #容器运行前需设置的环境变量列表
        - name: string  #环境变量名称
          value: string #环境变量的值
      resources: #资源限制和请求的设置
        limits:  #资源限制的设置
          cpu: string     #Cpu的限制，单位为core数，将用于docker run --cpu-shares参数
          memory: string  #内存限制，单位可以为Mib/Gib，将用于docker run --memory参数
        requests: #资源请求的设置
          cpu: string    #Cpu请求，容器启动的初始可用数量
          memory: string #内存请求,容器启动的初始可用数量
      lifecycle: #生命周期钩子
		postStart: #容器启动后立即执行此钩子,如果执行失败,会根据重启策略进行重启
		preStop: #容器终止前执行此钩子,无论结果如何,容器都会终止
      livenessProbe:  #对Pod内各容器健康检查的设置，当探测无响应几次后将自动重启该容器
        exec:       　 #对Pod容器内检查方式设置为exec方式
          command: [string]  #exec方式需要制定的命令或脚本
        httpGet:       #对Pod内个容器健康检查方法设置为HttpGet，需要制定Path、port
          path: string
          port: number
          host: string
          scheme: string
          HttpHeaders:
            - name: string
              value: string
        tcpSocket:     #对Pod内个容器健康检查方式设置为tcpSocket方式
          port: number
          
          initialDelaySeconds: 0       #容器启动完成后首次探测的时间，单位为秒
          timeoutSeconds: 0    　　    #对容器健康检查探测等待响应的超时时间，单位秒，默认1秒
          periodSeconds: 0     　　    #对容器监控检查的定期探测时间设置，单位秒，默认10秒一次
          successThreshold: 0
          failureThreshold: 0
          securityContext:
            privileged: false
  restartPolicy: [Always | Never | OnFailure]  #Pod的重启策略
  nodeName: <string> #设置NodeName表示将该Pod调度到指定到名称的node节点上
  nodeSelector: obeject #设置NodeSelector表示将该Pod调度到包含这个label的node上
  imagePullSecrets: #Pull镜像时使用的secret名称，以key：secretkey格式指定
    - name: string
  hostNetwork: false   #是否使用主机网络模式，默认为false，如果设置为true，表示使用宿主机网络
  volumes:   #在该pod上定义共享存储卷列表
    - name: string    #共享存储卷名称 （volumes类型有很多种）
      emptyDir: {}       #类型为emtyDir的存储卷，与Pod同生命周期的一个临时目录。为空值
      hostPath:          #类型为hostPath的存储卷，表示挂载Pod所在宿主机的目录
        path: string      　　        #Pod所在宿主机的目录，将被用于同期中mount的目录
        type: DirectoryOrCreate     # 目录存在就使用，不存在就先创建再使用
      secret:       　　　#类型为secret的存储卷，挂载集群与定义的secret对象到容器内部
        scretname: string  
        items:     
          - key: string
            path: string
      configMap:         #类型为configMap的存储卷，挂载预定义的configMap对象到容器内部
        name: string
        items:
          - key: string
            path: string

pod创建

# 创建一个含 nginx：1.20 和busybox:1.30的pod
[root@k8s-master /data/s0/kubernetes/test]$ kubectl explain pod.spec.containers.volumeMounts # 可查看yaml配置文件相关参数
[root@k8s-master /data/s0/kubernetes/test]$ vim pod_nginx_busybox.yaml
apiVersion: v1
kind: Pod
metadata:
  name: pod-test     #   名字不要含下划线
  namespace: test
  labels:
    app: nginx
spec:
  containers:
    - name: nginx
      image: nginx:1.20
      imagePullPolicy: IfNotPresent  # 优先使用本地镜像(注意P字母大小写)
      volumeMounts:                  # 将主机存储地址路径，挂载到容器对应目录
        - name: host-path      
          mountPath: /var/log/nginx  # 容器内路径  
    - name: busybox
      image: busybox:1.30
      imagePullPolicy: Never    # 只使用本地镜像
      command: ["/bin/sh","-c","touch /logs/log.txt;while true;do /bin/echo $(date +%T) >> /logs/log.txt;sleep 5;done;"]  # 容器启动后，每隔5秒，把日期写入日志文件
      volumeMounts:       
        - name: host-path      
          mountPath: /logs 
  volumes:              # 声明 主机存储路径(将容器内数据持久化在pod所在主机上)
    - name: host-path
      hostPath: 
        path: /data/s0/kubernetes/test/logs
        type: DirectoryOrCreate      # 如果目录不存在，就创建

# 创建pod     
[root@k8s-master /data/s0/kubernetes/test]$ kubectl apply -f pod_nginx_busybox.yaml          
 pod/pod-nginx-busybox created

# 查看pod     
[root@k8s-master /data/s0/kubernetes/test]$ kubectl get pods -n test -o wide 
 NAME                READY   STATUS    RESTARTS   AGE   IP               NODE         NOMINATED NODE   READINESS GATES
pod-nginx-busybox   2/2     Running   0          73s   10.244.235.214   k8s-master   <none>           <none>

# 查看服务
[root@k8s-master /data/s0/kubernetes/test]$ curl 10.244.235.214:80
<!DOCTYPE html>
<html>
<head>
<title>Welcome to nginx!</title>
  ...
<p><em>Thank you for using nginx.</em></p>
</body>
</html>

# 查看容器外部挂载目录
[root@k8s-master /data/s0/kubernetes/test]$ ls /data/s0/kubernetes/test/logs
access.log  error.log  log.txt

pod删除

# 删除pods
[root@k8s-master /data/s0/kubernetes/test]$ kubectl delete -f pod_nginx_busybox.yaml
kubectl delete -f pod_nginx_busybox.yaml

2.3 Deployment

Deployment：kubernetes很少直接控制Pod，一般都是通过Pod控制器来完成的。Deployment是其中一种pod控制器。

Deployment 控制器并不直接管理Pod，而是通过管理ReplicaSet来间接管理Pod，即：Deployment管理ReplicaSet，ReplicaSet管理Pod。

Deployment 确保任意时间都有指定数量的pod 副本在运行。如果为某个Pod创建了Deployment 并且指定3个副本，它会创建3个Pod，并且持续监控它们。如果某个Pod不响应，那么Deploymen会替换它，保持总数为3，如果之前不响应的Pod恢复了，超出3个副本，Deployment 将终止其中一个保持总数为3。当创建Deployment 时，需要指定两个东西：

Pod模版：用来创建Pod副本的模版

Label标签：Deployment 需要监控的 Pod 的标签。（通过Label Selector控制相应label的pods）
- ReplicaSet（RS）：作用是保证一定数量的Pod能够正常运行，它会持续监听这些Pod的运行状态，一旦Pod发生故障，就会重启或重建。同时它还支持对Pod数量的扩缩容。Deployment 控制器在ReplicaSet控制器的基础上增加了版本更新或回退，应用发布的停止与继续。

**Label：**不是资源对象，是识别 Kubernetes资源对象的标签，以key:value的方式附加到对象上（key最长不能超过63字节，value可以为空，也可以是不超过253字节的字符串）。Label不提供唯一性，并且实际上经常很多对象（如pods对象）都是使用相同的label来标识具体的应用。 Label 定义好后其他对象可以使用Label Selector 来选择一组相同label的对象。

deployment 资源清单

apiVersion: apps/v1 # 版本号 
kind: Deployment # 类型 
metadata: # 元数据 
  name: <string> # rs名称 
  namespace: <string> # 所属命名空间 
  labels: <map[string]string> #标签 
    controller: deploy 
spec: # 详情描述 
  replicas: <integer> # 副本数量 
  revisionHistoryLimit: <integer> # 保留历史版本，默认为10 
  paused: false # 暂停部署，默认是false 
  progressDeadlineSeconds: <integer> # 部署超时时间（s），默认是600 
  strategy: # 策略 
    type: Recreate/RollingUpdate # 滚动更新策略,默认滚动更新
    rollingUpdate: # 滚动更新 
      maxSurge: 30% # 最大额外可以存在的副本数，可以为百分比，也可以为整数 
      maxUnavailable: 30% # 最大不可用状态的Pod 的最大值，可以为百分比，也可以为整数 
  selector: # 选择器，通过它指定该控制器管理哪些pod 
    matchLabels: <map[string]string> # Labels匹配规则 
      app: nginx-pod 
    matchExpressions: # Expressions匹配规则 
      key: <string> # app
      operator: <string> # In 
      values: [nginx-pod] 
  template: # 模板，当副本数量不足时，会根据下面的模板创建pod副本 
    metadata:
      annotations:   <map[string]string> # 版本备注
        deployment.kubernetes.io/revision: "1"   # 定义版本号
        kubernetes.io/change-cause: "nginx:1.20"  # 版本注释说明
      labels: 
        app: nginx-pod 
    spec: 
      containers: 
        - name: nginx 
          image: nginx:1.21
          imagePullPolicy: IfNotPresent
          ports: 
            - containerPort: 80

deployment 创建与使用

# deployment yaml文件创建
[root@k8s-master /data/s0/kubernetes/test]$ vim deploy-nginx.yaml
apiVersion: apps/v1 
kind: Deployment
metadata: 
  name: deploy-nginx       # deploy 名称 
  namespace: test 
  labels: 
    controller: deploy 
spec:
  replicas: 3              # 3个副本 
  revisionHistoryLimit: 3  
  paused: false
  progressDeadlineSeconds: 600 
  strategy:
    type: RollingUpdate 
    rollingUpdate: 
      maxSurge: 30% 
      maxUnavailable: 30%
  selector:
    matchLabels: 
      app: nginx-pod 
  template:               # pod 模板
    metadata:
      annotations:   
        deployment.kubernetes.io/revision: "1"  
        kubernetes.io/change-cause: "nginx:1.20"  
      labels: 
        app: nginx-pod 
    spec: 
      containers: 
        - name: nginx 
          image: nginx:1.20 
          imagePullPolicy: IfNotPresent
          ports: 
            - containerPort: 80
          volumeMounts:                  
            - name: host-path      
              mountPath: /var/log/nginx
      volumes:             
        - name: host-path
          hostPath: 
            path: /data/s0/kubernetes/test/logs1
            type: DirectoryOrCreate     
            
            
# deployment 生成
[root@k8s-master /data/s0/kubernetes/test]$ kubectl apply -f deploy-nginx.yaml
deployment.apps/deploy-nginx created

# deployment 查看
[root@k8s-master /data/s0/kubernetes/test]$ kubectl get deploy -n test
NAME           READY   UP-TO-DATE   AVAILABLE   AGE
deploy-nginx   3/3     3            3           46s
# 查看 replicaset
[root@k8s-master /data/s0/kubernetes/test]$ kubectl get rs -n test -o wide
NAME                      DESIRED   CURRENT   READY   AGE     CONTAINERS   IMAGES       SELECTOR
deploy-nginx-59b4f66f9c   3         3         3       3m18s   nginx        nginx:1.20   app=nginx-pod,pod-template-hash=59b4f66f9c
# 查看 pod
[root@k8s-master /data/s0/kubernetes/test]$ kubectl get pod -n test -o wide
NAME                            READY   STATUS    RESTARTS   AGE     IP               NODE         NOMINATED NODE   READINESS GATES
deploy-nginx-59b4f66f9c-6jbv5   1/1     Running   0          4m20s   10.244.235.216   k8s-master   <none>           <none>
deploy-nginx-59b4f66f9c-j8nzm   1/1     Running   0          4m20s   10.244.235.215   k8s-master   <none>           <none>
deploy-nginx-59b4f66f9c-k7ng9   1/1     Running   0          4m20s   10.244.36.74     k8s-node1    <none>           <none>
# 查看历史版本
[root@k8s-master /data/s0/kubernetes/test]$ kubectl rollout history deployment deploy-nginx -n test
REVISION  CHANGE-CAUSE
1         nginx:1.20

deployment 版本更新与回退

# nginx 版本升级 
[root@k8s-master /data/s0/kubernetes/test]$ vim deploy-nginx.yaml
nginx:1.20 --> nginx:1.21
[root@k8s-master /data/s0/kubernetes/test]$ kubectl apply -f deploy-nginx.yaml 
# 查看pod变化 - pod 分批滚动更新
[root@k8s-node1 /data/s0/kubernetes/test]$ kubectl get rs -n test -w
deploy-nginx-5f475b845c-2v4fj   1/1     Running   0          72s
deploy-nginx-5f475b845c-895c9   1/1     Running   0          72s
deploy-nginx-5f475b845c-zdgnz   1/1     Running   0          72s
deploy-nginx-785b98f9c6-2dv65   0/1     Pending   0          0s
deploy-nginx-785b98f9c6-2dv65   0/1     Pending   0          0s
deploy-nginx-785b98f9c6-2dv65   0/1     ContainerCreating   0          0s
deploy-nginx-785b98f9c6-2dv65   0/1     ContainerCreating   0          1s
deploy-nginx-785b98f9c6-2dv65   1/1     Running             0          2s
deploy-nginx-5f475b845c-895c9   1/1     Terminating         0          115s
deploy-nginx-785b98f9c6-6hvdb   0/1     Pending             0          0s
deploy-nginx-785b98f9c6-6hvdb   0/1     Pending             0          0s
deploy-nginx-785b98f9c6-6hvdb   0/1     ContainerCreating   0          0s
deploy-nginx-785b98f9c6-6hvdb   0/1     ContainerCreating   0          1s
deploy-nginx-785b98f9c6-6hvdb   1/1     Running             0          2s
deploy-nginx-5f475b845c-2v4fj   1/1     Terminating         0          117s
deploy-nginx-785b98f9c6-bbstf   0/1     Pending             0          0s
deploy-nginx-785b98f9c6-bbstf   0/1     Pending             0          0s
deploy-nginx-785b98f9c6-bbstf   0/1     ContainerCreating   0          0s
deploy-nginx-5f475b845c-895c9   0/1     Terminating         0          117s
deploy-nginx-785b98f9c6-bbstf   0/1     ContainerCreating   0          1s
deploy-nginx-785b98f9c6-bbstf   1/1     Running             0          1s
deploy-nginx-5f475b845c-zdgnz   1/1     Terminating         0          118s
deploy-nginx-5f475b845c-2v4fj   0/1     Terminating         0          119s
deploy-nginx-5f475b845c-2v4fj   0/1     Terminating         0          2m
deploy-nginx-5f475b845c-2v4fj   0/1     Terminating         0          2m
deploy-nginx-5f475b845c-zdgnz   0/1     Terminating         0          2m
deploy-nginx-5f475b845c-zdgnz   0/1     Terminating         0          2m2s
deploy-nginx-5f475b845c-zdgnz   0/1     Terminating         0          2m2s
deploy-nginx-5f475b845c-895c9   0/1     Terminating         0          2m3s
deploy-nginx-5f475b845c-895c9   0/1     Terminating         0          2m3s
# 查看历史版本
[root@k8s-master /data/s0/kubernetes/test]$ kubectl rollout history deployment deploy-nginx -n test
REVISION  CHANGE-CAUSE
1         nginx:1.20
2         nginx:1.21


# 版本回退
[root@k8s-master /data/s0/kubernetes/test]$ kubectl get rs -n test -o wide
NAME                      DESIRED   CURRENT   READY   AGE     CONTAINERS   IMAGES       SELECTOR
deploy-nginx-5f475b845c   0         0         0       4m15s   nginx        nginx:1.20   app=nginx-pod,pod-template-hash=5f475b845c
deploy-nginx-785b98f9c6   3         3         3       2m22s   nginx        nginx:1.21   app=nginx-pod,pod-template-hash=785b98f9c6

[root@k8s-master /data/s0/kubernetes/test]$ kubectl rollout undo deployment deploy-nginx --to-revision=1 -n test
deployment.apps/deploy-nginx rolled back

# 查看版本回退效果
[root@k8s-master /data/s0/kubernetes/test]$ kubectl get rs -n test -o wide
NAME                      DESIRED   CURRENT   READY   AGE   CONTAINERS   IMAGES       SELECTOR
deploy-nginx-5f475b845c   3         3         3       17m   nginx        nginx:1.20   app=nginx-pod,pod-template-hash=5f475b845c
deploy-nginx-785b98f9c6   0         0         0       15m   nginx        nginx:1.21   app=nginx-pod,pod-template-hash=785b98f9c6

deployment 清除

[root@k8s-master /data/s0/kubernetes/test]$ kubectl delete -f deploy-nginx.yaml
deployment.apps "deploy-nginx" deleted

2.4 pvc 和 pv 数据存储

容器持久化存储采用hostPath方式(表示挂载Pod所在宿主机的目录)，但使用pod控制器重启或更新pod时，Pod可能别的Node节点启动，这样pod读写文件就找不到之前对应node文件。

nfs服务器

NFS是一个网络文件共享存储系统，可以搭建一台NFS服务器，然后将Pod中的存储直接连接到NFS系统上，这样，无论Pod在节点上怎么转移，只要Node和NFS的对接没有问题，数据就可以成功访问。

在这里插入图片描述

## nfs 安装包下载
# 联网环境下
# > yum install -y nfs-utils rpcbind 
# 离线安装(联网机器下载安装包，离线机器安装rpm)
联网机器 > yum  reinstall  --downloadonly --downloaddir ./  rpcbind /nfs-utils
离线机器 > rpm -ivh *.rpm

# Nfs服务创建
# 设置共享目录
[root@k8s-node1 /data/s0/kubernetes/nfs]$ vim /etc/exports
/data/s0/kubernetes/nfs 192.168.10.0/24(rw,no_root_squash) # 设置共享网段
[root@k8s-node1 /data/s0/kubernetes/nfs]$ chmod 777 -R /data/s0/kubernetes/nfs
# 加载配置
[root@k8s-node1 /data/s0/kubernetes/nfs]$ exportfs -r
# 服务启动
[root@k8s-node1 /data/s0/kubernetes/nfs]$ systemctl start rpcbind
[root@k8s-node1 /data/s0/kubernetes/nfs]$ systemctl start nfs

# 其他需要存储的节点安装nfs-utils，目的可以驱动NFS设备
# 在其他节点测试共享是否成功
[root@k8s-master /data/s0/kubernetes]$ showmount -e k8s-node1
[root@k8s-node2 /data/s0/kubernetes]$ showmount -e k8s-node1

PVC 和 PV 高级存储

PVC(Persistent Volume Claim)：持久化卷请求声明，是用户向k8s系统发出的一种存储资源申请。

PV(Persistent Volume)：持久化卷，是对底层的共享存储的一种抽象。

目的：隔离应用方与存储方，做到应用程序与底层存储解耦。

在这里插入图片描述

PV 与 PVC 资源清单

# PV 资源清单
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv1      # 注意pv无需指定命名空间
spec:
  nfs: # 存储类型，和底层实际存储对应（NFS只是其中一种）
    path: <string>
    readOnly: false # 只读权限
    server: <string> -required
  capacity: <map[string]string> # 存储能力，目前只支持存储空间的设置
    storage: 2Gi
  accessModes: <[]string> # 访问模式
    - ReadWriteOnce # 读写权限，允许单个节点
    - ReadOnlyMany  # 只读权限，允许多个节点
    - ReadWriteMany # 读写权限，允许多个节点
  storageClassName: <string> # 存储类别，具有特定类型的PV只能和请求了该类别的PVC进行绑定
  persistentVolumeReclaimPolicy: <string> # 回收策略:Retain(保留)/Recycle(回收)/Delete(应用后端删除)
  
  
# PVC 资源清单
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: pvc1
  namespace: test
spec:
  accessModes: <[]string> # 访问模式
    - 
  selector: # 通过Label Selector的设置，可使PVC对于系统中已存在的PV进行筛选。
  storageClassName: # 存储类别
  resources: # 请求空间
    requests:
      storage: 5Gi

PV 与 PVC 创建使用

PV创建

# PV 存储资源创建: 两个2G，一个3G
# nfs 共享目录设置
[root@k8s-node1 /data/s0/kubernetes/test]$ mkdir -pv /data/s0/kubernetes/nfs/{pv1,pv2,pv3,pv4,pv5}
[root@k8s-node1 /data/s0/kubernetes/test]$ vim /etc/exports
/data/s0/kubernetes/nfs/pv1  192.168.9.0/24(rw,no_root_squash)
/data/s0/kubernetes/nfs/pv2  192.168.9.0/24(rw,no_root_squash)
/data/s0/kubernetes/nfs/pv3  192.168.9.0/24(rw,no_root_squash)
/data/s0/kubernetes/nfs/pv4  192.168.9.0/24(rw,no_root_squash)
/data/s0/kubernetes/nfs/pv5  192.168.9.0/24(rw,no_root_squash)
[root@k8s-node1 /data/s0/kubernetes/test]$ exportfs -r

# pv创建
[root@k8s-master /data/s0/kubernetes/test]$ vim pv.yaml
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv1      
spec:
  nfs: 
    path: /data/s0/kubernetes/nfs/pv1
    readOnly: false 
    server: k8s-node1
  capacity: 
    storage: 2Gi
  accessModes: 
    - ReadWriteMany 
  persistentVolumeReclaimPolicy: Retain
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv2      
spec:
  nfs: 
    path: /data/s0/kubernetes/nfs/pv2
    readOnly: false 
    server: k8s-node1
  capacity: 
    storage: 2Gi
  accessModes: 
    - ReadWriteMany 
  storageClassName: high
  persistentVolumeReclaimPolicy: Retain
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv3      
spec:
  nfs: 
    path: /data/s0/kubernetes/nfs/pv3
    readOnly: false 
    server: k8s-node1
  capacity: 
    storage: 3Gi
  accessModes: 
    - ReadWriteMany 
  storageClassName: high
  persistentVolumeReclaimPolicy: Retain 
  
[root@k8s-master /data/s0/kubernetes/test]$ kubectl apply -f pv.yaml  
persistentvolume/pv1 created
persistentvolume/pv2 created
persistentvolume/pv3 created
# 查看pvs
[root@k8s-master /data/s0/kubernetes/test]$ kubectl get pv 
NAME   CAPACITY   ACCESS MODES   RECLAIM POLICY   STATUS      CLAIM   STORAGECLASS   REASON   AGE
pv1    2Gi        RWX            Retain           Available                                   23s
pv2    2Gi        RWX            Retain           Available           high                    23s
pv3    3Gi        RWX            Retain           Available           high                    23s

PVC创建

# PVC 应用资源请求
[root@k8s-master /data/s0/kubernetes/test]$ vim pvc.yaml
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: pvc1
  namespace: test
spec:
  accessModes:
    - ReadWriteMany
  storageClassName: high
  resources: 
    requests:
      storage: 2Gi
[root@k8s-master /data/s0/kubernetes/test]$ kubectl apply -f pvc.yaml 
persistentvolumeclaim/pvc1 created
# 查看pv存储卷，PVC在pvs中查找存储类型一致、且最低符合存储容量要求的pv进行绑定
[root@k8s-master /data/s0/kubernetes/test]$ kubectl get pv
NAME   CAPACITY   ACCESS MODES   RECLAIM POLICY   STATUS      CLAIM       STORAGECLASS   REASON   AGE
pv1    2Gi        RWX            Retain           Available                                       3m58s
pv2    2Gi        RWX            Retain           Bound       test/pvc1   high                    3m58s
pv3    3Gi        RWX            Retain           Available               high                    3m58s

pod使用pvc

# deployment - pod  持久化存储
[root@k8s-master /data/s0/kubernetes/test]$ vim deploy-nginx.yaml
apiVersion: apps/v1 
kind: Deployment
metadata: 
  name: deploy-nginx       # deploy 名称 
  namespace: test 
  labels: 
    controller: deploy 
spec:
  replicas: 3              # 3个副本 
  revisionHistoryLimit: 3  
  paused: false
  progressDeadlineSeconds: 600 
  strategy:
    type: RollingUpdate 
    rollingUpdate: 
      maxSurge: 30% 
      maxUnavailable: 30%
  selector:
    matchLabels: 
      app: nginx-pod 
  template:               # pod 模板
    metadata:
      annotations:   
        deployment.kubernetes.io/revision: "1"  
        kubernetes.io/change-cause: "nginx:1.20"  
      labels: 
        app: nginx-pod 
    spec: 
      containers: 
        - name: nginx 
          image: nginx:1.20 
          imagePullPolicy: IfNotPresent
          ports: 
            - containerPort: 80
          volumeMounts:                  
            - name: nfs-path      
              mountPath: /var/log/nginx
      volumes:             
        - name: nfs-path                      # 使用pvc(nfs)
          persistentVolumeClaim: 
            claimName: pvc1
            readOnly: false
[root@k8s-master /data/s0/kubernetes/test]$ kubectl apply -f deploy-nginx.yaml 
# 查看pod
[root@k8s-master /data/s0/kubernetes/test]$ kubectl get pod -n test -o wide
NAME                           READY   STATUS    RESTARTS   AGE   IP               NODE         NOMINATED NODE   READINESS GATES
deploy-nginx-6d8656f6d-2tzp2   1/1     Running   0          61s   10.244.36.80     k8s-node1    <none>           <none>
deploy-nginx-6d8656f6d-p9zr9   1/1     Running   0          63s   10.244.235.222   k8s-master   <none>           <none>
deploy-nginx-6d8656f6d-s7cfr   1/1     Running   0          59s   10.244.36.81     k8s-node1    <none>           <none>
# 查看共享卷
[root@k8s-node1 /data/s0/kubernetes]$ ls nfs/pv2
access.log  error.log

2.5 Service

**Service：**可以看做是一组同类pod对外的唯一访问接口，也是通过Label Selector 来选择一组相同label的对象。借助Service，应用可以方便的实现服务发现和负载均衡。

主要解决问题：
- Pod的IP会随着Pod的重建产生变化，服务ip不固定。
- Pod的IP仅仅是集群内部可见的虚拟的IP，外部无法访问，service可以暴露服务端口且能实现负载均衡。
- Service在很多情况下只是一个概念，真正起作用的其实是kube-proxy服务进程，每个Node节点上都运行了一个kube-proxy的服务进程。当创建Service的时候会通过API Server向etcd写入创建的Service的信息，而kube-proxy会基于监听的机制发现这种Service的变化，然后它会将最新的Service信息转换为对应的访问规则。

Service 创建与使用

Service 资源清单

apiVersion: v1 # 版本
kind: Service # 类型
metadata: # 元数据
  name: <string>  # 资源名称
  namespace: <string> # 命名空间
spec:
  selector: <map[string]string> # 标签选择器，用于确定当前Service代理那些Pod
    app: nginx
  type: <string> # Service的类型，指定Service的访问方式 ClusterIP/NodePort/LoadBalancer/ExternalName
  clusterIP: <string> # 虚拟服务的IP地址
  sessionAffinity: <string> # session亲和性，支持ClientIP、None两个选项，默认值为None
  ports: <[]Object> # 端口信息
    - port: 8080  # Service端口
      protocol: TCP # 协议
      targetPort : # Pod端口
      nodePort:  # 主机端口

Service 创建

# 查看现有pod 
[root@k8s-master /data/s0/kubernetes/test]$ kubectl get pod -n test -o wide
NAME                           READY   STATUS    RESTARTS   AGE   IP               NODE         NOMINATED NODE   READINESS GATES
deploy-nginx-6d8656f6d-2tzp2   1/1     Running   0          55m   10.244.36.80     k8s-node1    <none>           <none>
deploy-nginx-6d8656f6d-p9zr9   1/1     Running   0          55m   10.244.235.222   k8s-master   <none>           <none>
deploy-nginx-6d8656f6d-s7cfr   1/1     Running   0          55m   10.244.36.81     k8s-node1    <none>           <none>

# 配置Service
[root@k8s-master /data/s0/kubernetes/test]$ vim nginx-svc.yaml
apiVersion: v1 
kind: Service 
metadata: 
  name: svc  
  namespace: test 
spec:
  selector: 
    app: nginx-pod
  type: NodePort
  ports:
    - port: 8080 
      protocol: TCP 
      targetPort: 80 
      nodePort: 30080  
# 启动Service
[root@k8s-master /data/s0/kubernetes/test]$ kubectl apply -f nginx-svc.yaml  
service/svc created
# 查看服务
[root@k8s-master /data/s0/kubernetes/test]$ kubectl get svc -n test -o wide
NAME   TYPE       CLUSTER-IP   EXTERNAL-IP   PORT(S)          AGE   SELECTOR
svc    NodePort   10.0.0.240   <none>        8080:30080/TCP   52s   app=nginx-pod

# 测试服务
[root@k8s-master /data/s0/kubernetes/test]$ curl k8s-node1:30080
<!DOCTYPE html>
<html>
<head>
<title>Welcome to nginx!</title>
...
<p>For online documentation and support please refer to
<a href="http://nginx.org/">nginx.org</a>.<br/>
Commercial support is available at
<a href="http://nginx.com/">nginx.com</a>.</p>
<p><em>Thank you for using nginx.</em></p>
</body>
</html>