机器人
AI 摘要
切换
CatGPT - TianliGPT(1)
本文介绍了 Kubernetes 中的存储机制，包括动态存储、绑定、持久化卷声明的保护、持久卷类型、PV 访问模式、回收策略、状态以及持久化演示说明。此外，还介绍了 StatefulSet 的启停顺序和使用场景。

1. ConfigMap 描述信息

image-20230512004313438

ConfigMap 功能在 Kubernetes1.2 版本中引入，许多应用程序会从配置文件、命令行参数或环境变量中读取配置信息。ConfigMap API 给我们提供了向容器中注入配置信息的机制，ConfigMap 可以被用来保存单个属性，也可以用来保存整个配置文件或者 JSON 二进制大对象。

ConfigMap 的创建

使用目录创建

—from-file 指定在目录下的所有文件都会被用在 ConfigMap 里面创建一个键值对，键的名字就是文件名，值就是文件的内容

使用文件创建

只要指定为一个文件就可以从单个文件中创建 ConfigMap

—from-file 这个参数可以使用多次，你可以使用两次分别指定上个实例中的那两个配置文件，效果就跟指定整个目录是一样的

使用字面值创建

使用文字值创建，利用 —from-literal 参数传递配置信息，该参数可以使用多次，格式如下

Pod 中使用 ConfigMap

使用 ConfigMap 来替代环境变量

用 ConfigMap 设置命令行参数

通过数据卷插件使用 ConfigMap

在数据卷里面使用这个 ConfigMap，有不同的选项。最基本的就是将文件填入数据卷，在这个文件中，键就是文件名，键值就是文件内容。

ConfigMap 的热更新

修改 ConfigMap

修改 log_level 的值为 DEBUG 等待大概 10 秒钟时间，再次查看环境变量的值

特别注意 configMap 如果以 ENV 的方式挂载至容器，修改 configMap 并不会实现热更新

ConfigMap 更新后滚动更新 Pod

更新 ConfigMap 目前并不会触发相关 Pod 的滚动更新，可以通过修改 pod annotations 的方式强制触发滚动更新

这个例子里我们在 .spec.template.metadata.annotations 中添加 version/config ，每次通过修改 version/config 来触发滚动更新。

注意 更新 ConfigMap 后：

  • 使用该 ConfigMap 挂载的 Env 不会同步更新

  • 使用该 ConfigMap 挂载的 Volume 中的数据需要一段时间（实测大概 10 秒）才能同步更新

  • 若无法正常加载，请点击查看 PDF 网页版本: Kubernetes - configMap.pdf

2. Secret 的作用

Secret 解决了密码、token、密钥等敏感数据的配置问题，而不需要把这些敏感数据暴露到镜像或者 Pod Spec 中。Secret 可以以 Volume 或者环境变量的方式使用.

Secret 有三种类型：

  • Service Account：用来访问 Kubernetes API，由 Kubernetes 自动创建，并且会自动挂载到 Pod 的 /run/secrets/kubernetes.io/serviceaccount 目录中
  • Opaque：base64 编码格式的 Secret，用来存储密码、密钥等
  • [kubernetes.io/dockerconfigjson](<http://kubernetes.io/dockerconfigjson>)：用来存储私有 docker registry 的认证信息

Service Account

Service Account 用来访问 Kubernetes API，由 Kubernetes 自动创建，并且会自动挂载到 Pod 的 /run/secrets/kubernetes.io/serviceaccount 目录中

Opaque Secret

Ⅰ、创建说明

Opaque 类型的数据是一个 map 类型，要求 value 是 base64 编码格式：

Ⅱ、使用方式

1、将 Secret 挂载到 Volume 中

2、将 Secret 导出到环境变量中

kubernetes.io/dockerconfigjson

使用 Kuberctl 创建 docker registry 认证的 Secret

在创建 Pod 的时候，通过 imagePullSecrets 来引用刚创建的 myregistrykey

3. Volume

image-20230512163019935

容器磁盘上的文件的生命周期是短暂的，这就使得在容器中运行重要应用时会出现一些问题。首先，当容器崩溃时，kubelet 会重启它，但是容器中的文件将丢失 —— 容器以干净的状态（镜像最初的状态）重新启动。其次，在 Pod 中同时运行多个容器时，这些容器之间通常需要共享文件。Kubernetes 中的 Volume 抽象就很好的解决了这些问题。

背景

Kubernetes 中的卷有明确的寿命 —— 与封装它的 Pod 相同。所以，卷的生命比 Pod 中的所有容器都长，当这个容器重启时数据仍然得以保存。当然，当 Pod 不再存在时，卷也将不复存在。也许更重要的是，Kubernetes 支持多种类型的卷，Pod 可以同时使用任意数量的卷。

卷的类型

Kubernetes 支持以下类型的卷：

  • awsElasticBlockStore、azureDisk、azureFile、cephfs、csi、downwardAPI
  • emptyDir、fc、flocker、gcePersistentDisk、gitRepo、glusterfs
  • hostPath、iscsi、local、nfs、persistentVolumeClaim、projected
  • portworxVolume、quobyte、rbd、scaleIO、secret、storageos、vsphereVolume

emptyDir

image-20230512164339988

当 Pod 被分配给节点时，首先创建 emptyDir 卷，并且只要该 Pod 在该节点上运行，该卷就会存在。正如卷的名字所述，它最初是空的。Pod 中的容器可以读取和写入 emptyDir 卷中的相同文件，尽管该卷可以挂载到每个容器中的相同或不同路径上。当出于任何原因从节点中删除 Pod 时， emptyDir 中的数据将被永久删除。

注意：容器崩溃不会从节点中移除 pod, 因此 emptyDir 卷中的数据在容器崩溃时是安全的.

emptyDir 的用法有：

  • 暂存空间，例如用于基于磁盘的合并排序。
  • 用作长时间计算崩溃恢复时的检查点。
  • Web 服务器容器提供数据时，保存内容管理器容器提取的文件。

hostPath

image-20230512164457482

hostPath 卷将主机节点的文件系统中的文件或目录挂载到集群中。

hostPath 的用途如下：

  • 运行需要访问 Docker 内部的容器；使用 /var/lib/docker 的 hostPath。
  • 在容器中运行 cAdvisor；使用 /dev/cgroups 的 hostPath。
  • 允许 pod 指定给定的 hostPath 是否应该在 pod 运行之前存在，是否应该创建，以及它应该以什么形式存在。

除了所需的 path 属性之外，用户还可以为 hostPath 卷指定 type。

值 行为
空字符串（默认）用于向后兼容，这意味着在挂载 hostPath 卷之前不会执行任何检查。
DirectoryOrCreate 如果在给定的路径上没有任何东西存在，那么将根据需要在那里创建一个空目录，权限设置为 0755，与 Kubelet 具有相同的组和所有权。
Directory 给定的路径下必须存在目录。
FileOrCreate 如果在给定的路径上没有任何东西存在，那么会根据需要创建一个空文件，权限设置为 0644，与 Kubelet 具有相同的组和所有权。
File 给定的路径下必须存在文件。
Socket 给定的路径下必须存在 UNIX 套接字。
CharDevice 给定的路径下必须存在字符设备。
BlockDevice 给定的路径下必须存在块设备。

使用这种卷类型是请注意，因为：

  • 由于每个节点上的文件都不同，具有相同配置（例如从 podTemplate 创建的）的 pod 在不同节点上的行为可能会有所不同。
  • 当 Kubernetes 按照计划添加资源感知调度时，将无法考虑 hostPath 使用的资源。
  • 在底层主机上创建的文件或目录只能由 root 写入。您需要在特权容器中以 root 身份运行进程，或修改主机上的文件权限以便写入 hostPath 卷。

4. 存储 PV - PVC 概念

PersistentVolume (PV)

是由管理员设置的存储，它是群集的一部分。就像节点是集群中的资源一样，PV 也是集群中的资源。PV 是 Volume 之类的卷插件，但具有独立于使用 PV 的 Pod 的生命周期。此 API 对象包含存储实现的细节，即 NFS、 iSCSI 或特定于云供应商的存储系统。

PersistentVolumeClaim (PVC)

是用户存储的请求。它与 Pod 相似。Pod 消耗节点资源，PVC 消耗 PV 资源。Pod 可以请求特定级别的资源（CPU 和内存）。声明可以请求特定的大小和访问模式（例如，可以以读 / 写一次或只读多次模式挂载）。

静态 PV

集群管理员创建一些 PV。它们带有可供群集用户使用的实际存储的细节。它们存在于 Kubernetes API 中，可用于消费。

动态

当管理员创建的静态 PV 都不匹配用户的 PersistentVolumeClaim 时，集群可能会尝试动态地为 PVC 创建卷。此配置基于 StorageClasses：PVC 必须请求 [存储类]，并且管理员必须创建并配置该类才能进行动态创建。声明该类为 "" 可以有效地禁用其动态配置。

要启用基于存储级别的动态存储配置，集群管理员需要启用 API server 上的 DefaultStorageClass [准入控制器]。例如，通过确保 DefaultStorageClass 位于 API server 组件的 --admission-control 标志，使用逗号分隔的有序值列表中，可以完成此操作。

绑定

master 中的控制环路监视新的 PVC，寻找匹配的 PV（如果可能），并将它们绑定在一起。如果为新的 PVC 动态调配 PV，则该环路将始终将该 PV 绑定到 PVC。否则，用户总会得到他们所请求的存储，但是容量可能超出要求的数量。一旦 PV 和 PVC 绑定后，PersistentVolumeClaim 绑定是排他性的，不管它们是如何绑定的。PVC 跟 PV 绑定是一对一的映射。

持久化卷声明的保护

PVC 保护的目的是确保由 pod 正在使用的 PVC 不会从系统中移除，因为如果被移除的话可能会导致数据丢失。

注意：当 pod 状态为 Pending 并且 pod 已经分配给节点或 pod 为 Running 状态时，PVC 处于活动状态.

当启用 PVC 保护 alpha 功能时，如果用户删除了一个 pod 正在使用的 PVC，则该 PVC 不会被立即删除。PVC 的删除将被推迟，直到 PVC 不再被任何 pod 使用。

image-20230512205026211

持久化卷类型

PersistentVolume 类型以插件形式实现。Kubernetes 目前支持以下插件类型：

  • GCEPersistentDisk、AWSElasticBlockStore、AzureFile、AzureDisk、FC (Fibre Channel)
  • FlexVolume、Flocker、NFS、iSCSI、RBD (Ceph Block Device)、StorageOS
  • CephFS、Cinder (OpenStack block storage)、Glusterfs、VsphereVolume
  • Quobyte Volumes、HostPath、VMware Photon、Portworx Volumes、ScaleIO Volumes

持久卷演示代码

PV 访问模式

PersistentVolume 可以以资源提供者支持的任何方式挂载到主机上。如下表所示，供应商具有不同的功能，每个 PV 的访问模式都将被设置为该卷支持的特定模式。例如，NFS 可以支持多个读 / 写客户端，但特定的 NFS PV 可能以只读方式导出到服务器上。每个 PV 都有一套自己的用来描述特定功能的访问模式。

访问模式 描述
ReadWriteOnce 该卷可以被单个节点以读 / 写模式挂载
ReadOnlyMany 该卷可以被多个节点以只读模式挂载
ReadWriteMany 该卷可以被多个节点以读 / 写模式挂载

在命令行中，访问模式缩写为：

  • RWO - ReadWriteOnce
  • ROX - ReadOnlyMany
  • RWX - ReadWriteMany

一个卷一次只能使用一种访问模式挂载，即使它支持很多访问模式。例如，GCEPersistentDisk 可以由单个节点作为 ReadWriteOnce 模式挂载，或由多个节点以 ReadOnlyMany 模式挂载，但不能同时挂载.

存储插件 ReadWriteOnce ReadOnlyMany ReadWriteMany
AWSElasticBlockStore ✓ - -
AzureFile ✓ ✓ ✓
AzureDisk ✓ - -
CephFS ✓ ✓ ✓
Cinder ✓ - -
FC ✓ ✓ -
FlexVolume ✓ ✓ -
Flocker ✓ - -
GCEPersistentDisk ✓ ✓ -
Glusterfs ✓ ✓ ✓
HostPath ✓ - -
iSCSI ✓ ✓ -
PhotonPersistentDisk ✓ - -
Quobyte ✓ ✓ ✓
NFS ✓ ✓ ✓
RBD ✓ ✓ -
VsphereVolume ✓ - -（当 pod 并列时有效）
PortworxVolume ✓ - ✓
ScaleIO ✓ ✓ -
StorageOS ✓ - -

回收策略

  • Retain（保留）—— 手动回收
  • Recycle（回收）—— 基本擦除（ rm -rf /thevolume/* ）[官方似乎在最新版已废弃⚠️]
  • Delete（删除）—— 关联的存储资产（例如 AWS EBS、GCE PD、Azure Disk 和 OpenStack Cinder 卷）将被删除

当前，只有 NFS 和 HostPath 支持回收策略。AWS EBS、GCE PD、Azure Disk 和 Cinder 卷支持删除策略。

状态

卷可以处于以下的某种状态：

  • Available（可用）—— 一块空闲资源还没有被任何声明绑定
  • Bound（已绑定）—— 卷已经被声明绑定
  • Released（已释放）—— 声明被删除，但是资源还未被集群重新声明
  • Failed（失败）—— 该卷的自动回收失败，命令行会显示绑定到 PV 的 PVC 的名称

持久化演示说明 - NFS

Ⅰ、安装 NFS 服务器

Ⅱ、部署 PV

Ⅲ、创建服务并使用 PVC

关于 StatefulSet

  • 匹配 Pod name (网络标识) 的模式为：$(statefulset名称)-$(序号)，比如上面的示例：web-0，web-1，web-2。
  • StatefulSet 为每个 Pod 副本创建了一个 DNS 域名，这个域名的格式为： $(podname).(headless server name)，也就意味着服务间是通过 Pod 域名来通信而非 Pod IP，因为当 Pod 所在 Node 发生故障时， Pod 会被飘移到其它 Node 上，Pod IP 会发生变化，但是 Pod 域名不会有变化。
  • StatefulSet 使用 Headless 服务来控制 Pod 的域名，这个域名的 FQDN 为：$(service name).$(namespace).svc.cluster.local，其中，“cluster.local” 指的是集群的域名。
  • 根据 volumeClaimTemplates，为每个 Pod 创建一个 pvc，pvc 的命名规则匹配模式：([volumeClaimTemplates.name](<http://volumeclaimtemplates.name/>))-(pod_name)，比如上面的 volumeMounts.name=www， Pod name=web-[0-2]，因此创建出来的 PVC 是 www-web-0、www-web-1、www-web-2。
  • 删除 Pod 不会删除其 pvc，手动删除 pvc 将自动释放 pv。

StatefulSet 的启停顺序：

  • 有序部署：部署 StatefulSet 时，如果有多个 Pod 副本，它们会被顺序地创建（从 0 到 N-1），在下一个 Pod 运行之前所有之前的 Pod 必须都是 Running 和 Ready 状态。
  • 有序删除：当 Pod 被删除时，它们被终止的顺序是从 N-1 到 0。
  • 有序扩展：当对 Pod 执行扩展操作时，与部署一样，它前面的 Pod 必须都处于 Running 和 Ready 状态。

StatefulSet 使用场景：

  • 稳定的持久化存储，即 Pod 重新调度后还是能访问到相同的持久化数据，基于 PVC 来实现。
  • 稳定的网络标识符，即 Pod 重新调度后其 PodName 和 HostName 不变。
  • 有序部署，有序扩展，基于 init containers 来实现。
  • 有序收缩。

image-20230513233530841