Kubernetes 正式发布 v1.26，稳定性显著提升

太平洋时间 2022 年 12 月 8 号 Kubernetes 正式发布了主题为 `Electrifying` 的 v1.26。

作为 2022 年最后的一个版本，增加了很多新的功能，同时在稳定性上也得到显著提升，我们将从以下多个角度来介绍 1.26 版本的更新。

更新概览：

Kube APIServer: 作为 Kubernetes 请求的入口，本次更新增加了 4 个 KEP 新功能，并且在响应压缩上做了一些优化，另外还有 2 个功能也从 Alpha 升级到了 Beta。
节点: 我们将与 kubelet 关系最为密切的更新放在这里，主要包括 4 个新增的 KEP 功能，并且有 4 个功能在该版本 GA。
存储: 存储方面主要是增加了从其他命名空间 (跨命名空间)的快照中分配卷的功能，并且有 2 个存储相关功能进入了 Beta 阶段，3 个功能正式 GA。
网络: 主要是对 Kube Proxy 的更新，包括一个性能优化的 KEP，并且有 2 个功能进入 Beta，4 个功能正式 GA。
资源控制与调协: 主要是针对在 kube-controller-manager 中相关资源 controller 的更新，同样也有 2 个新增的 KEP 功能，有 2 个功能由 Alpha 升级到 Beta，还有 1 个功能正式 GA。
调度器: 主要新增了一个重要 KEP 功能 - PodSchedulingReadiness 用于控制 Pod 何时可以被调度器调度，并且有 1 个功能由 Alpha 升级到 Beta。
可观测性: 在可观测性上主要是增加了一种新的暴露组件状态的机制 - Component Health SLIs，另外各组件中也增加了很多指标。
kubectl 命令，kubeadm 以及 client-go 也有一些优化和 Bug Fix。
对于已经 GA 的功能，根据 Kubernetes的版本迭代策略，在 1.26 中也移除了 11 个 Feature Gates，如果在组件命令中继续设置了这些 Feature Gates，那么组件就会无法正常启动。

下面，我们先来看一些比较重要的、对升级有影响的 API 废弃与更改。

API 废弃
与更改

PR#110618 Kubelet 不再支持 v1alpha2 版本的 CRI，接入的容器运行时必须实现 v1 版本的容器运行时接口。

这意味着 Kubernetes v1.26 将不支持 containerd 1.5.x 及更早的版本；需要升级到 containerd 1.6.x 或更高版本后，才能将该节点的 kubelet 升级到 1.26。

PR#112306 flowcontrol.apiserver.k8s.io 增加 v1beta3 版本，并将 v1beta2 设为最优版本，在 1.27 中将设置 v1beta3 为最优版本。

PR#113336 CSIMigrationvSphere 功能已经 GA 并且该功能无法被关闭。

官方提示：如果你需要使用 Windows、XFS 或者 raw block 的话，不要升级到 Kubernetes v1.26。等到 vSphere CSI Driver 在 v2.7.x 后的版本中增加相关的支持，即可进行升级。

PR#113710 kube-controller-manager 命令中 --pod-eviction-timeoutflag 被废弃，并且和 --enable-taint-managerflag 一起在 1.27 被移除。

PR#112643 DynamicKubeletConfig 在 1.23 中废弃，kubelet 中的逻辑已经在 1.24 中移除，本次更新将 FeatureGateDynamicKubeletConfig 和APIServer内的逻辑移除。

PR#112120 Kube 组件中删除一些无效的 klog 相关的 flags。

02 Kube APIServer

KEP-2799 Reduction of Secret-based Service Account Tokens

新增 Alpha Feature Gate —— LegacyServiceAccountTokenTracking 来控制是否开启该功能。

当开启 LegacyServiceAccountTokenTracking 时，基于 secret 的 sa token 会使用 label kubernetes.io/legacy-token-last-used 来记录最后的使用时间。

KEP-3488 CEL for Admission Control

相关 PR: PR#113314 ，PR#113349 ，PR#112994 ，PR#112792 ，PR#112926 ，PR#112858 。

基于 Kubernetes v1.25 提供的 KEP-2876 CRD 验证表达式语言[1] ，该功能在 admissionregistration.k8s.io/v1alpha1 下增加一个新的资源 —— ValidatingAdmissionPolicy，允许在不使用 Validation Webhook 时实现字段验证。

apiVersion: admissionregistration.k8s.io/v1alpha1kind: ValidatingAdmissionPolicymetadata:  name: "demo-policy.example.com"Spec:  failurePolicy: Fail  matchConstraints:    resourceRules:    - apiGroups:   ["apps"]      apiVersions: ["v1"]      operations:  ["CREATE", "UPDATE"]      resources:   ["deployments"]  validations:    - expression: "object.spec.replicas <= 5"

这会要求资源的 spec.replicas 字段小于等于 5。

新增 Alpha Feature Gate —— ValidatingAdmissionPolicy 来控制是否开启该功能

KEP-3352 Aggregated Discovery PR#113171

用户当前获取 Discovery API 只能去遍历请求 Group 和 Version API，而该功能将这些调用减少到只需要请求 /api 和 /apis 两个接口即可。

新增 Alpha Feature Gate —— AggregatedDiscoveryEndpoint来控制是否开启该功能。

KEP-3325 Auth API to get self user attributes PR#111333

在 authentication/v1alpha1 组中新增资源 SelfSubjectReview 来提供给用户查询自己在 Kubernetes 中映射的用户信息。

并且新增了 kubectl alpha auth whoami命令来方便查询。

$ kubectl alpha auth whoami -o yamlapiVersion: authentication.k8s.io/v1alpha1kind: SelfSubjectReviewstatus:  userInfo:    username: jane.doe    uid: b79dbf30-0c6a-11ed-861d-0242ac120002    groups:    - students    - teachers    - system:authenticated    extra:      skills:      - reading      - learning      subjects:      - math      - sports

新增 Alpha Feature Gate —— APISelfSubjectAttributesReview 来控制是否开启该功能。

PR#112193 APIServer 增加 --aggregator-reject-forwarding-redirect flag，用户可以设置为 false，来继续转发 AA(Aggregated API）Server 的重定向响应，默认为 true。

PR#113015 可以通过 --encryption-provider-config 文件指定自定义资源，这些自定义资源就可以在 etcd 中加密存储。

Response Compression

PR#112299 根据从数千个生产 Kubernetes 集群收集的负载测试和生产数据，社区观察到 Kubernetes APIServer 中的 gzip 压缩目前不是最优的。

ISSUE: kubernetes/kubernetes#112296

这里有一些报告[2] 和会议纪要[3] 。

PR#112309 在 kubeconfig 增加 DisableCompression 字段，设置为 true 时，要求不再对响应进行压缩。

PR#112580 在 kubectl 中增加 --disable-compression flag，设置为 true 时，要求不再对响应进行压缩。

功能稳定性升级

Alpha -> Beta

Feature Gate	KEP
LegacyServiceAccountTokenNoAutoGeneration	KEP-2799 Reduction of Secret-based Service Account Tokens
APIServerIdentity	KEP-1965 kube-apiserver identity

03 节点（Kubelet）

KEP-3063 dynamic resource allocation PR#111023

新增resource.k8s.io/v1alpha1组并且在该Group下增加动态资源分配相关的资源-'ResourceClaim'，'ResourceClass'，'ResourceClaimTemplate'，'PodScheduling'。

新增 Alpha Feature Gate —— DynamicResourceAllocation 来控制是否开启该功能。

新的 API 比 Kubernetes 现有的设备插件 (Device Plugins) 功能更灵活，因为它允许 Pod 请求特殊类型的资源，这些资源可以在节点级、集群级或按照用户设置的其他模式提供。

同样 Pod 结构也增加了相应对动态资源分配的支持。

apiVersion: v1kind: Podspec:  containers:  - name: with-resource    image: busybox    command: ["sh", "-c", "set && mount && ls -la /dev/"]    resources:      claims:      - name: resource  resourceClaims:  - name: resource    source:      resourceClaimName: shared-claim      # resourceClaimTemplateName: test-inline-claim-template

KEP-3545 Improved multi-numa alignment in Topology Manager PR#112914

该功能通过对 TopologyManager 的优化来更好的处理 NUMA(Non-Uniform Memory Access) 节点。

在 kubelet config 和 kubectl 命令中分别增加一个新的可配置项 topologyManagerPolicyOptions 字段和 --topology-manager-policy-options flag 来设置 Topology Manager Policy 的额外配置

并且新增三个 Alpha Feature Gate 来控制对 Topology Manager Policy 的配置

TopologyManagerPolicyOptions
TopologyManagerPolicyAlphaOptions
TopologyManagerPolicyBetaOptions

TopologyManagerPolicyOptions控制是否支持TopologyManagerPolicyOptions 功能，而另外两个分别用来控制是否可以设置 TopologyManagerPolicy 的 Alpha 和 Beta 级别的 Options。

当然使用 TopologyManager 功能还需要开启 TopologyManager Feature Gate，不过该 Feature Gate 已经处于 Beta 阶段，并不需要主动设置。

KEP-3386 Kubelet Evented PLEG for Better Performance PR#111384

该功能让 kubelet 在跟踪节点中 Pod 状态时，通过尽可能依赖容器运行时接口(CRI) 的通知来减少定期轮训，这会减少 kubelet 对 CPU 的使用

新增 Alpha Feature Gate —— EventedPLEG 来控制是否开启该功能。

PR#86139 在过去版本中，在容器 preStop 和 postStart 生命周期回调中使用 httpGet 时，即使将 schemes 设置为 HTTPS，也依然使用 http 来访问，并且设置请求中也不会应用用户设置的 Headers。

lifecycle:  postStart:    port: 443    httpGet:      scheme: HTTPS    httpHeadlers:    - name: HEADER      value: VALUE

该 PR 修复了这些问题，并且当 https 访问异常时会回退回 http 请求，当发生回退时，会为该 Pod 创建一个 LifecycleHTTPFallback 事件，并且更新 kubelet_lifecycle_handler_http_fallbacks_total指标。

另外新增了一个 Alpha Feature Gate - ConsistentHTTPGetHandlers，用户可以在 kubelet 中设置 --feature-gates=ConsistentHTTPGetHandlers=false 来关闭该回退行为。

KEP-3503 Windows 中允许指定 Pod 是否加入到节点的网络命名空间 PR#112961

新增 Alpha Feature Gate —— WindowsHostNetworking 来控制是否开启该功能。

PR#112414 允许将 /etc/resolv.conf 中多行选项合并为单行设置到 Pod 中。

options ndots:1 attempts:3options ndots:1 attempts:3 ndots:5

options ndots:5 attempts:3

BUG FIX

PR#113041 修复了执行 kubectl exec 时，由于 lifecycle.preStop 导致 kubelet 由于容器名称重复而选择了错误容器的问题。

PR#108832 当容器设置了 limit.cpu，但是 requests.cpu 为 "0" 时，cgroups cpuShares 取最小值 2，而不是使用 limit.cpu。

PR#112184 kubelet 只设置 --cloud-provider 或者 --node-ip 时，会确保清除节点中无效的 annotation - alpha.kubernetes.io/provided-node-ip。

PR#113481 修复 kubectl logs --timestamps 查看日志时，出现混乱的随机时间戳的问题。

PR#112518 修复了启用 PodDisruptionConditions 特性门控时，Pod 在打了 NoExecute 污点的节点上继续运行的问题。

PR#112123 将 cpuCFSQuotaPeriod 的最小值从 1us 设置为 1ms，设置 1ms 以下的值将会验证失败。

相关 PR: PR#112077 ，PR#111520 ，PR#63437

功能稳定性升级

Beta -> GA

Feature Gate	KEP
CPUManager	KEP-3057 Graduate to CPUManager to GA
DevicePlugins	KEP-3573 Graduate DeviceManager to GA
KubeletCredentialProviders	KEP-2133 Kubelet Credential Provider
WindowsHostProcessContainers	KEP-1981 Support for Windows privileged containers

04 存储

KEP-3294 Provision volumes from cross-namespace snapshots

相关 PR: PR#113186 ，PR#kubernetes-csi/external-rpovisioner#805

在 Kubernetes 1.26 之前，通过 VolumeSnapshot，用户可以从快照中分配卷。但是它无法无法在 PersistentVolumeClaim 中绑定到其他名称空间的 VolumeSnapshots。

apiVersion: v1kind: PersistentVolumeClaimspec:  storageClassName: csi-hostpath-sc  accessModes:  - ReadWriteOnce  resources:    requests:      storage: 1Gi  dataSourceRef:    apiGroup: snapshot.storage.k8s.io    kind: VolumeSnapshot    name: new-snapshot-demo    namespace: prod  volumeMode: Filesystem

该功能支持用户通过设置 PVC 中新增的字段 spec.dataSourceRef.namespace 来跨命名空间从快照中分配卷

新增 Alpha Feature Gate —— CrossNamespaceVolumeDataSource 来控制是否开启该功能

功能稳定性升级

Alpha -> Beta

Feature Gate	KEP
RetroactiveDefaultStorageClass	KEP-3333 Retroactive default StorageClass assignement
NodeOutOfServiceVolumeDetach	KEP-2268 Non-graceful node shutdown

Beta -> GA

Feature Gate	KEP
CSIMigrationAzureFile	KEP-625 In-tree storage plugin to CSI Driver Migration
CSIMigrationvSphere	KEP-1491 vSphere in-tree to CSI driver migration
DelegateFSGroupToCSIDriver	KEP-2317 Allow Kubernetes to supply pod's fsgroup to CSI driver on mount

05 网络

PR#110268 优化 kube-proxy 性能，它只发送在调用 iptables-restore 中更改的规则，而不是整个规则集

新增 Alpha Feature Gate —— MinimizeIPTablesRestore来控制是否开启该功能。

PR#108250 kube-proxy新增flag--iptables-localhost-nodeports来允许用户禁止通过localhost访问NodePort的Service。

PR#111806 如果用户要求使用 ipvs，但是系统没有正确配置时，不再回退到 iptables 模式，而是返回错误。

PR#113363 如果 kube-proxy 检测到分配给 Node 的 pod.Spec.PodCIDRs 已经改变，那么它将重新启动。

PR#112133 移除已经废弃的 "userspace" 代理模式。

功能稳定性升级

Alpha -> Beta

Feature Gate	KEP
ProxyTerminatingEndpoints	KEP-1669 Proxy Terminating Endpoints
ExpandedDNSConfig	KEP-2595 Expanded DNS configuration

Beta -> GA

Feature Gate	KEP
MixedProtocolLBService	KEP-1435 Support of mixed protocols in Services with type=LoadBalancer
ServiceIPStaticSubrange	KEP-3070 Reserve Service IP Ranges For Dynamic and Static IP Allocation
ServiceInternalTrafficPolicy	KEP-2086 Service Internal Traffic Policy
EndpointSliceTerminatingCondition	KEP-1672 Tracking Terminating Endpoints

06 资源控制与协调

KEP-3017 PodHealthyPolicy for PodDisruptionBudget PR#113375

在 PodDisruptionBudget 资源中新增 spec.unhealthyPodEvictionPolicy 字段来控制不健康的 Pod 何时应该被考虑驱逐。

spec.unhealthyPodEvictionPolicy 字段当前可以设置的值有两个 —— IfHealthyBudget 和 AlwaysAllow

spec:  minAvailable: 2  selector:    matchLabels:      app: zookeeper  unhealthyPodEvictionPolicy: IfHealthyBudget

新增 Alpha Feature Gate —— PDBUnhealthyPodEvictionPolicy 来控制是否开启该功能

KEP-3335 StatefulSet Start Ordinal PR#112744

StatefulSet 当前是从 0 开始对 Pod 进行编号。

该功能在 StatefulSet 中增加一个 spec.ordinals.start 字段来控制 Pod 的起始编号。

apiVersion: apps/v1kind: StatefulSetspec:  ordinals:    start: 1

新增 Alpha Feature Gate —— StatefulSetStartOrdinal 来控制是否开启该功能

PR#112011 如果多个 HPA 涉及到相同的 Pod，那么会停止工作，并设置 HPA 的 ScalingAction Condition 为 False，Reason 为 AmbiguousSelector，该 PR 还包括多个 HPA 指向同一 Deployment 的情况。

功能稳定性升级

Alpha -> Beta

Feature Gate	KEP
JobPodFailurePolicy	KEP-3329 Retriable and non-retriable Pod failures for Jobs
PodDisruptionConditions	KEP-3329 Retriable and non-retriable Pod failures for Jobs

Beta -> GA

Feature Gate	KEP
JobTrackingWithFinalizers	KEP-2307 Job tracking without lingering Pods

07 Pod 调度

KEP-3521 Pod Scheduling Readiness

相关 PR: PR#113275，PR#113274，PR#113442

并不是 Pending 状态的 Pod 都已准备好被调度，有些 Pod 会因为缺少必要资源的状态而无法成功调度，而这也会对调度器中带来额外的工作。

该功能在 Pod 中增加 spec.schedulingGates 字段来控制 Pod 是否已经准备好真正调度。

spec:  schedulingGates:  - name: <value>

只有在 spec.schedulingGates 被清空时，才会开始调度：

$ kubectl get pod example-po NAME         READY   STATUS            RESTARTS   AGE example-po   0/1     SchedulingGated   0          30s

新增 Alpha Feature Gate —— PodSchedulingReadiness 来控制是否开启该功能

PR#111726 在 Scheduler 的调试 Dummper 中输出 Pending 状态的 Pod 信息。

优化与 BUG FIX

PR#111809 在使用 Patch 更新 Pod 状态时，除了 net.ConnectionRefused 外，遇到 ServiceUnavailable 和 InternalError 错误时也会进行重试

在 APIServer 暂时无法处理请求时，会出现 ServiceUnavailable 错误。

E0805 20:54:21.624945 123623 scheduler.go:356] Error updating pod foo: the server is currently unable to handle the request (patch pods foo)

InternalError 通常会由于 webhook 的临时故障而出现。

E0811 23:32:30.886582 213747 scheduler.go:357] Error updating pod foo: Internal error occurred: failed calling webhook "xyz": Post "xyz": context deadline exceeded

功能稳定性升级

Alpha -> Beta

Feature Gate	KEP
NodeInclusionPolicy	KEP-3094 Take taints/tolerations into consideration when calculating PodTopologySpread skew

08 可观测性

KEP-3466 Kubernetes Component Health SLIs

之前并没有标准的格式来暴露 Kubernetes 组件的健康信息，该功能在每个组件中增加了一个新的路径/metrics/slis，以 Prometheus 格式来公开服务级别指标 (ServiceLevelIndicator) 。

每个组件都需要暴露两个 metrics:

gauge: 组件当前的健康检查状态

# HELP kubernetes_healthcheck [ALPHA] This metric records the result of a single healthcheck.# TYPE kubernetes_healthcheck gaugekubernetes_healthcheck{name="etcd",type="healthz"} 1kubernetes_healthcheck{name="etcd",type="readyz"} 1

counter: 对每个健康检查检测到的状态的累积计数

# HELP kubernetes_healthchecks_total [ALPHA] This metric records the results of all healthcheck.# TYPE kubernetes_healthchecks_total counterkubernetes_healthchecks_total{name="etcd",status="success",type="healthz"} 15kubernetes_healthchecks_total{name="etcd",status="success",type="readyz"} 15

Kube APIServer: PR#112741
Kube Controller Manager: PR#112978
Kube Scheduler: PR#113026
Kubelet: PR#113030
Kube Proxy: PR#113057
Cloud Controller Manager: PR#113340

新增 Alpha Feature Gate —— ComponentSLIs 来控制是否开启该功能。

各组件中增加了一些 metrics 指标，并修复了一些指标计算的问题。

09 Kubectl 命令

子命令增强和修复

PR#109525 kubectl wait 命令支持在 -o jsonpath= 中设置不存在的字段，这在某些字段被异步设置时会很有用

PR#111096 kubectl api-resources 在 -o wide 输出时增加 categories 列，并且增加 --categories 参数来支持根据 categories 过滤。

PR#113819 kubectl alpha event 移动为顶级命令 kubectl events。

PR#111093修复了 kubectlrollouthistory--revision=<version>-ojson|yaml<resource> 来输出 json/yaml 时,返回最新版本而不是指定的revision。

PR#111571 优化 kubectl label --dry-run 命令的提示信息，避免用户误解为 label 已被设置。

before

$ kubectl label pod foo bar=baz --dry-run=serverpod/foo labeled

after

$ kubectl label pod foo bar=baz --dry-run=serverpod/foo labeled (server dry run)

PR#112556 优化 kubectl patch 使用 StrategicMerigePatch 更新自定义资源时的错误信息。

PR#112700 修复 kubectl covert 选择了错误的 api 版本的问题。

PR#109505 kubectl annotate 设置与原值相同值的 annotation 时，不再抛出错误。

PR#110907 执行 kubectl apply 时，如果指定了 --namespace，但是没有指定 --prune-allowlist，会删除非命名空间的资源，该 pr 只是增加打印一个警告，在 1.28 中 kubectl apply 在指定 namespace 时，不再删除无命名空间的资源 pv & namespace。

PR#113116 kubectl apply 增加 --prune-allowlist flag，配合 --prune flag 使用，替代已废弃的 --prune-whitelist flag。

Other

PR#113146 kubectl explain 命令可以通过环境变量 KUBECTL_EXPLAIN_OPENAPIV3 来使用 OpenAPIv3。

PR#112553 Kubectl 转义输出中的终端特殊字符。修复 CVE-2021-25743。

PR#112150 优化 kubectl 对 APIServer 返回的无效请求的显示。

PR#112243，PR#112261 废弃 kubectl run 命令的多个 flags，即使设置了他们也会被忽略。

Shell 补全

PR#113636 kubectl shell 补全支持在 bash 中显示命令描述。

bash-5.1$ kubectl a[tab][tab]alpha          (Commands for features in alpha)annotate       (Update the annotations on a resource)api-resources  (Print the supported API resources on the server)api-versions   (Print the supported API versions on the server, in the form of "group/version")apply          (Apply a configuration to a resource by file name or stdin)argo           (The command argo is a plugin installed by the user)attach         (Attach to a running container)auth           (Inspect authorization)autoscale      (Auto-scale a deployment, replica set, stateful set, or replication controller)
bash-5.1$ kubectl --c[tab][tab]--cache-dir              (Default cache directory)--certificate-authority  (Path to a cert file for the certificate authority)--client-certificate     (Path to a client certificate file for TLS)--client-key             (Path to a client key file for TLS)--cluster                (The name of the kubeconfig cluster to use)--context                (The name of the kubeconfig context to use)