在Kubernetes(K8S)里面摸爬滚打,如果你只会 kubectl run 和 kubectl apply,那离“会用”还差着十万八千里。我见过不少刚接触K8S的朋友,上来就写Pod清单,kubectl apply 一下,业务跑了,就觉得自己会了。结果一问“如果这个Pod挂了怎么办”,对方一脸茫然——重新apply一次呗。这就是典型的还没理解Pod控制器(Controller)的价值。
可以这么说:Pod是K8S里调度的最小单元,但直管Pod不挂代理的用法几乎只存在于测试环境。真正扛线上流量的,永远是Pod控制器。它帮你管副本数、管滚动更新、管故障自愈、管网络标识的稳定性。这篇文章我会把这套东西掰开揉碎讲清楚,包括控制器到底在解决什么问题、Deployment和StatefulSet这类主流控制器怎么选怎么用、滚动更新和回滚背后的细节逻辑,以及我踩过的那些真金白银的坑。适合刚学完K8S基础、准备上手搭建集群跑业务的人,也适合准备面试时被问到“Deployment和StatefulSet区别”这类问题的人。
1. 先搞清楚:Pod控制器到底解决了什么问题
1.1 没有控制器时我们是怎么跑业务的
先把场景拉回到最原始的K8S用法。你写好一个Pod的YAML,里面定义了一个nginx容器,kubectl apply -f nginx.yaml,Pod跑起来了,IP也分配到了,一切看似美好。
但线上哪有这么理想。有一次我在测试环境模拟节点故障,直接把Pod所在的那台worker节点关机。结果呢?这个Pod就永远卡在Terminating状态,业务彻底断掉。因为裸Pod没有“保活”机制,它的生命周期和节点强绑定,节点挂了它就没了,而且没有谁会去重新拉起一个新Pod。这就是为什么K8S官方文档里反复强调:不要直接创建Pod,哪怕只有一个副本,也应该交给控制器去管。
裸Pod的另一个问题是没有“声明式”的恢复能力。比如你想跑3个副本,手动创建3个Pod当然可以,但其中一个Pod被误删了,系统并不会替你补回来。你再apply一次YAML,K8S只会告诉你“Pod已经存在”,然后什么都不做。这其实反映了K8S一个非常重要的底层哲学:它只负责“维持你声明的期望状态”,而不是“帮你执行一次性的操作”。而控制器,正是把这种哲学落到实处的核心机制。
1.2 控制器的核心思路:期望状态与控制回路
K8S里控制器的设计灵感来自我们熟悉的恒温器。你设定了26度,这是期望状态;温度传感器读到当前房间是23度,这是实际状态;空调就会开始制热,直到实际状态达到期望状态。控制器在K8S里干的也是一模一样的事。
每个控制器都盯着两类对象:一类是它自己管理的那份期望状态(比如Deployment里写的replicas: 3),另一类是集群里的实际资源状态(通过API Server实时watch到的Pod数量)。两者一旦不一致,控制器就调用API去创建或删除Pod,直到实际数量与期望数量完全对齐。这个“监听-对比-动作-再监听”的循环,在源码里叫Reconcile(调谐),也是面试时特别爱问的一个点。
这里有个细节值得注意:控制器并不是“实时监控Pod进程挂了没有”,而是监听API Server上对象的变化。如果你用 kubectl get pod 看到一个Pod的状态是Error或者Completed,但这依然是一个“存在于etcd里的Pod对象”,控制器并不会因为容器退出就立刻删掉它。它真正关心的是Pod对象的数量是否等于期望值,以及Pod有没有处于Running状态。理解了这一点,后面排查很多问题都会顺不少。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 五种主流Pod控制器,每个都要会用
2.1 Deployment:日常业务的无状态主力
Deployment可以说是K8S里出场率最高的控制器,没有之一。我自己的项目、包括帮朋友搭的集群里,90%的无状态Web服务都是用Deployment跑的。
Deployment最核心的价值是管理无状态应用。什么叫无状态?就是每个实例之间不共享本地数据、不依赖固定的网络身份,任何一个实例挂了,新建一个顶上来就行。比如Nginx、后端API、前端静态页面,这些都是典型的无状态服务。Deployment会帮你自动创建一个ReplicaSet,再由ReplicaSet去管理Pod副本数。
Deployment还有一个隐藏技能是滚动更新。老版本K8S里Deployment直接管Pod,后来演进成Deployment——ReplicaSet——Pod三层结构,其实就是为了把“更新版本”这件事拆出来。每次你修改镜像tag再apply,Deployment就会创建一个新的ReplicaSet,然后逐渐缩容旧的ReplicaSet里的Pod、扩容新ReplicaSet里的Pod,整个过程业务不中断。这也是Deployment最吸引人的地方——我后来给生产环境升级版本,基本都是跑一遍滚动更新再加一句kubectl rollout status确认结果,很少出现过因为升级导致的服务中断。
Deployment的局限也在于“无状态”三个字。数据库、消息队列这类需要稳定存储和稳定网络标识的应用,用Deployment去跑就是灾难。因为Deployment创建的Pod名字是随机后缀,IP也不是固定的,缩容之后数据也没法跟Pod动态绑定。遇到这种场景,就得请出下面这位。
2.2 StatefulSet:有状态应用的稳定基石
StatefulSet可以说是K8S里把“稳定”两个字做到极致的控制器。它管理的Pod有几个非常鲜明的特征:Pod名字不是随机后缀,而是有顺序的编号,比如web-0、web-1、web-2;每个Pod都会绑定一块独立的PVC(持久化存储声明),哪怕Pod被删了重建,挂载的存储卷还是原来那块;Pod的网络标识也是稳定的,就算Pod漂移到另一台节点,它的主机名和DNS记录不会变。
我最初用StatefulSet是在集群里部署一套主从架构的Redis。主要就图它两点:一是.spec.serviceName可以配合Headless Service生成稳定的DNS记录,像redis-0.redis.default.svc.cluster.local这种,从节点配置主节点地址的时候直接写这个域名,不需要关心Pod IP会不会变;二是每个副本拥有独立PVC,数据永远跟着Pod走,扩缩容、重建都不怕丢数据。
StatefulSet的坑其实也不少。最典型的是扩缩容顺序不可控,它默认按照编号顺序启动,比如web-0没Ready之前,web-1不会启动。如果你一次性扩容10个副本,整个启动过程会非常慢,因为后面的Pod都在等待前面一个变成Ready。另外,StatefulSet的更新策略如果选错了,比如用OnDelete,那更新镜像之后Pod并不会自动滚动,必须手动一个个删掉才会重建,很多人第一次用的时候都会懵一下。还有一个字面上的坑:StatefulSet默认删除时不级联删除PVC,这本来是为了保护数据不被误删的设计,但如果你正想彻底清理一套测试环境,就会发现PV怎么删都删不掉,因为PVC还在被引用,需要手动一个个清理。
2.3 DaemonSet:每个节点都必须有的守护者
DaemonSet这个控制器的逻辑非常直白:保证集群里每个符合条件的节点都运行一个Pod副本。节点加入集群,它就自动在那个节点上创建一个Pod;节点从集群移除,对应的Pod也会被回收。它不需要你指定副本数,因为节点数就是它的目标副本数。
DaemonSet最常见的用武之地是监控和日志采集。像我实际用过的一个场景,就是给集群里所有节点都部署一个filebeat容器,把每个节点上的容器日志统一收集到Elasticsearch。节点只有一台?那也跑一个filebeat,不多不少正好匹配。还有像kube-proxy、kube-flannel这种网络插件组件,在集群里本来就是以DaemonSet方式部署的,因为它们必须在每个节点上都存在一份,负责该节点的网络规则。
实操中你只需要注意过滤条件。DaemonSet默认在所有节点上部署,但你可以通过nodeSelector、nodeAffinity、tolerations来控制它跑在哪些节点上。比如我们集群里有GPU的机器要单独跑一个NVIDIA驱动检查的DaemonSet,其他人不会的节点就不需要它。这种细粒度的控制,在混合硬件集群里特别有用,面试时也会被问。
2.4 Job与CronJob:一次性任务和定时任务的正确姿势
Job和Deployment这类“持续运行”的控制器有本质区别。Deployment期望的是Pod一直活着,进程挂了会自动重建;Job期望的是Pod跑完指定任务然后正常退出,它关心的是“任务有没有成功完成”。
我之前写过一个数据迁移的Job,容器里跑一个Python脚本,从老库抽数据写到新库。脚本跑完进程正常退出,Job就标记为Completed。如果你用Deployment跑这个任务,就会很尴尬——脚本跑完容器退出,Deployment以为出了故障,又强行给你拉起一个新Pod再跑一遍,最后数据重复写入,还会互相打架。所以Job的适用场景就是“跑完就结束”的批处理任务,比如数据备份、批量数据处理、一次性初始化脚本。
CronJob就是在Job的基础上加了时间调度,语法和Linux的crontab完全一样。schedule: "0 2 * * *"表示每天凌晨两点执行一次。注意CronJob的历史记录清理,successfulJobsHistoryLimit和failedJobsHistoryLimit这两个参数我建议一定要设,否则跑时间长了命名空间里会堆满已经结束的Job对象,看着乱不说,还会增加API Server的负担。我自己就吃过这个亏,一个每天跑一次的定时任务,一个月后kubectl get pods -A滚动翻页翻了半天,全是历史遗留的Completed Pod。后来设置了successfulJobsHistoryLimit: 3,清爽多了。
2.5 控制器选型速查表
说了这么多,给一张我常用的选型对照表,直接照着选就行。
| 控制器 | 应用类型 | Pod名称 | 存储 | 更新方式 | 典型场景 |
|---|---|---|---|---|---|
| Deployment | 无状态 | 随机后缀 | 不推荐挂独立PVC | 滚动更新/RollingUpdate | Web服务、API、Nginx |
| StatefulSet | 有状态 | 有序编号 | 每个Pod独立PVC | 滚动更新/OnDelete | 数据库、Redis、ZooKeeper |
| DaemonSet | 节点级守护 | 由控制器生成 | 可选HostPath | RollingUpdate | 日志采集、监控Agent、网络插件 |
| Job | 一次性任务 | 随机后缀 | 可选 | 无 | 数据迁移、批量处理 |
| CronJob | 定时任务 | 随机后缀 | 可选 | 无 | 定时备份、清理任务 |
一般来说,无状态服务无脑选Deployment;有持久化数据、要求网络标识稳定,选StatefulSet;每个节点都要有的组件,选DaemonSet;跑完就退出,选Job或者CronJob。这句话基本可以应付绝大多数选型场景。
3. Deployment实操:从清单编写到滚动发布
3.1 一份能上生产的Deployment清单长什么样
聊完控制器家族的谱系,我们落到最常用的Deployment上,走一遍完整实操。
先看一份我认为可以拿去上生产的简化版Deployment YAML:
yaml复制apiVersion: apps/v1
kind: Deployment
metadata:
name: nginx-deploy
namespace: default
labels:
app: nginx
spec:
replicas: 3
selector:
matchLabels:
app: nginx
strategy:
type: RollingUpdate
rollingUpdate:
maxSurge: 1
maxUnavailable: 0
revisionHistoryLimit: 5
template:
metadata:
labels:
app: nginx
spec:
containers:
- name: nginx
image: nginx:1.27.2
ports:
- containerPort: 80
resources:
requests:
cpu: 100m
memory: 128Mi
limits:
cpu: 500m
memory: 256Mi
readinessProbe:
httpGet:
path: /healthz
port: 80
initialDelaySeconds: 5
periodSeconds: 5
每个字段背后都有讲究。apiVersion用的是apps/v1,这是目前稳定版的API组,早期extensions/v1beta1那种老写法早就不推荐了。metadata.labels和spec.template.metadata.labels要区分开:前者是Deployment自己的标签,后者是它创建的Pod的标签,两者可以一样,但不要混为一谈。
spec.selector.matchLabels必须和Pod模板的标签匹配,这是控制器关联Pod的核心依据。注意K8S强制这个字段在Deployment创建后不可修改——这也是为什么设计清单的时候就要把标签想好,后面想改标签,只能删掉Deployment重建,这个坑我踩过不止一次。
3.2 replicas、selector与Pod模板的坑
replicas看似简单,就是“期望副本数”,但它和水平自动伸缩(HPA)配合时要小心。如果你同时设置了HPA,HPA会动态调整Deployment的replicas字段,这时候你手动kubectl scale修改副本数,很快就会被HPA拉回它自己计算的值。所以线上如果开了HPA,就不要手动改副本数,一切交给HPA去折腾。
selector这个字段特别容易踩坑。它用的是matchLabels,这个匹配是集合式的,不是精确相等。比如matchLabels里写了app: nginx,那么所有带app: nginx标签的Pod都会被这个控制器纳管。这意味着如果你两个Deployment用了相同的标签,那么两个控制器会同时去抢同一批Pod,轻则副本数混乱,重则Pod被反复创建删除。为了避免这种事故,我给每个Deployment打标签时都会加一个唯一标识,比如app.kubernetes.io/name: nginx-deploy,确保不同控制器的Selector不会重叠。
Pod模板里的容器配置也要仔细看。resources.requests和limits这两个配置我建议生产环境必须写。不写的话,K8S会认为这个Pod没有资源需求,调度器可能会把它调度到资源已经很紧张的节点上。更麻烦的是,如果节点资源不足,K8S会优先杀掉那些没有设置requests的Pod,因为它们在调度器眼里属于“可牺牲”的。曾经有个客户找我排查服务半夜被驱逐的问题,我上去一看,所有Pod都没设置resources,节点一扩容缩容就被驱逐,就是这么简单的原因。
3.3 滚动更新与回滚的细节
滚动更新是Deployment最核心的功能,也是面试必问点。先理解两个关键参数:maxSurge和maxUnavailable。
maxSurge: 更新时可以额外创建多少个Pod,可以是绝对数字,也可以是百分比。比如maxSurge: 1,表示最多允许超出期望副本数1个Pod。更新过程中,K8S会先创建一个新Pod,等它Ready再开始缩掉一个旧Pod。maxUnavailable: 更新时最多允许多少个Pod不可用。maxUnavailable: 0表示更新过程中不允许任何旧Pod下线,也就是说必须等新Pod Ready之后才能缩容旧Pod,这在生产环境里是最稳的模式,代价是更新期间可能短暂出现新旧Pod共存。
更新操作本身很简单:kubectl set image deployment/nginx-deploy nginx=nginx:1.28.0,或者直接改YAML再apply。然后kubectl rollout status deployment/nginx-deploy可以实时看更新进度。如果要回滚,一句话的事:kubectl rollout undo deployment/nginx-deploy,K8S会帮你回到上一个ReplicaSet。
这里有一个很多人忽略的细节:回滚不是把Pod模板改回去,而是切换ReplicaSet的流量,也就是说Deployment会重新激活上一个ReplicaSet并开始滚动。如果你想回到更早的版本,可以用kubectl rollout history deployment/nginx-deploy查看历史版本列表,然后用kubectl rollout undo deployment/nginx-deploy --to-revision=2指定版本号回滚。所以revisionHistoryLimit一定要留够,否则太老的版本会被自动清理掉,想回滚都找不到历史。
3.4 别忘了revisionHistoryLimit和资源配额
revisionHistoryLimit这个字段很多人会忽视,但它关系到你有没有后悔药可吃。它定义了Deployment最多保留多少个历史ReplicaSet。默认值是10,如果你经常发版,最好显式设置一下。设太大虽然方便回滚,但历史ReplicaSet对象会占不少etcd存储;设太小,比如1或2,那么你想回滚到3个版本前就会直接报错找不到revision。我一般是设5,兼顾存储和回溯需求。
还有 progressDeadlineSeconds,它控制滚动更新最多允许多久没有进展。比如设了300,5分钟内新Pod还没Ready,Deployment就会把这个状态标记为Progressing失败,方便你及时发现更新卡住了。这个字段和探针搭配使用特别好用:Pod启动慢的,探针initialDelaySeconds和periodSeconds要设置得合理一些,progressDeadlineSeconds稍微留出余量,这样线上排查问题时能少很多“假故障”。
4. 控制器排障与经验
4.1 实例:Pod一直Pending,问题出在哪
先分享一个最常见的故障:kubectl get pods看到某个Pod状态是Pending,一直不见好转。Pending的意思是调度器还没有把Pod分配到节点上,或者分配了但容器还没有启动。排查顺序一般是:kubectl describe pod <pod-name>看Events,重点关注有没有FailedScheduling事件。
我遇到过的典型原因是资源不满足请求。比如Pod的requests.cpu写的是1核,但集群里所有节点的可分配CPU加起来都不足1核,调度器就没法安排它。另一个常见原因是nodeSelector或nodeAffinity写了节点标签,但集群里没有节点带这个标签。这种时候,kubectl get nodes --show-labels直接查一遍就清楚了。还有一种情况是污点和容忍度不匹配,节点打了NoSchedule污点,而Pod没有对应的tolerations。这条可以记一下:遇到Pending,先describe,看Events里的FailedScheduling原因,几乎90%的问题都能从这里找到线索。
4.2 实例:CrashLoopBackOff,容器起来了又挂
CrashLoopBackOff这个状态大家一定不陌生。它意味着容器确实被创建了,但启动后立刻崩溃,然后被Kubelet不断重启,重启间隔指数退避。排查这个问题的第一步,永远是看日志:kubectl logs <pod-name>(如果容器已经崩溃,加上--previous看上一次容器的日志)。
我遇到过非常多CrashLoopBackOff的场景,有几种特别有代表性。一是镜像启动命令不对,比如镜像本身是准备让你覆盖CMD的,但你忘了写command,容器起来后不知道该跑什么程序直接退出。二是启动配置依赖外部服务,容器里连不上配置中心或数据库,直接panic退出。三是探针配置太激进,就绪探针或存活探针的initialDelaySeconds设得太短,容器还没启动完成就被杀掉。第三种最坑,因为日志里通常看不到应用报错,只能看到容器不断被Killing,但应用又没输出错误。遇到这种情况,把探针的时间参数放宽一点,大概率能解决。
4.3 实例:滚动更新卡在Waiting,不前进也不失败
还有一种比较隐蔽的故障:滚动更新执行之后,kubectl rollout status一直显示Waiting,新Pod起不来,旧Pod也不缩。这种时候先别急着怀疑控制器坏了,多半是新Pod没有通过就绪探针。
K8S滚动更新的逻辑是:新Pod必须变成Ready状态,才会继续缩容旧Pod。如果你的新版本镜像启动需要从远程拉取一个大模型文件,启动时间很长,但就绪探针的initialDelaySeconds又设得很短,那么探针就会一直失败,新Pod永远不会Ready,滚动更新自然就卡住。还有一种情况是maxSurge和maxUnavailable组合设置得太死,比如maxSurge: 0, maxUnavailable: 0,这在逻辑上就不可能做到——既不允许加新Pod,也不允许减旧Pod,K8S只能一直等待。记住这两个参数至少有一个不能为0。
还有一次,我排查了半天,最后发现是新镜像本身有问题,容器启动就CrashLoopBackOff,但当时我只盯着kubectl rollout status的输出没注意看Pod状态,走了弯路。这个教训就是:排查滚动更新问题,第一件事永远是kubectl get pods看新Pod的状态,而不是死盯着更新状态看。
4.4 常见问题速查表
最后整理一份速查表,都是我在实际集群运维中用真金白银换来的经验,遇到类似现象可以直接对号入座。
| 现象 | 可能原因 | 排查方向 |
|---|---|---|
| Pod Pending | 资源不足、nodeSelector不匹配、污点不容忍 | kubectl describe pod看FailedScheduling事件 |
| CrashLoopBackOff | 启动命令错误、连接外部依赖失败、探针过激 | kubectl logs配合--previous查看日志 |
| 滚动更新不推进 | 新Pod未Ready、maxSurge/maxUnavailable配置不合理 | kubectl get pods看新Pod状态、检查探针 |
| 一执行scale副本数就回弹 | 存在HPA、控制器被其它控制器抢占 | kubectl get hpa确认是否自动伸缩 |
| StatefulSet扩容卡住 | 前一个Pod未Ready,序号阻塞 | 检查Pod状态与存储卷是否正常挂载 |
| 大量Completed Pod堆积 | CronJob history limit未设置 | 设置successfulJobsHistoryLimit和failedJobsHistoryLimit |
实际排查中还有个屡试不爽的技巧:把kubectl get events --sort-by='.lastTimestamp'这串命令养成肌肉记忆。很多问题在Pod的状态和日志里看不出来,但Events会把调度器、Kubelet、控制器的每一步操作都记录下来。有一次一个Deployment反复创建又删除Pod,我看了Events才发现是探针判定失败后触发了重启,然后又在多个节点间来回调度,折腾了很久。如果不看Events,我可能还在原地分析镜像问题。
另外,K8S里有很多问题是网络层导致的,表现却不那么像网络问题。比如Service的Endpoints一直不更新,你curl Service IP就是不通,但Pod本身是Running的。这种时候kubectl get endpoints看一眼就清楚了——如果Endpoints列表是空的,说明Service的Selector和Pod标签对不上,或者Pod没通过就绪探针,没进Endpoints池里。这个排查思路,对于Deployment、StatefulSet、DaemonSet谁都能套用。
最后分享两个我个人的小习惯。第一个,凡是新建的控制器,第一天先开着kubectl get pods -w观察一段时间,确认滚动更新、副本维持、异常重启这些表现都符合预期再投入使用,这个习惯帮我挡掉了不少上线后半夜被叫起来的痛苦。第二个,凡是写Pod模板,resources、readinessProbe这两块必须填,哪怕占位都行。这不是什么高深技巧,纯粹是“你越早配置,后面越省心”的教训。控制器这个体系,本质上就是一套“声明期望状态并自动维持”的框架,你把状态写清楚了、把兜底给足了,剩下的活交给K8S去跑就行。
