记得有一次在群里看到个问题,有人贴了张 Flink Web UI 截图:一个 TaskManager 的 CPU 干到 90% 多,背压都变黄了,另一个 TaskManager 闲到 20% 不到,Slot 也就占了俩。大家七嘴八舌说是数据倾斜,但仔细一看数据量并不大,真正的问题是——作业里的并行度不一致,导致 Task 在 TaskManager 上分布严重不均匀。
这类问题在 Flink 里其实有一个非常直接的解法开关:cluster.evenly-spread-out-slots。这篇文章就围绕 Balanced Tasks Scheduling 这个主题,把“并行度不一致时怎么让 TaskManager 压得更均匀”这件事掰开揉碎讲清楚,包括调度模型、配置原理、实操步骤,还有我实际踩过的一些坑。
1. 先搞懂问题:并行度不一致,TaskManager 怎么就“胖瘦不均”了
1.1 从 Flink 的 Slot 模型说起
很多人用 Flink 用很久,但对 Slot 模型的理解就停留在“一个 TaskManager 有几个 Slot 就能跑几个 Task”。这句话大方向对,但有一个关键细节:Flink 的 Slot 不是一个固定预先规划的 CPU 核心槽位,它更像一个资源容器,或者说一个“可重复使用的席位”。
我经常用餐厅来类比。TaskManager 相当于一个厨房,Slot 就是灶台。一个厨房可能摆了 4 个灶台,意味着同一时间最多同时炒 4 个菜。但注意,灶台本身不绑定某个固定厨师,而是谁要用、用多久,由调度员(JobManager 里的 Scheduler)安排。Flink 里每个算子子任务(Subtask)在运行前,都需要拿到一个 Slot 作为“岗位”,执行完就释放。
当作业的并行度一致时,比如整个作业 Source、Transform、Sink 都是 4 并行,那这个作业总共有大概 12 个 Subtask,每个 TaskManager 4 个 Slot,总数也是 12,正常情况下一个萝卜一个坑,看起来会非常整齐。
但现实往往不是这样。
Flink CDC 场景里,Source 并行度通常由表或库的数量决定,可能只有 2 个;后面接一个处理逻辑复杂的 FlatMap 算子,为了吞吐你给了 10 个并行度;再往后 JDBC Sink 到 MySQL,受连接数和资源限制,并行度可能又只能压回 2。这时候整个作业的 SubTask 数量分布就是 2 + 10 + 2,加上 Rebalance、KeyBy 之类的内部算子,总 Task 数可能达到二三十个。这些 Task 要抢占 Slot 的时候,一旦调度策略没有做全局均衡,就会出现开头说的那种“胖瘦不均”的局面。
1.2 并行度不一致会带来什么实际问题
并行度不一致本身不是错误,它源于真实业务需求。Source 并行度受外部系统分区数限制,Sink 并行度受下游写入能力限制,中间算子并行度受计算复杂度限制。这种做法完全合理,问题出在“不一致”产生的调度落点。
默认情况下,Flink 调度器在给任务分配 Slot 时,会优先考虑数据本地性。比如一个 Task 要读取的数据已经在某个 TaskManager 上处理过,那调度器可能倾向于把这个 Task 继续调度到同一个 TaskManager 或者同一台机器上,尽量减少网络 Shuffle。这个策略本身没错,但如果整个集群同时跑多个作业,或者单个作业的并行度组合比较极端,本地性优先的调度就会导致“先来先占、后来干看”的局面。
实际表现就是:
- 某个 TaskManager 上可能堆积了 7-8 个 Subtask,CPU 和内存双高,GC 频繁,反压一路飘红;
- 另一个 TaskManager 上只有 2 个 Subtask,大部分时间处于半空闲状态;
- 整个作业的吞吐被最忙的那个 TaskManager 拖住,加了并行度也上不去,因为资源都堆在一个进程里竞争。
更麻烦的是,一旦某个 TaskManager 成了热点,它上面的 Task 之间还会相互争抢资源,数据倾斜和调度不均叠加在一起,排查起来特别容易误判。我之前就遇到过一起线上问题,一开始认为是 KeyBy 分桶不均,加了一堆预聚合逻辑也没解决,最后才发现纯粹是调度导致的两个 TaskManager 上任务数量差异太大,其中一个进程已经处于饱和状态。
所以,不要把“并行度不一致”和“数据倾斜”混为一谈。数据倾斜是数据分布问题,调度不均则是资源分配问题。后者有一个更直接的手段解决,就是接下来要讲的 Balanced Tasks Scheduling 机制。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 核心方案:cluster.evenly-spread-out-slots 的原理与选型
2.1 这个配置到底改了什么
Flink 里负责“尽可能均匀分配 Slot”的开关,就是 cluster.evenly-spread-out-slots。这是一个在 `conf/flin
