干过 ETL 的兄弟应该都有这种体验:Kettle(也就是 PDI)跑批挂了,往往不是在挂的那一刻被人发现的,而是第二天早上业务方拿着缺失报表来问怎么回事,你才一脸懵地打开日志去找原因。夜里 2 点到 5 点的批次任务,出了错没人通知,修复窗口早就过了,非常被动。我后来花了不少时间研究怎么给 Kettle 做监控、做自定义推送,把任务状态推到企业微信上,实现“挂了立刻知道、失败原因一眼看清”,这套方案在多个项目里落地之后,确实省了很多救火时间。
标题里说的“简单两步”,不是标题党。拆开来看确实就两步:第一步让 Kettle 每次执行完把状态落成可查询的数据;第二步写个脚本把异常数据推送到企业微信机器人。难的是每一步里的细节,比如状态表怎么设计、Job 里怎么埋点、脚本怎么避免重复告警、消息格式怎么处理。这篇文章把这些坑都填上,适合正在用 Kettle 做数据同步、批处理但又没有完善监控体系的团队参考;个人开发者用 Spoon 跑本地任务,也可以按同样思路做个轻量版的自定义推送。
1. 先把需求聊透:你要的其实是“状态可视”和“异常触达”
1.1 调度工具并不等于监控工具
很多人觉得 Kettle 任务已经在 Linux 上用 cron 定时跑了,或者用 Windows 计划任务在跑,每天日志也在生成,就觉得任务“有人管了”。但真的出问题时你会发现,日志文件是死的,不会主动告诉你任务失败了;哪怕你知道任务失败了,还要自己去服务器上翻 .log 文件,从几千行输出里找异常原因,效率极低。
说白了,调度解决的是“什么时候跑”,监控解决的是“跑成什么样、我怎样才能知道”。这两个问题经常被混在一起,导致很多人以为加了调度就有了监控。实际上,Kettle 自身的日志表虽然有 JOB_LOG、STEP_LOG 这些,但它们更偏向于执行过程的审计,真正拿来当监控源,还缺一层“业务化”的加工。
我在项目里最常用的做法,是单独建一张任务状态表,由 Job 自己把每次执行的批次、开始时间、结束时间、状态、错误信息写进去;监控脚本只需要盯这一张表,不需要去解析 Kettle 的多张日志表。这样设计的好处非常明显:查监控的人在数据库里一条 SQL 就能看出所有问题,不用懂 Kettle 内部表结构;后续无论你是推送到企业微信、钉钉还是接入 Prometheus,都只需要对着这一张表操作。
1.2 “两步法”的全局架构是什么
整套方案可以理解成下面这个链路:
- Kettle Job 内部埋点:在 Job 开始、成功、失败三个关键节点,调用一个写状态表的转换或作业。
- 状态表作为核心:记录 job_name、batch_date、status、start_time、end_time、error_msg、host 等信息。
- 监控脚本轮询这张表:判断是否有“新增失败”或“超时未完成”的记录。
- 推送服务发消息:通过企业微信群机器人 Webhook,把格式化后的消息推给相关人员。
后面所有内容都是围绕这条链路展开的。你可能会问:为什么不直接用 Kettle 自带的日志表,或者干脆解析 Spoon 里的日志文件?主要有两个原因:一是 Kettle 日志表字段很多且分散,实时查状态不直观;二是日志文件分散在不同服务器上,脚本访问麻烦,而且 Kettle 的日志级别一调,内容格式也会变。自己维护一张精简状态表,等于把监控源收敛到一个可控点,省心得多。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 第一步落地:在 Kettle Job 里做好状态埋点
2.1 状态表怎么设计才能支撑监控查询
先说我个人偏好的一套表结构,做过几个项目以后调整出来的版本:
| 字段名 | 类型(以 MySQL 为例) | 说明 |
|---|---|---|
| id | bigint auto_increment | 主键 |
| job_name | varchar(128) | 任务名称,尽量全局唯一 |
| batch_date | varchar(32) | 业务批次日期,比如 2025-01-15 |
| status | varchar(16) | running / success / failed / timeout |
| start_time | datetime | 任务开始时间 |
| end_time | datetime | 任务结束时间 |
| error_msg | text | 失败时的关键错误信息 |
| exec_host | varchar(64) | 执行任务的服务器 IP 或主机名 |
| update_time | datetime | 最后更新时间,监控脚本依赖它 |
| alert_flag | tinyint | 是否已告警,0/1 |
job_name 和 batch_date 建议加唯一索引。这样设计有什么讲究?先说 batch_date:很多 ETL 是凌晨跑昨天的数据,如果没有这个字段,你查监控时很难快速定位“是哪个批次出了问题”。再说唯一索引:Kettle 任务万一被误触发了两次,同一批次会有两条记录,监控脚本就会重复告警,加了唯一索引后,在代码里用“存在即更新、不存在即插入”的思路,可以保证一个批次只有一条状态记录。
status 字段里特意保留了“timeout”这个状态,不是 Kettle 写进去的,而是监控脚本根据 start_time 和更新间隔计算出来的。Kettle 任务如果整体卡死,Job 内部可能连失败分支都触发不了,状态一直停在 running;这时候就得靠外部脚本判断“一个任务跑超过 N 分钟还没结束,判定超时”,把状态改成 timeout 再告警。这是很多自建监控容易漏掉的一种情况。
2.2 在 Job 里怎么加“状态写入”节点
有了表之后,接下来是让 Kettle Job 在执行的几个关键节点把状态写进去。可能有些朋友习惯用 Spoon 界面拖节点,然后通过“作业跳”来控制成功失败分支,思路都是一样的。
我的实现方式是这样的:
- 准备一个公用的转换,名字叫“write_job_status”,里面就放一个“表输出”步骤,连接你的状态表库。
- 在表输出步骤里,通过变量动态写入字段值,比如 job_name 来自变量 ${job_name},status 字段根据当前分支情况传参。
- 在 Job 的开始节点后面,先调用一次 write_job_status,传入 status=running, start_time=当前时间。
- Job 主流程执行完的成功出口,再调用一次 write_job_status,传入 status=success, end_time=当前时间。
- Job 主流程里每个可能失败的分支,都指向一个统一失败处理节点,里面先写一次 status=failed,再决定要不要发邮件或者直接结束。
很多人第一次做的时候会只在 Job 最后加一个成功写状态,失败情况完全不处理,等于没做监控。因为在 Kettle 的机制里,如果某个作业项抛错了,默认会走到 failure 分支,但如果你没在 failure 分支上挂“写状态”节点,状态表里那条记录就永远停在 running 了。监控侧看到的就是一个任务“一直在跑”,其实业务早就挂了。
我在实际项目里会在失败分支上做一个额外动作:把该作业项的错误描述拼到 error_msg 字段。具体做法是,失败分支承接的上一个节点是失败的,Kettle 里可以用“获取上一步骤的错误信息”相关的变量,比如 ${Internal.Job.Last.Step.Result}, 不过更稳定的做法是直接开启 Job 日志记录到日志表,让 write_job_status 这个转换通过一条 SQL 去日志表查最后一步的错误代码,再更新到状态表。虽然操作上多一步,但比在 Job 里硬拼接错误字符串要可靠得多。
2.3 变量传递和定时任务被拉起时的注意事项
Kettle Job 里的变量传递,在用 kitchen.sh 命令行执行时最容易出错。很多团队的 cron 脚本写成这样:
bash复制/opt/pdi/kitchen.sh -file=/opt/etl/jobs/xxx.kjb -param:job_name=xxx -param:batch_date=$(date +%Y-%m-%d)
你在 Spoon 里调试时一切正常,一放到命令行就发现状态表的 job_name 是空的,或者 batch_date 变成了一串表达式。原因通常是两个:一是 Job 里没有打开“将参数传递给子转换”的选项;二是在写状态转换里,你引用的变量名和命令行参数名对不上。解决方法是,在做 write_job_status 转换时,先用“获取变量”步骤或“设置变量”步骤把参数打印到日志里确认一遍,再多做一次命令行参数为空时的默认值兜底。不要指望“在 Spoon 里能跑通,命令行就一定没问题”,这两个环境对变量的处理方式是有差异的。
还有一点,如果同一台服务器上部署了多个 Kettle 实例,或者同一个 Job 分了多个并发线程去跑,状态表里可能出现一行数据被后完成的线程覆盖的情况。我在状态表上加了唯一索引,其实就是为了配合“INSERT ... ON DUPLICATE KEY UPDATE”这种写法,按 job_name + batch_date 来做 upsert。不同的并发任务线程在更新的时候,只更新自己的 batch_date,就不会互相覆盖了。实际使用时,还是建议尽量保证同一任务同一批次只由一个实例执行,避免状态表出现非预期的竞争。
3. 第二步落地:把状态数据推送成企业微信消息
3.1 企业微信群机器人是企业里最省事的推送通道
先明确一下:这里说“推送至企业微信”,我推荐优先用企业微信群机器人,通过 Webhook 地址发消息。原因很直接:群机器人不需要单独申请应用,不用处理 access_token 的过期问题,只要你是这个群的管理员,创建一个自定义机器人拿到 Webhook 地址,脚本直接 POST 就行。如果想把消息发到某个具体的人,而不是群里,那才需要走企业微信自建应用的消息推送接口,那个逻辑相对复杂,需要在企业微信管理后台创建应用、获取 corpid、corpsecret,再用 access_token 调接口。
在群里收到告警消息,其实比私聊更有效,因为数据开发、数据运维、业务负责人可能都在一个群里,一条消息发出来,大家都能看到,谁有空谁就去处理了。我这边实际使用下来的感受是:工作群里的告警消息最好带环境标识,比如“生产环境-Kettle-银企对账-失败”,这样看的人不用先猜你说的是哪套环境。
群里机器人的创建路径很简单:企业微信群右上角菜单 -> 添加群机器人 -> 创建一个自定义机器人 -> 复制 Webhook 地址。Webhook 地址形如:
text复制https://qyapi.weixin.qq.com/cgi-bin/webhook/send?key=xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxx
这个地址要放到监控脚本里,注意不要把它提交到公开的代码仓库,因为任何人都可以用这个地址往你群里发消息。建议放到服务器上的独立配置文件中,并设置好权限。
3.2 推送脚本的核心逻辑:查状态、做判断、发消息
监控脚本我一般用 Python 写,因为处理 JSON、HTTP 请求都比较方便。脚本的定期执行用 cron 或者计划任务来调用,每 1 到 5 分钟跑一次就行,不用太频繁。太频繁了容易重复告警,太稀疏了又可能出现“任务挂了 15 分钟才收到消息”的情况。我自己的经验是 2 分钟一次比较均衡。
脚本核心逻辑按下面几步走:
python复制import json
import time
import requests
import pymysql
# 配置:MySQL 连接、企业微信 Webhook、超时时间阈值
MYSQL_CONFIG = {
"host": "127.0.0.1",
"user": "monitor",
"password": "yourpassword",
"database": "etl_monitor",
"charset": "utf8mb4",
}
WEBHOOK_URL = "https://qyapi.weixin.qq.com/cgi-bin/webhook/send?key=xxxx"
def send_wechat_message(content, mentioned_mobiles=[]):
payload = {
"msgtype": "text",
"text": {
"content": content,
"mentioned_mobile_list": mentioned_mobiles,
},
}
resp = requests.post(WEBHOOK_URL, json=payload, timeout=10)
return resp.json()
def check_and_alert():
conn = pymysql.connect(**MYSQL_CONFIG)
cursor = conn.cursor()
# 1. 查最近 5 分钟内更新过且状态为 failed 且未告警的记录
sql = """
SELECT job_name, batch_date, error_msg, update_time, exec_host
FROM job_status
WHERE update_time >= NOW() - INTERVAL 5 MINUTE
AND status = 'failed'
AND alert_flag = 0
ORDER BY update_time DESC
"""
cursor.execute(sql)
rows = cursor.fetchall()
for row in rows:
job_name, batch_date, error_msg, update_time, exec_host = row
content = (
f"[Kettle监控] 任务执行失败\n"
f"任务名称: {job_name}\n"
f"业务批次: {batch_date}\n"
f"执行主机: {exec_host}\n"
f"失败时间: {update_time}\n"
f"错误信息: {(error_msg or '')[:500]}"
)
result = send_wechat_message(content)
if result.get("errcode") == 0:
# 2. 推送成功后再标记 alert_flag,避免漏报或重复报
cursor.execute(
"UPDATE job_status SET alert_flag = 1 WHERE job_name = %s AND batch_date = %s",
(job_name, batch_date),
)
conn.commit()
cursor.close()
conn.close()
if __name__ == "__main__":
check_and_alert()
这里有两个关键的实践经验:
第一个是“推送成功才改 alert_flag”。如果你先标记已推送、再去调用 Webhook,万一 Webhook 调用失败,这条告警就永久丢失了。反过来,先推送成功再把标记改成 1,能保证 Webhook 调用失败后,下一次轮询还能再次把这条失败记录捞出来。当然这样也可能导致 Webhook 返回异常时,同一批消息每 2 分钟重复推一次,所以代码里要在发送成功后加个判断,同时最好记录一条日志,方便排查。
第二个是“用 update_time 做时间窗口,而不是 start_time”。如果任务失败了但错误发生后 Kettle 进程卡住,状态表里最后一条 update_time 可能还是任务刚开始写 running 的时候,此时查 failed 记录可能查不到。所以我会允许外部对这个任务做强制 timeout 处理,即脚本里额外查“running 状态且 start_time 超过了指定阈值”的记录,把它判定为 timeout 再告警。这部分逻辑属于外部兜底,Kettle 内部自己没能力感知这种死等场景。
3.3 如果要用企业微信“应用消息”给指定人发提醒
有些场景下,告警不是发到群里,而是要发给特定的值班人。企业微信的应用消息接口主要分两步:
第一步,取 access_token:
text复制GET https://qyapi.weixin.qq.com/cgi-bin/gettoken?corpid=你的企业ID&corpsecret=你的应用Secret
第二步,调用消息发送接口:
text复制POST https://qyapi.weixin.qq.com/cgi-bin/message/send?access_token=ACCESS_TOKEN
POST 的 JSON 结构类似:
json复制{
"touser": "zhangsan",
"msgtype": "text",
"agentid": 1000002,
"text": {
"content": "Kettle任务失败"
}
}
这个方案需要企业在企业微信后台创建自建应用,拿到 AgentId 和 Secret。相比群机器人,好处是能精确指定接收人,而且可以按部门、按标签一次性推给一批人。但它的维护成本也更高:access_token 有效期是 7200 秒,脚本里最好缓存 token,避免每次都请求一次;而且企业微信对 access_token 的获取频率有限制,如果告警任务多,高频获取会被限流。
我的建议是:如果公司团队规模不大,直接上群机器人。如果已经有值班制度,希望告警可以精确触达到当前值班人,那就用应用消息。这两种方式可以并存,比如“严重级别的高频失败走应用消息”,一般性失败走群机器人。
4. 真实场景里的一个告警漏发排查:原因不在脚本而在状态表
4.1 现象:Job 确实失败了,却没收到任何企业微信消息
有一次,同事反馈说某个上游数据同步任务在凌晨 3 点失败了,但企业微信群里一条告警都没有。我第一反应是检查 Webhook 是不是失效了,结果在服务器上手动跑了一次脚本,却提示没有需要推送的失败记录。这就有点奇怪了,因为从业务表现来看,这个任务确实没有产出当天的数据。
后来我去查状态表,发现那条记录的状态还停在 running,start_time 是凌晨 2 点 58 分,update_time 也是凌晨 2 点 58 分,之后就没变过。也就是说,Kettle Job 实际上崩了,但 Job 内部的失败分支并没有执行到 write_job_status 那个节点。为什么会出现这种情况?我打开 Kettle 的日志一看,发现真正的问题不是任务里的步骤抛错,而是整个 JVM 在某个数据连接环节直接退出了,比如连接池把连接耗尽,或者内存溢出导致进程被杀。这种情况下 Job 本身已经没法按正常 error 分支往下走了,自然也不会去写 failed 状态。
这就是我之前强调外部轮询脚本必须做 timeout 判断的原因。Kettle Job 不像 Spring Boot 应用那样有完善的优雅停机机制,当内核被系统 OOM Killer 干掉或者 Java 进程直接崩溃时,任何内部埋点都是白搭,最后能依赖的只有外部监控的“心跳超时”机制。
4.2 排查链路:不要再盯着企业微信的 Webhook 是不是坏了
这条排查经历给了我两个思维转变:
先说排查顺序。很多人一看到没收到告警,就先去试 Webhook 地址通不通。Webhook 当然要测,但更合理的排查顺序应该是:先看状态表里有没有对应的 failed 记录;有记录但不推送,那是脚本或 Webhook 的问题;没有 failed 记录,那就是 Kettle 埋点侧出了问题,甚至可能是进程根本没能正常走到失败分支。
我当时就是先浪费了十几分钟在测 Webhook 和看企业微信后台,才回头去查状态表,发现问题的根源根本不在推送侧,而在任务状态根本没有被正确记录。
再说状态表里要预留 time cost 的心跳更新。后来我专门在 write_job_status 这个转换里增加了一种“心跳”模式:对执行时间可能超过 30 分钟的任务,每隔 10 分钟更新一次 running 状态的 update_time,相当于告诉监控端“我还活着”。这样如果进程真的挂了,update_time 就会停止更新,外部脚本通过最新心跳时间可以更快判断出异常,不需要再等 EndTime 计算超时。
这类实现并不复杂,只要在每个大步骤之间插入一次更新 running 状态的操作即可。需要注意控制写入频率,如果每个小步骤都去更新一次,反而会给源库造成压力。我通常是针对跑批时间超过 1 小时的 Job 才会加心跳逻辑,短任务用不到。
4.3 字符集和代码页的坑,最容易让脚本本身崩掉
还有一个非常隐蔽的坑,我踩过一次,至今印象深刻:有一个 Job 在处理结算数据,失败原因里包含了一些生僻字,Python 脚本在读取 error_msg 后构建 JSON 时,直接用了字符串拼接而不是 json.dumps,结果变成了无效 JSON,企业微信接口返回 errcode 40001 之类的错误。第一次遇到这个问题时,我甚至怀疑是企业微信限制了中文,后来发现根本原因是自己拼 JSON 时没有转义。
写推送脚本的时候,务必要用 json.dumps 或 requests 框架自带的 json 参数,不要手写 JSON 字符串。手写看着直观,但一旦错误信息里混入了双引号、反斜杠、换行符,你拼出来的 JSON 就是废的。这个道理同样适用于你发送 MySQL 字段内容到企业微信的场景。
如果你确实要在 Linux shell 里用 curl 发消息,那也需要把内容先放到一个变量里,用 jq 来构建 JSON,而不是直接写双引号字符串拼接:
bash复制ERROR_MSG=$(mysql -h127.0.0.1 -umonitor -p****** -N -e "SELECT error_msg FROM job_status WHERE job_name='xxx'")
CONTENT="Kettle任务失败,原因:${ERROR_MSG}"
PAYLOAD=$(jq -n --arg c "$CONTENT" '{msgtype:"text",text:{content:$c}}')
curl -s -H 'Content-Type: application/json' -d "$PAYLOAD" "$WEBHOOK_URL"
脚本里遇到的字符集问题不止 JSON 转义。如果 MySQL 表本身是 utf8mb4、但 Python 连接时没用 utf8mb4,读取出来的 emoji 或生僻字就可能变成问号。这里强烈建议和表相关的配置都统一使用 utf8mb4,避免同一个字符在表、脚本、企业微信接口之间被转来转去转丢。
5. 想接其他平台,或者继续往监控体系上长
5.1 同样一套状态表,推给钉钉或飞书只改几十行
“自定义推送至企业微信等”里的“等”,含义很广。你在企业内部觉得企业微信用得顺手,就推企业微信;如果另一家公司用钉钉,则推钉钉。钉钉群机器人的 Webhook 机制和企业微信很像,区别主要在消息格式:
- 企业微信 text 消息的 JSON:
json复制{"msgtype": "text", "text": {"content": "hello"}}
- 钉钉 text 消息的 JSON:
json复制{"msgtype": "text", "text": {"content": "hello"}}
差不多一样,只是 Webhook 地址和加签方式略有不同。飞书自定义机器人则用如下结构:
json复制{"msg_type": "text", "content": {"text": "hello"}}
所以,只要状态表设计合理,消息推送层完全可以抽成一个公共模块。我现在的做法是把推送函数单独放一个 notify.py,用统一的 send_alert(message) 接口,内部按环境变量里的 PLATFORM 值决定调用企业微信、钉钉、飞书还是 Server酱。监控脚本主体完全不用改,只是换了一套 channel 的适配代码。如果你还没有很强的抽象意识,也至少要做到把 Webhook 地址放在配置文件里,别把地址写死在业务脚本里。
5.2 从“任务失败告警”升级到“看板”和 Prometheus 指标
状态表里积累了大量执行历史以后,你自然会想,除了被动收告警,最好还能有个看板,能看出每天成功多少个、失败多少个、平均执行时长是多少,如果某个任务耗时一天比一天长,能不能提前发现。
如果只是做可视化,可以直接写 SQL 到 Grafana,以 MySQL 作为数据源,画成功率、耗时趋势图。这里我不展开 Grafana 的具体搭建,因为比较容易搜索到。但我建议你先确认一点:job_status 表里有没有可靠的 start_time 和 end_time,以及历史数据保留策略。没有历史数据的监控看板是没有意义的。
如果你想走 Prometheus 生态,也完全可行。通常有两种方式:
第一种是定时任务把状态表里的指标推送到 Prometheus Pushgateway,再用 Prometheus 抓取。Kettle 任务执行结果本身不是典型的服务运行指标,用 Pushgateway 比较合适。脚本核心就是构造如下格式并推送:
text复制kettle_job_success_total{job_name="xxx"} 1
kettle_job_failed_total{job_name="xxx"} 0
kettle_job_duration_seconds{job_name="xxx"} 1234.56
第二种是让 node_exporter 的 textfile collector 定时执行一个脚本,把状态表统计结果输出成 .prom 后缀的文本文件,然后让 Prometheus 从 node_exporter 拉取。这种方式不需要额外部署 Pushgateway,适合已经在用 node_exporter 的环境。我个人实践下来,中小团队不需要搞太复杂,能把任务状态、耗时、失败率导出来就够了,不要一开始就贪图表和告警规则的复杂度。
5.3 推送也不止“失败”这一种消息,每天早上的跑批报告更有用
我发现很多团队做告警只盯着失败,但其实“成功日报”对业务方同样有价值。每天早上 9 点把前一天的作业执行概况推送到群里,例如“昨日共 120 个 Kettle 任务,成功 118 个,失败 2 个,列表如下”。这种消息看起来简单,但能让团队成员形成一种掌控感。业务同事也会觉得你们的数据产出是有人在盯的,信任感会强很多。
这类消息实现不复杂,把脚本的查询条件从 status='failed' 改成“昨天 batch_date 的全部记录”,按状态做一次 group by 汇总,然后格式化推送。企业微信的文本消息虽然不支持复杂排版,但纯文本也可以对齐。我一般会生成一个简洁的 SVG 或图片再推,不过 team 里的人对长相要求不高的话,文本就够了,毕竟 ETL 监控信息是给看得懂的人看的,不是给追求视觉的运营同学看。
每天早上的消息可以额外带一个超链接指向状态表查询页面。如果公司内部有 Superset 或 Grafana,就把链接拼进去。有了链接以后,失败的告警就不再只是告诉你“有问题”,而是顺手告诉你“去哪看问题”,少了很多来回沟通成本。
6. 我实际使用中觉得最值钱的细节清单
最后列一下这些年在 Kettle 监控上踩坑、调试后沉淀下来的关键细节。这些细节没有写进正式文档,却直接影响着系统运行得顺不顺。
命名规范与批次时间统一。 Job 的命名、状态表的 job_name、企业微信消息里展示的任务名,最好能形成一套规范。例如“业务域_表名_同步方式”,比如 pay_orders_incr_sync。批次时间统一用上游数据的业务日期,不要用系统当前日期,否则补数的时候,监控里看 batch_date 会乱。
Webhook 的限流与安全。 企业微信机器人对单个机器人的消息频率有限制,每分钟最多 20 条,这个限制对正常告警足够了。但如果你的 Job 特别多、在一次故障中几十个任务同时失败,就可能瞬间把机器人打到限流。应对办法有两个:一是推送端做聚合,比如把同一时间窗口内失败的 20 个任务合并成一条 message,按列表发送;二是在脚本里给每个机器人加一个简单的令牌桶限流。不要等到告警风暴出现时才想起来做这层保护。
不要把所有 Job 塞到一张状态表里就完事。 这里说的不是分表问题,而是注意区分开发环境、测试环境、生产环境的任务。如果三套环境的 Kettle 任务写同一张表,监控查出来的结果会非常混乱。最简单的办法是状态表里加 env 字段,或者物理上分三张表。我个人倾向于同一套表加 env 字段,因为可以做一个横向对比看不同环境差异。
关于 update_time 和系统时钟。 脚本判断时间窗口时,用的服务器时间和 Kettle 执行所在服务器的系统时间要保证一致。跨机房、跨时区部署时会很明显,比如服务器 A 比服务器 B 快了 5 分钟,告警判断就会提前或延迟。最省心的方案是让所有服务器都启用 NTP 时间同步,并且状态表里尽量数据库生成时间戳,例如 DEFAULT CURRENT_TIMESTAMP,而不是让应用传时间,避免因为各自主机时间不一致导致状态判断错乱。
监控脚本本身要有日志和状态。 如果推送脚本自己崩了,你连告警都收不到,那监控就成单点盲区。我在脚本里每次运行都会写一条运行日志到 log 文件,并判断上一轮是否正常结束。如果连续 N 轮脚本没跑,再通过一个备用通道来提醒自己。听起来有点套娃,但作为生产环境的数据脚本,这种“监控的监控”非常必要。备用通道可以很简单,比如服务器上另一个定时任务检查监控脚本的进程状态,发现异常就调另一个 Webhook 发消息。
保留状态变更时间链。 如果你只保存最终状态,排查问题时会经常要翻 Kettle 日志才能对时间线。我在状态表之外还会维护一张 job_status_history 表,记录每次状态变更的详细过程。比如什么是时候开始 running,什么时候心跳更新,什么时候变 failed,错误信息在哪个阶段出现。很多问题,只要看到了时间线,就能立刻定位到是第几步出的错。这个操作不复杂,在 write_job_status 转换里让程序同时 insert 历史表即可。
最后一点是心态方面的体会。 做这类基础监控,很容易因为初期频繁调试、变量传错、Webhook 没配好而不耐烦。我自己第一次踩完坑后回头看,其实整套东西的技术门槛很低,真正花时间的都是与自身业务匹配的细节:哪些任务需要超时判定、哪些消息需要抄送给谁、哪些异常通知是有效信息。每个团队的作业场景不同,别人的模板参考没有问题,但最终一定要对照自己的任务列表逐个过一遍,这才是这套方案能够真正落地、而不是只在演示环境里跑通的关键。
