先说一个真事儿。前阵子半夜被值班电话叫醒,线上一个支付回调接口超时飙红,我登上去看日志,结果发现整屏打了上千行乱七八糟的键值对,时间戳有的带毫秒有的不带,关键参数被日志框架的默认toString打成了一坨看不清的长串,有个字段还直接把用户手机号明文打在里头。那晚上我蹲在电脑前面,一边翻屏一边骂当时配日志的“高手”。第二天一早我把所有服务的formatter配置从头到尾重写了一遍,从时间字段到脱敏规则,再到多行日志折叠,全部推倒重来。这篇就写写那之后我沉淀下来的生产级日志formatters配置经验,涉及高效排查和安全脱敏两个核心方向,适合正在维护线上服务、想改善日志质量但没时间踩坑的同学参考。
1. 整体设计与思路拆解
1.1 为什么说formatter是日志系统的“门面”
日志框架都有三件套:logger(发射器)、handler(输出端)、formatter(格式化器)。很多人平时关注logger配什么级别、handler输出到文件还是控制台,却把formatter当成了“随便排个版就行”的事,这是本末倒置。formatter决定了每一行日志长什么样,也就决定了你排查问题时能不能一眼看懂、能不能被日志采集器顺利解析、敏感信息会不会外泄。
你想想,日志就像快递单。快递员要能通过单号、收件人、地址快速分拣,你排查问题就是快递员,日志里的时间、级别、类名、请求ID、消息内容就是单号、收件人、地址。如果一张快递单上信息缺胳膊少腿,快递员就只能猜,猜错了时间就浪费了。生产环境日志量大、告警频繁,每一秒都很值钱,formatter配置不合理,等于所有排查工作从起跑线上就落后了。
我在实际项目里把formatter的设计提到了跟接口设计、数据库设计同等的地位。一个服务上线前,先定日志格式,再写业务代码。因为一旦日志格式确定,后续接入ELK、Splunk、Loki都要基于这个格式做字段映射,早期不规划好,后面改格式等于所有历史日志作废、所有采集规则重写,成本非常高。
1.2 生产级日志格式的三个设计原则
第一,结构化优先。不是说必须上JSON,但字段顺序、分隔符、常见字段的命名必须统一。我个人强烈推荐JSON格式,尤其是要与ELK、Loki之类的日志平台对接时。JSON天然具备字段名,不需要依赖正则解析,采集性能高、字段提取准确,缺点就是肉眼读着费劲。为了解决这个矛盾,我通常会在本地开发环境保留一个易读的text格式,生产和测试环境全部走JSON。开发的时候看text,排查线上问题直接上Kibana或Loki的查询界面,两边都不用妥协。
第二,时间精度和时区必须统一。日志里没有时间,等于废话。但要统一到什么精度?我建议最少毫秒,并发量高的系统建议微秒。时区方面,有两种派别:一种用UTC存储、查询时转换,一种直接用本地时间。我在分布式系统里一律用UTC+毫秒,避免不同机房、不同云厂商服务器时间不一致引起的排序错乱。如果你只跑单机或者很在意早上的排查体验,用本地时间也凑合,但要在日志格式里明确标注时区(比如+08:00),不然跨时区协作的时候就是灾难。
第三,上下文贯穿。线上排查问题时最痛苦的不是日志不够多,而是多服务之间没法串起来。所以formatter必须留出一个固定的“链路字段位”,不管是trace_id还是request_id,只要是全局唯一值,就要让它跟着每一条日志走。这个值通常由网关生成,通过HTTP头传递,由日志框架的MDC(Mapped Diagnostic Context)机制存进去。我见过很多团队一开始没这个意识,等到微服务数量上来了再回头补链路ID,那真的是牵一发动全身,改一堆服务还不一定改全。
1.3 常见日志格式方案对比
在动手配置之前,先摆一下当前主流的几种方案,避免你走弯路。
- text格式:可读性高,本地排查友好,但采集解析依赖正则,字段一多就乱
- JSON格式:机器解析最省事,字段提取稳定,缺点是体积偏大、可读性差
- Logfmt风格(key=value):介于两者之间,体积小也好读,但嵌套结构表达力不足
- 多行事件格式(如异常堆栈整块记录):适合单体应用,但在分布式收集时有换行割裂风险
我个人经历了从纯text到纯JSON的转换过程,花了大约一个季度把全公司核心服务的日志都切到了JSON。当时最大的阻力是“开发嫌JSON看不了”,后来我把本地开发日志单独保持成纯文本,上面说的矛盾就解决了。你要是在选型阶段,可以把这个思路直接拿去用,成本低得多。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 核心formatter细节解析与实操要点
2.1 时间字段:格式、精度和时区的坑
时间字段是formatter里最容易被忽略、又最容易出问题的一项。我见过无数项目的日志时间默认用的日志库内置格式,比如Python logging默认的2025-01-15 10:32:45,123,逗号分隔秒和毫秒,看起来很常规,但在日志平台里这个逗号会导致字段切割异常,而且这种格式没法直接用ISO 8601标准去校验。
更坑的是时区。服务器装了宝塔面板的话,默认是系统本地时间;有些容器时区没同步,直接输出UTC+0。你把几台服务器的日志拉到一起,按时间排序,结果隔了几个小时,排查链路异常时看着就是“时间悬崖”。我处理过一起现网事故,两台服务器之间查日志,一台输出北京时间,一台输出UTC,对不上号,白白折腾了半小时。
实操建议:
- 格式用
yyyy-MM-dd'T'HH:mm:ss.SSSXXX(ISO 8601带毫秒和时区),例如2025-01-15T10:32:45.123+08:00 - 如果日志平台支持,最推荐直接输出Unix时间戳(毫秒或微秒级),避免格式差异
- 容器环境必须设置时区环境变量,Java可以用
-Duser.timezone=Asia/Shanghai,Python可以在日志配置里指定datefmt
有很多老项目的日志时间是缺陷的:log format里完全没有时间,只有消息内容。遇到这种,哪怕内容再好看,定位问题时也要靠文件修改时间猜个大概,非常误事。如果你还在维护这样的系统,第一件事就是把flink、kafka、MySQL这类高频访问的中间件日志也统一纳入到这套时间规范里来,我后面会在兼容旧系统时详细说。
2.2 日志级别、线程、进程与类名:字段顺序和宽度隐藏的排查效率
一个标准的生产日志行,我推荐的字段顺序是:时间、级别、线程名、进程ID、类名(或logger名)、链路ID、消息。这个顺序遵循“从全局到局部”的原则:先看什么时候发生,再看严重程度,接着是什么线程和进程,然后是哪个类打的,最后才是具体内容。这样在终端里快速扫视时,你的眼睛能顺着固定列扫下去,不会跳来跳去。
级别字段建议固定宽度。比如INFO占4个字符右对齐,ERROR天然5个字符,如果你不做宽度对齐,那么不同级别打出来的日志长度不同,视觉上“级别列”会忽宽忽窄。虽然这个只是观感问题,但确实影响肉眼扫日志的效率。Python里可以写成%(levelname)-8s做左对齐补空格,Logback用%-5p。
线程名和进程ID对排查并发问题尤其重要。有一次生产环境偶发超时,但错误日志里看不到异常,后来我在日志中加了线程名,配合thread dump才发现是某个线程池的core线程数配错了,多个请求挤在一个线程里排队。没有线程名的日志,这类问题基本只能靠猜。
类名我建议精确到“类的简单名+方法名+行号”。Java的Logback里可以直接用%class.%method\(%file:%line\),Python里用%(name)s加%(funcName)s加%(lineno)d。但要提醒一下,正则在Java里用的是%logger{36}截断包名,或者用%class替代,否则日志文件会膨胀得很厉害。还有,行号这个字段在有些日志框架里是靠运行时StackTraceElement推算的,会有一定性能损耗,高并发核心链路可以考虑去掉行号,只保留类名和方法名,具体看你的取舍。
2.3 异常堆栈与多行日志的处理:不处理迟早要栽跟头
异常堆栈是日志里信息量最大的一部分,但也是导致日志平台解析失败的“头号杀手”。Java的log.error("msg", e)会输出一个多行堆栈,Python的traceback.format_exc()也一样,天然自带换行。如果你直接把多行日志输出到文件,再由Filebeat或Promtail按行采集,那堆栈的每一行都会被当成一条独立的日志,整个异常就被拆得七零八落,搜索时只搜到一半内容,恢复现场完全靠脑补。
解决方案有三个方向:
- 方向一:配置日志采集器的multiline规则,比如Filebeat的
multiline.pattern匹配堆栈行并合并,这个可以解决采集侧的问题,但规则写不好很容易误合并 - 方向二:改formatter,把堆栈里的换行符替换成
\\n这种可读的转义序列,让整条异常变成一行。这是我在高并发系统里最推荐的做法,缺点是肉眼读的时候没那么直观 - 方向三:直接用JSON格式输出,异常堆栈作为字符串字段,日志采集器按JSON解析,天然不存在多行问题。这也是我全面转向JSON的核心理由之一
如果你坚持文本格式,我建议至少要加上“以时间戳开头视为新日志”的multiline配置,否则多个线程同时报错时,堆栈行会互相穿插,那场面真是惨不忍睹。我见过一个极端案例,某系统日志文件堆栈行穿插得像加密电报一样,最后只能通篇重新打印一遍才能排查,教训太深刻了。
2.4 消息内容中的特殊字符与转义
除了换行,日志消息里还可能出现其他特殊字符:制表符、回车、非法UTF-8字节、超长无空格字符串。这些字符在文本格式下会导致展示混乱,在JSON格式下会破坏payload结构(尤其是用户输入的内容直接拼进消息时)。
我曾经踩过一个大坑:用户昵称里带了一个"字符,业务日志里直接把这个昵称打进去了,结果是JSON格式的日志行被硬生生切成两段,后面的字段全部解析失败,那段时间感觉Kibana里的日志数量少了一部分,排查了好久才定位到原因。从那以后,我对所有写入日志的消息内容增加了一道清洗:把控制字符统一替换成空格或可见转义,把所有双引号做转义。如果你是在Java里,可以用StringEscapeUtils.escapeJson;Python里可以用json.dumps。如果你的框架不支持自动转义,就在formatter里手动写一个过滤器来处理,具体代码我这后面会给出。
3. 安全脱敏的落地实操
3.1 生产日志里的三类敏感数据,先认清敌人
做脱敏之前,必须先搞清楚日志里会有哪些敏感数据,不然就会陷入“一边脱敏一边漏”的尴尬。我大概总结为三类。
第一类是账号口令类,包括密码、支付密码、短信验证码、API Key、Token等。这类数据通常出现在登录请求参数、回调通知、外部接口调用日志中,偶尔也会因为某个开发为了方便把请求体整个打出来而出现在日志里。这类数据一旦泄露,最直接的后果就是账号被盗、接口被刷。
第二类是个人身份信息(PII),包括手机号、身份证号、银行卡号、邮箱、家庭住址等。这里要特别注意:国家监管对这些数据的保护是有明确要求的,比如个人信息保护法,对外暴露真实手机号如果造成严重后果,是要承担法律责任的。个人开发者的项目虽然监管压力不大,但信誉影响和用户信任度同样重要。
第三类是内部敏感凭证,比如数据库连接密码、Redis密码、内部系统的签名密钥、加密盐等。这类信息通常会在“启动信息打印”和“配置中心拉取配置后打印”的场景泄露。我就见过一个项目,Spring Boot启动时把整个application.yml内容打到了日志里,Redis密码和数据库密码直接明晃晃地躺在那,谁有日志查询权限等于谁掌握了所有生产密码。
脱敏时机上,我建议做成两条线:源头脱敏(在打印之前就把敏感值替换掉)和出口脱敏(在formatter层统一处理)。源头脱敏治本,但需要业务代码配合,地方太多、容易漏;出口脱敏治标,但胜在统一,可以在日志框架的过滤器里集中实现。我目前的做法是:核心业务代码里的敏感字段用***占位符替换,同时formatter里再做一道正则兜底,双保险。
3.2 三种脱敏实现方式,结合场景选型
第一种是正则替换,这是最直接的方案。比如手机号的正则(?<=\\d{3})\\d{4}(?=\\d{4}),把中间四位替换成****;身份证号的正则可以匹配18位数字,然后中间10位打码;邮箱的正则匹配(\\w{2})\\w+(@\\w+\\.\\w+),保留前两位和域名后缀。优点是好写、好理解、改动小,缺点是容易误伤,比如一个业务字段恰好长得像手机号,就会被“误杀”。
第二种是自定义过滤器或字段映射。这种方式更适合结构化日志,比如JSON格式下,你可以声明哪些字段需要脱敏(password、phone、token),然后遍历JSON节点,对指定字段做掩码处理。好处是精确、不误伤,坏处是实现成本略高,需要写一点代码。
第三种是针对日志框架能力的内置脱敏。比如Log4j2有RegexReplacement的pattern converter,可以用%replace{%msg}{正则}{替换}做脱敏;Logback则依赖自定义MessageConverter来实现同类的功能;Python logging的Filter类可以拦截每一条日志记录,对消息做处理后再放行。建议优先用框架自带的能力,实在不行再自己写。
3.3 脱敏配置模板:Python、Logback、Nginx各来一套
Python logging的自定义Filter,简单粗暴但很有效,核心逻辑是重写filter方法,在日志事件被输出前修改消息正文。
python复制import logging
import re
class SensitiveDataFilter(logging.Filter):
PHONE_RE = re.compile(r'(?<=\\d{3})\\d{4}(?=\\d{4})')
ID_CARD_RE = re.compile(r'(?<=\\d{6})\\d{8}(?=\\d{4})')
TOKEN_RE = re.compile(r'(?i)(token|secret|password)(=|\"|\\s*:)([A-Za-z0-9_\\-]{6,})')
def filter(self, record: logging.LogRecord) -> bool:
msg = record.getMessage()
msg = self.PHONE_RE.sub('****', msg)
msg = self.ID_CARD_RE.sub('********', msg)
msg = self.TOKEN_RE.sub(lambda m: f'{m.group(1)}{m.group(2)}****', msg)
record.msg = msg
record.args = ()
return True
# 使用时挂到handler上
handler = logging.StreamHandler()
handler.addFilter(SensitiveDataFilter())
这里有个关键点:record.msg被替换后,必须把record.args清空,否则logging在格式化时会再次按旧参数拼接,导致脱敏失效。
Java Logback的脱敏,我一般通过自定义MessageConverter实现。需要写一个类继承MessageConverter,然后在pattern里用%msg时就会经过转换器。核心思路是在转换器里对message做正则替换,和Python的Filter思路一致。
java复制public class SensitiveDataConverter extends MessageConverter {
private static final Pattern PHONE_PATTERN =
Pattern.compile("(?<=\\d{3})\\d{4}(?=\\d{4})");
private static final Pattern TOKEN_PATTERN =
Pattern.compile("(?i)(token|secret|password)(=|\\\"|\\s*:)([A-Za-z0-9_\\-]{6,})");
@Override
public String convert(ILoggingEvent event) {
String message = event.getFormattedMessage();
message = PHONE_PATTERN.matcher(message).replaceAll("****");
message = TOKEN_PATTERN.matcher(message)
.replaceAll(m -> m.group(1) + m.group(2) + "****");
return message;
}
}
然后在logback.xml里配置:
xml复制<conversionRule conversionWord="msg" converterClass="com.example.SensitiveDataConverter"/>
<pattern>%d{yyyy-MM-dd'T'HH:mm:ss.SSSXXX} %-5p [%t] [%X{trace_id}] %c{1} - %msg%n</pattern>
Nginx日志的脱敏稍微麻烦一点,因为log_format不支持正则替换,只能在日志输出前由业务层处理,或者借助OpenResty的lua脚本在日志阶段修改变量。最简单的办法是:后端接口在返回响应时不要把完整手机号出现在响应体里,这样Nginx访问日志就不会有敏感信息。如果实在控制不住,建议在Nginx里用map做一个简单的字符串替换,只处理你知道的字段,不要试图泛化。
3.4 脱敏的边界与误伤案例
脱敏最容易出的问题就是“脱过了头”。我见过有人写了个特别激进的正则,把所有连续数字都打码,结果业务方的订单号、金额也全变成了星号,日志彻底失去排查价值。这种教训说明:脱敏规则必须用真实业务样本反复验证,线上发布前先在测试环境对比脱敏前后日志的可用性。
还有一个坑:正则脱敏默认只处理纯文本,但如果你打的是JSON结构且没有统一做JSON序列化,字段名和值之间可能有各种不规则的空格、引号,正则很容易漏。稳妥的办法是先标准化JSON格式,再按结构遍历实现字段级脱敏。这也是我坚持“结构化日志+字段级脱敏”的原因——不是因为它新潮,而是因为它坑最少。
4. 生产级实操:从零配置一套能直接落地的方案
4.1 选型:日志框架和formatter先统一起来
选日志框架这事不能说“哪个火选哪个”,要看团队的技术栈和运维习惯。我用过的几种主流方案,简单排一下:
- Python:标准库
logging满足95%场景,需要JSON输出可以自己写一个JsonFormatter,也可以用第三方库python-json-logger - Java:Logback是Spring Boot默认,Log4j2性能更强、插件更丰富
- Go:标准库
log弱得没法用,主流是zap,性能和结构化输出都做得很好 - Node.js:
pino或bunyan,pino是目前性能最好的JSON日志库之一
不管选哪个,formatter的设计理念是相通的:固定字段、固定顺序、统一时间格式。我强烈建议在项目立项时就把日志格式写进规范文档,作为代码评审的一部分,防止每个人自定义一份format。等到线上日志五花八门的时候再回头统一,是个纯亏本的买卖。
4.2 Python项目:logstash格式与自定义JsonFormatter
Python标准库的logging模块默认只支持text格式,如果你想输出JSON,最省事的就是继承logging.Formatter,重写format方法:
python复制import logging
import json
import time
class JsonFormatter(logging.Formatter):
def format(self, record: logging.LogRecord) -> str:
payload = {
"time": time.strftime("%Y-%m-%dT%H:%M:%S", time.localtime(record.created))
+ f",{int(record.msecs * 1000):03d}",
"level": record.levelname,
"logger": record.name,
"thread": record.threadName,
"pid": record.process,
"message": record.getMessage(),
"trace_id": record.__dict__.get("trace_id", ""),
}
if record.exc_info:
payload["exc_info"] = self.formatException(record.exc_info)
return json.dumps(payload, ensure_ascii=False)
注意ensure_ascii=False,否则中文会变成一堆\uXXXX,Kibana里看起来极其难受。加上trace_id从record.__dict__里取,这个值通常由中间件在请求开始时写入MDC或线程局部变量。
然后配置时会这么用:
python复制import logging.config
LOGGING_CONFIG = {
"version": 1,
"formatters": {
"json": {
"()": "path.to.JsonFormatter",
}
},
"handlers": {
"console": {
"class": "logging.StreamHandler",
"formatter": "json",
},
},
"root": {
"level": "INFO",
"handlers": ["console"],
},
}
有些公司直接用python-json-logger,也是差不多的思路,但它内置的字段顺序是字母序,看起来不太符合排查习惯,我更喜欢自己控制字段顺序。
4.3 Java项目:Logback的pattern与MDC链路字段
Spring Boot项目几乎都自带Logback,直接用就好。我的生产配置一般长这样:
xml复制<configuration>
<appender name="JSON" class="ch.qos.logback.core.ConsoleAppender">
<encoder class="net.logstash.logback.encoder.LogstashEncoder">
<customFields>{"app_name":"order-service","env":"prod"}</customFields>
</encoder>
</appender>
<root level="INFO">
<appender-ref ref="JSON"/>
</root>
</configuration>
LogstashEncoder是logstash-logback-encoder提供的,没有它你就得自己写JSON格式化,非常痛苦。它默认会输出时间、级别、线程、logger、message、堆栈,还自动支持MDC字段,比如你在拦截器里MDC.put("trace_id", traceId),它会自动把trace_id拿出来塞进JSON。这个库强烈推荐。
如果你不想上logstash的库,只想要简单文本格式,Logback自带的pattern也很够用:
xml复制<pattern>%d{yyyy-MM-dd'T'HH:mm:ss.SSSXXX} %-5level [%thread] [%X{trace_id}] %logger{36} - %msg%n</pattern>
注意%d后面的yyyy-MM-dd'T'HH:mm:ss.SSSXXX,那个单引号是ISO 8601时间分隔符,必须用单引号包住T才不会被当成pattern字母。另外%X{trace_id}就是MDC的字段,如果没有值,打印出来就是空字符串,你可以用%MDC打印整个MDC map。
4.4 Nginx访问与错误日志的log_format实践
Nginx是反向代理的绝对主角,绝大部分线上请求都会经过它,所以Nginx访问日志的格式直接决定你能不能快速定位到“哪个IP、哪个接口、哪个响应码、耗时多久”。
我常用的log_format模板:
nginx复制log_format main escape=json
'{'
'"time_local":"$time_iso8601",'
'"remote_addr":"$remote_addr",'
'"request_method":"$request_method",'
'"request_uri":"$request_uri",'
'"server_protocol":"$server_protocol",'
'"status":$status,'
'"body_bytes_sent":$body_bytes_sent,'
'"request_time":$request_time,'
'"http_user_agent":"$http_user_agent",'
'"http_referer":"$http_referer",'
'"http_x_forwarded_for":"$http_x_forwarded_for"'
'}';
access_log /var/log/nginx/access.log main;
这个escape=json参数非常关键,它会对变量里的特殊字符做JSON转义,防止$http_user_agent里的引号破坏JSON结构。如果没有加这个参数,一旦有用户用curl带上一个含引号的UA,你的日志行就废了。
Nginx错误日志的格式不像access log那么灵活,不能用log_format。但可以通过error_log指令调整输出位置和级别,比如error_log /var/log/nginx/error.log warn。注意不要在生产环境把error级别调到debug,那会疯了一样输出每个请求的细节,磁盘瞬间就会被写满。
4.5 Rocky 9 配置日志转发:journald到rsyslog再到远端
这个话题最近问的人很多,我在Rocky 9场景下试过一遍,记录一下完整的操作路径。Rocky 9默认的日志系统是systemd-journald,它的日志格式是二进制的,直接查看用journalctl很舒服,但要把日志转发到外部日志平台,就需要把journald的数据导出成文本或转发给rsyslog。
第一步,确认rsyslog已安装并启用:
bash复制sudo dnf install -y rsyslog
sudo systemctl enable --now rsyslog
第二步,配置journald把日志导入到rsyslog。在Rocky 9上,rsyslog默认配置已经包含了imjournal模块,用于读取journald的数据。你可以通过/etc/rsyslog.conf或/etc/rsyslog.d/下的自定义配置来检查:
bash复制grep imjournal /etc/rsyslog.conf
如果没看到,在/etc/rsyslog.d/里新建一个journald.conf:
bash复制module(load="imjournal" StateFile="/var/lib/rsyslog/imjournal.state")
第三步,设置转发模板,把日志发送到远程日志服务器。这里要注意,生产环境建议带RSYSLOG_TraditionalFileFormat或自定义的JSON格式,不要用默认格式,否则远端解析会很难受。我用的模板是这样的:
bash复制cat > /etc/rsyslog.d/forward.conf << 'EOF'
template(name="RemoteJSONFormat" type="string"
string="<%PRI%>%timegenerated:::date-rfc3339% %hostname% %jsonmesg%\n")
action(type="omfwd" target="10.10.10.10" port="514" protocol="tcp"
template="RemoteJSONFormat" queue.type="linkedList" queue.size="10000")
EOF
systemctl restart rsyslog
第四步,验证转发是否生效。在远端日志服务器上监听514端口,或者查看本地/var/log/messages,确认日志有输出。
有个细节需要注意:journald的/var/run/log/journal是内存文件系统,系统重启后日志会消失,所以要让rsyslog的imjournal模块持续运行并及时把journald的状态同步下来,否则重启后的日志可能丢失。
RemoteJSONFormat里用了%jsonmesg%,这个变量是rsyslog从journald导入数据时保留的结构化字段,如果你只想要纯文本消息,可以用%msg%,但那样就没法传递systemd的unit信息和进程信息了。具体看你的日志平台支持哪种,我先给一个可行性最高的方案。
4.6 SecureCRT(crt)配置日志保存:本地会话审计必备
很多人以为日志配置只发生在服务器端,其实运维同学自己的终端工具也很关键。SecureCRT是一个老牌的SSH客户端,默认情况下,你敲过的命令、看到的回显只在窗口里一闪而过,不存在本地。等你想回去翻“三天前我在这台机器上执行了什么”的时候,只能靠记忆,这很不专业。
SecureCRT的日志保存配置很简单,但也很有讲究:
- 打开
Options->Global Options->Log File(或者直接在会话属性Session Options->Terminal->Log File) - 在文件名模板里写上你想保存的路径,比如
C:\\Logs\\%Y-%M-%D_%H-%M-%S_session.log - 勾选
Start logging on connect,这样每次建连就自动开始记录,不用手动点开始记录 - 在
On connect和On disconnect子选项里,选择“每次连接追加”还是“每次新开文件”
我自己用的是按时间戳生成新文件的策略,一是方便按会话分文件检索,二是避免单个文件无限膨胀。路径里的%Y-%M-%D_%H-%M-%S是SecureCRT的时间变量,会自动替换成连接建立的时间,这样文件名天然带时间戳,以后找起来特别快。
还有个容易被忽略的点:SecureCRT会话日志默认会把Backspace、方向键等控制字符也记下来,长命令一编辑,文件里全是^H这种乱码。解决方法是勾选Log echoed input和Log screen output结合使用,并且关闭Log raw data(原始数据)选项,这样能保留干净的输入输出内容。
配置完以后,你在本地就有一份完整的操作记录了,配合服务器端的journald转发,基本上“谁在什么时间对哪台机器做了什么”都能还原出来。万一以后遇到被黑或者误操作,这就是第一手证据。
4.7 把日志轮转也一起做了
日志轮转是配套动作。不管formatter配得多漂亮,文件无限膨胀一样的坑。Linux下日志轮转主要靠logrotate,常见的配置是这样:
bash复制cat > /etc/logrotate.d/myapp << 'EOF'
/var/log/myapp/*.log {
daily
rotate 30
compress
delaycompress
missingok
notifempty
copytruncate
}
EOF
注释一下:daily每天轮转,rotate 30保留30个备份文件,compress压缩旧日志,delaycompress延迟压缩(防止正在写的进程还没写完就被压),copytruncate是先复制后清空原文件,适合文件句柄持有者一直不释放的场景(比如Java服务、Python服务)。如果不用copytruncate,logrotate默认采用rename方式,这时候需要通知日志框架重新打开文件句柄,否则日志会继续往旧文件里写,这就是你常听说的“日志文件被删除但磁盘空间不减”的原因。
Java服务可以用Logback自己的SizeAndTimeBasedRollingPolicy,它内部自己管理日志文件切割,不需要依赖logrotate。但用这种方案时要仔细检查文件名后缀和压缩参数,我有一次配错了,结果每天生成一个app.log.2025-01-15.0.log.gz,第二天又是.1.log.gz,找日志的时候差点崩溃。命名规范一定要提前定好。
5. 常见问题与排查技巧实录
5.1 日志时间差了8小时,到底是谁的锅?
这个问题我排查过不下十次。通常是某个容器或JDK进程没有继承宿主机的时区,自己用了UTC。检查顺序如下:
- 看系统时区:
timedatectl或date -R - 看Java时区:
jinfo里查user.timezone,或者启动参数里有没有-Duser.timezone,没有就去/etc/timezone看 - 看Python时区:
datetime.datetime.now().astimezone().tzinfo,确认是否有+08:00 - 看日志框架:Logback读取的是系统默认时区,但如果pattern里指定了
%d{yyyy-MM-dd HH:mm:ss}而不带时区后缀,后端展示时依然无法确定时区
最省心的做法是日志平台统一按UTC存储,展示层按用户的时区转换。如果你不想改系统时区,那就第一行日志格式里写清楚带时区,比如+08:00,让后面接手的人不会误解。
5.2 JSON日志行被截断或解析失败,多半是消息里的特殊字符
这个问题在Logstash和Filebeat用户里非常常见。日志行的JSON结构没有坏,但解析器提示grokparsefailure或者json_parse_error,这时候90%是消息内容里带了换行或引号。
解决办法按优先级排列:
- 优先保证消息字段在写入时经过JSON转义(Java用LogstashEncoder自动处理,Python要自己
json.dumps后再嵌到外层结构) - 其次在采集器侧开启multiline,比如Filebeat的
multiline.pattern匹配堆栈开头 - 如果还不行,就把消息字段里的换行符强制替换成
\n字面量 - 最后实在没法改代码,就在采集器里加一个
decode_json_fields的filter,把解析失败的行单独发到死信队列再人工排查
5.3 日志级别设置为DEBUG,生产磁盘被写爆
生产环境运维的人最怕一种开发:上线时候图省事,代码里打满了logger.debug,还把日志级别设成DEBUG,美其名曰“看看线上执行过程”。结果并发一高,一晚上生成几十GB日志,磁盘报警,服务卡死。
我的建议是生产环境最低级别就是INFO,DEBUG只允许在测试环境使用。如果你的系统必须要DEBUG排查,可以临时用动态日志级别的方案,只针对单一类开启DEBUG,问题解决后立刻恢复。Java的Actuator有这个能力,Python的话可以自己写一个简单的API去修改logging的level,网上方案很多。
5.4 异常堆栈在日志平台里被拆散,怎么合并都合不对
这个问题很坑。症状是Kibana里搜一条异常能搜到几百条单行日志,每条只有堆栈的一行,每条时间戳都一样。如果你已经采用了“堆栈折叠成一行”的方案,应该不会遇到这个问题。但如果你还在用多行文本格式,建议在Filebeat里配置multiline规则,注意堆栈行通常是以空白或制表符开头的,具体规则可以写成:
yaml复制multiline.type: pattern
multiline.pattern: '^\\S'
multiline.negate: true
multiline.match: after
意思是“不以非空白字符开头”的行,都合并到上一条日志后面。这个规则对Java和Python的堆栈都有效,但要注意它会把所有换行继续行的日志都合并,包括一些业务日志里本来就有换行的内容。所以生产环境最省心的方案还是把堆栈折叠成一行,虽然看得时候没那么舒服,但胜在稳定。
5.5 formatter性能影响有多大,要不要省?
很多人担心加脱敏、加自定义JSON格式化会影响TPS。我实测过,在Java里用LogstashEncoder输出JSON,相比普通文本pattern,大约增加5%到10%的开销,高峰期会有一些CPU消耗。Python的JsonFormatter也一样,但Python本身日志I/O开销就大,多出来的格式化开销占比其实不高。
真正影响性能的不是formatter,而是日志输出方式。同步输出到磁盘在高并发下才是大头。生产环境建议用异步appender,比如Logback的AsyncAppender、Python的QueueHandler,把日志I/O操作从业务线程里摘出去。日志量特别大的话,可以考虑本地先写到临时缓冲,再批量发送到日志平台,避免一次一条网络请求。
我在服务端配置脱敏时没有用特别复杂的正则,避免CPU空转,规则设计得简单直接,只在字段值层面做判断,不搞全局扫描。能精确到字段名的就按字段名替换,不能精确到字段名的再上正则,这样性能影响几乎可以忽略。
6. 实际项目中沉淀的个人经验
搞了这么多年的日志配置,我最深的感受是:日志不是“打了就行”,也不是“越全越好”,而是“在需要的时候能找到信息,在不需要的时候不打扰你”。formatter配置看似只是一个小环节,但它决定了你的排查效率、审计合规、磁盘成本和团队协作方式。很多团队抱怨排查问题慢,其实不是工具不强,而是日志从源头就没有设计好。
我个人的操作习惯是:所有新项目上线前,必须过一遍日志评审清单,确认时间格式、字段顺序、链路ID、脱敏规则、轮转策略都符合规范。上线后第一周盯一轮日志平台的数据质量,看看有没有解析失败、字段缺失、脱敏不到位的情况。这个动作做上两三个月,后面就非常省心了。
最后分享一个小技巧:在调试阶段可以把日志输出目标拆成两个文件——一个保留完整脱敏后的结构化日志,一个是没有脱敏但仅供本机root用户读取的调试日志(比如/var/log/private/,权限设成700)。这样既不影响生产排查,又能保留排障现场。权限控制这个事情,一定要重视起来。愿你的每一行日志,都能在关键时刻拉你一把,而不是把你推向火坑。
