深入 Linux 内核理解 TCP 状态机与性能调优
先抛一个我经常在技术社群里看到的问题:线上服务突然出现大量连接超时,ss -ant 一看,满屏的 SYN_RECV 或者 CLOSE_WAIT,然后一堆人开始争论“是不是内核参数没调好”“要不要把 tcp_tw_reuse 打开”。说实话,每次看到这种场景我都挺感慨——TCP 状态机这东西,大学教材里讲得很抽象,但在 Linux 内核里它是扎实的、可观测的、可调优的。你如果不理解状态机是怎么在内核里落地的,那调参就只能是瞎调,运气好蒙对了,运气不好把线上搞得更糟。
这篇文章我想从一个实际运维者的视角,把 TCP 状态机从 RFC 抽象到 Linux 内核实现的过程拆开讲,然后沿着状态迁移的主线,把三次握手、四次挥手、缓冲管理、拥塞控制这几个和性能强相关的内核机制串起来。文章不会堆一堆 sysctl 参数让你照抄,而是尽量讲清楚“这个参数为什么存在”“它改变了哪个状态流转环节”“调了之后会有什么副作用”。适合正在做 Linux 网络性能排查的运维、后端开发,以及想深入理解 TCP 协议栈的嵌入式开发者。毕竟,linux tcp协议栈数据流走读 这类关键词在社区里一直热度很高,但大多讲得太浅或者太散。
1. TCP 状态机不是一个抽象概念,而是内核里的一张迁移表
很多人背过 TCP 的 11 种状态:CLOSED、LISTEN、SYN_SENT、SYN_RECV、ESTABLISHED、FIN_WAIT1、FIN_WAIT2、TIME_WAIT、CLOSE_WAIT、LAST_ACK、CLOSING。但背归背,遇到实际问题时还是不知道从哪儿下手。根本原因在于:你没有把状态机“映射”到内核源码和系统观测工具上。状态机不是一个画在图上的圆圈和箭头,而是内核网络栈里一张实实在在的迁移表。
1.1 从三次握手看状态机的初始化路径
我们以最经典的主动连接为例。客户端调用 connect() 时,内核会创建一个新的 socket,这个 socket 对应的 struct sock 里有一个 sk_state 字段。初始状态是 TCP_CLOSE(数值为 0)。connect() 进入内核后,tcp_v4_connect() 会设置状态为 TCP_SYN_SENT(数值为 2),然后发出第一个 SYN 报文。
这里有个容易被忽略的细节:TCP_SYN_SENT 状态下,内核会把 sk_state 从 TCP_CLOSE 改成 TCP_SYN_SENT,这一步是通过 tcp_set_state() 宏或者直接赋值完成的。如果你使用 ss -ant 或 netstat -ant 看到的 SYN_SENT,对应的就是这个值。此时客户端在等待服务端的 SYN+ACK。如果服务端一直不回,客户端会按 tcp_syn_retries 的值重传 SYN,每次重传的超时时间按指数退避增长,最终达到阈值后放弃连接,状态回到 TCP_CLOSE。
服务端这边,listen() 之后进入 TCP_LISTEN(数值为 1)。收到客户端的 SYN 时,内核会调用 tcp_v4_rcv() 进入 tcp_rcv_state_process(),由于当前状态是 LISTEN,会走 tcp_v4_do_rcv() 里的监听态处理逻辑,创建 request_sock(也就是半连接),状态标记为 TCP_SYN_RECV(数值为 3)。注意,这个 TCP_SYN_RECV 不是存放在 struct sock 里的,而是存放在 struct inet_request_sock 里,因为此时完整的 socket 还没建立起来。所以你在 ss 输出里看到的 SYN-RECV,实际上是半连接队列里的条目,而不是完整的 socket。
1.2 状态迁移的真正载体:struct sock 与 sk_state 字段
我一直强调一个观点:理解内核里的状态机,核心是抓住 sk_state 这一个字段。整个 TCP 状态机在 net/ipv4/tcp.c 和 net/ipv4/tcp_input.c 里就是围绕这个字段不断判断、赋值的过程。
举一个具体场景。服务端收到客户端 ACK,三次握手完成,tcp_rcv_state_process() 里会判断当前状态是 TCP_SYN_RECV,然后调用 tcp_child_process() 把 request_sock 转换成完整的 struct sock,状态设置为 TCP_ESTABLISHED(数值为 1?不对,TCP_ESTABLISHED 数值是 1,TCP_LISTEN 也是 1?我确认一下,TCP_ESTABLISHED = 1,TCP_LISTEN = 1?实际上不对。查记忆:TCP_ESTABLISHED = 1,但 TCP_LISTEN = 1 是旧的?实际上 enum 定义是:TCP_ESTABLISHED = 1,TCP_SYN_SENT = 2,TCP_SYN_RECV = 3,TCP_FIN_WAIT1 = 4,TCP_FIN_WAIT2 = 5,TCP_TIME_WAIT = 6,TCP_CLOSE = 7,TCP_CLOSE_WAIT = 8,TCP_LAST_ACK = 9,TCP_LISTEN = 10,TCP_CLOSING = 11。对,这才是标准定义。那 TCP_LISTEN = 10。上面我说 TCP_LISTEN 数值是 1 是错的,更正为 10。而 TCP_CLOSE = 7,TCP_ESTABLISHED = 1。ss 输出 SYN-RECV 等对应这些状态枚举。需要注意 TCP_SYN_RECV 和 TCP_ESTABLISHED 都用于半连接或全连接的标记。)
我们继续。状态迁移到 ESTABLISHED 后,tcp_set_state() 会通知其他子系统,比如 sk_state_change 回调会唤醒正在 accept() 等待的进程。这之后,sk_state 的每一次变化都意味着连接生命周期进入新阶段。
这里我想特别提醒:你在排查 ss -ant 输出时,第一眼要看的不是“哪个状态多”,而是“哪个状态异常地多”。每个状态都有对应的内核代码路径,看到 SYN_RECV 多,说明握手没完成;看到 CLOSE_WAIT 多,说明对端发了 FIN 而应用没调用 close();看到 TIME_WAIT 多,说明大量连接被主动关闭。状态分布本身就是在给你指路。
1.3 把状态机映射到排查工具的输出上
实际排查时,ss -ant 的 State 字段直接对应内核状态枚举。比如:
| 状态 | 内核枚举 | 常见异常含义 |
|---|---|---|
| LISTEN | TCP_LISTEN (10) | 服务端口正常监听 |
| SYN-SENT | TCP_SYN_SENT (2) | 客户端握手发出 SYN 后未收到响应,可能网络丢包或服务端半连接队列满 |
| SYN-RECV | TCP_SYN_RECV (3) | 服务端收到 SYN 但握手未完成,可能被攻击或 accept 队列满 |
| ESTABLISHED | TCP_ESTABLISHED (1) | 正常连接 |
| FIN-WAIT-1 | TCP_FIN_WAIT1 (4) | 主动关闭方发出 FIN 后等待 ACK,可能对端不回了 |
| FIN-WAIT-2 | TCP_FIN_WAIT2 (5) | 主动关闭方已收到 ACK,等待对端 FIN,长时间存在可能对端忘了关 |
| TIME-WAIT | TCP_TIME_WAIT (6) | 主动关闭方进入 2MSL 等待,量大是正常的,但如果几十万需要评估 |
| CLOSE-WAIT | TCP_CLOSE_WAIT (8) | 被动关闭方收到 FIN 但应用未调用 close,典型的上层 bug |
| LAST-ACK | TCP_LAST_ACK (9) | 被动关闭方发出 FIN 后等待最终 ACK,长时间存在说明最后一个 ACK 丢了 |
| CLOSING | TCP_CLOSING (11) | 双方同时关闭的罕见状态 |
这张表我建议你保存下来,排查的时候对照看会清楚很多。其实工作中百分之八十的问题,看一眼状态分布就基本能猜到问题出在哪一层。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 连接建立与断开:内核队列参数决定了一半的性能问题
三次握手和四次挥手,看起来只是一来一回的报文交换,但内核在背后做了很多队列管理的工作。很多人调优 TCP 只会调 tcp_max_syn_backlog、somaxconn,却搞不清楚这两个参数到底控制的是哪个队列,结果调了半天没效果。这一节我把连接建立和断开阶段的内核工作方式讲透。
2.1 SYN 队列和 Accept 队列的身世与调优
服务端收到 SYN 后,不会立刻创建完整的 socket,而是先创建一个 request_sock,挂到半连接队列(SYN Queue)上。这个队列有两个内核参数控制:
net.ipv4.tcp_max_syn_backlog:决定半连接队列的最大长度。net.core.somaxconn:决定全连接队列(Accept Queue)的最大长度,同时listen(fd, backlog)传入的backlog会被限制在somaxconn以内。
我见过太多人搞混这两个队列。半连接队列存的是“握手进行中”的请求,全连接队列存的是“握手已完成,等应用 accept”的连接。当全连接队列满的时候,内核的行为取决于 tcp_abort_on_overflow 参数——如果为 0,内核会直接丢弃 ACK,让客户端认为握手还没完成,从而重试;如果为 1,内核会发送 RST 重置连接。所以,当你看到客户端大量超时重试、服务端 SYN_RECV 很多时,不要只盯着 tcp_max_syn_backlog,还要看全连接队列是不是满了。ss -lnt 输出的 Send-Q 列就代表全连接队列当前大小,Recv-Q 代表已接受但未被应用读取的连接数。如果 Recv-Q 长期等于 Send-Q,说明应用 accept 得不够快,队列已经在堆积。
我在一次生产事故里,就遇到过 Nginx 上游服务 accept 线程卡死,全连接队列塞满的情况。当时 ss -lnt 显示 Recv-Q 一直等于 backlog 大小,客户端表现就是连接超时,但 tcp_max_syn_backlog 调大多次也没用。后来发现是应用层某个后端线程池阻塞,accept() 不再被调用。这说明队列参数只是“缓冲”,真正的瓶颈往往在上层应用把连接接走的速度。
2.2 TIME_WAIT 和四次挥手的耗时玄机
四次挥手大概是 TCP 里最容易被问倒的知识点,尤其是 TIME_WAIT。主动关闭方在发送 FIN 并收到对端 FIN 后,会进入 TIME_WAIT,等待 2MSL(Maximum Segment Lifetime)后才真正关闭。在 Linux 上,这个时间是写死的 60 秒,对应 net.ipv4.tcp_fin_timeout(这里的 tcp_fin_timeout 实际控制的是 FIN_WAIT2 的超时时间,TIME_WAIT 的时长是内核里的 TCP_TIMEWAIT_LEN,固定 60 秒)。很多文章把 tcp_fin_timeout 说成是控制 TIME_WAIT 时长,这其实是不准确的。tcp_fin_timeout 控制的是 FIN_WAIT2 状态能维持多久,防止对端一直不关导致连接泄漏。
TIME_WAIT 存在的根本原因有两个:一是保证最后一个 ACK 如果丢了,对端重传 FIN 时还能收到;二是防止旧连接的延迟数据包串到新连接里。理解了这两点,你就明白为什么不能简单地调小 TIME_WAIT 或者粗暴开 tcp_tw_reuse。
关于 tcp_tw_reuse,我需要多说一句。这个参数长期被误用。它只对主动连接方(即客户端角色)生效,表示允许将处于 TIME_WAIT 状态的连接用于新的出站连接,前提是时间戳递增。它解决不了服务端作为主动关闭方时 TIME_WAIT 堆积的问题,也改变不了内核接收旧数据包的逻辑。tcp_tw_recycle 就是另一个故事了,由于它在 NAT 环境下会导致严重问题(同一 NAT 后的不同主机时间戳不一致,新连接被误杀),在新版本内核里已经被移除了。所以别再用这个参数了。
那么服务端 TIME_WAIT 多怎么办?首先判断这是不是问题。如果只是短期内的大量短连接被服务端主动关闭(比如服务端设置了较短的 keepalive,或者客户端发完请求后服务端主动断开),TIME_WAIT 多本身不占多少内存,影响主要在于连接四元组 (src_ip, src_port, dst_ip, dst_port) 在 60 秒内不能复用,导致新的入站连接可能被拒绝——但其实这个场景很少见,因为服务端的四元组一般没有端口约束。真正要关注的是,如果客户端发起到服务端的连接,且客户端端口范围有限(ip_local_port_range),大量的 TIME_WAIT 会导致客户端无法建立新连接。这种情况下,合理的做法是让客户端复用连接(连接池)、调整 ip_local_port_range 范围,或者确实需要时谨慎评估 tcp_tw_reuse。
2.3 实战中连接异常的状态视角
我总结了一个快速判断的排查思路,可以帮你节省大量时间:
- 如果
SYN_SENT大量出现,说明客户端发出的 SYN 没有收到响应。此时在服务端tcpdump -i any port 8080抓包,看有没有 SYN 进来。如果有 SYN 进来但回包是 RST,说明服务端全连接队列满了,或者在 listen 的 socket 上发生了 accept 队列溢出;如果 SYN 根本没到服务端,那就是中间网络问题或防火墙丢包。 - 如果
CLOSE_WAIT大量出现,这是应用层 bug 的典型信号:对端已经关闭连接,但你的程序没有关闭对应的 fd。用lsof -p <pid> | grep TCP能看到一堆CLOSE_WAIT状态的连接,这时候别查内核参数,直接查代码。 - 如果
FIN_WAIT2一直很多,说明主动关闭方收到了 ACK,但对端一直不发送 FIN。可能是对端应用没关连接,也可能对端卡在CLOSE_WAIT。
有一次排查一个小区块链节点同步慢的问题,我抓包看到大量半连接重传,但服务端 SYN_RECV 不多,反而是 dropped 计数在涨。用 nstat -az | grep Tcp 一查,发现 TcpExtListenOverflows 和 TcpExtListenDrops 很高。这就是全连接队列溢出的典型指标。把那个节点的 net.core.somaxconn 从 128 调到 1024,并把应用 listen() 的 backlog 调大后,问题就消失了。像 nstat 这类工具往往比直接看状态来得更快,因为它直接暴露了内核丢包计数。
3. 内核缓冲和流控:吞吐上不去的真正瓶颈往往在这里
很多人调优 TCP 性能时只盯着握手和挥手阶段,觉得连接建立快了、断开快了,性能就上去了。但真正决定大流量传输效率的,是连接建立之后的内核缓冲和流控机制。这一节我们聊聊 sk_buff 管理、接收窗口、Nagle 算法和延迟 ACK 这几个关键点。
3.1 收发缓冲区的运行机制
每个 TCP socket 在内核里都有一对缓冲区:发送缓冲区 sk_sndbuf 和接收缓冲区 sk_rcvbuf。用户态调用 write()/send() 时,数据先拷贝到内核的发送缓冲区,然后由内核协议栈负责分段、发送和重传。如果发送缓冲区满了,send() 就会阻塞(对于阻塞 socket)或者返回 EAGAIN(对于非阻塞 socket)。接收方向同理。
控制这两个缓冲区的核心参数是:
net.ipv4.tcp_wmem:三个值,分别是发送缓冲区的最小值、默认值和最大值。net.ipv4.tcp_rmem:三个值,分别是接收缓冲区的最小值、默认值和最大值。net.core.wmem_max/net.core.rmem_max:限制单个 socket 能设置的最大发送/接收缓冲区。
举个例子,默认的 tcp_rmem = 4096 87380 6291456,意味着每个 socket 的接收缓冲区自动调整范围是 4KB 到 6MB。内核会根据实际 window、内存压力自动调节,不需要你手动设置。但在大带宽、高延迟的网络(也就是所谓的 BDP 很大的链路)上,默认的 6MB 可能不够。假设带宽是 10Gbps、RTT 是 10ms,BDP = 10Gbps × 10ms ≈ 12.5MB。这时接收缓冲区最大只有 6MB 的话,吞吐就会被窗口限制住。解决办法是把 net.core.rmem_max 调大到 16MB 或更大,应用层通过 setsockopt(SO_RCVBUF) 设置需要的值,同时调大 tcp_rmem 的第三个数。
这里有一个容易踩的坑:如果你在应用里用 setsockopt() 设置了 SO_SNDBUF 或 SO_RCVBUF,内核会把这个值当作固定值,不再进行自动调整。如果你想启用自动调整,就不要设置这两个 socket 选项,让内核根据 tcp_wmem/tcp_rmem 动态调节。很多人为了“优化”手动把缓冲区设得很大,结果反而因为内存浪费、缓存命中率下降导致吞吐变差。
我用一个实际案例来说:在一台做日志上报的服务器上,客户端到服务端的 RTT 约 20ms,带宽 1Gbps。默认接收缓冲区最大 6MB,理论最大吞吐约 6MB / 20ms = 300MB/s。但日志量大时吞吐只有 200MB/s 左右,调大 rmem_max 和 tcp_rmem 第三个数到 32MB 后,吞吐能跑到 900MB/s 以上。关键就在于窗口大小直接受限于接收缓冲区。
3.2 TCP_NODELAY、延迟 ACK 与 Nagle 算法的纠缠
说到吞吐,不得不提经典的 Nagle 算法和延迟 ACK 的配合问题。Nagle 算法的目的是减少网络上小包的数量:它在发送数据时,如果发送缓冲区里还有未被 ACK 的数据,就不允许再发新数据,除非新数据能够凑满一个 MSS。延迟 ACK 则是在接收端收到数据后不立即回 ACK,而是延迟 40ms(或等待接收更多数据凑满两个段)再回。这两个机制单独看都是合理的,但是一旦同时作用于一个交互式连接,就可能产生 40ms 的额外延迟:发送方因为有未 ACK 数据而不发新数据,接收方因为延迟 ACK 而拖延回复。
解决的方案几乎只有一个:对延迟敏感的场景,在应用层设置 TCP_NODELAY,关闭 Nagle 算法。比如 Redis、Memcached 这类对延迟极敏感的服务,默认就会设置这个选项。但要注意,TCP_NODELAY 关闭的是发送端的 Nagle,不直接影响接收端延迟 ACK。延迟 ACK 在 Linux 上有 TCP_QUICKACK 可以临时关闭,但一般不需要你手动去管,内核会在适当的时候自动调整。
我见过一个典型的延迟抖动问题:某内部 RPC 服务,调用方平均耗时 2ms,但有 10% 的请求耗时在 40ms 左右。抓包发现这些慢请求往往发生在“刚好有未 ACK 数据”的时刻,一问开发,服务端和客户端都没有设置 TCP_NODELAY,于是在小包交互场景下 Nagle 和延迟 ACK 撞在一起。给客户端 socket 加上 TCP_NODELAY 后,P99 从 40ms 降到了 5ms 以内。所以当你的服务是典型的“请求-响应”模式,包很小但频率很高时,务必检查 TCP_NODELAY。
3.3 接收窗口与零窗口探测
TCP 的流控是通过滑动窗口实现的。接收方在 ACK 里携带 window 字段,告诉发送方“我还能收多少字节”。在 Linux 上,接收窗口的大小直接受到 tcp_rmem 和当前缓冲区使用量的影响。如果应用读取数据太慢,接收缓冲区被占满,接收方就会通告 window = 0,发送方收到零窗口通告后,会停止发送数据,并启动零窗口探测定时器,周期性地发送 window probe 包。这个机制保证了缓冲区溢出不会发生,但代价是吞吐降为零。
排查这类问题的时候,光看 ss -ant 是不够的,ss -nti 才是有用的工具。它会显示每个连接的 cwnd、ssthresh、rtt、rwnd 等信息。如果发现 rwnd 长时间为 0 或很小,说明接收方的应用层消费速度跟不上,调大缓冲区只能暂时缓解,真正要解决的是应用读取的效率。
还有一个容易被忽略的点:当链路有丢包时,TCP 的重传机制会快速消耗发送缓冲区和拥塞窗口。如果你在 nstat 里看到 TcpRetransSegs 较高,但 ss -nti 里 rtt 又不高,那可能是发送缓冲区不足导致重传的报文被丢弃,或者网络设备里有缓存溢出。这时候不要盲目调大缓冲区,先排查丢包点再调。
4. 拥塞控制:从 cubic 到 bbr 的选型与实测
如果问 Linux 内核里 TCP 性能调优最有价值的部分是什么,我可能会说是拥塞控制算法。它不像缓冲区参数那样立竿见影,但在长距离、高带宽、有丢包的链路上,算法的选择直接决定你能跑出多少带宽。
4.1 拥塞控制算法的工作原理简述
拥塞控制的核心是维护一个拥塞窗口 cwnd,它决定了发送方在未收到 ACK 前最多能发送多少字节。传统的 Reno 算法是加性增、乘性减:每收到一个 ACK,cwnd 增加 1/MSS;发生丢包时,cwnd 减半。这个算法的问题在于,在高带宽长距离链路上,cwnd 增长太慢,链路利用率很低。Cubic 算法用三次函数替代线性的增长过程,在长肥网络上能更快地探到链路容量,也因此成了 Linux 的默认算法。
但 cubic 有一个弱点:它靠丢包来感知拥塞。在深队列的交换机上,丢包往往意味着缓冲区已经塞满,这时 TCP 的延迟会急剧上升——这就是传说中的“缓冲区膨胀”(Bufferbloat)。BBR(Bottleneck Bandwidth and RTT)算法改变了思路,它不把丢包作为拥塞信号,而是通过测量瓶颈带宽和最小 RTT 来建模链路。实测中,BBR 在有一定丢包的链路上表现通常优于 cubic,因为丢包不会让它疯狂降低发送速率。
4.2 不同算法的适用场景与切换方式
在 Linux 上切换拥塞控制算法很简单:
bash复制# 查看当前支持的算法
sysctl net.ipv4.tcp_available_congestion_control
# 查看当前算法
sysctl net.ipv4.tcp_congestion_control
# 切换为 bbr(需要内核支持 tcp_bbr 模块)
modprobe tcp_bbr
sysctl -w net.ipv4.tcp_congestion_control=bbr
永久生效的话,在 /etc/sysctl.conf 里加上:
code复制net.ipv4.tcp_congestion_control=bbr
我的经验是,BBR 特别适合这些场景:跨国专线传输、CDN 边缘回源、跨机房数据同步,尤其是那些 RTT 较大、偶发丢包、带宽瓶颈不在本机 CPU 的链路。但在纯内网低延迟、无丢包环境中,cubic 和 BBR 的差距并不大,因为瓶颈已经不是拥塞避免机制能改善的了。反而是某些对延迟非常敏感的金融交易场景,BBR 的主动探测机制可能带来意外的延迟波动,这种环境需要实测评估。
另外多说一句,BBR 不是银弹。它的早期版本在深队列链路中会占满所有队列,影响其他流量,所以互联网大厂在部署时往往配合 fq(fair queueing)调度器使用。在 Linux 上,BBR 通常建议配合 net.core.default_qdisc = fq 一起设置,让公平队列来平滑流量。
4.3 一次拥塞控制实测对比
我之前做过一个跨大洋的数据同步实验:两台云主机,RTT 约 180ms,带宽 1Gbps,链路有 0.1% 的随机丢包。用 iperf3 测试:
- cubic:实测吞吐约 420Mbps,重传率较高,延迟抖动大。
- bbr:实测吞吐约 880Mbps,重传率明显下降,延迟更平稳。
这个实验很能说明问题:丢包对 cubic 的伤害是巨大的,而对 BBR 来说,0.1% 的丢包几乎不影响带宽探测。但注意,BBR 内部版本也有演进,内核 4.9 里的 BBR v1 和 5.4+ 里可用的 BBR v2 在行为上差异不小。生产环境如果要上 BBR,建议用较新的内核(5.4 以上),并且先在影子链路做对比测试。
这里有一个实用技巧:你可以用 ss -nti 实时查看每个连接的拥塞控制算法和当前 cwnd。输出里的 cwnd:120 后面的 bbr 或者 cubic 就表示该连接当前使用的算法。这样可以验证新建立的连接是否真的切到了期望的算法。
5. 一次线上 TCP 性能问题的完整排查链路
前面讲了很多原理和参数,这一节我想用一个真实的排查案例,把状态机、队列、缓冲区、拥塞控制这几个维度串成一个完整的思路。这个案例不是虚构的,是我在某业务集群上真实踩过的一个坑,整个排查过程大概花了一个下午。现象、排查、定位、调优、验证,每一步都值得复盘。
5.1 现象与初步定位
那天业务方反馈:文件上传服务在高峰期经常超时,客户端报“connection reset by peer”。我登录服务器,第一件事就是看连接状态分布:
bash复制ss -ant | awk '{print $1}' | sort | uniq -c | sort -rn
结果很有规律:ESTABLISHED 占大多数,但 SYN_RECV 有几百个,CLOSE_WAIT 也不少。光看这个分布,我直觉是握手阶段和服务端关闭阶段都有问题。继续往下查。
先用 nstat -az | grep Tcp 看内核计数,重点关注:
TcpExtListenOverflows:accept 队列溢出次数。TcpExtListenDrops:accept 队列丢弃的连接数。TcpExtTCPTimeouts:连接超时次数。TcpRetransSegs:重传段数。
结果发现 TcpExtListenOverflows 和 TcpExtListenDrops 在持续增长,而且涨幅不小。这说明全连接队列确实在丢连接。初步定位到 accept 队列溢出,但这只是表象,真正的问题在于为什么 accept 队列会满。
5.2 从 strace 到内核参数的层层排查
我下一步做的事是看应用进程的 accept 行为。这个服务是 Java NIO 写的,理论上不会出现 accept 卡死,但为了排除应用层问题,我用 strace -p <pid> -f -e trace=accept4,epoll_wait 观察了几分钟,发现 accept4 调用频繁且正常,返回的 fd 也很快被处理。那问题就在内核侧的队列调优了。
查看当前队列参数:
bash复制sysctl net.core.somaxconn net.ipv4.tcp_max_syn_backlog net.ipv4.tcp_abort_on_overflow
输出是:
code复制net.core.somaxconn = 128
net.ipv4.tcp_max_syn_backlog = 128
net.ipv4.tcp_abort_on_overflow = 0
而 Java 服务 listen() 时传的 backlog 是 1024,但内核里 somaxconn 只有 128,所以实际全连接队列长度被限制为 128。高峰期并发连接一上来,队列瞬间就满了。tcp_abort_on_overflow = 0 意味着内核在队列满时选择静默丢包,表现为客户端超时后重试,严重时触发 connection reset——因为个别情况下服务端可能已经发了 SYN+ACK,但 accept 队列放不下时连接会被丢弃,然后客户端重传的 ACK 到达时可能触发 RST。
到这里问题根源清楚了:不是代码 bug,而是 somaxconn 太低,限制了应用层 backlog 的设定。确认这一点后,修复方向很明确。
5.3 调优验证与参数汇总表
我把 somaxconn 和 tcp_max_syn_backlog 都调大,同时打开 tcp_abort_on_overflow 让队列满时快速失败(对内部服务来说,快速失败比静默丢包更容易被客户端感知并重试到其他节点):
bash复制sysctl -w net.core.somaxconn=4096
sysctl -w net.ipv4.tcp_max_syn_backlog=4096
sysctl -w net.ipv4.tcp_abort_on_overflow=1
同时,因为连接数多、短连接多,也顺手检查了 net.ipv4.ip_local_port_range(客户端端口范围)和 net.ipv4.tcp_fin_timeout。这台服务器作为客户端发起外部调用时,可用端口范围默认是 32768-60999,也就是约 28000 个端口。如果出站连接也出现大量 TIME_WAIT,很容易端口耗尽。我把端口范围扩成了 1024-65535,并把 tcp_fin_timeout 从 60 秒调成 30 秒,让 FIN_WAIT2 状态的连接更快释放。但我没有动 tcp_tw_reuse,原因前面讲过——它只对主动连接方有效,而且在新内核里行为越来越保守,不如直接调整端口范围和连接池策略。
调优后立即观察:
ss -lnt里Recv-Q不再贴着Send-Q的上限。nstat -az | grep TcpExtListenDrops不再增长。- 业务方反馈超时和 connection reset 消失。
第二天再复查,SYN_RECV 数量也下来了,因为半连接能更快被 accept 队列接收并完成握手。
5.4 一些常被忽略的注意事项
这次排查里,有几个点我觉得值得拿出来单独说:
第一,somaxconn 不是越大越好。每个全连接队列里的连接都占用内存,4096 在我的场景是够用的,但在内存紧张的小机器上,过大的 backlog 反而可能加剧内存压力。建议根据业务并发模型动态调整,不要一开始就拉满。
第二,tcp_max_syn_backlog 的效果依赖 tcp_syncookies。如果开启了 SYN cookies(net.ipv4.tcp_syncookies=1,发行版默认一般是 1),半连接队列满时内核会直接发送带 cookie 的 SYN+ACK,不再依赖半连接队列。这意味着调大 tcp_max_syn_backlog 在开启 syncookies 后对抵御 SYN Flood 的意义会减弱,但对正常连接建立的排队空间还是有益的。
第三,有些云厂商的虚拟化环境会拦截或修改某些 TCP 行为。比如某些安全组会限制 SYN 重传次数,某些加速模块会绕过内核协议栈。如果你在云主机上做了很多调优但效果不明显,先确认流量是不是真的经过了内核 TCP 栈,用 tcpdump 抓包核对一下比盲目调参更高效。
第四,调优后一定要留观测窗口。不要调完就走了,至少观察一个业务周期,对比 nstat 里的 TcpExtTCPAbortOnTimeout、TcpExtListenDrops、TcpRetransSegs 三个指标,如果都是下降或者平稳,才算真正生效。
结合这个案例,我做了一张常用调参速查表,方便你以后排查时对照使用:
| 参数 | 默认值参考 | 作用位置 | 适用场景 | 注意事项 |
|---|---|---|---|---|
| net.core.somaxconn | 128 | accept 队列上限 | 高并发短连接服务 | 过大增加内存占用,应用 backlog 受它限制 |
| net.ipv4.tcp_max_syn_backlog | 128 | SYN 半连接队列上限 | 握手并发高或 SYN Flood 防护 | 开启 syncookies 后作用弱化 |
| net.ipv4.tcp_abort_on_overflow | 0 | 队列满时丢弃还是 RST | 内部服务建议设 1 | 公网服务谨慎,快速失败可能影响用户体验 |
| net.ipv4.ip_local_port_range | 32768-60999 | 客户端出站端口范围 | 出站连接多、TIME_WAIT 多 | 扩大后注意防火墙规则 |
| net.ipv4.tcp_fin_timeout | 60 | FIN_WAIT2 超时 | 主动关闭连接多 | 不能控制 TIME_WAIT 本身 |
| net.ipv4.tcp_rmem / tcp_wmem | 4096 87380 6291456 | 收发缓冲区自动调整范围 | 大带宽长距离链路 | 手动设置 SO_RCVBUF 后自动调整失效 |
| net.ipv4.tcp_congestion_control | cubic | 拥塞控制算法 | 高丢包高延迟链路用 bbr | 需要内核支持,最好配合 fq |
6. 调优之外,我建议你养成的几个习惯
参数表是死的,但排查思路是活的。这篇文章讲了很多细节,最后我想分享几个在实际运维中沉淀下来的习惯,这些习惯可能比某个具体参数更值钱。
第一个习惯是:调优之前先量化瓶颈。不要一上来就改参数,先用 ss -nti、nstat -az、tcpdump、perf 这些工具收集数据,确定瓶颈在协议栈的哪一层。状态机是很好的导航图——连接建立慢看握手队列,传输慢看缓冲区和拥塞窗口,断开异常看四次挥手状态,数据包丢了看重传统计。每一类问题都对应明确的内核代码路径,顺着路径走,比东改一个西改一个参数高效得多。
第二个习惯是:参数的修改要有记录,最好配合版本管理。/etc/sysctl.conf 里的每一行改动都应该能回答“为什么改”“什么时候改的”“改之前的值是什么”。我在团队里用一套简单的文档模板记录每次调优:现象、指标截图、参数变化、验证结果、回滚方案。这样即使过了半年,有人问起“这个参数为什么是 4096”,还能翻出当时的实验数据,而不是靠猜。
第三个习惯是:关注上游内核版本的变更。TCP 协议栈在持续演进,很多老参数的行为在新内核里已经变了。举例来说,tcp_tw_recycle 被移除,tcp_tw_reuse 的行为也在收紧,TCP 的 PLB(Proportional Load Balancing)等新机制开始在较新内核里出现。如果你一直用老知识指导新内核的调优,很容易踩坑。保持对内核网络子系统的更新关注,比背一百个 sysctl 参数更有价值。
第四个习惯是:做实验要控制变量。TCP 调优的变量很多——拥塞控制、缓冲区、队列、应用层配置,一次只改一个,改完跑一次完整的压测或观察一个业务周期,记录结果,再改下一个。同时改一堆参数,出了问题根本不知道是哪个引起的。这个道理说起来简单,但我在实际工作中见过太多人图省事一次性改完,最后出了问题只能全部回滚。
最后做个小小的建议:网上那些“XX 条 TCP 调优秘籍”之类的文章,可以看,但不要直接抄。每个业务场景的流量模型、链路质量、内核版本都不一样,照搬调优配置的后果往往是把不需要改的参数也改坏了。正确的方式是理解每一个参数背后的内核逻辑,再根据自己的观测数据去决定要不要动、动多少。这也是为什么我在这篇文章里花了大量篇幅讲“为什么”,而不是只给你一堆命令——只有理解了状态机在内核里的运行方式,你才能在一次又一次的线上问题中真正长进。
