先说背景。我去年在公司做了一款内部办公通讯软件的 Java 服务端,负责的是其中最核心也最容易被吐槽的一块:端到端消息分发和提示。所谓端到端,不是只把消息从发送方发到接收方那么简单,从发送者点下“发送”,到接收者的未读角标 +1、桌面弹窗弹出、会话列表红点亮起,这一整条链路里的消息路由、在线状态、离线存储、并发计数、幂等去重、提醒触发,每一个环节都是坑。这篇文章把我实际踩过的坑和沉淀下来的设计思路完整拆一遍,适合做 IM、OA、协同办公系统后端的朋友参考,也适合准备 Java 方向面试、想理解真实业务里并发和消息机制的读者。
1. 端到端消息分发,到底难在哪
1.1 办公通讯场景下的核心需求
先明确我们做的是什么。办公通讯软件不是纯粹的个人 IM,除了普通一对一聊天,还有群通知、审批提醒、日程提醒、公告推送、文件传输消息。这些消息有一个共性要求:必须尽快触达用户,并且用尽可能明显的方式让用户感知到。个人 IM 里你设置个免打扰就能接受延迟,但办公场景下,一个审批超时提醒晚到十分钟,可能就意味着整个流程卡住。
从产品层面拆解,核心需求可以概括成四句话:
- 消息要准:发给人 A 的消息,不能跑到 B 那里。
- 消息要到:在线实时推,离线进存储,上线后重新拉取。
- 提示要响:未读数、红点、桌面通知、声音提醒,一个都不能缺。
- 链路要稳:服务重启、网络抖动、客户端崩溃,都不能轻易丢消息。
这四条看着简单,真正落到 Java 工程上就是一场灾难。因为消息本身是无状态的,但用户状态是有状态的,连接是有状态的,登录设备是有状态的,未读计数也是有状态的。做这个项目的第一周,我最大的感受就是:写一个 CRUD 接口容易,写一条不会丢、不会重、不会乱序的消息链路,太难了。
1.2 为什么不能用简单的 HTTP 轮询撑起全线
很多新手第一反应是:客户端每隔一秒拉一次“新消息”,不就能实现消息推送了吗?能,但撑不住。轮询的问题不是不能用,而是它和办公通讯的需求天然矛盾。
公司内部几千人同时在线,如果每人每 3 秒发起一次 HTTP 请求查询新消息,服务端的压力会非常难看。而且轮询的实时性非常差,3 秒一次意味着消息最多延迟 3 秒,如果把它缩短到 1 秒,QPS 直接暴涨好几倍。还有更隐蔽的问题:HTTP 请求是无状态的,服务端没法准确感知客户端到底还在不在线。你以为用户还挂着,实际上他的网络早就断了,只能靠超时时间猜。
所以实际选型里我们最终放弃了轮询,用了 WebSocket 长连接。WebSocket 的好处是:连接建立之后,服务端可以主动向客户端推送数据,不需要客户端一遍遍来问;同时通过心跳机制,服务端能够相对及时地感知连接是否存活。这是端到端消息分发体系里最基础的一个决策,后面的 Session 管理、消息路由、在线状态判断,全都建立在这个长连接底座上。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 全链路架构与关键通信链路设计
2.1 一条消息从发送到触达的完整旅程
在动手写代码之前,我花了两天时间把消息的完整生命周期画得很清楚。一条消息从 A 发送到 B,实际上要经过六个阶段:
- A 的客户端把消息发给服务端,服务端先落地存储,保证消息不丢。
- 服务端判断 B 当前在线节点,把消息路由到对应节点。
- 节点从连接管理表里找到 B 的 WebSocket 连接,下推消息。
- B 的客户端收到消息后,回执 ack。
- 服务端收到 ack 后,把消息状态标记为已送达。
- 服务端额外推送一个“提醒事件”,告诉客户端未读消息数更新,触发弹窗、红点、声音。
这六个阶段里,最容易出错的是第 3 步和第 5 步。第 3 步要求服务端必须先知道 B 在哪台机器上。如果我们的服务是多节点部署,B 的连接在节点 2 上,消息却发到了节点 1,那这条消息就算路由失败了。所以在线连接信息必须集中存储,我们用的是 Redis 保存“userId -> nodeId”的映射,节点本地再用一个 ConcurrentHashMap 保存“userId -> WebSocketSession”的连接表。
第 5 步的 ack 机制是整个消息可靠性的核心,没有 ack,你根本不知道消息到底是发出去了,还是半路丢了。后面我会专门讲 ack 和重试的设计。
2.2 在线状态与连接管理:SessionRegistry 与心跳
这块是我认为最值得讲的工程细节之一。连接管理听起来就是一个 Map 存 WebSocketSession,但真正用起来会发现一堆问题。
首先是并发问题。一个用户可能在 PC 端和手机端同时登录,同一个 userId 对应了多个 WebSocketSession。如果直接用 ConcurrentHashMap<String, WebSocketSession>,后登录的设备会把先登录的顶掉,这就变成单端登录了。办公场景下用户基本都希望多端共存,所以我们实际用的是 ConcurrentHashMap<String, ConcurrentHashMap<String, WebSocketSession>>,外层 key 是 userId,内层 key 是
