1. 从平台线程到虚拟线程:Java被迫改变并发模型的真正原因
我大概是从2018年开始被Java并发折磨的。当时接手一个网关服务,高峰期QPS一上来,线程池就疯狂扩容,CPU没满,线程倒是堆了几百上千个,GC压力陡增,反过来拖垮响应时间。后来用了异步化、响应式编程,代码改得面目全非,排查问题更是噩梦——链路日志追起来全是回调地狱。所以当JDK 21正式发布虚拟线程(Virtual Threads)的时候,我的第一反应是:这东西要真能解决平台线程的老毛病,那真的是给Java并发开发"续命"了。
先说清楚一个基础概念:从JDK 1.2开始,Java的java.lang.Thread就是操作系统线程的直接包装。每个Thread实例背后都对应一个原生OS线程,线程的创建、调度、阻塞、唤醒全部由操作系统内核完成。这种设计的好处是简单、可靠、兼容性极好,JVM几乎不用操心调度细节,交给内核就行。但代价也实实在在摆在那里:
第一,线程创建成本高。 每创建一个OS线程,要分配内核栈(通常1MB左右),还要经过系统调用,频繁创建销毁线程非常昂贵。所以在实际项目中我们基本都会用线程池复用线程,但线程池那套容量规划也是个老大难——调小了排队,调大了内存爆炸。
第二,上下文切换开销大。 线程切换涉及用户态到内核态的切换,需要保存和恢复寄存器、程序计数器、栈指针等一大堆状态。当线程数超过CPU核心数时,大量CPU时间会耗在切换上而不是真正执行任务上。
第三,线程栈占用内存。 JVM默认线程栈大小是1MB(可以通过-Xss调整),这听起来不大,但当你开了5000个线程,光栈空间就是5GB。现实中很多高并发服务线程数根本不敢开太大,内存先撑不住了。
有一个公式在Java并发圈流传很广,用来估算线程池的合理线程数:
code复制线程数 = CPU核数 / (1 - 阻塞系数)
其中阻塞系数在0到1之间,表示线程执行任务时阻塞时间的占比。但这里有个致命问题:阻塞系数高的时候,单个线程的利用率很低。 比如一个线程处理一个请求,其中80%的时间在等待下游响应I/O,那这个线程只有20%的时间在干活。为了支撑高并发,你只能不停加线程,结果就是线程数远远超过CPU核心数,大量线程在等待,大量上下文切换在消耗CPU。
虚拟线程的出现,本质上是把这套逻辑彻底翻转:让每个任务一个线程,而不是让线程池复用线程。 反正每个线程平时大部分时间都在阻塞等待,那不如让线程变得极轻量,JVM在用户态自行管理和调度这些线程,阻塞时自动让出载体线程去执行别的任务。这样单个CPU核心可以"同时"承载成千上万个虚拟线程,阻塞不再是性能杀手,反而是常态。
JDK 21在2023年9月正式发布了虚拟线程特性(JEP 444)。从使用者的角度看,最大的感受是:你可以继续用同步编程的思维、写阻塞式的代码,但并发能力却能接近异步模型。 这是什么概念?就是说我不用再为了追求性能去学习和维护那套CompletableFuture、响应式流了,直接写传统代码就行,虚拟线程在底层帮你把阻塞变成了让位。
提示:JDK 21是LTS版本,这一点非常重要。虚拟线程不是实验特性,而是正式的产品级能力,可以在生产环境放心用。
我在这篇文章里会把虚拟线程的底层原理拆开揉碎,从JVM调度机制、平台线程与虚拟线程的协作方式、工作窃取算法、pinning问题,到实际改造项目时怎么选型、怎么避坑,全部过一遍。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 虚拟线程的调度内核:JVM如何用一个小池子扛住百万任务
虚拟线程想实现百万级并发,靠的是"用户态调度"这个核心思路——线程的创建、切换、调度全部由JVM自己管理,不依赖操作系统内核。 这就像一家公司安排员工出差,平台线程是全职员工,出差意味着占用一个人;虚拟线程是"一人分饰多角",谁在等结果的时候就先把工位让给别人用。
2.1 载体线程(Carrier Thread)与平台线程的关系
在虚拟线程的实现中,JVM引入了一个关键概念:载体线程(Carrier Thread)。虚拟线程本身不直接运行在CPU上,它运行在一个平台线程之上。JVM从底层维护了一个ForkJoinPool作为调度器,这个池里面的线程就是载体线程。虚拟线程不是独立占用一个平台线程,而是以任务的形式提交给这个ForkJoinPool去执行。
java复制// JDK源码中的核心类
java.lang.VirtualThread // 虚拟线程实现类
java.util.concurrent.ForkJoinPool // 底层调度器(虚拟线程专属实例)
每次虚拟线程要运行,调度器会从池中选一个空闲的载体线程,把虚拟线程"挂载"(mount)上去执行。这里有一个非常关键的机制:
- 当虚拟线程执行到阻塞操作时(I/O、锁等待、
Thread.sleep()等),JVM会自动触发一次挂起,将虚拟线程从载体线程上"卸载"(unmount),同时载体线程立即被释放,可以去执行另一个虚拟线程。 - 当阻塞结束,虚拟线程的状态变为可运行(RUNNABLE),调度器会在某个合适的时机把它重新挂载到某个载体线程上继续执行。
整个过程是透明的。从代码角度看,你写的还是普通的同步代码——socket.read()、Thread.sleep()、lock.lock(),但底层其实发生了多次"挂起-切换-恢复"的循环。
这个有点像NIO中事件循环的思路,但最大的区别是:NIO要求你把代码改写成基于回调或状态机的模式,而虚拟线程完全不需要,语言层面帮你把"阻塞即让位"这件事做掉了。
2.2 JVM层面对阻塞的感知:神奇的三次机制
虚拟线程能"感知"阻塞并主动让位,靠的是JDK对大量阻塞点进行了改造。具体策略分为三个层次:
层次一:直接改造的阻塞API。 JUC包下的锁、条件变量、信号量等同步器,它们的阻塞逻辑已经被重写为支持`tryYield
