凌晨两点半,监控突然报警,磁盘使用率飙到95%。登上 CentOS 7 服务器,先跑 df -h,发现 / 根分区确实快满了,只剩 5% 可用。正准备按老办法找大文件、rm -rf 清理,结果执行 du -sh / 一看,所有的目录加起来才占了 60% 多,凭空多出来 30 多 GB 不知道在哪儿。
如果你也在 CentOS 7 上遇到过这种“文件删了、空间却不回来”的诡异现象,这篇文章应该能帮你少走不少弯路。这不是系统抽风,也不是磁盘坏了,而是 Linux 文件系统里 inode、文件描述符和 VFS(虚拟文件系统)三层机制联合作案的结果。我会从定位问题的实战方法讲起,再一层层拆开底层原理,最后给出一个完整的排障复盘和预防方案。不管是刚入门的小白,还是想夯实内功的运维老手,都能从这篇文章里拿到可直接用的东西。
1. 空间跑哪儿去了?先别急着删文件
遇到磁盘满了,大部分人的第一反应是找大文件、删文件。但如果你遇到的是“删了也不释放”的情况,第一步反而是先停下来,搞清楚空间到底被谁占着。
1.1 第一现场:df 和 du 的结果对不上
在 Linux 系统里,df(disk free)和 du(disk usage)分别是两个不同层面的统计工具。简单理解,df 是问文件系统“你总共多大、还剩多少”,它统计的是整个分区上被使用的数据块总量;而 du 是“从根目录出发,挨个目录去数里面的文件占了多少块”。
正常情况下,两者数据会有小幅出入,比如文件系统元数据、日志、保留块会占一点空间,但差距通常不会太大。如果你发现:
bash复制df -h /
du -sh /*
两个命令算出来的数据相差几十 GB,而且你已经用 du 把所有目录的大头都确认过一遍,确实是没占多少空间,那么大概率就是出现了“孤儿文件”或者叫“删除但未释放”的文件。
我自己的排查习惯是先用一条组合命令快速定位大目录:
bash复制du -x -h --max-depth=1 / | sort -hr | head -20
加上 -x 参数是为了不跨文件系统统计,否则你可能会把其他挂载点里的大文件也算进来,干扰判断。排序后基本能在一分钟内找到真正的磁盘大胃王,如果这里没有异常,再考虑“幽灵空间”。
1.2 用 lsof 揪出已经删除但仍被占用的文件
当你确认目录统计正常、但磁盘空间确实被大量占用时,十有八九是某个(或某几个)已经执行过 rm 的文件,还被正在运行的进程“衔在嘴里”。Linux 下最直接的工具就是 lsof(list open files)。
最简单的检查方式:
bash复制lsof | grep deleted
如果输出中有类似这样的内容:
code复制nginx 1234 root 15w REG 253,0 3047301120 917506 /var/log/nginx/access.log (deleted)
那么恭喜你,抓到元凶了。deleted 后缀表示这个文件已经被删除,但对应的文件描述符仍然打开着。
如果系统里没有 lsof,可以通过先定位到对应进程,再查它的文件描述符:
bash复制ls -l /proc/$(pidof nginx)/fd | grep deleted
这个方法完全依赖 CentOS 7 自带的 /proc 伪文件系统,不需要额外安装任何工具,在应急场景下非常顶用。
注意:产生这类问题的典型场景包括:Nginx/Apache 等 Web 服务长时间不重载日志文件、数据库临时表被误删、Java 应用生成了超大日志但 logrotate 配置不当、以及部分后台进程把临时文件 open 之后又 unlink。基本上只要有进程持续写一个已经被删除的文件,空间就会“占着茅坑不拉屎”。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 为什么 rm 了文件,空间却还在?底层三兄弟登场
知道了怎么定位,只是治标。要彻底理解这个问题,得把 Linux 文件系统的三个核心概念搞清楚:inode、目录项(dentry)、以及文件描述符(fd)。三者的关系,我建议用一个日常生活的类比来记。
2.1 inode:文件真正的“户口本”
很多人以为 ls -l 看到的那一大串属性,就是一个文件的全部信息。其实不是,一个文件在磁盘上真正存放的数据,不仅有内容数据块,还有一份关键的元数据——inode。
inode 里记录了一个文件的类型、权限、属主、大小、时间戳、数据块指针等几乎所有属性。可以把它理解成文件的“户口本”,上面写着这个文件是谁的、多大、数据放在哪个盘块。而文件名本身并不存在 inode 里,文件名只是目录里的一个条目,通过目录项指向对应的 inode。
在 ext4 文件系统上,可以用 stat 命令看到一个文件更内在的信息:
bash复制stat /var/log/nginx/access.log
File: /var/log/nginx/access.log
Size: 3047301120 Blocks: 5951800 IO Block: 4096 regular file
Device: fd01h/64769d Inode: 917506 Links: 1
这里的 Inode 就是文件的户口编号,Links 是硬链接数量,后面会反复提到。
2.2 目录项和硬链接计数:rm 到底删了什么
rm 命令在大多数人直观感受里,就是“把文件抹掉”。但在 Linux 的 long long ago 设计里,rm(更底层的 unlink 系统调用)只做了一个动作:把文件名从父目录的目录条目中移除,同时把 inode 的硬链接计数减一。
这里的“目录项”就是目录用来记录“哪个文件名对应哪个 inode”的条目。当一个文件没有任何目录项指向它时,它的硬链接计数就变成 0。注意,硬链接计数为 0 并不意味着 inode 和数据块马上被回收,只是说“从文件系统的目录树上,已经找不到它了”。
换句话说,rm 之后,这个文件从路径上“消失”了,但它的数据还在磁盘上,只是变成了孤儿。孤儿要真正从磁盘上消失,还得等最后一个占用它的进程松手。
2.3 VFS 与文件描述符:进程手里的“门卡”
Linux 支持众多文件系统,ext4、xfs、tmpfs、网络文件系统等。为了让上层应用不需要关心底层差异,内核抽象出了一层“虚拟文件系统”(VFS,Virtual File System),相当于一个万能插座,所有文件系统都通过这套统一接口对上提供服务。
每当一个进程打开文件时,VFS 会在内核里创建一个 struct file 对象,而这个对象会被放进进程自己的文件描述符表里,对应一个整数编号,这就是文件描述符。你可以把它想成商场储物柜的门卡,进程拿着门卡,随时能找到柜子(文件对象),即使柜子上贴的标签(文件名)被撕掉了,也不影响拿东西。
关键点来了:文件描述符指向的 struct file 对象,内部维护着一个指向 inode 的引用。只要这个引用还在,inode 就“没死透”,它的数据块就不会被释放。
2.4 引用计数归零,空间才真正释放
所以,一个 inode 真正被释放,需要同时满足两个条件:
- inode 的硬链接计数为 0(目录树上已经找不到这个文件了)。
- 没有任何进程持有该文件的打开引用(文件描述符计数为 0)。
只有这两个数值同时归零,内核的 dentry 和 inode 缓存才会真正回收这些数据结构,底层的数据块才会被标记为可用,df 看到的可用空间才会恢复。
现在再回头看标题的问题:CentOS 7 删除文件却不释放空间,本质就是“硬链接计数已经归零,但某个进程的文件描述符还攥着 inode 的引用不放手”。VFS 这一层的缓冲机制,保证了正在被使用的文件即使被误删也不会引起崩溃,但也带来了排查上的迷惑性。
3. 一次完整的排障实战:从告警到恢复
理论归理论,遇到真实故障时,还是要有一套按部就班的方法论。下面是我最近处理过的一个真实案例复盘,你可以照着这个流程走一遍。
3.1 场景还原:集群节点磁盘告警
一台跑着 Nginx 和 Java 应用的 CentOS 7 服务器,磁盘使用率超过 85% 触发告警。我登录上去,先看整体情况:
bash复制df -h
Filesystem Size Used Avail Use% Mounted on
/dev/mapper/centos-root 50G 48G 2.0G 96% /
根目录马上就满了。再看目录空间占用:
bash复制du -x -h --max-depth=1 / | sort -hr | head -10
结果 /var 只有 10G,/opt 有 15G,/home 有 8G,加起来算来算去都到不了 48G。这时候我基本可以断定:存在“幽灵文件”。
3.2 定位:lsof 一出手就知有没有
在 CentOS 7 上执行:
bash复制lsof +L1
+L1 参数表示列出“链接数小于 1”的打开文件,也就是那些已经被删除但仍被进程引用的文件。输出里看到了几行:
code复制java 5621 appuser 1w REG 253,0 15400550400 917506 /tmp/hsperfdata_appuser/jvm.log (deleted)
nginx 5234 nginx 15w REG 253,0 8876257280 910223 /var/log/nginx/error.log (deleted)
好嘛,一个 Java 应用在 /tmp 底下写了个名字叫 jvm.log 的临时文件,另一个是 Nginx 的 error 日志,都被之前的人“顺手清理”过,但对应进程一直没有重启过,所以空间一直被占用。两个文件加起来差不多 24G,跟 df 和 du 的差值对上了。
3.3 三个处置方案,按风险从低到高排序
确认元凶之后,接下来是释放空间。处置方案有很多,但一定要根据业务场景和进程类型做取舍。我一般按下面的优先级考虑。
方案一:等待自然释放(重启进程或让进程主动关闭日志)
最“正统”的做法,是让持有文件描述符的进程自己松手。比如对 Nginx,执行:
bash复制nginx -s reopen
这个命令会让 Nginx 重新打开日志文件,释放旧的文件描述符。Java 应用则可能需要在应用层配置滚动日志,或者做一次优雅重启。这个方案最安全,不产生任何副作用,缺点是很多场景下你没法随便重启业务进程。
方案二:kill 掉持有文件的进程
直接 kill 进程当然可以强制释放文件描述符,但这是最后手段。生产环境的数据库、交易系统、核心 Web 服务,你一旦 kill 掉,可能就是一次事故。所以这个方案我基本只在元凶是“僵尸进程”“异常脚本”或者明确可以停机的场景下才用。
方案三:优雅地“清空”已删除的文件
如果进程不能重启,也不想等,可以对该进程打开的这个已删除文件执行 truncate 操作。例如 Java 进程的 fd 编号是 1,对应的路径是 /proc/5621/fd/1,就可以用:
bash复制truncate -s 0 /proc/5621/fd/1
执行后,这个文件占用的数据块会被立即释放,df -h 马上就能看到可用空间恢复。更保险的写法是用 : > /proc/5621/fd/1,但实测下来,truncate 的语义最精确,不会带来异常的写入行为。注意,不要直接覆盖或删除 /proc/PID/fd/ 下的符号链接,那只是内核暴露出来的一个入口,操作它没有意义。
实战中,我把 Java 和 Nginx 的 fd 分别做了 truncate -s 0,再执行 df -h,可用空间立即从 2G 涨回 26G,磁盘告警解除,两个业务进程全程没有任何中断。
3.4 一个细节:数据还能找回来吗?
有时候系统管理员会想,既然文件还在磁盘上,那我端口又还在,能不能把误删的数据拷贝回来?
可以,但不建议当常规操作。在数据被 truncate 之前,理论上可以通过 /proc/PID/fd/文件描述符 这个软链接指向的内容直接读取数据。比如:
bash复制cp /proc/5621/fd/1 /root/jvm.log.bak
但这里有几个坑:如果进程还在持续写入,拷贝出来的文件可能是不一致的快照;如果文件特别大,拷贝时间又长,期间磁盘空间还可能被撑爆。更实际的做法是,在确认问题后不要频繁操作进程,先把关键数据备份方案评估清楚,再决定是否保留现场。
我的经验是:遇到 Java 进程尤其是 Tomcat、Kafka 之类的中大型应用,优先采用 truncate 释放空间,之后马上安排一次业务低峰期的优雅重启,让日志体系回到正常轨道。至于数据恢复,交给专业的数据恢复场景去考虑,不要在排障现场分心。
3.5 处置方案对比速查
| 方案 | 操作 | 风险等级 | 适用场景 |
|---|---|---|---|
| 优雅重开日志 | nginx -s reopen 或应用日志滚动 |
无 | 日志类文件,业务允许 reload |
| kill 进程 | kill -HUP PID 或 kill -9 PID |
高 | 僵尸、异常进程、已确认可停机 |
| truncate 清空 | truncate -s 0 /proc/PID/fd/N |
低 | 任意进程均可,临时救急首选 |
4. 防患于未然:怎么让这类问题别再出现
排障一时爽,防火更重要。这类“删除不释放”问题,其实是最容易通过规范避免的。下面几条是我这些年总结出来的血泪经验。
4.1 日志切割别只写命令,要测试验证
很多团队配置了 logrotate,但只知道写规则,不知道验证有没有生效。常见的错误是 logrotate 配置里没有加入 copytruncate 选项,导致 Nginx 这类不自动重新打开日志文件的程序,在切割后继续往已被移走的 inode 上写。日积月累,就会出现大量 deleted 文件。
一个稳妥的 logrotate 配置片段如下:
code复制/var/log/nginx/*.log {
daily
rotate 7
missingok
compress
delaycompress
dateext
copytruncate
create 0644 nginx nginx
}
copytruncate 的原理是先复制一份内容到新文件,再把旧文件清空。代价是复制和清空之间可能丢失一小部分日志数据,但好处是 Nginx 进程完全不需要 reload,非常适合日志精度要求不那么极端的场景。需要更精准的场景,也可以不加 copytruncate,改成 logrotate 后触发 nginx -s reopen,但这要求 logrotate 的 postrotate 脚本写得足够可靠。
4.2 临时文件、大文件不要往 /tmp 和根分区塞
很多人习惯把临时文件、备份文件直接扔到 /tmp,但这在服务器上是灾难的起点。/tmp 通常位于根分区,空间一般不会单独隔离,一旦写满整台机器就动不了了。
我的建议是:单独规划一个数据分区,比如 /data;所有需要保留的临时文件、日志、备份统一放这里,根分区只保留系统目录。这样即使某个应用写爆了 /data,也不会导致整台服务器不可远程操作。对于 Java 等应用,可以通过 -Djava.io.tmpdir=/data/tmp 之类参数把临时目录指过去。
4.3 监控双指标:df 和 du 分开盯
很多公司只对 df -h 的使用率做监控,但这恰恰容易漏掉“删除未释放”的问题。因为 df 看到的使用率是“磁盘实际占用”,而 du 看到的是“目录树上可统计的占用”,两者长期偏差过大,就说明系统里有残留的已删文件。
我建议监控系统同时采集两个指标:
df的 filesystem 使用率(触发磁盘空间告警)du对重点目录的统计结果(识别异常写入)
一旦发现 df 使用率高但 du 统计不到对应数据,就自动执行一次 lsof +L1 检查并推送告警,把问题消灭在萌芽状态。
4.4 规范“删除操作”本身
最后,还要强调一点:在 Linux 生产环境中,“删除”这个概念应该被重新定义。你在执行 rm 之前,最好先问三个问题:
- 这个文件被哪个进程打开了?
- 如果删除后进程继续往里面写,磁盘空间会不会被我“越删越满”?
- 有没有更优雅的方式,比如先
mv到备份目录、再定期清理?
我个人的习惯是,对日志文件、数据文件,优先用重命名代替删除。例如直接 mv /var/log/nginx/access.log /var/log/nginx/access.log.$(date +%F),再触发 reopen,让进程自然切换到新文件。这样既完成了清理,又不会产生 deleted 文件。
5. 我踩过的坑,和给你的建议
说几个容易在排障中翻车的细节,都是我亲身经历过的。
第一,别用 rm -f 直接删 /proc/PID/fd/ 下面的软链接。有些文章会建议你把 /proc/PID/fd/N 里的 symbolic link “删掉”,实际上那只是一个展示层,删了也没用,相反,如果你在 /proc/PID/fd/N 路径上做了 rm,遇到权限不够可能还会把排查现场搞乱。
第二,truncate -s 0 /proc/PID/fd/N 只能作用于进程已经打开的文件,如果文件已经被进程写坏或轮转,或者你操作的时候进程刚好关闭了文件,命令可能报错。不管如何,操作前最好先确认一下文件大小确实很大,再用 lsof +L1 核对,免得清了不该清的东西。
第三,CentOS 7 默认的文件系统是 XFS,而很多时候大家把 ext4 的习惯带过来用,比如执行 resize2fs 等操作。XFS 和 ext4 在底层数据块回收逻辑上有差异,但“删除文件不释放空间”这类问题与文件系统类型的关联不大,主因基本都在文件描述符和 VFS 这一层,所以不要误判方向。
第四,遇到 Java 应用的 hsperfdata 文件、jar 包更新后旧版本被占用等情况,不要只想着一刀切 kill 进程。先查清这个进程是哪个服务、能不能优雅重启,另一个思路是通过 jcmd、jconsole 或者应用自身的热加载机制去释放资源,实在不行再考虑灰度迁移。
根据我的实操经验,这类问题最终能顺利解决,靠的不是什么高深工具,而是对 Linux 文件系统的几个核心概念有扎实理解,然后能冷静地按照“df 定位差异,du 排除目录,lsof 揪出进程,根据业务选方案”的流程走一遍。把这套方法沉淀成脚本,每次遇到类似告警都能缩短一半以上的处理时间。
最后再分享一个小技巧:我习惯在 CentOS 7 的 ~/.bashrc 里加一行 alias lsofdel='lsof +L1',排障的时候直接敲,省事。另外,每次处理完这类问题,我都会顺手给监控系统加一条定时任务:每天凌晨跑一次 lsof +L1 | grep -v '^COMMAND' | awk '{print $1, $2, $7, $9}',把可疑的 deleted 文件提前列出来。这个习惯帮我避免了很多次半夜被叫醒的窘境。
