1. 生信数据处理的核心框架:从原始数据到可分析数据
1.1 一个容易被低估的环节
很多人一提到生信,第一反应就是跑差异基因、画火山图、做富集分析,觉得那些才是“正事”。但真正干过几个项目的人都知道,生信基础数据处理才是决定整个分析成败的地基。数据没洗干净,后面所有花哨的分析都是在垃圾上盖楼——这个道理我见过太多人付出了惨痛代价才明白。
我自己刚入门那会儿,拿到测序公司的FASTQ文件就直接往比对工具里塞,结果比对率只有百分之六十几,跑出来的差异基因乱七八糟,导师问起来我一脸懵。后来才意识到,问题根本不在比对软件上,而是我从一开始就跳过了质控、过滤这个最关键的前置步骤。这件事给我留下的教训是:生信分析中80%的“结果不对”,根源都在数据处理环节。
这篇文章想做的事情很直接:把生信基础数据处理这一整套流程拆开揉碎,讲清楚每一步为什么要做、怎么做、常见坑在哪里。不管你是刚接触生信的学生,还是转行做数据分析想往生信方向靠的工程师,只要能看懂命令行基本操作,这篇文章就能帮你少走很多弯路。
1.2 数据处理到底处理什么
测序仪下机后,你拿到的原始数据通常是一个或者一组FASTQ文件。FASTQ格式每四条记录对应一条测序读段(read),包含序列标识、碱基序列、分隔符和碱基质量值。这个质量值就是Phred分数,它直接反映了测序仪对这个碱基判定的可信程度。
数据处理最核心的目标可以归纳为三点:把靠谱的序列留下来、把不靠谱的序列清出去、把留下的序列变成能比对的干净序列。听起来简单,但实操中涉及的工具链、参数选择、判断标准,每一样都有讲究。
现代高通量测序单次实验动辄产出几千万到几亿条read,这和海量日志处理、王者荣耀这类游戏里每秒上千万次的实时数据处理在思路上有共通之处——都是流水线式的逐级加工,每一级做特定的事情,最终产出一份“干净”的结果交给下游。但生信数据处理和实时流处理有一个关键区别:生信是offline批处理,对实时性要求不高,但对准确性、可重复性要求极高。同一个数据换台机器跑、换个参数跑,结果必须稳定可复现,否则后面的统计分析全都不成立。
理解了这些背景,下面就可以进入正题,我们把整条数据处理的流水线拆开来看。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 原始数据质控:一切分析的起点
2.1 为什么必须先做质量控制
很多初学者会有一个疑问:测序公司不是已经给过QC报告了吗?为什么我还要自己做一遍质控?
这个想法很天真。测序公司给的QC报告,是拿所有样本混在一起跑的、批量的质量统计,反映的是测序仪和建库环节的整体状况。但你拿到的每个样本个体情况差异可能很大:建库质量差的样本、降解严重的样本、测序中某个cycle出问题的样本,单独拿出来分析时问题会被大大放大。
我自己就碰到过这样的情况:某个项目的RNA-seq数据,公司给的QC报告一切正常,但我拿FastQC逐样本跑了一遍,发现其中一个样本的duplication level高达50%以上,GC含量分布也是畸形的双峰。后来排查发现是这个样本建库时扩增循环数多了几轮,产生了大量重复reads。如果这个样本混在差异分析里不管它,下游结果大概率会出问题。
所以,数据到手的第一件事永远是:逐样本跑FastQC看报告。这一步花不了多少时间,但能帮你省掉后面无数个熬夜排查的夜晚。
2.2 FastQC与MultiQC:质控工具的标准组合
FastQC是几乎所有生信流程里跑不掉的第一个工具,它会对每个FASTQ文件进行十项左右的检查,包括每个位置的碱基质量分布、GC含量分布、序列重复水平、接头污染、k-mer富集等。输出是一个HTML报告,鼠标点开就能看。
需要注意的是,FastQC的十个模块里,有些是“红绿灯”式的判定机制,绿色代表正常、黄色代表警告、红色代表不合格。但红灯不一定意味着数据是不可用的,要结合具体的实验类型来判断。比如RNA-seq数据在“Sequence Duplication Levels”这个模块经常显示异常,因为转录组本身就有大量高丰度转录本的reads天然是重复的;但同样的情况出现在WGS数据里,就说明文库复杂度有问题。
MultiQC则是FastQC的绝佳搭档,它能一键聚合几十个样本的FastQC报告,生成一个总的对比页面条状图,快速定位异常样本。处理多个样本时,我习惯的第一步永远是multiqc .把所有FastQC报告聚合起来,先扫一遍全貌,再决定哪些样本需要重点关注。
bash复制# 常用操作流程
fastqc sample_R1.fastq.gz sample_R2.fastq.gz -t 8 -o fastqc_results/
multiqc fastqc_results/ -o multiqc_report/
参数说明:-t是线程数,能明显加速多文件处理;-o指定输出目录。这一步跑完后,重点查看MultiQC的汇总页面,把每个模块有异常的样本先圈出来。
2.3 Phred质量值怎么读:Q20和Q30的直觉理解
很多人第一次看FASTQ都困惑于那一串看起来意义不明的ASCII字符,其实这就是Phred质量值。Phred质量值Q和碱基错误概率p的关系是:Q = -10 * log10(p)。所以Q20表示错误概率1/100,Q30表示错误概率1/1000,Q40表示错误概率1/10000。
现在二代测序平台产的reads,普遍要求Q30比例在85%以上才算合格。这个数看起来很高,但实际测序仪通常都能达到。如果你手头的数据Q30比例只有百分之六七十,那就要怀疑测序上机前文库质量是不是出了状况,或者是不是用了什么非常规的测序配置。
读质量值的时候,我会建议你去看FastQC里Per base sequence quality这张图。它会展示每条read每个位置的碱基质量分布。正常的高质量数据,箱线图的箱体应该在绿色区域(Q28以上)且比较稳定;如果前几个bp质量偏低,这很常见,后面过滤器会处理;但如果中间或者尾部突然出现大幅下降,就要警惕是不是测序仪那个cycle出了问题。
顺便说一个判断方法,如果一个FASTQ文件里大量read都自带长段的低质量尾巴,最简单的处理是直接用cutadapt或fastp按质量截断,把尾巴切掉再继续分析。这就牵出下一节的内容:数据清洗。
3. 数据清洗实操:fastp和Trimmomatic怎么选、参数怎么调
3.1 数据清洗需要解决哪些问题
质控报告看完了,发现问题之后就要动手清洗。数据清洗的核心任务有四类:去接头(adapter)、修剪低质量碱基、过滤过短reads、处理N碱基比例过高的reads。有些流程还会额外做poly-G修剪、poly-A修剪,以及针对UMI序列的特殊处理,不过基础流程我们先把前四类搞定。
去接头这件事在新手身上特别容易出问题。有人会问我:测序公司不是去好接头了吗?这里要分情况。测序公司确实会做adapter removal,但不同公司、不同下游需求的处理策略不一样。有些公司给的clean data已经去掉接头了,有些则原始数据直接抛给你。最稳妥的办法是预处理前先用fastp或cutadapt自动检测一遍接头序列,有就去除,没有也不影响后续分析。
还有一个很常见的坑:很多人分不清“测序插入片段比读长长”和“插入片段比读长短”的场景。如果插入片段大于读长,read是完全覆盖插入片段的,那根本不需要去接头;但如果插入片段小于读长,测序的时候read会一路读到接头序列,这种情况就必须切掉接头,否则后面比对时这些接头序列会变成“孤儿序列”,要么比对不上、要么比对到错误的位置。
3.2 fastp:一把梭哈式的一体化清洗
最近几年我用得最多的清洗工具是fastp,它把质量控制、接头去除、质量修剪、长度过滤、Poly-G修剪、UMI处理全做进了一个软件里,而且速度非常快,跑全基因组数据的清洗也就几十分钟的事。对于RNA-seq数据,它还会自动识别常见的转录组接头组合。
一个基础的双端数据清洗命令长这样:
bash复制fastp \
-i in.R1.fastq.gz \
-o out.R1.fastq.gz \
-I in.R2.fastq.gz \
-O out.R2.fastq.gz \
--thread 16 \
--detect_adapter_for_pe \
--cut_front \
--cut_tail \
--cut_front_window_size 1 \
--cut_front_mean_quality 20 \
--cut_tail_window_size 4 \
--cut_tail_mean_quality 20 \
--length_required 36 \
--html report.html \
--json report.json
--detect_adapter_for_pe这个参数我特别推荐开着,它可以让fastp自动检测双端数据的接头序列而不需要手动指定,非常省事。--cut_front和--cut_tail分别对read两端做滑窗修剪,--length_required 36则规定修剪后长度小于36bp的read直接丢弃,这个阈值对RNA-seq来说是合理的下限,设太高会过度丢弃数据。
跑完fastp后,它会自动输出一个HTML和JSON报告,里面包含了清洗前后reads数量变化、Q30比例变化、接头残留率等关键统计。我每次都会对照这个报告确认清洗效果,这比对着命令行输出数数字直观得多。
3.3 Trimmomatic的传统优势与参数对应
虽然fastp已经成了我的主力工具,但Trimmomatic在生信老手里依然被广泛使用,尤其是在一些成熟的流程代码里。它的核心特点是通过ILLUMINACLIP、SLIDINGWINDOW、LEADING、TRAILING、MINLEN这几个步骤组合完成清洗。
一个经典的Trimmomatic命令是这样的:
bash复制trimmomatic PE \
in.R1.fastq.gz in.R2.fastq.gz \
out.R1.clean.fastq.gz out.R1.unpaired.fastq.gz \
out.R2.clean.fastq.gz out.R2.unpaired.fastq.gz \
ILLUMINACLIP:adapters.fa:2:30:10 \
LEADING:3 \
TRAILING:3 \
SLIDINGWINDOW:4:15 \
MINLEN:36
其中ILLUMINACLIP:adapters.fa:2:30:10的意思是允许最多2个错配匹配接头序列,双端reads匹配接头的得分阈值是30,单端reads匹配接头的阈值是10。SLIDINGWINDOW:4:15是每次滑动4个碱基,当窗口的平均质量低于Q15时从那里切断。
用Trimmomatic时最烦人的一点是它需要手动提供接头序列的FASTA文件,而这个文件的格式和内容在不同版本、不同接头厂商之间可能不一样,非常容易出错。有次我用了官网的TruSeq3-PE.fa但项目用的是另一家公司的接头,结果清洗完的reads里还有大量接头残留。对比下来,fastp的自动检测机制确实省心很多。
3.4 清洗后的质量验证
数据清洗完了不能直接进入比对,必须再做一遍质控确认效果。把清洗后的FASTQ再跑一次FastQC,重点看以下几个指标的变化:
- Per base sequence quality是否整体提升了
- Adapter Content是否降到1%以下
- Sequence Duplication Levels是否明显改善
- 清洗前后reads保留率是否在合理范围(一般要求>80%,太低说明数据本身质量有问题)
如果清洗后Q30比例从80%升到了95%,但reads保留率只有65%,那就要怀疑是不是参数设得太严格。这时候我会重新调整--cut_tail_mean_quality或SLIDINGWINDOW的质量阈值,在“保留更多数据”和“得到更高质量”之间找一个平衡点。没有绝对的对错,关键是你得清楚自己项目的容忍度:如果下游是变异检测,低质量的尾端碱基可能带来假阳性变异,该下狠手就下狠手;如果下游是表达定量,多一点低质量reads影响相对小。
4. 序列比对与定量:把reads变成有生物学意义的信息
4.1 比对工具选型:STAR还是Hisat2还是bowtie2
清洗完的数据接下来要进入比对环节,也就是把每条read的序列“贴”回参考基因组/转录组上,找到它原本的来源位置。这一步的选择直接决定了定量的准确性。
不同实验类型的比对工具选择差异很大:
| 数据类型 | 推荐工具 | 核心理由 |
|---|---|---|
| RNA-seq(转录组定量、差异表达) | STAR、Hisat2 | 能处理剪接事件,跨越内含子比对 |
| DNA-seq(重测序、变异检测) | BWA-MEM | 速度快、准确率高,适合长读段短读段混合 |
| ChIP-seq/ATAC-seq | bowtie2、BWA | 短读段精确比对,不涉及剪接 |
| 小RNA-seq | bowtie、STAR | 处理短序列比对有专门优化 |
| Ribo-seq | STAR、bowtie2 | 要看具体分析目标 |
RNA-seq我默认推荐STAR,它的比对速度和准确性在长读段RNA-seq数据上是经过大量项目验证的。STAR需要先建立一个基因组索引,这一步比较吃内存,人类的基因组索引大概需要30GB左右的内存,建议在内存充足的服务器上跑。如果实验室机器配置有限,可以改用Hisat2,它的索引更小、内存需求更低。
说到热词里带出的ripseq,RIP-seq和RNA-seq的建库原理不同,它免疫沉淀的是与蛋白结合的RNA,比对后的分析逻辑和RNA-seq类似但isoform定量部分不太一样。这里不展开,但数据处理前半段(质控、清洗)的流程是几乎一样的。
4.2 比对后处理:从SAM到BAM再到count matrix
STAR或Hisat2的输出通常是一个SAM文件,这个文件是纯文本格式,非常大——一个RNA-seq样本的SAM文件动辄几十GB,占磁盘空间不说,读取速度也极慢。所以比对后的第一件事永远是转成BAM(SAM的压缩二进制格式),然后排序、建立索引。
一套标准的处理命令:
bash复制# STAR比对(人类数据示例)
STAR \
--genomeDir /path/to/star_index \
--readFilesIn clean_R1.fastq.gz clean_R2.fastq.gz \
--readFilesCommand zcat \
--outSAMtype BAM SortedByCoordinate \
--outFileNamePrefix sample_ \
--runThreadN 16
# 或者用Hisat2比对后,samtools转换
hisat2 -x genome_index -1 clean_R1.fastq.gz -2 clean_R2.fastq.gz | \
samtools view -bS - | \
samtools sort -o sample.sorted.bam
samtools index sample.sorted.bam
STAR直接输出SortedByCoordinate的BAM文件,省去了自己排序的麻烦。samtools index生成的.bai索引文件是后续IGV可视化查看、samtools操作必须的。这一步做完了,数据就进入了可分析和可量化的状态。
对于RNA-seq的基因表达定量,现在主流的选择是用featureCounts统计落到每个基因外显子区域的reads数,或者用HTSeq-count,再或者用更现代的方法比如Salmon、kallisto这类基于伪比对的工具,它们不需要完整的genome比对就能快速定量。不过在那篇文章里我们主要聚焦数据处理,定量细节先不展开。关键节点是处理完后拿到的count matrix,就是每一行基因、每一列样本、每个单元格是reads count数的那个矩阵,这才是后面差异表达分析的输入。
4.3 比对率、重复率、链特异性:三个必须盯的指标
拿到BAM文件之后,不能急着往下走。我一般会统计三个指标来评估比对和清洗的效果:
比对率(Mapping Rate)。RNA-seq的比对率正常情况下应该在80%~95%之间。低于80%需要警惕:可能是样本降解、可能是参考基因组不合适、可能是清洗参数过于激进把有效reads都删掉了。有次我用人类参考基因组比对一批小鼠样本(样本标签贴错了),比对率直接掉到40%以下,这才发现真相。所以比对率异常时,第一个要排除的就是样本标签混淆。
重复率(Duplication Rate)。用picard MarkDuplicates或samtools markdup标记PCR重复reads。RNA-seq的重复率正常范围在20%~50%之间,因为高表达基因的reads天然重复;但超过60%就要警惕文库复杂度不够,重复reads太多会压缩有效数据的多样性,影响定量准确性。
链特异性(Strandness)。RNA-seq文库可能是链特异性建库(strand-specific)也可能不是。做定量之前必须确认这一点,否则featureCounts统计的时候链方向设错了,得出的count数会差一大截。最简单的确认方式是看比对到已知基因上的reads正负链分布比例,或者用RSeQC的infer_experiment.py自动推断。
这些指标的检查不要等到全部都跑完了再看,每碰一个数据就顺手查一遍,养成习惯后能帮你在项目早期就发现80%的潜在问题。
5. 常见问题与排查技巧实录
5.1 数据洗了跟没洗一样:清洗前后质量没变化
这个问题我刚开始做项目时也遇到过。明明跑了fastp,参数也没问题,但再看FastQC报告,质量分布图几乎没变。排查了半天才发现,是我在跑fastp的时候输出文件名写错了,下游分析用的还是原始文件,清洗结果被存到了另一个目录里。
这类问题的通用排查思路是:先确认文件路径、文件名对得上;再对比清洗前后的文件大小差异,如果差不多大,说明根本没过滤掉多少数据,要么数据本身就很干净(这有可能),要么是参数太宽松(这需要看fastp的JSON报告里各步骤过滤掉的数据量)。
如果确认清洗确实执行了,但Per base sequence quality还是不好,那就要考虑是不是数据本身质量太差导致清洗也不敢下刀——把--cut_tail_mean_quality和--cut_front_mean_quality降到Q15甚至Q10,修剪得更狠一些看看效果。
5.2 比对率偏低但数据质量没问题
有一类情况特别让人抓狂:数据清洗后FastQC全绿,但比对率只有70%。这种时候,思路要打开,逐项排查:
参考基因组匹配。检查一下参考基因组版本是否和样本物种一致,以及是否用了正确对应的索引文件。人类参考基因组有GRCh37和GRCh38两个版本,如果比对索引和下游注释用了不同版本,后面的基因注释也会全乱。
reads长度与建库策略。有些数据是长读段平台(比如PacBio、Nanopore)或者特殊建库(比如单链文库),用STAR/Hisat2默认参数直接比对当然效果不好。这种情况需要针对性调整参数或者换用适合的比对工具。
核糖体RNA残留。RNA-seq样本如果rRNA去除得不够彻底,大量reads会来自rRNA,而这些reads在比对到基因组的时候有相当一部分比对不上参考基因组的已知区域,导致比对率偏低。处理办法是比对后用featureCounts统计落到rRNA基因区域的reads比例,如果超过10%,建议考虑在比对前去一次rRNA。
5.3 批量处理的流程管理怎么做更省心
生信数据处理一旦进入批量模式,手敲命令就完全不现实了。几十个样本的QC、清洗、比对、定量,如果没有一个统一管理的流程,很容易出现“这个样本参数跟那个样本不一样”“某个样本漏跑了一步”这种混乱局面。
我的习惯是用Snakemake或Nextflow这类工作流管理工具把整个数据处理流程写成一个可复现的pipeline,输入是原始FASTQ文件,输出是清洗后的比对BAM和count matrix,中间每一步都定义了明确的输入输出和参数。Snakemake的好处是它天然支持断点续跑,哪个样本跑到一半挂了,修完bug后它会自动从断点继续,不用从头再来。
如果不想一上来就学工作流工具,那至少可以用shell脚本把所有样本的路径整理成一个列表,然后用for循环统一跑。但要注意:批处理前先在单样本上验证好参数和流程,再铺开到全部样本,不要在未验证状态下直接跑完上百个样本。
5.4 磁盘空间和内存资源管理
生信数据处理对计算资源的消耗有时候让人头疼。FASTQ原始文件动辄几十GB,比对产生的SAM文件更是几百GB级别。我的建议是:
能压缩就压缩。FASTQ用gzip压缩,BAM本身就是压缩格式,中间SAM文件生成后尽早删除。STAR比对时直接加--outSAMtype BAM SortedByCoordinate跳过SAM中转,能省大量临时空间。
分批清理中间文件。工作流程里每跑完一步,确认输出文件没问题后就把中间文件清理掉。我见过有人把几百GB的临时文件堆在服务器上,把磁盘塞爆才想起来清理。
内存不够怎么办。STAR建索引很吃内存,但比对本身内存需求相对温和。如果机器内存不够8G,建议换Hisat2。另外,比对大文件时可以分成染色体分别处理再合并,代价是流程更复杂,但能显著降低单步内存峰值。
6. 关于工具链和技能成长的个人建议
6.1 新手最容易走的弯路
对比一些生信入门者,我觉得最常见的几个弯路是这样:一是跳过质控直接跑比对,觉得质控是浪费时间;二是不看原始报告,只盯着命令跑完就算完事;三是迷信某种工具是万能的,不考虑实验类型和数据类型。
数据清洗和比对这类工作看起来繁琐又“低级”,但其实它是生信分析里最能培养直觉的部分。你处理的数据量多了,慢慢就会形成一种身体记忆:哪个指标异常对应的可能原因是什么,哪个参数调整会对下游产生什么影响。这种经验积累,比单纯记住某个工具的命令要有用得多。
6.2 用自己的数据练手
不管看了多少教程,都替代不了亲手跑一遍数据。现在我给新人的建议都是:找一套公开的RNA-seq数据,从FASTQ开始完整走一遍质控、清洗、比对、定量、差异表达分析的流程,然后把每一步的产出和报告都保存下来,整理成自己的流程笔记。
这个过程会踩很多坑,但每踩一个坑,你对生信数据处理的理解就会深一层。我自己就是一个典型的例子:当年那个比对率只有60%的项目,后来是我在生信能力上成长最快的一个项目,因为逼着我把每个环节都翻出来排查了一遍。
生信基础数据处理就是这么一件“做起来枯燥、但缺了它万万不行”的事情。你把这些环节吃透了,再去碰那些看起来很高级的单细胞分析、空间转录组分析,就会发现万变不离其宗,核心仍是质量把控和数据处理的能力。
