sklearn Pipeline实战：特征工程与模型训练如何避免数据泄露

先说个我观察到的现象：很多人学机器学习，教材里单步骤都懂，什么标准化、PCA、决策树、KNN，单独拿出来都能写一段，但一落到真实项目，代码就开始“散装”——先在外面把缺失值填了，再在外面做归一化，再把训练集和测试集分开，然后才训模型。跑一两次没问题，一旦进入交叉验证、网格搜索、模型迭代，这套散装代码就会变成灾难。今天想聊的，就是 sklearn 里专门解决这个问题的 Pipeline，以及它如何把特征工程和建模流水线变成一件可以整体复用、整体调参、不会把测试集信息偷偷混进训练过程的工程化工具。

本文内容适合刚接触 scikit-learn 不久、开始尝试做完整分类/回归任务的人，也适合已经在用手动代码、想优化代码结构和评估流程的进阶学习者。我会用收入预测和鸢尾花分类两个经典场景，把 Pipeline 的原理、实操、调参、自定义组件和踩坑经验一次性讲透。

1. 先说服你：手动拼接特征工程最容易翻车的地方

1.1 手动流程的三个隐患，每一个都能让模型评估失真

先模拟一下多数人一开始写代码的样子。假设要做一个分类任务，特征里有数值列、类别列，模型用决策树或 KNN。最自然的写法是：

python复制from sklearn.impute import SimpleImputer
from sklearn.preprocessing import StandardScaler, OneHotEncoder

# 数值特征先填缺失再标准化
num_imputer = SimpleImputer(strategy="median").fit(X)
X["age"] = num_imputer.transform(X[["age"]])

# 类别特征填缺失再独热编码
cat_imputer = SimpleImputer(strategy="most_frequent").fit(X)
...

这个写法的第一个隐患叫“步骤不一致”。你今天在训练集上写了这么一套，明天上线预测时很可能漏掉中间的 transform，或者手滑把测试集的均值方差也 fit 进去了。代码短的时候还好，一旦特征处理步骤超过五步，复制粘贴式的维护早晚出问题。

第二个隐患非常隐蔽，叫“数据泄露”，也就是测试集的信息在训练阶段被看到了。最典型的错误是：先把整个数据集拿来 scaler.fit(X_all)，再切分训练集和测试集，再分别 transform。这样标准化用的均值和方差，其实是全量数据算出来的，包含了测试集的信息。放进交叉验证里，每一折的结果都会偏乐观，最终评估出来的模型效果是假的。

第三个隐患在交叉验证时暴露。你每次换一组超参，就要重新把外面的 fillna、scaling、encoding 整套流程再跑一遍；如果不小心让某些步骤在每一折内部重复 fit，或者忘了在哪一折单独 transform，模型对比就失去了公平性。而 Pipeline 恰好是把所有这些步骤“焊死”在一个对象里，让它们作为整体被训练、评估和调参。

1.2 一个最容易演示的数据泄露场景

我用 KNN 这类对尺度敏感的模型来举一个例子。假如现在有两个特征，一个年龄一个收入，收入数值远大于年龄。KNN 算距离时，收入维度会把年龄维度完全淹没，所以必须先做标准化。问题来了：

python复制from sklearn.preprocessing import StandardScaler
from sklearn.linear_model import LogisticRegression
from sklearn.model_selection import train_test_split

# 这个顺序是错的
scaler = StandardScaler().fit(X)          # 全量数据上fit
X_scaled = scaler.transform(X)
X_train, X_test, y_train, y_test = train_test_split(
    X_scaled, y, test_size=0.2, random_state=42
)

错在哪里？scaler.fit(X) 已经看到了所有样本的分布，测试集的信息被用于计算训练集的均值和方差了。正确的做法是：

python复制X_train, X_test, y_train, y_test = train_test_split(
    X, y, test_size=0.2, random_state=42
)
scaler = StandardScaler().fit(X_train)     # 只允许看训练集
X_train = scaler.transform(X_train)
X_test = scaler.transform(X_test)

这一步如果手动写，每次都要警觉。尤其项目进入交叉验证和网格搜索后，这种“先全量处理，再拆分”的错误很容易在重构代码时悄悄溜回来。Pipeline 存在的意义，并不是让代码看起来更酷，而是从机制上防止这类问题。这也是我要讲的第一个重点：任何取决于训练数据分布的转换器，都必须只通过训练集来 fit。

2. Pipeline 真正在做的事：一步 fit，全程复用的接力机制

2.1 一次 fit 内部的接力流程

Pipeline 的原理其实不复杂。你可以把它理解成一条流水线：数据从最左边进入，经过若干个转换器，最后交给一个模型去训练或预测。每个中间环节只需要遵守一个约定：有 fit 方法、有 transform 方法，最后一个环节通常是一个能 fit 的估计器。

看这段典型的代码：

python复制from sklearn.pipeline import Pipeline
from sklearn.preprocessing import StandardScaler
from sklearn.decomposition import PCA
from sklearn.neighbors import KNeighborsClassifier

pipe = Pipeline(
    steps=[
        ("scaler", StandardScaler()),
        ("pca", PCA(n_components=2)),
        ("knn", KNeighborsClassifier(n_neighbors=5)),
    ]
)

当调用 pipe.fit(X_train, y_train) 时，数据的实际流向是：

1. `scaler.fit_transform(X_train, y