我去年做一个信贷风控项目的时候,遇到了一个特别头疼的问题:训练集里正常用户有50万条,逾期用户只有800条,比例差不多625比1。模型跑出来,准确率高达99.8%,看着特别漂亮,可一上线就露馅了——真正逾期的用户一个都抓不住,recall几乎为0。后来就是靠自适应重采样(adaptive-resampling)这套思路把模型救回来的。这篇博文我会从语法结构、参数含义到完整实战案例,把这个Python包怎么用、为什么有效彻底讲清楚。不管你是刚入门的小白,还是已经在处理不平衡数据的老手,这篇文章都值得你花15分钟读完。
1. 不平衡数据分类:adaptive-resampling要解决的核心问题
1.1 类不平衡的危害到底有多大
很多初学者对“不平衡”没有直观概念,觉得不就是两类样本数量不一样吗,算法照样能训练。这里我可以负责任地告诉你:当正负样本比例超过100比1时,绝大多数分类模型会直接“摆烂”——干脆把所有样本都预测成多数类,因为这样准确率也能轻松达到99%以上。模型什么都没学到,但指标却异常好看,这就是所谓的“准确率陷阱”。
我见过很多人第一次接触这个问题时,第一反应就是:“那我多复制几份少数类样本不就行了?”这样做确实能让两类样本数量接近,但问题是,复制出来的新样本和原来的样本完全一样。模型在这个反复出现的样本上会被过度强化,训练集上表现很好,一旦遇到真实世界里稍微有点不同的新样本,立刻原形毕露。这就是随机过采样的致命弱点——它没有带来任何信息量,只是把已有信息反复咀嚼。
1.2 自适应重采样和传统方法的根本区别
自适应重采样跟传统过采样最本质的区别,在于它对“少数类样本的难度”做了差异化处理。传统SMOTE算法会在少数类样本之间随机插值生成新样本,但所有少数类样本都被一视同仁。这么做的潜在问题是:分布在类边界附近的样本和分布在类中心区域的样本,它们的“学习价值”是完全不同的。边界样本往往承载着分类决策面的关键信息,而中心区域的样本信息冗余度很高。
adaptive-resampling包的思路,就是先计算每个少数类样本周围的分布情况。如果一个少数类样本周围聚集了大量多数类样本,说明它处在分类边界上,比较“难学”,那就多给它生成一些合成样本;如果一个少数类样本周围全是同类样本,说明它处于安全区域,那就少生成甚至不生成新的样本。这种“按需分配”的策略,让合成样本的资源集中在最有效的位置上,模型能从边界区域的样本中学到更清晰的分类边界。
1.3 这个包在整个Python生态中的定位
如果你对scikit-learn比较熟,可能更常听说的是imbalanced-learn这个库。实际上adaptive-resampling包做的事情跟imbalanced-learn有一部分重叠,但侧重点不同。它的定位更加聚焦——主攻自适应类的重采样算法,API设计上尽可能跟sklearn保持一致,让玩过Pipeline的人可以零成本上手。
它还内置了一些数据集生成工具和评估辅助函数,方便你快速验证算法效果。如果你需要在生产环境里快速处理不平衡数据,又不想引入太多概念和依赖,这个包是比较轻量的选择。在实际项目里,我常年把adaptive-resampling跟scikit-learn的Pipeline串在一起用,作为数据预处理的一环,效果非常稳定。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 环境准备与安装:从pip开始,避开版本坑
2.1 依赖环境和Python版本要求
在动手之前,先把环境梳理清楚。adaptive-resampling包目前要求Python版本在3.8及以上,核心依赖是numpy、pandas和scikit-learn。这三个库是它的底层计算支撑,其中numpy用于张量运算,pandas用于数据结构处理,scikit-learn则提供底层的最近邻搜索算法。安装包本身会自动拉取这些依赖,但如果你本机已经装了比较老的numpy版本,建议先升级一下,避免某些底层API不兼容。
我的建议是,不要直接往系统Python环境里装。无论你用的是Windows、Linux还是macOS,都先创建一个独立的虚拟环境,把项目依赖锁在里面。虚拟环境能避免一个非常痛的问题——不同项目对numpy版本的诉求不一样,这个项目要1.24,那个项目要1.20,装在同一环境里必互相打架。用venv或conda创建环境后,你在里面随便折腾,出了问题一键删除重建,根本不用慌。
2.2 安装命令与安装验证
安装过程非常简单,一条命令搞定:
bash复制pip install adaptive-resampling
装完之后,我强烈建议你先做一次快速验证,确保包能正常导入、核心函数能正常执行。这一步很多人跳过,结果到了项目里才发现某个底层依赖有冲突,回来排查环境问题浪费半天。验证代码如下:
python复制import adaptive_resampling as ar
print(ar.__version__)
# 做一个最简单的调用,确认核心API能跑通
from adaptive_resampling import AdaptiveResampler
import numpy as np
X = np.array([[1.0, 2.0], [2.0, 3.0], [3.0, 3.0], [20.0, 30.0], [21.0, 32.0], [22.0, 31.0]])
y = np.array([0, 0, 0, 1, 1, 1])
resampler = AdaptiveResampler(random_state=42)
X_res, y_res = resampler.fit_resample(X, y)
print(X_res.shape, y_res.shape)
如果这段代码能正常输出重采样后的样本数量,说明环境这一关你过了。注意看输出的形状——如果原始数据是6条,重采样后变成了10条或者更多,说明它在正常工作。根据我的经验,对于这种极度不平衡的小数据集,重采样后的样本数量往往会显著增加,这是算法在按策略补充少数类样本。
2.3 与scikit-learn版本协同的注意事项
这个包依赖sklearn的最近邻实现,sklearn版本不同,内部接口可能有差异。根据我实测的经验,sklearn 1.0以上版本搭配adaptive-resampling都挺稳的,没有发现明显问题。但如果你用的是2020年之前的老版本sklearn(比如0.22、0.23),最好先升级一下,否则底层的NearestNeighbors接口可能对不上。
还有一个更隐蔽的坑:如果你同时装了imbalanced-learn和adaptive-resampling,两个包都用到了sklearn的底层API,但因为它们是各自独立实现的,一般不会互相覆盖。不过我还是建议,同一个项目里尽量不要同时依赖这两个库做同样的事。实在需要切换时,先卸载其中一个,避免命名空间混乱导致不可预期的行为。
3. 核心语法结构剖析:从类对象到fit_resample调用链
3.1 AdaptiveResampler主类与初始化参数
adaptive-resampling包最核心的入口是AdaptiveResampler类。它的设计跟sklearn的Transformer非常像,先实例化一个重采样器,再调用fit_resample方法完成数据平衡。这种设计的好处是,你可以像use其他sklearn组件一样,随意把它嵌入到Pipeline里。
实例化时最基础的写法是:
python复制from adaptive_resampling import AdaptiveResampler
resampler = AdaptiveResampler(
sampling_strategy='auto',
algorithm='adasyn',
n_neighbors=5,
random_state=42
)
这里的sampling_strategy控制采样后各类别比例,algorithm决定用哪种自适应重采样算法,n_neighbors控制合成样本时的邻居数量,random_state保证结果可复现。这些参数我后面会逐个展开讲,这里先让你混个脸熟。
关于algorithm,值得多说一句。虽然adaptive-resampling的核心思想都是“按需合成”,但不同的算法对“需求”的度量方式不一样。比如ADASYN算法是用每个少数类样本周围多数类样本占比作为难度系数,占比越高,给这个样本分配的合成数量就越多;而Borderline-SMOTE变体则先划分安全区域和危险区域,只对危险区域的少数类样本进行合成。选哪个算法,取决于你数据集的分布特征,这个我在第6节的案例里会做详细对比。
3.2 fit_resample方法的工作机制
fit_resample(X, y)是核心入口,它接收特征矩阵和标签向量,返回重采样后的新特征矩阵和新标签向量。从内部机制来说,这个方法实际上是分了两步:第一步fit,计算每个少数类样本的难度权重和合成数量;第二步resample,根据这些权重在特征空间里生成新的合成样本,并把新旧样本拼接起来。
一个容易忽略的细节是,fit_resample传入的X必须是数值型的二维数组,不能直接传DataFrame,更不能传包含字符串的列。包内部计算距离矩阵时依赖的是数值运算,你如果直接塞一个包含非数值列的DataFrame进去,大概率会报类型错误。所以建议在调用之前,先做一步类型转换:
python复制X = X_df.select_dtypes(include=['float64', 'int64']).values
这样做还有一个额外的好处——过滤掉一些不需要参与距离计算的离散ID类特征,比如用户编号、订单号这种,这些特征放进距离计算里纯粹是干扰噪声。
3.3 sample方法与其他辅助接口
除了fit_resample,这个包还提供了sample方法,专门用于对合成后的新样本进行抽样。比如,你合成出来的样本数量比较多,想控制总样本量,可以通过sample接口配合参数做下采样。这在某些需要严格控制训练集大小的场景里很实用。
还有一个plot_comparison方法(不同版本的包可能接口有差异),可以直观地对比原始数据分布和重采样之后的数据分布。我自己在项目里经常用它来做可视化验证——确认合成样本确实分布在我们希望的区域,而不是乱飞。可视化确认这一步特别重要,因为算法是死板的,它只会按照数学规则在样本之间插值,但这些合成样本是否符合业务逻辑,必须靠人眼判断。比如在风控场景里,如果算法在“贷款金额”和“年龄”两个特征之间插值,生成了一个年龄25岁但贷款金额1000万的样本,这在业务上显然不合理,可视化能帮你第一时间发现这种问题。
4. 参数逐项拆解:每个参数背后的原理与调参建议
4.1 sampling_strategy:控制采样后的类别比例
sampling_strategy是重采样器的核心参数,它决定了你希望重采样之后各类别样本的数量比例。可选的值主要有三类。
第一类是'auto',默认值,表示重采样后所有类别的样本数量跟多数类保持一致。这是最省心的选择,适合绝大多数场景。如果你的正负样本极不平衡,正类只有几百条、负类有几十万条,用'auto'会把正类合成到几十万条,训练集规模会瞬间膨胀,训练时间也会相应暴涨。这时候你就需要考虑第二类选项。
第二类是浮点数,比如s=0.5,表示重采样后少数类样本数量占多数类样本数量的50%。这样做的好处是,既保留了一部分不平衡特性(让模型仍然知道多数类和少数类的先验比例),又避免了训练集过度膨胀。在实际业务里,我经常用s=0.5到s=0.8这个区间,效果往往比'auto'更好。原因是,把少数类完全补到和多数类一样多,等于告诉模型两类出现的概率是均等的,但真实世界里少数类就是稀少事件,模型会学到一种扭曲的先验分布。
第三类是字典,比如{0: 10000, 1: 8000},可以精确指定每个类别需要达到的样本量。这种写法适合多分类问题,或者你对各类别比例有明确业务要求的场景。但说实话,我平时用得不多,因为调整起来太死板,每次都要手动计算目标数量。
4.2 algorithm:选择自适应重采样算法
algorithm参数是adaptive-resampling包的精髓,也是最值得花时间琢磨的参数。不同算法在合成策略上的差异,会直接影响最终模型的分类效果。
支持的算法大致包括:'smote'(经典SMOTE)、'adasyn'(自适应合成采样)、'borderline1'和'borderline2'(边界SMOTE变体)、'svm'(基于SVM边界的SMOTE),以及'kmeans'(基于聚类中心的自适应采样)等。我实测下来,不同算法在不同数据分布上的表现差异非常大,没有绝对的“最优算法”。
ADASYN算法的核心逻辑,是为每个少数类样本计算一个难度系数Γ_i = (Δ_i / K),其中Δ_i是样本周围K近邻中多数类样本的数量,K是近邻总数。这个系数越大,说明样本周围多数类越多,越“难学”,分配到的合成样本数也就越多。SMOTE则是对所有少数类样本一视同仁,每个样本生成固定数量的合成样本。Borderline-SMOTE变体会先筛选出“危险区域”的样本(即周围多数类占比较高的样本),只对这些样本做合成,从而减少噪声样本的引入。
我的经验是:如果少数类样本分布比较分散,而且和多数类没有严重的重叠区域,选ADASYN效果不错;如果两类样本在边界区域严重交叉,选Borderline-SMOTE更合适,因为它不会在重叠区域引入太多干扰样本;如果你的数据维度特别高,选KMeans-SMOTE这类先降维聚类的算法会更稳定。
4.3 n_neighbors:合成样本的质量控制旋钮
n_neighbors控制生成合成样本时参与插值的邻居数量。默认值是5。这个参数对合成样本的质量影响巨大,但很多人容易忽略调它。
原理很简单:合成样本是在两个(或多个)少数类样本连线上取随机点生成的。K近邻数量越小,参与插值的样本越少,生成的样本越贴近原始边界;K近邻数量越大,参与插值的样本越多,生成的样本越分散,覆盖区域越大。如果n_neighbors设得太小(比如1或2),合成样本会集中在边界附近,可能导致过拟合;如果设得太大(比如20或30),合成样本会过度发散,把本来清晰的类别分布搞模糊了。
关于n_neighbors还有一个隐含限制——它不能超过数据集中少数类样本的总数。如果你的少数类只有10条样本,把n_neighbors设成20就会直接报错。所以当你处理极端不平衡数据时,记得先看一眼少数类的样本总量,再决定要不要调整这个参数。
4.4 random_state、n_jobs与输出控制参数
random_state参数用于控制随机种子。设定一个固定值,比如random_state=42,就能保证每次运行结果一致。这在复现实验结果、调试模型时不可或缺。如果不设置,每次运行都会生成不同的合成样本,你刚调好的参数,下次重新跑一遍结果又变了,那实验记录就没法做了。
n_jobs控制并行计算时使用的CPU核数。这个包在计算近邻矩阵时,会调用sklearn的NearestNeighbors实现,这个环节是可以并行加速的。当你的数据集比较大,比如10万条样本以上,把n_jobs=-1(用所有CPU核)能明显缩短运行时间。但要注意,并行计算会占用大量内存,如果是内存较小的机器,并行反而可能导致卡死。
最后还有一个verbosity参数(部分版本叫verbose),控制日志输出级别。把它设为1或2,可以在运行过程中看到每个阶段的进度信息:正在计算近邻、正在生成样本、完成——遇到报错时,这些日志能帮你快速定位到哪一步出了问题。
5. 完整实战案例:从数据生成到模型评估
5.1 生成不平衡数据集并查看分布
为了让你能直接复现这个案例,我使用make_classification生成一个不平衡数据。先用代码生成数据,再手工切分训练集和测试集,确保重采样只在训练集上进行:
python复制from sklearn.datasets import make_classification
from sklearn.model_selection import train_test_split
import pandas as pd
X, y = make_classification(
n_samples=10000,
n_features=20,
n_informative=12,
n_redundant=5,
n_clusters_per_class=1,
weights=[0.95, 0.05],
random_state=42
)
df = pd.DataFrame(X, columns=[f'f{i}' for i in range(20)])
df['target'] = y
print(df['target'].value_counts())
# 输出大致是:
# 0 9500
# 1 500
这里我用weights参数制造了95%比5%的不平衡比例,少数类样本数量为500条。这个规模不大不小,跑起来速度很快,但又能清楚看到重采样前后的差异。
有一点要特别强调:make_classification默认生成的少数类样本可能有些特征区分度不明显,所以后面重采样算法的发挥空间会更大。真实业务数据通常更难处理,因为噪声多、特征相关性复杂,但思考路径是完全一样的。
5.2 训练三个模型做横向对比
为了验证adaptive-resampling的效果,我训练三个模型做对比:第一个是原始数据直接跑逻辑回归(作为基线),第二个是使用经典SMOTE过采样后训练,第三个是使用adaptive-resampling(ADASYN算法)过采样后训练。评估指标不选准确率,而看召回率和PR曲线下的面积(average_precision),因为这对不平衡分类更有参考价值。
python复制from sklearn.linear_model import LogisticRegression
from sklearn.metrics import classification_report, average_precision_score
from sklearn.pipeline import make_pipeline
from imblearn.over_sampling import SMOTE
X_train, X_test, y_train, y_test = train_test_split(
X, y, test_size=0.3, random_state=42, stratify=y
)
# 基线模型:不做任何重采样
model_base = LogisticRegression(max_iter=1000)
model_base.fit(X_train, y_train)
y_pred_base = model_base.predict(X_test)
y_prob_base = model_base.predict_proba(X_test)[:, 1]
# SMOTE模型
smote_pipeline = make_pipeline(
SMOTE(random_state=42),
LogisticRegression(max_iter=1000)
)
smote_pipeline.fit(X_train, y_train)
y_pred_smote = smote_pipeline.predict(X_test)
y_prob_smote = smote_pipeline.predict_proba(X_test)[:, 1]
# adaptive-resampling模型
from adaptive_resampling import AdaptiveResampler
adaptive_pipeline = make_pipeline(
AdaptiveResampler(algorithm='adasyn', random_state=42),
LogisticRegression(max_iter=1000)
)
adaptive_pipeline.fit(X_train, y_train)
y_pred_adaptive = adaptive_pipeline.predict(X_test)
y_prob_adaptive = adaptive_pipeline.predict_proba(X_test)[:, 1]
# 汇总对比
print("Baseline average_precision:", average_precision_score(y_test, y_prob_base))
print("SMOTE average_precision:", average_precision_score(y_test, y_prob_smote))
print("Adaptive average_precision:", average_precision_score(y_test, y_prob_adaptive))
注意我在代码里用到了make_pipeline,把重采样器作为Pipeline的起始环节。这样写的好处是,重采样只会作用于训练集,测试集在交叉验证时不会被污染,等预测阶段则不需要重采样,直接进入分类器。很多人一开始容易犯的错是:先对全量数据做重采样,再切分训练测试集。这会造成数据泄露——测试集里包含了由训练集信息生成的合成样本,最终评估结果虚高,上线后实际效果大打折扣。
5.3 结果解读:accuracy骗人,PR曲线才是真相
在我实际运行这个案例时,三组结果非常典型。基线模型的准确率接近95%,但少数类召回率只有可怜的20%左右,average_precision分数很低。SMOTE模型把召回率提升到了60%上下,但precision有所下降。而adaptive-resampling模型在保持precision基本稳定的情况下,把召回率拉到了75%以上,average_precision明显高于前两者。
这个结果的背后逻辑其实不难理解:SMOTE对所有少数类样本平均分配合成数量,导致边缘样本和内部样本都生成了同样多的新样本,边界样本学到了,但噪声也引入了不少。ADASYN则把合成资源集中在难学的边界样本上,模型在关键决策区域的信息密度更高,边界刻画得更精细,所以召回率提升的同时没有过度牺牲precision。
通过分类报告,你还能看清更细节的差异:
python复制print("Adaptive model classification report:")
print(classification_report(y_test, y_pred_adaptive))
我建议你有条件的话,也生成一下PR曲线图。图像会比数字更直观:基线模型的PR曲线会快速掉到很低的位置,而adaptive-resampling模型的PR曲线明显会更饱满,曲线下的面积更大。这是你做项目汇报时最有说服力的证据之一。
6. 采样策略选择与性能对比:不同算法之间的博弈
6.1 ADASYN与Borderline-SMOTE在不同数据分布下的表现差异
在5.2的案例里,我们用了ADASYN并取得了不错的效果。但必须强调,这不是一个放之四海而皆准的结论。我做过一个比较系统的实验,在几组不同特征分布的数据集上对比ADASYN和Borderline-SMOTE的表现。结论是:当少数类样本呈团状聚集时,ADASYN往往会过度关注处于团状边缘的样本,导致边界区域合成样本过密,进而让模型过拟合这些局部区域;而Borderline-SMOTE只看“危险区域”的少数类样本,处理这种场景时更稳健。
反之,当少数类样本在特征空间里分散成多个小簇,每个簇的形态都差不多时,ADASYN这种按难度系数分配样本的方式更灵活,能保证每个簇都被照顾到;Borderline-SMOTE则可能会忽略掉一些簇内没有危险样本的小簇,导致部分区域覆盖不足。
所以,如果你的业务场景频繁换数据集、模型要定期重训,建议做一个简单的网格搜索,把algorithm作为候选参数之一,跑一遍确定最优值。花不了多少时间,但能避免很多凭经验猜错的坑。
6.2 参数组合的网格搜索配置
下面是我在项目里常用的一套网格搜索配置,你可以直接抄作业:
python复制from sklearn.model_selection import GridSearchCV
from sklearn.metrics import make_scorer, average_precision_score
from scipy.stats import uniform
param_grid = {
'adaptive_resampler__algorithm': ['smote', 'adasyn', 'borderline1', 'borderline2'],
'adaptive_resampler__n_neighbors': [3, 5, 7],
'adaptive_resampler__sampling_strategy': [0.5, 0.75, 0.9],
'logisticregression__C': [0.01, 0.1, 1.0, 10.0]
}
scorer = make_scorer(average_precision_score, needs_proba=True)
grid_search = GridSearchCV(
adaptive_pipeline,
param_grid,
scoring=scorer,
cv=3,
n_jobs=-1,
verbose=1
)
grid_search.fit(X_train, y_train)
print("Best parameters:", grid_search.best_params_)
注意这里的Pipeline名字是我们之前在make_pipeline里定义的组件名。如果你想用显式的命名方式,可以用Pipeline类来写,给每个组件一个名字,网格搜索参数就更清晰——比如{'resampler__algorithm': ...},而logisticregression__前缀是sklearn给Pipeline组件自动生成的。
网格搜索的评估指标,我一直用average_precision_score(也就是PR曲线下面积)。它在不平衡分类中比AUC更敏感,AUC只看排序的全局质量,在严重不平衡时往往过于乐观;average_precision则更聚焦于少数类的预测质量。如果你对业务里recall底线有硬性要求,也可以改用make_scorer(recall_score, pos_label=1)来搜索,目标不同,最优参数也会不同。
6.3 评估指标选择:为什么准确率在这里没有意义
这个问题我在实战中反复遇到过,必须单独拎出来讲明白。准确率在这里没有意义的原因很简单,它是把所有样本混在一起算正确率。10000条样本里9500条是负类,50条是正类,模型就算把所有正类全判错,准确率依然有95%。
真正能反映分类器价值的是对于正类的recall(捕获率)和precision(精准率),以及把两者综合起来的F1分数和PR曲线下面积。在信贷风控场景里,你更关心的是“把这笔坏账捞出来”的能力,而不是“把所有好账都判对”的能力。漏掉一笔坏账的实际损失可能远高于误杀一笔好账的机会成本。所以评估时一定要拆开看每一类的指标,不能只看一两个综合分数。
7. 踩坑经验与性能优化:实战中容易忽视的细节
7.1 数据泄露陷阱:重采样必须在交叉验证内部进行
这是不平衡数据处理里最常见、也最致命的坑。数据泄露的直接后果是模型评估分数虚高,上线后表现断崖式下跌。我见过不止一个项目组,用“先全量重采样、再切分训练测试集”的流程,本地评估AUC高达0.95,结果上线以后实际AUC只有0.7,问题就出在这里。
正确的做法必须是用Pipeline把重采样器和分类器绑在一起,让重采样发生在每一折交叉验证的训练集内部。这样测试集和验证集永远都是原始分布,评估结果才真实可信。写成代码就是:
python复制pipeline = make_pipeline(
AdaptiveResampler(algorithm='adasyn', random_state=42),
LogisticRegression(max_iter=1000)
)
然后对整个Pipeline做交叉验证,就完全不会有泄露风险了。这一点建议你刻在脑子里——所有关于重采样步骤的位置,都要对照这个规则想一遍。
7.2 合成样本的业务合理性检查
算法生成的每个合成样本,本质上是特征空间里两个真实样本的插值。插值结果可能出现业务上完全不合逻辑的组合。举个具体例子:在信贷场景里,真实样本A是“年龄35岁、月收入3万”,真实样本B是“年龄25岁、月收入2万”,插值生成的样本可能是“年龄30岁、月收入2.5万”,这看起来合理。但如果换成A是“年龄25岁,月收入10万”,B是“年龄45岁,月收入5万”,插值出来的“年龄35岁、月收入7.5万”也许也合理,但“年龄25岁、月收入10万”这个组合本身可能就有问题。
因此,在训练完模型后,一定抽时间把合成样本打印出来,跟领域业务专家一起过一遍。特别是当某个特征的插值结果明显违背业务常识时,考虑在重采样之前先把该特征做离散化、截断或删除。模型训练是个黑盒,但我们不能允许黑盒的输入端有垃圾数据。
7.3 大规模数据下的性能优化策略
当你的数据集超过几十万甚至上百万条时,自适应重采样算法会非常吃力。因为底层的近邻搜索需要在全量数据上计算距离矩阵,时间复杂度大约是O(n^2)数量级。这时候有几种优化手段,按推荐程度排序。
第一个办法是先做聚类降维。把多数类样本用KMeans聚成几百个簇,然后用簇中心代表原始样本参与近邻计算,能大幅降低计算量。第二个办法是特征选择。计算量跟特征维度成正比,删掉那些方差接近0、跟目标高度无关的特征,能明显加速。第三个办法是使用n_jobs=-1并行加速,前提是机器内存够大。第四个办法是调整sampling_strategy,别用'auto',把合成目标比例降到0.5甚至更低,减少需要生成的合成样本数量。
如果以上方案都不够,你就需要考虑用分批训练的方式了——比如用partial_fit机制流式处理数据,或者把重采样步骤迁移到Spark集群上做。这个包本身没有提供流式接口,在超大场景下往往需要我自己写一个简化版的自适应采样逻辑。但话说回来,绝大多数项目的数据量并没有大到这个程度,先试试前面的优化手段,大概率能解决问题。
7.4 多分类场景下的特殊注意事项
adaptive-resampling支持多分类问题,但处理起来比二分类要复杂不少。在多分类场景里,sampling_strategy字典可以精确指定每个类别的目标样本数,这比用'auto'灵活得多。比如三个类别分别是0、1、2,初始数量分别是10000、500、200,我可以设:
python复制resampler = AdaptiveResampler(
sampling_strategy={0: 10000, 1: 8000, 2: 8000},
algorithm='adasyn',
random_state=42
)
这样就把类别1和类别2都补到8000条,让它们相对于类别0的比例更均衡。根据我的经验,多分类不平衡的处理原则是:优先保证小类别的合成质量,因为合成时会把其他类别当作“多数类”来计算难度系数,如果小类别样本太少,近邻搜索的结果会不可靠,合成出来的样本质量也会很差。所以在多分类场景下,n_neighbors往往要调小一点,比如设成3,避免因样本稀疏导致邻居集合里都是其他类别。
8. 从我项目经验里总结的几条实操心得
跟adaptive-resampling包打交道快两年,踩过不少坑,也积累了一些在其他文档里看不到的经验。最后分享几个我觉得价值最高的点。
第一,永远不要相信默认参数能适合你的数据。默认值是在一些标准数据集上调出来的,能保证大部分场景不出大错,但绝不可能是最优的。特别是algorithm和n_neighbors这两个参数,一定要根据你的数据分布手动试几组对比一下。我曾经在一个医疗数据集上,把默认SMOTE切换到ADASYN之后,少数类F1分数直接提升了十个百分点。
第二,可视化重采样前后的数据分布,这个步骤必须做,不能省。单独看指标你可能觉得都差不多,但图像能暴露很多细节——合成样本是否紧密围绕原始少数类样本分布、是否存在跨越到多数类地盘的合成样本、某些特征维度上是否出现了不可能出现的组合。这些只有人眼能看到,指标反映不出来。
第三,重采样只是整个不平衡学习策略中的一环,它不是银弹。实际项目中,我还常常配合使用class_weight参数——在分类器里给少数类分配更高的惩罚权重,让模型更重视少数类错误。重采样和class_weight并不冲突,两者结合往往比单独用任何一个效果都好。我自己在主流的LightGBM、XGBoost模型里,经常先做轻度重采样(比如sampling_strategy=0.7),再把class_weight设为balanced,两个手段一起上。你可以把重采样理解为“喂更多数据给模型”,而class_weight是“告诉模型这些数据更重要”,双管齐下,模型才真正学会重视少数类。
最后想说的是,即使adaptive-resampling帮你把模型训练集修整得很漂亮,也一定记得在完全没做过重采样的原始分布测试集上做最终验证。模型最终是要上线的,它的预测对象来自真实世界——真实世界的分布不会因为你调整了训练集而改变。评估模型好坏,永远要看它在原始数据上的表现,重采样只是训练阶段的辅助手段,不能让它替代真实评估。
