1. 从零开始:Spambase数据集解析与预处理
Spambase数据集是经典的垃圾邮件分类基准数据,包含4601封邮件样本,每封邮件用57个特征描述。这些特征包括特定单词出现频率(如"free"、"money")、特殊符号频率(如"!"、"$")以及字母大小写统计等。最后一列为分类标签,1表示垃圾邮件,0表示正常邮件。
我们先从数据加载开始。建议使用pandas的read_csv函数直接读取,这个函数能自动处理大多数数据格式问题。我习惯在加载后立即检查数据维度,避免空值或格式错误:
python复制import pandas as pd
spam = pd.read_csv('spambase.csv')
print(f"数据集形状:{spam.shape}") # 应输出(4601, 58)
数据预处理阶段有几个关键点需要注意。首先是特征缩放,决策树不需要但SVM对特征尺度敏感。我通常会先做训练测试分割再分别标准化,避免数据泄露:
python复制from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
X = spam.iloc[:, :-1] # 前57列是特征
y = spam.iloc[:, -1] # 最后一列是标签
# 按7:3比例分割
X_train, X_test, y_train, y_test = train_test_split(
X, y, test_size=0.3, random_state=42)
# 仅对SVM需要的标准化处理
scaler = StandardScaler()
X_train_scaled = scaler.fit_transform(X_train)
X_test_scaled = scaler.transform(X_test)
注意:random_state参数固定能确保结果可复现,这在教学和论文实验中很重要,但实际项目中可能需要交叉验证。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 决策树实战:从原理到调优
2.1 分裂准则对比:gini vs entropy
决策树的核心是节点分裂准则。gini系数计算简单,
