机器学习期末复习全攻略：核心考点、算法对比与实战避坑指南

期末一到，私信里问"机器学习怎么复习"的人就多起来了。说实话，机器学习这门课覆盖面太广，从数学推导到算法原理，从代码实现到案例分析，哪儿都是考点，稍不注意就把自己绕晕。这篇文章就是一份完整的机器学习常见考点复习提纲，我把这些年带复习、自己备考以及批改作业时反复出现的高频考点，按"概念—算法—实战—避坑"的线索重新整理了一遍，适合本科期末、考研复试、以及准备算法岗面试的朋友直接对着复习。

我不会只给你列个知识清单就完事。每块内容都会讲清楚"它是什么、为什么这么设计、考试爱怎么考、做题容易错在哪"，再穿插一些课程作业和面试里真实踩过的坑。后半部分还会聊到课程配套代码怎么练、Java方向和数据库环境里怎么跑机器学习、以及安全检测这类应用方向怎么应付论述题。内容有点长，建议先收藏再慢慢看，按你自己的进度挑章节用。

1. 考点地图：机器学习期末到底考什么

1.1 不同院校和方向的复习侧重点

先说个很多人问的问题：不同学校、不同老师的机器学习期末考试，风格差异真的很大。我了解到的西电（西安电子科技大学）的机器学习期末，历来比较看重数学推导和算法复杂度分析，比如 SVM 的对偶问题推导、朴素贝叶斯的后验概率计算、PCA 的特征值分解步骤，这类题目占分不低。山东大学的机器学习期末则更偏概念理解、应用流程和案例分析，经常给你一个实际业务场景，让你设计完整的机器学习解决方案，包括数据怎么处理、模型怎么选、怎么评估。所以你复习前最好先搞清楚自己学校是"推导型"还是"应用型"，别拿着一套题海战术硬刷。

一般情况下，期末试卷的考点分布大概可以分成四块：

如果你只有一周复习时间，建议优先保前两块，因为算法对比和概念题是最好拿分的部分，后面的应用设计题靠套路也能拿到大部分分数。

1.2 用一条"模型学习流程"串起所有考点

我复习时习惯把整门课的知识点挂在一根主线上，这根主线就是机器学习应用流程：业务理解 → 数据获取 → 数据预处理 → 特征工程 → 模型选择 → 模型训练与调参 → 模型评估 → 上线部署与监控。考试里无论考什么，本质都是在考这条流水线上的某一环。

• 数据获取对应"机器学习数据"相关考点，比如样本量够不够、标注准不准、数据不平衡怎么办。
• 数据预处理和特征工程对应缺失值处理、归一化、独热编码、PCA 降维等。
• 模型选择对应监督、无监督、强化学习三类任务的区分，以及不同场景下选什么"机器学习模型"更合适。
• 训练调参对应梯度下降、学习率、正则化、交叉验证这些高频考点。
• 评估部署对应准确率、召回率、F1、ROC/AUC 这些指标，还有模型上线后的监控问题。

当你把知识点挂在这条流程线上之后，你会发现很多看似孤立的内容其实都是前后关联的。比如正则化既是模型训练时的技巧，也是解决过拟合这一核心问题的关键手段；而交叉验证既用来调参，也用来评估模型泛化能力。考试时就算遇到没见过的场景题，你只要顺着这条线一步步分析，也能答得比较完整。

2. 核心概念与评估指标：概念题的送分点

2.1 监督学习、无监督学习和强化学习一次分清

这是期末绝对会出现的基础题，也是很多同学一开始就容易混淆的地方。监督学习的训练数据是带标签的，模型学的是输入到输出之间的映射关系，典型任务就是分类和回归，常见算法有线性回归、逻辑回归、决策树、SVM、朴素贝叶斯、KNN 等。无监督学习的训练数据没有标签，模型自己要发现数据内在的结构或分布，典型任务是聚类和降维，代表算法有 K-means、DBSCAN、PCA 等。强化学习则是第三种范式，它不靠静态标签，而是靠智能体与环境不断交互，通过"采取动作-获得奖励"的循环来学习策略，这就是热词里提到的"机器学习奖励驱动"的含义。

这里要特别提醒一个点：深度学习不是和这三者并列的概念，而是实现机器学习的一种技术路线。深度学习和机器学习的区别经常考简答，你至少要知道三层：第一，深度学习是机器学习的一个子集；第二，传统机器学习通常需要人工设计特征，而深度学习可以从原始数据中自动学习特征表示；第三，深度学习在数据量极大、算力充足的时候优势明显，而传统机器学习在小样本、可解释性要求高的场景下往往更实用。

为了记得牢，可以这样类比：监督学习像学生在做有标准答案的练习题，对答案改错；无监督学习像没人给你标准答案，让你自己把相似的题归在一起；强化学习像玩游戏，每一步不知道对不对，只有最后结算得分时才知道前面决策好不好。

2.2 泛化、过拟合、欠拟合与偏差方差权衡

"泛化能力"是机器学习最核心的概念，指的是模型在未见过的数据上表现好坏的能力。模型只对训练数据表现好、一到新数据就翻车，叫过拟合；连训练数据都学不好，误差很大，则叫欠拟合。期末常考的一个经典案例就是：你在训练集上准确率到了 99%，测试集上却只有 70%，这时候模型大概率是过拟合了。解决办法一般从数据、模型、训练策略三个角度回答：增加训练数据、数据增强、降低模型复杂度、引入正则化、早停、交叉验证、集成学习等。

偏差方差分解是个高频理论考点。偏差衡量模型预测的平均值与真实值之间的差距，方差衡量模型在不同训练集上预测结果的波动程度。简单记忆：欠拟合对应高偏差，过拟合对应高方差。正则化可以理解成在损失函数后面加一项惩罚，让模型参数不要膨胀。L1 正则化（Lasso）会让部分参数变成 0，自带特征选择效果；L2 正则化（Ridge）会把参数压向接近 0 但不等于 0，更适合处理特征间相关性强的情况。考试如果给一个高维稀疏场景，问你选 L1 还是 L2，答案基本是 L1。

2.3 模型评估指标与交叉验证

评估题是期末的必考点，尤其是混淆矩阵相关的几个指标。先记住混淆矩阵里四个数：TP（真正例）、FP（假正例）、FN（假负例）、TN（真负例）。准确率 Accuracy = (TP+TN)/总数，精确率 Precision = TP/(TP+FP)，召回率 Recall = TP/(TP+FN)，F1 是精确率和召回率的调和平均数，F1 = 2PR/(P+R)。当类别不平衡时，比如 99% 样本是负类、1% 是正类，只看准确率会被"骗"得很惨，这时候应该看 F1 或者 PR 曲线。

ROC 曲线和 AUC 也常考。ROC 的横轴是假正例率 FPR，纵轴是真正例率 TPR，曲线越靠近左上角说明模型性能越好，AUC 就是曲线下方的面积，取值范围 0 到 1，0.5 相当于瞎猜，越接近 1 越好。"机器学习检测"场景（比如异常检测、垃圾邮件检测）特别喜欢用 ROC/AUC 来评估，因为检测任务天然面临误报与漏报的权衡，通过调整阈值可以跑出整条 ROC 曲线。

交叉验证的考点主要是 k 折交叉验证：把训练集分成 k 份，每次用 k-1 份训练、1 份验证，轮流做 k 次，最后取平均。常用的 k 是 5 或 10。注意一点，真正的测试集在调参过程中绝对不能碰，否则你就把测试集的信息"泄漏"到模型选择里了，这叫数据泄漏，是面试里很爱挖的坑。

3. 高频算法考点：从公式到对比

3.1 线性回归与逻辑回归

线性回归是很多学校机器学习课的第一讲，考点集中在最小二乘法和梯度下降。线性回归假设目标值与特征是线性关系，h(x)=w^T x+b，损失函数常用均方误差 MSE = (1/n)Σ(h(x_i)-y_i)^2，最优解可以通过正规方程 w=(X^T X)^(-1) X^T y 直接得到，也可以用梯度下降迭代求解。期末计算题经常给你几个样本点，让你手算一元线性回归的参数，这时把公式展开代入算就好，注意最后补一句"梯度下降和正规方程都能求最优解，但特征维度很高时正规方程涉及矩阵求逆，计算复杂度高，梯度下降更常用"。

逻辑回归虽然名字带"回归"，但它解决的是分类问题。核心思想是把线性回归的输出通过 sigmoid 函数 σ(z)=1/(1+e^(-z)) 映射到 0 到 1 之间，当作正类概率。损失函数不再用 MSE，而是用交叉熵损失，因为对数似然函数在梯度下降时收敛更快。考试爱考的是：逻辑回归为什么能做分类？答案就是 sigmoid 函数的非线性映射加上概率解释。另一个考点是决策边界，逻辑回归的决策边界是线性的，所以它本质是一个线性分类器。

3.2 决策树与信息增益

决策树考得最多的是特征选择指标和剪枝。ID3 使用信息增益，C4.5 使用信息增益率，CART 使用基尼指数。信息熵公式 H(X) = -Σ p_i log2(p_i) 必须会写。信息增益 = 分裂前的熵 - 分裂后各子节点熵的加权平均，数值越大表示该特征带来的"纯度提升"越大。期末计算题经常会给你一个表格，让你算某个特征的信息增益，注意先算总熵，再按特征取值分组算条件熵，最后相减，计算时要看清 log 以 2 为底还是以 e 为底，题目一般会标明。

决策树容易过拟合，所以剪枝很关键。预剪枝是在构建过程中提前停止分裂（比如限制最大深度、最少样本数），后剪枝是先把树建完再从下往上判断是否合并叶子节点。对比记忆：预剪枝效率高但容易欠拟合，后剪枝效果通常更好但计算开销大。另外，决策树对数据缩放不敏感，不需要归一化，这一点和 SVM、KNN 这类基于距离的模型不一样，考试问"哪些算法需要特征缩放"时别答错。

3.3 SVM 与核函数

SVM 是很多同学觉得最难啃的考点，强行背公式容易忘，要抓住核心思想：在特征空间中找到一个最大间隔超平面，把不同类别的样本分开。间隔越大，泛化能力通常越好。支持向量就是距离超平面最近的那些样本点，它们决定了超平面的位置，所以 SVM 只对少量支持向量敏感，对远离边界的样本不敏感。

线性不可分时怎么办？用核函数把数据映射到高维空间，让其在新的空间线性可分。这就像在平面上一堆点绕来绕去切不开，但把它们拎到三维空间后，用一个平面就能切开。常见核函数有线性核、多项式核、RBF 径向基核（高斯核）。RBF 核是最常用的，因为它只有一个参数 gamma，调参相对简单，能把数据映射到无限维。期末如果让你对比线性核和 RBF 核，可以从数据量、特征维度、是否线性可分三个角度答：特征维度很高时优先线性核，样本量大且维度不高时 RBF 核更容易取得好效果。

3.4 朴素贝叶斯与 KNN

朴素贝叶斯的核心是贝叶斯公式 P(Y|X)=P(X|Y)P(Y)/P(X)，"朴素"二字指的是假设特征之间相互独立。考试常考两种题型：一是给数据算后验概率做分类，比如根据天气、温度判断是否出去玩，算的时候注意用拉普拉斯平滑，防止某个特征取值在训练集中没出现过导致概率为 0；二是问"特征独立性假设在现实中往往不成立，为什么朴素贝叶斯还能用"，答案方向是：即使独立性不成立，它在很多场景下的分类效果依然不错，而且训练速度快、可解释性强，尤其在文本分类（垃圾邮件识别）中表现稳定。

KNN 是典型的基于实例的惰性学习算法，它没有显式的训练过程，预测时直接计算新样本与所有训练样本的距离，取最近的 K 个邻居投票决定类别。考点集中在距离度量（欧氏距离、曼哈顿距离）和 K 值选择。K 太小容易过拟合（噪声影响大），K 太大则决策边界过于平滑（欠拟合），一般用交叉验证选 K。数据归一化对 KNN 极其重要，因为如果某个特征取值范围特别大，距离计算会被它主导，直接导致其他特征失效。考试常爱出对比题：KNN 适合什么场景？类别判断依据清晰、无需训练、数据量适中时效果好；但预测时需要遍历全部样本，大数据量下效率低。

3.5 K-means 与 PCA

K-means 是聚类中最常考的算法，流程要能写出来：1. 随机选 K 个点作为初始簇中心；2. 把每个样本分给距离最近的簇中心；3. 重新计算每个簇的均值作为新中心；4. 重复 2 和 3 直到中心不再变化或达到最大迭代次数。考点有三个：一是 K 值怎么选，常用肘部法则，画簇内误差平方和 SSE 随 K 变化的曲线，找一个拐点；二是初始中心敏感问题，不同的初始化可能得到不同结果，改进方法有 K-means++；三是适用场景，K-means 适合簇形状接近球形、分布均匀的数据，对离群点敏感，因为均值会被极端值拉偏。

PCA 是降维的代表。它的目标是把高维数据投影到低维空间，同时尽可能保留数据的方差。步骤要记牢：1. 对原始数据做中心化（减均值）；2. 计算协方差矩阵；3. 求协方差矩阵的特征值和特征向量；4. 按特征值从大到小排序，取前 k 个特征向量组成投影矩阵；5. 将原始数据投影到新的 k 维空间。考试常问"PCA 是有监督还是无监督"，回答是无监督，因为它在计算过程中没有用到标签信息。另外 PCA 得到的新特征不是原始特征，而是原始特征的线性组合，所以可解释性下降，面试题里常拿这一点对比特征选择（保留原始特征子集）。

3.6 强化学习的"奖励驱动"考点

强化学习在学校课程里可能只占一两节课，但期末还是可能出概念题，尤其是热词里出现了"机器学习奖励驱动"，说明这是近期大家关注的方向。强化学习的核心要素是智能体、环境、状态、动作、奖励。智能体在每个状态下选择一个动作，环境给出新的状态和奖励，智能体通过最大化长期累积奖励来学习最优策略。这里的"奖励驱动"指的是智能体的行为完全由奖励信号引导，没有数据标注者告诉它每一步对错。

最常考的公式是 Q-learning 的更新式：Q(s,a) ← Q(s,a) + α[r + γ·max_a' Q(s',a') - Q(s,a)]，其中 α 是学习率，γ 是折扣因子。你不需要会推导，但至少要能解释每个符号的含义，并且能说明 γ 越接近 1 表示越重视未来奖励，越接近 0 表示越短视。期末简答如果问"强化学习和监督学习的区别"，从训练信号角度答：监督学习依赖带标签的样本，强化学习依赖延迟的奖励信号，这是最本质的区别。

4. 集成学习与深度学习考点

4.1 Bagging、Boosting 与随机森林

集成学习是"三个臭皮匠顶个诸葛亮"的数学版，核心思想是训练多个基学习器再组合，从而提升整体性能。期末主要考 Bagging 和 Boosting 的对比。Bagging（代表：随机森林）是并行训练多个独立的基学习器，每个基学习器用有放回抽样得到的不同训练子集训练，最终投票或取平均。Boosting（代表：AdaBoost、GBDT）是串行训练，每个新学习器重点关注前面学习器做错的样本，最后加权组合。

从偏差方差角度理解：Bagging 主要降低方差，所以对决策树这种高方差模型特别有效；Boosting 主要降低偏差，所以能把弱学习器提升成强学习器。随机森林的考点除了 Bagging 外，还有随机特征选择：每棵树分裂时不是从全部特征里选最优，而是随机抽一个特征子集再选最优，这样做进一步降低了树之间的相关性，让集成效果更好。考试如果问"随机森林和决策树的区别"，重点答这两点：样本随机、特征随机。

4.2 深度学习核心考点：激活函数、CNN、RNN

深度学习这几年一定是期末重点，至少会考概念和网络结构。神经网络的基础是前向传播和反向传播，反向传播用链式法则从输出层往输入层逐层计算梯度，这个推导过程偶尔会出大题。激活函数要掌握几种：sigmoid 输出范围 0 到 1，适合二分类输出层但容易梯度消失；tanh 输出范围 -1 到 1，均值更接近 0，但同样有梯度消失问题；ReLU 在正区间梯度恒为 1，计算快，是目前隐藏层的默认选择，但负数区间梯度为 0，可能出现"神经元死亡"，改进版有 LeakyReLU；softmax 用于多分类，把 logits 转换成概率分布。

CNN 的考点是卷积层、池化层和全连接层的分工。卷积层通过卷积核提取局部特征，参数共享机制大幅减少参数量；池化层（最大池化/平均池化）降低特征图尺寸，增强平移不变性。RNN 的考点是它通过隐藏状态记住历史信息，适合序列数据，比如文本、时间序列，但长序列会梯度消失，所以有了 LSTM 的门控机制。期末简答如果问"传统机器学习和深度学习在特征工程上的区别"，标准答法是：传统机器学习强依赖人工特征工程，深度学习能自动学习特征表示，但代价是需要更多数据和算力。

4.3 机器学习在"检测"类场景中的应用思路

专业课期末很喜欢出应用分析题，特别是"机器学习检测"方向，比如垃圾邮件检测、异常流量检测、恶意软件分类、目标检测等。这类题考查的不是你能不能训练出一个模型，而是你能否把整个应用流程讲清楚。我建议按下面这套框架回答：

1. 明确任务类型：垃圾邮件检测是二分类，异常检测可能是无监督（没有标签时）或有监督（有标签时）。
2. 数据处理：文本类数据要先分词、去停用词、TF-IDF 向量化；图像类数据要缩放、归一化、数据增强；数值类数据要做缺失值处理和标准化。
3. 特征工程：垃圾邮件看词频特征、链接特征；异常检测看统计特征、时间窗口特征。
4. 模型选型：小样本文本分类用朴素贝叶斯或逻辑回归；高维非线性数据用 SVM 或随机森林；图像数据用 CNN。
5. 评估方式：检测场景通常类别不平衡，别只看准确率，要关注召回率、F1、ROC/AUC，因为漏报和误报的代价可能完全不同。
6. 上线监控：模型上线后要持续监控分布漂移，定期用新数据重新训练。

这个框架同样适用于回答其他业务场景题，本质就是机器学习应用流程的展开，背熟它，案例分析题基本上可以拿大部分分。

5. 实操与答题经验：课程作业和期末两不误

5.1 Python 机器学习模块怎么用才够应付考试

Python 是机器学习课程最常用的语言，期末机试或作业题一般离不开 scikit-learn。你不需要成为调包侠大师，但至少要会用这几个核心模块：train_test_split 划分数据集、StandardScaler 做标准化、Pipeline 把预处理和模型串起来、GridSearchCV 做网格搜索调参、classification_report 输出评估指标。很多同学考试写代码时最大的问题是忘了"预处理"这一步，直接把原始数据扔进模型，结果分数惨不忍睹。

下面给一段最基础但完整度很高的代码模板，考试时可以直接套用：

python复制import pandas as pd
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
from sklearn.linear_model import LogisticRegression
from sklearn.pipeline import Pipeline
from sklearn.metrics import classification_report, roc_auc_score

data = pd.read_csv('data.csv')
X = data.drop('label', axis=1)
y = data['label']

X_train, X_test, y_train, y_test = train_test_split(
    X, y, test_size=0.2, random_state=42, stratify=y
)

pipeline = Pipeline([
    ('scaler', StandardScaler()),
    ('clf', LogisticRegression(max_iter=1000))
])

pipeline.fit(X_train, y_train)
y_pred = pipeline.predict(X_test)
y_proba = pipeline.predict_proba(X_test)[:, 1]

print(classification_report(y_test, y_pred))
print('AUC:', roc_auc_score(y_test, y_proba))

代码里那一行 stratify=y 很多人不写，但很重要：它能让训练集和测试集中的类别比例保持一致，尤其适合类别不平衡的数据。如果你用的是 sklearn 1.2 及以上版本，LogisticRegression 的 max_iter 经常需要调大，否则会报"ConvergenceWarning"警告。机考时间紧张，建议把这段模板默写到能盲打的程度。

5.2 Java 环境里用什么组件，SQL Server 2019 怎么跑机器学习

有些学校课设或企业面试会问 Java 生态怎么做机器学习，毕竟不是所有项目都跑 Python。Java 里常见的机器学习组件有 Weka、Smile、Deeplearning4j 和 Apache Spark MLlib。Weka 适合做教学实验和快速对比算法，图形界面很友好；Smile 提供了比较完整的机器学习算法库，适合写在 Java 后端里；Deeplearning4j 是 Java 生态的深度学习框架，支持 CNN、RNN；如果数据量大，Spark MLlib 是分布式训练的标配。考试或面试时只要能说出每种组件的定位和适用场景就够了，不需要深入研究 API。

还有一个很多同学会好奇的点：SQL Server 2019机器学习服务器组件下载是怎么回事。微软从 SQL Server 2017 开始内置了机器学习服务，2019 版本可以在安装时勾选"机器学习服务"和"机器学习服务器组件"，之后就能直接在数据库里用 R 或 Python 训练模型、做预测，不需要把数据导出到外部脚本。这对数据量不大、希望把模型推理和数据库事务放在一起的场景很方便。期末如果考到这类工具题，你只需要记住一句话：SQL Server 2019 通过机器学习服务（Machine Learning Services）支持在数据库内运行 Python 和 R 脚本，安装时勾选对应组件、安装后开启外部脚本配置即可。

5.3 吴恩达机器学习作业和周志华机器学习答案怎么用

很多同学复习时会搜"吴恩达机器学习"、"吴恩达机器学习作业"、"吴恩达机器学习课后"、"周志华机器学习答案"这类资源，但资料在精不在多，关键是怎么用。吴恩达的课程（Machine Learning）经典之处在于它把数学概念讲得很直观，尤其是线性回归、逻辑回归、神经网络和异常检测这几章。配套作业建议亲手用 Octave/MATLAB 写一遍，因为作业里有很多填空式代码，能逼你把公式一步步实现出来；如果你不熟悉 Octave，也可以用 Python 复现同样的思路，重点理解梯度下降里"同时更新参数"这个细节，很多同学初学时会写出先把 θ0 更新再拿去算 θ1 的错误代码。

周志华的《机器学习》（西瓜书）是很多国内课程的指定教材，课后习题答案网上能搜到，但千万别只背答案。西瓜书的重点是前 3 章（绪论、模型评估与选择、线性模型）、第 4 章决策树、第 5 章神经网络、第 6 章 SVM、第 7 章贝叶斯分类器，以及第 16 章强化学习的入门概念。刷课后题的目的是检查自己能不能把概念用数学语言表达出来，而不是记住标准答案。做题时先独立写一遍，再对照答案看漏了哪个得分点，比如"为什么留出法要分层采样""为什么 K 折交叉验证的 K 不能太大也不能太小"这些经典问题，考试原题引用率非常高。

5.4 机器学习在安全与密码分析方向的学术应用

热词里出现了"机器学习 密码分析"，我猜测是不少同学在做课程报告或选题时盯上了这个方向。这里要明确一点：机器学习在安全领域的应用是计算机科学的重要研究方向，通常指用机器学习技术增强系统的防护能力，属于防御性应用。比如异常流量检测（从网络流量中识别可疑行为）、恶意软件分类（从文件特征中判断是否恶意）、垃圾邮件过滤、入侵检测系统等。这类方向的期末论述题，重点考察的是你对"机器学习检测流程"的掌握，而不是要求你真的去实现某个密码分析算法。

如果你真要写相关课程报告，我建议把重心放在"如何把监督学习、无监督学习或强化学习应用到安全检测场景"上，并且一定要强调合法合规、学术研究为导向。安全是双刃剑，写论文或做课设时，所有实验数据都应该来自公开数据集，比如 KDD Cup 1999、NSL-KDD、CICIDS 等，这些在学术圈是公开可用的，讨论起来也安全稳妥。这样既能体现你对前沿方向的关注，又不会把话题引向不该碰的地方。

6. 常见问题速查表与避坑指南

6.1 期末高频判断题和选择题速记

根据我每年的观察，以下几类判断题反复出现的频率极高，直接背下来能省不少时间。下面这张表按"题目描述 → 答案 → 理由"整理，适合考前最后一天快速过一遍：

临近考试前，拿这张表自测一下，哪条解释不清楚，就回去翻对应章节，效率比从头翻书高很多。

6.2 考场上容易被扣分的细节

第一个坑是公式符号不统一。比如逻辑回归的损失函数，写交叉熵时到底是"负对数似然"还是直接把两项合并，不同教材写法不一样，但核心必须是对的：当 y=1 时希望 -log(p) 小，当 y=0 时希望 -log(1-p) 小。答题时先写出单个样本的损失，再写所有样本的平均，不要跳步，老师给过程分时按步骤来的。

第二个坑是混淆"验证集"和"测试集"的用途。验证集用来调参、选模型，测试集只做最终评估，两者不能混用。简答题如果问"为什么不能用测试集调参"，标准答案是：会导致测试集的信息间接进入模型选择过程，使评估结果偏乐观，也就是数据泄漏。

第三个坑是代码题漏写预处理步骤。用 sklearn 的 LogisticRegression 跑数据时不做标准化，虽然有时也能收敛，但结果往往不如标准化后稳定，而且 SVM、KNN 这类基于距离的模型，不归一化会出大问题。考试时哪怕题目没明说，也建议在代码里加上 StandardScaler。

第四个坑是 PCA 和特征选择的混淆。PCA 是特征提取，生成的是新特征，原始特征的含义丢失了；特征选择是在原始特征里挑一部分，保留原始含义。这两个概念一旦写反，简答题基本扣一半分以上。

6.3 一周复习时间表参考

最后给一份我自用的七天复习节奏，适合期末前临时抱佛脚的人参考：

第 1 天：把整本书的目录过一遍，顺一遍机器学习应用流程，标出你不熟悉的概念，做一份自己的考点清单。第 2 天：集中看模型评估与选择这一章，把过拟合、偏差方差、交叉验证、评估指标全部吃透，配合判断题自测。第 3 天：复习线性回归、逻辑回归、决策树，亲手推导一遍梯度下降更新公式和一个信息增益计算例题。第 4 天：复习 SVM、朴素贝叶斯、KNN、K-means，重点做算法对比，比如"距离度量在 KNN 和 K-means 中分别起什么作用"。第 5 天：复习集成学习和深度学习，随机森林 vs GBDT 的对比、CNN vs RNN 的对比，各写一份口头答题模板。第 6 天：把吴恩达作业里线性回归和逻辑回归的代码用 Python 重写一遍，再跑通 sklearn 的完整 Pipeline。第 7 天：只看错题和速查表，把每个考点用口头讲一遍，讲不清楚的就再翻书。

这轮复习下来，我最直观的感受是：概念题靠对比记忆，算法题靠动手推导，应用题的万能钥匙永远是"数据→特征→模型→评估"这条流程线。只要你能把这根线理顺，不管期末出什么题，心里都不会慌。