先抛出我的结论:Kmeans 是那种“入门极快、精通极难”的算法,绝大多数人用不好它,卡住的点往往不在算法本身,而在两件周边事——怎么确定 K 值,以及怎么把聚类结果用散点图画得既诚实又好看。
这篇文章我就围绕这三个关键词来聊:Kmeans 算法、最佳聚类数确定、散点图可视化。全程用 Python 示例,代码可直接跑,重点放在“为什么这样做”和“实际数据分析中会踩到什么坑”上。适合刚接触聚类分析的数据分析师、机器学习初学者,以及那些已经用过 sklearn 但总觉得聚类结果“哪里不对”的人。
1. 拿到一堆无标签数据,为什么第一反应是 Kmeans
Kmeans 几乎是每个做数据分析的人接触到的第一个无监督学习算法,这并不意外。它干净、快、可解释性强,而且实现一遍也就几十行代码。但你有没有想过一个问题:面对一堆没有标签的数据,我们凭什么觉得“这个数据集应该分成几类”?这其实是聚类分析的起点,也是 Kmeans 最容易被忽略的前提。
1.1 聚类问题的本质,不是分类而是发现结构
分类问题有标签,模型学的是输入到标签的映射;聚类问题没有标签,模型要回答的是“这些样本之间的亲疏关系到底是怎样的”。打个比方,分类像是老师拿着花名册按成绩给学生分班,而聚类是你走进教室,看到一群学生的座次、聊天对象、作业本堆放位置,自己琢磨出“这些人大概分成了几个小圈子”。
Kmeans 干的正是这件事。它假设数据在特征空间中呈现“团状分布”,每个簇内的样本离簇中心最近。这个假设听起来宽松,实际上很苛刻——如果数据的真实结构是长条形、环形、或者严重重叠的分布,Kmeans 会表现得很笨拙。所以用 Kmeans 之前,第一步其实是问自己:这份数据适合做聚类吗?适合用 Kmeans 做吗?
一个很实用的前置判断方法:先对数据做一次 PCA 降维到二维,画出无着色的散点图,肉眼观察有没有明显的团状聚集。如果看起来就是一大坨均匀分布,那无论 K 取多少,聚类结果都很难有业务解释力。这一条我在实际项目中反复验证过,强烈建议你拿走直接用。
1.2 Kmeans 的数学本质,一句话版迭代逻辑
Kmeans 的优化目标用公式表达就是一个平方误差和:
J = Σᵢ₌₁ᵏ Σₓ∈Cᵢ ||x - μᵢ||²
其中 μᵢ 是第 i 个簇的中心。这个 J 衡量的是所有样本到其所属簇中心的距离平方和。Kmeans 的全部工作,就是找到一组簇中心,让 J 尽可能小。
算法本身是一个迭代过程,用一句话概括:交替进行“分配”和“更新”。先随机选 K 个中心点,然后重复两步——第一步,每个样本分配给离它最近的中心点;第二步,每个簇的中心点移动到该簇所有样本的均值位置。重复到中心点几乎不再移动为止。
这个“移动中心点”的过程,可以想象成你组织了一场游戏:地上插了 K 面旗子,所有人跑到最近的那面旗子旁;然后旗子被挪到这群人的中心位置;然后大家再重新选择就近的旗子。跑几轮之后,旗子和人群就稳定下来了。
问题在于,这个迭代过程只能保证收敛到局部最优,不能保证全局最优。初始中心点选得不好,结果可能差得离谱。所以一般实践中有两个约定俗成的做法:用 k-means++ 做中心点初始化,以及用不同随机种子多跑几次选最好的结果。后面章节我会展开讲。
1.3 距离度量:欧氏距离不是唯一答案,但几乎是默认答案
Kmeans 内部计算的是欧氏距离平方,这跟它“最小化簇内方差”的目标是一致的。有些新手会把距离度量换成曼哈顿距离或者余弦距离,然后发现结果变得很奇怪。这不是算法错了,而是你的目标函数变了。
实际项目中我的建议是:默认用欧氏距离。除非你有明确的业务理由说明“特征之间的差异应该按曼哈顿距离衡量”,否则不要轻易换。更重要的是,在用欧氏距离之前,必须对特征做标准化处理。
做过聚类分析的人应该都有过这种体验:某个特征的量级特别大(比如收入,几千到几万),其他特征量级很小(比如年龄,20 到 60)。如果不做标准化,Kmeans 的距离计算会被大数值特征主导,聚类结果约等于只看这一个特征——簇的形状会沿着这个特征的方向被拉得很长,直观反映在散点图上就是一条条竖着的长条,毫无结构感可言。
标准化本身很简单:
python复制from sklearn.preprocessing import StandardScaler
scaler = StandardScaler()
X_scaled = scaler.fit_transform(X)
StandardScaler 会做 z-score 标准化,即每个特征减去均值再除以标准差。在做完变换之后,所有特征都处于相近的尺度,距离计算才真正平等对待每一个维度。
1.4 一个被忽略的前提:数据是否簇状分布
上面提到先做 PCA 可视化,这里多说两句。PCA 降维本身有信息损失,但它把高维结构投影到二维平面,用于“快速判断是否存在簇状结构”是够用的。如果你看到的是几个明显分离的团,Kmeans 大概率能给出不错的结果;如果看到的是连续渐变的一大片,那就该考虑要不要换 DBSCAN,或者干脆换一种业务角度重新构造特征。
我在一次用户画像项目里遇到过这样的情况:用全部特征做 Kmeans,SSE 下降得也很平滑,轮廓系数一直徘徊在 0.25 左右,怎么看都不理想。后来把特征分组,分别做 PCA,发现其中一个特征子集产生了两团非常清晰的分离结构,另一个子集完全是均匀散布。最后的解决方案是分别聚类,而不是指望一个 K 值解决所有问题。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 手写一份 Kmeans 的迭代实现,比调库更能理解敏感点在哪儿
sklearn 里的 KMeans 封装得非常好,几行代码就能出结果。但我还是强烈建议手动实现一遍,不用多复杂,核心逻辑十几行 numpy 就够,关键是你能亲眼看到每一次迭代里簇中心是怎么移动的,也就能理解为什么它对初始值、对离群点、对 K 值会那么敏感。
2.1 第一版:用 numpy 从零实现 Kmeans 核心循环
先写最核心的迭代逻辑:
python复制import numpy as np
def kmeans_manual(X, k, max_iter=100, tol=1e-4, random_state=0):
rng = np.random.RandomState(random_state)
# 随机选 k 个样本作为初始中心
idx = rng.choice(len(X), size=k, replace=False)
centers = X[idx].copy()
for i in range(max_iter):
# 分配:计算每个样本到每个中心的欧氏距离平方
distances = np.linalg.norm(X[:, None, :] - centers[None, :, :], axis=2)
labels = np.argmin(distances, axis=1)
# 更新:每个簇中心取簇内样本均值
new_centers = np.array([X[labels == j].mean(axis=0) for j in range(k)])
# 检查收敛
shift = np.linalg.norm(new_centers - centers)
centers = new_centers
if shift < tol:
break
return labels, centers
这段代码的核心就三步:计算距离矩阵、按最近中心分配样本、重新计算中心。其中 X[:, None, :] 利用了 numpy 的广播机制,一次性算出所有样本对所有中心的距离矩阵。整个函数在几千条数据上跑起来非常快。
你可以自己试一下,在这个手动实现里修改初始中心的选取方式,或者把收敛阈值调大调小,观察结果变化。这种“亲手拧螺丝”的过程,比看十遍文档形象得多。
2.2 初始中心点的坑:随机选择 vs k-means++
上面这个实现里,初始中心是“随机挑 K 个样本”。这是最朴素的做法,也最容易踩坑。想象一个数据集里有两个团,你随机选中的初始中心恰好都在其中一个团里,那么另一个团在第一次迭代时很可能把两个中心都“抢过去”,最后结果就是把大团劈成两半,小团完全消失。
k-means++ 的出现就是为了缓解这个问题。它的策略是:第一个中心随机选,之后每个中心都倾向于选择“离已有中心较远”的样本。这样初始中心就能尽量分散到数据的各个区域,迭代收敛到更好局部最优的概率大大增加。
sklearn 里的 KMeans 默认 init="k-means++",这也是我建议你保持默认的原因。手动实现里如果要模拟这个效果,可以这样写:
python复制def init_kmeans_plus(X, k, random_state=0):
rng = np.random.RandomState(random_state)
centers = [X[rng.randint(len(X))]]
for _ in range(1, k):
dist = np.min(np.linalg.norm(X[:, None, :] - np.array(centers)[None, :, :], axis=2), axis=1)
prob = dist / dist.sum()
idx = rng.choice(len(X), p=prob)
centers.append(X[idx])
return np.array(centers)
注意最后一行用了 p=prob 按概率随机选择,这样既偏向距离远的位置,又保留了随机性,不会每次结果都一样。
2.3 从手写实现里看到的两个重要现象
我自己写完这个实现之后,印象最深的有两个现象。第一,初始中心对迭代次数的影响比想象中更大。好的初始值三次迭代就收敛了,差的初始值要跑二十多次才稳定,而且最终的中心位置大概率也不好。第二,K 值越大,算法对初始值的敏感程度反而越低——因为中心点数量多了,随机撒点也比较容易覆盖到每个簇,但这不是你随便选大 K 的理由,K 太大了模型过拟合数据中的噪声,后续解释成本也高。
如果你只想用 sklearn,那也建议至少显式指定一下 n_init 参数,比如设为 20。这个参数控制的是“用不同的中心点初始化跑多少遍,取结果最好的一次”。sklearn 默认是 10,但有些更复杂的数据集上,跑 20 遍及以上会更稳当。我实测下来,把 n_init 从 10 调到 20,轮廓系数哪怕只提升零点零几,换来的聚类稳定性也值得。
2.4 手写实现与 sklearn 的差异:不要重复造轮子
看完手写实现,日常工作还是推荐直接用 sklearn。手写代码的意义在于理解机制,而不在于替代工具。sklearn 的 KMeans 在底层做了大量优化,比如用基于三角不等式的加速算法避免每次都算全量距离矩阵,数据量大时速度差异很明显。
真正需要自己写的情况也有,但那是为了特殊需求,比如自定义距离度量、稀疏数据的处理、或者在流式数据上做增量式聚类。这些就不是普通场景了,先明白基础再谈扩展。
3. 确定最佳聚类数的三种主流方法,各自的适用边界要拿捏清楚
当你在散点图上看到一堆点,脑子里通常会浮现两个问题:这些点该分成几簇?分完之后怎么确定这个分法不是我自己硬凑的?
这就是“最佳聚类数”问题。现实世界的数据没有天然正确答案,所以这个问题只能靠经验规则、统计指标和业务解释共同回答。我介绍三种主流方法:肘部法则、轮廓系数、Gap Statistic。每种都有适用的场景,也有各自的局限,建议结合起来看,而不是迷信某一个指标。
3.1 肘部法则:最直观但最依赖“手感”的方法
肘部法则用的是簇内平方和(Within-Cluster Sum of Squares,WSS),也就是每个样本到所属簇中心距离平方的总和。这个值必然随着 K 增大而下降,因为簇越多,每个簇内部越紧凑。问题是:下降的速度会越来越慢。
你画出 K 从 1 到 10 的 WSS 曲线,会看到一条逐渐趋于平缓的折线。那个“肘部”的位置——也就是曲线从急速下降变为平缓下降的转折点——就是推荐的最佳 K 值。
代码非常简单:
python复制from sklearn.cluster import KMeans
wss = []
K_range = range(1, 11)
for k in K_range:
km = KMeans(n_clusters=k, n_init=10, random_state=42)
km.fit(X_scaled)
wss.append(km.inertia_)
import matplotlib.pyplot as plt
plt.plot(K_range, wss, marker='o')
plt.xlabel('K')
plt.ylabel('WSS')
plt.title('Elbow Method for Optimal K')
plt.show()
km.inertia_ 就是 sklearn 帮你算好的 WSS,直接用即可。
但这个方法有个明显缺点:它是主观的。有些数据集的肘部非常清晰,一眼就能看出;但更多时候曲线是平滑下降的,没有一个显著的拐点。这时不同人可能在不同的地方画“肘”。我的经验是,肘部法则适合作为初筛工具,快速确定 K 的候选范围,然后交给后面的指标去精确定位。
3.2 轮廓系数:不只看平均分值,更要看每个簇的“厚度”
轮廓系数(Silhouette Coefficient)衡量的是样本与其所在簇的紧密度,以及与其他簇的分离度。对每个样本 i,定义 a(i) 为它到同簇其他样本的平均距离,b(i) 为它到最近的其他簇所有样本的平均距离。那么轮廓系数为:
s(i) = (b(i) - a(i)) / max(a(i), b(i))
s(i) 的范围是 [-1, 1]。越接近 1,说明这个样本离自己的簇越来越近,离最近的邻簇越来越远——聚类效果越好。把所有样本的 s(i) 取平均,就得到了平均轮廓系数。
用 sklearn 可以直接算:
python复制from sklearn.metrics import silhouette_score
sil_scores = []
for k in range(2, 11):
km = KMeans(n_clusters=k, n_init=10, random_state=42)
labels = km.fit_predict(X_scaled)
sil_scores.append(silhouette_score(X_scaled, labels))
plt.plot(range(2, 11), sil_scores, marker='o')
plt.xlabel('K')
plt.ylabel('Silhouette Score')
plt.title('Silhouette Score for Optimal K')
plt.show()
注意 range 从 2 开始,因为 K=1 时轮廓系数没意义。
选 K 的时候,通常取平均轮廓系数最大对应的 K。但这里有一个我特别想提醒的细节:要观察每个簇的轮廓系数分布,而不仅是看平均值。
如果某个簇的轮廓系数明显低于其他簇,意味着这个簇内部结构松散,或者和邻簇严重重叠。此时单独看平均分可能是 0.5 左右,感觉还行,但画出每个簇的轮廓图(silhouette plot)你会看到某个簇的形状是扁平的甚至出现负数——这就是聚类不好的信号。
画出每个簇轮廓分布的代码有点长,但非常值得掌握:
python复制import numpy as np
from sklearn.metrics import silhouette_samples
fig, ax = plt.subplots(figsize=(8, 6))
for k in range(2, 6):
km = KMeans(n_clusters=k, n_init=10, random_state=42)
labels = km.fit_predict(X_scaled)
sample_sil = silhouette_samples(X_scaled, labels)
y_lower = 10
for i in range(k):
cluster_sil = sample_sil[labels == i]
cluster_sil.sort()
y_upper = y_lower + len(cluster_sil)
ax.fill_betweenx(np.arange(y_lower, y_upper), 0, cluster_sil, alpha=0.7)
ax.text(-0.05, (y_lower + y_upper) / 2, str(i))
y_lower = y_upper + 10
ax.axvline(x=silhouette_score(X_scaled, labels), color='red', linestyle='--')
ax.set_title(f'K={k}')
ax.set_xlabel('Silhouette Coefficient')
ax.set_ylabel('Sample index (sorted by cluster)')
plt.show()
画出来的图上,如果每个簇填充的形状都比较“饱满”,且突出在平均值红线之右,说明聚类结构清晰;如果有某簇的形状贴着零线甚至越过零线,就得警惕。
3.3 Gap Statistic:用统计检验弥补“主观判断”的不足
肘部法则和轮廓系数都依赖“人工看曲线”来决定 K 值,这在报告中不太站得住脚。Gap Statistic 提供了一个相对客观的参考:它把实际数据的 WSS 和一个“无簇结构的参考数据集”做比较。
具体来说,先在样本数据上计算不同 K 值的 log(W_k),然后在样本数据的取值范围内生成若干组均匀分布的参考数据集,计算这些参考数据的 log(W_k),两者相减就是 Gap 值。Gap 最大的 K 被认为是最佳聚类数。这个方法的直觉是:如果数据里真有簇结构,那么真实数据的 WSS 会显著小于随机均匀分布数据的 WSS,这个差距在某个 K 处达到峰值。
代码上,sklearn 没有直接提供 Gap Statistic 的实现,需要自己写。一个简化版本:
python复制def gap_statistic(X, kmax=10, n_refs=20, random_state=42):
rng = np.random.RandomState(random_state)
gaps = []
stds = []
for k in range(1, kmax + 1):
km = KMeans(n_clusters=k, n_init=10, random_state=random_state)
km.fit(X)
log_w = np.log(km.inertia_)
ref_log_w = []
for _ in range(n_refs):
ref_X = rng.uniform(X.min(axis=0), X.max(axis=0), size=X.shape)
km_ref = KMeans(n_clusters=k, n_init=10, random_state=random_state)
km_ref.fit(ref_X)
ref_log_w.append(np.log(km_ref.inertia_))
gaps.append(log_w - np.mean(ref_log_w))
stds.append(np.std(ref_log_w))
gaps = np.array(gaps)
stds = np.array(stds)
return gaps, stds
这个方法在理论推导上比前两种严谨,但代价是计算量大:每个候选 K 值都要跑 n_refs 次聚类,K 值范围一大,几十秒甚至几分钟就过去了。而且它对参考数据集的生成方式敏感——均匀分布只是最简单的假设,不一定适合所有业务数据。
我自己的使用习惯是:数据量小且需要严谨论证时用 Gap Statistic,数据量大时先用肘部法则缩小范围,再用轮廓系数精确定位。三者结合,而不是选一个就完事。
3.4 三种方法的选择逻辑:什么时候信谁
三种方法没有绝对优劣,但各有强项和短板:
| 方法 | 核心指标 | 主观性 | 计算量 | 关键局限 |
|---|---|---|---|---|
| 肘部法则 | WSS | 较高 | 低 | 拐点可能不清晰 |
| 轮廓系数 | 簇内紧密度 vs 簇间分离度 | 较低 | 中 | K=1 无法评估,对重叠簇不敏感 |
| Gap Statistic | 与随机参考数据的比较 | 低 | 高 | 参考数据分布假设影响大 |
在真实项目中,我基本都是先跑一遍肘部法则,把 K 的可能范围缩小到两三个值;然后对这若干个 K 分别计算轮廓系数和簇内各样本的轮廓分布;最后看 Gap Statistic 的结果是否落在同一范围内。如果业务上还能给出一个合理的解释(比如客户分群分成四组正好对应四个运营策略),那这个 K 值就非常有说服力。
4. 散点图不只是画个圈——聚类结果的可视化要让人一眼看懂
树上的果实结得再好,摘下来要放进框里让客户看;聚类分析也一样,模型跑得再漂亮,最终要通过图表传递信息。散点图是最常用的载体,但很多人画的散点图只做到了“有颜色区分”,没有做到“信息有效传递”。
4.1 基础版:用颜色区分簇、用标记标出中心点
最基础的聚类散点图画法,就是按簇着色,再把簇中心点用不同标记叠加上去:
python复制import matplotlib.pyplot as plt
import seaborn as sns
best_k = 4
km = KMeans(n_clusters=best_k, n_init=20, random_state=42)
labels = km.fit_predict(X_scaled)
centers = km.cluster_centers_
plt.figure(figsize=(10, 7))
scatter = plt.scatter(X_scaled[:, 0], X_scaled[:, 1], c=labels, cmap='Set1', s=50, alpha=0.8)
plt.scatter(centers[:, 0], centers[:, 1], c='black', marker='X', s=200, edgecolors='white', linewidth=2)
plt.colorbar(scatter)
plt.title('KMeans Clustering Result with Centers')
plt.show()
这里有个细节:散点图一般只会展示两个维度,如果你的特征超过二维,直接拿原始特征的前两列作图没什么意义。这时候最好用 PCA 先把高维数据压缩到二维,再画散点图,同时你也要清楚这个散点图展示的是投影后的空间,不是原始特征空间。
PCA 降维后画散点图的代码:
python复制from sklearn.decomposition import PCA
pca = PCA(n_components=2, random_state=42)
X_pca = pca.fit_transform(X_scaled)
plt.figure(figsize=(10, 7))
scatter = plt.scatter(X_pca[:, 0], X_pca[:, 1], c=labels, cmap='Set2', s=50, alpha=0.8)
plt.scatter(km.cluster_centers_[:, 0], km.cluster_centers_[:, 1], c='black', marker='X', s=200, edgecolors='white', linewidth=2)
plt.colorbar(scatter)
plt.title('KMeans Clustering with PCA-reduced Dimensions')
plt.show()
注意,簇中心也是在高维空间计算出来的,PCA 投影之后中心点会发生偏移,所以直接把原始中心坐标往里放会有点“错位”。严谨一点的做法是把高维中心点也做同样的 PCA 变换再画。如果数据量大、簇之间重叠严重,这样画出来的散布图会非常杂乱。
4.2 优化版:簇边界和高亮叠加,散点图也可以有层次
很多初学者只画散点,忽略了样本密度差异。如果某个簇内部的点非常密集,画出来就是一坨色块,看不清内部结构。这时候可以叠加密度信息。
一种做法是用 seaborn 的 kdeplot 给每个簇画一个密度等高线区域,做成类似于“气泡边界”的效果:
python复制import pandas as pd
df = pd.DataFrame(X_pca, columns=['PC1', 'PC2'])
df['cluster'] = labels
plt.figure(figsize=(10, 7))
sns.scatterplot(data=df, x='PC1', y='PC2', hue='cluster', palette='Set2', s=50, alpha=0.8)
for c in range(best_k):
subset = df[df['cluster'] == c]
sns.kdeplot(data=subset, x='PC1', y='PC2', levels=3, color='black', alpha=0.2, linewidths=1)
plt.title('KMeans Clustering with Density Contours')
plt.show()
这样做的好处是,能直观看出哪些簇更紧凑、哪些簇比较疏散。不过当簇数量多且重叠严重时,等高线会纠缠在一起,这种图也会变丑。建议在簇数不超过 5 的时候使用。
4.3 升级版:柱状图加散点加置信区间,簇特征的对比可视化
这正好对应了那条热词——“柱状图加散点图置信区间图如何绘制”。在聚类分析里有个非常高频的需求:确定了 4 个簇之后,想对比每个簇在各个特征上的均值差异。最直观的是画分组柱状图,但单独画柱状图会丢失样本分布信息,你不知道簇内差异有多大;单独画散点图呢,数据量一多就很乱。
更好的方案是把三者结合起来:柱状图展示簇均值,散点展示每个样本的实际值,误差线表示置信区间。这种图传达的信息量非常大,一张图里同时看到“均值差异”“样本离散程度”“统计置信性”。
实现可以参考:
python复制from scipy import stats
def mean_confidence_interval(data, confidence=0.95):
n = len(data)
mean = np.mean(data)
se = stats.sem(data)
h = se * stats.t.ppf((1 + confidence) / 2, n - 1)
return mean, h
original_dim = X.shape[1]
fig, axes = plt.subplots((original_dim + 2) // 3, 3, figsize=(15, 10))
axes = axes.flatten()
for feat_idx in range(original_dim):
ax = axes[feat_idx]
for c in range(best_k):
data = X_scaled[labels == c, feat_idx]
mean, h = mean_confidence_interval(data)
# 柱状图
ax.bar(c, mean, yerr=h, capsize=5, alpha=0.6, color=[f'C{c}'])
# 散点(随机抖动避免完全重叠)
jitter = np.random.normal(0, 0.08, size=len(data))
ax.scatter(np.full(len(data), c) + jitter, data, s=10, alpha=0.4, color=f'C{c}')
ax.set_xticks(range(best_k))
ax.set_xticklabels([f'Cluster {c}' for c in range(best_k)])
ax.set_title(f'Feature {feat_idx}')
plt.tight_layout()
plt.show()
图中每根柱子代表一个簇在该特征上的均值,柱子上方的误差线是 95% 置信区间,而散点则是该簇所有样本在这个特征上的真实分布。这样看下来,你不仅能知道簇之间均值差多少,还能知道每个簇内部的样本离散程度如何,以及这种差异是否在置信区间上有意义。
我在实际项目中用过这种图给业务方看,反馈非常好——因为一眼就能看出“什么特征区分度最高”“哪些特征的簇间差异不明显”。比如在某零售数据的分群项目里,四个簇的消费金额均值差异巨大,但消费频次的置信区间全部重叠,说明频次特征对这个分群几乎没贡献。
4.4 选 PCA 还是 t-SNE 还是 UMAP:降维可视化的取舍
如果你的特征维度很高,但簇结构在二维投影上还是看不清,可以考虑用非线性降维方法比如 t-SNE 或 UMAP。PCA 是线性降维,它捕捉的是全局方差最大的方向;t-SNE 和 UMAP 则更重视局部结构,常常能在一个二维平面上把高维空间里聚得近的点“摊开”成更清晰的团。
但这里有个陷阱:t-SNE 和 UMAP 会将距离关系变形,簇与簇之间的距离大小、形状在降维后都不再保真,所以有些分析师会拿着 t-SNE 的图说“看,我们的数据分成了三个清晰的簇”,却在做业务解读时把三个簇的边界当成了硬边界——这在方法论上是不严谨的。
稳妥的做法是:用 PCA 的散点图作为主图,因为它可解释、可复现;用 t-SNE/UMAP 的图作为补充,用于探索和展示局部结构。不管是哪种,在图上务必注明“这是降维投影,不是原始特征空间”这个说明,以免误导人。
5. 一次完整实战:从加载数据到确定 K 值的全过程
把前面的内容串起来跑一遍完整流程,用的数据是我构造的一份二维模拟数据,方便观察。如果你的数据是高维的,操作流程完全一样,到了可视化部分用 PCA 降维即可。
5.1 构造一份带明显簇结构的数据
python复制from sklearn.datasets import make_blobs
X, y_true = make_blobs(n_samples=800, centers=4, cluster_std=1.2, random_state=42)
make_blobs 生成的高斯团状数据,是测试 Kmeans 最理想的数据之一。四团分离得比较明显,这样我们能直观看到 K 值确定方法的表现。
5.2 标准化处理
python复制scaler = StandardScaler()
X_scaled = scaler.fit_transform(X)
这里有一个细节:make_blobs 生成的数据特征尺度差别不大,但在真实数据里特征量级差异很大。无论数据是否看起来“差不多”,只要特征量纲不同,标准化永远是值得做的一步。
5.3 肘部法则跑一遍
python复制wss = []
for k in range(1, 11):
km = KMeans(n_clusters=k, n_init=20, random_state=42)
km.fit(X_scaled)
wss.append(km.inertia_)
把 WSS 画出来,会看到曲线在 K=4 处有一个很明显的肘部——这是我们期待的结果。
5.4 轮廓系数再验证一遍
python复制sil_scores = []
for k in range(2, 11):
km = KMeans(n_clusters=k, n_init=20, random_state=42)
labels = km.fit_predict(X_scaled)
sil_scores.append(silhouette_score(X_scaled, labels))
画出平均轮廓系数随 K 的变化,最高点大概率出现在 K=4。这样肘部法则和轮廓系数互相印证,K=4 的结论就比较扎实了。
5.5 用 Gap Statistic 做最终交叉验证
因为这份数据只有 800 个样本、2 个维度,跑 Gap Statistic 的时间完全能接受。我建议在真实数据里也保持这个思路:先跑简单的,再跑耗时的,别一上来就上重方法。
三者的结论一致时,你就可以放心地把 K=4 作为最终聚类数了。如果三者结论不一致,我会优先相信轮廓系数,因为它既不依赖人工判断,计算代价又比 Gap Statistic 小。
5.6 画出最终结果图和特征对比图
把第 4 节的散点图代码跑一遍,得到最终聚类可视化;再做一次 4.3 里的特征对比柱状图,检查每个簇在特征维度上的区分度。到这里,一次完整的 Kmeans 聚类分析就闭环了。
6. 跑过几百次聚类之后,排在我踩坑榜前列的经验清单
最后这部分不按体系展开,只列一些我在实际项目中反复踩过、后来花时间总结出来的经验,每一条都对应一个真实的问题场景。
6.1 标准化之后再跑聚类,这句话永远不要忘
前面反复提到过,但我还是想再强调一次。有一次我接手一个别人做到一半的项目,数据里有一个“年龄”特征和一个“月消费金额”特征,消费金额的量级是年龄的几十倍。结果聚类结果几乎完全由消费金额决定,年龄特征形同虚设。做了一轮特征工程和业务讨论之后,发现年龄特征其实才是用户区分度的主要来源。这个教训就是标准的“特征量级吞掉结构”案例。
6.2 离群点会让簇中心严重偏移
Kmeans 用的是均值做中心,所以离群点对中心位置的影响非常大。一个极端离群点甚至能让某个簇的中心被“拉”到数据主体之外,然后该簇就变成了只有一个样本的“孤岛簇”。
处理方式分两种:一是业务上确实认为离群点是异常样本,那就先剔除;二是离群点本身有业务意义,那 Kmeans 就不太适合直接用了,可以考虑 DBSCAN 或其他基于密度的聚类方法。在 Kmeans 的场景下,我一般会先做一次 IQR 或 z-score 离群点筛查,把极端值挑出来单独分析,再对主体数据跑聚类。
6.3 随机种子必须固定,否则结果不可复现
数据分析报告里最怕的一件事故就是:昨天跑出来的聚类结果是 A 组,今天重跑变成了 B 组,结果还差异很大。这不是算法有 bug,而是初始中心点的随机性带来的。
解决办法很简单:所有 KMeans 调用都显式传 random_state,或者 numpy 层面设置全局随机种子。sklearn 的 KMeans 有 random_state 参数,n_init 默认会跑多遍取最优解,但随机性仍在。固定 seed 之后,结果就是可复现、可追溯的,这在协作和汇报场景里非常重要。
6.4 轮廓系数高不代表业务有意义,反之亦然
轮廓系数 0.7 以上的聚类结果,可能只是把明显的稠密区域切开了;轮廓系数 0.3 左右的结果,也可能在每个簇里有清晰可解释的业务含义。统计指标是辅助判断的工具,不是终极裁判。
我做过一个案例:根据轮廓系数,最优 K 是 5;但业务方看了 5 簇的结果之后说里面有两簇本质上应该合并成一组(对应同一个运营策略),最后采用了 K=4。这件事给我的启发是,聚类分析的最终目的是为了业务决策服务,指标只能辅助,不能取代业务判断。
6.5 多跑几遍再下结论,尤其是 n_init 别用默认值硬扛
sklearn 默认的 n_init 是 10,但对某些初始中心比较“刁钻”的数据,10 遍可能不够。我习惯设置 n_init=20,甚至数据量允许时设置 50。反正计算量不大,多跑几次换来的是结果稳定性,性价比极高。
6.6 可视化之前先想清楚:这张图要说服谁
散点图画得再漂亮,如果看的人不知道这个簇意味着什么,也是白画。我建议每次输出聚类结果时,主图上面加注释说明坐标含义、数据是否经过标准化或降维、簇之间的颜色映射;附属图配上特征对比柱状图,让读者自己得出结论:这个簇到底在哪些特征上有明显差异。
尤其是“柱状图加散点图置信区间图”这种组合图,是我在业务汇报里用了很多次的手段。它把统计可视化的优点集中在一张图里,既严谨又直观,建议做聚类分析的人熟练掌握。
Kmeans 本身不复杂,复杂的永远是数据预处理、K 值判断、结果解释这三件围绕它展开的事。把这几个环节做扎实了,Kmeans 在绝大多数业务场景里都能给出可靠且可解释的结果。希望这份经验整理能让你少走几步弯路。
