从懵圈到跑通:我的 K-means 聚类初体验
先说点掏心窝的话,我一开始看到“聚类”“无监督学习”这些词,脑子里是发懵的。监督学习好歹有标签当正确答案,聚类是几个意思?最快要到给一堆点分组,K-means 这个名字看起来最短,好像最好欺负,我就从它下手了。结果没想到,一个看似简单的算法,里面藏着不少讲究,从数学原理到动手跑通,再踩几个坑,真正跑通之后确实挺爽。这篇就是把我的初体验完整记录下来,适合跟我一样刚接触聚类、想一步步把 K-means 搞明白的同学,也适合已经会调库但没深究过原理的人,看完应该会有点收获。
- 为什么从 K-means 开始:聚类算法选型的第一课
1.1 聚类的应用场景,到底在解决什么问题
聚类这件事,说白了就是“物以类聚,人以群分”。跟分类不同,聚类在动手前根本没有正确答案,连分成几类都需要自己去定。第一次接触很难理解这种“没有标准答案”的学习方式,我后来用了一个直白类比才想明白:你拿到一堆混在一起的水果,你不知道有几种,需要根据大小、颜色、形状把相近的拢在一起,最后发现大概有三堆——苹果、香蕉、橘子。这个过程不是教出来的,是你自己观察出来的,这就是聚类。
K-means 常见的落地场景特别广,比如用户分群、图片压缩、市场细分、异常点检测,甚至电商平台做用户画像。只要手头有一批数据,想要把相似的数据归到一起,都可以先拿 K-means 试试水。我学这个主要是想解决兴趣社群的自动分组问题,一堆用户行为日志丢进来,不靠运营手工打标签,看看能不能自己分出几个自然群组,所以聚类成了我的第一站。
1.2 回头看:为什么选 K-means,而不是层次聚类或 DBSCAN
我知道现在一提聚类,很多人会立刻说 DBSCAN 更牛,能处理任意形状,还能识别噪声点;层次聚类不需要预设 K 值,还可以画树状图。但作为初体验,我的选择很简单:K-means 第一个学,因为它最容易搭建直觉。我见过不少刚开始学的朋友,一上来直接看 DBSCAN 的两个参数 eps 和 min_samples,直接被绕晕。而层次聚类要理解距离矩阵、链接准则,画图倒是直观,但看懂了树状图之后怎么切,又是一层谜。
K-means 的优势有点像你学走路的时候,先学走直线,而不是直接学跑酷。因为它逻辑清晰:先随机定几个中心,把点分给最近的中心,再算每个组的新中心,反复迭代到不再变化。这个流程,每一步都有画面感。缺点也比较直观:你需要提前指定 K,它对初始点是敏感的,对离群点也比较脆弱。但这些短板恰好是后面的学习台阶,等你把 K-means 跑通,再接触 DBSCAN、层次聚类的时候,才会真正明白它们的差异和互补性,而不是拿着 API 瞎试。所以我的建议是,先别有太多杂念,把 K-means 啃下来,后面的路会顺很多。
- 被 K-means 虐哭的第一步:光看公式,根本不叫懂原理
2.1 K-means 背后那个简单到不像话的数学直觉
我当时在草稿纸上把 K-means 的公式抄了三遍,第一遍是下载的教程文档,第二遍是西瓜书,第三遍自己复述。真正想明白后发现它的核心目标就是用 K 个中心点,让每个点到它所属中心的距离总和最小。用论文点的说法是“最小化组内平方和”,其实就是让每个组里的点尽量紧凑。这个目标函数是:
J = Σᵢ₌₁ᴷ Σₓ∈Cᵢ ||x − μᵢ||²
意思是,把每个样本 x 分配到最近的中心 μᵢ 后,计算每个样本到中心的欧氏距离平方,然后全部加起来。这个 J 越小,说明分组越紧凑,聚类效果越好。
但你直接看着这个公式想自己推导,会觉得无从下手,因为它是一个离散优化问题:每个点属于哪一类是离散的,中心点的位置是连续的,混合在一起不好直接求导。我当时卡在这里蛮久的。后来才明白,K-means 不是通过一次计算求出全局最优,而是用迭代的方式,交替更新每个点的归属和每个中心的位置,也就是“坐标下降法”的思路。
2.2 E 步和 M 步,其实就藏在两个交替的步骤里
很多人一看到“EM 算法”这几个字就把自己吓退了,但 K-means 中它的思想非常朴素。你可以把它拆成两个反复执行的步骤。
第一步是分配,把每个点分给离它最近的中心。我用 Python 里的 numpy 写出来,最核心的代码是计算每个点到所有中心的距离矩阵。第二步是更新中心,把每个类别中所有点的均值作为新的中心。我当时第一次看到“均值”就是 K-means 里“means”的由来时,一下串起来了。
我印象很深的一个坑,就是手动实现的时候,算距离矩阵用了最朴素的嵌套循环,数据一多就卡死。后来学聪明了,用 numpy 的广播特性,写 distance = np.sqrt(((X[:, np.newaxis, :] - centroids[np.newaxis, :, :]) ** 2).sum(axis=2))。这一行直接返回一个 n_samples 乘 K 的距离矩阵,比暴力循环快好几个数量级,这段代码后来成了我的“标配”。
2.3 收敛的秘密:不要试图一次到位
K-means 收敛的本质是每次都只做局部优化:固定中心,优化分配;固定分配,优化中心。两个步骤交替执行,J 只能单调下降,不会回升。我特意在一个随机生成的数据集上打印了每一轮的 J 值,看到的确实是前几轮下降非常快,后面逐渐平稳,最后不再变化。这个过程让我彻底理解了“迭代”为何不是玄学,而是在保证结果不增坏的前提下逐步调整。
有个关键细节是判断什么时候停。一般有两种常用办法,一是中心点不再移动(或移动距离小于某一小阈值),二是达到最大迭代次数。我初版只用了第一种,死循环过一次,就是因为两个中心点在边界的两个点之间反复横跳,距离不为 0,一直不满足停止条件。后来老老实实加了 max_iter = 100 的兜底,程序才变得稳。建议大家哪怕是调 sklearn 的库,也要顺手把 max_iter 这个参数加上,别迷信默认值,尤其是初学者阶段写自己的实现时,这个保护是刚需。
- 自己动手造轮子:纯 Python 手写 K-means 的完整经历
3.1 从零开始写代码,为什么会建议你跑一遍
我知道现在很多人觉得没必要手写 K-means,上来就是 from sklearn.cluster import KMeans,两行代码跑出结果。这种玩法不是不对,但我强烈建议初学者至少手动实现一次。为什么不直接调库?因为调库太顺滑了,你根本感知不到里面做了什么。比如你知道初始化中心点有 k-means++ 这个方法吗?你知道 fit 之后调用 predict() 会重新训练,而不是用训练好的模型来预测吗?这些问题如果不手动实现一次,很难注意到,也容易被库包装好的接口“夺走”判断力。
另外,手写实现能让你理解 n_clusters、init、n_init 这些参数到底在控制什么。我自己的经验是,手写了一遍 K-means 之后,看官方文档都顺畅多了,因为每一个参数都对应上了你手写代码里的一个环节。比如 n_init 控制随机初始化的次数,就是因为你写的随机中心点对结果影响大,容易被局部最优绊住,需要多跑几次,挑 J 最小的那一组作为最终输出。
3.2 手写版核心代码逐行拆解,以及你必须绕开的坑
我先给出手动实现 K-means 的代码框架,这是经过我整理和调试后比较干净的一个版本,能跑通,而且每一步逻辑都对应上面的原理。
python复制import numpy as np
def initialize_centroids(X, k, seed=42):
rng = np.random.RandomState(seed)
indices = rng.permutation(X.shape[0])[:k]
return X[indices].copy()
def assign_clusters(X, centroids):
distances = np.sqrt(((X[:, np.newaxis, :] - centroids[np.newaxis, :, :]) ** 2).sum(axis=2))
return np.argmin(distances, axis=1)
def update_centroids(X, labels, k):
new_centroids = np.zeros((k, X.shape[1]))
for i in range(k):
points = X[labels == i]
if len(points) > 0:
new_centroids[i] = points.mean(axis=0)
return new_centroids
def kmeans_manual(X, k, max_iter=100, tol=1e-4, seed=42):
centroids = initialize_centroids(X, k, seed)
for _ in range(max_iter):
labels = assign_clusters(X, centroids)
new_centroids = update_centroids(X, labels, k)
diff = np.abs(new_centroids - centroids).sum()
centroids = new_centroids
if diff < tol:
break
return labels, centroids
我给这段代码做几点注释,因为这几个地方是我调试时卡过雷的。第一,初始化中心时,我们直接从数据中随机抽 K 个点,而不是凭空生成 K 个随机坐标,这能避免初始中心落在远离数据的区域,导致某些簇在迭代过程中一直没人。第二,update_centroids 里面如果某个簇一个点都没有,len(points) 为 0,直接 points.mean() 会报错或者产生 nan,必须先加判断,否则程序会在某一个随机种子下悄然崩溃。第三,判断收敛时我使用的是新旧中心的绝对差值之和,也可以用相对变化或中心移动的最大距离来判断,效果差别不大,关键是别只靠这一项兜底,迭代上限一定要有。
我拿自己生成的三簇数据做测试,得到的结果非常清爽。但注意,我这里用的数据是三个球形分布的高斯点云,天然适合 K-means。如果数据形状不规则,这个算法的表现会差很远,这一点在后面我会展开讲。
3.3 从这段代码里,我体会到的两个细节
第一个体会是“初始化”这一个小东西有多重要。我手写版用随机抽取的方式,实际上每次跑出来的结果都可能不同。有一次随机种子选得不好,第一轮就有一个中心落在两组数据的正中间,导致最后聚出来的形状完全不对,轮廓系数也低得可怜。后来我把 seed 调了几次,或者多跑几轮取最优,结果才稳定下来。这也是为什么现在的 K-means 实现偏爱 k-means++ 初始化的原因——它尽量让初始中心彼此远离,从源头减少随机性带来的问题。
第二个体会是 K-means 对数据的尺度极敏感。我一开始用真实场景的数据直接丢进去,结果有个特征的数值范围是几万,其他特征只有 0 到 1,因为距离主要由那个大数值特征主导,聚类结果几乎变成了只按那一个维度切分。后来我意识到,K-means 是基于欧氏距离的,而欧氏距离对特征量纲极其敏感,所以数据标准化是绕不开的前置步骤。一般在跑 K-means 之前,我会对特征做 StandardScaler,让每个特征都近似均值为 0、方差为 1。这个操作简单,但收益极大,很多聚类效果不好的问题,先标准化再跑,往往能好一大截。
- 正式跑通:当 sklearn 版本把流程压缩成三行
4.1 从玩具数据到真实数据的刻意练习
手写版跑通后,我开始用 sklearn 来正式跑。对我来说,这一步是从“理解原理”迈向“高效实践”的关键转折点。KMeans 接口非常简洁,sklearn 里调用起来很容易,首先生成模拟数据,或者直接用自己的测试数据集。我这里分享一个基于随机生成广告投放数据的小案例,让大家看到从数据准备到结果输出的完整链路。
我先构造了一个小数据集:假设广告投入(成本)和带来的收益是两个维度,一共 300 条记录。然后我把数据喂给 KMeans,设置 n_clusters=3,n_init=10,random_state=42,fit 之后就拿到了每个样本的标签和最终的中心点。
python复制from sklearn.cluster import KMeans
from sklearn.preprocessing import StandardScaler
import numpy as np
import pandas as pd
rng = np.random.RandomState(42)
X = np.vstack([
rng.normal(loc=(5, 5), scale=1.2, size=(100, 2)),
rng.normal(loc=(15, 18), scale=1.5, size=(100, 2)),
rng.normal(loc=(25, 10), scale=1.8, size=(100, 2)),
])
scaler = StandardScaler()
X_scaled = scaler.fit_transform(X)
model = KMeans(n_clusters=3, n_init=10, random_state=42)
labels = model.fit_predict(X_scaled)
centers_scaled = model.cluster_centers_
centers = scaler.inverse_transform(centers_scaled)
print("聚类中心(原始尺度): \n", centers)
print("各组样本数量: \n", np.bincount(labels))
这个案例跑完,输出结果里面每个簇的样本数量比较平均,中心点也能大致对应我生成数据时设定的三个中心位置。我当时有点小激动,因为从懵圈到看见一条清晰的输出链路,终于觉得“聚类这个东西我能用了”。
4.2 fit、fit_predict 和 predict 的细节,别在接口上翻车
用 sklearn 的过程中你会发现它的 API 设计存在不少细节,稍不留神就会犯错。我在初次使用时犯过一个错误:训练完模型后,又拿 model.predict(X_new) 去预测几个新样本,结果发现结果跟用 fit_predict 得到的标签对不上。仔细看了文档才知道,KMeans 的 fit 只是训练模型,predict 是基于模型给新样本分配最近的簇。而 fit_predict 才是把训练和预测一次做完。更重要的坑在于,KMeans 一旦 fit 之后,如果你直接调用 predict,它内部会用已经训练好的中心点来分配新样本,这个逻辑是对的。但如果你对新数据又跑了一遍 fit,那就会重新训练一个模型,标签顺序可能完全变掉。所以我现在的习惯是,只有对训练数据做探索性分析时用 fit_predict,对新样本的预测则必须单独使用 predict,或者直接调用 model.predict(new_X),两者不可混用。
此外,KMeans 中 n_init 参数的默认值在不同版本不太一样,但在较新的版本中默认是 10,目的是多跑几轮随机初始化,取组内误差最小的那个。这个参数虽然平时不用调整,但把它调成 1 会大幅加速训练,代价是更容易陷入局部最优。我在大数据集上做快速验证的时候会临时调成 1,正式出结果的时候再恢复默认,算是一个省时间的小技巧。
4.3 评估聚类效果,光靠眼睛是不够的
聚类没有标签,所以效果好不好不能像分类那样直接算准确率。但依然有指标可以参考。轮廓系数是我最常用的一个评估指标,它的取值在 -1 到 1 之间,越接近 1 表示样本与自己所在簇的匹配度越高,越远离邻近簇。在 sklearn 里调用 from sklearn.metrics import silhouette_score,一句 silhouette_score(X_scaled, labels) 就能算出来。我当时生成了几组不同 K 值下的聚类结果,把轮廓系数画成折线图,看到 K=3 的时候分数最高,心里踏实了不少。
另外还有一种叫“肘部法”的土办法:计算不同 K 值时所有样本到所属中心的距离平方和,即惯性,然后画折线,找到一个像手肘一样的拐点,那个 K 就被认为是比较合适的。这个方法简单实用,但不是那么严谨,需要结合业务来判断。我后来基本会结合“肘部法+轮廓系数”两个方法一起看,双剑合璧,选出 K 的把握会大很多。下面一节我会详细讲这个选择过程。
- 怎么确定 K 值:从肘部法到轮廓系数,我踩通的心路
5.1 不同 K 值下的惯性变化曲线要怎么画
确定 K 是 K-means 里最让人头秃的问题。你说分成几类合适?业务上可能说分 5 类便于管理,但数据上的自然结构也许只有 3 类。面对这种冲突,数据驱动的方法给你的是参考信号,而不是一拍脑袋的结果。
我先用肘部法做初筛,思路是画出 K 从 1 到 10 时惯性(inertia)的变化。代码不复杂,可以用循环跑多组模型:
python复制import matplotlib.pyplot as plt
inertias = []
K_range = range(1, 11)
for k in K_range:
km = KMeans(n_clusters=k, n_init=10, random_state=42)
km.fit(X_scaled)
inertias.append(km.inertia_)
plt.plot(list(K_range), inertias, marker='o')
plt.xlabel('K')
plt.ylabel('Inertia')
plt.title('Elbow Method')
plt.show()
跑完之后我盯着图看了半天,因为很多教程里的图都有一个明显的“肘点”,但我自己的数据曲线比较平滑,好像在 K=3 和 K=4 之间有个不太明显的拐角,但又没有那么锐利。后来我明白了,生成的数据如果簇与簇之间的分离度足够高,肘点就很明显;如果簇有重叠或分布不均匀,肘点会变得模糊。肘部法本质是一个经验法则,而非精确判据。你需要结合其他评价指标一起去判断,比如轮廓系数。
5.2 轮廓系数的实战解读
轮廓系数是一个样本级别的指标,算完之后可以取平均来评估整体。公式上,对每个样本,计算它到同簇其他样本的平均距离,记为 a;再计算到最近的其他簇所有样本的平均距离,记为 b。轮廓系数就是 (b − a) / max(a, b)。当 a 远小于 b 时,说明这个点和自己人离得近、和别的簇离得远,系数接近 1,聚类效果好;当 a 大于 b 时,说明这个点似乎更适合被分到别的簇,系数为负。
我用循环对不同 K 值分别计算轮廓系数的平均分,然后画图。令我印象很深的是,在 K=3 时轮廓系数最高,达到 0.76 左右,而 K=4 时降到了 0.58。这让我更加确信 K=3 是当前数据里最自然的簇数。轮廓系数也不是万能的,如果样本整体分布没有明显的分离结构,那么不同 K 值的分数可能都偏低且相差不大,这时候就应该回到业务逻辑去定 K,而不是教条地依赖指标。
5.3 另一个有用的维度:业务的可解释性
光看曲线和系数还不够,你最后拿到的聚类结果是要给业务或者用户看的。假设你要给内容社区的用户分群,K=5 在数据指标上看着不错,但分完之后每个群之间特征差异模糊,后续没法针对每个群设计不同的运营策略,那这个 K 就是不可用的。反过来,如果 K=3 的轮廓系数稍低一点,但每个簇的用户画像特别鲜明,比如“高活跃高消费党”“低活跃浅度用户”“有潜力待激活用户”,这就很有价值。我在实际做社群场景调研时,曾经遇到过 K=5 在数据指标上更好,但业务方说分不了这么多,因为人力跟不上,后来经过协商,把 K 调成了 3,通过合并特征比较相近的簇,得到的结果反而更容易被落地执行。
所以选 K 值时要记住一个原则:数据指标和业务可解释性必须共同参考。先数据驱动候选集,再用人脑做最终裁决。我第一次选 K 时只瞄了一眼肘部图就下了结论,后来被现实打脸,就因为没看数据背后每个簇都是什么人。这部分经验真的值钱。
- K-means 不是万能钥匙:层次聚类和 DBSCAN 什么时候该上场
6.1 从“只能团成球”说起,K-means 的边界在哪里
K-means 最大的限制是它假设每个簇是近似球形的,并且簇的大小、密度差不多。为什么会有这个假设?因为它在分配样本时用的是欧氏距离,距离最近的中心就是归属。如果数据里有特别明显的环形结构,或者长条形结构,K-means 会把本来属于同一个流形上的点硬生生切成两块,效果惨不忍睹。
我当时为了验证这个局限,专门用 make_moons 生成了两个月牙形的数据去找模型测试,K-means 完全没办法还原真实的边界。这个实验做下来,我就不会再迷信 K-means 了。这个算法虽然经典,但必须在适用场景下用。如果你提前知道数据的几何结构比较复杂,那么应该换算法。
6.2 DBSCAN 和层次聚类,分别补了哪些位
DBSCAN 是“密度聚类”,它能根据数据的紧密程度聚类,不需要你先指定 K。同时,它能把孤立的噪声点标出来,特别适合包含离群点的真实数据。但它的代价是有两个超参数需要调:邻域半径 eps 和最小样本数 min_samples。eps 定太大,簇会被合并;定太小,会出现大量噪点。所以它其实也需要在你的理解之上做调参。
层次聚类则适合你看重簇之间层次关系,以及想可视化树状图的场景。它不需要预设 K,可以先递归合并最相似的样本或簇,然后画出树状图,从图上再决定从哪里切一刀,得到多少个簇。这个“切一刀”的过程,实际上是把层次聚类的结果转换成一个扁平划分。所以你会发现,不同聚类算法并不是谁完全取代谁,而是各有各的主场。拉一个简单对比表更直观:
| 算法 | 是否需要预设簇数 | 适用形状 | 噪声点处理 | 输出结果 |
|---|---|---|---|---|
| K-means | 需要 | 球形、均匀 | 不友好,噪声会拉偏中心 | 扁平簇 + 中心点 |
| 层次聚类 | 可选,从树状图决定 | 比较广,但对大样本慢 | 不敏感,除非做离群修剪 | 树状图 + 扁平簇 |
| DBSCAN | 不需要 | 任意形状 | 很友好,识别噪声 | 任意形状簇 + 噪声标签 |
我拿这个表给自己做决策很顺手:先看数据长什么样,再决定用什么算法。如果只是常规的球形点云,直接 K-means;如果有许多不规则的小组,或者想丢噪声,选 DBSCAN;如果想看分层的逻辑,选层次聚类。
6.3 我的建议:不管哪一个算法,数据预处理都是共同起跑线
你在网上看很多聚类教程,演示用的都是现成数据集,标准化早就做完了,所以你照着敲代码会很顺。但一换成自己的数据,各种问题就来了:有缺失值,有量纲差异,有类别型特征需要转换。为了做一次靠谱的聚类实验,我的流程是先清洗、再标准化,然后才轮到选算法。数据里如果包含类别型特征,比如城市、性别,直接用 K-means 是没有意义的,因为欧氏距离对类别没有自然的顺序感。遇到这种情况,要么转成独热编码,要么换用能够处理混合类型数据的聚类办法。
真实项目里,”从数据到算法“之间的沟往往比算法本身的难度更大。所以别看 K-means 简单,真正让它在实际问题里发挥价值的,其实是前期对数据的理解和清理,我花了大量时间在这块,也因此少走了很多弯路。
- 常见问题与排查技巧实录
7.1 聚类结果出现“空簇”怎么办
用 sklearn 跑 K-means 时,有时候会发现某个簇的样本数量为 0,也就是空簇。遇到这个问题,我一般先去检查初始化的方式和 K 值是否太大。如果 K 值本身比数据的自然簇数大很多,某些随机初始化的中心可能落在离群点区域,到最后收不到点。解决方法一是适当减小 K 值,二是修改 init 为 k-means++,或直接增加 n_init 的值,多试几组随机初始化。如果使用默认参数依然出现空簇,也可以考虑改用 MiniBatchKMeans 或检查数据是否存在大量重复点。
7.2 样本量太大,跑得很慢怎么办
手写版 K-means 每轮都要计算所有样本到中心的距离,所以当样本量和特征维度变大后,速度会明显下降。实战里如果数据量上了几十万甚至百万级,可以考虑 MiniBatchKMeans,它每次用小批量的数据来更新中心,速度能快很多,而且内存占用也小。它的实现同样在 sklearn 里,使用方式和 KMeans 几乎一模一样,但因为它每次只用一个子集,结果会有一定的随机性。所以如果你做的是正式实验,最好把结果用轮廓系数进行验证,或者多跑几次看稳定性。
7.3 不同随机种子跑出来的结果差很多,正常的吗
这属于 K-means 的经典毛病,初始中心点如果随机选,最终可能收敛到不同的局部最优。所以一个随机种子是一套结果的情况非常正常。应对办法就是调大 n_init,用多个初始化各跑一轮,取组内误差最小的那一轮结果。同时在代码里固定 random_state,保证可复现性。我平时会固定 random_state=42,但需要说明的是,固定 seed 只是保证每次运行到相同结果,并不会让结果更“准”。如果想看模型本身的稳定性,至少多试几个 seed,观察一下标签分布是否保持一致。
7.4 画出来的聚类图东倒西歪,看不出分组边界
很多人在二维数据上能画出漂亮的聚类图,但换了更高维的数据就看不见了。因为高维空间里无法直接可视化,这时候可以用 PCA 或者 t-SNE 把数据降到二维,再染上颜色查看。不过要注意,降维后的图只能作为探索工具,不能代替原始特征空间的聚类结果判断。严格一点的评估还得靠轮廓系数、组内平方和等数值指标,以及采样样例的特征对比。我经常会抽出几个簇的中心点,看它们在不同维度上的取值差异,用表格列出来,这样可以直观看出每个簇的特性。
7.5 数据标准化之后聚类中心解释起来不方便
这是个容易被忽略的细节:如果你做了 StandardScaler,得到的聚类中心是标准化之后的数值,解释业务含义时还得反标准化回原来的尺度。比如前面我代码里用了 scaler.inverse_transform(centers_scaled) 来还原中心点。如果忘了这一步,你到汇报结果的时候会发现自己拿到的中心点全是些不可读的数字,完全解释不了业务逻辑。所以标准化之后,记得保留 scaler 对象,在输出中心点时反变换,或者基于每个簇的原始样本直接计算均值,作为业务可解释的描述。
- 写在最后的经验:把 K-means 当积木,而不是终点
跑通 K-means 之后,我最大的感受不是“我会调这个算法了”,而是“我有了一种看数据的角度”。以前看到一份数据,脑子里只有统计报表和图表,现在会去想数据中人眼看不见的分群结构,会去寻找哪些样本天然聚在一起,也会思考用哪些算法去还原这种结构。这个思维模式的转变,比单纯的代码技能值钱得多。
K-means 就像乐高里最基础的那种积木。它可以单独用来做探索和分群,也可以作为更大流程的一部分,比如先用 K-means 做聚类,把聚类结果作为一个新的类别特征丢给后面的分类模型;或者做数据压缩、异常检测。它的下限低到新手能快速入门,上限高到和无数前沿技术配合。所以我特别想建议大家,别嫌弃这个算法太“老”太“基础”,把它当成通向无监督学习和数据洞察的第一课来认真敲一遍。代码写出来之后多改几个参数,试试不同的数据分布,看看算法在什么情况下奏效、什么时候翻车,这些一手经验积累起来,才是你之后面对真实数据时最大的底气。
