程序员文章、书籍推荐和程序员创业信息与资源分享平台

网站首页 > 技术文章 正文

聚类(二):k-means算法(R&python)

hfteth 2025-02-16 20:59:02 技术文章 8 ℃

聚类算法属于无监督的机器学习算法,即没有类别标签y,需要根据数据特征将相似的数据分为一组。k-means为聚类算法中最简单、常见的一种,通过计算距离,将相似性高的数据分在一起。

  • 算法流程

随机选择k个点作为聚类中心,计算其他点与中心点的距离,选择距离最近的中心并归类,归类完成后计算每类的新中心点,重新计算每个点与中心点的聚类并选择距离最近的归类,重复此过程,直至中心点不再变化。

需要注意的是,使用k-means算法时,要先确认k的值,即想分为几类,k值一般设定为3-5。下图为从网上截取的图片,可以直观看到通过4次迭代,将点聚为3个簇(cluster)的过程。

  • R语言实现

在R中实现k-means聚类,可以直接使用kmeans()函数。在下面的例子中,我们使用iris数据集进行演示。

颜色代表聚类后得到的结果,形状代表真实的划分,“*”为聚类中心点。如下可查看每个样本点的聚类结果:

  • python实现

在python中实现k-means聚类,可以使用sklearn.cluster中的KMeans()函数同样使用iris数据集进行演示。

颜色代表聚类后得到的结果。

  • k-means优缺点

优点

(1)算法原理简单,聚类速度快。

(2)容易实现。

缺点

(1)k值需要事先给定,有时候不知道分成几类最合适。

(2)初始中心点的选择会影响聚类效果。这也是为什么每次进行聚类后,得到结果不同的原因。

(3)因为通过距离判断点的相似度进行聚类,因此k-means算法有一定的使用局限。当潜在簇的形状为大小相近的近似圆形,且每个簇之间聚类较明显,k-means聚类结果比较理想。


原文链接:聚类(二):k-means算法(R&python)

Tags:

最近发表
标签列表