Kmeans均值聚类算法原理以及Python如何实现


Posted in Python onSeptember 26, 2020

第一步.随机生成质心

由于这是一个无监督学习的算法,因此我们首先在一个二维的坐标轴下随机给定一堆点,并随即给定两个质心,我们这个算法的目的就是将这一堆点根据它们自身的坐标特征分为两类,因此选取了两个质心,什么时候这一堆点能够根据这两个质心分为两堆就对了。如下图所示:

Kmeans均值聚类算法原理以及Python如何实现

第二步.根据距离进行分类

红色和蓝色的点代表了我们随机选取的质心。既然我们要让这一堆点的分为两堆,且让分好的每一堆点离其质心最近的话,我们首先先求出每一个点离质心的距离。假如说有一个点离红色的质心比例蓝色的质心更近,那么我们则将这个点归类为红色质心这一类,反之则归于蓝色质心这一类,如图所示:

Kmeans均值聚类算法原理以及Python如何实现

第三步.求出同一类点的均值,更新质心位置

在这一步当中,我们将同一类点的x\y的值进行平均,求出所有点之和的平均值,这个值(x,y)则是我们新的质心的位置,如图所示:

Kmeans均值聚类算法原理以及Python如何实现

我们可以看到,质心的位置已经发生了改变。

第四步.重复第二步,第三步

我们重复第二步和第三部的操作,不断求出点对质心的最小值之后进行分类,分类之后再更新质心的位置,直到得到迭代次数的上限(这个迭代次数是可以我们自己设定的,比如10000次),或者在做了n次迭代之后,最后两次迭代质心的位置已经保持不变,如下图所示:

Kmeans均值聚类算法原理以及Python如何实现

这个时候我们就将这一堆点按照它们的特征在没有监督的条件下,分成了两类了!!

五.如果面对多个特征确定的一个点的情况,又该如何实现聚类呢?

首先我们引入一个概念,那就是欧式距离,欧式距离是这样定义的,很容易理解:

Kmeans均值聚类算法原理以及Python如何实现

很显然,欧式距离d(xi,xj)等于我们每一个点的特征去减去另一个点在该维度下的距离的平方和再开根号,十分容易理解。

我们也可以用另一种方式来理解kmeans算法,那就是使某一个点的和另一些点的方差做到最小则实现了聚类,如下图所示:

Kmeans均值聚类算法原理以及Python如何实现

得解!

六:代码实现

我们现在使用Python语言来实现这个kmeans均值算法,首先我们先导入一个名叫make_blobs的数据集datasets,然后分别使用两个变量X,和y进行接收。X表示我们得到的数据,y表示这个数据应该被分类到的是哪一个类别当中,当然在我们实际的数据当中不会告诉我们哪个数据分在了哪一个类别当中,只会有X当中数据。在这里写代码的时候比较特殊,make_blobs库要求我们必须接受这两个参数,不能够只接受X这个数据参数,代码如下

plt.figure(figsize=(15,15))#规定我们绘图的大小为12*12

X, y=make_blobs(n_samples=1600,random_state=170)#一共取用1600个sample,同时状态设定为随机
#不知道这个状态随机是什么意思,只能查有关这个库的官方文档,同时这个数据集规定了是具备三个数据中心,也就是三个簇
y_pred=KMeans(n_clusters=3,random_state=170).fit_predict(X)

plt.subplot(221)#表示四个方格当中的第一格
plt.scatter(X[:,0],X[:,1],c=y_pred)#表示数据的第0个和第1个维度,同时数据的colour与predict的结果有关
plt.title("The result of the Kmeans")

plt.subplot(222)#表示四个方格当中的第一格
plt.scatter(X[:,0],X[:,1],c=y)
plt.title("The Real result of the Kmeans")

array=np.array([[0.60834549,-0.63667341],[-0.40887178,-0.85253229]])
lashen=np.dot(X,array)
y_pred=KMeans(n_clusters=3,random_state=170).fit_predict(lashen)

plt.subplot(223)#表示四个方格当中的第一格
plt.scatter(lashen[:,0],lashen[:,1],c=y_pred)#表示数据的第0个和第1个维度,同时数据的colour与predict的结果有关
plt.title("The Real result of the tranfored data")

我们在使用scatter函数进行绘图的时候会根据我们数据结的形状来编写相应的代码,这里我们所拿到的X数据集的行数是我们所指定的1600行,因为我们一共拿到了1600个数据,每一个数据仅有两个特征,也就是在XY轴当中的坐标,因此X是一个二维的ndarray对象(X是numpy当中的ndarray对象),我们可以打印出来看看这个数据的构成,如下图所示:

Kmeans均值聚类算法原理以及Python如何实现

同时我们也可以看到y也是ndarray对象,由于我们在采集数据的时候仅仅接受了3个簇,make_blobs默认接受的是三个簇(或称cluster)的缘故,因此最后y的值只有0,1,2这三种可能。我们通过matplotlib绘图,绘制出我们分类的结果图,也就是上述代码的运行结果如下:

Kmeans均值聚类算法原理以及Python如何实现

以上就是Kmeans均值聚类算法原理以及Python如何实现的详细内容,更多关于Kmeans均值聚类算法的资料请关注三水点靠木其它相关文章!

Python 相关文章推荐
Python使用MD5加密字符串示例
Aug 22 Python
python开发中module模块用法实例分析
Nov 12 Python
Python 实现随机数详解及实例代码
Apr 15 Python
python利用lxml读写xml格式的文件
Aug 10 Python
Python使用matplotlib绘制余弦的散点图示例
Mar 14 Python
pandas实现选取特定索引的行
Apr 20 Python
在Python中pandas.DataFrame重置索引名称的实例
Nov 06 Python
jenkins配置python脚本定时任务过程图解
Oct 29 Python
python代码打印100-999之间的回文数示例
Nov 24 Python
python实现提取COCO,VOC数据集中特定的类
Mar 10 Python
matplotlib交互式数据光标实现(mplcursors)
Jan 13 Python
Python爬虫回测股票的实例讲解
Jan 22 Python
python实现sm2和sm4国密(国家商用密码)算法的示例
Sep 26 #Python
Python爬取股票信息,并可视化数据的示例
Sep 26 #Python
如何利用python发送邮件
Sep 26 #Python
Python 测试框架unittest和pytest的优劣
Sep 26 #Python
浅析python函数式编程
Sep 26 #Python
python用Configobj模块读取配置文件
Sep 26 #Python
Python内存泄漏和内存溢出的解决方案
Sep 26 #Python
You might like
php cli模式学习(PHP命令行模式)
2013/06/03 PHP
wampserver改变默认网站目录的办法
2015/08/05 PHP
PHP匿名函数(闭包函数)详解
2019/03/22 PHP
动态调用css文件——jquery的应用
2007/02/20 Javascript
javascript获取url上某个参数的方法
2013/11/08 Javascript
Bootstrap菜单按钮及导航实例解析
2016/09/09 Javascript
jquery.validate[.unobtrusive]和Bootstrap实现tooltip错误提示问题分析
2016/10/30 Javascript
JS点击图片弹出文件选择框并覆盖原图功能的实现代码
2017/08/25 Javascript
Angular中的$watch方法详解
2017/09/18 Javascript
JS基于递归实现网页版计算器的方法分析
2017/12/20 Javascript
详解angular部署到iis出现404解决方案
2018/08/14 Javascript
layer弹出层扩展主题的方法
2019/09/11 Javascript
使用xampp将angular项目运行在web服务器的教程
2019/09/16 Javascript
js中addEventListener()与removeEventListener()用法案例分析
2020/03/02 Javascript
vue-cli打包后本地运行dist文件中的index.html操作
2020/08/12 Javascript
vue实现几秒后跳转新页面代码
2020/09/09 Javascript
[01:24:09]Ti4 冒泡赛第二轮DK vs C9 1
2014/07/14 DOTA
python引用DLL文件的方法
2015/05/11 Python
python Matplotlib画图之调整字体大小的示例
2017/11/20 Python
对django xadmin自定义菜单的实例详解
2019/01/03 Python
Python叠加两幅栅格图像的实现方法
2019/07/05 Python
Python目录和文件处理总结详解
2019/09/02 Python
tensorboard 可以显示graph,却不能显示scalar的解决方式
2020/02/15 Python
在Mac中PyCharm配置python Anaconda环境过程图解
2020/03/11 Python
PyCharm 2020.1版安装破解注册码永久激活(激活到2089年)
2020/09/24 Python
html5移动端自适应布局的实现
2020/04/15 HTML / CSS
美国钻石商店:Zales
2016/11/20 全球购物
乡镇信息公开实施方案
2014/03/23 职场文书
积极向上的团队口号
2014/06/06 职场文书
关于国庆节的演讲稿
2014/09/05 职场文书
房产协议书范本
2014/10/18 职场文书
公路局群众路线教育实践活动第一阶段工作汇报
2014/10/25 职场文书
民主评议教师党员自我评价
2015/03/04 职场文书
工作时间证明
2015/06/15 职场文书
我在伊朗长大观后感
2015/06/16 职场文书
win10更新失败无限重启解决方法
2022/04/19 数码科技