python实现高斯判别分析算法的例子


Posted in Python onDecember 09, 2019

高斯判别分析算法(Gaussian discriminat analysis)

高斯判别算法是一个典型的生成学习算法(关于生成学习算法可以参考我的另外一篇博客)。在这个算法中,我们假设p(x|y)p(x|y)服从多元正态分布。

注:在判别学习算法中,我们假设p(y|x)p(y|x)服从一维正态分布,这个很好类比,因为在模型中输入数据XX通常是拥有很多维度的,所以对于XX的条件概率建模时要取多维正态分布。

多元正态分布

多元正态分布也叫多元高斯分布,这个分布的两个参数分别是平均向量μ∈Rnμ∈Rn和一个协方差矩阵∑∈Rn×n∑∈Rn×n

关于协方差矩阵的定义;假设XX是由nn个标量随机变量组成的列向量,并且μkμk是第kk个元素的期望值,即μk=E(Xk)μk=E(Xk),那么协方差矩阵被定义为

python实现高斯判别分析算法的例子

下面是一些二维高斯分布的概率密度图像:

python实现高斯判别分析算法的例子

最右边的图像展现的二维高斯分布的均值是零向量(2x1的零向量),协方差矩阵Σ=IΣ=I(2x2的单位矩阵),像这样以零向量为均值以单位阵为协方差的多维高斯分布称为标准正态分布,中间的图像以零向量为均值,Σ=0.6IΣ=0.6I;最右边的图像中Σ=2IΣ=2I,观察发现当ΣΣ越大时,高斯分布越“铺开”,当ΣΣ越小时,高斯分布越“收缩”。

让我们看一些其他例子对比发现规律

python实现高斯判别分析算法的例子

上图中展示的三个高斯分布对应的均值均为零向量,协方差矩阵分别对应与下面三个

python实现高斯判别分析算法的例子

最左边的图像是我们熟悉的标准二维正态分布,然后我们观察到当我们增加ΣΣ的非主对角元素时,概率密度图像沿着45°线(x1=x2x1=x2)“收缩”,从对应的等高线轮廓图可以跟清楚的看到这一点:

python实现高斯判别分析算法的例子

通过对比右边和中间的两幅图发现,通过减少主对角元素可以让概率密度图像变得“收缩”,不过是在相反的方向上。

python实现高斯判别分析算法的例子

高斯判别分析模型

当我们处理输入特征是连续随机变量xx时的分类问题时,我们可以使用高斯判别分析模型(GDA),用多元正态分布模型来描述p(x|y)p(x|y),模型的具体数学表达式是这样的:

python实现高斯判别分析算法的例子

通过最大化似然函数ll可以得到上面四个参数的估计值:

python实现高斯判别分析算法的例子

我们用图像直观的描述一下算法处理的结果:

python实现高斯判别分析算法的例子

python的实现demo 如下:

第57的高斯概率密度函数用矩阵运算写有bug没跑通,又因为实验数据只有二维,于是在纸上对上文中矩阵运算公式进行了化简至最后结果写在了函数里。如有疑问可以拿出笔来演算一下。

#GDA
#author:Xiaolewen
import matplotlib.pyplot as plt
from numpy import *

#Randomly generate two cluster data of Gaussian distributions
mean0=[2,3]
cov=mat([[1,0],[0,2]])
x0=random.multivariate_normal(mean0,cov,500).T #The first class point which labael equal 0
y0=zeros(shape(x0)[1])
#print x0,y0
mean1=[7,8]
cov=mat([[1,0],[0,2]])
x1=random.multivariate_normal(mean1,cov,300).T
y1=ones(shape(x1)[1]) #The second class point which label equals 1
#print x1,y1

x=array([concatenate((x0[0],x1[0])),concatenate((x0[1],x1[1]))])
y=array([concatenate((y0,y1))])
m=shape(x)[1]
#print x,y,m
#Caculate the parameters:\phi,\u0,\u1,\Sigma
phi=(1.0/m)*len(y1)
#print phi
u0=mean(x0,axis=1) 
#print u0
u1=mean(x1,axis=1)
#print u1

xplot0=x0;xplot1=x1 #save the original data to plot 
x0=x0.T;x1=x1.T;x=x.T
#print x0,x1,x
x0_sub_u0=x0-u0
x1_sub_u1=x1-u1
#print x0_sub_u0
#print x1_sub_u1
x_sub_u=concatenate([x0_sub_u0,x1_sub_u1])
#print x_sub_u

x_sub_u=mat(x_sub_u)
#print x_sub_u

sigma=(1.0/m)*(x_sub_u.T*x_sub_u)
#print sigma

#plot the discriminate boundary ,use the u0_u1's midnormal
midPoint=[(u0[0]+u1[0])/2.0,(u0[1]+u1[1])/2.0]
#print midPoint
k=(u1[1]-u0[1])/(u1[0]-u0[0])
#print k
x=range(-2,11)
y=[(-1.0/k)*(i-midPoint[0])+midPoint[1] for i in x]



#plot contour for two gaussian distributions
def gaussian_2d(x, y, x0, y0, sigmaMatrix):
 return exp(-0.5*((x-x0)**2+0.5*(y-y0)**2))
delta = 0.025
xgrid0=arange(-2, 6, delta)
ygrid0=arange(-2, 6, delta)
xgrid1=arange(3,11,delta)
ygrid1=arange(3,11,delta)
X0,Y0=meshgrid(xgrid0, ygrid0) #generate the grid
X1,Y1=meshgrid(xgrid1,ygrid1)
Z0=gaussian_2d(X0,Y0,2,3,cov)
Z1=gaussian_2d(X1,Y1,7,8,cov)

#plot the figure and add comments
plt.figure(1)
plt.clf()
plt.plot(xplot0[0],xplot0[1],'ko')
plt.plot(xplot1[0],xplot1[1],'gs')
plt.plot(u0[0],u0[1],'rx',markersize=20)
plt.plot(u1[0],u1[1],'y*',markersize=20)
plt.plot(x,y)
CS0=plt.contour(X0, Y0, Z0)
plt.clabel(CS0, inline=1, fontsize=10)
CS1=plt.contour(X1,Y1,Z1)
plt.clabel(CS1, inline=1, fontsize=10)
plt.title("Gaussian discriminat analysis")
plt.xlabel('Feature Dimension (0)')
plt.ylabel('Feature Dimension (1)')
plt.show(1)

这是最终的拟合结果:

python实现高斯判别分析算法的例子

以上这篇python实现高斯判别分析算法的例子就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
详解Django 中是否使用时区的区别
Jun 14 Python
python集合比较(交集,并集,差集)方法详解
Sep 13 Python
Python3.5内置模块之os模块、sys模块、shutil模块用法实例分析
Apr 27 Python
pandas 使用均值填充缺失值列的小技巧分享
Jul 04 Python
Python Pandas对缺失值的处理方法
Sep 27 Python
Flask 上传自定义头像的实例详解
Jan 09 Python
Pytorch 实现数据集自定义读取
Jan 18 Python
Python 格式化输出_String Formatting_控制小数点位数的实例详解
Feb 04 Python
pycharm运行程序时看不到任何结果显示的解决
Feb 21 Python
jupyter 中文乱码设置编码格式 避免控制台输出的解决
Apr 20 Python
Matplotlib自定义坐标轴刻度的实现示例
Jun 18 Python
python实现图片转换成素描和漫画格式
Aug 19 Python
Pycharm使用远程linux服务器conda/python环境在本地运行的方法(图解))
Dec 09 #Python
使用 Python 写一个简易的抽奖程序
Dec 08 #Python
布隆过滤器的概述及Python实现方法
Dec 08 #Python
Python+Redis实现布隆过滤器
Dec 08 #Python
PyCharm 2019.3发布增加了新功能一览
Dec 08 #Python
使用tqdm显示Python代码执行进度功能
Dec 08 #Python
Python tkinter实现图片标注功能(完整代码)
Dec 08 #Python
You might like
PHP编程实现多维数组按照某个键值排序的方法小结【2种方法】
2017/04/27 PHP
thinkphp5使html5实现动态跳转的例子
2019/10/16 PHP
JS 文字符串转换unicode编码函数
2009/05/30 Javascript
Jquery插件写法笔记整理
2012/09/06 Javascript
js toFixed()方法的重写实现精度的统一
2014/03/06 Javascript
javascript实现时间格式输出FormatDate函数
2015/01/13 Javascript
javascript带回调函数的异步脚本载入方法实例分析
2015/07/02 Javascript
原生js模拟淘宝购物车项目实战
2015/11/18 Javascript
AngularJS 使用$sce控制代码安全检查
2016/01/05 Javascript
JavaScript tab选项卡插件实例代码
2016/02/23 Javascript
JavaScript基础重点(必看)
2016/07/09 Javascript
jQuery快速高效制作网页交互特效
2017/02/24 Javascript
vue和webpack项目构建过程常用的npm命令详解
2018/06/15 Javascript
vue.js与后台数据交互的实例讲解
2018/08/08 Javascript
Node.js 多线程完全指南总结
2019/03/27 Javascript
[01:45]IMBATV TI4前线报道-选手到达
2014/07/07 DOTA
django自定义Field实现一个字段存储以逗号分隔的字符串
2014/04/27 Python
Python中的并发编程实例
2014/07/07 Python
谈谈Python进行验证码识别的一些想法
2016/01/25 Python
详解Python3中字符串中的数字提取方法
2017/01/14 Python
浅谈Python处理PDF的方法
2017/11/10 Python
使用python生成目录树
2018/03/29 Python
Django 中间键和上下文处理器的使用
2019/03/17 Python
python操作kafka实践的示例代码
2019/06/19 Python
Python selenium文件上传下载功能代码实例
2020/04/13 Python
python实现npy格式文件转换为txt文件操作
2020/07/01 Python
关于多种方式完美解决Python pip命令下载第三方库的问题
2020/12/21 Python
校园文化建设方案
2014/02/03 职场文书
路政管理求职信
2014/06/18 职场文书
本溪关门山导游词
2015/02/09 职场文书
用电申请报告范文
2015/05/18 职场文书
童年读书笔记
2015/06/26 职场文书
婚宴父亲致辞
2015/07/27 职场文书
外出听课学习心得体会
2016/01/15 职场文书
Python 使用dict实现switch的操作
2021/04/07 Python
python实现股票历史数据可视化分析案例
2021/06/10 Python