Python中支持向量机SVM的使用方法详解


Posted in Python onDecember 26, 2017

除了在Matlab中使用PRTools工具箱中的svm算法,Python中一样可以使用支持向量机做分类。因为Python中的sklearn库也集成了SVM算法,本文的运行环境是Pycharm。

一、导入sklearn算法包

Scikit-Learn库已经实现了所有基本机器学习的算法,具体使用详见官方文档说明

skleran中集成了许多算法,其导入包的方式如下所示,

逻辑回归:from sklearn.linear_model import LogisticRegression

       朴素贝叶斯:from sklearn.naive_bayes import GaussianNB

 

K-近邻:from sklearn.neighbors import KNeighborsClassifier

 

决策树:from sklearn.tree import DecisionTreeClassifier

 

支持向量机:from sklearn import svm

 二、sklearn中svc的使用

(1)使用numpy中的loadtxt读入数据文件

loadtxt()的使用方法:

Python中支持向量机SVM的使用方法详解

fname:文件路径。eg:C:/Dataset/iris.txt。

dtype:数据类型。eg:float、str等。

delimiter:分隔符。eg:‘,'。

converters:将数据列与转换函数进行映射的字典。eg:{1:fun},含义是将第2列对应转换函数进行转换。

usecols:选取数据的列。

以Iris兰花数据集为例子:

由于从UCI数据库中下载的Iris原始数据集的样子是这样的,前四列为特征列,第五列为类别列,分别有三种类别Iris-setosa, Iris-versicolor, Iris-virginica。

 

Python中支持向量机SVM的使用方法详解

当使用numpy中的loadtxt函数导入该数据集时,假设数据类型dtype为浮点型,但是很明显第五列的数据类型并不是浮点型。

因此我们要额外做一个工作,即通过loadtxt()函数中的converters参数将第五列通过转换函数映射成浮点类型的数据。

首先,我们要写出一个转换函数:

def iris_type(s):
 it = {'Iris-setosa': 0, 'Iris-versicolor': 1, 'Iris-virginica': 2}
 return it[s]

接下来读入数据,converters={4: iris_type}中“4”指的是第5列:

path = u'D:/f盘/python/学习/iris.data' # 数据文件路径
data = np.loadtxt(path, dtype=float, delimiter=',', converters={4: iris_type})

读入结果:

Python中支持向量机SVM的使用方法详解

(2)将Iris分为训练集与测试集

x, y = np.split(data, (4,), axis=1)
x = x[:, :2]
x_train, x_test, y_train, y_test = train_test_split(x, y, random_state=1, train_size=0.6)

1. split(数据,分割位置,轴=1(水平分割) or 0(垂直分割))。

2. x = x[:, :2]是为方便后期画图更直观,故只取了前两列特征值向量训练。

3. sklearn.model_selection.train_test_split随机划分训练集与测试集。train_test_split(train_data,train_target,test_size=数字, random_state=0)

参数解释:

train_data:所要划分的样本特征集

train_target:所要划分的样本结果

test_size:样本占比,如果是整数的话就是样本的数量

random_state:是随机数的种子。

随机数种子:其实就是该组随机数的编号,在需要重复试验的时候,保证得到一组一样的随机数。比如你每次都填1,其他参数一样的情况下你得到的随机数组是一样的。但填0或不填,每次都会不一样。随机数的产生取决于种子,随机数和种子之间的关系遵从以下两个规则:种子不同,产生不同的随机数;种子相同,即使实例不同也产生相同的随机数。

(3)训练svm分类器

# clf = svm.SVC(C=0.1, kernel='linear', decision_function_shape='ovr')
 clf = svm.SVC(C=0.8, kernel='rbf', gamma=20, decision_function_shape='ovr')
 clf.fit(x_train, y_train.ravel())

 

kernel='linear'时,为线性核,C越大分类效果越好,但有可能会过拟合(defaul C=1)。

kernel='rbf'时(default),为高斯核,gamma值越小,分类界面越连续;gamma值越大,分类界面越“散”,分类效果越好,但有可能会过拟合。

decision_function_shape='ovr'时,为one v rest,即一个类别与其他类别进行划分,

decision_function_shape='ovo'时,为one v one,即将类别两两之间进行划分,用二分类的方法模拟多分类的结果。

(4)计算svc分类器的准确率

print clf.score(x_train, y_train) # 精度
y_hat = clf.predict(x_train)
show_accuracy(y_hat, y_train, '训练集')
print clf.score(x_test, y_test)
y_hat = clf.predict(x_test)
show_accuracy(y_hat, y_test, '测试集')

 结果为:

Python中支持向量机SVM的使用方法详解

如果想查看决策函数,可以通过decision_function()实现

print 'decision_function:\n', clf.decision_function(x_train)
print '\npredict:\n', clf.predict(x_train)

 结果为:

Python中支持向量机SVM的使用方法详解Python中支持向量机SVM的使用方法详解

decision_function中每一列的值代表距离各类别的距离。

(5)绘制图像

1.确定坐标轴范围,x,y轴分别表示两个特征

x1_min, x1_max = x[:, 0].min(), x[:, 0].max() # 第0列的范围
x2_min, x2_max = x[:, 1].min(), x[:, 1].max() # 第1列的范围
x1, x2 = np.mgrid[x1_min:x1_max:200j, x2_min:x2_max:200j] # 生成网格采样点
grid_test = np.stack((x1.flat, x2.flat), axis=1) # 测试点
# print 'grid_test = \n', grid_testgrid_hat = clf.predict(grid_test) 

# 预测分类值grid_hat = grid_hat.reshape(x1.shape) # 使之与输入的形状相同

这里用到了mgrid()函数,该函数的作用这里简单介绍一下:

假设假设目标函数F(x,y)=x+y。x轴范围1~3,y轴范围4~6,当绘制图像时主要分四步进行:

【step1:x扩展】(朝右扩展):

         [1 1 1]

[2 2 2]

[3 3 3]

【step2:y扩展】(朝下扩展):

[4 5 6]

[4 5 6]

[4 5 6]

【step3:定位(xi,yi)】:

[(1,4) (1,5) (1,6)]

[(2,4) (2,5) (2,6)]

[(3,4) (3,5) (3,6)]

【step4:将(xi,yi)代入F(x,y)=x+y】

因此这里x1, x2 = np.mgrid[x1_min:x1_max:200j, x2_min:x2_max:200j]后的结果为:

Python中支持向量机SVM的使用方法详解

再通过stack()函数,axis=1,生成测试点

Python中支持向量机SVM的使用方法详解

2.指定默认字体

mpl.rcParams['font.sans-serif'] = [u'SimHei']
mpl.rcParams['axes.unicode_minus'] = False

3.绘制

cm_light = mpl.colors.ListedColormap(['#A0FFA0', '#FFA0A0', '#A0A0FF'])
cm_dark = mpl.colors.ListedColormap(['g', 'r', 'b'])
plt.pcolormesh(x1, x2, grid_hat, cmap=cm_light)
plt.scatter(x[:, 0], x[:, 1], c=y, edgecolors='k', s=50, cmap=cm_dark) # 样本
plt.scatter(x_test[:, 0], x_test[:, 1], s=120, facecolors='none', zorder=10) # 圈中测试集样本
plt.xlabel(u'花萼长度', fontsize=13)
plt.ylabel(u'花萼宽度', fontsize=13)
plt.xlim(x1_min, x1_max)
plt.ylim(x2_min, x2_max)
plt.title(u'鸢尾花SVM二特征分类', fontsize=15)
# plt.grid()
plt.show()

pcolormesh(x,y,z,cmap)这里参数代入x1,x2,grid_hat,cmap=cm_light绘制的是背景。

scatter中edgecolors是指描绘点的边缘色彩,s指描绘点的大小,cmap指点的颜色。

xlim指图的边界。

最终结果为:

Python中支持向量机SVM的使用方法详解

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python+mysql实现简单的web程序
Sep 11 Python
详解详解Python中writelines()方法的使用
May 25 Python
在Linux系统上部署Apache+Python+Django+MySQL环境
Dec 24 Python
python 队列详解及实例代码
Oct 18 Python
Python Socket编程详细介绍
Mar 23 Python
详解Python循环作用域与闭包
Mar 21 Python
用Python批量把文件复制到另一个文件夹的实现方法
Aug 16 Python
python之PyQt按钮右键菜单功能的实现代码
Aug 17 Python
Python如何使用bokeh包和geojson数据绘制地图
Mar 21 Python
Python如何在循环内使用list.remove()
Jun 01 Python
Python监听键盘和鼠标事件的示例代码
Nov 18 Python
彻底解决pip下载pytorch慢的问题方法
Mar 01 Python
详解python中的 is 操作符
Dec 26 #Python
matplotlib简介,安装和简单实例代码
Dec 26 #Python
Python中xrange与yield的用法实例分析
Dec 26 #Python
Python简单计算数组元素平均值的方法示例
Dec 26 #Python
Python爬虫获取整个站点中的所有外部链接代码示例
Dec 26 #Python
Python之web模板应用
Dec 26 #Python
通过python+selenium3实现浏览器刷简书文章阅读量
Dec 26 #Python
You might like
PHP中header和session_start前不能有输出原因分析
2013/01/11 PHP
PHP flush()与ob_flush()的区别详解
2013/06/03 PHP
php生成随机密码自定义函数代码(简单快速)
2014/05/10 PHP
PHP中加速、缓存扩展的区别和作用详解(eAccelerator、memcached、xcache、APC )
2016/07/09 PHP
PHP目录操作实例总结
2016/09/27 PHP
iOS+PHP注册登录系统 PHP部分(上)
2016/12/26 PHP
php 实现简单的登录功能示例【基于thinkPHP框架】
2019/12/02 PHP
prototype1.4中文手册
2006/09/22 Javascript
JS 无限级 Select效果实现代码(json格式)
2011/08/30 Javascript
ie6下png图片背景不透明的解决办法使用js实现
2013/01/11 Javascript
jquery 单引号和双引号的区别及使用注意
2013/07/31 Javascript
文本域光标操作的jQuery扩展分享
2014/03/10 Javascript
jquery实现预览提交的表单代码分享
2014/05/21 Javascript
我的Node.js学习之路(一)
2014/07/06 Javascript
使用jquery prev()方法找到同级的前一个元素
2014/07/11 Javascript
JavaScript实现非常简单实用的下拉菜单效果
2015/08/27 Javascript
js中使用使用原型(prototype)定义方法的好处详解
2016/07/04 Javascript
PHP实现记录代码运行时间封装类实例教程
2017/05/08 Javascript
原生JS实现图片网格式渐显、渐隐效果
2017/06/05 Javascript
JavaScript 正则命名分组【推荐】
2018/06/07 Javascript
vue 通过 Prop 向子组件传递数据的实现方法
2020/10/30 Javascript
[54:10]完美世界DOTA2联赛PWL S2 Magma vs FTD 第二场 11.29
2020/12/03 DOTA
Python使用pyh生成HTML文档的方法示例
2018/03/10 Python
Python3.4 splinter(模拟填写表单)使用方法
2018/10/13 Python
使用Python的toolz库开始函数式编程的方法
2018/11/15 Python
PyQt4实时显示文本内容GUI的示例
2019/06/14 Python
Python实现的企业粉丝抽奖功能示例
2019/07/26 Python
python mysql断开重连的实现方法
2019/07/26 Python
python自定义时钟类、定时任务类
2021/02/22 Python
Django app配置多个数据库代码实例
2019/12/17 Python
python re模块常见用法例举
2021/03/01 Python
教师自我剖析材料(群众路线)
2014/09/29 职场文书
工商局领导班子存在的问题整改措施思想汇报
2014/10/05 职场文书
新教师2015年度工作总结
2015/07/22 职场文书
工作自我评价范文
2019/03/21 职场文书
python 多态 协议 鸭子类型详解
2021/11/27 Python