sklearn-SVC实现与类参数详解


Posted in Python onDecember 10, 2019

sklearn-SVC实现与类参数

对应的API:http://scikit-learn.sourceforge.net/stable/modules/generated/sklearn.svm.SVC.html

它是基于libsvm实现的。随着样本数量的增加,拟合时间的复杂度要高于二次,这就使得当样板数量超过一万个时,很难扩展到数据集中。

在多类处理时,是按照1对1的方案进行处理的。

函数的的定义为:

def __init__ (self, C=1.0, kernel='rbf', degree=3, gamma='auto',coef0=0.0, 
verbose=False, max_iter=-1, decision_function_shape='ovr', random_state=None):

参数的含义:

- C:float参数 默认值为1.0。错误项的惩罚系数。C越大,即对分错样本的惩罚程度越大,因此在训练样本中准确率越高,但是泛化能力降低,也就是对测试数据的分类准确率降低。相反,减小C的话,容许训练样本中有一些误分类错误样本,泛化能力强。对于训练样本带有噪声的情况,一般采用后者,把训练样本集中错误分类的样本作为噪声。

- kernel: str参数 默认为‘rbf‘,算法中采用的核函数类型,可选参数有:

linear:线性核函数

poly:多项式核函数

rbf:径像核函数/高斯核

sigmod:sigmod核函数

precomputed:核矩阵

- degree :int型参数 (default=3),这个参数只对多项式核函数(poly)有用,是指多项式核函数的阶数n,如果给的核函数参数是其他核函数,则会自动忽略该参数。

- gamma:float参数,默认为auto核函数系数,只对'rbf'、 ‘poly' 、 ‘sigmoid'有效。

如果gamma为auto,代表其值为样本特征数的倒数,即1/n_features。

- coef0:float参数 默认为0.0

核函数中的独立项,只有对‘poly'和‘sigmod'核函数有用,是指其中的参数c

- probability:bool参数 默认为False

是否启用概率估计。 这必须在调用fit()之前启用,并且会fit()方法速度变慢。

- shrinking:bool参数 默认为True

是否采用启发式收缩方式。

- tol: float参数 默认为1e^-3

svm停止训练的误差精度。

- cache_size:float参数 默认为200

指定训练所需要的内存,以MB为单位,默认为200MB。 - class_weight:字典类型或者‘balance'字符串。默认为None

给每个类别分别设置不同的惩罚参数C,则该类别的惩罚系数为class_weight[i]*C,如果没有给,则会给所有类别都给C=1,即前面参数指出的参数C。

如果给定参数‘balance',则使用y的值自动调整与输入数据中的类频率成反比的权重。

- verbose :bool参数 默认为False

是否启用详细输出。 此设置利用libsvm中的每个进程运行时设置,如果启用,可能无法在多线程上下文中正常工作。一般情况都设为False,不用管它。

- max_iter :int参数 默认为-1

最大迭代次数,如果为-1,表示不限制

- random_state:int型参数 默认为None

伪随机数发生器的种子,在混洗数据时用于概率估计。

SVC的方法

1、fit()方法:用于训练SVM,具体参数已经在定义SVC对象的时候给出了,这时候只需要给出数据集X和X对应的标签y即可。

2、predict()方法:基于以上的训练,对预测样本T进行类别预测,因此只需要接收一个测试集T,该函数返回一个数组表示个测试样本的类别。

3、predict_proba():返回每个输入类别的概率,这与predict方法不同,predict方法返回的输入样本属于那个类别,但没有概率。使用此方法时,需要在初始化时,将 probability参数设置为True。

例如:

import numpy as np
import matplotlib.pyplot as plt
from sklearn import svm
# we create 40 separable points
np.random.seed(0)
X = np.r_[np.random.randn(20, 2) - [2, 2], np.random.randn(20, 2) + [2, 2]]
Y = [0] * 20 + [1] * 20
# fit the model
clf = svm.SVC(kernel='linear',probability=True)
clf.fit(X, Y)
print(clf.predict_proba([[-0.1,0.7],[0.3,0.5]]))
#result
#[[ 0.41844015 0.58155985]
#[ 0.34810738 0.65189262]]

如果初始化时不适用probability参数:

clf = svm.SVC(kernel='linear')
clf.fit(X, Y)
print(clf.predict([[-0.1,0.7],[0.3,0.5]]))
# get the separating hyperplane
w = clf.coef_[0]
#输出的结果为:[1,1]

属性有哪些:

svc.n_support_:各类各有多少个支持向量

svc.support_:各类的支持向量在训练样本中的索引

svc.support_vectors_:各类所有的支持向量

以上这篇sklearn-SVC实现与类参数详解就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
深入Python解释器理解Python中的字节码
Apr 01 Python
R vs. Python 数据分析中谁与争锋?
Oct 18 Python
python实现给scatter设置颜色渐变条colorbar的方法
Dec 13 Python
python实现手机销售管理系统
Mar 19 Python
12个Python程序员面试必备问题与答案(小结)
Jun 24 Python
使用python打印十行杨辉三角过程详解
Jul 10 Python
django admin 自定义替换change页面模板的方法
Aug 23 Python
Django 自定义分页器的实现代码
Nov 24 Python
python numpy数组复制使用实例解析
Jan 10 Python
5分钟快速掌握Python定时任务框架的实现
Jan 26 Python
Python 如何利用ffmpeg 处理视频素材
Nov 27 Python
Python 的演示平台支持 WSGI 接口的应用
Apr 20 Python
使用pandas 将DataFrame转化成dict
Dec 10 #Python
python基于TCP实现的文件下载器功能案例
Dec 10 #Python
使用pandas的box_plot去除异常值
Dec 10 #Python
Python 中如何实现参数化测试的方法示例
Dec 10 #Python
利用python读取YUV文件 转RGB 8bit/10bit通用
Dec 09 #Python
YUV转为jpg图像的实现
Dec 09 #Python
Pandas+Matplotlib 箱式图异常值分析示例
Dec 09 #Python
You might like
PHP 选项及相关信息函数库
2006/12/04 PHP
linux下删除7天前日志的代码(php+shell)
2011/01/02 PHP
兼容性最强的PHP生成缩略图的函数代码(修改版)
2011/01/18 PHP
php格式化时间戳显示友好的时间实现思路及代码
2014/10/23 PHP
JavaScript var声明变量背后的原理示例解析
2013/10/12 Javascript
jQuery的remove()方法使用详解
2015/08/11 Javascript
jQuery绑定事件的几种实现方式
2016/05/09 Javascript
3种不同的ContextMenu右键菜单实现代码
2016/11/03 Javascript
Web前端开发之水印、图片验证码
2016/11/27 Javascript
vuejs2.0运用原生js实现简单的拖拽元素功能示例
2017/02/24 Javascript
JSON数据中存在单个转义字符“\”的处理方法
2018/07/11 Javascript
vue里input根据value改变背景色的实例
2018/09/29 Javascript
vue项目中实现缓存的最佳方案详解
2019/07/11 Javascript
vue选项卡切换登录方式小案例
2019/09/27 Javascript
微信小程序实现录制、试听、上传音频功能(带波形图)
2020/02/27 Javascript
JavaScript实现动态生成表格
2020/08/02 Javascript
antd-DatePicker组件获取时间值,及相关设置方式
2020/10/27 Javascript
Python实现批量更换指定目录下文件扩展名的方法
2016/09/19 Python
Python使用文件锁实现进程间同步功能【基于fcntl模块】
2017/10/16 Python
python实现求解列表中元素的排列和组合问题
2018/03/15 Python
python 生成任意形状的凸包图代码
2020/04/16 Python
详解anaconda离线安装pytorchGPU版
2020/09/08 Python
python使用selenium爬虫知乎的方法示例
2020/10/28 Python
Python根据字符串调用函数过程解析
2020/11/05 Python
英国排名第一的冲浪店:Ann’s Cottage
2020/06/21 全球购物
营业经理岗位职责
2013/11/10 职场文书
求职信模板怎么做
2014/01/26 职场文书
员工培训邀请函
2014/02/02 职场文书
公司门卫岗位职责范本
2014/07/08 职场文书
员工辞职信范文
2015/03/02 职场文书
红楼梦读书笔记
2015/06/25 职场文书
房地产置业顾问工作总结
2015/10/23 职场文书
自荐信大全
2019/03/21 职场文书
Python实现滑雪小游戏
2021/09/25 Python
MySQL之MyISAM存储引擎的非聚簇索引详解
2022/03/03 MySQL
Redis集群节点通信过程/原理流程分析
2022/03/18 Redis