sklearn-SVC实现与类参数详解


Posted in Python onDecember 10, 2019

sklearn-SVC实现与类参数

对应的API:http://scikit-learn.sourceforge.net/stable/modules/generated/sklearn.svm.SVC.html

它是基于libsvm实现的。随着样本数量的增加,拟合时间的复杂度要高于二次,这就使得当样板数量超过一万个时,很难扩展到数据集中。

在多类处理时,是按照1对1的方案进行处理的。

函数的的定义为:

def __init__ (self, C=1.0, kernel='rbf', degree=3, gamma='auto',coef0=0.0, 
verbose=False, max_iter=-1, decision_function_shape='ovr', random_state=None):

参数的含义:

- C:float参数 默认值为1.0。错误项的惩罚系数。C越大,即对分错样本的惩罚程度越大,因此在训练样本中准确率越高,但是泛化能力降低,也就是对测试数据的分类准确率降低。相反,减小C的话,容许训练样本中有一些误分类错误样本,泛化能力强。对于训练样本带有噪声的情况,一般采用后者,把训练样本集中错误分类的样本作为噪声。

- kernel: str参数 默认为‘rbf‘,算法中采用的核函数类型,可选参数有:

linear:线性核函数

poly:多项式核函数

rbf:径像核函数/高斯核

sigmod:sigmod核函数

precomputed:核矩阵

- degree :int型参数 (default=3),这个参数只对多项式核函数(poly)有用,是指多项式核函数的阶数n,如果给的核函数参数是其他核函数,则会自动忽略该参数。

- gamma:float参数,默认为auto核函数系数,只对'rbf'、 ‘poly' 、 ‘sigmoid'有效。

如果gamma为auto,代表其值为样本特征数的倒数,即1/n_features。

- coef0:float参数 默认为0.0

核函数中的独立项,只有对‘poly'和‘sigmod'核函数有用,是指其中的参数c

- probability:bool参数 默认为False

是否启用概率估计。 这必须在调用fit()之前启用,并且会fit()方法速度变慢。

- shrinking:bool参数 默认为True

是否采用启发式收缩方式。

- tol: float参数 默认为1e^-3

svm停止训练的误差精度。

- cache_size:float参数 默认为200

指定训练所需要的内存,以MB为单位,默认为200MB。 - class_weight:字典类型或者‘balance'字符串。默认为None

给每个类别分别设置不同的惩罚参数C,则该类别的惩罚系数为class_weight[i]*C,如果没有给,则会给所有类别都给C=1,即前面参数指出的参数C。

如果给定参数‘balance',则使用y的值自动调整与输入数据中的类频率成反比的权重。

- verbose :bool参数 默认为False

是否启用详细输出。 此设置利用libsvm中的每个进程运行时设置,如果启用,可能无法在多线程上下文中正常工作。一般情况都设为False,不用管它。

- max_iter :int参数 默认为-1

最大迭代次数,如果为-1,表示不限制

- random_state:int型参数 默认为None

伪随机数发生器的种子,在混洗数据时用于概率估计。

SVC的方法

1、fit()方法:用于训练SVM,具体参数已经在定义SVC对象的时候给出了,这时候只需要给出数据集X和X对应的标签y即可。

2、predict()方法:基于以上的训练,对预测样本T进行类别预测,因此只需要接收一个测试集T,该函数返回一个数组表示个测试样本的类别。

3、predict_proba():返回每个输入类别的概率,这与predict方法不同,predict方法返回的输入样本属于那个类别,但没有概率。使用此方法时,需要在初始化时,将 probability参数设置为True。

例如:

import numpy as np
import matplotlib.pyplot as plt
from sklearn import svm
# we create 40 separable points
np.random.seed(0)
X = np.r_[np.random.randn(20, 2) - [2, 2], np.random.randn(20, 2) + [2, 2]]
Y = [0] * 20 + [1] * 20
# fit the model
clf = svm.SVC(kernel='linear',probability=True)
clf.fit(X, Y)
print(clf.predict_proba([[-0.1,0.7],[0.3,0.5]]))
#result
#[[ 0.41844015 0.58155985]
#[ 0.34810738 0.65189262]]

如果初始化时不适用probability参数:

clf = svm.SVC(kernel='linear')
clf.fit(X, Y)
print(clf.predict([[-0.1,0.7],[0.3,0.5]]))
# get the separating hyperplane
w = clf.coef_[0]
#输出的结果为:[1,1]

属性有哪些:

svc.n_support_:各类各有多少个支持向量

svc.support_:各类的支持向量在训练样本中的索引

svc.support_vectors_:各类所有的支持向量

以上这篇sklearn-SVC实现与类参数详解就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python实现ping指定IP的示例
Jun 04 Python
Django框架会话技术实例分析【Cookie与Session】
May 24 Python
python文件操作的简单方法总结
Nov 07 Python
pycharm快捷键汇总
Feb 14 Python
python3 实现口罩抽签的功能
Mar 11 Python
python实现拼接图片
Mar 23 Python
django日志默认打印request请求信息的方法示例
May 17 Python
Python爬虫HTPP请求方法有哪些
Jun 03 Python
Python OpenCV去除字母后面的杂线操作
Jul 05 Python
python爬虫使用scrapy注意事项
Nov 23 Python
Python爬虫制作翻译程序的示例代码
Feb 22 Python
Python中22个万用公式的小结
Jul 21 Python
使用pandas 将DataFrame转化成dict
Dec 10 #Python
python基于TCP实现的文件下载器功能案例
Dec 10 #Python
使用pandas的box_plot去除异常值
Dec 10 #Python
Python 中如何实现参数化测试的方法示例
Dec 10 #Python
利用python读取YUV文件 转RGB 8bit/10bit通用
Dec 09 #Python
YUV转为jpg图像的实现
Dec 09 #Python
Pandas+Matplotlib 箱式图异常值分析示例
Dec 09 #Python
You might like
Yii数据库缓存实例分析
2016/03/29 PHP
js 实现无缝滚动 兼容IE和FF
2009/07/15 Javascript
写了10年的Javascript也未必全了解的连续赋值运算
2011/03/25 Javascript
JQuery通过Ajax提交表单并返回结果
2011/07/31 Javascript
jquery验证表单中的单选与多选实例
2013/08/18 Javascript
node.js使用nodemailer发送邮件实例
2014/03/10 Javascript
js实现简单的左右两边固定广告效果实例
2015/04/10 Javascript
C#中使用迭代器处理等待任务
2015/07/13 Javascript
WordPress中鼠标悬停显示和隐藏评论及引用按钮的实现
2016/01/12 Javascript
Jquery uploadify上传插件使用详解
2016/01/13 Javascript
jQuery插件datatables使用教程
2016/04/21 Javascript
JS 组件系列之BootstrapTable的treegrid功能
2017/06/16 Javascript
jquery 通过ajax请求获取后台数据显示在表格上的方法
2018/08/08 jQuery
mpvue项目中使用第三方UI组件库的方法
2018/09/30 Javascript
Python操作Word批量生成文章的方法
2015/07/28 Python
python开发利器之ulipad的使用实践
2017/03/16 Python
Python xlwt设置excel单元格字体及格式
2020/04/18 Python
JS设计模式之责任链模式实例详解
2018/02/03 Python
Python 实现删除某路径下文件及文件夹的实例讲解
2018/04/24 Python
python日期时间转为字符串或者格式化输出的实例
2018/05/29 Python
python的等深分箱实例
2019/11/22 Python
基于python实现上传文件到OSS代码实例
2020/05/09 Python
HTML5中的Article和Section元素认识及使用
2013/03/22 HTML / CSS
HTML5页面音视频在微信和app下自动播放的实现方法
2016/10/20 HTML / CSS
全球知名旅游社区巴西站点:TripAdvisor巴西
2016/07/21 全球购物
Coggles美国/加拿大:高级国际时装零售商
2018/10/23 全球购物
期末总结的个人自我评价
2013/11/02 职场文书
《绿色蝈蝈》教学反思
2014/03/02 职场文书
C++程序员求职信范文
2014/04/14 职场文书
小学教师培训方案
2014/06/09 职场文书
村干部任职承诺书
2015/01/21 职场文书
监考失职检讨书
2015/01/26 职场文书
小学生安全保证书
2015/05/09 职场文书
SpringBoot 拦截器妙用你真的了解吗
2021/07/01 Java/Android
MySQL中B树索引和B+树索引的区别详解
2022/03/03 MySQL
CentOS7安装GlusterFS集群以及相关配置
2022/04/12 Servers