Python机器学习库scikit-learn安装与基本使用教程


Posted in Python onJune 25, 2018

本文实例讲述了Python机器学习库scikit-learn安装与基本使用。分享给大家供大家参考,具体如下:

引言

scikit-learn是Python的一个开源机器学习模块,它建立在NumPySciPymatplotlib模块之上能够为用户提供各种机器学习算法接口,可以让用户简单、高效地进行数据挖掘和数据分析。

scikit-learn安装

python 中安装许多模板库之前都有依赖关系,安装 scikit-learn 之前需要以下先决条件:

Python(>= 2.6 or >= 3.3)
NumPy (>= 1.6.1)
SciPy (>= 0.9)

如无意外,下面用 pip 的安装方法可以顺利完成~~

安装 numpy

sudo pip install numpy

安装 scipy

需要先安装 matplotlib ipython ipython-notebook pandas sympy

sudo apt-get install python-matplotlib ipython ipython-notebook
sudo apt-get install python-pandas python-sympy python-nose
sudo pip install scipy

安装 scikit-learn

sudo pip install -U scikit-learn

测试

在 terminal 里面输入

pip list

这个会列出 pip 安装的所有东西,如果里面有 sklearn 这一项,应该就是大功告成了!

或者尝试着将几个模板库导入进来

import numpy
import scipy
import sklearn

加载数据(Data Loading)

本文所使用的数据集为‘今日头条'近期两篇热门新闻“牛!川大学霸寝室5人获16份名校通知书”、“张超凡的最后14天:山西15岁休学少年是如何殒命网吧的”分别500条评论,共1000条评论。

去除停用词后得到了词库大小为3992的词库。因此构建了1000×3992的特征矩阵,以及长度为1000的对应评论所属类别列表

import numpy as np
feature_matrix = np.load('dataSet/feature_matrix_save.npy')
class_list = np.load('dataSet/class_result_save.npy')

数据归一化(Data Normalization)

大多数机器学习算法中的梯度方法对于数据的缩放和尺度都是很敏感的,在开始跑算法之前,我们应该进行归一化或者标准化的过程,这使得特征数据缩放到0-1范围中。scikit-learn提供了归一化的方法:

from sklearn import preprocessing
# 归一化(Normalization)
normalized_X = preprocessing.normalize(feature_matrix)
print normalized_X
# 标准化(Standardization)
standardized_X = preprocessing.scale(feature_matrix)
print standardized_X

特征选择(Feature Selection)

在解决一个实际问题的过程中,选择合适的特征或者构建特征的能力特别重要。这成为特征选择或者特征工程。

特征选择时一个很需要创造力的过程,更多的依赖于直觉和专业知识,并且有很多现成的算法来进行特征的选择。

下面的树算法(Tree algorithms)计算特征的信息量:

from sklearn.ensemble import ExtraTreesClassifier
model = ExtraTreesClassifier()
print feature_matrix.shape # 原特征矩阵规模
feature_matrix = model.fit(feature_matrix, class_list).transform(feature_matrix)
print feature_matrix.shape # 特征选择后 特征矩阵的规模

特征提取(Feature Extraction)

用TFIDF算法来计算特征词的权重值是表示当一个词在这篇文档中出现的频率越高,同时在其他文档中出现的次数越少,则表明该词对于表示这篇文档的区分能力越强,所以其权重值就应该越大。

from sklearn.feature_extraction.text import TfidfTransformer
tfidf_transformer = TfidfTransformer()
feature_matrix = tfidf_transformer.fit_transform(feature_matrix).toarray()

朴素贝叶斯(Naive Bayes)

朴素贝叶斯是一个很著名的机器学习算法,主要是根据训练样本的特征来计算各个类别的概率,在多分类问题上用的比较多。

from sklearn import metrics
from sklearn.naive_bayes import GaussianNB
# 构建朴素贝叶斯模型
model = GaussianNB()
model.fit(feature_matrix, class_list)
print model
# 使用测试集进行测试(此处将训练集做测试集)
expected = class_list
predicted = model.predict(feature_matrix)
# 输出测试效果
print metrics.classification_report(expected, predicted)
print metrics.confusion_matrix(expected, predicted)

k近邻(k-Nearest Neighbours)

k近邻算法常常被用作是分类算法一部分,比如可以用它来评估特征,在特征选择上我们可以用到它。

from sklearn import metrics
from sklearn.neighbors import KNeighborsClassifier
# 构建knn模型
model = KNeighborsClassifier()
model.fit(feature_matrix, class_list)
print model
# 使用测试集进行测试(此处将训练集做测试集)
expected = class_list
predicted = model.predict(feature_matrix)
# 输出测试效果
print metrics.classification_report(expected, predicted)
print metrics.confusion_matrix(expected, predicted)

决策树(Decision Tree)

分类与回归树(Classification and Regression Trees ,CART)算法常用于特征含有类别信息的分类或者回归问题,这种方法非常适用于多分类情况。

from sklearn import metrics
from sklearn.tree import DecisionTreeClassifier
# 构建决策数模型
model = DecisionTreeClassifier()
model.fit(feature_matrix, class_list)
print model
# 使用测试集进行测试(此处将训练集做测试集)
expected = class_list
predicted = model.predict(feature_matrix)
# 输出测试效果
print metrics.classification_report(expected, predicted)
print metrics.confusion_matrix(expected, predicted)

希望本文所述对大家Python程序设计有所帮助。

Python 相关文章推荐
Python协程的用法和例子详解
Sep 09 Python
Python排序搜索基本算法之堆排序实例详解
Dec 08 Python
Python实现的朴素贝叶斯分类器示例
Jan 06 Python
python处理csv中的空值方法
Jun 22 Python
python 获取一个值在某个区间的指定倍数的值方法
Nov 12 Python
一百行python代码将图片转成字符画
Feb 19 Python
Win10系统下安装labelme及json文件批量转化方法
Jul 30 Python
Python实现Restful API的例子
Aug 31 Python
Python利用逻辑回归分类实现模板
Feb 15 Python
pandas的resample重采样的使用
Apr 24 Python
python爬虫破解字体加密案例详解
Mar 02 Python
Python实现随机生成迷宫并自动寻路
Jun 13 Python
python3实现随机数
Jun 25 #Python
Python实现快速计算词频功能示例
Jun 25 #Python
python实现画一颗树和一片森林
Jun 25 #Python
完美解决在oj中Python的循环输入问题
Jun 25 #Python
django rest framework 数据的查找、过滤、排序的示例
Jun 25 #Python
python使用turtle库绘制树
Jun 25 #Python
使用Python微信库itchat获得好友和群组已撤回的消息
Jun 24 #Python
You might like
URL Rewrite的设置方法
2007/01/02 PHP
php数组声明、遍历、数组全局变量使用小结
2013/06/05 PHP
字符串长度函数strlen和mb_strlen的区别示例介绍
2014/09/09 PHP
jquery tools 系列 scrollable(2)
2009/09/06 Javascript
jQuery 标题的自动翻转实现代码
2009/10/14 Javascript
CSS(js)限制页面显示的文本字符长度
2012/12/27 Javascript
javascript列表框操作函数集合汇总
2013/11/28 Javascript
js清除input中type等于file的值域(示例代码)
2013/12/24 Javascript
jquery禁止回车触发表单提交
2014/12/12 Javascript
js中键盘事件实例简析
2015/01/10 Javascript
JavaScript原生对象常用方法总结(推荐)
2016/05/13 Javascript
jQuery实现鼠标选中文字后弹出提示窗口效果【附demo源码】
2016/09/05 Javascript
Bootstrap源码解读网格系统(3)
2016/12/22 Javascript
微信小程序 扎金花简单实例
2017/02/21 Javascript
angular2+nodejs实现图片上传功能
2017/03/27 NodeJs
webpack打包单页面如何引用的js
2017/06/07 Javascript
php register_shutdown_function函数详解
2017/07/23 Javascript
Angular中自定义Debounce Click指令防止重复点击
2017/07/26 Javascript
JavaScript中call和apply方法的区别实例分析
2018/08/03 Javascript
Angular 多级路由实现登录页面跳转(小白教程)
2019/11/19 Javascript
Python中input和raw_input的一点区别
2014/10/21 Python
全面解析Python的While循环语句的使用方法
2015/10/13 Python
浅谈python数据类型及类型转换
2017/12/18 Python
django中静态文件配置static的方法
2018/05/20 Python
python数据结构之线性表的顺序存储结构
2018/09/28 Python
Puppeteer使用示例详解
2019/06/20 Python
使用Python发现隐藏的wifi
2020/03/04 Python
.NET面试题:什么是反射
2016/09/30 面试题
C#实现启动一个进程
2016/10/01 面试题
走群众路线学习笔记
2014/11/06 职场文书
社区志愿者服务心得体会
2016/01/22 职场文书
Python实现文本文件拆分写入到多个文本文件的方法
2021/04/18 Python
「偶像大师 MILLION LIVE!」七尾百合子手办开订
2022/03/21 日漫
青岛市的收音机研制与生产
2022/04/07 无线电
实战Python爬虫爬取酷我音乐
2022/04/11 Python
Nginx如何配置根据路径转发详解
2022/07/23 Servers