Python机器学习库scikit-learn安装与基本使用教程


Posted in Python onJune 25, 2018

本文实例讲述了Python机器学习库scikit-learn安装与基本使用。分享给大家供大家参考,具体如下:

引言

scikit-learn是Python的一个开源机器学习模块,它建立在NumPySciPymatplotlib模块之上能够为用户提供各种机器学习算法接口,可以让用户简单、高效地进行数据挖掘和数据分析。

scikit-learn安装

python 中安装许多模板库之前都有依赖关系,安装 scikit-learn 之前需要以下先决条件:

Python(>= 2.6 or >= 3.3)
NumPy (>= 1.6.1)
SciPy (>= 0.9)

如无意外,下面用 pip 的安装方法可以顺利完成~~

安装 numpy

sudo pip install numpy

安装 scipy

需要先安装 matplotlib ipython ipython-notebook pandas sympy

sudo apt-get install python-matplotlib ipython ipython-notebook
sudo apt-get install python-pandas python-sympy python-nose
sudo pip install scipy

安装 scikit-learn

sudo pip install -U scikit-learn

测试

在 terminal 里面输入

pip list

这个会列出 pip 安装的所有东西,如果里面有 sklearn 这一项,应该就是大功告成了!

或者尝试着将几个模板库导入进来

import numpy
import scipy
import sklearn

加载数据(Data Loading)

本文所使用的数据集为‘今日头条'近期两篇热门新闻“牛!川大学霸寝室5人获16份名校通知书”、“张超凡的最后14天:山西15岁休学少年是如何殒命网吧的”分别500条评论,共1000条评论。

去除停用词后得到了词库大小为3992的词库。因此构建了1000×3992的特征矩阵,以及长度为1000的对应评论所属类别列表

import numpy as np
feature_matrix = np.load('dataSet/feature_matrix_save.npy')
class_list = np.load('dataSet/class_result_save.npy')

数据归一化(Data Normalization)

大多数机器学习算法中的梯度方法对于数据的缩放和尺度都是很敏感的,在开始跑算法之前,我们应该进行归一化或者标准化的过程,这使得特征数据缩放到0-1范围中。scikit-learn提供了归一化的方法:

from sklearn import preprocessing
# 归一化(Normalization)
normalized_X = preprocessing.normalize(feature_matrix)
print normalized_X
# 标准化(Standardization)
standardized_X = preprocessing.scale(feature_matrix)
print standardized_X

特征选择(Feature Selection)

在解决一个实际问题的过程中,选择合适的特征或者构建特征的能力特别重要。这成为特征选择或者特征工程。

特征选择时一个很需要创造力的过程,更多的依赖于直觉和专业知识,并且有很多现成的算法来进行特征的选择。

下面的树算法(Tree algorithms)计算特征的信息量:

from sklearn.ensemble import ExtraTreesClassifier
model = ExtraTreesClassifier()
print feature_matrix.shape # 原特征矩阵规模
feature_matrix = model.fit(feature_matrix, class_list).transform(feature_matrix)
print feature_matrix.shape # 特征选择后 特征矩阵的规模

特征提取(Feature Extraction)

用TFIDF算法来计算特征词的权重值是表示当一个词在这篇文档中出现的频率越高,同时在其他文档中出现的次数越少,则表明该词对于表示这篇文档的区分能力越强,所以其权重值就应该越大。

from sklearn.feature_extraction.text import TfidfTransformer
tfidf_transformer = TfidfTransformer()
feature_matrix = tfidf_transformer.fit_transform(feature_matrix).toarray()

朴素贝叶斯(Naive Bayes)

朴素贝叶斯是一个很著名的机器学习算法,主要是根据训练样本的特征来计算各个类别的概率,在多分类问题上用的比较多。

from sklearn import metrics
from sklearn.naive_bayes import GaussianNB
# 构建朴素贝叶斯模型
model = GaussianNB()
model.fit(feature_matrix, class_list)
print model
# 使用测试集进行测试(此处将训练集做测试集)
expected = class_list
predicted = model.predict(feature_matrix)
# 输出测试效果
print metrics.classification_report(expected, predicted)
print metrics.confusion_matrix(expected, predicted)

k近邻(k-Nearest Neighbours)

k近邻算法常常被用作是分类算法一部分,比如可以用它来评估特征,在特征选择上我们可以用到它。

from sklearn import metrics
from sklearn.neighbors import KNeighborsClassifier
# 构建knn模型
model = KNeighborsClassifier()
model.fit(feature_matrix, class_list)
print model
# 使用测试集进行测试(此处将训练集做测试集)
expected = class_list
predicted = model.predict(feature_matrix)
# 输出测试效果
print metrics.classification_report(expected, predicted)
print metrics.confusion_matrix(expected, predicted)

决策树(Decision Tree)

分类与回归树(Classification and Regression Trees ,CART)算法常用于特征含有类别信息的分类或者回归问题,这种方法非常适用于多分类情况。

from sklearn import metrics
from sklearn.tree import DecisionTreeClassifier
# 构建决策数模型
model = DecisionTreeClassifier()
model.fit(feature_matrix, class_list)
print model
# 使用测试集进行测试(此处将训练集做测试集)
expected = class_list
predicted = model.predict(feature_matrix)
# 输出测试效果
print metrics.classification_report(expected, predicted)
print metrics.confusion_matrix(expected, predicted)

希望本文所述对大家Python程序设计有所帮助。

Python 相关文章推荐
使用python检测手机QQ在线状态的脚本代码
Feb 10 Python
Python中的Numeric包和Numarray包使用教程
Apr 13 Python
python与php实现分割文件代码
Mar 06 Python
Python简单计算文件MD5值的方法示例
Apr 11 Python
Python 从相对路径下import的方法
Dec 04 Python
解决Python plt.savefig 保存图片时一片空白的问题
Jan 10 Python
Python实现的多进程拷贝文件并显示百分比功能示例
Apr 09 Python
PyQt5基本控件使用之消息弹出、用户输入、文件对话框的使用方法
Aug 06 Python
python实现逆滤波与维纳滤波示例
Feb 26 Python
python框架flask入门之路由及简单实现方法
Jun 07 Python
django有哪些好处和优点
Sep 01 Python
python实现数学模型(插值、拟合和微分方程)
Nov 13 Python
python3实现随机数
Jun 25 #Python
Python实现快速计算词频功能示例
Jun 25 #Python
python实现画一颗树和一片森林
Jun 25 #Python
完美解决在oj中Python的循环输入问题
Jun 25 #Python
django rest framework 数据的查找、过滤、排序的示例
Jun 25 #Python
python使用turtle库绘制树
Jun 25 #Python
使用Python微信库itchat获得好友和群组已撤回的消息
Jun 24 #Python
You might like
PHP+MYSQL会员系统的登陆即权限判断实现代码
2011/09/23 PHP
关于PHP模板Smarty的初级使用方法以及心得分享
2013/06/21 PHP
PHP 正则表达式常用函数
2014/08/17 PHP
php结合安卓客户端实现查询交互实例
2015/05/05 PHP
Prototype String对象 学习
2009/07/19 Javascript
动态加载JS文件的三种方法
2013/11/08 Javascript
jQuery自带的一些常用方法总结
2014/09/03 Javascript
JS清除选择内容的方法
2015/01/29 Javascript
分享一个插件实现水珠自动下落效果
2016/06/01 Javascript
概述javascript在Google IE中的调试技巧
2016/11/24 Javascript
node.js报错:Cannot find module 'ejs'的解决办法
2016/12/14 Javascript
vue组件实例解析
2017/01/10 Javascript
js放大镜放大购物图片效果
2017/01/18 Javascript
jQuery插件zTree实现删除树子节点的方法示例
2017/03/08 Javascript
vue2 中如何实现动态表单增删改查实例
2017/06/09 Javascript
理解 Node.js 事件驱动机制的原理
2017/08/16 Javascript
如何在js代码中消灭for循环实例详解
2018/07/29 Javascript
angular.js实现列表orderby排序的方法
2018/10/02 Javascript
列举Python中吸引人的一些特性
2015/04/09 Python
一篇文章入门Python生态系统(Python新手入门指导)
2015/12/11 Python
Python合并字典键值并去除重复元素的实例
2016/12/18 Python
Python3使用SMTP发送带附件邮件
2020/06/16 Python
Python拼接字符串的7种方法总结
2018/11/01 Python
一文秒懂python读写csv xml json文件各种骚操作
2019/07/04 Python
Django对数据库进行添加与更新的例子
2019/07/12 Python
python程序 线程队列queue使用方法解析
2019/09/23 Python
python文件绝对路径写法介绍(windows)
2019/12/25 Python
Python Opencv实现单目标检测的示例代码
2020/09/08 Python
对pytorch中x = x.view(x.size(0), -1) 的理解说明
2021/03/03 Python
教师产假请假条范文
2014/04/10 职场文书
2014标准社保办理委托书
2014/10/06 职场文书
逃出克隆岛观后感
2015/06/09 职场文书
结婚纪念日感言
2015/08/01 职场文书
2016小学新学期寄语
2015/12/04 职场文书
导游词之昭君岛
2020/01/17 职场文书
关于MySQL中的 like操作符详情
2021/11/17 MySQL