Python进行数据提取的方法总结


Posted in Python onAugust 22, 2016

准备工作

首先是准备工作,导入需要使用的库,读取并创建数据表取名为loandata。

import numpy as np
import pandas as pd
loandata=pd.DataFrame(pd.read_excel('loan_data.xlsx'))

Python进行数据提取的方法总结

设置索引字段

在开始提取数据前,先将member_id列设置为索引字段。然后开始提取数据。

Loandata = loandata.set_index('member_id')

Python进行数据提取的方法总结

按行提取信息

第一步是按行提取数据,例如提取某个用户的信息。下面使用ix函数对member_id为1303503的用户信息进行了提取。

loandata.ix[1303503]

Python进行数据提取的方法总结

按列提取信息

第二步是按列提取数据,例如提取用户工作年限列的所有信息,下面是具体的代码和提取结果,显示了所有用户的工作年龄信息。

loandata.ix[:,'emp_length']

Python进行数据提取的方法总结

按行与列提取信息

第三步是按行和列提取信息,把前面两部的查询条件放在一起,查询特定用户的特定信息,下面是查询member_id为1303503的用户的emp_length信息。

loandata.ix[1303503,'emp_length']

Python进行数据提取的方法总结

在前面的基础上继续增加条件,增加一行同时查询两个特定用户的贷款金额信息。具体代码和查询结果如下。结果中分别列出了两个用户的代码金额。

loandata.ix[[1303503,1298717],'loan_amnt']

Python进行数据提取的方法总结

在前面的代码后增加sum函数,对结果进行求和,同样是查询两个特定用户的贷款进行,下面的结果中直接给出了贷款金额的汇总值。

loandata.ix[[1303503,1298717],'loan_amnt'].sum()

Python进行数据提取的方法总结

除了增加行的查询条件以外,还可以增加列的查询条件,下面的代码中查询了一个特定用户的贷款金额和年收入情况,结果中分别显示了这两个字段的结果。

loandata.ix[1303503,['loan_amnt','annual_inc']]

Python进行数据提取的方法总结

多个列的查询也可以进行求和计算,在前面的代码后增加sum函数,对这个用户的贷款金额和年收入两个字段求和,并显示出结果。

loandata.ix[1303503,['loan_amnt','annual_inc']].sum()

Python进行数据提取的方法总结

提取特定日期的信息

数据提取中还有一种很常见的需求就是按日期维度对数据进行汇总和提取,如按月,季度的汇总数据提取和按特定时间段的数据提取等等。

设置索引字段

首先将索引字段改为数据表中的日期字段,这里将issue_d设置为数据表的索引字段。按日期进行查询和数据提取。

loandata = loandata.set_index('issue_d')

Python进行数据提取的方法总结

按日期提取信息

下面的代码查询了所有2016年的数据。

loandata['2016']

Python进行数据提取的方法总结

在前面代码的基础上增加月份,查询所有2016年3月的数据。

loandata['2016-03']

Python进行数据提取的方法总结

继续在前面代码的基础上增加日期,查询所有2016年6月16日的数据。

loandata['2016-06-16']

Python进行数据提取的方法总结

除了按单独日期查询以外,还可以按日期段进行数据查询,下面的代码中查询了所有2016年1月至5月的数据。下面显示了具体的查询结果,可以发现数据的日期都是在1-5月的,但是按日期维度显示的,这就需要我们对数据按月进行汇总。

loandata['2016-01':'2016-05']

Python进行数据提取的方法总结

按日期汇总信息

Pandas中的resample函数可以完成日期的聚合工作,包括按小时维度,日期维度,月维度,季度及年的维度等等。下面我们分别说明。首先是按周的维度对前面数据表的数据进行求和。下面的代码中W表示聚合方式是按周,how表示数据的计算方式,默认是计算平均值,这里设置为sum,进行求和计算。

loandata.resample('W',how=sum).head(10)

Python进行数据提取的方法总结

将W改为M,数据变成了按月聚合的方式。计算方式依然是求和。这里需要说明的是resample函数会显示出所有连续的时间段,例如前面按周的聚合操作会显示连续的周日期,这里的按月操作则会在结果中显示连续的月,如果某个时间段没有数据,会以NaN值显示。

loandata.resample('M',how=sum)

Python进行数据提取的方法总结

将前面代码中的M改为Q,则为按季度对数据进行聚合,计算方式依然为求和。从下面的数据表中看,日期显示的都是每个季度的最后一天,如果希望以每个季度的第一天显示,可以改为QS。

loandata.resample('Q',how=sum)

Python进行数据提取的方法总结

将前面代码中的Q改为A,就是按年对数据进行聚合,计算方式依然为求和。

loandata.resample('A',how=sum)

Python进行数据提取的方法总结

前面的方法都是对整个数据表进行聚合和求和操作,如果只需要对某一个字段的值进行聚合和求和,可以在数据表后增加列的名称。下面是将贷款金额字段按月聚合后求和,并用0填充空值。

loandata['loan_amnt'].resample('M',how=sum).fillna(0)

Python进行数据提取的方法总结

在前面代码的基础上再增加一个数值字段,并且在后面的计算方式中增加len用来计数。在下面的结果中分别对贷款金额和利息收入按月聚合,并进行求和和计数计算

loandata[['loan_amnt','total_rec_int']].resample('M',how=[len,sum])

Python进行数据提取的方法总结

有时我们需要只对某一时间段的数据进行聚合和计算,下面的代码中对2016年1月至5月的数据按月进行了聚合,并计算求和。用0填充空值。

loandata['2016-01':'2016-05'].resample('M',how=sum).fillna(0)

Python进行数据提取的方法总结

或者只对某些符合条件的数据进行聚合和计算。下面的代码中对于贷款金额大于5000的按月进行聚合,并计算求和。空值以0进行填充。

loandata[loandata['loan_amnt']>5000].resample('M',how=sum).fillna(0)

Python进行数据提取的方法总结

除了按周,月,季度和年以外,resample函数还可以按以下方式对日期进行聚合。

下面给出了具体的对应表和说明。

 Python进行数据提取的方法总结

总结

以上就是利用python按特定的维度或条件对数据进行提取的全部内容,希望本文的内容对大家学习使用Python能有所帮助。

Python 相关文章推荐
python通过zlib实现压缩与解压字符串的方法
Nov 19 Python
python Django批量导入不重复数据
Mar 25 Python
回调函数的意义以及python实现实例
Jun 20 Python
python安装numpy&安装matplotlib& scipy的教程
Nov 02 Python
numpy中实现二维数组按照某列、某行排序的方法
Apr 04 Python
Python使用matplotlib模块绘制图像并设置标题与坐标轴等信息示例
May 04 Python
TensorFlow打印tensor值的实现方法
Jul 27 Python
利用Python将文本中的中英文分离方法
Oct 31 Python
python生成任意频率正弦波方式
Feb 25 Python
Jupyter打开图形界面并画出正弦函数图像实例
Apr 24 Python
python speech模块的使用方法
Sep 09 Python
如何基于pandas读取csv后合并两个股票
Sep 25 Python
详解Python实现按任意键继续/退出的功能
Aug 19 #Python
利用Python开发微信支付的注意事项
Aug 19 #Python
Python用模块pytz来转换时区
Aug 19 #Python
教你用python3根据关键词爬取百度百科的内容
Aug 18 #Python
利用Python爬取可用的代理IP
Aug 18 #Python
总结用Pdb库调试Python的方式及常用的命令
Aug 18 #Python
Python实现命令行通讯录实例教程
Aug 18 #Python
You might like
深入PHP购物车模块功能分析(函数讲解,附源码)
2013/06/25 PHP
PHP的preg_match匹配字符串长度问题解决方法
2014/05/03 PHP
php实现中文字符截取防乱码方法汇总
2015/04/29 PHP
浅谈PHP的反射机制
2016/12/15 PHP
laravel 配置路由 api和web定义的路由的区别详解
2019/09/03 PHP
基于jquery的一个OutlookBar类,动态创建导航条
2010/11/19 Javascript
jQuery教程 $()包装函数来实现数组元素分页效果
2013/08/13 Javascript
javascript实现des解密加密全过程
2014/04/03 Javascript
对 jQuery 中 data 方法的误解分析
2014/06/18 Javascript
jquery序列化表单以及回调函数的使用示例
2014/07/02 Javascript
原生Javascript封装的一个AJAX函数分享
2014/10/11 Javascript
jQuery解析XML文件同时动态增加js文件的方法
2015/06/01 Javascript
详解Webwork中Action 调用的方法
2016/02/02 Javascript
checkbox 选中一个另一个checkbox也会选中的实现代码
2016/07/09 Javascript
微信小程序 radio单选框组件详解及实例代码
2017/01/10 Javascript
jQuery Ajax向服务端传递数组参数值的实例代码
2017/09/03 jQuery
详解React native fetch遇到的坑
2018/08/30 Javascript
Webpack中loader打包各种文件的方法实例
2019/09/03 Javascript
vue 解决form表单提交但不跳转页面的问题
2019/10/30 Javascript
jQuery 实现扁平式小清新导航
2020/07/07 jQuery
JavaScript中的执行环境和作用域链
2020/09/04 Javascript
[09:22]2014DOTA2西雅图国际邀请赛 主赛事第二日TOPPLAY
2014/07/21 DOTA
Python使用PIL库实现验证码图片的方法
2016/03/11 Python
简单实现Python爬取网络图片
2018/04/01 Python
查看python安装路径及pip安装的包列表及路径
2019/04/03 Python
python 实现线程之间的通信示例
2020/02/14 Python
python实现用户名密码校验
2020/03/18 Python
解决pycharm导入本地py文件时,模块下方出现红色波浪线的问题
2020/06/01 Python
open_basedir restriction in effect. 原因与解决方法
2021/03/14 PHP
美国网上订购鲜花:FTD
2016/09/23 全球购物
小学数学国培感言
2014/03/10 职场文书
青蓝工程实施方案
2014/03/27 职场文书
家长会学生演讲稿
2014/04/26 职场文书
汽车检测与维修专业求职信
2014/07/04 职场文书
《别在吃苦的年纪选择安逸》读后感3篇
2019/11/30 职场文书
JavaCV实现照片马赛克效果
2022/01/22 Java/Android