Python进行数据提取的方法总结


Posted in Python onAugust 22, 2016

准备工作

首先是准备工作,导入需要使用的库,读取并创建数据表取名为loandata。

import numpy as np
import pandas as pd
loandata=pd.DataFrame(pd.read_excel('loan_data.xlsx'))

Python进行数据提取的方法总结

设置索引字段

在开始提取数据前,先将member_id列设置为索引字段。然后开始提取数据。

Loandata = loandata.set_index('member_id')

Python进行数据提取的方法总结

按行提取信息

第一步是按行提取数据,例如提取某个用户的信息。下面使用ix函数对member_id为1303503的用户信息进行了提取。

loandata.ix[1303503]

Python进行数据提取的方法总结

按列提取信息

第二步是按列提取数据,例如提取用户工作年限列的所有信息,下面是具体的代码和提取结果,显示了所有用户的工作年龄信息。

loandata.ix[:,'emp_length']

Python进行数据提取的方法总结

按行与列提取信息

第三步是按行和列提取信息,把前面两部的查询条件放在一起,查询特定用户的特定信息,下面是查询member_id为1303503的用户的emp_length信息。

loandata.ix[1303503,'emp_length']

Python进行数据提取的方法总结

在前面的基础上继续增加条件,增加一行同时查询两个特定用户的贷款金额信息。具体代码和查询结果如下。结果中分别列出了两个用户的代码金额。

loandata.ix[[1303503,1298717],'loan_amnt']

Python进行数据提取的方法总结

在前面的代码后增加sum函数,对结果进行求和,同样是查询两个特定用户的贷款进行,下面的结果中直接给出了贷款金额的汇总值。

loandata.ix[[1303503,1298717],'loan_amnt'].sum()

Python进行数据提取的方法总结

除了增加行的查询条件以外,还可以增加列的查询条件,下面的代码中查询了一个特定用户的贷款金额和年收入情况,结果中分别显示了这两个字段的结果。

loandata.ix[1303503,['loan_amnt','annual_inc']]

Python进行数据提取的方法总结

多个列的查询也可以进行求和计算,在前面的代码后增加sum函数,对这个用户的贷款金额和年收入两个字段求和,并显示出结果。

loandata.ix[1303503,['loan_amnt','annual_inc']].sum()

Python进行数据提取的方法总结

提取特定日期的信息

数据提取中还有一种很常见的需求就是按日期维度对数据进行汇总和提取,如按月,季度的汇总数据提取和按特定时间段的数据提取等等。

设置索引字段

首先将索引字段改为数据表中的日期字段,这里将issue_d设置为数据表的索引字段。按日期进行查询和数据提取。

loandata = loandata.set_index('issue_d')

Python进行数据提取的方法总结

按日期提取信息

下面的代码查询了所有2016年的数据。

loandata['2016']

Python进行数据提取的方法总结

在前面代码的基础上增加月份,查询所有2016年3月的数据。

loandata['2016-03']

Python进行数据提取的方法总结

继续在前面代码的基础上增加日期,查询所有2016年6月16日的数据。

loandata['2016-06-16']

Python进行数据提取的方法总结

除了按单独日期查询以外,还可以按日期段进行数据查询,下面的代码中查询了所有2016年1月至5月的数据。下面显示了具体的查询结果,可以发现数据的日期都是在1-5月的,但是按日期维度显示的,这就需要我们对数据按月进行汇总。

loandata['2016-01':'2016-05']

Python进行数据提取的方法总结

按日期汇总信息

Pandas中的resample函数可以完成日期的聚合工作,包括按小时维度,日期维度,月维度,季度及年的维度等等。下面我们分别说明。首先是按周的维度对前面数据表的数据进行求和。下面的代码中W表示聚合方式是按周,how表示数据的计算方式,默认是计算平均值,这里设置为sum,进行求和计算。

loandata.resample('W',how=sum).head(10)

Python进行数据提取的方法总结

将W改为M,数据变成了按月聚合的方式。计算方式依然是求和。这里需要说明的是resample函数会显示出所有连续的时间段,例如前面按周的聚合操作会显示连续的周日期,这里的按月操作则会在结果中显示连续的月,如果某个时间段没有数据,会以NaN值显示。

loandata.resample('M',how=sum)

Python进行数据提取的方法总结

将前面代码中的M改为Q,则为按季度对数据进行聚合,计算方式依然为求和。从下面的数据表中看,日期显示的都是每个季度的最后一天,如果希望以每个季度的第一天显示,可以改为QS。

loandata.resample('Q',how=sum)

Python进行数据提取的方法总结

将前面代码中的Q改为A,就是按年对数据进行聚合,计算方式依然为求和。

loandata.resample('A',how=sum)

Python进行数据提取的方法总结

前面的方法都是对整个数据表进行聚合和求和操作,如果只需要对某一个字段的值进行聚合和求和,可以在数据表后增加列的名称。下面是将贷款金额字段按月聚合后求和,并用0填充空值。

loandata['loan_amnt'].resample('M',how=sum).fillna(0)

Python进行数据提取的方法总结

在前面代码的基础上再增加一个数值字段,并且在后面的计算方式中增加len用来计数。在下面的结果中分别对贷款金额和利息收入按月聚合,并进行求和和计数计算

loandata[['loan_amnt','total_rec_int']].resample('M',how=[len,sum])

Python进行数据提取的方法总结

有时我们需要只对某一时间段的数据进行聚合和计算,下面的代码中对2016年1月至5月的数据按月进行了聚合,并计算求和。用0填充空值。

loandata['2016-01':'2016-05'].resample('M',how=sum).fillna(0)

Python进行数据提取的方法总结

或者只对某些符合条件的数据进行聚合和计算。下面的代码中对于贷款金额大于5000的按月进行聚合,并计算求和。空值以0进行填充。

loandata[loandata['loan_amnt']>5000].resample('M',how=sum).fillna(0)

Python进行数据提取的方法总结

除了按周,月,季度和年以外,resample函数还可以按以下方式对日期进行聚合。

下面给出了具体的对应表和说明。

 Python进行数据提取的方法总结

总结

以上就是利用python按特定的维度或条件对数据进行提取的全部内容,希望本文的内容对大家学习使用Python能有所帮助。

Python 相关文章推荐
Python设计模式编程中Adapter适配器模式的使用实例
Mar 02 Python
Python获取linux主机ip的简单实现方法
Apr 18 Python
python3编码问题汇总
Sep 06 Python
python中的字典操作及字典函数
Jan 03 Python
python 编码规范整理
May 05 Python
python实现判断一个字符串是否是合法IP地址的示例
Jun 04 Python
pygame游戏之旅 计算游戏中躲过的障碍数量
Nov 20 Python
python 执行文件时额外参数获取的实例
Dec 18 Python
python将txt文件读取为字典的示例
Dec 22 Python
Python实现查找数组中任意第k大的数字算法示例
Jan 23 Python
Python实现 版本号对比功能的实例代码
Apr 18 Python
Pytorch中的学习率衰减及其用法详解
Jun 05 Python
详解Python实现按任意键继续/退出的功能
Aug 19 #Python
利用Python开发微信支付的注意事项
Aug 19 #Python
Python用模块pytz来转换时区
Aug 19 #Python
教你用python3根据关键词爬取百度百科的内容
Aug 18 #Python
利用Python爬取可用的代理IP
Aug 18 #Python
总结用Pdb库调试Python的方式及常用的命令
Aug 18 #Python
Python实现命令行通讯录实例教程
Aug 18 #Python
You might like
Nginx下配置codeigniter框架方法
2015/04/07 PHP
php strftime函数的详细用法
2018/06/21 PHP
php使用gearman进行任务分发操作实例详解
2020/02/26 PHP
验证javascript中Object和Function的关系的三段简单代码
2010/06/27 Javascript
为jQuery.Treeview添加右键菜单的实现代码
2010/10/22 Javascript
从盛大通行证上摘下来的身份证验证js代码
2011/01/11 Javascript
JavaScript获取页面中表单(form)数量的方法
2015/04/03 Javascript
IE6兼容透明背景图片及解决方案
2015/08/19 Javascript
JavaScript转换与解析JSON方法实例详解
2015/11/24 Javascript
Javascript实现单例模式
2016/01/24 Javascript
JavaScript禁止复制与粘贴的实现代码
2016/05/16 Javascript
js操作DOM--添加、删除节点的简单实例
2016/07/08 Javascript
浅析JavaScript中的平稳退化(graceful degradation)
2017/07/24 Javascript
javascript填充默认头像方法
2018/02/22 Javascript
详解React之父子组件传递和其它一些要点
2018/06/25 Javascript
简单了解Vue + ElementUI后台管理模板
2020/04/07 Javascript
Element Dialog对话框的使用示例
2020/07/26 Javascript
原生js实现照片墙效果
2020/10/13 Javascript
Python批量修改文本文件内容的方法
2016/04/29 Python
Python简单实现控制电脑的方法
2018/01/22 Python
Python2 Selenium元素定位的实现(8种)
2019/02/25 Python
Python虚拟环境的原理及使用详解
2019/07/02 Python
Form表单及django的form表单的补充
2019/07/25 Python
django 通过url实现简单的权限控制的例子
2019/08/16 Python
使用keras实现孪生网络中的权值共享教程
2020/06/11 Python
详解python方法之绑定方法与非绑定方法
2020/08/17 Python
HTML5 Canvas概述
2009/08/26 HTML / CSS
使用HTML5的表单验证的简单示例
2015/09/09 HTML / CSS
泰国在线书店:SE-ED
2020/06/21 全球购物
最新的大学生找工作自我评价
2013/09/29 职场文书
电子商务专员岗位职责
2013/12/11 职场文书
餐饮业会计岗位职责
2013/12/19 职场文书
社区活动总结报告
2014/05/05 职场文书
团干部培训方案
2014/06/03 职场文书
靠谱的活动总结
2019/04/16 职场文书
Go本地测试解耦任务拆解及沟通详解Go本地测试的思路沟通的重要性总结
2022/06/21 Golang