分享python数据统计的一些小技巧


Posted in Python onJuly 21, 2016

最近在用python做数据统计,这里总结了一些最近使用时查找和总结的一些小技巧,希望能帮助在做这方面时的一些童鞋。有些技巧是很平常的用法,平时我们没有注意,但是在特定场景,这些小方法还是能带来很大的帮助。

1.在字典中将键映射到多个值上面

{'b': [4, 5, 6], 
'a': [1, 2, 3]}

有时候我们在统计相同key值的时候,希望把所有相同key的条目添加到以key为键的一个字典中,然后再进行各种操作,这时候我们就可以使用下面的代码进行操作:

from collections import defaultdict
d = defaultdict(list)
print(d)
d['a'].append(1)
d['a'].append(2)
d['a'].append(3)
d['b'].append(4)
d['b'].append(5)
d['b'].append(6)
print(d)
print(d.get("a"))
print(d.keys())
print([d.get(i) for i in d])

这里是使用了collections中的方法,这里面还拥有很多有用的方法,我们有时间在继续进行深入了解。

上面代码运行结果:

defaultdict(, {})
defaultdict(, {'b': [4, 5, 6], 'a': [1, 2, 3]})
[1, 2, 3]
dict_keys(['b', 'a'])
[[4, 5, 6], [1, 2, 3]]

我们将数据填入之后,相当于进行快速分组,然后遍历每个组就可以统计一些我们需要的数据。

2.迅速转换字典键值对

data = {...}
zip(data.values(), data.keys())

data是我们的格式数据,使用zip后进行快速键值转换,然后可以使用max,min之类函数进行数据操作。

3.通过公共键对字典进行排序

from operator import itemgetter
data = [
  {'name': "bran", "uid": 101},
  {'name': "xisi", "uid": 102},
  {'name': "land", "uid": 103}
]
print(sorted(data, key=itemgetter("name")))
print(sorted(data, key=itemgetter("uid")))

数据格式就是data,我们想要对name或者uid进行排序我们就是用代码中的方法。
运行结果:

[{'name': 'bran', 'uid': 101}, {'name': 'land', 'uid': 103}, {'name': 'xisi', 'uid': 102}]
[{'name': 'bran', 'uid': 101}, {'name': 'xisi', 'uid': 102}, {'name': 'land', 'uid': 103}]

正如我们期望中的一样

4.对列表中的多个字典根据某一字段进行分组

注意注意,在进行分组前要首先对数据进行排序处理,排序字段根据实际要求来选择

即将处理的数据:

rows = [
  {'name': "bran", "uid": 101, "class": 13},
  {'name': "xisi", "uid": 101, "class": 11},
  {'name': "land", "uid": 103, "class": 10}
]

期望处理结果:

{
101: [{'name': 'xisi', 'class': 11, 'uid': 101},{'name': 'bran', 'class': 13, 'uid': 101}],
103: [{'name': 'land', 'class': 10, 'uid': 103}]
}

我们按照uid进行分组,这里只是演示,uid一般也不会重复。

这个比较复杂一点,我们一部一步来分解

some = [('a', [1, 2, 3]), ('b', [4, 5, 6])]
print(dict(some))

结果:

{'b': [4, 5, 6], 'a': [1, 2, 3]}

这里我们的目的是将元组转换成字典,这个很简单,应该都能看懂。接着我们来下一步对待处理数据进行排序:

data_one = sorted(rows, key=itemgetter("class"))
print(data_one)
data_two = sorted(rows, key=lambda x: (x["uid"], x["class"]))
print(data_two)

这里我们提供两种排序方式原理相同,只是样式稍有区别,第一种data_one是直接使用itemgetter,按照我们前面使用过得,直接按照某一字段进行排序,可是有时候我们会有另一种要求:

先按照某一字段排序,当第一字段重复时,再按照另一字段排序。

这时我们就用第二种方法,进行多字段值排序。
排序结果如下:

[{'name': 'land', 'class': 10, 'uid': 103}, {'name': 'xisi', 'class': 11, 'uid': 101}, {'name': 'bran', 'class': 13, 'uid': 101}]
[{'name': 'xisi', 'class': 11, 'uid': 101}, {'name': 'bran', 'class': 13, 'uid': 101}, {'name': 'land', 'class': 10, 'uid': 103}]

结果大家慢慢看一下,还是略有差别。

接下来就进行最后一步了,将我们刚才讲的两种方式结合起来使用:

data = dict([(g, list(k)) for g, k in groupby(data_two, key=lambda x: x["uid"])])
print(data)

我们对排序好的数据进行分组,然后生成元组列表,最后将其转换成字典,这里大功告成,我们成功将数据进行分组。

python数据统计的一些小技巧就分享到这,有需要的可以参考学习。

Python 相关文章推荐
Python设计模式编程中解释器模式的简单程序示例分享
Mar 02 Python
Python中的左斜杠、右斜杠(正斜杠和反斜杠)
Aug 30 Python
apache部署python程序出现503错误的解决方法
Jul 24 Python
pycharm+django创建一个搜索网页实例代码
Jan 24 Python
解决python3 urllib 链接中有中文的问题
Jul 16 Python
python 字典修改键(key)的几种方法
Aug 10 Python
Django框架ORM数据库操作实例详解
Nov 07 Python
python logging添加filter教程
Dec 24 Python
Python Django中的STATIC_URL 设置和使用方式
Mar 27 Python
Python如何定义有可选参数的元类
Jul 31 Python
PyCharm上安装Package的实现(以pandas为例)
Sep 18 Python
python 使用OpenCV进行简单的人像分割与合成
Feb 02 Python
python中print的不换行即时输出的快速解决方法
Jul 20 #Python
Python全局变量用法实例分析
Jul 19 #Python
python对象及面向对象技术详解
Jul 19 #Python
python异常和文件处理机制详解
Jul 19 #Python
python线程、进程和协程详解
Jul 19 #Python
浅谈python字符串方法的简单使用
Jul 18 #Python
python读取oracle函数返回值
Jul 18 #Python
You might like
php 无限分类的树类代码
2009/12/03 PHP
php/js获取客户端mac地址的实现代码
2013/07/08 PHP
纯PHP生成的一个树叶图片画图例子
2014/04/16 PHP
HR vs CL BO3 第一场 2.13
2021/03/10 DOTA
在JavaScript中使用inline函数的问题
2007/03/08 Javascript
一段效率很高的for循环语句使用方法
2007/08/13 Javascript
Javascript表格翻页效果实现思路及代码
2013/08/23 Javascript
Js实现动态添加删除Table行示例
2014/04/14 Javascript
js unicode 编码解析关于数据转换为中文的两种方法
2014/04/21 Javascript
DOM节点删除函数removeChild()用法实例
2015/01/12 Javascript
使用HTML+CSS+JS制作简单的网页菜单界面
2015/07/27 Javascript
JS实现横向与竖向两个选项卡Tab联动的方法
2015/09/27 Javascript
js+css简单实现网页换肤效果
2015/12/29 Javascript
理解JavaScript中Promise的使用
2016/01/18 Javascript
jQuery禁用键盘后退屏蔽F5刷新及禁用右键单击
2016/01/22 Javascript
vue init webpack myproject构建项目 ip不能访问的解决方法
2018/03/20 Javascript
JS实现的简单分页功能示例
2018/08/23 Javascript
详解JS判断页面是在手机端还是在PC端打开的方法
2019/04/26 Javascript
vue中利用simplemde实现markdown编辑器(增加图片上传功能)
2019/04/29 Javascript
小程序外卖订单界面的示例代码
2019/12/30 Javascript
Vue-cli打包后如何本地查看的操作
2020/09/02 Javascript
[36:43]NB vs Optic 2018国际邀请赛小组赛BO1 B组加赛 8.19
2018/08/21 DOTA
python使用7z解压apk包的方法
2015/04/18 Python
Python for循环中的陷阱详解
2018/07/13 Python
使用python分析统计自己微信朋友的信息
2019/07/19 Python
关于pytorch处理类别不平衡的问题
2019/12/31 Python
Python基于xlutils修改表格内容过程解析
2020/07/28 Python
C#如何调用Word并打开一个Word文档
2013/05/08 面试题
3D空间设计学生找工作的自我评价
2013/10/28 职场文书
大学学习生活感言
2014/01/18 职场文书
真诚的求职信
2014/07/04 职场文书
信息合作协议书
2014/10/09 职场文书
保护校园环境倡议书
2015/04/28 职场文书
2015仓库保管员年终工作总结
2015/05/13 职场文书
小学运动会宣传稿
2015/07/23 职场文书
CSS filter 有什么神奇用途
2021/05/25 HTML / CSS