pandas数据分组groupby()和统计函数agg()的使用


Posted in Python onMarch 04, 2021

数据分组

  • 使用 groupby() 方法进行分组
  • group.size()查看分组后每组的数量
  • group.groups 查看分组情况
  • group.get_group('名字') 根据分组后的名字选择分组数据

准备数据

# 一个Series其实就是一条数据,Series方法的第一个参数是data,第二个参数是index(索引),如果没有传值会使用默认值(0-N)
# index参数是我们自定义的索引值,注意:参数值的个数一定要相同。
# 在创建Series时数据并不一定要是列表,也可以将一个字典传进去。
from pandas import Series, DataFrame

# 使用字典创建
index_list = ['001', '002', '003', '004', '005', '006', '007', '008', '009', '010']
name_list = ['李白', '王昭君', '诸葛亮', '狄仁杰', '孙尚香', '妲己', '周瑜', '张飞', '王昭君', '大乔']
age_list = [25, 28, 27, 25, 30, 29, 25, 32, 28, 26]
gender_list = ['F', 'M', 'F', 'F', 'M', 'M', 'F', 'F', 'M', 'M']
salary_list = ['10k', '12.5k', '20k', '14k', '12k', '17k', '18k', '21k', '22k', '21.5k']
marital_list = ['NO', 'NO', 'YES', 'YES', 'NO', 'NO', 'NO', 'YES', 'NO', 'YES']
dic = {
 '姓名': Series(data=name_list, index=index_list),
 '年龄': Series(data=age_list, index=index_list),
 '薪资': Series(data=salary_list, index=index_list),
 '性别': Series(data=gender_list, index=index_list),
 '婚姻状况': Series(data=marital_list, index=index_list)
}
df = DataFrame(dic)

# 写入csv,path_or_buf为写入文本文件
df.to_csv(path_or_buf='./People.csv', encoding='utf_8_sig')
print('end')

上面代码会在当前目录下生成一个 People.csv 文件

import pandas as pd
df = pd.read_csv('./People.csv')
df.head()

pandas数据分组groupby()和统计函数agg()的使用

# 根据 '性别列' 进行分组, 得到的是一个分组后的对象
groups = df.groupby('性别')
print(groups)
<pandas.core.groupby.generic.DataFrameGroupBy object at 0x000002953DAEBC88>

size()

使用groupby的size方法可以查看分组后每组的数量, 并返回一个含有分组大小的Series

print(groups.size())
性别
F 5
M 5
dtype: int64

可以只对一列数据进行分组, 只保留想要的数据

例如: 通过性别, 只对年龄进行分组

group = df['年龄'].groupby(df['性别'])
# 查看分组
print(group.groups)
# 根据分组后的名字选择分组
print(group.get_group('F'))
{'F': Int64Index([0, 2, 3, 6, 7], dtype='int64'), 'M': Int64Index([1, 4, 5, 8, 9], dtype='int64')}
0 25
2 27
3 25
6 25
7 32
Name: 年龄, dtype: int64
  • 代码df['年龄'].groupby(df['性别'])的逻辑是:取出df中'年龄'列数据,并且对该列数据根据df[‘性别']列数据进行分组操作
  • 这个代码也可写成df.groupby(df['性别'])['年龄'], 他的逻辑是: 将df数据通过df[‘性别']进行分组,然后再取出分组后的'年龄'列数据。两种写法达到的效果是一样的
  • group.groups的结果是一个字典,字典的key是分组后每个组的名字,对应的值是分组后的数据,此方法方便我们产看分组的情况
  • group.get_group('F')这个方法可以根据具体分组的名字获取,每个组的数据

 对分组进行遍历

import pandas as pd
df = pd.read_csv('./People.csv')
groups = df.groupby('性别')
# print(groups)
for group_name,group_df in groups:
 print('分组的名称:', group_name, '分组的数据', group_df.shape)
 print('-'*10)

分组的名称: F 分组的数据 (5, 6)
----------
分组的名称: M 分组的数据 (5, 6)
----------

- 将分组后的对象groups进行遍历,可以获取到group_name每个组的名字,group_df每个组的数据

import pandas as pd
df = pd.read_csv('./People.csv')
groups = df.groupby('性别')
for group_name,group_df in groups:
 f_mean = group_df['年龄'].mean()
 f_max = group_df['年龄'].max()
 f_min = group_df['年龄'].min()
 print('{}组的最大年龄是{},最小年龄是{},平均年龄是{}'.format(group_name,f_max,f_min,f_mean))

F组的最大年龄是32,最小年龄是25,平均年龄是26.8
M组的最大年龄是30,最小年龄是26,平均年龄是28.2

按多列进行分组

当需要按照多列进行分组的时候, groupby 方法里面我们传入一个列表, 列表分别存储分组依据的列名

注意: 列表中列名的顺序, 确定了先按XXXX列分组, 然后在按照YYYY列分组, 不同的顺序产生的分组名字是不同的

df = pd.read_csv('./People.csv')
group=df.groupby(['性别', '婚姻状况'])
df1 = group.size()
print(df1)
性别 婚姻状况
F  NO   2
  YES   3
M  NO   4
  YES   1
dtype: int64

group.size()返回的结果中发现索引值是多层的, 所以对于多索引值的获取, 只需要从外往里一层一层的取就可以啦, 就像我们睡觉之前,需要先脱外衣再脱掉内衣是一样的

size = df1['F'][ 'NO']
print(size)
2

pandas 常用统计函数

  • count() 统计列表中非空手机开的个数
  • nunique() 统计非重复的数据个数
  • sum() 统计列表中所有数值的和
  • mean() 计算列表中数据的平均值
  • median() 统计列表中数据中位数
  • max() 求列表中数据的最大值
  • min() 求列表中数据的最小值

对分组后的数据进行统计 agg()

import pandas as pd
df = pd.read_csv('./People.csv')
groups = df.groupby('性别')
for group_name,group_df in groups:
  f_se = group_df['年龄'].agg(['max','min','mean'])
  print('{}组的最大年龄是{},最小年龄是{},平均年龄是{}'.format(group_name,f_se[0],f_se[1],f_se[2]))

F组的最大年龄是32.0,最小年龄是25.0,平均年龄是26.8
M组的最大年龄是30.0,最小年龄是26.0,平均年龄是28.2

  • 在使用 agg() 函数时, 我们可以将多个统计函数一起放在一个 agg() 函数中
  • 如果是统计函数是pandas 提供的, 只需要将函数名字以字符串的形式存储到列表中即可
  • 例如: 将 max() 改成 ‘max'

自定义统计函数

当使用自定义的统计函数时
先创建统计函数

# 自定义的统计函数
def my_peak_range(df):
  """
  返回最大值与最小之间的范围
  """
  return df.max() - df.min()

# 使用
for group_name,group_df in groups:
  f_se = group_df['年龄'].agg(['max','min','mean',my_peak_range])
  print(f_se[0],f_se[1],f_se[3])
32.0 25.0 7.0
30.0 26.0 4.0

注意: 自定义函数名字传入agg() 函数时, 不需要转换成字符串

补充: 在这个数据中, 性别是什么的人总年龄最高

import pandas as pd
df = pd.read_csv('./People.csv')
groups = df.groupby('性别')
gende=groups.sum().sort_values(by='年龄',ascending=False).index.to_list()[0]
"""
这行代码, 先按性别进行分组, 然后吧每组中的数据求和得到总的年龄, 在按照年龄排序
再取出index,最后使用to_list()转换为列表,取出第一个数据
"""

print(gende)

M

开始按照性别分组, 组量太少, 数据也比较少, 本来准备算薪资总数, 但是单位忘记换了, 就这样吧

到此这篇关于pandas数据分组groupby()和统计函数agg()的使用的文章就介绍到这了,更多相关pandas groupby()和agg()内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
Python学习笔记之解析json的方法分析
Apr 21 Python
详解python中 os._exit() 和 sys.exit(), exit(0)和exit(1) 的用法和区别
Jun 23 Python
Django中login_required装饰器的深入介绍
Nov 24 Python
python查看模块,对象的函数方法
Oct 16 Python
用python生成1000个txt文件的方法
Oct 25 Python
python 字典操作提取key,value的方法
Jun 26 Python
使用apiDoc实现python接口文档编写
Nov 19 Python
python科学计算之narray对象用法
Nov 25 Python
python双端队列原理、实现与使用方法分析
Nov 27 Python
python中的线程threading.Thread()使用详解
Dec 17 Python
python通过cython加密代码
Dec 11 Python
解决IDEA翻译插件Translation报错更新TTK失败不能使用
Apr 24 Python
pyx文件 生成pyd 文件用于 cython调用的实现
Mar 04 #Python
Python .py生成.pyd文件并打包.exe 的注意事项说明
Mar 04 #Python
python 中 .py文件 转 .pyd文件的操作
Mar 04 #Python
Python实现图片指定位置加图片水印(附Pyinstaller打包exe)
Mar 04 #Python
python 指定源路径来解决import问题的操作
Mar 04 #Python
python源文件的字符编码知识点详解
Mar 04 #Python
python3判断IP地址的方法
Mar 04 #Python
You might like
php 高性能书写
2010/12/11 PHP
smarty模板引擎基础知识入门
2015/03/30 PHP
PHP微信PC二维码登陆的实现思路
2017/07/13 PHP
用Laravel轻松处理千万级数据的方法实现
2020/12/25 PHP
网页防止tab键的使用快速解决方法
2013/11/07 Javascript
JS+JSP通过img标签调用实现静态页面访问次数统计的方法
2015/12/14 Javascript
easyui messager alert 三秒后自动关闭提示的实例
2016/11/07 Javascript
jQuery插件WebUploader实现文件上传
2016/11/07 Javascript
js实现字符全排列算法的简单方法
2017/05/01 Javascript
vue中post请求以a=a&amp;b=b 的格式写遇到的问题
2018/04/27 Javascript
EXTJS7实现点击拖拉选择文本
2020/12/17 Javascript
Python httplib模块使用实例
2015/04/11 Python
Django rest framework实现分页的示例
2018/05/24 Python
关于python列表增加元素的三种操作方法
2018/08/22 Python
Python json模块dumps、loads操作示例
2018/09/06 Python
python 实现数字字符串左侧补零的方法
2018/12/04 Python
详解Django-restframework 之频率源码分析
2019/02/27 Python
python openpyxl使用方法详解
2019/07/18 Python
详解Python中的正斜杠与反斜杠
2019/08/09 Python
python 匿名函数与三元运算学习笔记
2020/10/23 Python
HTML5实现视频弹幕功能
2019/08/09 HTML / CSS
Spartoo英国:欧洲最大的网上鞋店
2016/09/13 全球购物
澳大利亚票务和娱乐市场领导者:Ticketmaster
2017/03/03 全球购物
Boston Proper官网:美国女装品牌
2017/10/30 全球购物
洛佩桑酒店官方网站:Lopesan Hotels
2019/04/15 全球购物
怎样让char类型的东西转换成int类型
2013/12/09 面试题
Java中有几种类型的流?JDK为每种类型的流提供了一些抽象类以供继承,请说出他们分别是哪些类
2012/02/06 面试题
编辑找工作求职信分享
2014/01/03 职场文书
养殖项目策划书范文
2014/01/13 职场文书
创建青年文明号材料
2014/05/09 职场文书
中国在我心中演讲稿
2014/09/13 职场文书
2014年英语教学工作总结
2014/12/17 职场文书
2016社区平安家庭事迹材料
2016/02/26 职场文书
MySQL连接查询你真的学会了吗?
2021/06/02 MySQL
springboot + mongodb 通过经纬度坐标匹配平面区域的方法
2021/11/01 MongoDB
SpringBoot整合阿里云视频点播的过程详解
2021/12/06 Java/Android