Pandas搭配lambda组合使用详解


Posted in Python onJanuary 22, 2022

导入模块与读取数据

我们第一步需要导入模块以及数据集

import pandas as pd

df = pd.read_csv("IMDB-Movie-Data.csv")
df.head()

创建新的列

一般我们是通过在现有两列的基础上进行一些简单的数学运算来创建新的一列,例如

df['AvgRating'] = (df['Rating'] + df['Metascore']/10)/2

但是如果要新创建的列是经过相当复杂的计算得来的,那么lambda方法就很多必要被运用到了,我们先来定义一个函数方法

def custom_rating(genre,rating):
    if 'Thriller' in genre:
        return min(10,rating+1)
    elif 'Comedy' in genre:
        return max(0,rating-1)
    elif 'Drama' in genre:
        return max(5, rating-1)
    else:
        return rating

我们对于不同类别的电影采用了不同方式的评分方法,例如对于“惊悚片”,评分的方法则是在“原来的评分+1”和10分当中取一个最小的,而对于“喜剧”类别的电影,则是在0分和“原来的评分-1”当中取一个最大的,然后我们通过apply方法和lambda方法将这个自定义的函数应用在这个DataFrame数据集当中

df["CustomRating"] = df.apply(lambda x: custom_rating(x['Genre'], x['Rating']), axis = 1)

我们这里需要说明一下axis参数的作用,其中axis=1代表跨列而axis=0代表跨行,如下图所示

Pandas搭配lambda组合使用详解

筛选数据

pandas当中筛选数据相对来说比较容易,可以用到& | ~这些操作符,代码如下

# 单个条件,评分大于5分的
df_gt_5 = df[df['Rating']>5]

# 多个条件: AND - 同时满足评分高于5分并且投票大于100000的
And_df = df[(df['Rating']>5) & (df['Votes']>100000)]

# 多个条件: OR - 满足评分高于5分或者投票大于100000的
Or_df = df[(df['Rating']>5) | (df['Votes']>100000)]

# 多个条件:NOT - 将满足评分高于5分或者投票大于100000的数据排除掉
Not_df = df[~((df['Rating']>5) | (df['Votes']>100000))]

这些都是非常简单并且是常见的例子,但是要是我们想要筛选出电影的影名长度大于5的部分,要是也采用上面的方式就会报错

df[len(df['Title'].split(" "))>=5]

output

AttributeError: 'Series' object has no attribute 'split'

这里我们还是采用applylambda相结合,来实现上面的功能

#创建一个新的列来存储每一影片名的长度
df['num_words_title'] = df.apply(lambda x : len(x['Title'].split(" ")),axis=1)

#筛选出影片名长度大于5的部分
new_df = df[df['num_words_title']>=5]

当然要是大家觉得上面的方法有点繁琐的话,也可以一步到位

new_df = df[df.apply(lambda x : len(x['Title'].split(" "))>=5,axis=1)]

例如我们想要筛选出那些影片的票房低于当年平均水平的数据,可以这么来做。

我们先要对每年票房的的平均值做一个归总,代码如下

year_revenue_dict = df.groupby(['Year']).agg({'Revenue(Millions)':np.mean}).to_dict()['Revenue(Millions)']

然后我们定义一个函数来判断是否存在该影片的票房低于当年平均水平的情况,返回的是布尔值

def bool_provider(revenue, year):
    return revenue<year_revenue_dict[year]

然后我们通过结合apply方法和lambda方法应用到数据集当中去

new_df = df[df.apply(lambda x : bool_provider(x['Revenue(Millions)'],x['Year']),axis=1)]

我们筛选数据的时候,主要是用.loc方法,它同时也可以和lambda方法联用,例如我们想要筛选出评分在5-8分之间的电影以及它们的票房,代码如下

df.loc[lambda x: (x["Rating"] > 5) & (x["Rating"] < 8)][["Title", "Revenue (Millions)"]]

转变指定列的数据类型

通常我们转变指定列的数据类型,都是调用astype方法来实现的,例如我们将“Price”这一列的数据类型转变成整型的数据,代码如下

df['Price'].astype('int')

会出现如下所示的报错信息

ValueError: invalid literal for int() with base 10: '12,000'

因此当出现类似“12,000”的数据的时候,调用astype方法实现数据类型转换就会报错,因此我们还需要将到applylambda结合进行数据的清洗,代码如下

df['Price'] = df.apply(lambda x: int(x['Price'].replace(',', '')),axis=1)

方法调用过程的可视化

有时候我们在处理数据集比较大的时候,调用函数方法需要比较长的时间,这个时候就需要有一个要是有一个进度条,时时刻刻向我们展示数据处理的进度,就会直观很多了。

这里用到的是tqdm模块,我们将其导入进来

from tqdm import tqdm, tqdm_notebook
tqdm_notebook().pandas()

然后将apply方法替换成progress_apply即可,代码如下

df["CustomRating"] = df.progress_apply(lambda x: custom_rating(x['Genre'],x['Rating']),axis=1)

output

Pandas搭配lambda组合使用详解

当lambda方法遇到if-else

当然我们也可以将if-else运用在lambda自定义函数当中,代码如下

Bigger = lambda x, y : x if(x > y) else y
Bigger(2, 10)

output

10

当然很多时候我们可能有多组if-else,这样写起来就有点麻烦了,代码如下

df['Rating'].apply(lambda x:"低分电影" if x < 3 else ("中等电影" if x>=3 and x < 5 else("高分电影" if x>=8 else "值得观看")))

看上去稍微有点凌乱了,这个时候,小编这里到还是推荐大家自定义函数,然后通过applylambda方法搭配使用。

到此这篇关于Pandas搭配lambda组合使用详解的文章就介绍到这了,更多相关Python Pandas 内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
python操作MySQL数据库的方法分享
May 29 Python
Python字符和字符值(ASCII或Unicode码值)转换方法
May 21 Python
Python 爬虫爬取指定博客的所有文章
Feb 17 Python
Python保存MongoDB上的文件到本地的方法
Mar 16 Python
Php多进程实现代码
May 07 Python
django-rest-swagger的优化使用方法
Aug 29 Python
浅析python redis的连接及相关操作
Nov 07 Python
学Python 3的理由和必要性
Nov 19 Python
使用opencv中匹配点对的坐标提取方式
Jun 04 Python
Python 字典一个键对应多个值的方法
Sep 29 Python
Opencv python 图片生成视频的方法示例
Nov 18 Python
详解python3类型注释annotations实用案例
Jan 20 Python
Python中的tkinter库简单案例详解
Jan 22 #Python
解析python中的jsonpath 提取器
Jan 18 #Python
Python中如何处理常见报错
Jan 18 #Python
Python机器学习应用之工业蒸汽数据分析篇详解
用Python可视化新冠疫情数据
Python机器学习应用之基于线性判别模型的分类篇详解
68行Python代码实现带难度升级的贪吃蛇
Jan 18 #Python
You might like
《逃离塔科夫》——“萌新劝退,老手自嗨”的硬核FPS游戏
2020/04/03 其他游戏
让Json更懂中文(JSON_UNESCAPED_UNICODE)
2011/10/27 PHP
smarty巧妙处理iframe中内容页的代码
2012/03/07 PHP
PHP利用header跳转失效的解决方法
2014/10/24 PHP
腾讯微博提示missing parameter errorcode 102 错误的解决方法
2014/12/22 PHP
PHP安装threads多线程扩展基础教程
2015/11/17 PHP
利用PHP获取网站访客的所在地位置
2017/01/18 PHP
科讯商业版中用到的ajax空间与分页函数
2007/09/02 Javascript
Array.prototype.slice 使用扩展
2010/06/09 Javascript
Jquery知识点二 jquery下对数组的操作
2011/01/15 Javascript
JavaScript实现简单的时钟实例代码
2013/11/23 Javascript
JavaScript中发布/订阅模式的简单实例
2014/11/05 Javascript
JS和jQuery使用submit方法无法提交表单的原因分析及解决办法
2016/05/17 Javascript
jquery实现输入框实时输入触发事件代码
2016/12/21 Javascript
Node.js 基础教程之全局对象
2017/08/06 Javascript
给vue项目添加ESLint的详细步骤
2017/09/29 Javascript
EasyUI实现下拉框多选功能
2017/11/07 Javascript
微信小程序项目总结之点赞 删除列表 分享功能
2018/06/25 Javascript
layui 优化button按钮和弹出框的方法
2018/08/15 Javascript
如何在JavaScript中优雅的提取循环内数据详解
2019/03/04 Javascript
vue中filters 传入两个参数 / 使用两个filters的实现方法
2019/07/15 Javascript
Python 专题六 局部变量、全局变量global、导入模块变量
2017/03/20 Python
Django 根据数据模型models创建数据表的实例
2018/05/27 Python
Linux下Python安装完成后使用pip命令的详细教程
2018/11/22 Python
Python函数中参数是传递值还是引用详解
2019/07/02 Python
使用pyecharts生成Echarts网页的实例
2019/08/12 Python
opencv之为图像添加边界的方法示例
2019/12/26 Python
html5是什么_动力节点Java学院整理
2017/07/07 HTML / CSS
空指针到底是什么
2012/08/07 面试题
水电站项目建议书
2014/05/12 职场文书
庆祝儿童节标语
2014/10/09 职场文书
常务副总经理岗位职责
2015/02/02 职场文书
热血教师观后感
2015/06/10 职场文书
公司会议开幕词
2016/03/03 职场文书
一篇带你入门Java垃圾回收器
2021/06/16 Java/Android
python实现会员信息管理系统(List)
2022/03/18 Python