Pandas搭配lambda组合使用详解


Posted in Python onJanuary 22, 2022

导入模块与读取数据

我们第一步需要导入模块以及数据集

import pandas as pd

df = pd.read_csv("IMDB-Movie-Data.csv")
df.head()

创建新的列

一般我们是通过在现有两列的基础上进行一些简单的数学运算来创建新的一列,例如

df['AvgRating'] = (df['Rating'] + df['Metascore']/10)/2

但是如果要新创建的列是经过相当复杂的计算得来的,那么lambda方法就很多必要被运用到了,我们先来定义一个函数方法

def custom_rating(genre,rating):
    if 'Thriller' in genre:
        return min(10,rating+1)
    elif 'Comedy' in genre:
        return max(0,rating-1)
    elif 'Drama' in genre:
        return max(5, rating-1)
    else:
        return rating

我们对于不同类别的电影采用了不同方式的评分方法,例如对于“惊悚片”,评分的方法则是在“原来的评分+1”和10分当中取一个最小的,而对于“喜剧”类别的电影,则是在0分和“原来的评分-1”当中取一个最大的,然后我们通过apply方法和lambda方法将这个自定义的函数应用在这个DataFrame数据集当中

df["CustomRating"] = df.apply(lambda x: custom_rating(x['Genre'], x['Rating']), axis = 1)

我们这里需要说明一下axis参数的作用,其中axis=1代表跨列而axis=0代表跨行,如下图所示

Pandas搭配lambda组合使用详解

筛选数据

pandas当中筛选数据相对来说比较容易,可以用到& | ~这些操作符,代码如下

# 单个条件,评分大于5分的
df_gt_5 = df[df['Rating']>5]

# 多个条件: AND - 同时满足评分高于5分并且投票大于100000的
And_df = df[(df['Rating']>5) & (df['Votes']>100000)]

# 多个条件: OR - 满足评分高于5分或者投票大于100000的
Or_df = df[(df['Rating']>5) | (df['Votes']>100000)]

# 多个条件:NOT - 将满足评分高于5分或者投票大于100000的数据排除掉
Not_df = df[~((df['Rating']>5) | (df['Votes']>100000))]

这些都是非常简单并且是常见的例子,但是要是我们想要筛选出电影的影名长度大于5的部分,要是也采用上面的方式就会报错

df[len(df['Title'].split(" "))>=5]

output

AttributeError: 'Series' object has no attribute 'split'

这里我们还是采用applylambda相结合,来实现上面的功能

#创建一个新的列来存储每一影片名的长度
df['num_words_title'] = df.apply(lambda x : len(x['Title'].split(" ")),axis=1)

#筛选出影片名长度大于5的部分
new_df = df[df['num_words_title']>=5]

当然要是大家觉得上面的方法有点繁琐的话,也可以一步到位

new_df = df[df.apply(lambda x : len(x['Title'].split(" "))>=5,axis=1)]

例如我们想要筛选出那些影片的票房低于当年平均水平的数据,可以这么来做。

我们先要对每年票房的的平均值做一个归总,代码如下

year_revenue_dict = df.groupby(['Year']).agg({'Revenue(Millions)':np.mean}).to_dict()['Revenue(Millions)']

然后我们定义一个函数来判断是否存在该影片的票房低于当年平均水平的情况,返回的是布尔值

def bool_provider(revenue, year):
    return revenue<year_revenue_dict[year]

然后我们通过结合apply方法和lambda方法应用到数据集当中去

new_df = df[df.apply(lambda x : bool_provider(x['Revenue(Millions)'],x['Year']),axis=1)]

我们筛选数据的时候,主要是用.loc方法,它同时也可以和lambda方法联用,例如我们想要筛选出评分在5-8分之间的电影以及它们的票房,代码如下

df.loc[lambda x: (x["Rating"] > 5) & (x["Rating"] < 8)][["Title", "Revenue (Millions)"]]

转变指定列的数据类型

通常我们转变指定列的数据类型,都是调用astype方法来实现的,例如我们将“Price”这一列的数据类型转变成整型的数据,代码如下

df['Price'].astype('int')

会出现如下所示的报错信息

ValueError: invalid literal for int() with base 10: '12,000'

因此当出现类似“12,000”的数据的时候,调用astype方法实现数据类型转换就会报错,因此我们还需要将到applylambda结合进行数据的清洗,代码如下

df['Price'] = df.apply(lambda x: int(x['Price'].replace(',', '')),axis=1)

方法调用过程的可视化

有时候我们在处理数据集比较大的时候,调用函数方法需要比较长的时间,这个时候就需要有一个要是有一个进度条,时时刻刻向我们展示数据处理的进度,就会直观很多了。

这里用到的是tqdm模块,我们将其导入进来

from tqdm import tqdm, tqdm_notebook
tqdm_notebook().pandas()

然后将apply方法替换成progress_apply即可,代码如下

df["CustomRating"] = df.progress_apply(lambda x: custom_rating(x['Genre'],x['Rating']),axis=1)

output

Pandas搭配lambda组合使用详解

当lambda方法遇到if-else

当然我们也可以将if-else运用在lambda自定义函数当中,代码如下

Bigger = lambda x, y : x if(x > y) else y
Bigger(2, 10)

output

10

当然很多时候我们可能有多组if-else,这样写起来就有点麻烦了,代码如下

df['Rating'].apply(lambda x:"低分电影" if x < 3 else ("中等电影" if x>=3 and x < 5 else("高分电影" if x>=8 else "值得观看")))

看上去稍微有点凌乱了,这个时候,小编这里到还是推荐大家自定义函数,然后通过applylambda方法搭配使用。

到此这篇关于Pandas搭配lambda组合使用详解的文章就介绍到这了,更多相关Python Pandas 内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
Python面向对象编程基础解析(二)
Oct 26 Python
代码分析Python地图坐标转换
Feb 08 Python
python 将list转成字符串,中间用符号分隔的方法
Oct 23 Python
为什么从Python 3.6开始字典有序并效率更高
Jul 15 Python
pandas 对group进行聚合的例子
Dec 27 Python
python实现随机加减法生成器
Feb 24 Python
python logging通过json文件配置的步骤
Apr 27 Python
Django实现内容缓存实例方法
Jun 30 Python
PyQT5速成教程之Qt Designer介绍与入门
Nov 02 Python
Django多个app urls配置代码实例
Nov 26 Python
python工具快速为音视频自动生成字幕(使用说明)
Jan 27 Python
python中使用asyncio实现异步IO实例分析
Feb 26 Python
Python中的tkinter库简单案例详解
Jan 22 #Python
解析python中的jsonpath 提取器
Jan 18 #Python
Python中如何处理常见报错
Jan 18 #Python
Python机器学习应用之工业蒸汽数据分析篇详解
用Python可视化新冠疫情数据
Python机器学习应用之基于线性判别模型的分类篇详解
68行Python代码实现带难度升级的贪吃蛇
Jan 18 #Python
You might like
php中数据的批量导入(csv文件)
2006/10/09 PHP
php中利用str_pad函数生成数字递增形式的产品编号
2013/09/30 PHP
PHP中的按位与和按位或操作示例
2014/01/27 PHP
PHP实现过滤掉非汉字字符只保留中文字符
2015/06/04 PHP
PHP获取对象属性的三种方法实例分析
2019/01/03 PHP
PHP将英文数字转换为阿拉伯数字实例讲解
2019/01/28 PHP
精解window.setTimeout()&amp;window.setInterval()使用方式与参数传递问题!
2007/11/23 Javascript
Javascript中的getUTCDay()方法使用详解
2015/06/10 Javascript
JS模式之单例模式基本用法
2015/06/30 Javascript
获取阴历(农历)和当前日期的js代码
2016/02/15 Javascript
JS实现图片延迟加载并淡入淡出效果的简单方法
2016/08/25 Javascript
浅谈jQuery框架Ajax常用选项
2017/07/08 jQuery
js处理包含中文的字符串实例
2017/10/11 Javascript
node实现socket链接与GPRS进行通信的方法
2019/05/20 Javascript
flexible.js实现移动端rem适配方案
2020/04/07 Javascript
[01:00:30]TFT vs VGJ.T Supermajor 败者组 BO3 第一场 6.5
2018/06/06 DOTA
python实现折半查找和归并排序算法
2017/04/14 Python
TensorFlow 合并/连接数组的方法
2018/07/27 Python
Django工程的分层结构详解
2019/07/18 Python
使用pip安装python库的多种方式
2019/07/31 Python
python3获取url文件大小示例代码
2019/09/18 Python
pyinstaller还原python代码过程图解
2020/01/08 Python
如何使用python传入不确定个数参数
2020/02/18 Python
Python 防止死锁的方法
2020/07/29 Python
HTML5的结构和语义(3):语义性的块级元素
2008/10/17 HTML / CSS
Html5 canvas画图白板踩坑
2020/06/01 HTML / CSS
Html5+CSS3+EL表达式问题小结
2020/12/19 HTML / CSS
Pam & Gela官网:美国性感前卫女装品牌
2018/07/19 全球购物
Europcar意大利:汽车租赁
2019/07/07 全球购物
Interhome丹麦:在线预订度假屋和公寓
2019/07/18 全球购物
俄罗斯三星品牌商店:Samsungstore
2020/04/05 全球购物
计算机专业推荐信范文
2013/11/27 职场文书
服务标兵事迹材料
2014/05/04 职场文书
基层党员对照检查材料
2014/09/24 职场文书
教师先进个人材料
2014/12/17 职场文书
Spring Data JPA框架持久化存储数据到数据库
2022/04/28 Java/Android