详解pandas apply 并行处理的几种方法


Posted in Python onFebruary 24, 2021

1. pandarallel (pip install )

对于一个带有Pandas DataFrame df的简单用例和一个应用func的函数,只需用parallel_apply替换经典的apply。

from pandarallel import pandarallel
 
# Initialization
pandarallel.initialize()
 
# Standard pandas apply
df.apply(func)
 
# Parallel apply
df.parallel_apply(func)

注意,如果不想并行化计算,仍然可以使用经典的apply方法。

另外可以通过在initialize函数中传递progress_bar=True来显示每个工作CPU的一个进度条。

2. joblib (pip install )

到此这篇关于详解pandas apply 并行处理的几种方法的文章就介绍到这了,更多相关pandas apply 并行处理内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
Python正则表达式非贪婪、多行匹配功能示例
Aug 08 Python
Python中支持向量机SVM的使用方法详解
Dec 26 Python
答题辅助python代码实现
Jan 16 Python
用PyInstaller把Python代码打包成单个独立的exe可执行文件
May 26 Python
python requests 测试代理ip是否生效
Jul 25 Python
在Qt5和PyQt5中设置支持高分辨率屏幕自适应的方法
Jun 18 Python
解析python的局部变量和全局变量
Aug 15 Python
Jupyter Notebook 文件默认目录的查看以及更改步骤
Apr 14 Python
150行python代码实现贪吃蛇游戏
Apr 24 Python
python使用hdfs3模块对hdfs进行操作详解
Jun 06 Python
Python 中的单分派泛函数你真的了解吗
Jun 22 Python
python调用ffmpeg命令行工具便捷操作视频示例实现过程
Nov 01 Python
python自动生成sql语句的脚本
Feb 24 #Python
Django与AJAX实现网页动态数据显示的示例代码
Feb 24 #Python
一文读懂python Scrapy爬虫框架
Feb 24 #Python
Django如何重置migration的几种情景
Feb 24 #Python
Django中的DateTimeField和DateField实现
Feb 24 #Python
Python制作运行进度条的实现效果(代码运行不无聊)
Feb 24 #Python
学点简单的Django之第一个Django程序的实现
Feb 24 #Python
You might like
解析PHP跨站刷票的实现代码
2013/06/18 PHP
php无限分类且支持输出树状图的详细介绍
2013/06/19 PHP
yii操作cookie实例简介
2014/07/09 PHP
php实现将wav文件转换成图像文件并在页面中显示的方法
2015/04/21 PHP
PHP中余数、取余的妙用
2015/06/29 PHP
php实现网站文件批量压缩下载功能
2015/10/28 PHP
php实现多维数组排序的方法示例
2017/03/23 PHP
JScript内置对象Array中元素的删除方法
2007/03/08 Javascript
JSON+JavaScript处理JSON的简单例子
2013/03/20 Javascript
js算法中的排序、数组去重详细概述
2013/10/14 Javascript
nodejs教程之制作一个简单的文章发布系统
2014/11/21 NodeJs
jquery处理页面弹出层查询数据等待操作实例
2015/03/25 Javascript
js实现适用于素材网站的黑色多级菜单导航条效果
2015/08/24 Javascript
easyui validatebox验证
2016/04/29 Javascript
JavaScript——DOM操作——Window.document对象详解
2016/07/14 Javascript
微信小程序 location API实例详解
2016/10/02 Javascript
微信小程序自定义组件之可清除的input组件
2018/07/17 Javascript
vue 权限认证token的实现方法
2018/07/17 Javascript
微信接入之获取用户头像的方法步骤
2019/09/23 Javascript
python列表操作之extend和append的区别实例分析
2015/07/28 Python
详解python中executemany和序列的使用方法
2017/08/12 Python
快速了解python leveldb
2018/01/18 Python
python中实现将多个print输出合成一个数组
2018/04/19 Python
Python适配器模式代码实现解析
2019/08/02 Python
Keras自定义实现带masking的meanpooling层方式
2020/06/16 Python
SIMON MILLER官网:洛杉矶的生活方式品牌
2020/10/19 全球购物
YII2 全局异常处理深入讲解
2021/03/24 PHP
测试工程师职业规划书
2014/02/06 职场文书
化工专业自荐书
2014/06/16 职场文书
人代会标语
2014/06/30 职场文书
年度优秀员工获奖感言
2014/08/15 职场文书
2014年度考核工作总结
2014/12/24 职场文书
高一军训感想
2015/08/07 职场文书
2016廉洁教育心得体会
2016/01/20 职场文书
2016党性教育学习心得体会
2016/01/21 职场文书
导游词之日月潭
2019/11/05 职场文书