详解pandas apply 并行处理的几种方法


Posted in Python onFebruary 24, 2021

1. pandarallel (pip install )

对于一个带有Pandas DataFrame df的简单用例和一个应用func的函数,只需用parallel_apply替换经典的apply。

from pandarallel import pandarallel
 
# Initialization
pandarallel.initialize()
 
# Standard pandas apply
df.apply(func)
 
# Parallel apply
df.parallel_apply(func)

注意,如果不想并行化计算,仍然可以使用经典的apply方法。

另外可以通过在initialize函数中传递progress_bar=True来显示每个工作CPU的一个进度条。

2. joblib (pip install )

到此这篇关于详解pandas apply 并行处理的几种方法的文章就介绍到这了,更多相关pandas apply 并行处理内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
python实现2014火车票查询代码分享
Jan 10 Python
python的类变量和成员变量用法实例教程
Aug 25 Python
python使用点操作符访问字典(dict)数据的方法
Mar 16 Python
python中urllib.unquote乱码的原因与解决方法
Apr 24 Python
Python正则表达式匹配和提取IP地址
Jun 06 Python
python中dict使用方法详解
Jul 17 Python
ipython jupyter notebook中显示图像和数学公式实例
Apr 15 Python
解决IDEA 的 plugins 搜不到任何的插件问题
May 04 Python
Python threading模块condition原理及运行流程详解
Oct 05 Python
Django与AJAX实现网页动态数据显示的示例代码
Feb 24 Python
Matplotlib绘制混淆矩阵的实现
May 27 Python
教你使用pyinstaller打包Python教程
May 27 Python
python自动生成sql语句的脚本
Feb 24 #Python
Django与AJAX实现网页动态数据显示的示例代码
Feb 24 #Python
一文读懂python Scrapy爬虫框架
Feb 24 #Python
Django如何重置migration的几种情景
Feb 24 #Python
Django中的DateTimeField和DateField实现
Feb 24 #Python
Python制作运行进度条的实现效果(代码运行不无聊)
Feb 24 #Python
学点简单的Django之第一个Django程序的实现
Feb 24 #Python
You might like
mac下使用brew配置环境的步骤分享
2011/05/23 PHP
JavaScript判断两种格式的输入日期的正确性的代码
2007/03/25 Javascript
suggestion开发小结以及对键盘事件的总结(针对中文输入法状态)
2011/12/20 Javascript
js实现屏蔽默认快捷键调用自定义事件示例
2013/06/18 Javascript
Jquery的hover方法让鼠标经过li时背景变色
2013/09/06 Javascript
js动态添加事件并可传参数示例代码
2013/10/21 Javascript
Javascript实现真实字符串剩余字数提示的实例代码
2013/10/22 Javascript
jQuery Ajax File Upload实例源码
2016/12/12 Javascript
JS获得一个对象的所有属性和方法实例
2017/02/21 Javascript
javascript防篡改对象实例详解
2017/04/10 Javascript
js对象实例详解(JavaScript对象深度剖析,深度理解js对象)
2017/09/21 Javascript
js自定义trim函数实现删除两端空格功能
2018/02/09 Javascript
基于nodejs的雪碧图制作工具的示例代码
2018/11/05 NodeJs
vue配置font-awesome5的方法步骤
2019/01/27 Javascript
js模拟F11页面全屏显示
2019/09/17 Javascript
微信小程序实现限制用户转发功能的实例代码
2020/02/22 Javascript
[03:40]DOTA2亚洲邀请赛小组赛第二日 赛事回顾
2015/01/31 DOTA
python实现哈希表
2014/02/07 Python
Python实现的基数排序算法原理与用法实例分析
2017/11/23 Python
Python叠加两幅栅格图像的实现方法
2019/07/05 Python
Django中使用极验Geetest滑动验证码过程解析
2019/07/31 Python
Django模型修改及数据迁移实现解析
2019/08/01 Python
解决pycharm编辑区显示yaml文件层级结构遇中文乱码问题
2020/04/27 Python
Python之qq自动发消息的示例代码
2021/02/18 Python
HTML 5 标签、属性、事件及浏览器兼容性速查表 附打包下载
2012/10/20 HTML / CSS
廉价航班、机票和酒店:JustFly
2018/02/07 全球购物
妇产科护士自我鉴定
2013/10/15 职场文书
应届生法律求职信
2013/10/22 职场文书
应聘教师推荐信
2013/10/31 职场文书
实习指导老师评语
2014/04/26 职场文书
企业职业病防治方案
2014/05/29 职场文书
2014预备党员批评与自我批评思想汇报
2014/09/20 职场文书
2014大学生学生会工作总结
2014/12/19 职场文书
小学公民道德宣传日活动总结
2015/03/23 职场文书
详解CSS中的特指度和层叠问题
2021/07/15 HTML / CSS
Redis的字符串是如何实现的
2021/10/24 Redis