详解pandas apply 并行处理的几种方法


Posted in Python onFebruary 24, 2021

1. pandarallel (pip install )

对于一个带有Pandas DataFrame df的简单用例和一个应用func的函数,只需用parallel_apply替换经典的apply。

from pandarallel import pandarallel
 
# Initialization
pandarallel.initialize()
 
# Standard pandas apply
df.apply(func)
 
# Parallel apply
df.parallel_apply(func)

注意,如果不想并行化计算,仍然可以使用经典的apply方法。

另外可以通过在initialize函数中传递progress_bar=True来显示每个工作CPU的一个进度条。

2. joblib (pip install )

到此这篇关于详解pandas apply 并行处理的几种方法的文章就介绍到这了,更多相关pandas apply 并行处理内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
python 解析html之BeautifulSoup
Jul 07 Python
python监控网卡流量并使用graphite绘图的示例
Apr 27 Python
Python常用列表数据结构小结
Aug 06 Python
浅要分析Python程序与C程序的结合使用
Apr 07 Python
python中pandas.DataFrame对行与列求和及添加新行与列示例
Mar 12 Python
解决tensorflow测试模型时NotFoundError错误的问题
Jul 26 Python
强悍的Python读取大文件的解决方案
Feb 16 Python
Python给图像添加噪声具体操作
Mar 03 Python
python3实现斐波那契数列(4种方法)
Jul 15 Python
python绘制随机网络图形示例
Nov 21 Python
python 检测图片是否有马赛克
Dec 01 Python
Pytorch如何切换 cpu和gpu的使用详解
Mar 01 Python
python自动生成sql语句的脚本
Feb 24 #Python
Django与AJAX实现网页动态数据显示的示例代码
Feb 24 #Python
一文读懂python Scrapy爬虫框架
Feb 24 #Python
Django如何重置migration的几种情景
Feb 24 #Python
Django中的DateTimeField和DateField实现
Feb 24 #Python
Python制作运行进度条的实现效果(代码运行不无聊)
Feb 24 #Python
学点简单的Django之第一个Django程序的实现
Feb 24 #Python
You might like
全国中波电台频率表
2020/03/11 无线电
神族 Protoss 剧情介绍
2020/03/14 星际争霸
php error_log 函数的使用
2009/04/13 PHP
php MYSQL 数据备份类
2009/06/19 PHP
基于php设计模式中工厂模式详细介绍
2013/05/15 PHP
toString()一个会自动调用的方法
2010/02/08 Javascript
Cookie 小记
2010/04/01 Javascript
理解Javascript_02_理解undefined和null
2010/10/11 Javascript
JavaScript代码简单实现求杨辉三角给定行的最大值
2013/10/29 Javascript
JS烟花背景效果实现方法
2015/03/03 Javascript
jquery实现模拟百分比进度条渐变效果代码
2015/10/29 Javascript
APP中javascript+css3实现下拉刷新效果
2016/01/27 Javascript
javascript字符串对象常用api函数小结(连接,替换,分割,转换等)
2016/09/20 Javascript
SelecT下拉框选中和取值的解决方法
2016/11/22 Javascript
详解js中==与===的区别
2017/01/08 Javascript
JS前端开发判断是否是手机端并跳转操作(小结)
2017/02/05 Javascript
微信小程序 支付功能开发错误总结
2017/02/21 Javascript
bootstrap精简教程_动力节点Java学院整理
2017/07/14 Javascript
Vue 使用Props属性实现父子组件的动态传值详解
2019/11/13 Javascript
JavaScript TAB栏切换效果的示例
2020/11/05 Javascript
小结Python用fork来创建子进程注意事项
2014/07/03 Python
Python3计算三角形的面积代码
2017/12/18 Python
对Python3中的print函数以及与python2的对比分析
2018/05/02 Python
Python3.6实现根据电影名称(支持电视剧名称),获取下载链接的方法
2019/08/26 Python
HTML5+CSS3 实现灵动的动画 TAB 切换效果(DEMO)
2017/09/15 HTML / CSS
html5嵌入内容_动力节点Java学院整理
2017/07/07 HTML / CSS
前端canvas水印快速制作(附完整代码)
2019/09/19 HTML / CSS
超30万乐谱下载:Musicnotes.com
2016/09/24 全球购物
POP文化和音乐灵感的时尚:Hot Topic
2019/06/19 全球购物
abstract class和interface有什么区别?
2012/01/03 面试题
学员自我鉴定
2014/03/19 职场文书
委托书模板
2014/04/04 职场文书
工作疏忽、懈怠的检讨书
2014/09/11 职场文书
通知的写法
2015/04/23 职场文书
2016年社区植树节活动总结
2016/03/16 职场文书
2016年八一建军节活动总结
2016/04/05 职场文书