详解pandas apply 并行处理的几种方法


Posted in Python onFebruary 24, 2021

1. pandarallel (pip install )

对于一个带有Pandas DataFrame df的简单用例和一个应用func的函数,只需用parallel_apply替换经典的apply。

from pandarallel import pandarallel
 
# Initialization
pandarallel.initialize()
 
# Standard pandas apply
df.apply(func)
 
# Parallel apply
df.parallel_apply(func)

注意,如果不想并行化计算,仍然可以使用经典的apply方法。

另外可以通过在initialize函数中传递progress_bar=True来显示每个工作CPU的一个进度条。

2. joblib (pip install )

到此这篇关于详解pandas apply 并行处理的几种方法的文章就介绍到这了,更多相关pandas apply 并行处理内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
Python创建模块及模块导入的方法
May 27 Python
python实现学生管理系统
Jan 11 Python
Python在图片中插入大量文字并且自动换行
Jan 02 Python
Python配置虚拟环境图文步骤
May 20 Python
python递归法解决棋盘分割问题
Jul 17 Python
Django 在iframe里跳转顶层url的例子
Aug 21 Python
Python操作SQLite数据库过程解析
Sep 02 Python
Python的几种主动结束程序方式
Nov 22 Python
基于python的列表list和集合set操作
Nov 24 Python
python对文件的操作方法汇总
Feb 28 Python
python使用hdfs3模块对hdfs进行操作详解
Jun 06 Python
利用For循环遍历Python字典的三种方法实例
Mar 25 Python
python自动生成sql语句的脚本
Feb 24 #Python
Django与AJAX实现网页动态数据显示的示例代码
Feb 24 #Python
一文读懂python Scrapy爬虫框架
Feb 24 #Python
Django如何重置migration的几种情景
Feb 24 #Python
Django中的DateTimeField和DateField实现
Feb 24 #Python
Python制作运行进度条的实现效果(代码运行不无聊)
Feb 24 #Python
学点简单的Django之第一个Django程序的实现
Feb 24 #Python
You might like
PHP 事件机制(2)
2011/03/23 PHP
php中使用gd库实现远程图片下载实例
2015/05/12 PHP
php反序列化长度变化尾部字符串逃逸(0CTF-2016-piapiapia)
2020/02/15 PHP
javascript 打开页面window.location和window.open的区别
2010/03/17 Javascript
js Canvas实现圆形时钟教程
2016/09/19 Javascript
原生js实现商品放大镜效果
2017/01/12 Javascript
基于javascript实现最简单选项卡切换
2017/02/01 Javascript
详谈$.data()的用法和作用
2017/02/13 Javascript
jQuery EasyUI ProgressBar进度条组件
2017/02/28 Javascript
详解使用jest对vue项目进行单元测试
2018/09/07 Javascript
Nuxt项目支持eslint+pritter+typescript的实现
2019/05/20 Javascript
微信小程序 select 下拉框组件功能
2019/09/09 Javascript
详解JavaScript修改注册表的方法
2020/01/05 Javascript
浅谈js中的attributes和Attribute的用法与区别
2020/07/16 Javascript
[28:07]完美世界DOTA2联赛PWL S3 Phoenix vs INK ICE 第二场 12.13
2020/12/17 DOTA
python之模拟鼠标键盘动作具体实现
2013/12/30 Python
python中实现定制类的特殊方法总结
2014/09/28 Python
Python对list列表结构中的值进行去重的方法总结
2016/05/07 Python
利用 python 对目录下的文件进行过滤删除
2017/12/27 Python
Python数据结构之图的应用示例
2018/05/11 Python
Python中xml和json格式相互转换操作示例
2018/12/05 Python
Python动态语言与鸭子类型详解
2019/07/01 Python
pytorch多GPU并行运算的实现
2019/09/27 Python
Python打印特殊符号及对应编码解析
2020/05/07 Python
解决Django Haystack全文检索为空的问题
2020/05/19 Python
html5+css3之动画在webapp中的应用
2014/11/21 HTML / CSS
HTML5之SVG 2D入门7—SVG元素的重用与引用
2013/01/30 HTML / CSS
兰蔻英国官网:Lancome英国
2019/04/30 全球购物
Fox Racing英国官网:越野摩托车和山地自行车服装
2020/02/26 全球购物
写出二分查找算法的两种实现
2013/05/13 面试题
护士自我鉴定怎么写
2014/02/07 职场文书
2015年学校财务工作总结
2015/05/19 职场文书
幸福终点站观后感
2015/06/04 职场文书
职工趣味运动会开幕词
2016/03/04 职场文书
Go timer如何调度
2021/06/09 Golang
xhunter1.sys可以删除嘛? win11提示xhunter1.sys驱动不兼容解决办法
2022/09/23 数码科技