详解pandas apply 并行处理的几种方法


Posted in Python onFebruary 24, 2021

1. pandarallel (pip install )

对于一个带有Pandas DataFrame df的简单用例和一个应用func的函数,只需用parallel_apply替换经典的apply。

from pandarallel import pandarallel
 
# Initialization
pandarallel.initialize()
 
# Standard pandas apply
df.apply(func)
 
# Parallel apply
df.parallel_apply(func)

注意,如果不想并行化计算,仍然可以使用经典的apply方法。

另外可以通过在initialize函数中传递progress_bar=True来显示每个工作CPU的一个进度条。

2. joblib (pip install )

到此这篇关于详解pandas apply 并行处理的几种方法的文章就介绍到这了,更多相关pandas apply 并行处理内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
python 从远程服务器下载东西的代码
Feb 10 Python
Python中的filter()函数的用法
Apr 27 Python
python简单分割文件的方法
Jul 30 Python
Nginx搭建HTTPS服务器和强制使用HTTPS访问的方法
Aug 16 Python
在Python程序和Flask框架中使用SQLAlchemy的教程
Jun 06 Python
Django学习教程之静态文件的调用详解
May 08 Python
Sanic框架异常处理与中间件操作实例分析
Jul 16 Python
使用OpenCV-python3实现滑动条更新图像的Canny边缘检测功能
Dec 12 Python
Python ArgumentParse的subparser用法说明
Apr 20 Python
python在linux环境下安装skimage的示例代码
Oct 14 Python
Python字符串对齐、删除字符串不需要的内容以及格式化打印字符
Jan 23 Python
python自然语言处理之字典树知识总结
Apr 25 Python
python自动生成sql语句的脚本
Feb 24 #Python
Django与AJAX实现网页动态数据显示的示例代码
Feb 24 #Python
一文读懂python Scrapy爬虫框架
Feb 24 #Python
Django如何重置migration的几种情景
Feb 24 #Python
Django中的DateTimeField和DateField实现
Feb 24 #Python
Python制作运行进度条的实现效果(代码运行不无聊)
Feb 24 #Python
学点简单的Django之第一个Django程序的实现
Feb 24 #Python
You might like
用php获取本周,上周,本月,上月,本季度日期的代码
2009/08/05 PHP
php 判断服务器操作系统的类型
2014/02/17 PHP
php缩放gif和png图透明背景变成黑色的解决方法
2014/10/14 PHP
php输出指定时间以前时间格式的方法
2015/03/21 PHP
WordPress中"无法将上传的文件移动至"错误的解决方法
2015/07/01 PHP
laravel框架数据库配置及操作数据库示例
2019/10/10 PHP
jquery实现html页面 div 假分页有原理有代码
2014/09/06 Javascript
浅谈Javascript中Object与Function对象
2015/09/26 Javascript
javascript 实现文本使用省略号替代(超出固定高度的情况)
2017/02/21 Javascript
js实现股票实时刷新数据案例
2017/05/14 Javascript
限时抢购-倒计时的完整实例(分享)
2017/09/17 Javascript
微信小程序使用wxParse解析html的实现示例
2018/08/30 Javascript
js中Array对象的常用遍历方法详解
2019/01/17 Javascript
在Vue项目中引入JQuery-ui插件的讲解
2019/01/27 jQuery
JS实现页面数据懒加载
2020/02/13 Javascript
javascript设计模式 ? 组合模式原理与应用实例分析
2020/04/14 Javascript
ES6 async、await的基本使用方法示例
2020/06/06 Javascript
[02:11]2016国际邀请赛中国区预选赛最美TA采访现场玩家
2016/06/28 DOTA
跟老齐学Python之大话题小函数(2)
2014/10/10 Python
在Python中处理字符串之isdecimal()方法的使用
2015/05/20 Python
Python pickle模块用法实例分析
2015/05/27 Python
Django重装mysql后启动报错:No module named ‘MySQLdb’的解决方法
2018/04/22 Python
Django forms表单 select下拉框的传值实例
2019/07/19 Python
django多种支付、并发订单处理实例代码
2019/12/13 Python
python socket通信编程实现文件上传代码实例
2019/12/14 Python
django中的数据库迁移的实现
2020/03/16 Python
python属于跨平台语言码
2020/06/09 Python
Pytorch之Tensor和Numpy之间的转换的实现方法
2020/09/03 Python
关于逃课的检讨书
2014/01/23 职场文书
开办大学饮食联盟创业计划书
2014/01/29 职场文书
小学生开学第一课活动方案
2014/03/27 职场文书
乳制品整治工作方案
2014/05/29 职场文书
初婚未育证明样本
2014/10/24 职场文书
JavaScript继承的三种方法实例
2021/05/12 Javascript
node快速搭建后台的实现步骤
2022/02/18 NodeJs
Golang并发工具Singleflight
2022/05/06 Golang