详解pandas apply 并行处理的几种方法


Posted in Python onFebruary 24, 2021

1. pandarallel (pip install )

对于一个带有Pandas DataFrame df的简单用例和一个应用func的函数,只需用parallel_apply替换经典的apply。

from pandarallel import pandarallel
 
# Initialization
pandarallel.initialize()
 
# Standard pandas apply
df.apply(func)
 
# Parallel apply
df.parallel_apply(func)

注意,如果不想并行化计算,仍然可以使用经典的apply方法。

另外可以通过在initialize函数中传递progress_bar=True来显示每个工作CPU的一个进度条。

2. joblib (pip install )

到此这篇关于详解pandas apply 并行处理的几种方法的文章就介绍到这了,更多相关pandas apply 并行处理内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
进一步理解Python中的函数编程
Apr 13 Python
Python3实现将文件树中所有文件和子目录归档到tar压缩文件的方法
May 22 Python
Python实现求笛卡尔乘积的方法
Sep 16 Python
基于python select.select模块通信的实例讲解
Sep 21 Python
python迭代dict的key和value的方法
Jul 06 Python
python+pandas+时间、日期以及时间序列处理方法
Jul 10 Python
Python日志模块logging基本用法分析
Aug 23 Python
python批量修改xml属性的实现方式
Mar 05 Python
Python代码一键转Jar包及Java调用Python新姿势
Mar 10 Python
python实现ftp文件传输功能
Mar 20 Python
如何使用 Flask 做一个评论系统
Nov 27 Python
Python中全局变量和局部变量的理解与区别
Feb 07 Python
python自动生成sql语句的脚本
Feb 24 #Python
Django与AJAX实现网页动态数据显示的示例代码
Feb 24 #Python
一文读懂python Scrapy爬虫框架
Feb 24 #Python
Django如何重置migration的几种情景
Feb 24 #Python
Django中的DateTimeField和DateField实现
Feb 24 #Python
Python制作运行进度条的实现效果(代码运行不无聊)
Feb 24 #Python
学点简单的Django之第一个Django程序的实现
Feb 24 #Python
You might like
一周学会PHP(视频)Http下载
2006/12/12 PHP
php数据结构 算法(PHP描述) 简单选择排序 simple selection sort
2011/08/09 PHP
ThinkPHP应用模式扩展详解
2014/07/16 PHP
PHP版本如何选择?应该使用哪个版本?
2015/05/13 PHP
PHP简单字符串过滤方法示例
2016/09/04 PHP
PHP GD库相关图像生成和处理函数小结
2016/09/30 PHP
共享自己写一个框架DreamScript
2007/01/20 Javascript
jQuery 1.8 Release版本发布了
2012/08/14 Javascript
js 走马灯简单实例
2013/11/21 Javascript
jQuery旋转木马式幻灯片轮播特效
2015/12/04 Javascript
javascript 定时器工作原理分析
2016/12/03 Javascript
解决拦截器对ajax请求的拦截实例详解
2016/12/21 Javascript
简单实现js悬浮导航效果
2017/02/05 Javascript
详解webpack 多入口配置
2017/06/16 Javascript
JavaScript通过mouseover()实现图片变大效果的示例
2017/12/20 Javascript
AngularJS实现动态切换样式的方法分析
2018/06/26 Javascript
jQuery插件实现的日历功能示例【附源码下载】
2018/09/07 jQuery
小程序实现留言板
2018/11/02 Javascript
浅谈目前可以使用ES10的5个新特性
2019/06/25 Javascript
150行Node.js实现的dns代理工具
2019/08/02 Javascript
微信小程序上传图片并等比列压缩到指定大小的实例代码
2019/10/24 Javascript
[03:41]DOTA2上海特锦赛小组赛第三日recap精彩回顾
2016/02/28 DOTA
pycharm 使用心得(一)安装和首次使用
2014/06/05 Python
Python3之文件读写操作的实例讲解
2018/01/23 Python
Python高级特性切片(Slice)操作详解
2018/09/27 Python
transform python环境快速配置方法
2018/09/27 Python
python 自动重连wifi windows的方法
2018/12/18 Python
​如何愉快地迁移到 Python 3
2019/04/28 Python
Django框架创建mysql连接与使用示例
2019/07/29 Python
Python实现屏幕录制功能的代码
2020/03/02 Python
小学教研工作制度
2014/01/15 职场文书
《这儿真好》教学反思
2014/02/22 职场文书
考试诚信承诺书
2014/05/23 职场文书
民政局办理协议离婚(范本)
2014/10/25 职场文书
Nginx服务器添加Systemd自定义服务过程解析
2021/03/31 Servers
常用的MongoDB查询语句的示例代码
2021/07/25 MongoDB