详解pandas apply 并行处理的几种方法


Posted in Python onFebruary 24, 2021

1. pandarallel (pip install )

对于一个带有Pandas DataFrame df的简单用例和一个应用func的函数,只需用parallel_apply替换经典的apply。

from pandarallel import pandarallel
 
# Initialization
pandarallel.initialize()
 
# Standard pandas apply
df.apply(func)
 
# Parallel apply
df.parallel_apply(func)

注意,如果不想并行化计算,仍然可以使用经典的apply方法。

另外可以通过在initialize函数中传递progress_bar=True来显示每个工作CPU的一个进度条。

2. joblib (pip install )

到此这篇关于详解pandas apply 并行处理的几种方法的文章就介绍到这了,更多相关pandas apply 并行处理内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
Web服务器框架 Tornado简介
Jul 16 Python
Python MySQLdb模块连接操作mysql数据库实例
Apr 08 Python
Windows下Eclipse+PyDev配置Python+PyQt4开发环境
May 17 Python
Python通过命令开启http.server服务器的方法
Nov 04 Python
python实现对文件中图片生成带标签的txt文件方法
Apr 27 Python
终端命令查看TensorFlow版本号及路径的方法
Jun 13 Python
对python以16进制打印字节数组的方法详解
Jan 24 Python
六行python代码的爱心曲线详解
May 17 Python
50行Python代码实现视频中物体颜色识别和跟踪(必须以红色为例)
Nov 20 Python
Python如何实现强制数据类型转换
Nov 22 Python
简单了解Python读取大文件代码实例
Dec 18 Python
用python爬虫批量下载pdf的实现
Dec 01 Python
python自动生成sql语句的脚本
Feb 24 #Python
Django与AJAX实现网页动态数据显示的示例代码
Feb 24 #Python
一文读懂python Scrapy爬虫框架
Feb 24 #Python
Django如何重置migration的几种情景
Feb 24 #Python
Django中的DateTimeField和DateField实现
Feb 24 #Python
Python制作运行进度条的实现效果(代码运行不无聊)
Feb 24 #Python
学点简单的Django之第一个Django程序的实现
Feb 24 #Python
You might like
PHP下通过file_get_contents的代理使用方法
2011/02/16 PHP
PHP中spl_autoload_register函数的用法总结
2013/11/07 PHP
javascript中使用replaceAll()函数实现字符替换的方法
2010/12/25 Javascript
Jquery Ajax的Get方式时需要注意URL地方
2011/04/07 Javascript
JavaScript实现页面滚动图片加载(仿lazyload效果)
2011/07/22 Javascript
jquery数组过滤筛选方法grep()简介
2014/06/06 Javascript
JQuery实现表格动态增加行并对新行添加事件
2014/07/30 Javascript
详解Matlab中 sort 函数用法
2016/03/20 Javascript
EasyUI 中combotree 默认不能选择父节点的实现方法
2016/11/07 Javascript
Bootstrap 过渡效果Transition 模态框(Modal)
2017/03/17 Javascript
js 获取html5的data属性实现方法
2017/07/28 Javascript
基于require.js的使用(实例讲解)
2017/09/07 Javascript
推荐VSCode 上特别好用的 Vue 插件之vetur
2017/09/14 Javascript
聊聊那些使用前端Javascript实现的机器学习类库
2017/09/18 Javascript
jQuery zTree搜索-关键字查询 递归无限层功能实现代码
2018/01/25 jQuery
JS动态插入脚本和插入引用外部链接脚本的方法
2018/05/21 Javascript
解决ng-repeat产生的ng-model中取不到值的问题
2018/10/02 Javascript
JavaScript实现图片伪异步上传过程解析
2020/04/10 Javascript
JavaScript位置参数实现原理及过程解析
2020/09/14 Javascript
vuex刷新后数据丢失的解决方法
2020/10/18 Javascript
python 函数内部修改外部变量的方法
2018/12/18 Python
python 实现一次性在文件中写入多行的方法
2019/01/28 Python
基于python的ini配置文件操作工具类
2019/04/24 Python
使用 PyTorch 实现 MLP 并在 MNIST 数据集上验证方式
2020/01/08 Python
使用python批量修改XML文件中图像的depth值
2020/07/22 Python
无需JS和jQuery代码实现CSS3鼠标浮动放大图片
2016/11/21 HTML / CSS
萌新HTML5 入门指南(二)
2020/11/09 HTML / CSS
土耳其家居建材网站:Koçtaş
2016/11/22 全球购物
澳大利亚家居用品零售商:Harris Scarfe
2020/10/10 全球购物
西安众合通用.net笔试题
2013/03/18 面试题
生物科学专业自荐书
2014/06/20 职场文书
党员自评材料范文
2014/12/17 职场文书
爱岗敬业事迹材料
2014/12/24 职场文书
施工单位工程部经理岗位职责
2015/04/09 职场文书
医护人员继续教育学习心得体会
2016/01/19 职场文书
MySQL中IO问题的深入分析与优化
2022/04/02 MySQL