详解pandas apply 并行处理的几种方法


Posted in Python onFebruary 24, 2021

1. pandarallel (pip install )

对于一个带有Pandas DataFrame df的简单用例和一个应用func的函数,只需用parallel_apply替换经典的apply。

from pandarallel import pandarallel
 
# Initialization
pandarallel.initialize()
 
# Standard pandas apply
df.apply(func)
 
# Parallel apply
df.parallel_apply(func)

注意,如果不想并行化计算,仍然可以使用经典的apply方法。

另外可以通过在initialize函数中传递progress_bar=True来显示每个工作CPU的一个进度条。

2. joblib (pip install )

到此这篇关于详解pandas apply 并行处理的几种方法的文章就介绍到这了,更多相关pandas apply 并行处理内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
Python单元测试框架unittest使用方法讲解
Apr 13 Python
浅析Python基础-流程控制
Mar 18 Python
Python中的命令行参数解析工具之docopt详解
Mar 27 Python
python实现跨excel的工作表sheet之间的复制方法
May 03 Python
Python操作Oracle数据库的简单方法和封装类实例
May 07 Python
centos6.5安装python3.7.1之后无法使用pip的解决方案
Feb 14 Python
Python变量类型知识点总结
Feb 18 Python
一文秒懂python读写csv xml json文件各种骚操作
Jul 04 Python
Python学习笔记之Break和Continue用法分析
Aug 14 Python
详解Python中namedtuple的使用
Apr 27 Python
python Autopep8实现按PEP8风格自动排版Python代码
Mar 02 Python
python 算法题——快乐数的多种解法
May 27 Python
python自动生成sql语句的脚本
Feb 24 #Python
Django与AJAX实现网页动态数据显示的示例代码
Feb 24 #Python
一文读懂python Scrapy爬虫框架
Feb 24 #Python
Django如何重置migration的几种情景
Feb 24 #Python
Django中的DateTimeField和DateField实现
Feb 24 #Python
Python制作运行进度条的实现效果(代码运行不无聊)
Feb 24 #Python
学点简单的Django之第一个Django程序的实现
Feb 24 #Python
You might like
PHP 加密解密内部算法
2010/04/22 PHP
Godaddy空间Zend Optimizer升级方法
2010/05/10 PHP
PHP数组无限分级数据的层级化处理代码
2012/12/29 PHP
分享php代码将360浏览器导出的favdb的sqlite数据库文件转换为html
2015/12/09 PHP
简介WordPress中用于获取首页和站点链接的PHP函数
2015/12/17 PHP
PHP赋值的内部是如何跑的详解
2019/01/13 PHP
PHP日期和时间函数的使用示例详解
2020/08/06 PHP
Js获取事件对象代码
2010/08/05 Javascript
基于jquery的使ListNav兼容中文首字拼音排序的实现代码
2011/07/10 Javascript
不同Jquery版本引发的问题解决
2013/10/14 Javascript
javascript学习笔记--数字格式类型
2014/05/22 Javascript
nodejs教程之环境安装及运行
2014/11/21 NodeJs
jQuery的ready方法详解
2014/11/27 Javascript
JS实现让访问者自助选择网页文字颜色的方法
2015/02/24 Javascript
Bootstrap学习系列之使用 Bootstrap Typeahead 组件实现百度下拉效果
2016/07/07 Javascript
微信小程序 开发之滑块视图容器(swiper)详解及实例代码
2017/02/22 Javascript
详解从Node.js的child_process模块来学习父子进程之间的通信
2017/03/27 Javascript
详解angularJS自定义指令间的相互交互
2017/07/05 Javascript
js导出Excel表格超出26位英文字符的解决方法ES6
2017/11/15 Javascript
Vue无限滑动周选择日期的组件的示例代码
2018/07/18 Javascript
JS中的算法与数据结构之常见排序(Sort)算法详解
2019/08/16 Javascript
JavaScript实现移动端拖动元素
2020/11/24 Javascript
如何处理Python3.4 使用pymssql 乱码问题
2016/01/08 Python
深入理解Python对Json的解析
2017/02/14 Python
PyQt5利用QPainter绘制各种图形的实例
2017/10/19 Python
python实现俄罗斯方块
2018/06/26 Python
Python lambda表达式filter、map、reduce函数用法解析
2019/09/11 Python
python二维键值数组生成转json的例子
2019/12/06 Python
html table呈现个人简历以及单元格宽度失效的问题解决
2021/01/22 HTML / CSS
奥兰多迪士尼门票折扣:Undercover Tourist
2018/07/09 全球购物
缓解脚、腿和背部疼痛:Z-CoiL鞋
2019/03/12 全球购物
班级学雷锋活动总结
2014/06/26 职场文书
党员干部群众路线个人整改措施
2014/09/18 职场文书
初中家长意见
2015/06/03 职场文书
python基础详解之if循环语句
2021/04/24 Python
SQL注入详解及防范方法
2021/12/06 MySQL