详解pandas apply 并行处理的几种方法


Posted in Python onFebruary 24, 2021

1. pandarallel (pip install )

对于一个带有Pandas DataFrame df的简单用例和一个应用func的函数,只需用parallel_apply替换经典的apply。

from pandarallel import pandarallel
 
# Initialization
pandarallel.initialize()
 
# Standard pandas apply
df.apply(func)
 
# Parallel apply
df.parallel_apply(func)

注意,如果不想并行化计算,仍然可以使用经典的apply方法。

另外可以通过在initialize函数中传递progress_bar=True来显示每个工作CPU的一个进度条。

2. joblib (pip install )

到此这篇关于详解pandas apply 并行处理的几种方法的文章就介绍到这了,更多相关pandas apply 并行处理内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
python使用urllib2模块获取gravatar头像实例
Dec 18 Python
python写的ARP攻击代码实例
Jun 04 Python
python使用opencv读取图片的实例
Aug 17 Python
django将图片上传数据库后在前端显式的方法
May 25 Python
对Python中内置异常层次结构详解
Oct 18 Python
Python推导式简单示例【列表推导式、字典推导式与集合推导式】
Dec 04 Python
详解Python读取yaml文件多层菜单
Mar 23 Python
PYQT5开启多个线程和窗口,多线程与多窗口的交互实例
Dec 13 Python
Pycharm中配置远程Docker运行环境的教程图解
Jun 11 Python
Python脚本破解压缩文件口令实例教程(zipfile)
Jun 14 Python
Python图像处理二值化方法实例汇总
Jul 24 Python
Pyinstaller打包Scrapy项目的实现步骤
Sep 22 Python
python自动生成sql语句的脚本
Feb 24 #Python
Django与AJAX实现网页动态数据显示的示例代码
Feb 24 #Python
一文读懂python Scrapy爬虫框架
Feb 24 #Python
Django如何重置migration的几种情景
Feb 24 #Python
Django中的DateTimeField和DateField实现
Feb 24 #Python
Python制作运行进度条的实现效果(代码运行不无聊)
Feb 24 #Python
学点简单的Django之第一个Django程序的实现
Feb 24 #Python
You might like
PHP读取数据库并按照中文名称进行排序实现代码
2013/01/29 PHP
php session的应用详细介绍
2017/03/22 PHP
php中str_pad()函数用法分析
2017/03/28 PHP
jQuery效果 slideToggle() 方法(在隐藏和显示之间切换)
2011/06/28 Javascript
Chrome下ifame父窗口调用子窗口的问题示例探讨
2014/03/17 Javascript
JavaScript中SetInterval与setTimeout的用法详解
2015/11/10 Javascript
JS延时提示框实现方法详解
2015/11/26 Javascript
js父页面中使用子页面的方法
2016/01/09 Javascript
JavaScript修改作用域外变量的方法
2016/03/25 Javascript
React如何利用相对于根目录进行引用组件详解
2017/10/09 Javascript
Three.js加载外部模型的教程详解
2017/11/10 Javascript
JavaScript canvas实现围绕旋转动画
2017/11/18 Javascript
JavaScript实现一个带AI的井字棋游戏源码
2018/05/21 Javascript
elementUI Tree 树形控件的官方使用文档
2019/04/25 Javascript
angular组件间传值测试的方法详解
2020/05/07 Javascript
python 图片验证码代码
2008/12/07 Python
python判断端口是否打开的实现代码
2013/02/10 Python
Python使用urllib模块的urlopen超时问题解决方法
2014/11/08 Python
深入理解Javascript中的this关键字
2015/03/27 Python
在Python中使用itertools模块中的组合函数的教程
2015/04/13 Python
python正则表达式及使用正则表达式的例子
2018/01/22 Python
python 爬取马蜂窝景点翻页文字评论的实现
2020/01/20 Python
python匿名函数lambda原理及实例解析
2020/02/07 Python
运动服饰每月订阅盒:Ellie
2018/04/29 全球购物
Expedia西班牙:预订酒店、机票、旅行和廉价度假套餐
2019/04/10 全球购物
FragranceNet中文网:北美健康美容线上零售商
2020/08/26 全球购物
Nike瑞士官网:Nike CH
2021/01/18 全球购物
英语翻译系毕业生求职信
2013/09/29 职场文书
小学学习雷锋活动总结
2014/07/03 职场文书
缅怀先烈演讲稿
2014/09/03 职场文书
公司人事任命通知
2015/04/20 职场文书
工作态度怎么写
2015/06/25 职场文书
九不准学习心得体会
2016/01/23 职场文书
单身狗福利?Python爬取某婚恋网征婚数据
2021/06/03 Python
Python+腾讯云服务器实现每日自动健康打卡
2021/12/06 Python
Win11怎么跳过联网验机 ?Win11跳过联网验机激活教程
2022/04/05 数码科技