详解pandas apply 并行处理的几种方法


Posted in Python onFebruary 24, 2021

1. pandarallel (pip install )

对于一个带有Pandas DataFrame df的简单用例和一个应用func的函数,只需用parallel_apply替换经典的apply。

from pandarallel import pandarallel
 
# Initialization
pandarallel.initialize()
 
# Standard pandas apply
df.apply(func)
 
# Parallel apply
df.parallel_apply(func)

注意,如果不想并行化计算,仍然可以使用经典的apply方法。

另外可以通过在initialize函数中传递progress_bar=True来显示每个工作CPU的一个进度条。

2. joblib (pip install )

到此这篇关于详解pandas apply 并行处理的几种方法的文章就介绍到这了,更多相关pandas apply 并行处理内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
在Python中使用dict和set方法的教程
Apr 27 Python
python获取本机mac地址和ip地址的方法
Apr 29 Python
Python运行报错UnicodeDecodeError的解决方法
Jun 07 Python
Python中使用bidict模块双向字典结构的奇技淫巧
Jul 12 Python
python日志记录模块实例及改进
Feb 12 Python
深入理解Python对Json的解析
Feb 14 Python
Python实现按学生年龄排序的实际问题详解
Aug 29 Python
详解tensorflow载入数据的三种方式
Apr 24 Python
浅谈ROC曲线的最佳阈值如何选取
Feb 28 Python
python实现IOU计算案例
Apr 12 Python
python批量修改交换机密码的示例
Sep 22 Python
python 使用xlsxwriter循环向excel中插入数据和图片的操作
Jan 01 Python
python自动生成sql语句的脚本
Feb 24 #Python
Django与AJAX实现网页动态数据显示的示例代码
Feb 24 #Python
一文读懂python Scrapy爬虫框架
Feb 24 #Python
Django如何重置migration的几种情景
Feb 24 #Python
Django中的DateTimeField和DateField实现
Feb 24 #Python
Python制作运行进度条的实现效果(代码运行不无聊)
Feb 24 #Python
学点简单的Django之第一个Django程序的实现
Feb 24 #Python
You might like
浅析PHP递归函数返回值使用方法
2013/02/18 PHP
PHP之生成GIF动画的实现方法
2013/06/07 PHP
那些年我们错过的魔术方法(Magic Methods)
2014/01/14 PHP
php通过ksort()函数给关联数组按照键排序的方法
2015/03/18 PHP
PHP实现按之字形顺序打印二叉树的方法
2018/01/16 PHP
PHP高并发和大流量解决方案整理
2019/12/24 PHP
Aster vs KG BO3 第二场2.18
2021/03/10 DOTA
Jquery插件 easyUI属性汇总
2011/01/19 Javascript
模仿百度三维地图的js数据分享
2011/05/12 Javascript
JQuery模板插件 jquery.tmpl 动态ajax扩展
2011/11/10 Javascript
解析js中获得父窗口链接getParent方法以及各种打开窗口的方法
2013/06/19 Javascript
告诉你什么是javascript的回调函数
2014/09/04 Javascript
javascript实现动态模态绑定grid过程代码
2014/09/22 Javascript
Js可拖拽放大的层拖动特效实现方法
2015/02/25 Javascript
javascript 实现map集合
2015/04/03 Javascript
jQuery菜单插件superfish使用指南
2015/04/21 Javascript
纯CSS3代码实现滑动开关效果
2015/08/19 Javascript
12306 刷票脚本及稳固刷票脚本(防挂)
2017/01/04 Javascript
js编写简单的计时器功能
2017/07/15 Javascript
JavaScript实现重力下落与弹性效果的方法分析
2017/12/20 Javascript
JavaScript生成指定范围随机数和随机序列的方法
2018/05/05 Javascript
js array数组对象操作方法汇总
2019/03/18 Javascript
vue组件中实现嵌套子组件案例
2020/08/31 Javascript
win10环境下python3.5安装步骤图文教程
2017/02/03 Python
python增加矩阵维度的实例讲解
2018/04/04 Python
python3+selenium获取页面加载的所有静态资源文件链接操作
2020/05/04 Python
《水上飞机》教学反思
2014/04/10 职场文书
竞选班委演讲稿
2014/04/28 职场文书
超市创业计划书
2014/09/15 职场文书
2014年向国旗敬礼活动方案
2014/09/27 职场文书
学校元旦晚会开场白
2014/12/14 职场文书
暖春观后感
2015/06/08 职场文书
Nginx同一个域名配置多个项目的实现方法
2021/03/31 Servers
详解Vue的列表渲染
2021/11/20 Vue.js
详解使用内网穿透工具Ngrok代理本地服务
2022/03/31 Servers
常用的文件对应的MIME类型汇总
2022/04/26 HTML / CSS