Python通过两个dataframe用for循环求笛卡尔积


Posted in Python onApril 29, 2020

合并两个没有共同列的dataframe,相当于按行号求笛卡尔积。

最终效果如下

Python通过两个dataframe用for循环求笛卡尔积

以下代码是参考别人的代码修改的:

def cartesian_df(A,B):
    new_df = pd.DataFrame(columns=list(A).extend(list(B)))
    for _,A_row in A.iterrows():
      for _,B_row in B.iterrows():
        row = A_row.append(B_row)
        new_df = new_df.append(row,ignore_index=True)
    return new_df
#这个方法,如果两张表列名重复会出错

这段代码的思路是对两个表的每一行进行循环,运行速度比较慢,复杂度应该是O(m*n),m是A表的行数,n是B表的行数。

因为我用到的合并表行数比较多,时间太慢,所以针对上面的代码进行了优化。

思路是利用dataframe的merge功能,先循环复制A表,将循环次数添加为列,直接使用merge合并,复杂度应该为O(n)(n是B表的行数),代码如下:

def cartesian_df(df_a,df_b):
  '求两个dataframe的笛卡尔积'
  #df_a 复制n次,索引用复制次数
  new_df_a = pd.DataFrame(columns=list(df_a))
  for i in range(0,df_b.shape[0]):
    df_a['merge_index'] = i
    new_df_a = new_df_a.append(df_a,ignore_index=True)
  #df_b 设置索引为行数
  df_b.reset_index(inplace = True, drop =True)
  df_b['merge_index'] = df_b.index
  #merge
  new_df = pd.merge(new_df_a,df_b,on=['merge_index'],how='left').drop(['merge_index'],axis = 1)
  return new_df

#两个原始表中不能有列名'merge_index'

使用一张8行的表和一张142行的表进行测试,优化前的方法用时:5.560689926147461秒

Python通过两个dataframe用for循环求笛卡尔积

优化后的方法用时:0.1296539306640625秒(142行的表作为b表)

Python通过两个dataframe用for循环求笛卡尔积

根据计算原理,将行数少的表放在b表可以更快,测试用时:0.021603107452392578秒(8行的表作为b表)

Python通过两个dataframe用for循环求笛卡尔积

这个速度已经达到预期,基本感觉不到等待,优化完成。

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python抓取京东价格分析京东商品价格走势
Jan 09 Python
python实现rest请求api示例
Apr 22 Python
python实现字符串加密成纯数字
Mar 19 Python
Python 中的 global 标识对变量作用域的影响
Aug 12 Python
python实现监控阿里云账户余额功能
Dec 16 Python
TensorFlow通过文件名/文件夹名获取标签,并加入队列的实现
Feb 17 Python
Python3实现飞机大战游戏
Apr 24 Python
Python-jenkins模块获取jobs的执行状态操作
May 12 Python
Python astype(np.float)函数使用方法解析
Jun 08 Python
使用bandit对目标python代码进行安全函数扫描的案例分析
Jan 27 Python
python自动化之如何利用allure生成测试报告
May 02 Python
Django+Nginx+uWSGI 定时任务的实现方法
Jan 22 Python
Django分组聚合查询实例分享
Apr 29 #Python
python中sympy库求常微分方程的用法
Apr 28 #Python
tensorflow2.0的函数签名与图结构(推荐)
Apr 28 #Python
Python startswith()和endswith() 方法原理解析
Apr 28 #Python
Python如何将函数值赋给变量
Apr 28 #Python
Python多线程thread及模块使用实例
Apr 28 #Python
Python基于模块Paramiko实现SSHv2协议
Apr 28 #Python
You might like
php下获取Discuz论坛登录用户名、用户组、用户ID等信息的实现代码
2010/12/29 PHP
PHP Directory 函数的详解
2013/03/07 PHP
PHP empty函数报错解决办法
2014/03/06 PHP
jQuery插件实现屏蔽单个元素使用户无法点击
2013/04/12 Javascript
Jquery事件的连接使用示例
2013/06/18 Javascript
Node.js中Request模块处理HTTP协议请求的基本使用教程
2016/03/31 Javascript
基于jquery实现最简单的选项卡切换效果
2016/05/08 Javascript
JS常用字符串方法(推荐)
2021/01/15 Javascript
jQuery事件绑定用法详解
2016/09/08 Javascript
jQuery EasyUI 获取tabs的实例解析
2016/12/06 Javascript
js异步编程小技巧详解
2017/08/14 Javascript
vue防止花括号{{}}闪烁v-text和v-html、v-cloak用法示例
2019/03/13 Javascript
Vue 无限滚动加载指令实现方法
2019/05/28 Javascript
JS画布动态实现黑客帝国背景效果
2020/11/08 Javascript
Jquery+javascript实现支付网页数字键盘
2020/12/21 jQuery
python中关于日期时间处理的问答集锦
2013/03/08 Python
Python fileinput模块使用实例
2015/05/28 Python
Python正则表达式分组概念与用法详解
2017/06/24 Python
Python实现PS图像明亮度调整效果示例
2018/01/23 Python
使用Django和Python创建Json response的方法
2018/03/26 Python
python中实现数组和列表读取一列的方法
2018/04/03 Python
基于Python获取docx/doc文件内容代码解析
2020/02/17 Python
在django中使用post方法时,需要增加csrftoken的例子
2020/03/13 Python
python与pycharm有何区别
2020/07/01 Python
ubuntu16.04升级Python3.5到Python3.7的方法步骤
2020/08/20 Python
Java提供了哪些企业应用编程接口
2015/02/13 面试题
自我评价正确写法范文
2013/12/10 职场文书
餐饮加盟计划书
2014/01/10 职场文书
美术专业个人自我评价
2014/01/18 职场文书
青年教师培训方案
2014/02/06 职场文书
应聘会计求职信
2014/06/11 职场文书
教室标语大全
2014/06/21 职场文书
2014流动人口计划生育工作总结
2014/12/20 职场文书
2015年党风廉政建设目标责任书
2015/05/08 职场文书
Python生成九宫格图片的示例代码
2021/04/14 Python
解决jupyter notebook图片显示模糊和保存清晰图片的操作
2021/04/24 Python