spark dataframe 将一列展开,把该列所有值都变成新列的方法


Posted in Python onJanuary 29, 2019

The original dataframe

spark dataframe 将一列展开,把该列所有值都变成新列的方法

需求:hour代表一天的24小时,现在要将hour列展开,每一个小时都作为一个列

实现:

val pivots = beijingGeoHourPopAfterDrop.groupBy("geoHash").pivot("hour").sum("countGeoPerHour").na.fill(0)

并且统计了对应的countGeoPerHour的和,如果有些行没有这个新列对应的数据,将用null填充

The new dataframe

spark dataframe 将一列展开,把该列所有值都变成新列的方法

以上这篇spark dataframe 将一列展开,把该列所有值都变成新列的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python使用calendar输出指定年份全年日历的方法
Apr 04 Python
Win10下Python环境搭建与配置教程
Nov 18 Python
Python多进程multiprocessing用法实例分析
Aug 18 Python
Python实现自动为照片添加日期并分类的方法
Sep 30 Python
python实现学生信息管理系统
Apr 05 Python
python如何实现反向迭代
Mar 20 Python
python 从csv读数据到mysql的实例
Jun 21 Python
解决django服务器重启端口被占用的问题
Jul 26 Python
Python统计时间内的并发数代码实例
Dec 28 Python
在python中logger setlevel没有生效的解决
Feb 21 Python
Pytorch 使用opnecv读入图像由HWC转为BCHW格式方式
Jun 02 Python
PyTorch dropout设置训练和测试模式的实现
May 27 Python
Python使用ctypes调用C/C++的方法
Jan 29 #Python
dataframe 按条件替换某一列中的值方法
Jan 29 #Python
Numpy之random函数使用学习
Jan 29 #Python
pandas DataFrame 删除重复的行的实现方法
Jan 29 #Python
使用Python向DataFrame中指定位置添加一列或多列的方法
Jan 29 #Python
Python Pexpect库的简单使用方法
Jan 29 #Python
在Pandas中DataFrame数据合并,连接(concat,merge,join)的实例
Jan 29 #Python
You might like
php实现加减法验证码代码
2014/02/14 PHP
php获取文件名后缀常用方法小结
2015/02/24 PHP
通过修改配置真正解决php文件上传大小限制问题(nginx+php)
2015/09/23 PHP
用正则获取指定路径文件的名称
2007/02/27 Javascript
比较简单的异步加载JS文件的代码
2009/07/18 Javascript
js操作label给label赋值及取label的值示例
2013/11/07 Javascript
jqgrid 编辑添加功能详细解析
2013/11/08 Javascript
jQuery将多条数据插入模态框的示例代码
2014/09/25 Javascript
AngularJS入门教程(二):AngularJS模板
2014/12/06 Javascript
JavaScript的React Web库的理念剖析及基础上手指南
2016/05/10 Javascript
详解JavaScript对象类型
2016/06/16 Javascript
Avalonjs 实现简单购物车功能(实例代码)
2017/02/07 Javascript
基于es6三点运算符的使用方法(实例讲解)
2017/10/12 Javascript
详解vue mixins和extends的巧妙用法
2017/12/20 Javascript
JS中offset和匀速动画详解
2018/02/06 Javascript
浅谈如何使用webpack构建多页面应用
2018/05/30 Javascript
js实现input密码框显示/隐藏功能
2020/09/10 Javascript
Vue列表如何实现滚动到指定位置样式改变效果
2020/05/09 Javascript
Python Json序列化与反序列化的示例
2018/01/31 Python
python隐藏类中属性的3种实现方法
2019/12/19 Python
使用wxpy实现自动发送微信消息功能
2020/02/28 Python
解决import tensorflow as tf 出错的原因
2020/04/16 Python
Python 操作 PostgreSQL 数据库示例【连接、增删改查等】
2020/04/21 Python
canvas 阴影和图形变换的示例代码
2018/01/02 HTML / CSS
StubHub巴西:购买和出售您的门票
2016/07/22 全球购物
参观接待方案
2014/03/17 职场文书
社区党建工作方案
2014/06/10 职场文书
学校法制宣传月活动总结
2014/07/03 职场文书
2015年毕业实习工作总结
2015/05/29 职场文书
运动会800米赞词
2015/07/22 职场文书
2016公司新年问候语
2015/11/11 职场文书
2016年清明节寄语
2015/12/04 职场文书
nginx优化的六点方法
2021/03/31 Servers
java objectUtils 使用可能会出现的问题
2022/02/28 Java/Android
以下牛机,你有几个
2022/04/05 无线电
Win10服务全部禁用了怎么启动?Win10服务全部禁用解决方法
2022/09/23 数码科技