spark dataframe 将一列展开,把该列所有值都变成新列的方法


Posted in Python onJanuary 29, 2019

The original dataframe

spark dataframe 将一列展开,把该列所有值都变成新列的方法

需求:hour代表一天的24小时,现在要将hour列展开,每一个小时都作为一个列

实现:

val pivots = beijingGeoHourPopAfterDrop.groupBy("geoHash").pivot("hour").sum("countGeoPerHour").na.fill(0)

并且统计了对应的countGeoPerHour的和,如果有些行没有这个新列对应的数据,将用null填充

The new dataframe

spark dataframe 将一列展开,把该列所有值都变成新列的方法

以上这篇spark dataframe 将一列展开,把该列所有值都变成新列的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python 参数列表中的self 显式不等于冗余
Dec 01 Python
Python复制文件操作实例详解
Nov 10 Python
matplotlib 纵坐标轴显示数据值的实例
May 25 Python
python3.4实现邮件发送功能
May 28 Python
python开启摄像头以及深度学习实现目标检测方法
Aug 03 Python
Python 访问限制 private public的详细介绍
Oct 16 Python
python-itchat 获取微信群用户信息的实例
Feb 21 Python
python中删除某个元素的方法解析
Nov 05 Python
python matplotlib画盒图、子图解决坐标轴标签重叠的问题
Jan 19 Python
解决python-docx打包之后找不到default.docx的问题
Feb 13 Python
如何配置关联Python 解释器 Anaconda的教程(图解)
Apr 30 Python
python Autopep8实现按PEP8风格自动排版Python代码
Mar 02 Python
Python使用ctypes调用C/C++的方法
Jan 29 #Python
dataframe 按条件替换某一列中的值方法
Jan 29 #Python
Numpy之random函数使用学习
Jan 29 #Python
pandas DataFrame 删除重复的行的实现方法
Jan 29 #Python
使用Python向DataFrame中指定位置添加一列或多列的方法
Jan 29 #Python
Python Pexpect库的简单使用方法
Jan 29 #Python
在Pandas中DataFrame数据合并,连接(concat,merge,join)的实例
Jan 29 #Python
You might like
DSP接收机前端设想
2021/03/02 无线电
在 PHP 中使用随机数的三个步骤
2006/10/09 PHP
php var_export与var_dump 输出的不同
2013/08/09 PHP
php自定义的格式化时间示例代码
2013/12/05 PHP
PHP网页游戏学习之Xnova(ogame)源码解读(九)
2014/06/24 PHP
phpstorm配置Xdebug进行调试PHP教程
2014/12/01 PHP
php实现购物车功能(下)
2016/01/05 PHP
删除select中所有option选项jquery代码
2013/08/12 Javascript
Javascript表格翻页效果的具体实现
2013/10/05 Javascript
jQuery Timelinr实现垂直水平时间轴插件(附源码下载)
2016/02/16 Javascript
JQuery统计input和textarea文字输入数量(代码分享)
2016/12/29 Javascript
jQuery zTree树插件动态加载实例代码
2017/05/11 jQuery
聊聊那些使用前端Javascript实现的机器学习类库
2017/09/18 Javascript
全新打包工具parcel零配置vue开发脚手架
2018/01/11 Javascript
JS实现对json对象排序并删除id相同项功能示例
2018/04/18 Javascript
原生JS实现的轮播图功能详解
2018/08/06 Javascript
angular学习之动态创建表单的方法
2018/12/07 Javascript
详解小程序如何改变onLoad的执行时机
2019/11/01 Javascript
vue中是怎样监听数组变化的
2020/10/24 Javascript
Python functools模块学习总结
2015/05/09 Python
python之django母板页面的使用
2018/07/03 Python
Python使用combinations实现排列组合的方法
2018/11/13 Python
python字符串查找函数的用法详解
2019/07/08 Python
python可视化篇之流式数据监控的实现
2019/08/07 Python
pytorch查看torch.Tensor和model是否在CUDA上的实例
2020/01/03 Python
解决python3插入mysql时内容带有引号的问题
2020/03/02 Python
HTML5的文档结构和新增标签完全解析
2017/04/21 HTML / CSS
幼师自荐信
2013/10/26 职场文书
普师专业个人自荐信范文
2013/11/26 职场文书
千元咖啡店的创业计划书范文
2013/12/29 职场文书
学校元旦晚会方案
2014/02/19 职场文书
综治维稳工作汇报
2014/10/27 职场文书
2015年招聘工作总结
2014/12/12 职场文书
小学英语教学经验交流材料
2015/11/02 职场文书
品德与社会教学反思
2016/02/24 职场文书
Python Socket编程详解
2021/04/25 Python