spark dataframe 将一列展开,把该列所有值都变成新列的方法


Posted in Python onJanuary 29, 2019

The original dataframe

spark dataframe 将一列展开,把该列所有值都变成新列的方法

需求:hour代表一天的24小时,现在要将hour列展开,每一个小时都作为一个列

实现:

val pivots = beijingGeoHourPopAfterDrop.groupBy("geoHash").pivot("hour").sum("countGeoPerHour").na.fill(0)

并且统计了对应的countGeoPerHour的和,如果有些行没有这个新列对应的数据,将用null填充

The new dataframe

spark dataframe 将一列展开,把该列所有值都变成新列的方法

以上这篇spark dataframe 将一列展开,把该列所有值都变成新列的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
10款最好的Web开发的 Python 框架
Mar 18 Python
详解Tensorflow数据读取有三种方式(next_batch)
Feb 01 Python
python实现跨excel的工作表sheet之间的复制方法
May 03 Python
python操作excel的方法(xlsxwriter包的使用)
Jun 11 Python
python dataframe 输出结果整行显示的方法
Jun 14 Python
Python自定义一个类实现字典dict功能的方法
Jan 19 Python
解决Django 在ForeignKey中出现 non-nullable field错误的问题
Aug 06 Python
python和JavaScript哪个容易上手
Jun 23 Python
java字符串格式化输出实例讲解
Jan 06 Python
python 实现图片裁剪小工具
Feb 02 Python
PyQt5实现多张图片显示并滚动
Jun 11 Python
Python 中的Sympy详细使用
Aug 07 Python
Python使用ctypes调用C/C++的方法
Jan 29 #Python
dataframe 按条件替换某一列中的值方法
Jan 29 #Python
Numpy之random函数使用学习
Jan 29 #Python
pandas DataFrame 删除重复的行的实现方法
Jan 29 #Python
使用Python向DataFrame中指定位置添加一列或多列的方法
Jan 29 #Python
Python Pexpect库的简单使用方法
Jan 29 #Python
在Pandas中DataFrame数据合并,连接(concat,merge,join)的实例
Jan 29 #Python
You might like
php mysql Errcode: 28 终极解决方法
2009/07/01 PHP
php仿微信红包分配算法的实现方法
2016/05/13 PHP
PHP使用第三方即时获取物流动态实例详解
2017/04/27 PHP
XMLHTTP 乱码的解决方法(UTF8,GB2312 编码 解码)
2011/01/12 Javascript
基于jquery的web页面日期格式化插件
2011/11/15 Javascript
js操作iframe的一些方法介绍
2013/06/25 Javascript
JS获取农历日期具体实例
2013/11/14 Javascript
javascript定义变量时加var与不加var的区别
2014/12/22 Javascript
jQuery之动画效果大全
2016/11/09 Javascript
老生常谈combobox和combotree模糊查询
2017/04/17 Javascript
元素全屏的设置与监听实例
2017/11/28 Javascript
Vue实现active点击切换方法
2018/03/16 Javascript
对angular 实时更新模板视图的方法$apply详解
2018/10/09 Javascript
Vue中keep-alive的两种应用方式
2020/07/15 Javascript
9个JavaScript日常开发小技巧
2020/10/06 Javascript
原生js实现自定义滚动条
2021/01/20 Javascript
Python中解析JSON并同时进行自定义编码处理实例
2015/02/08 Python
为Python的web框架编写前端模版的教程
2015/04/30 Python
Django的数据模型访问多对多键值的方法
2015/07/21 Python
Python微信库:itchat的用法详解
2017/08/14 Python
Python greenlet和gevent使用代码示例解析
2020/04/01 Python
使用tensorflow框架在Colab上跑通猫狗识别代码
2020/04/26 Python
Python切片列表字符串如何实现切换
2020/08/06 Python
html5 video标签屏蔽右键视频另存为的js代码
2013/11/12 HTML / CSS
商场促销活动方案
2014/02/08 职场文书
教师试用期自我鉴定
2014/02/12 职场文书
新年抽奖获奖感言
2014/03/02 职场文书
一岗双责责任书
2014/04/15 职场文书
企业承诺书怎么写
2014/05/24 职场文书
学习型班组申报材料
2014/05/31 职场文书
机械制造专业大学生自我鉴定
2014/09/19 职场文书
给校长的一封检讨书
2014/09/20 职场文书
中学生学习保证书
2015/02/26 职场文书
男方家长婚礼答谢词
2015/09/29 职场文书
goland 设置project gopath的操作
2021/05/06 Golang
Python基本知识点总结
2022/04/07 Python