spark dataframe 将一列展开,把该列所有值都变成新列的方法


Posted in Python onJanuary 29, 2019

The original dataframe

spark dataframe 将一列展开,把该列所有值都变成新列的方法

需求:hour代表一天的24小时,现在要将hour列展开,每一个小时都作为一个列

实现:

val pivots = beijingGeoHourPopAfterDrop.groupBy("geoHash").pivot("hour").sum("countGeoPerHour").na.fill(0)

并且统计了对应的countGeoPerHour的和,如果有些行没有这个新列对应的数据,将用null填充

The new dataframe

spark dataframe 将一列展开,把该列所有值都变成新列的方法

以上这篇spark dataframe 将一列展开,把该列所有值都变成新列的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python中xrange用法分析
Apr 15 Python
python爬虫入门教程--利用requests构建知乎API(三)
May 25 Python
Python md5与sha1加密算法用法分析
Jul 14 Python
Python及Django框架生成二维码的方法分析
Jan 31 Python
python监控进程脚本
Apr 12 Python
Python运维之获取系统CPU信息的实现方法
Jun 11 Python
pandas 快速处理 date_time 日期格式方法
Nov 12 Python
Python学习笔记之变量、自定义函数用法示例
May 28 Python
python Event事件、进程池与线程池、协程解析
Oct 25 Python
Python3打包exe代码2种方法实例解析
Feb 17 Python
通过代码实例解析Pytest运行流程
Aug 20 Python
PyQt实现计数器的方法示例
Jan 18 Python
Python使用ctypes调用C/C++的方法
Jan 29 #Python
dataframe 按条件替换某一列中的值方法
Jan 29 #Python
Numpy之random函数使用学习
Jan 29 #Python
pandas DataFrame 删除重复的行的实现方法
Jan 29 #Python
使用Python向DataFrame中指定位置添加一列或多列的方法
Jan 29 #Python
Python Pexpect库的简单使用方法
Jan 29 #Python
在Pandas中DataFrame数据合并,连接(concat,merge,join)的实例
Jan 29 #Python
You might like
PHP执行shell脚本运行程序不产生core文件的方法
2016/12/28 PHP
PHP排序算法之冒泡排序(Bubble Sort)实现方法详解
2018/04/20 PHP
jquery text,radio,checkbox,select操作实现代码
2009/07/09 Javascript
javascript 读取XML数据,在页面中展现、编辑、保存的实现
2009/10/27 Javascript
海量经典的jQuery插件集合
2010/01/12 Javascript
JavaScript 放大镜 放大倍率和视窗尺寸
2011/05/09 Javascript
JS比较两个时间大小的简单示例代码
2013/12/20 Javascript
详解JS函数重载
2014/12/04 Javascript
jQuery插件简单实现方法
2015/07/18 Javascript
在easyUI开发中,出现jquery.easyui.min.js函数库问题的解决办法
2015/09/11 Javascript
微信小程序 获取设备信息 API实例详解
2016/10/02 Javascript
js鼠标按键事件和键盘按键事件用法实例汇总
2016/10/03 Javascript
利用Javascript实现简单的转盘抽奖
2017/02/13 Javascript
JavaScript实现离开页面前提示功能【附jQuery实现方法】
2017/09/26 jQuery
Angular6 用户自定义标签开发的实现方法
2019/01/08 Javascript
Vue项目路由刷新的实现代码
2019/04/17 Javascript
微信小程序 checkbox使用实例解析
2019/09/09 Javascript
js实现图片无缝循环轮播
2019/10/28 Javascript
vue 弹出遮罩层样式实例
2020/07/22 Javascript
解决Mint-ui 框架Popup和Datetime Picker组件滚动穿透的问题
2020/11/04 Javascript
element-ui 弹窗组件封装的步骤
2021/01/22 Javascript
[43:51]2018DOTA2亚洲邀请赛3月30日 小组赛B组 EG VS Secret
2018/03/31 DOTA
[36:05]完美世界DOTA2联赛循环赛 Forest vs DM 第一场 11.06
2020/11/06 DOTA
Python编程判断这天是这一年第几天的方法示例
2017/04/18 Python
浅析python参数的知识点
2018/12/10 Python
Pytorch 之修改Tensor部分值方式
2019/12/27 Python
python操作redis数据库的三种方法
2020/09/10 Python
html5将图片转换成base64的实例代码
2016/09/21 HTML / CSS
戴尔加拿大官网:Dell加拿大
2016/09/17 全球购物
欧洲著名的珠宝和手表网上商城:uhrcenter
2017/04/10 全球购物
澳大利亚人信任的清洁平台,您的私人管家:Jarvis
2020/12/25 全球购物
师范生自荐信范文
2013/10/06 职场文书
计算机大学生职业生涯规划书范文
2014/02/19 职场文书
先进事迹报告会主持词
2014/04/02 职场文书
董事长岗位职责
2015/02/13 职场文书
详解Golang如何实现支持随机删除元素的堆
2022/09/23 Python