spark dataframe 将一列展开,把该列所有值都变成新列的方法


Posted in Python onJanuary 29, 2019

The original dataframe

spark dataframe 将一列展开,把该列所有值都变成新列的方法

需求:hour代表一天的24小时,现在要将hour列展开,每一个小时都作为一个列

实现:

val pivots = beijingGeoHourPopAfterDrop.groupBy("geoHash").pivot("hour").sum("countGeoPerHour").na.fill(0)

并且统计了对应的countGeoPerHour的和,如果有些行没有这个新列对应的数据,将用null填充

The new dataframe

spark dataframe 将一列展开,把该列所有值都变成新列的方法

以上这篇spark dataframe 将一列展开,把该列所有值都变成新列的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
在Django的URLconf中使用命名组的方法
Jul 18 Python
Python使用pygame模块编写俄罗斯方块游戏的代码实例
Dec 08 Python
Python实现各种排序算法的代码示例总结
Dec 11 Python
python入门基础之用户输入与模块初认识
Nov 14 Python
python针对excel的操作技巧
Mar 13 Python
python统计字母、空格、数字等字符个数的实例
Jun 29 Python
python实现可变变量名方法详解
Jul 01 Python
在自动化中用python实现键盘操作的方法详解
Jul 19 Python
使用python将最新的测试报告以附件的形式发到指定邮箱
Sep 20 Python
Pytorch 使用不同版本的cuda的方法步骤
Apr 02 Python
python批量修改文件名的示例
Sep 27 Python
Python自动操作神器PyAutoGUI的使用教程
Jun 16 Python
Python使用ctypes调用C/C++的方法
Jan 29 #Python
dataframe 按条件替换某一列中的值方法
Jan 29 #Python
Numpy之random函数使用学习
Jan 29 #Python
pandas DataFrame 删除重复的行的实现方法
Jan 29 #Python
使用Python向DataFrame中指定位置添加一列或多列的方法
Jan 29 #Python
Python Pexpect库的简单使用方法
Jan 29 #Python
在Pandas中DataFrame数据合并,连接(concat,merge,join)的实例
Jan 29 #Python
You might like
浅析PHP类的反射来实现依赖注入过程
2018/02/06 PHP
让你的博客飘雪花超出屏幕依然看得见
2013/01/04 Javascript
jquery.boxy弹出框(后隔N秒后自动隐藏/自动跳转)
2013/01/15 Javascript
jquery中使用$(#form).submit()重写提交表单无效原因分析及解决
2013/03/25 Javascript
jQuery实现彩带延伸效果的网页加载条loading动画
2015/10/29 Javascript
JavaScript如何实现组合列表框中元素移动效果
2016/03/01 Javascript
基于jQuery和hwSlider实现内容左右滑动切换效果附源码下载(一)
2016/06/22 Javascript
jQuery使用animate实现ul列表项相互飘动效果示例
2016/09/16 Javascript
微信小程序 网络API 上传、下载详解
2016/11/09 Javascript
jquery广告无缝轮播实例
2017/01/05 Javascript
JavaScript中this的用法及this在不同应用场景的作用解析
2017/04/13 Javascript
详解webpack解惑:require的五种用法
2017/06/09 Javascript
Fetch超时设置与终止请求详解
2019/05/18 Javascript
基于JavaScript伪随机正态分布代码实例
2019/11/07 Javascript
微信小程序返回上一页传参并刷新过程解析
2019/12/13 Javascript
vue-cli3项目升级到vue-cli4 的方法总结
2020/03/19 Javascript
jquery插件实现轮播图效果
2020/10/19 jQuery
在vant中使用时间选择器和popup弹出层的操作
2020/11/04 Javascript
[14:19]2018年度COSER大赛-完美盛典
2018/12/16 DOTA
pandas中Timestamp类用法详解
2017/12/11 Python
Python Pandas 如何shuffle(打乱)数据
2019/07/30 Python
用Pelican搭建一个极简静态博客系统过程解析
2019/08/22 Python
Django如何在不停机的情况下创建索引
2020/08/02 Python
python中str内置函数用法总结
2020/12/27 Python
基于Python实现天天酷跑功能
2021/01/06 Python
Gweniss格温妮丝女包官网:英国纯手工制造潮流包包品牌
2018/02/07 全球购物
英国女性时尚精品店:THE DRESSING ROOM
2018/05/23 全球购物
英国名牌服装购物网站:OD’s Designer
2019/09/02 全球购物
乌克兰最大的家用电器和电子产品连锁店:Eldorado
2019/10/02 全球购物
英国买鞋网站:Charles Clinkard
2019/11/14 全球购物
怎么写自荐书范文
2014/02/12 职场文书
《爱如茉莉》教后反思
2014/04/12 职场文书
施工安全标语
2014/06/07 职场文书
辩护词格式
2015/05/22 职场文书
2019年销售人员的职业生涯规划书
2019/03/25 职场文书
MySQL5.7并行复制原理及实现
2021/06/03 MySQL