spark dataframe 将一列展开,把该列所有值都变成新列的方法


Posted in Python onJanuary 29, 2019

The original dataframe

spark dataframe 将一列展开,把该列所有值都变成新列的方法

需求:hour代表一天的24小时,现在要将hour列展开,每一个小时都作为一个列

实现:

val pivots = beijingGeoHourPopAfterDrop.groupBy("geoHash").pivot("hour").sum("countGeoPerHour").na.fill(0)

并且统计了对应的countGeoPerHour的和,如果有些行没有这个新列对应的数据,将用null填充

The new dataframe

spark dataframe 将一列展开,把该列所有值都变成新列的方法

以上这篇spark dataframe 将一列展开,把该列所有值都变成新列的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python如何将多个PDF进行合并
Aug 13 Python
Pytorch抽取网络层的Feature Map(Vgg)实例
Aug 20 Python
python tkinter组件使用详解
Sep 16 Python
Python函数的默认参数设计示例详解
Dec 01 Python
将python文件打包exe独立运行程序方法详解
Feb 12 Python
python 中的[:-1]和[::-1]的具体使用
Feb 13 Python
python递归调用中的坑:打印有值, 返回却None
Mar 16 Python
python多进程 主进程和子进程间共享和不共享全局变量实例
Apr 25 Python
用python给csv里的数据排序的具体代码
Jul 17 Python
详解torch.Tensor的4种乘法
Sep 03 Python
手把手教你从PyCharm安装到激活(最新激活码),亲测有效可激活至2089年
Nov 25 Python
python pygame 愤怒的小鸟游戏示例代码
Feb 25 Python
Python使用ctypes调用C/C++的方法
Jan 29 #Python
dataframe 按条件替换某一列中的值方法
Jan 29 #Python
Numpy之random函数使用学习
Jan 29 #Python
pandas DataFrame 删除重复的行的实现方法
Jan 29 #Python
使用Python向DataFrame中指定位置添加一列或多列的方法
Jan 29 #Python
Python Pexpect库的简单使用方法
Jan 29 #Python
在Pandas中DataFrame数据合并,连接(concat,merge,join)的实例
Jan 29 #Python
You might like
不用数据库的多用户文件自由上传投票系统(1)
2006/10/09 PHP
php项目打包方法
2008/02/18 PHP
PHP 压缩文件夹的类代码
2009/11/05 PHP
linux命令之调试工具strace的深入分析
2013/06/03 PHP
php实现插入排序
2015/03/29 PHP
php简单防盗链实现方法
2015/07/29 PHP
Yii框架分页实现方法详解
2017/05/20 PHP
Laravel Validator自定义错误返回提示消息并在前端展示
2019/05/09 PHP
用js得到网页中所有的div的id
2020/10/19 Javascript
使用Node.js实现一个简单的FastCGI服务器实例
2014/06/09 Javascript
jQuery事件绑定on()与弹窗实现代码
2016/04/28 Javascript
Javascript字符串拼接小技巧(推荐)
2016/06/02 Javascript
JS中如何实现点击a标签返回页面顶部的问题
2017/01/19 Javascript
小程序Request的另类用法详解
2019/08/09 Javascript
Django rstful登陆认证并检查session是否过期代码实例
2019/08/13 Python
wxPython绘图模块wxPyPlot实现数据可视化
2019/11/19 Python
python的slice notation的特殊用法详解
2019/12/27 Python
python 根据列表批量下载网易云音乐的免费音乐
2020/12/03 Python
李维斯牛仔裤英国官方网站:Levi’s英国
2019/10/10 全球购物
Laravel中Kafka的使用详解
2021/03/24 PHP
银行会计业务的个人自我评价
2013/11/02 职场文书
数控技术应届生求职信
2013/11/13 职场文书
金融事务专业毕业生求职信
2014/02/23 职场文书
颁奖晚会主持词
2014/03/25 职场文书
《青海高原一株柳》教学反思
2014/04/25 职场文书
大学运动会加油稿200字(5篇)
2014/09/27 职场文书
2014红色之旅心得体会
2014/10/07 职场文书
美国旅游签证工作证明
2014/10/14 职场文书
2014年幼儿园工作总结
2014/11/10 职场文书
酒店财务总监岗位职责
2015/04/03 职场文书
校长一岗双责责任书
2015/05/09 职场文书
建国大业观后感800字
2015/06/01 职场文书
幼儿园教师心得体会范文
2016/01/21 职场文书
MySQL数据库10秒内插入百万条数据的实现
2021/11/01 MySQL
SQL基础的查询语句
2021/11/11 MySQL
Netty客户端接入流程NioSocketChannel创建解析
2022/03/25 Java/Android