spark dataframe 将一列展开,把该列所有值都变成新列的方法


Posted in Python onJanuary 29, 2019

The original dataframe

spark dataframe 将一列展开,把该列所有值都变成新列的方法

需求:hour代表一天的24小时,现在要将hour列展开,每一个小时都作为一个列

实现:

val pivots = beijingGeoHourPopAfterDrop.groupBy("geoHash").pivot("hour").sum("countGeoPerHour").na.fill(0)

并且统计了对应的countGeoPerHour的和,如果有些行没有这个新列对应的数据,将用null填充

The new dataframe

spark dataframe 将一列展开,把该列所有值都变成新列的方法

以上这篇spark dataframe 将一列展开,把该列所有值都变成新列的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
一些Python中的二维数组的操作方法
May 02 Python
Python函数返回值实例分析
Jun 08 Python
答题辅助python代码实现
Jan 16 Python
tensorflow建立一个简单的神经网络的方法
Feb 10 Python
使用python读取csv文件快速插入数据库的实例
Jun 21 Python
由Python编写的MySQL管理工具代码实例
Apr 09 Python
python基于itchat模块实现微信防撤回
Apr 29 Python
python过滤中英文标点符号的实例代码
Jul 15 Python
Pytorch实现神经网络的分类方式
Jan 08 Python
解决Python安装cryptography报错问题
Sep 03 Python
python 两种方法删除空文件夹
Sep 29 Python
Django用户认证系统如何实现自定义
Nov 12 Python
Python使用ctypes调用C/C++的方法
Jan 29 #Python
dataframe 按条件替换某一列中的值方法
Jan 29 #Python
Numpy之random函数使用学习
Jan 29 #Python
pandas DataFrame 删除重复的行的实现方法
Jan 29 #Python
使用Python向DataFrame中指定位置添加一列或多列的方法
Jan 29 #Python
Python Pexpect库的简单使用方法
Jan 29 #Python
在Pandas中DataFrame数据合并,连接(concat,merge,join)的实例
Jan 29 #Python
You might like
先进的自动咖啡技术,真的可以取代咖啡师吗?
2021/03/06 冲泡冲煮
PHP实现时间轴函数代码
2011/10/08 PHP
Thinkphp 空操作、空控制器、命名空间(详解)
2017/05/05 PHP
jquery 多级下拉菜单核心代码
2010/05/21 Javascript
jquery.cookie.js实现用户登录保存密码功能的方法
2016/04/15 Javascript
总结Javascript中数组各种去重的方法
2016/10/04 Javascript
使用socket.io实现简单聊天室案例
2018/01/02 Javascript
angular2/ionic2 实现搜索结果中的搜索关键字高亮的示例
2018/08/17 Javascript
vue+Element-ui实现登录注册表单
2020/11/17 Javascript
浅析VUE防抖与节流
2020/11/24 Vue.js
推荐11个实用Python库
2015/01/23 Python
python处理csv数据的方法
2015/03/11 Python
深入理解Python中变量赋值的问题
2017/01/12 Python
python添加模块搜索路径方法
2017/09/11 Python
flask中过滤器的使用详解
2018/08/01 Python
python 顺时针打印矩阵的超简洁代码
2018/11/14 Python
Python面向对象之类的封装操作示例
2019/06/08 Python
python采集百度搜索结果带有特定URL的链接代码实例
2019/08/30 Python
pycharm内无法import已安装的模块问题解决
2020/02/12 Python
CSS3支持IE6, 7, and 8的边框border属性
2012/12/28 HTML / CSS
老生常谈CSS中的长度单位
2016/06/27 HTML / CSS
html5中JavaScript removeChild 删除所有节点
2014/05/16 HTML / CSS
前端实现打印图像功能
2019/08/27 HTML / CSS
日本乐天德国站:Rakuten.de
2019/05/16 全球购物
PHP如何对用户密码进行加密
2014/07/31 面试题
会展中心部门工作职责
2013/11/27 职场文书
仓库门卫岗位职责
2013/12/22 职场文书
学生周末长期请假条
2014/02/15 职场文书
投资合作协议书范本
2014/04/17 职场文书
意向书范本
2014/07/29 职场文书
家庭财产分割协议书范本
2014/11/24 职场文书
2015年公务员转正工作总结
2015/04/24 职场文书
圆明园纪录片观后感
2015/06/03 职场文书
详解nginx进程锁的实现
2021/06/14 Servers
【海涛dota解说】DCG联赛第一周 LGD VS DH
2022/04/01 DOTA
Nginx 安装SSL证书完成HTTPS部署
2022/04/28 Servers