将string类型的数据类型转换为spark rdd时报错的解决方法


Posted in Python onFebruary 18, 2019

在将string类型的数据类型转换为spark rdd时,一直报这个错,StructType can not accept object %r in type %s” % (obj, type(obj)))

.
.
.
s = str(tree)
y = str(YESTERDAY)
list0 = [s, y]
outRes = self.sc.parallelize(list0)
df_tree = outRes.toDF("model: string, dt: string").registerTempTable("temp")
.
.
.

查了半天的资料,问了不少同事都没能解决掉这个bug。最后终于google到一个类似的case,终于把问题解决。记录一下!

.
.
.
s = str(tree)
y = str(YESTERDAY)
list0 = [s, y]
outRes = self.sc.parallelize([list0])
df_tree = outRes.toDF("model: string, dt: string").registerTempTable("temp")
.
.
.

上面的问题办法是,将sc.parallelize([list0])中的list0再转成一个整体list,问题即可解决。

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对三水点靠木的支持。如果你想了解更多相关内容请查看下面相关链接

Python 相关文章推荐
Python模拟登陆淘宝并统计淘宝消费情况的代码实例分享
Jul 04 Python
Java与Python两大幸存者谁更胜一筹呢
Apr 12 Python
Python 3.7新功能之dataclass装饰器详解
Apr 21 Python
python通过微信发送邮件实现电脑关机
Jun 20 Python
python二维列表一维列表的互相转换实例
Jul 02 Python
Python定时任务sched模块用法示例
Jul 16 Python
elasticsearch python 查询的两种方法
Aug 04 Python
pandas的to_datetime时间转换使用及学习心得
Aug 11 Python
Spring实战之使用util:命名空间简化配置操作示例
Dec 09 Python
Python爬取腾讯视频评论的思路详解
Dec 19 Python
python GUI库图形界面开发之PyQt5信号与槽多窗口数据传递详细使用方法与实例
Mar 08 Python
python 多线程共享全局变量的优劣
Sep 24 Python
对Python3使运行暂停的方法详解
Feb 18 #Python
解决python线程卡死的问题
Feb 18 #Python
Python中时间datetime的处理与转换用法总结
Feb 18 #Python
对python中的try、except、finally 执行顺序详解
Feb 18 #Python
python调用matlab的m自定义函数方法
Feb 18 #Python
在Python文件中指定Python解释器的方法
Feb 18 #Python
Python字符串逆序的实现方法【一题多解】
Feb 18 #Python
You might like
php数组总结篇(一)
2008/09/30 PHP
php加密解密字符串示例
2016/10/13 PHP
laravel5.6实现数值转换
2019/10/23 PHP
IE和Firefox在JavaScript应用中的兼容性探讨
2008/04/01 Javascript
一个网马的tips实现分析
2010/11/28 Javascript
jquery命令汇总,方便使用jquery的朋友
2012/06/26 Javascript
javascript强制点击广告的方法
2015/02/06 Javascript
JS修改iframe页面背景颜色的方法
2015/04/01 Javascript
javascript异步处理工作机制详解
2015/04/13 Javascript
浅谈Javascript线程及定时机制
2015/07/02 Javascript
jquery结合html实现中英文页面切换
2016/11/29 Javascript
BootStrap Validator 版本差异问题导致的submitHandler失效问题的解决方法
2016/12/01 Javascript
js 判断数据类型的几种方法
2017/01/13 Javascript
jQuery中hover方法搭配css的hover选择器,实现选中元素突出显示方法
2017/05/08 jQuery
在一个页面实现两个zTree联动的方法
2017/12/20 Javascript
javascript深拷贝、浅拷贝和循环引用深入理解
2018/05/27 Javascript
Nodejs实现爬虫抓取数据实例解析
2018/07/05 NodeJs
使用原生JS实现火锅点餐小程序(面向对象思想)
2019/12/10 Javascript
vue proxy 的优势与使用场景实现
2020/06/15 Javascript
在Vue中获取自定义属性方法:data-id的实例
2020/09/09 Javascript
Ant Design的Table组件去除
2020/10/24 Javascript
Tensorflow之构建自己的图片数据集TFrecords的方法
2018/02/07 Python
python画图常规设置方式
2020/03/05 Python
Windows+Anaconda3+PyTorch+PyCharm的安装教程图文详解
2020/04/03 Python
python怎么判断模块安装完成
2020/06/19 Python
keras.utils.to_categorical和one hot格式解析
2020/07/02 Python
PyQt5-QDateEdit的简单使用操作
2020/07/12 Python
Python实现树莓派摄像头持续录像并传送到主机的步骤
2020/11/30 Python
html5定位并在百度地图上显示的示例
2014/04/27 HTML / CSS
结婚周年感言
2014/02/24 职场文书
关于安全的演讲稿
2014/05/09 职场文书
国际经济贸易专业自荐信
2014/06/13 职场文书
饭店服务员岗位职责
2015/02/09 职场文书
公司管理制度范本
2015/08/03 职场文书
前端学习——JavaScript原生实现购物车案例
2021/03/31 Javascript
el-form每行显示两列底部按钮居中效果的实现
2022/08/05 HTML / CSS