将string类型的数据类型转换为spark rdd时报错的解决方法


Posted in Python onFebruary 18, 2019

在将string类型的数据类型转换为spark rdd时,一直报这个错,StructType can not accept object %r in type %s” % (obj, type(obj)))

.
.
.
s = str(tree)
y = str(YESTERDAY)
list0 = [s, y]
outRes = self.sc.parallelize(list0)
df_tree = outRes.toDF("model: string, dt: string").registerTempTable("temp")
.
.
.

查了半天的资料,问了不少同事都没能解决掉这个bug。最后终于google到一个类似的case,终于把问题解决。记录一下!

.
.
.
s = str(tree)
y = str(YESTERDAY)
list0 = [s, y]
outRes = self.sc.parallelize([list0])
df_tree = outRes.toDF("model: string, dt: string").registerTempTable("temp")
.
.
.

上面的问题办法是,将sc.parallelize([list0])中的list0再转成一个整体list,问题即可解决。

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对三水点靠木的支持。如果你想了解更多相关内容请查看下面相关链接

Python 相关文章推荐
python实现异步回调机制代码分享
Jan 10 Python
python获取图片颜色信息的方法
Mar 18 Python
Python装饰器实现几类验证功能做法实例
May 18 Python
Python爬虫DNS解析缓存方法实例分析
Jun 02 Python
Python插件virtualenv搭建虚拟环境
Nov 20 Python
python通过getopt模块如何获取执行的命令参数详解
Dec 29 Python
Python 基于wxpy库实现微信添加好友功能(简洁)
Nov 29 Python
python用WxPython库实现无边框窗体和透明窗体实现方法详解
Feb 21 Python
JetBrains PyCharm(Community版本)的下载、安装和初步使用图文教程详解
Mar 19 Python
python中matplotlib实现随鼠标滑动自动标注代码
Apr 23 Python
如何配置关联Python 解释器 Anaconda的教程(图解)
Apr 30 Python
Pycharm github配置实现过程图解
Oct 13 Python
对Python3使运行暂停的方法详解
Feb 18 #Python
解决python线程卡死的问题
Feb 18 #Python
Python中时间datetime的处理与转换用法总结
Feb 18 #Python
对python中的try、except、finally 执行顺序详解
Feb 18 #Python
python调用matlab的m自定义函数方法
Feb 18 #Python
在Python文件中指定Python解释器的方法
Feb 18 #Python
Python字符串逆序的实现方法【一题多解】
Feb 18 #Python
You might like
iis6+javascript Add an Extension File
2007/06/13 Javascript
javascript 清除输入框中的数据
2009/04/13 Javascript
JQuery困惑—包装集 DOM节点
2009/10/16 Javascript
jQuery Flash/MP3/Video多媒体插件
2010/01/18 Javascript
JavaScript中定义函数的三种方法
2015/03/12 Javascript
JQuery中ajax方法访问web服务实例
2015/07/18 Javascript
jQuery带进度条全屏图片轮播特效代码分享
2020/06/28 Javascript
深入探秘jquery瀑布流的实现
2016/01/30 Javascript
javascript鼠标右键菜单自定义效果
2020/12/08 Javascript
jQuery+CSS实现简单切换菜单示例
2016/07/27 Javascript
浅谈jquery选择器 :first与:first-child的区别
2016/11/20 Javascript
vue单页应用加百度统计代码(亲测有效)
2018/01/31 Javascript
js事件on动态绑定数据,绑定多个事件的方法
2018/09/15 Javascript
JavaScript中的this基本问题实例小结
2020/03/09 Javascript
[54:53]2014 DOTA2国际邀请赛中国区预选赛 LGD-GAMING VS CIS 第二场
2014/05/23 DOTA
python命令行参数sys.argv使用示例
2014/01/28 Python
Python写的一个简单DNS服务器实例
2014/06/04 Python
Python下载网络小说实例代码
2018/02/03 Python
Python Unittest自动化单元测试框架详解
2018/04/04 Python
Pycharm设置utf-8自动显示方法
2019/01/17 Python
django 邮件发送模块smtp使用详解
2019/07/22 Python
520使用Python实现“我爱你”表白
2020/05/20 Python
python爬虫基础知识点整理
2020/06/02 Python
django template实现定义临时变量,自定义赋值、自增实例
2020/07/12 Python
python,Java,JavaScript实现indexOf
2020/09/09 Python
利用python制作拼图小游戏的全过程
2020/12/04 Python
CSS3中的5个有趣的新技术
2009/04/02 HTML / CSS
明星员工获奖感言
2014/08/14 职场文书
党员批评与自我批评材料
2014/10/14 职场文书
2015新学期开学寄语
2015/02/26 职场文书
六一晚会主持词开场白
2015/05/28 职场文书
八年级作文之一起的走过日子
2019/09/17 职场文书
使用Oracle跟踪文件的问题详解
2021/06/28 Oracle
MyBatis-Plus 批量插入数据的操作方法
2021/09/25 Java/Android
德劲DE1102数字调谐收音机机评
2022/04/07 无线电
python绘制简单直方图(质量分布图)的方法
2022/04/21 Python