将string类型的数据类型转换为spark rdd时报错的解决方法


Posted in Python onFebruary 18, 2019

在将string类型的数据类型转换为spark rdd时,一直报这个错,StructType can not accept object %r in type %s” % (obj, type(obj)))

.
.
.
s = str(tree)
y = str(YESTERDAY)
list0 = [s, y]
outRes = self.sc.parallelize(list0)
df_tree = outRes.toDF("model: string, dt: string").registerTempTable("temp")
.
.
.

查了半天的资料,问了不少同事都没能解决掉这个bug。最后终于google到一个类似的case,终于把问题解决。记录一下!

.
.
.
s = str(tree)
y = str(YESTERDAY)
list0 = [s, y]
outRes = self.sc.parallelize([list0])
df_tree = outRes.toDF("model: string, dt: string").registerTempTable("temp")
.
.
.

上面的问题办法是,将sc.parallelize([list0])中的list0再转成一个整体list,问题即可解决。

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对三水点靠木的支持。如果你想了解更多相关内容请查看下面相关链接

Python 相关文章推荐
Python获取apk文件URL地址实例
Nov 01 Python
使用Python编写类UNIX系统的命令行工具的教程
Apr 15 Python
python回调函数用法实例分析
May 09 Python
关于python的bottle框架跨域请求报错问题的处理方法
Mar 19 Python
Python实现字符串逆序输出功能示例
Jun 24 Python
Python面向对象程序设计中类的定义、实例化、封装及私有变量/方法详解
Feb 28 Python
PyCharm汉化安装及永久激活详细教程(靠谱)
Jan 16 Python
解决pyCharm中 module 调用失败的问题
Feb 12 Python
python如何解析复杂sql,实现数据库和表的提取的实例剖析
May 15 Python
利用python中的matplotlib打印混淆矩阵实例
Jun 16 Python
Python 防止死锁的方法
Jul 29 Python
Python特殊属性property原理及使用方法解析
Oct 09 Python
对Python3使运行暂停的方法详解
Feb 18 #Python
解决python线程卡死的问题
Feb 18 #Python
Python中时间datetime的处理与转换用法总结
Feb 18 #Python
对python中的try、except、finally 执行顺序详解
Feb 18 #Python
python调用matlab的m自定义函数方法
Feb 18 #Python
在Python文件中指定Python解释器的方法
Feb 18 #Python
Python字符串逆序的实现方法【一题多解】
Feb 18 #Python
You might like
3.从实例开始
2006/10/09 PHP
php文字水印和php图片水印实现代码(二种加水印方法)
2013/12/25 PHP
php生成短网址示例
2014/05/05 PHP
PHP使用memcache缓存技术提高响应速度的方法
2014/12/26 PHP
php生成圆角图片的方法
2015/04/07 PHP
php正则表达式获取内容所有链接
2015/07/24 PHP
两个Javascript小tip资料
2010/11/23 Javascript
JS阻止用户多次提交示例代码
2014/03/26 Javascript
JavaScript中的函数模式详解
2015/02/11 Javascript
浅析Nodejs npm常用命令
2016/06/14 NodeJs
javascript稀疏数组(sparse array)和密集数组用法分析
2016/12/28 Javascript
AngularJS中update两次出现$promise属性无法识别的解决方法
2017/01/05 Javascript
element UI upload组件上传附件格式限制方法
2018/09/04 Javascript
使用electron制作满屏心特效的示例代码
2018/11/27 Javascript
vue基础之使用get、post、jsonp实现交互功能示例
2019/03/12 Javascript
JavaScript多种页面刷新方法小结
2019/04/04 Javascript
javascript实现切割轮播效果
2019/11/28 Javascript
node.js实现http服务器与浏览器之间的内容缓存操作示例
2020/02/11 Javascript
js里面的变量范围分享
2020/07/18 Javascript
[03:48]2014DOTA2 TI专访71DK夺冠不靠小组赛高排名
2014/07/11 DOTA
[12:29]2018国际邀请赛 开幕秀
2018/08/22 DOTA
轻松掌握python设计模式之策略模式
2016/11/18 Python
浅析Python 读取图像文件的性能对比
2019/03/07 Python
使用python serial 获取所有的串口名称的实例
2019/07/02 Python
Python sys模块常用方法解析
2020/02/20 Python
详解python百行有效代码实现汉诺塔小游戏(简约版)
2020/10/30 Python
CSS3旋转——彩色扇子兼容firefox浏览器
2013/06/04 HTML / CSS
目前不被任何主流浏览器支持的CSS3属性汇总
2014/07/21 HTML / CSS
皮姆斯勒语言学习:Pimsleur Language Programs
2018/06/30 全球购物
一道SQL面试题
2012/12/31 面试题
清扬洗发水广告词
2014/03/14 职场文书
勤俭节约倡议书
2014/04/14 职场文书
最常使用的求职信
2014/05/25 职场文书
教师实习自我鉴定总结
2019/08/20 职场文书
详细分析PHP7与PHP5区别
2021/06/26 PHP
vue中控制mock在开发环境使用,在生产环境禁用方式
2022/04/06 Vue.js