将string类型的数据类型转换为spark rdd时报错的解决方法


Posted in Python onFebruary 18, 2019

在将string类型的数据类型转换为spark rdd时,一直报这个错,StructType can not accept object %r in type %s” % (obj, type(obj)))

.
.
.
s = str(tree)
y = str(YESTERDAY)
list0 = [s, y]
outRes = self.sc.parallelize(list0)
df_tree = outRes.toDF("model: string, dt: string").registerTempTable("temp")
.
.
.

查了半天的资料,问了不少同事都没能解决掉这个bug。最后终于google到一个类似的case,终于把问题解决。记录一下!

.
.
.
s = str(tree)
y = str(YESTERDAY)
list0 = [s, y]
outRes = self.sc.parallelize([list0])
df_tree = outRes.toDF("model: string, dt: string").registerTempTable("temp")
.
.
.

上面的问题办法是,将sc.parallelize([list0])中的list0再转成一个整体list,问题即可解决。

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对三水点靠木的支持。如果你想了解更多相关内容请查看下面相关链接

Python 相关文章推荐
Python入门_浅谈数据结构的4种基本类型
May 16 Python
详解Python list 与 NumPy.ndarry 切片之间的对比
Jul 24 Python
Python创建二维数组实例(关于list的一个小坑)
Nov 07 Python
Python实现的用户登录系统功能示例
Feb 05 Python
分析经典Python开发工程师面试题
Apr 08 Python
python程序变成软件的实操方法
Jun 24 Python
Python Pandas 转换unix时间戳方式
Dec 07 Python
tensorflow如何继续训练之前保存的模型实例
Jan 21 Python
Python要求O(n)复杂度求无序列表中第K的大元素实例
Apr 02 Python
Python中random模块常用方法的使用教程
Oct 04 Python
Python数据可视化常用4大绘图库原理详解
Oct 23 Python
Python实现疫情地图可视化
Feb 05 Python
对Python3使运行暂停的方法详解
Feb 18 #Python
解决python线程卡死的问题
Feb 18 #Python
Python中时间datetime的处理与转换用法总结
Feb 18 #Python
对python中的try、except、finally 执行顺序详解
Feb 18 #Python
python调用matlab的m自定义函数方法
Feb 18 #Python
在Python文件中指定Python解释器的方法
Feb 18 #Python
Python字符串逆序的实现方法【一题多解】
Feb 18 #Python
You might like
Windows下的PHP5.0安装配制详解
2006/09/05 PHP
第五节--克隆
2006/11/16 PHP
基于PHP CURL用法的深入分析
2013/06/09 PHP
php中call_user_func函数使用注意事项
2014/11/21 PHP
百度地图api应用标注地理位置信息(js版)
2013/02/01 Javascript
探讨jQuery的ajax使用场景(c#)
2013/12/03 Javascript
node.js中的fs.stat方法使用说明
2014/12/16 Javascript
jquery实现相册一下滑动两次的方法
2015/02/09 Javascript
如何选择jQuery版本 1.x? 2.x? 3.x?
2017/04/01 jQuery
NodeJS安装图文教程
2018/04/19 NodeJs
JS Math对象与Math方法实例小结
2019/07/05 Javascript
AI小程序之语音听写来了,十分钟掌握百度大脑语音听写全攻略
2020/03/13 Javascript
js绘制一条直线并旋转45度
2020/08/21 Javascript
vue中activated的用法
2021/01/03 Vue.js
Vue单页面应用中实现Markdown渲染
2021/02/14 Vue.js
[01:01:24]DOTA2上海特级锦标赛A组败者赛 EHOME VS CDEC第三局
2016/02/25 DOTA
[01:59]深扒TI7聊天轮盘语音出处 1
2017/05/11 DOTA
[02:07]TI9显影之尘系列 - Vici Gaming
2019/08/20 DOTA
python 数据加密代码
2008/12/24 Python
Python中输出ASCII大文字、艺术字、字符字小技巧
2015/04/28 Python
Python单例模式的两种实现方法
2017/08/14 Python
Python之reload流程实例代码解析
2018/01/29 Python
django框架事务处理小结【ORM 事务及raw sql,customize sql 事务处理】
2019/06/27 Python
python sorted函数原理解析及练习
2020/02/10 Python
利用 Python ElementTree 生成 xml的实例
2020/03/06 Python
python3 简单实现组合设计模式
2020/07/02 Python
thinkphp5 路由分发原理
2021/03/18 PHP
美国在线鲜花速递:ProFlowers
2017/01/05 全球购物
3个CCIE对一个工程师的面试题
2012/05/06 面试题
家长对孩子评语
2014/01/30 职场文书
知名企业招聘广告词大全
2014/03/18 职场文书
交警正风肃纪剖析材料
2014/10/29 职场文书
原告代理词范文
2015/05/25 职场文书
爱国主义教育基地观后感
2015/06/18 职场文书
成本低的5个创业项目:投资小、赚钱快
2019/08/20 职场文书
设置IIS Express并发数
2022/07/07 Servers