将string类型的数据类型转换为spark rdd时报错的解决方法


Posted in Python onFebruary 18, 2019

在将string类型的数据类型转换为spark rdd时,一直报这个错,StructType can not accept object %r in type %s” % (obj, type(obj)))

.
.
.
s = str(tree)
y = str(YESTERDAY)
list0 = [s, y]
outRes = self.sc.parallelize(list0)
df_tree = outRes.toDF("model: string, dt: string").registerTempTable("temp")
.
.
.

查了半天的资料,问了不少同事都没能解决掉这个bug。最后终于google到一个类似的case,终于把问题解决。记录一下!

.
.
.
s = str(tree)
y = str(YESTERDAY)
list0 = [s, y]
outRes = self.sc.parallelize([list0])
df_tree = outRes.toDF("model: string, dt: string").registerTempTable("temp")
.
.
.

上面的问题办法是,将sc.parallelize([list0])中的list0再转成一个整体list,问题即可解决。

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对三水点靠木的支持。如果你想了解更多相关内容请查看下面相关链接

Python 相关文章推荐
php使用递归与迭代实现快速排序示例
Jan 23 Python
python中子类继承父类的__init__方法实例
Dec 15 Python
Tornado Web Server框架编写简易Python服务器
Jul 28 Python
解决PyCharm的Python.exe已经停止工作的问题
Nov 29 Python
Python面向对象程序设计示例小结
Jan 30 Python
Python时间序列缺失值的处理方法(日期缺失填充)
Aug 11 Python
python机器学习实现决策树
Nov 11 Python
使用pandas 将DataFrame转化成dict
Dec 10 Python
使用python的turtle函数绘制一个滑稽表情
Feb 28 Python
python使用openpyxl操作excel的方法步骤
May 28 Python
python保留格式汇总各部门excel内容的实现思路
Jun 01 Python
基于python的matplotlib制作双Y轴图
Apr 20 Python
对Python3使运行暂停的方法详解
Feb 18 #Python
解决python线程卡死的问题
Feb 18 #Python
Python中时间datetime的处理与转换用法总结
Feb 18 #Python
对python中的try、except、finally 执行顺序详解
Feb 18 #Python
python调用matlab的m自定义函数方法
Feb 18 #Python
在Python文件中指定Python解释器的方法
Feb 18 #Python
Python字符串逆序的实现方法【一题多解】
Feb 18 #Python
You might like
php读取html并截取字符串的简单代码
2009/11/30 PHP
几种有用的变型 PHP中循环语句的用法介绍
2012/01/30 PHP
php断点续传之如何分割合并文件
2014/03/22 PHP
php头像上传预览实例代码
2017/05/02 PHP
PHP从零开始打造自己的MVC框架之类的自动加载实现方法详解
2019/06/03 PHP
thinkPHP框架乐观锁和悲观锁实例分析
2019/10/30 PHP
Laravel实现批量更新多条数据
2020/04/06 PHP
[HTML/CSS/Javascript]WWTJS
2007/09/25 Javascript
通过隐藏option实现select的联动效果
2009/11/10 Javascript
JavaScript基础语法让人疑惑的地方小结
2012/05/23 Javascript
页面按钮禁用与解除禁用的方法
2014/02/19 Javascript
jQuery实现指定内容滚动同时左侧或其它地方不滚动的方法
2015/08/08 Javascript
javascript如何定义对象数组
2016/06/07 Javascript
js中DOM三级列表(代码分享)
2017/03/20 Javascript
Vue中 key keep-alive的实现原理
2018/09/18 Javascript
js中关于Blob对象的介绍与使用
2019/11/29 Javascript
解决echarts echarts数据动态更新和dataZoom被重置问题
2020/07/20 Javascript
浅谈JavaScript中this的指向问题
2020/07/28 Javascript
Python脚本实现DNSPod DNS动态解析域名
2015/02/14 Python
python获取中文字符串长度的方法
2018/11/14 Python
Django组件content-type使用方法详解
2019/07/19 Python
pip安装python库的方法总结
2019/08/02 Python
详解Python中的format格式化函数的使用方法
2019/11/20 Python
使用Python进行防病毒免杀解析
2019/12/13 Python
PyQT5 emit 和 connect的用法详解
2019/12/13 Python
python利用百度云接口实现车牌识别的示例
2020/02/21 Python
巴西最好的男鞋:Rafarillo
2018/05/25 全球购物
The North Face北面美国官网:美国著名户外品牌
2018/09/15 全球购物
介绍一下linux文件系统分配策略
2013/02/25 面试题
称象教学反思
2014/02/03 职场文书
2015年党风廉政承诺书
2015/01/22 职场文书
大学开学典礼新闻稿
2015/07/17 职场文书
2016年“世界气象日”广播稿
2015/12/17 职场文书
创业计划书之小型广告公司
2019/10/22 职场文书
mysql 8.0.24版本安装配置方法图文教程
2021/05/12 MySQL
Python利用folium实现地图可视化
2021/05/23 Python