将string类型的数据类型转换为spark rdd时报错的解决方法


Posted in Python onFebruary 18, 2019

在将string类型的数据类型转换为spark rdd时,一直报这个错,StructType can not accept object %r in type %s” % (obj, type(obj)))

.
.
.
s = str(tree)
y = str(YESTERDAY)
list0 = [s, y]
outRes = self.sc.parallelize(list0)
df_tree = outRes.toDF("model: string, dt: string").registerTempTable("temp")
.
.
.

查了半天的资料,问了不少同事都没能解决掉这个bug。最后终于google到一个类似的case,终于把问题解决。记录一下!

.
.
.
s = str(tree)
y = str(YESTERDAY)
list0 = [s, y]
outRes = self.sc.parallelize([list0])
df_tree = outRes.toDF("model: string, dt: string").registerTempTable("temp")
.
.
.

上面的问题办法是,将sc.parallelize([list0])中的list0再转成一个整体list,问题即可解决。

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对三水点靠木的支持。如果你想了解更多相关内容请查看下面相关链接

Python 相关文章推荐
python将人民币转换大写的脚本代码
Feb 10 Python
python连接mysql数据库示例(做增删改操作)
Dec 31 Python
python面向对象_详谈类的继承与方法的重载
Jun 07 Python
python实现给微信公众号发送消息的方法
Jun 30 Python
Windows 8.1 64bit下搭建 Scrapy 0.22 环境
Nov 18 Python
Python3.4学习笔记之常用操作符,条件分支和循环用法示例
Mar 01 Python
Python+OpenCV采集本地摄像头的视频
Apr 25 Python
利用Python检测URL状态
Jul 31 Python
Python如何操作office实现自动化及win32com.client的运用
Apr 01 Python
关于 Python json中load和loads区别
Nov 07 Python
python保存图片的四个常用方法
Feb 28 Python
python playwrigh框架入门安装使用
Jul 23 Python
对Python3使运行暂停的方法详解
Feb 18 #Python
解决python线程卡死的问题
Feb 18 #Python
Python中时间datetime的处理与转换用法总结
Feb 18 #Python
对python中的try、except、finally 执行顺序详解
Feb 18 #Python
python调用matlab的m自定义函数方法
Feb 18 #Python
在Python文件中指定Python解释器的方法
Feb 18 #Python
Python字符串逆序的实现方法【一题多解】
Feb 18 #Python
You might like
如何在PHP中使用Oracle数据库(2)
2006/10/09 PHP
PHP获取浏览器信息类和客户端地理位置的2个方法
2014/04/24 PHP
php计算两个坐标(经度,纬度)之间距离的方法
2015/04/17 PHP
thinkPHP框架可添加js事件的分页类customPage.class.php完整实例
2017/03/16 PHP
setTimeout与setInterval在不同浏览器下的差异
2010/01/24 Javascript
jquery操作checkbox示例分享
2014/07/21 Javascript
Angular用来控制元素的展示与否的原生指令介绍
2015/01/07 Javascript
javascript实用方法总结
2015/02/06 Javascript
javascript基于DOM实现省市级联下拉框的方法
2015/05/14 Javascript
js表单登陆验证示例
2016/10/19 Javascript
jquery实现input框获取焦点的方法
2017/02/06 Javascript
javascript九宫格图片随机打乱位置的实现方法
2017/03/15 Javascript
vue实现表格增删改查效果的实例代码
2017/07/18 Javascript
用最少的JS代码写出贪吃蛇游戏
2018/01/12 Javascript
微信小程序项目实践之主页tab选项实现
2018/07/18 Javascript
vue2.0移动端滑动事件vue-touch的实例代码
2018/11/27 Javascript
微信小程序时间标签和时间范围的联动效果
2019/02/15 Javascript
vue路由守卫+登录态管理实例分析
2019/05/21 Javascript
layui 根据后台数据动态创建下拉框并同时默认选中的实例
2019/09/02 Javascript
Vue组件跨层级获取组件操作
2020/07/27 Javascript
Python实现的几个常用排序算法实例
2014/06/16 Python
python实现的简单猜数字游戏
2015/04/04 Python
使用tensorflow实现线性回归
2018/09/08 Python
python获取磁盘号下盘符步骤详解
2019/06/19 Python
pip安装python库的方法总结
2019/08/02 Python
LODI女鞋在线商店:阿利坎特的鞋类品牌
2019/02/15 全球购物
JavaScript实现前端网页版倒计时
2021/03/24 Javascript
精彩的推荐信范文
2013/11/26 职场文书
大一新生学期自我评价
2014/04/09 职场文书
2014年综合治理工作总结
2014/11/20 职场文书
家长会欢迎词
2015/01/23 职场文书
社团个人总结范文
2015/03/05 职场文书
关于运动会的广播稿
2015/08/19 职场文书
Python中json.load()和json.loads()有哪些区别
2021/06/07 Python
详解Oracle块修改跟踪功能
2021/11/07 Oracle
SpringBoot详解自定义Stater的应用
2022/07/15 Java/Android