将string类型的数据类型转换为spark rdd时报错的解决方法


Posted in Python onFebruary 18, 2019

在将string类型的数据类型转换为spark rdd时,一直报这个错,StructType can not accept object %r in type %s” % (obj, type(obj)))

.
.
.
s = str(tree)
y = str(YESTERDAY)
list0 = [s, y]
outRes = self.sc.parallelize(list0)
df_tree = outRes.toDF("model: string, dt: string").registerTempTable("temp")
.
.
.

查了半天的资料,问了不少同事都没能解决掉这个bug。最后终于google到一个类似的case,终于把问题解决。记录一下!

.
.
.
s = str(tree)
y = str(YESTERDAY)
list0 = [s, y]
outRes = self.sc.parallelize([list0])
df_tree = outRes.toDF("model: string, dt: string").registerTempTable("temp")
.
.
.

上面的问题办法是,将sc.parallelize([list0])中的list0再转成一个整体list,问题即可解决。

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对三水点靠木的支持。如果你想了解更多相关内容请查看下面相关链接

Python 相关文章推荐
Python常用的爬虫技巧总结
Mar 28 Python
Python 详解基本语法_函数_返回值
Jan 22 Python
python中numpy基础学习及进行数组和矢量计算
Feb 12 Python
分析python动态规划的递归、非递归实现
Mar 04 Python
Python利用公共键如何对字典列表进行排序详解
May 19 Python
基于pycharm导入模块显示不存在的解决方法
Oct 13 Python
用python3教你任意Html主内容提取功能
Nov 05 Python
Python中super函数用法实例分析
Mar 18 Python
python itchat实现调用微信接口的第三方模块方法
Jun 11 Python
Python 3.8 新功能全解
Jul 25 Python
Python Socketserver实现FTP文件上传下载代码实例
Mar 27 Python
Python3通过chmod修改目录或文件权限的方法示例
Jun 08 Python
对Python3使运行暂停的方法详解
Feb 18 #Python
解决python线程卡死的问题
Feb 18 #Python
Python中时间datetime的处理与转换用法总结
Feb 18 #Python
对python中的try、except、finally 执行顺序详解
Feb 18 #Python
python调用matlab的m自定义函数方法
Feb 18 #Python
在Python文件中指定Python解释器的方法
Feb 18 #Python
Python字符串逆序的实现方法【一题多解】
Feb 18 #Python
You might like
编写漂亮的代码 - 将后台程序与前端程序分开
2008/04/23 PHP
.htaccess文件保护实例讲解
2011/02/06 PHP
PHP FTP操作类代码( 上传、拷贝、移动、删除文件/创建目录)
2014/05/10 PHP
JavaScript触发器详解
2007/03/10 Javascript
运用jquery实现table单双行不同显示并能单行选中
2009/07/25 Javascript
IE的有条件注释判定IE版本详解(附实例代码)
2012/01/04 Javascript
修改js Calendar日历控件 兼容IE9/谷歌/火狐
2013/01/04 Javascript
复制js对象方法(详解)
2013/07/08 Javascript
Javascript 遮罩层和加载效果代码
2013/08/01 Javascript
jQuery中DOM操作实例分析
2015/01/23 Javascript
JQuery实现鼠标滚轮滑动到页面节点
2015/07/28 Javascript
jQuery实现平滑滚动的标签分栏切换效果
2015/08/28 Javascript
jQuery实现两款有动画功能的导航菜单代码
2015/09/16 Javascript
vuejs父子组件之间数据交互详解
2017/08/09 Javascript
详解vue2 $watch要注意的问题
2017/09/08 Javascript
ES6 Iterator接口和for...of循环用法分析
2019/07/31 Javascript
vue新建项目并配置标准路由过程解析
2019/12/09 Javascript
Vue自定义全局弹窗组件操作
2020/08/11 Javascript
用python 制作图片转pdf工具
2015/01/30 Python
实例讲解Python中global语句下全局变量的值的修改
2016/06/16 Python
Python迭代器和生成器定义与用法示例
2018/02/10 Python
对Python中for复合语句的使用示例讲解
2018/11/01 Python
springboot配置文件抽离 git管理统 配置中心详解
2019/09/02 Python
一款纯css3实现的非常实用的鼠标悬停特效演示
2014/11/05 HTML / CSS
加拿大品牌鞋包连锁店:Little Burgundy
2021/02/28 全球购物
澳大利亚网上书店:QBD
2021/01/09 全球购物
行政部主管岗位职责
2013/12/28 职场文书
写给老婆的检讨书
2014/02/21 职场文书
大学毕业感言200字
2014/03/09 职场文书
关于奉献的演讲稿
2014/05/21 职场文书
2014国庆黄金周超市促销活动方案
2014/09/21 职场文书
群众路线对照检查剖析材料
2014/10/09 职场文书
2015年班级工作总结范文
2015/04/03 职场文书
酒桌上的开场白
2015/06/01 职场文书
2016初一新生军训心得体会
2016/01/11 职场文书
小学一年级数学教学反思
2016/02/16 职场文书