将string类型的数据类型转换为spark rdd时报错的解决方法


Posted in Python onFebruary 18, 2019

在将string类型的数据类型转换为spark rdd时,一直报这个错,StructType can not accept object %r in type %s” % (obj, type(obj)))

.
.
.
s = str(tree)
y = str(YESTERDAY)
list0 = [s, y]
outRes = self.sc.parallelize(list0)
df_tree = outRes.toDF("model: string, dt: string").registerTempTable("temp")
.
.
.

查了半天的资料,问了不少同事都没能解决掉这个bug。最后终于google到一个类似的case,终于把问题解决。记录一下!

.
.
.
s = str(tree)
y = str(YESTERDAY)
list0 = [s, y]
outRes = self.sc.parallelize([list0])
df_tree = outRes.toDF("model: string, dt: string").registerTempTable("temp")
.
.
.

上面的问题办法是,将sc.parallelize([list0])中的list0再转成一个整体list,问题即可解决。

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对三水点靠木的支持。如果你想了解更多相关内容请查看下面相关链接

Python 相关文章推荐
python实现爬虫下载漫画示例
Feb 16 Python
从零学Python之hello world
May 21 Python
Python实现向QQ群成员自动发邮件的方法
Nov 19 Python
win与linux系统中python requests 安装
Dec 04 Python
win10环境下python3.5安装步骤图文教程
Feb 03 Python
python pandas dataframe 行列选择,切片操作方法
Apr 10 Python
Python之pymysql的使用小结
Jul 01 Python
基于python实现自动化办公学习笔记(CSV、word、Excel、PPT)
Aug 06 Python
在jupyter notebook 添加 conda 环境的操作详解
Apr 10 Python
python 连续不等式语法糖实例
Apr 15 Python
Python计算矩阵的和积的实例详解
Sep 10 Python
Python中glob库实现文件名的匹配
Jun 18 Python
对Python3使运行暂停的方法详解
Feb 18 #Python
解决python线程卡死的问题
Feb 18 #Python
Python中时间datetime的处理与转换用法总结
Feb 18 #Python
对python中的try、except、finally 执行顺序详解
Feb 18 #Python
python调用matlab的m自定义函数方法
Feb 18 #Python
在Python文件中指定Python解释器的方法
Feb 18 #Python
Python字符串逆序的实现方法【一题多解】
Feb 18 #Python
You might like
php 服务器调试 Zend Debugger 的安装教程
2009/09/25 PHP
浅析PHP substr,mb_substr以及mb_strcut的区别和用法
2013/06/21 PHP
PHP计算日期相差天数实例分析
2016/02/23 PHP
解决laravel中日志权限莫名变成了root的问题
2019/10/17 PHP
thinkphp框架类库扩展操作示例
2019/11/26 PHP
JAVASCRIPT 对象的创建与使用
2021/03/09 Javascript
JQuery里面的几种选择器 查找满足条件的元素$("#控件ID")
2011/08/23 Javascript
疯狂Jquery第一天(Jquery学习笔记)
2012/05/11 Javascript
jQuery支持动态参数将函数绑定到事件上的方法
2015/03/17 Javascript
JavaScript知识点整理
2015/12/09 Javascript
Bootstrap select多选下拉框实现代码
2016/12/23 Javascript
jQuery简单实现MD5加密的方法
2017/03/03 Javascript
js实现时间轴自动排列效果
2017/03/09 Javascript
vue弹窗消息组件的使用方法
2020/09/24 Javascript
jQuery实现图片简单轮播功能示例
2018/08/13 jQuery
Spring boot 和Vue开发中CORS跨域问题解决
2018/09/05 Javascript
原生javascript实现连连看游戏
2019/01/03 Javascript
vue路由缓存的几种实现方式小结
2020/02/02 Javascript
JavaScript实现动态留言板
2020/03/16 Javascript
Vue项目页面跳转时浏览器窗口上方显示进度条功能
2020/03/26 Javascript
[01:15:44]首部DOTA2纪录片今日23时全网上映
2014/03/19 DOTA
[01:44]Ti10举办地公布
2019/08/25 DOTA
Python实现字符串逆序输出功能示例
2017/06/24 Python
TensorFlow 模型载入方法汇总(小结)
2018/06/19 Python
Face++ API实现手势识别系统设计
2018/11/21 Python
Django将默认的SQLite更换为MySQL的实现
2019/11/18 Python
python 并发下载器实现方法示例
2019/11/22 Python
通过代码实例了解Python3编程技巧
2020/10/13 Python
使用jquery实现HTML5响应式导航菜单教程
2014/04/02 HTML / CSS
Nixon手表英国官网:美国尼克松手表品牌
2020/02/10 全球购物
什么是Linux虚拟文件系统VFS
2012/01/31 面试题
物流专业大学生求职信范文
2013/10/28 职场文书
设备动力科岗位职责范本
2014/02/23 职场文书
办理房产过户的委托书
2014/09/14 职场文书
2015年招聘工作总结
2014/12/12 职场文书
优秀工作者事迹材料
2014/12/26 职场文书