将string类型的数据类型转换为spark rdd时报错的解决方法


Posted in Python onFebruary 18, 2019

在将string类型的数据类型转换为spark rdd时,一直报这个错,StructType can not accept object %r in type %s” % (obj, type(obj)))

.
.
.
s = str(tree)
y = str(YESTERDAY)
list0 = [s, y]
outRes = self.sc.parallelize(list0)
df_tree = outRes.toDF("model: string, dt: string").registerTempTable("temp")
.
.
.

查了半天的资料,问了不少同事都没能解决掉这个bug。最后终于google到一个类似的case,终于把问题解决。记录一下!

.
.
.
s = str(tree)
y = str(YESTERDAY)
list0 = [s, y]
outRes = self.sc.parallelize([list0])
df_tree = outRes.toDF("model: string, dt: string").registerTempTable("temp")
.
.
.

上面的问题办法是,将sc.parallelize([list0])中的list0再转成一个整体list,问题即可解决。

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对三水点靠木的支持。如果你想了解更多相关内容请查看下面相关链接

Python 相关文章推荐
Python(Tornado)模拟登录小米抢手机
Nov 12 Python
Python实现简单拆分PDF文件的方法
Jul 30 Python
利用Python获取操作系统信息实例
Sep 02 Python
分析经典Python开发工程师面试题
Apr 08 Python
Django web框架使用url path name详解
Apr 29 Python
详解用python写网络爬虫-爬取新浪微博评论
May 10 Python
Python中的上下文管理器相关知识详解
Sep 19 Python
python 多进程队列数据处理详解
Dec 23 Python
python实现多进程按序号批量修改文件名的方法示例
Dec 30 Python
python实现密码强度校验
Mar 18 Python
python如何控制进程或者线程的个数
Oct 16 Python
详解Anaconda安装tensorflow报错问题解决方法
Nov 01 Python
对Python3使运行暂停的方法详解
Feb 18 #Python
解决python线程卡死的问题
Feb 18 #Python
Python中时间datetime的处理与转换用法总结
Feb 18 #Python
对python中的try、except、finally 执行顺序详解
Feb 18 #Python
python调用matlab的m自定义函数方法
Feb 18 #Python
在Python文件中指定Python解释器的方法
Feb 18 #Python
Python字符串逆序的实现方法【一题多解】
Feb 18 #Python
You might like
PHP 函数语法介绍一
2009/06/14 PHP
Discuz 模板语句分析及知识技巧
2009/08/21 PHP
通俗易懂的php防注入代码
2010/04/07 PHP
克隆一个新项目的快捷方式
2013/04/10 PHP
PHP中常用的三种设计模式详解【单例模式、工厂模式、观察者模式】
2019/06/14 PHP
Prototype Template对象 学习
2009/07/19 Javascript
如何让div span等元素能响应键盘事件操作指南
2012/11/13 Javascript
深入理解JavaScript系列(39):设计模式之适配器模式详解
2015/03/04 Javascript
jQuery实现的淡入淡出二级菜单效果代码
2015/09/15 Javascript
基于BootStrap与jQuery.validate实现表单提交校验功能
2016/12/22 Javascript
Angular.js中ng-include用法及多标签页面的实现方式详解
2017/05/07 Javascript
es6学习之解构时应该注意的点
2017/08/29 Javascript
详解React Native 屏幕适配(炒鸡简单的方法)
2018/06/11 Javascript
微信小程序中转义字符的处理方法
2019/03/28 Javascript
Vue组件间通信方法总结(父子组件、兄弟组件及祖先后代组件间)
2019/04/17 Javascript
node删除、复制文件或文件夹示例代码
2019/08/13 Javascript
vue quill editor 使用富文本添加上传音频功能
2020/01/14 Javascript
React中Ref 的使用方法详解
2020/04/28 Javascript
Object.keys() 和 Object.getOwnPropertyNames() 的区别详解
2020/05/21 Javascript
原生js实现表格循环滚动
2020/11/24 Javascript
JS实现简易日历效果
2021/01/25 Javascript
Python多线程threading和multiprocessing模块实例解析
2018/01/29 Python
对pandas中apply函数的用法详解
2018/04/10 Python
利用pyinstaller将py文件打包为exe的方法
2018/05/14 Python
python 判断矩阵中每行非零个数的方法
2019/01/26 Python
python批量修改ssh密码的实现
2019/08/08 Python
基于pytorch 预训练的词向量用法详解
2020/01/06 Python
Python库skimage绘制二值图像代码实例
2020/04/10 Python
django的autoreload机制实现
2020/06/03 Python
Python+pyftpdlib实现局域网文件互传
2020/08/24 Python
css sprite简单实例
2016/05/23 HTML / CSS
Algenist奥杰尼官网:微藻抗衰老护肤品牌
2017/07/15 全球购物
介绍一下Linux文件的记录形式
2012/04/18 面试题
党员志愿者服务倡议书
2015/04/29 职场文书
致运动员加油稿
2015/07/21 职场文书
2016年班主任培训心得体会
2016/01/07 职场文书