python中将string类型的数据类型转换为spark rdd时报错怎么办
这篇文章主要介绍python中将string类型的数据类型转换为spark rdd时报错怎么办,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!
在将string类型的数据类型转换为spark rdd时,一直报这个错,StructType can not accept object %r in type %s” % (obj, type(obj)))
. . . s = str(tree) y = str(YESTERDAY) list0 = [s, y] outRes = self.sc.parallelize(list0) df_tree = outRes.toDF("model: string, dt: string").registerTempTable("temp") . . .
查了半天的资料,问了不少同事都没能解决掉这个bug。最后终于google到一个类似的case,终于把问题解决。记录一下!
. . . s = str(tree) y = str(YESTERDAY) list0 = [s, y] outRes = self.sc.parallelize([list0]) df_tree = outRes.toDF("model: string, dt: string").registerTempTable("temp") . . .
上面的问题办法是,将sc.parallelize([list0])
中的list0
再转成一个整体list
,问题即可解决。
以上是“python中将string类型的数据类型转换为spark rdd时报错怎么办”这篇文章的所有内容,感谢各位的阅读!希望分享的内容对大家有帮助,更多相关知识,欢迎关注行业资讯频道!