spark报错INFO yarn.Client: Application report for application (state: ACCEPTED)解决

在生产环境中,spark的计算任务提交一般是用yarn模式来做提交的。

今天在自己搭建的集群测试yarn提交时候遇到以下报错,

20/08/27 23:04:15 INFO yarn.Client: Application report for application_1598539765305_0002 (state: ACCEPTED)
20/08/27 23:04:16 INFO yarn.Client: Application report for application_1598539765305_0002 (state: ACCEPTED)
20/08/27 23:04:17 INFO yarn.Client: Application report for application_1598539765305_0002 (state: ACCEPTED)

一直循环最后自动关闭,不能得到最后的计算结果。

原因是自己搭建的集群内存不足,因为自己的笔记本电脑是8G内存,搭建的虚拟机集群是3个节点,每个节点设置2G内存,用yarn模式提交spark任务一直不能成功。

解决:

1、因为电脑有一块固态硬盘,先调整笔记本电脑中虚拟内存的大小。我笔记本d盘是固态硬盘,所以把虚拟内存设置在d盘上,最大设成16G。在我的电脑图标右键属性,按照下图设置。

spark报错INFO yarn.Client: Application report for application (state: ACCEPTED)解决

2、虚拟机中内存大小即可调大,我分别调成4G、4G、3G。电脑还好不会卡。

spark报错INFO yarn.Client: Application report for application (state: ACCEPTED)解决

3、重新启动集群,用yarn提交任务即可成功。

spark报错INFO yarn.Client: Application report for application (state: ACCEPTED)解决