Tez 跑一段sql报错,莫名其妙
错误图片:
以上内容看的头晕目眩的:
具体错误内容是没有发现,因为这个问题不总是出现,在调度跑的时候就会出现,发现错误后,重跑就没有问题了 ,很是奇怪的,看错误内容,大概是有两个方向,就是内存不够然后进程被container给kill 了 ,不给个错误提示,也是醉人,不吉利。
查看上面日志的cmd:
yarn logs -applicationId application_1544766080243_0018
大概能猜的可能就是两个方法避免这个错误了 :
1)
设置下driver 的内存
暂时还没有找到怎么设置
2)
设置container的内存
hive.tez.container.size = 4096