星火流正常关机
问题描述:
我看到有两个地方配置正常关机的选项:星火流正常关机
- 在定义火花的conf:
“spark.streaming.stopGracefullyOnShutdown”,“真”。
- 当停止流上下文:
JavaStreamingContext SCC;
scc.stop(真,真)
。这两个选项之间的差异?
感谢
答
第一种方式
sparkConf.set(“spark.streaming.stopGracefullyOnShutdown","true")
火花配置这个参数设置为true,确保在新的Spark版本的 适当的正常关机(1.4起) 应用。此外,我们不应该使用第一个明确的关机钩 方法或在驱动程序中调用
ssc.stop
方法以及此 参数。我们可以设置这个参数,然后调用方法ssc.start()
和ssc.awaitTermination()
。无需拨打ssc.stop
方法。否则应用程序可能在关机期间挂起
第二种方式 scc.stop(true,true)
的
scc.stop()
方法的第一个boolean变量是停止 相关火花背景下,而第二boolean变量为流媒体方面的 正常关机
这已明确提及herechandan prakash
希望这有助于!
我想补充说,要在纱线上运行时完成正常关机,必须提供一种机制来发出关机信号。例如,Spark应用程序应轮询文件,队列或其他输入源,然后正常停止。 –
如果我从主节点运行驱动程序,我假设我可以为gracefull关闭运行SIGTERM? – NirKa
感谢您的支持。 我加入sparkConf优美的语句,但现在,当我在火花执行SIGTERM时,立即关闭,我也得到有关预写日志的警告:在写记录”抛出的异常:BatchCleanupEvent(ArrayBuffer(1502800045000毫秒))写入WriteAheadLog 它有意义吗? –
NirKa