Spark学习: Spark-Scala-IntelliJ编译Jar包流程

Spark-Scala-IntelliJ编译可执行Jar包流程。

注意:非Maven环境下,本篇文章接住上一篇文章使用IntelliJ创建Spark项目

第1步:

点击File-project structure-Artifacts,点击+号添加如下
Spark学习: Spark-Scala-IntelliJ编译Jar包流程

第2步:

输入Main class名字(跟运行的主程序名字保持一致),这个可以通过箭头指到的…那里自动选择,防止自己输入错误,点击ok

Spark学习: Spark-Scala-IntelliJ编译Jar包流程

第3步:(重要提醒!!!否则运行出错严重)

勾选所有的Extracted的Jar包,点击—号去掉,并勾选include in project build

Spark学习: Spark-Scala-IntelliJ编译Jar包流程

第4步:

点击菜单栏build-build Artifacts-build,当左边目录下出现如下的的UserPaySeries.jar包时,编译成功。

Spark学习: Spark-Scala-IntelliJ编译Jar包流程

Spark学习: Spark-Scala-IntelliJ编译Jar包流程

Spark学习: Spark-Scala-IntelliJ编译Jar包流程
Spark学习: Spark-Scala-IntelliJ编译Jar包流程

第5步:

最后在控制台使用
spark-submit –class DataProcess.A_DataProcess UserPaySeries.jar 201804 085 >20180720log.txt

Spark学习: Spark-Scala-IntelliJ编译Jar包流程

运行成功啦!