苏泽湛 发表于 2019-1-31 06:09:13

Spark 参数传递问题解析

  一 . sparkconf这个需要在代码里面写,在代码里面写了,那么就不能更改了,即便你在外面传递了一个参数,最终也会在代码里面生效,它的优先级最高
  二 . sparksubmit / spark-shell等脚本,一般在这里面传递,针对我这个应用的参数
  三 . 配置文件在conf 目录下,注意如果需要让参数生效,得template去掉: 默认的,全局的
  

  

  这三个地方都可以设置参数,如果说,我们对同样一个参数进行设置,最终是哪个地方生效
  这三个地方的优先级是: sparkconf > sparksubmit > 配置文件
  




页: [1]
查看完整版本: Spark 参数传递问题解析