您好,欢迎来到化拓教育网。
搜索
您的当前位置:首页用spark-submit将py提交到yarn时警告Neither spark.yarn.jars nor spark.yarn.archive is set

用spark-submit将py提交到yarn时警告Neither spark.yarn.jars nor spark.yarn.archive is set

来源:化拓教育网

用spark-submit将py提交到yarn时警告

WARN Client: Neither spark.yarn.jars nor spark.yarn.archive is set, falling back to uploading libraries under SPARK_HOME.

解决办法

到SPARK_HOME中找到jars文件夹,将它们打包

jar cv0f spark-libs.jar -C $SPARK_HOME/jars/ .
hdfs dfs -put spark-libs.jar /spark/jars

然后再到$SPARK_HOME/conf/spark-env.sh中添加

spark.yarn.archive  hdfs://localhost:8020/spark/jars/spark-libs.jar

保存即可

因篇幅问题不能全部显示,请点此查看更多更全内容

Copyright © 2019- huatuo9.cn 版权所有 赣ICP备2023008801号-1

违法及侵权请联系:TEL:199 18 7713 E-MAIL:2724546146@qq.com

本站由北京市万商天勤律师事务所王兴未律师提供法律服务