sophon中pyspark配置yarn模式

  使用配置, 第三方对接
内容纲要

使用的notebook镜像

sophon中包含两种notebook镜像:sparkmagic和native-spark

sparkmagic默认复用sophon会话资源,使用该镜像可以直接提交到TDH的yarn上处理。
native-spark不默认复用app,以此镜像对提交集群模式作说明。

native-spark使用集群模式的说明

连接自定义集群

spark默认连接的集群配置文件保存于环境变量HADOOP_CONF_DIR,默认为/etc/yarnN/conf。如果要对接其他集群,将配置文件持久化到此路径。

开启安全的情况

开启安全的情况下需要先进行认证,否则会超时。如果使用的是非TDH资源,将krb5.conf持久化到镜像/etc/krb5.conf。可以正确获取到kdc后,使用kinit鉴权即可。

这篇文章对您有帮助吗?

平均评分 0 / 5. 次数: 0

尚无评价,您可以第一个评哦!

非常抱歉,这篇文章对您没有帮助.

烦请您告诉我们您的建议与意见,以便我们改进,谢谢您。