内容纲要
使用的notebook镜像
sophon中包含两种notebook镜像:sparkmagic和native-spark

sparkmagic默认复用sophon会话资源,使用该镜像可以直接提交到TDH的yarn上处理。
native-spark不默认复用app,以此镜像对提交集群模式作说明。
native-spark使用集群模式的说明
连接自定义集群
spark默认连接的集群配置文件保存于环境变量HADOOP_CONF_DIR,默认为/etc/yarnN/conf。如果要对接其他集群,将配置文件持久化到此路径。
开启安全的情况
开启安全的情况下需要先进行认证,否则会超时。如果使用的是非TDH资源,将krb5.conf持久化到镜像/etc/krb5.conf。可以正确获取到kdc后,使用kinit鉴权即可。

