上传者: 38642285
|
上传时间: 2022-06-15 09:15:45
|
文件大小: 387KB
|
文件类型: PDF
本篇博客,Alice为大家带来关于如何搭建Spark的on yarn集群模式的教程。
文章目录准备工作cluster模式client模式[了解]两种模式的区别
官方文档:
http://spark.apache.org/docs/latest/running-on-yarn.html
准备工作
安装启动Hadoop(需要使用HDFS和YARN,已经ok)
安装单机版Spark(已经ok)
注意:不需要集群,因为把Spark程序提交给YARN运行本质上是把字节码给YARN集群上的JVM运行,但是得有一个东西帮我去把任务提交上个YARN,所以需要一个单机版的Spark,里面的有spark-sh