宜宾网站建设公司

SPARK启动历史任务查看-创新互联

SPARK历史任务查看需要一下配置:

网站制作、网站设计的开发，更需要了解用户，从用户角度来建设网站，获得较好的用户体验。创新互联建站多年互联网经验，见的多，沟通容易、能帮助客户提出的运营建议。作为成都一家网络公司，打造的就是网站建设产品直销的概念。选择创新互联建站，不只是建站，我们把建站作为产品，不断的更新、完善，让每位来访用户感受到浩方产品的价值服务。

  1. 修改spark-defaults.conf配置文件

    1.  spark.eventLog.enabled       true

    2.  spark.eventLog.dir            hdfs://192.168.9.110:9000/eventLogs

    3.  spark.eventLog.compress      true

  2. 修改spark-env.sh配置文件

    1. export SPARK_HISTORY_OPTS="-Dspark.history.ui.port=18080 -Dspark.history.retainedApplications=3 -Dspark.history.fs.logDirectory=hdfs://DEV-HADOOP-01:9000/sparkHistoryLogs"

  3. 以上两个配置中spark.eventLog.dir和SPARK_HISTORY_OPTS都用到了hdfs来存储历史任务的日志信息.所以需要提前在hdfs中新建这两个目录 hdfs://192.168.9.110:9000/eventLogs和hdfs://DEV-HADOOP-01:9000/sparkHistoryLogs

    1. 进入hadoop的bin目录 命令 :  cd /data/server/hadoop-2.6.0/bin

    2. 新建hdfs://192.168.9.110:9000/eventLogs命令 : ./hadoop dfs -mkdir /eventLogs

    3. 新建hdfs://DEV-HADOOP-01:9000/sparkHistoryLogs命令 : ./hadoop dfs -mkdir /sparkHistoryLogs

  4. 重启spark集群

  5. 启动历史任务进程

    1. sbin/start-history-server.sh

  6. 历史任务进程启动验证

    1. 执行jps命令,出现HistoryServer进程

  7. 查看历史任务Web UI

    1. http://192.168.9.110:18080/

另外有需要云服务器可以了解下创新互联scvps.cn，海内外云服务器15元起步，三天无理由+7*72小时售后在线，公司持有idc许可证，提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案，具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势，专为企业上云打造定制，能够满足用户丰富、多元化的应用场景需求。


文章题目：SPARK启动历史任务查看-创新互联
标题来源：http://ybzwz.com/article/djeish.html

其他资讯