MAPREDUCE服务 MRS-常用参数:EventLog

时间:2024-04-10 09:06:18

EventLog

Spark应用在运行过程中,实时将运行状态以JSON格式写入文件系统,用于HistoryServer服务读取并重现应用运行时状态。

表16 参数说明

参数

描述

默认值

spark.eventLog.enabled

是否记录Spark事件,用于应用程序在完成后重构webUI。

true

spark.eventLog.dir

如果spark.eventLog.enabledtrue,记录Spark事件的目录。在此目录下,Spark为每个应用程序创建文件,并将应用程序的事件记录到文件中。用户也可设置为统一的与HDFS目录相似的地址,这样History server就可以读取历史文件。

hdfs://hacluster/spark2xJobHistory2x

spark.eventLog.compress

spark.eventLog.enabled为true时,是否压缩记录的事件。

false

support.huaweicloud.com/cmpntguide-lts-mrs/mrs_01_1931.html