Hadoop集群部署配置文档2
2013-06-02 20:12:32 来源:WEB开发网核心提示: 2.4 mapred-site.xml的设置说明2.4.1 Jobtracker相关参数1) 参数mapred.job.tracker 默认值 local
2.4 mapred-site.xml的设置说明
2.4.1 Jobtracker相关参数
1) 参数mapred.job.tracker
默认值
|
local
|
说明
|
设定jobtracker的hostname和port。默认为local,表示所有的job会用local job runner来执行,而且只有一个mapper 及一个reducer。默认设定下,如果要启动jobtracker service反而会失败。一般常看到的设定是localhost:9001。跟core-site.xml中的fs.default.name一样,建议用 hostname来设定。
|
生产环境配置值
|
jt.xxxx.com:9001
|
Tip:
2) 参数mapred.job.tracker.http.address
默认值
|
0.0.0.0:50030
|
说明
|
jobtracker Web UI用的port。除非为了security的考虑才会需要改 binding 的 IP/Port,不然不需要。
|
生产环境配置值
|
10.2.55.64:50030
|
Tip:
3) 参数mapred.jobtracker.maxtasks.per.job
默认值
|
|
说明
|
每个job的最大任务数
|
生产环境配置值
|
200000
|
Tip:
4) 参数mapred.jobtracker.completeuserjobs.maximum
默认值
|
100
|
说明
|
在jobtracker内存中保存已完成的job个数,并让使用者方便在jobtracker UI上查询。如果超过这个值的jobs ,就会写入disk 并放到job history中。这个设定值是依每个使用者而设的,所以使用者多而且 job 数也多的情況会造成 jobtracker 使用太多的内存,可能会导致致full GC 或 OOME。建议可以只设10。
|
生产环境配置值
|
30
|
更多精彩
赞助商链接