WEB开发网
开发学院服务器云计算 Hadoop集群部署配置文档2 阅读

Hadoop集群部署配置文档2

 2013-06-02 20:12:32 来源:WEB开发网   
核心提示: 2.4 mapred-site.xml的设置说明2.4.1 Jobtracker相关参数1) 参数mapred.job.tracker 默认值 local
 
2.4 mapred-site.xml的设置说明
2.4.1 Jobtracker相关参数
1) 参数mapred.job.tracker
默认值
local
说明
设定jobtracker的hostname和port。默认为local,表示所有的job会用local job runner来执行,而且只有一个mapper 及一个reducer。默认设定下,如果要启动jobtracker service反而会失败。一般常看到的设定是localhost:9001。跟core-site.xml中的fs.default.name一样,建议用 hostname来设定。
生产环境配置值
jt.xxxx.com:9001
 Tip:
2) 参数mapred.job.tracker.http.address
默认值
0.0.0.0:50030
说明
jobtracker Web UI用的port。除非为了security的考虑才会需要改 binding 的 IP/Port,不然不需要。
生产环境配置值
10.2.55.64:50030
 Tip:
3) 参数mapred.jobtracker.maxtasks.per.job
默认值
说明
每个job的最大任务数
生产环境配置值
200000
 Tip:
4) 参数mapred.jobtracker.completeuserjobs.maximum
默认值
100
说明
在jobtracker内存中保存已完成的job个数,并让使用者方便在jobtracker UI上查询。如果超过这个值的jobs ,就会写入disk 并放到job history中。这个设定值是依每个使用者而设的,所以使用者多而且 job 数也多的情況会造成 jobtracker 使用太多的内存,可能会导致致full GC 或 OOME。建议可以只设10。
生产环境配置值
30

上一页  10 11 12 13 14 15 16 17 18 19 20  下一页

Tags:Hadoop 集群 部署

编辑录入:爽爽 [复制链接] [打 印]
赞助商链接