Hadoop的参数怎么调优
本篇内容主要讲解“Hadoop的参数怎么调优”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“Hadoop的参数怎么调优”吧!
网站建设哪家好,找成都创新互联公司!专注于网页设计、网站建设、微信开发、微信小程序定制开发、集团企业网站建设等服务项目。为回馈新老客户创新互联还提供了牧野免费建站欢迎大家使用!
1、搭建集群之前,在hdfs-site.xml中提前配置好多目录
2、dfs.nammenode.handler.count=20*log2(集群总数量),是namenode线程池,处理datanode的心跳、客户端请求等
3、editslog存储路径dfs.nammenode.edits.dir 和 dfs.nammenode.name.dir 分开配置
4、yarn物理内存默认8g,任务如果卡死可以调低下,不会动态分配,yarn.nodemanager.resource.memory-mb
5、mr的参数优化,环形缓冲区大小io.sort.mb 默认100M ,可根据集群性能调整;溢写文件百分比io.sort.spill.percent 默认80%,可根据集群性能调至90%~95%,以及map任务个数和reduce拉取个数的调整。
到此,相信大家对“Hadoop的参数怎么调优”有了更深的了解,不妨来实际操作一番吧!这里是创新互联网站,更多相关内容可以进入相关频道进行查询,关注我们,继续学习!
网站标题:Hadoop的参数怎么调优
文章链接:http://ybzwz.com/article/gjdhps.html