1 MapReduce跑的慢的原因
MapReduce程序效率的瓶颈在于两点:
1)计算机性能:CPU、内存、磁盘、网络
2)I/O操作优化
(1)数据倾斜
(2)Map运行时间太长,导致Reduce等待过久
(3)小文件过多
2 MapReduce常用调优参数
MapTask阶段:
ReduceTask阶段:
3 MapReduce数据倾斜问题
大部分任务运行结束,只有部分任务还在运行,且时间很长。通常数据倾斜发生在Reduce阶段。
数据频率倾斜——某一个区域的数据量要远远大于其他区域。
数据大小倾斜——部分记录的大小远远大于平均值。
减少数据倾斜的方法:
(1)首先检查是否空值过多造成的数据倾斜
生产环境,可以直接过滤掉空值;如果想保留空值,就自定义分区,将空值加随机数打散。最后再二次聚合。
**(2)能在map阶段提前处理,最好先在Map阶段处理。**如:Combiner、MapJoin。
(3)设置多个reduce个数。