问题的来源:
由于在hive工具运行sql,出现sql卡顿的情况,去cdh上查看yarn资源的分布情况,发现了整个cdh平台中hdfs和yarn资源分布不均匀,大量的爆红显示:
以下 DataNode 数据目录 位于小于其可用空间 10.0 吉字节 的文件系统中。 /data1/dfs/dn(可用:7.2 吉字节 (3.66%),容量:196.7 吉字
不良 : 运行良好的 NodeManager:5。存在隐患的 NodeManager:0。 NodeManager 总数:10。运行良好:50.00%。运行良好或存在隐患:50.00%。 临界阈值:90.00%。
并且发现了yarn中的资源节点直接掉了
针对以上错误,利用以下操作方案:
可以达到资源的再平衡处理
还可以使用命令行;
hdfs balancer -help