CSpace  > 大数据挖掘及应用中心
一种兼顾负载均衡的Hadoop集群动态节能方法
田文洪; 李国忠; 陈瑜; 黄超杰; 杨吴同
2016-11-15
摘要Hadoop集群广泛应用于企业和研究机构的大数据处理和并行计算中。该文针对Hadoop集群节点管理中缺少动态负载均衡和节能相互结合的调度技术的现状,提出一种动态负反馈调整算法,并设计和实现了一个用于Hadoop平台节点动态管理的系统。通过大量Hadoop经典测试用例测试,结果表明:该算法能够有效提高负载均衡并通过减少节点的空闲时间以有效地节能,与未使用本算法的结果相比,节点平均空闲休眠时间增加25%,节能14%。同时通过与其他算法相比,节点间均衡度有一定程度提升,平均负载方差减少10%。
关键词分布式计算 Hadoop 调度算法 动态负载均衡 节能调度
发表期刊清华大学学报(自然科学版)
期号11页码:1226-1231
语种中文