发明名称 |
MapReduce架构中的资源管理方法、装置和架构系统 |
摘要 |
本发明实施例公开了一种用于MapReduce架构中的资源管理的方法、装置和MapReduce架构系统。该方法包括:确定Map任务的输入数据量和Map任务的输出数据量之比r以及Map输出结果中记录的平均大小R;确定一个Map资源槽对应的能够分配给Map任务的内存大小Memory_Size;根据所确定的r、R和Memory_Size,确定适合该Map任务的输入切片大小;以及将待处理的MapReduce作业中具有该输入切片大小的输入分片分配给占用该Map资源槽的Map任务。通过利用上述方法,可以尽量避免磁盘溢出,从而提高处理效率,避免资源浪费。 |
申请公布号 |
CN103970520A |
申请公布日期 |
2014.08.06 |
申请号 |
CN201310037826.0 |
申请日期 |
2013.01.31 |
申请人 |
国际商业机器公司 |
发明人 |
史巨伟;李立;邹嘉;于琦 |
分类号 |
G06F9/44(2006.01)I;G06F9/50(2006.01)I |
主分类号 |
G06F9/44(2006.01)I |
代理机构 |
中国国际贸易促进委员会专利商标事务所 11038 |
代理人 |
李镇江 |
主权项 |
一种用于MapReduce架构中的资源管理的方法,包括:确定Map任务的输入数据量和Map任务的输出数据量之比r以及Map输出结果中记录的平均大小R;确定一个Map资源槽对应的能够分配给Map任务的内存大小Memory_Size;根据所确定的r、R和Memory_Size,确定适合该Map任务的输入切片大小;以及将待处理的MapReduce作业中具有该输入切片大小的输入分片分配给占用该Map资源槽的Map任务。 |
地址 |
美国纽约 |