分布式数据处理方法、装置及系统

摘要

本发明实施例提供一种分布式数据处理方法、装置及系统，该分布式数据处理方法包括：根据获取到的上传节点指示信息和工作节点发送的任务获取请求生成映射Map任务，其中，上传节点指示信息包括多个数据块分别对应的工作节点的地址，Map任务对应的数据块分布在发送任务获取请求的工作节点上；将Map任务分配给工作节点，以使工作节点对Map任务对应的数据块进行相应地处理。本发明实施例提供的分布式数据处理方法、装置及系统，避免了分布式数据处理过程中各工作节点间的数据迁移造成的网络流量大的问题，也避免了磁盘读写所占用的系统资源，提高系统的分布式数据处理效果。

主权项

一种分布式数据处理方法，其特征在于，包括：根据获取到的上传节点指示信息和工作节点发送的任务获取请求生成映射Map任务，其中，所述上传节点指示信息包括多个数据块分别对应的工作节点的地址，所述Map任务对应的数据块分布在发送所述任务获取请求的工作节点上；将所述Map任务分配给所述工作节点，以使所述工作节点对所述Map任务对应的数据块进行相应地处理。