用于任务同步的方法和系统及系统中的主节点和工作节点

摘要

本申请提供了大规模并行计算系统中的任务同步方法、任务同步系统、任务同步系统中的主节点及任务同步系统中的工作节点。根据本申请，大规模并行计算系统中的任务同步方法包括主节点将一个作业中的多个任务分配给多个工作节点；每个工作节点在完成分配给该工作节点的属于同一作业的所有任务后向主节点发送同步消息；以及在接收到所有工作节点发送的同步消息后，主节点确定该作业完成一个超步。根据本申请，在每个工作节点完成分配给该工作节点的属于同一作业的所有任务后向主节点发送同步消息，避免了每个任务完成后直接向主节点发送同步消息，从而降低了主节点的负载和网络通信量。

主权项

一种大规模并行计算系统中的任务同步方法，包括：主节点将一个作业中的多个任务分配给多个工作节点；以及在接收到所有工作节点发送的同步消息后，所述主节点确定该作业完成一个超步，其中，来自每个工作节点的所述同步消息指示分配给该工作节点的属于同一作业的所有任务已完成。