一种GPU资源的分配方法及系统

摘要

本发明公开一种GPU资源的分配方法及系统，涉及计算机技术领域，可以解决高优先级的kernel程序得不到及时响应的问题。本发明实施例通过全局逻辑控制器从核kernel状态寄存器表中确定待分发kernel程序；从SM状态寄存器表中查找能够运行至少一个完整线程块block的SM；当未查找到能够运行至少一个完整block的SM时，从SM状态寄存器表中查找第一SM，第一SM为能够运行至少一个线程束warp的SM；当查找到第一SM时，将待分发kernel程序中的block分发给第一SM；当未查找到第一SM时，查找第二SM，进而将待分发kernel程序中的block分发给第二SM。本发明实施例提供的方案适于GPU资源分配时采用。

主权项

一种图形处理器GPU资源的分配方法，其特征在于，所述方法应用于GPU资源的分配系统中，所述系统包括全局逻辑控制器以及至少两个能够与所述全局逻辑控制器通信的流式多处理器SM，所述方法包括：所述全局逻辑控制器从核kernel状态寄存器表中确定待分发kernel程序，所述kernel状态寄存器表中包括每个未完成运行的kernel程序的优先级以及每个未完成运行的kernel程序中未分发的线程块block数量，所述待分发kernel程序为所述kernel状态寄存器表中优先级最高且未分发的block数量不为零的kernel程序；所述全局逻辑控制器从SM状态寄存器表中查找能够运行至少一个完整block的SM，所述SM状态寄存器表中包括每个SM中的剩余资源量以及每个SM中block的最高优先级；当所述全局逻辑控制器未查找到能够运行至少一个完整block的SM时，从所述SM状态寄存器表中查找第一SM，所述第一SM为能够运行至少一个线程束warp的SM；当所述全局逻辑控制器查找到所述第一SM时，将所述待分发kernel程序中的block分发给所述第一SM；当所述全局逻辑控制器未查找到所述第一SM时，查找第二SM，所述第二SM中block的最高优先级低于所述待分发kernel程序的优先级；当所述全局逻辑控制器查找到所述第二SM时，将所述待分发kernel程序中的block分发给所述第二SM。