发明名称 |
一种GPU资源的分配方法及系统 |
摘要 |
本发明公开一种GPU资源的分配方法及系统,涉及计算机技术领域,可以解决高优先级的kernel程序得不到及时响应的问题。本发明实施例通过全局逻辑控制器从kernel状态寄存器表中确定待分发kernel程序;全局逻辑控制器从SM状态寄存器表中查找能够运行至少一个完整block的SM,SM状态寄存器表用于存储每个SM中的剩余资源量;当全局逻辑控制器未查找到能够运行至少一个完整block的SM时,从SM状态寄存器表中查找第一SM,第一SM为能够运行至少一个warp的SM;当全局逻辑控制器查找到第一SM时,将待分发kernel程序中的block分发给第一SM。本发明实施例提供的方案适于GPU资源分配时采用。 |
申请公布号 |
CN106325995A |
申请公布日期 |
2017.01.11 |
申请号 |
CN201510345468.9 |
申请日期 |
2015.06.19 |
申请人 |
华为技术有限公司;中国科学院计算技术研究所 |
发明人 |
展旭升;王聪;包云岗 |
分类号 |
G06F9/50(2006.01)I |
主分类号 |
G06F9/50(2006.01)I |
代理机构 |
北京中博世达专利商标代理有限公司 11274 |
代理人 |
申健 |
主权项 |
一种图形处理器GPU资源的分配方法,其特征在于,所述方法应用于GPU资源的分配系统中,所述系统包括全局逻辑控制器以及至少两个能够与所述全局逻辑控制器通信的流式多处理器SM,所述方法包括:所述全局逻辑控制器从核kernel状态寄存器表中确定待分发kernel程序,所述kernel状态寄存器表中包括每个未完成运行的kernel程序的优先级以及每个未完成运行的kernel程序中未分发的线程块block数量,所述待分发kernel程序为所述kernel状态寄存器表中优先级最高且未分发的block数量不为零的kernel程序;所述全局逻辑控制器从SM状态寄存器表中查找能够运行至少一个完整block的SM,所述SM状态寄存器表用于存储每个SM中的剩余资源量;当所述全局逻辑控制器未查找到能够运行至少一个完整block的SM时,从所述SM状态寄存器表中查找第一SM,所述第一SM为能够运行至少一个线程束warp的SM;当所述全局逻辑控制器查找到所述第一SM时,将所述待分发kernel程序中的block分发给所述第一SM。 |
地址 |
518129 广东省深圳市龙岗区坂田华为总部办公楼 |