一种用于异构众核系统下的应用程序线程数动态调整方法

摘要

本发明公开了一种用于异构众核系统下的应用程序线程数动态调整方法，该方法以异构众核硬件架构特征和程序运行时动态阶段性变化的特性为基础，通过采集反映程序性能变化的系统级性能计数器的状态信息，利用预测模型实时估计出最优的线程数，以此为指导动态的对应用程序的线程数进行调整。为保证合理的利用异构众核系统的计算资源来提高程序计算性能的同时降低系统能耗提供了一个有效的解决方法。

主权项

一种用于异构众核系统下的应用程序线程数动态调整方法，其特征在于，包括如下步骤：1)异构系统主机端主进程将程序循环部分代码分派到异构系统的协处理器上运行，通过系统硬件性能记数器获取程序在不同的线程数运行情况下的IPS₁和IPS_n的值，其中IPS₁为单个线程运行时程序每秒钟所处理的指令数，IPS_n为n个线程运行时程序每秒钟所处理的指令数；2)将收集到的状态信息IPS₁和不同线程数情况下的IPS_N值返回到CPU主机端；3)CPU主机端根据以下公式计算多线程运行时相对于单个线程运行时的相对周转时间f_n：$f_n=\frac{{\mathrm{TT}}_n}{{\mathrm{TT}}_1}=\frac{\frac{1}{{\mathrm{IPS}}_n}*\mathrm{SIP}}{\frac{1}{{\mathrm{IPS}}_1}*\mathrm{SIP}}=\frac{{\mathrm{IPS}}_1}{{\mathrm{IPS}}_n}---\left(1\right)$公式(1)中TT_n和TT₁分别表示多线程运行时程序的执行时间和单线程运行时的程序执行时间，SIP为程序总的指令数；3)根据公式(1)计算得到多组(f_n，n)值，利用最小二乘法，通过求解以下方程组：$\left\{\begin{array}{c}\alpha *\underset{n=1}{\overset{N}{\Sigma }}{(n-1)}^2+\beta *\underset{n=1}{\overset{N}{\Sigma }}(n^2-\frac{n^2-1}{n}-1)=\underset{n=1}{\overset{N}{\Sigma }}[n^2-(f_n+1)*n+f_n\\ \alpha *\underset{n=1}{\overset{N}{\Sigma }}\frac{(n^2-1)(n-1)}{n}+\beta *\underset{n=1}{\overset{N}{\Sigma }}\frac{{(n^2-1)}^2}{n^2}=\underset{n=1}{\overset{N}{\Sigma }}(n^2-\frac{n^2-1}{n}*f_n-1)\end{array}\right.$计算出最优线程数预测模型中的系数α，β的值，其中α表示所处理任务中的串行比例系数、β表示并行任务比例系统、γ表示额外开销对性能的影响因子；4)根据最优线程数预测模型：$n=\sqrt{\frac{\beta }{\gamma }}=\sqrt{\frac{\beta }{1-\alpha -\beta }}---\left(2\right)$计算最优线程数预测值n；5)将步骤3)中计算出的α和β的值代入公式(2)计算出最优线程数预测值n，将应用程序的线程数设为最优线程数n后重新在协处理器端运行应用程序；同时以最优线程数为标准将空闲的处理核及处理核内部的硬件线程关闭或置于非活动状态；6)程序在协处理器端运行的过程中，在一定的时间间隔内对程序的运行状态信息采集一次，并对程序的运行状态进行检测；如果检测到程序发生阶段性变化，则转到步骤2)；如果程序在协处理器端运行过程中没有检测到阶段性变化，则继续运行程序，直到程序运行结束；7)将协处理器端的运行结果返回给主机端，主机端继续执行整个应用程序的后继部分，遇到有循环部分则继续分派到协处理器端执行，即转到步骤1)；8)不断的迭代直到整个应用程序执行完成，从而实现了在应用程序运行的过程中动态的对线程数进行调整。