一种基于推迟提交的GPU虚拟化优化方法

摘要

本发明公开了一种基于推迟提交的GPU虚拟化优化方法。本方法为：1）客户机上的GPU虚拟化框架前端读入一待执行CUDA应用程序的二进制文件，查找并标记可推迟提交的循环；2）前端执行到可推迟提交的循环部分时，直到该循环结束之前，缓存所有的CUDA函数调用信息及其依赖关系，跳过该函数调用的执行，然后在该循环结束之后将该缓存信息一次发送到宿主机上的GPU虚拟化框架后端；3）后端根据该缓存信息重新构建函数调用并执行，然后将所有任务执行结果打包一次发送回前端；可推迟提交的循环指不去执行循环中的CUDA函数调用，循环依然可以正确执行。本发明减少了前后端通信的次数，从而对GPU虚拟化的性能进行优化。