一种面向云计算的GPU虚拟化系统和方法

摘要

本发明涉及一种面向云计算的GPU虚拟化系统和方法，属于计算机领域。本发明将CUDA改造成为适用于多虚拟机系统的vCUDA。通过vCUDA多模块设计解决多虚拟机间资源通信和调度、在用户层拦截和重定向CUDA API、使用远程过程调用作为特殊的域间通信机制等方式，实现本专利GPU虚拟化技术。本发明设计vCUDA在云计算平台虚拟机上的实现方式，满足不同用户对GPU资源的复用，在虚拟机上实现通用并行计算。本发明通过用户层拦截和重定向CUDA API，不改变虚拟机和GPU自身内核，对原装软件和硬件无侵入。对于客户虚拟机上部署的CUDA应用程序而言，所有的操作都像发生在本地。可使云计算平台成为一个虚拟化GPU资源可用复用、可进行并行计算任务分发、调度可行有效率的计算平台。