一种基于CUDA实现多任务共享GPU的方法

摘要

本发明公开了一种基于CUDA实现多任务共享GPU的方法。包括：在Global Memory中建立映射表，确定合并后的Kernel中，每个Block执行的任务编号和任务分块编号；一次用一个Kernel启动N个Block，N等于所有任务的任务分块数目之和；用标记和阻塞等待的方法，满足原有任务之间的约束关系；对于Shared Memory，采用预申请和静态分配的方式进行多任务共享。通过本发明，可以简便地实现在现有GPU硬件架构上实现多任务共享，可以简化实际应用中的编程工作，并在一定情况下取得良好的性能。