一种面向MPSoC的稀疏网络负载均衡调度方法

摘要

本发明公开了一种面向MPSoC的稀疏网络负载均衡调度方法，包括：S1：获取输入当前层的特征图；S2：获取计算平台的硬件配置参数，通过动态构建特征图分块实现非零激活值的均衡加载；S3：获取当前网络层的权重参数，通过对卷积核进行分组合并实现非零权重值的均衡加载；S4：基于所述非零激活值的均衡加载和所述非零权重值的均衡加载，采用分层缓冲映射机制进行卷积计算与映射输出，实现稀疏网络负载均衡调度。本发明通过采用非零激活值和权重值的均衡加载策略，实现稀疏网络负载均衡调度，达到稀疏网络在基于分层映射的笛卡尔乘积‑结果哈希映射计算范式下推理阶段的计算负载均衡，从而提高稀疏网络推理加速性能。