一种基于FPGA的深度学习动态模型剪裁推理系统及方法

摘要

本发明公开了一种基于FPGA的深度学习动态模型剪裁推理系统及方法，包括物联网终端，配置有若干，且每个物联网终端中均配置有FPGA加速卡，通过该FPGA加速卡实现硬件加速处理，并将硬件加速处理的数据信息上传；云中心，用于训练基于FPGA的深度学习模型，获取物联网终端的存储的数据，并根据该数据继续进行训练，再将训练获得的模型分发至各物联网终端。本发明的一种基于FPGA的深度学习动态模型剪裁推理系统及方法与现有技术相比，通过硬件加速处理推理任务，降低推理时延，满足实时性要求；云端和设备侧共同优化深度学习计算模型，持续提供设备侧FPGA深度学习计算能力，满足行业个性化需求，实用性强，适用范围广泛，具有很好的推广使用价值。