基于远程推理的分布式人工智能实践平台

摘要

本发明公开了一种基于远程推理的分布式人工智能实践平台，将人工智能模型划分为预处理组件、后处理组件和推理组件，将预处理组件和后处理组件运行在应用端，将推理组件运行在布置于神经网络计算设备上的模型端，多个应用端复用一个模型端的推理组件，或多个应用端通过集成服务器复用多个模型端的推理组件，实现了人工智能模型的推理。本发明通过将人工智能应用和神经网络计算设备进行分离，实现神经网络算力资源的远程复用，在降低人工智能实践平台构建成本的同时，还可提高教学实践的灵活性，从而提高人工智能教学质量。