一种基于深度学习的大规模分布式推理引擎及系统

摘要

本发明提供一种基于深度学习的大规模分布式推理引擎及系统，包括API层；与API层连接的服务层；与服务层连接的原子层；与原子层连接的调度服务层；以及与调度服务层连接的组件层；服务层包括若干个服务单元；原子层包括若干个原子操作单元；组件层包括若干个公共组件；API层用于定制服务层的业务逻辑，通过对服务层中各个服务单元的组装完成特定的输入和输出；服务层用于定制原子层的业务逻辑，通过对原子层中各个原子操作单元的组装完成特定功能；原子操作单元用于进行编码操作以实现具体功能；调度服务层用于根据编码操作从组件层中调用对应的公共组件。