一种算法集成服务框架系统

摘要

本发明公开了一种算法集成服务框架系统，包括算法集成框架底层基础服务Rmmt_daemon和上层应用sdk；基于管道(pipe)技术和共享内存技术相结合的，支持以消息方式实现跨进程消息传递与大内存块高效传输的一整套业务组件，能够实现大块数据在AI后端服务间的高效传输，但是在功能上弱于一般意义上“消息总线”。将本发明的算法集成服务框架系统运用于智能安防+AI的图像算法处理时，rmmt框架在单机4核心处理器(主频3.2GHz)上的TPS可达到10000左右(一个rmmt_daemon，挂2个上位进程)，在多线程场景下性能没有明显减少；在应用环境下(单机40路视频算法处理)，rmmt产生的额外CPU占用率在单核心的10％左右，大概比使用传统pipe/zmq减少了80％‑90％，并且内存占用也少了很多。