一种基于DL框架下的分布式训练方法

摘要

本发明公开了一种基于DL框架下的分布式训练方法，该方法包括以下步骤：A1，通过调度层收集用户的GPU数量需求，通过调度算法将调配相应数量的GPU机器给集群；A2，集群通过gRPC框架调用训练任务参数信息传给AI底层框架；A3，AI底层进行环境初始化工作，创建用户任务容器并开始训练，同时将将训练过程的结果实时输出；A4,训练等信号至集群，集群根据AI底层框架的返回状态码进行判断机制。本发明充分利用了通信资源，降低了训练成本。