限定代价下神经网络结构搜索方法及相关产品

摘要

本公开提供一种限定代价下的神经网络结构搜索方法及相关产品，如搜索得到网络参数大小小于50M，准确率尽可能高的神经网络结构。所述方法包括如下步骤：本方法首先通过一个循环神经网络作为控制器进行结构单元采样；利用采样得到的结构单元组成完整神经网络模型，最小化交叉熵损失对模型进行训练，在验证集上测试准确率；统计所要优化的代价值，带入惩罚量计算公式计算对准确率的惩罚值；将惩罚后的准确率作为回报信息反馈给循环神经网络，循环神经网络通过策略梯度最大化期望回报进行训练。本申请提供的技术方案具有可优化的代价种类更多的优点。