一种基于多目标群体智能算法的神经架构搜索方法及用途

摘要

本发明属于自然语言处理领域，涉及一种基于多目标群体智能算法的神经架构搜索方法及用途，包括以下步骤：1)获得评估神经网络架构翻译质量的数据集；2)在搜索空间内，初始化一个种群；3)将若干不同尺寸，并改善计算交叉多头注意力方式的Transformer模型个体，加入步骤2)得到的初始化种群；4)在若干评估机器翻译质量的指标下，使用多目标群体智能算法，对神经网络架构进行搜索。实现了较少的时间确定最适用于特定数据特性的神经网络架构，用更少的参数数量获得了更优的翻译质量，可部署在移动设备等内存资源相对紧缺的应用场景上。本发明提供的方法可用于司法、旅游、电商、电游、社交、金融等技术领域。