语义表示模型的生成方法、装置、电子设备及存储介质

摘要

本申请公开了语义表示模型的生成方法、装置、电子设备及存储介质，涉及人工智能技术领域，具体涉及自然语言处理、深度学习技术领域。具体实现方案为：获取文本集合，并获取文本中待掩码的知识单元，并对知识单元中的多个字符采用多个掩码符进行替换以生成替换文本，其中，多个掩码符构成掩码符串；之后，对掩码符串进行调整以生成掩码文本；根据每个文本对应的掩码文本以及待掩码的知识单元，生成训练文本集合；根据训练文本集合生成语义表示模型。该方法通过对掩码符串进行调整，生成动态长度的掩码文本，可避免语义表示模型建模过程中待掩码的知识单元的长度信息泄露的问题，使得语义表示模型能够更加全面地学到文本知识信息，增强了语义表示模型的建模能力。