目标内容检测模型评测方法、装置、设备以及存储介质

摘要

本申请公开了目标内容检测模型评测方法、装置、设备以及存储介质，涉及人工智能、深度学习和自然语言处理技术领域。该方法的一具体实施方式包括：获取原始样本文本集和目标内容检测模型；对原始样本文本集进行词语扰动，生成对抗样本文本集；将原始样本文本集和对抗样本文本集分别输入至目标内容检测模型，得到目标内容检测模型在对原始样本文本集和对抗样本文本集的评测结果；基于目标内容检测模型在对原始样本文本集和对抗样本文本集的评测结果，生成目标内容检测模型的评测结果。该实施方式针对目标内容检测模型对于对抗样本的脆弱性，提供了一种鲁棒性评测方法，用于评测目标内容检测模型对于故意生成的对抗样本的防御能力。