量化机器学习模型中的偏差

摘要

所公开的实施例提供了一种用于量化机器学习模型偏差的系统。在操作期间，系统获得与请求的参数相匹配的合格候选者集合。接下来，在合格候选者被输入到机器学习模型中之后，系统获得由机器学习模型输出的推荐候选者的排名。然后，系统生成属性在推荐候选者的排名中的第一分布和该属性在合格候选者中的第二分布。该系统还基于第一分布和第二分布来计算偏斜度量，所述偏斜度量表示属性值在推荐候选者的排名中的第一比例与该属性值在合格候选者中的第二比例之间的差异。最后，系统输出偏斜度量，以用于评估机器学习模型中的偏差。