新闻推荐算法可信评价研究

摘要

随着AI、5G、AR/VR等新技术的快速发展,内容类应用如电子商务、社交网络、短视频等层出不穷,导致信息过载问题日益严重。人工智能技术的发展推动了智能算法的爆炸式运用,作为智能算法的一种,推荐算法在大数据、应用场景和计算力的推动下,通过信息过滤技术,为用户提供适应兴趣及行为的个性化及高质量的推荐服务,逐步提高了用户的使用体验、内容分发效率,在一定程度上缓解了信息过载的问题。但推荐算法的潜在偏见、黑盒化特性及内容分发方式也逐渐带来了决策结果不公平性、不可解释性,信息茧房、侵犯用户隐私等安全挑战。如何提高推荐算法的可解释性、公平性、可信程度等越来越受到国内外政府监管部门、产业及学术界的重点关注,推荐系统和推荐算法也由此从发展期进入管制期。为此,本文针对新闻推荐领域,分析推荐算法的稿件画像、用户画像、推荐推送、反馈干预和人工复审等关键要素,围绕推荐算法生态的参与者,如内容生产者、受众、算法模型、新闻平台,从公平性、可解释性和抗抵赖性三个方面提出了一种新闻推荐算法可信评价体系,并进行定量或定性分析。公平性、可解释性和抗抵赖性是正相关关系,当公平性和抗抵赖性越强、可解释程度越高,新闻推荐算法的可信度越高。希望弥补新闻推荐算法领域的可信研究的空白,建立可信推荐算法生态,加速安全推荐系统的建立和推广,同时为智能算法可信研究提供参考,为智能算法的监管和治理提供思路。