一种基于权重矩阵分解的在线多任务学习算法

摘要

cqvip:在线多任务学习(MTL)算法大多利用单个权重矩阵约束任务相关性,且该约束较为严格,在实践中难以满足。为此,提出一种改进的在线MTL算法,通过将权重矩阵分解为2个子矩阵来克服上述约束。对第1个子矩阵进行迹-范数正规化,获得低秩相关结构。利用正规化项对第2个子矩阵进行个性化任务的群组式Lasso惩罚,确定个性化模式。采用投影梯度算法对子矩阵进行自适应学习并获得最优解。实验结果表明,该算法相对于最优线性后验模型可实现次线性遗憾,其预测精度、运行速度优于TRML、MTFL等算法,且在垃圾邮件数据集上的累计误差率可降至4.97 %。