聚簇的分布式SVM算法优化

摘要

针对分层并行SVM算法采用完全随机划分方法生成的子样本集与原始样本集的分布情况存在偏差的问题,提出分布式k-means聚簇的导向随机划分方法.该方法并非将上一层的训练结果直接作为下一层的输入,而是使用k-means聚簇算法聚成下一层节点数N的不同簇,然后把每一簇样本再随机划分成N份,从每一簇中随机取出一份重新组合成下一层训练的N个子样本集,进而保证子样本集与原始样本集的分布情况具有相似性.结果表明,该方法既能有效提高学习能力,又能减少多次训练模型的抖动.