Optimisation de ressources pour la selection de modele des SVM.

摘要

La selection de modele, optimisation des hyper-parametres, est une etape tres importante pour garantir une forte performance aux SVM. Les methodes de selection de modele automatique necessitent l'inversion de la matrice de Gram-Schmidt ou la resolution d'un probleme d'optimisation quadratique supplementaire, ce qui est tres couteux en temps de calcul et en memoire lorsque la taille de l'ensemble d'apprentissage devient importante. Dans ce memoire, nous proposons une methode rapide basee sur une approximation du gradient de l'erreur empirique avec une technique d'apprentissage incremental; ce qui reduit les ressources requises en termes de temps de calcul et d'espace memoire. Notre methode testee sur des bases de donnees synthetiques et reelles a produit des resultats probants confirmant notre approche.;Nous avons aussi developpe une nouvelle expression pour les SVM avec la formulation de la marge molle "soft margin" L1, ce qui permet d'inclure l'hyper-parametre C dans les parametres du noyau.