Designing Regularizers and Architectures for Recurrent Neural Networks

摘要

Cette thèse contribue a la recherche vers l'intelligence artificielle en utilisant des méthodes connexionnistes.Les réseaux de neurones récurrents sont un ensemble de modèles séquentiels de plus en plus populaires capable en principe d'apprendre des algorithmes arbitraires.Ces modèles effectuent un apprentissage en profondeur, un type d'apprentissage machine.Sa généralité et son succès empirique en font un sujet intéressant pour la recherche et un outil prometteur pour la création de l'intelligence artificielle plus générale.Le premier chapitre de cette thèse donne un bref aperçu des sujets de fonds:l'intelligence artificielle, l'apprentissage machine, l'apprentissage en profondeur et les réseaux de neurones récurrents.Les trois chapitres suivants couvrent ces sujets de manière de plus en plus spécifiques.Enfin, nous présentons quelques contributions apportées aux réseaux de neurones récurrents.Le chapitre ef{arxiv1} présente nos travaux de régularisation des réseaux de neurones récurrents.La régularisation vise à améliorer la capacité de généralisation du modèle, et joue un role clé dans la performance de plusieurs applications des réseaux de neurones récurrents, en particulier en reconnaissance vocale.Notre approche donne l'état de l'art sur TIMIT, un benchmark standard pour cette tâche.Le chapitre ef{cpgp} présente une seconde ligne de travail, toujours en cours, qui explore une nouvelle architecture pour les réseaux de neurones récurrents.Les réseaux de neurones récurrents maintiennent un état caché qui représente leurs observations antérieures.L'idée de ce travail est de coder certaines dynamiques abstraites dans l'état caché, donnant au réseau une manière naturelle d'encoder des tendances cohérentes de l'état de son environnement.Notre travail est fondé sur un modèle existant; nous décrivons ce travail et nos contributions avec notamment une expérience préliminaire.