Sparsity, redundancy and robustness in artificial neural networks for learning and memory

Philippe Tigreat 1, 2
2 Lab-STICC_IMTA_CACS_IAS
Lab-STICC - Laboratoire des sciences et techniques de l'information, de la communication et de la connaissance
Résumé : L'objectif de la recherche en Intelligence Artificielle (IA) est de répliquer les capacités cognitives humaines au moyen des ordinateurs modernes. Les résultats de ces dernières années semblent annoncer une révolution technologique qui pourrait changer profondément la société. Nous focalisons notre intérêt sur deux aspects cognitifs fondamentaux, l'apprentissage et la mémoire. Les mémoires associatives offrent la possibilité de stocker des éléments d'information et de les récupérer à partir d'une partie de leur contenu, et imitent ainsi la mémoire cérébrale. L'apprentissage profond permet de passer d'une perception analogique du monde extérieur à une représentation parcimonieuse et plus compacte. Dans le chapitre 2, nous présentons une mémoire associative inspirée des réseaux de Willshaw, avec une connectivité contrainte. Cela augmente la performance de récupération des messages et l'efficacité du stockage de l'information.Dans le chapitre 3, une architecture convolutive a été appliquée sur une tâche de lecture de mots partiellement affichés dans des conditions similaires à une étude de psychologie sur des sujets humains. Cette expérimentation montre la similarité de comportement du réseau avec les sujets humains concernant différentes caractéristiques de l'affichage des mots.Le chapitre 4 introduit une méthode de représentation des catégories par des assemblées de neurones dans les réseaux profonds. Pour les problèmes à grand nombre de classes, cela permet de réduire significativement les dimensions d'un réseau.Le chapitre 5 décrit une méthode d'interfaçage des réseaux de neurones profonds non supervisés avec les mémoires associatives à cliques.
Type de document :
Thèse
Neural and Evolutionary Computing [cs.NE]. Ecole nationale supérieure Mines-Télécom Atlantique, 2017. English. 〈NNT : 2017IMTA0046〉
Liste complète des métadonnées

Littérature citée [65 références]  Voir  Masquer  Télécharger

https://tel.archives-ouvertes.fr/tel-01812053
Contributeur : Abes Star <>
Soumis le : lundi 11 juin 2018 - 10:54:40
Dernière modification le : mercredi 11 juillet 2018 - 07:49:57

Fichier

2017IMTA0046_Tigreat-Philippe....
Version validée par le jury (STAR)

Identifiants

  • HAL Id : tel-01812053, version 1

Citation

Philippe Tigreat. Sparsity, redundancy and robustness in artificial neural networks for learning and memory. Neural and Evolutionary Computing [cs.NE]. Ecole nationale supérieure Mines-Télécom Atlantique, 2017. English. 〈NNT : 2017IMTA0046〉. 〈tel-01812053〉

Partager

Métriques

Consultations de la notice

261

Téléchargements de fichiers

172