Aller au contenu principal

Thèse en cours Pierre COURSIMAULT

Thèse

Du 1 octobre 2022 au 30 septembre 2025

Co-conception HW/SW pour l'apprentissage incrémental sur puce

Résumé du projet de thèse: A la lecture approfondie de l’état de l’art, on relève plusieurs limitations aux niveaux de la performance intrinsèque des algorithmes utilisant des réseaux de neurones artificiels. Tout d’abord au niveau algorithmique, les réseaux de neurones artificiels sont très performants dans des tâches de classification mais ils souffrent d'oubli catastrophique. Par conséquent, ils ne peuvent pas apprendre de manière incrémentale : l'apprentissage n'est que séquentiel et le fameux dilemme plasticité/stabilité ne peut être résolu puisque la plasticité du système est dominante. Il est à noter que jusqu’à présent les méthodes proposées concernent des données de type image donc statiques. Hors, l’apprentissage incrémental prendra tout son sens lorsque l’environnement sera changeant et donc particulièrement avec des données dynamiques de type séries temporelles.
Durant les 3 ans de thèse, le.la candidat.e aura à :
- Définir le cadre applicatif de son sujet, c’est-à-dire la/les base.s de données sur lesquelles il.elle travaillera. Il.elle pourra commencer par une base de données image (MNIST, CIFAR ou IMAGENET) sur laquelle les algorithmes bio-inspirés du laboratoire fonctionnent et permettent de se comparer aux autre méthodes de l’état de l’art. Il faudra ensuite choisir une base de données dynamique de type séries temporelles qui soulignera tout l’intérêt des méthodes d’apprentissage incrémental. En effet, c’est dans un environnement changeant que ces algorithmes seront le plus pertinents.
- Adapter les algorithmes développés au laboratoire au cadre applicatif choisi en veillant à trouver les bons compromis entre leur performance applicative et leur frugalité matérielle. Pour cela, il faudra définition les contraintes matérielles en lien avec l’applicatif choisi. Des questions pourront être posées comme :
> Comment la connaissance est-elle distribuée dans le réseau ? Comment évolue-t-elle avec l’apprentissage de nouvelles informations ?
> Qu’est ce qu’un bon pseudo-exemple ? Comment générer ces bons pseudo-exemples pour optimiser la phase d’inférence ?

Encadrants :
- Directeur de thèse : Martial MERMILLOD - martial.mermillodatuniv-grenoble-alpes.fr (martial[dot]mermillod[at]univ-grenoble-alpes[dot]fr) -
- Co-encadrant : Marina REYBOZ - marina.reybozatcea.fr (marina.reyboz@cea.f)r

Mots-clés de la thèse : apprentissage profond, apprentissage incrémental, apprentissage tout au long de la vie


CNU de thèse : 27 - Informatique

Date

Du 1 octobre 2022 au 30 septembre 2025

Financement

CEA - Dotation des EPIC et EPA (dont CEA)

Publié le 25 août 2023

Mis à jour le 25 août 2023