En quelque mots

J’effectue une thèse de mathématiques appliquées intitulée "Vers une compréhension mathématique
des réseaux neuronaux profonds par une analyse champ moyen" depuis octobre 2020, et que je
soutiendrai en septembre 2023, au laboratoire de mathématiques Blaise Pascal de l’Université
Clermont Auvergne. L’objectif de cette thèse est d’étudier de manière théorique l’optimisation des
paramètres des réseaux de neurones utilisés en apprentissage supervisé, dont la remarquable
efficacité prédictive est encore mal comprise mathématiquement. L’approche champ moyen - utilisée
dans l’étude de systèmes de particules - permet de simplifier l’analyse de ces algorithmes grâce
à une convexification de la fonction de coût, dans le cas où le nombre de neurones sur la couche
cachée tend vers l’infini. L’analyse de l’équation différentielle obtenue dans ce régime limite permet
notamment d’obtenir des résultats de convergence en temps long vers un minimum global de la
fonction de coût. L’approximation faite par le processus limite est alors analysée avec précision par
un théorème central limite afin de quantifier la pertinence de l’approximation champ moyen.