PhD Defense: Joachim Rosseel

The PhD defense, intitled “Error correcting codes decoding assisted by machine learning for IoT”, will be held on Wednesday December 13th 2023, at 10:45 a.m, in room Chrome 1 (1st floor), Maison Minatec, 3 Parvis Louis Néel, 38054 Grenoble.

For those who want to attend remotely, please use the link below. It will be open from 10:30 a.m.
https://cnrs.zoom.us/j/95632251705?pwd=dUNJaHJKTVBGS2oxTWZPYjlLZG9kdz09
–

The jury is composed of :
Reviewer : Dr. Camille LEROUX, Maitre de conférence, Bordeaux INP, Bordeaux
Reviewer : Prof. Didier LE RUYET, Professeur, CNAM, Paris
Examiner : Dr. Elsa DUPRAZ, Maîtresse de conférence, IMT Atlantique, Brest
Examiner : Prof. Catherine DOUILLARD, Professeure, IMT Atlantique, Brest

Examiner : Prof. Charly POULLIAT, Professeur des Universités, INP-ENSEEIHT, Toulouse
Director : Prof. Inbar FIJALKOW, Professeure des Universités, ENSEA, Cergy-Pontoise
Supervisor : Dr. Valérian MANNONI, Docteur-Ingénieur de Recherche, CEA-LETI, Grenoble
Supervisor : Dr. Valentin SAVIN, Docteur-Ingénieur de Recherche, CEA-LETI, Grenoble Encadrant de thèse

Thesis title: Error correcting codes decoding assisted by machine learning for IoT

Abstract:

Wireless communications, already very present in our society, still raise new challenges as part of the deployment of the Internet of Things (IoT) such as the development of new decoding methods at the physical layer ensuring good performance for the transmission of short messages. In particular, Low Density Parity Check (LDPC) codes are a family of error correcting codes well-known for their excellent asymptotic error correction performance under iterative Belief Propagation (BP) decoding. However, the error correcting capacity of the BP algorithm is severely deteriorated for short LDPC codes. Thus, this thesis focuses on improving the decoding of short LDPC codes, thanks in particular to machine learning tools such as neural networks.

After introducing the notions and characteristics of LDPC codes and BP decoding, as well as the modeling of the BP algorithm by a Recurrent Neural Network (BP-Recurrent Neural Network or BP-RNN), we develop new training methods specializing the BP-RNN on decoding error events sharing similar structural properties. These specialization approaches are subsequently associated decoding architectures composed of several specialized BP-RNNs, where each BP-RNN is trained to decode a specific kind of error events (decoding diversity). Secondly, we are interested in the post-processing of the BP (or the BP-RNN) with an Ordered Statistics Decoding (OSD) in order to close the gap the maximum likelihood (ML) decoding performance. To improve the post-processing performance, we optimize its input thanks to a single neuron and we introduce a multiple OSD post-processing decoding strategy. We then show that this strategy effectively takes advantage of the diversity of its inputs, thus providing an effective way to close the gap with ML decoding.

Titre de la thèse: Décodage de codes correcteurs d’erreurs assisté par apprentissage pour l’IoT

Résumé :

Les communications sans fil, déjà très présentes dans notre société, soulèvent de nouveaux défis dans le cadre du déploiement de l’Internet des Objets (IoT) tels que le développement de nouvelles méthodes de décodage au niveau de la couche physique permettant d’assurer de bonnes performances pour la transmission de messages courts. En particulier, les codes LDPC (Low Density Parity Check) sont une famille de codes correcteurs d’erreurs très connus pour leurs excellentes performances asymptotiques lorsqu’ils sont décodés par l’algorithme de propagation de croyance (BP, pour Belief Propagation, en anglais). Cependant, la capacité de correction de l’algorithme BP se retrouve fortement dégradée pour les codes LDPC courts. Ainsi, cette thèse porte sur l’amélioration du décodage des codes LDPC courts, grâce
notamment à des outils d’apprentissage automatique, tels que les réseaux de neurones.

Après avoir introduit les notions et caractéristiques des codes LDPC et du décodage BP, ainsi que la modélisation du BP par un réseau de neurones récurrent (BP-Recurrent Neural Network ou BP-RNN), nous développons de nouvelles méthodes d’entraînement afin de spécialiser le décodeur BP-RNN sur des motifs d’erreurs partageant des propriétés structurelles similaires. Ces approches de spécialisation sont associées à des architectures de décodage composées de plusieurs BP-RNNs spécialisés, où chaque BP-RNN est entraîné à corriger un type différent de motif d’erreurs (diversité de décodage). Nous nous intéressons ensuite au post-traitement du BP (ou du BP-RNN) avec un décodage par statistiques ordonnées (Ordered Statistics Decoding ou OSD) afin de se rapprocher de la performance du décodage par maximum de vraisemblance. Pour améliorer les performances du post-traitement, nous optimisons son entrée grâce à un neurone simple, puis nous introduisons une stratégie de décodage pour un post-traitement par OSD multiples. Il est alors montré que cette stratégie tire efficacement partie de la diversité de ses entrées, fournissant ainsi un moyen efficace de combler l’écart avec le décodage par maximum de vraisemblance.