Aller au contenuAller au menuAller à la recherche

Thèse Ikram CHRAIBI KAADOUD

Sequence learning and rules extraction from recurrent neural networks: application to the drawing of technical diagrams

Le 2 mars 2018

Lieu et date de la soutenance : Inria, Bordeaux, le 2 Mars 2018.
Directeur  de thèse: Frédéric Alexandre, Co-directeur Nicolas Rougier de l'IMN, équipe "Mnemosyne" de l'INCIA


 Abstract : Implicit knowledge is acquired in two ways.
The first consists in the repetition of sequences, which allows the individual to extract implicitly regularities. The second way is a migration of explicit knowledge into implicit knowledge during the development of an expertise. In both cases, it is implicit learning. In our work, we endeavor to observe sequences of electrical components and in particular the problem of extracting rules hidden in these sequences, which are an important aspect of the extraction of business expertise from technical drawings. We place ourselves in the connectionist domain, and we have particularly considered neuronal models capable of processing sequences. We implemented two recurrent neural networks: the Elman model and a model with LSTM (Long Short Term Memory) units. We have evaluated these two models on different artificial grammars (Reber's grammar and its variations) in terms of learning, their generalization abilities and their management of sequential dependencies. Finally, we have also shown that it is possible to extract the encoded rules (from the sequences) in the recurrent network with LSTM units, in the form of an automaton. The electrical domain is particularly relevant for this problem. It is more constrained with a limited combinatorics than the planning of tasks in general cases like navigation for example, which could constitute a perspective of this work.

Titre Apprentissage de séquences et extraction de règles de réseaux récurrents : application au traçage de schémas techniques
- Résumé : Lesconnaissances implicites d’individu s’acquièrent selon deux moyens. Le premier consiste en la répétition de séquences, ce qui permet à l’individu d’extraire implicitement des régularités. Le second moyen est une migration de connaissances explicites en connaissances implicites dut au développement d’une expertise. Il s’agit dans les deux cas d’apprentissage implicite. Dans nos travaux, nous avons souhaité nous pencher sur les séquences de composants électriques et notamment la problématique d’extraction des règles implicites dans ces séquences, aspect important de l’extraction de l’expertise métier à partir des schémas techniques. Nous nous plaçons dans le domaine connexionniste, et nous avons en particulier considéré des modèles neuronaux capables de traiter des séquences. Nous avons implémenté deux réseaux de neurones récurrents : le modèle de Elman, le Simple Recurrent Network, et un modèle doté d’unités LSTM (Long Short Term Memory). Nous avons évalué ces deux modèles sur différentes grammaires artificielles (grammaire de Reber et ses variations) au niveau de l’apprentissage, de leurs capacités de généralisation de celui-ci et leur gestion de dépendances séquentielles. Finalement, nous avons aussi montré qu’il était possible d’extraire les règles encodées (issues des séquences) dans le réseau récurrent doté de LSTM, sous la forme d’automate. Le domaine électrique est particulièrement pertinent pour cette problématique car il est plus contraint (combinatoire plus réduite) que la planification de tâches dans des cas plus généraux comme la navigation par exemple, qui pourrait constituer une perspective de ce travail.

Publication

Implicit knowledge extraction and structuration from electrical diagrams
Ikram Chraibi Kaadoud, Nicolas P. Rougier, Frédéric Alexandre / Mnemosyne - Mnemonic Synergy. LaBRI - Laboratoire Bordelais de Recherche en Informatique, Inria Bordeaux - Institut des Maladies Neurodégénératives [Bordeaux] 2017, Advances in Artificial Intelligence: From Theory to Practice, 235-241|Springer Link

Jury

Helene Sauzeon
Professeure des Universités, Université de Bordeaux, Présidente du Jury
Frédéric Alexandre
Directeur de recherche, Inria, Directeur
Nicolas Rougier
Chargé de recherche HDR, Inria Co Directeur
Michel Paindavoine
Professeur des Universités, Université de Bourgogne, Rapporteur
Arnaud Revel
Professeur des Universités, Université de La Rochelle, Rapporteur
Anke Brock
Enseignante-chercheuse, ENAC Examinatrice
Hervé Frezza-Buet
Professeur, Centrale Supelec Examinateur