Un modèle d'apprentissage multimodal pour un substrat distribué d'inspiration corticale, A model of multimodal learning for a cortically inspired distributed substrate

Thomas Girod

Description

Sous la direction de Frédéric Alexandre
Thèse soutenue le 10 novembre 2010: Nancy 1
Le domaine des neurosciences computationnelles s'intéresse à la modélisation des fonctions cognitives à travers des modèles numériques bio-inspirés. Dans cette thèse, nous nous intéressons en particulier à l'apprentissage dans un contexte multimodal, c'est à dire à la formation de représentations cohérentes à partir de plusieurs modalités sensorielles et/ou motrices. Notre modèle s'inspire du cortex cérébral, lieu supposé de la fusion multimodale dans le cerveau, et le représente à une échelle mésoscopique par des colonnes corticales regroupées en cartes et des projections axoniques entre ces cartes. Pour effectuer nos simulations, nous proposons une bibliothèque simplifiant la construction et l'évaluation de modèles mésoscopiques. Notre modèle d'apprentissage se base sur le modèle BCM (Bienenstock-Cooper-Munro), qui propose un algorithme d'apprentissage non-supervisé local (une unité apprend à partir de ses entrées de manière autonome) et biologiquement plausible. Nous adaptons BCM en introduisant la notion d'apprentissage guidé, un moyen de biaiser la convergence de l'apprentissage BCM en faveur d'un stimulus choisi. Puis, nous mettons ce mécanisme à profit pour effectuer un co-apprentissage entre plusieurs modalités. Grâce au co-apprentissage, les sélectivités développées sur chaque modalité tendent à représenter le même phénomène, perçu à travers différentes modalités, élaborant ainsi une représentation multimodale cohérente dudit phénomène
-Neurosciences computationnelles
-Multimodalité
-Apprentissage guidé
-Bcm
The field of computational neurosciences is interested in modeling the cognitive functions through biologically-inspired, numerical models. In this thesis, we focus on learning in a multimodal context, ie the combination of several sensitive/motor modalities. Our model draws from the cerebral cortex, supposedly linked to multimodal integration in the brain, and modelize it on a mesoscopic scale with 2d maps of cortical columns and axonic projections between maps. To build our simulations, we propose a library to simplify the construction and evaluation of mesoscopic models. Our learning model is based on the BCM model (Bienenstock-Cooper-Munro), which offers a local, unsupervized, biologically plausible learning algorithm (one unit learns autonomously from its entries). We adapt this algorithm by introducing the notion of guided learning, a mean to bias the convergence to the benefit of a chosen stimuli. Then, we use this mecanism to establish correlated learning between several modalities. Thanks to correlated leanring, the selectivities acquired tend to account for the same phenomenon, perceived through different modalities. This is the basis for a coherent, multimodal representation of this phenomenon
Source: http://www.theses.fr/2010NAN10092/document

Sujets

• Neurosciences computationnelles
• Multimodalité

Informations

• Publié par: Thesee
• Nombre de lectures: 34
• Langue: Français
• Poids de l'ouvrage: 2 Mo

Extrait

Î
AVERTISSEMENT

Ce document est le fruit d'un long travail approuvé par le
jury de soutenance et mis à disposition de l'ensemble de la
communauté universitaire élargie.

Il est soumis à la propriété intellectuelle de l'auteur. Ceci
implique une obligation de citation et de référencement lors
de l’utilisation de ce document.

D’autre part, toute contrefaçon, plagiat, reproduction
illicite encourt une poursuite pénale.


Contact SCD Nancy 1 : [e-mail]


LIENS
Code de la Propriété Intellectuelle. articles L 122. 4
Code de la Propriété Intellectuelle. articles L 335.2- L 335.10
http://www.cfcopies.com/V2/leg/leg_droi.php
http://www.culture.gouv.fr/culture/infos-pratiques/droits/protection.htm ´D´epartement de formation doctorale en informatique Ecole doctorale IAEM Lorraine
UFR Sciences & Technologies
Un mod`ele d’apprentissage multimodal
pour un substrat distribu´e
d’inspiration corticale
`THESE
pr´esent´ee et soutenue publiquement le 10 novembre 2010
pour l’obtention du
Doctorat de l’universit´e Henri Poincar´e – Nancy 1
(sp´ecialit´e informatique)
par
Thomas Girod
Composition du jury
Rapporteurs : Hugues Berry – CR INRIA (HDR) - Lyon
H´el`ene Paugam-Moisy – Pr - Universit´e de Lyon
Examinateurs : Fr´ed´eric Alexandre – DR INRIA - UHP Nancy
Vincent Chevrier – MDC (HDR) - UHP Nancy
Philippe Gaussier – Pr - Universit´e de Cergy-Pontoise
Sylvain Contassot-Vivier – Pr - UHP Nancy
Laboratoire Lorrain de Recherche en Informatique et ses Applications — UMR 7503Misen pageavec la classe thloria.Remerciements
Cetravailn’auraitjamaisvulejoursansleconcoursdenombreusespersonnes.Jetiensenpar-
ticulieràremerciericimonencadrantFr d ricAlexandrepourm’avoirguid scientifiquement
et soutenu moralement; mon jury de thèse pour avoir pris le temps de lire et valuer mon tra-
vail; mon père pour m’avoir initi très tôt aux sciences; mes camarades de CORTEX, MAIA
et plus g n ralement du LORIA, pour tous les bons moments pass s ensemble auprès de la
machine à caf ; last but not least, L a pour son soutien quotidien, et tous les amis qui aiment
pr tendreque mon travailconsiste àcr erTerminator.
iiiUne université ressemble beaucoup à un récif de corail. Elle offre des eaux calmes et des
particules alimentaires aux organismes délicats mais merveilleusement conçus qui seraient
incapables de survivre aux coups de boutoir du ressac de la réalité, où les gens posent des
questions comme : "Ce que vous faites, ça sert à quelque chose?" et autres absurdités.
Terry Pratchett, Ian Stewart et Jack Cohen. La Science du Disque-monde. 1999
iiiivTable des matières
Introduction
PartieI Structureetfonction 7
Chapitre 1
Echelle microscopique : le neurone
1.1 Biologie duneurone . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
1.1.1 Anatomie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
1.1.2 Fonctionnementduneurone . . . . . . . . . . . . . . . . . . . . . . . . 10
1.2 Mod lisation du neurone . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
1.2.1 Modèlesde conductance lectrique . . . . . . . . . . . . . . . . . . . . 15
1.2.2 Modèlesà spike . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
1.2.3 Modèlesà fr quenceded charge . . . . . . . . . . . . . . . . . . . . . 18
1.3 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22
Chapitre 2
Echelle mésoscopique
2.1 Anatomieet physiologieducortexc r bral . . . . . . . . . . . . . . . . . . . . 24
2.1.1 Structure laminaire . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
2.1.2 Typesde neurones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
2.1.3 Connectivit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
2.1.4 Colonnecorticale . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
2.1.5 Aire corticale . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27
2.1.6 R sum . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
vTable des matières
2.2 Sch mas de connectivit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
2.2.1 Structure hi rarchis e . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
2.2.2 Connectivit ordonn e . . . . . . . . . . . . . . . . . . . . . . . . . . . 31
2.2.3bidirectionnelle . . . . . . . . . . . . . . . . . . . . . . . . 31
2.2.4 Connectivit intra-aire . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
2.3 Mod lisation corticale . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
2.3.1 Unit s simples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
2.3.2 Champs neuronaux . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
2.3.3 Dynamique locale d’activit . . . . . . . . . . . . . . . . . . . . . . . . 36
2.3.4 Micro circuit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37
2.4 Mod lisation dela connectivit corticale . . . . . . . . . . . . . . . . . . . . . 38
2.4.1 Flux montant . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39
2.4.2 Flux lat ral . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40
2.4.3 Flux descendant . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41
2.5 Multimodalit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43
2.6 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 44
Partie II Apprentissage 47
Chapitre3
Plasticitécérébrale
3.1 Plasticit synaptique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 52
3.1.1 Propri t sde la plasticit synaptique . . . . . . . . . . . . . . . . . . . 52
3.1.2 Ph nomènesbiologiquesdeplasticit synaptique . . . . . . . . . . . . 53
3.1.3 Spike-TimingDependentPlasticity(STDP) . . . . . . . . . . . . . . . . 53
3.2 Plasticit intrinsèque . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54
3.2.1 Propri t sde la plasticit intrinsèque . . . . . . . . . . . . . . . . . . . 54
3.2.2 M canismes biologiques delaplasticit intrinsèque . . . . . . . . . . 54
3.3 Plasticit structurelle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55
3.3.1 Évolution dendritiqueetsynaptique . . . . . . . . . . . . . . . . . . . 55
vi3.3.2 Neurog nèse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55
3.4 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
Chapitre 4
L’apprentissage hebbien
4.1 Apprentissagehebbienclassique . . . . . . . . . . . . . . . . . . . . . . . . . . 57
4.1.1 Le problème delacroissance infinie . . . . . . . . . . . . . . . . . . . . 57
4.1.2 Bornesup rieure . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58
4.1.3 Termede fuite . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58
4.1.4 D pression synaptique . . . . . . . . . . . . . . . . . . . . . . . . . . . 58
4.1.5 Lacomp tition entrelessynapses . . . . . . . . . . . . . . . . . . . . . 58
4.2 Apprentissagehebbienbidirectionnel . . . . . . . . . . . . . . . . . . . . . . . 59
4.2.1 Postsynapticgating . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59
4.2.2 Presynapticgating . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
4.3 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
Chapitre 5
La règle d’apprentissage Bienenstock-Cooper-Munro(BCM)
5.1 Origine . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61
5.2 Fonctionnement . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63
5.2.1 Activit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63
5.2.2 Apprentissage . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63
5.2.3 Seuilθ dynamique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64
5.3 Analyse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68
5.3.1 Stabilit dans le casunidimensionnel . . . . . . . . . . . . . . . . . . . 68
5.3.2 Stabilit dans le casmultidimensionnel . . . . . . . . . . . . . . . . . . 69
5.3.3 Conditionsd’existencedespoints stables . . . . . . . . . . . . . . . . . 70
5.3.4 Étude statistique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 72
5.3.5 Codageen population . . . . . . . . . . . . . . . . . . . . . . . . . . . . 74
5.4 Applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 75
5.4.1 Binocularit et l sions . . . . . . . . . . . . . . . . . . . . . . . . . . . . 75
vii