Notions d’apprentissage automatique machine learning zQu’est-ce que l’apprentissage y généralités y apprentissage inductif zUn exemple : apprentissage de chroniques (ECGs) Marie-Odile Cordier, le 11 septembre 2003, projet SACADEAU Inspiré de V. Claveau + V. Masson + …Une définition z« Un programme est capable d’apprendre à partir d’une expérience E, p.r. à un ensemble T de taches et selon une mesure de performance P, si sa performance à effectuer T mesurée par P, s'améliore avec E. » T. Mitchell zExemple : apprendre à jouer aux dames yT : jouer et gagner aux dames yP : pourcentage de victoires parmi les parties jouées yE : « entraînement » avec un humain 2Exemples de pb d’apprentissage zApprentissage de compétence - apprendre à agir yapprendre a nager en observant un expert zApprentissage de formes - apprendre à discriminer ycontrôle qualité zApprentissage de concept – apprendre à classer ydétection de fraudes de carte de crédit zApprentissage de fonction - apprendre a prédire yprévisions météo 3Types d’apprentissage Une donnée (un exemple) est un couple ou x est la valeur d'entrée et f(x) la valeur de sortie (inconnue si apprentissage non-supervisé) z Supervisé vs. non-supervisé ysupervisé : x les données sont composées d’exemples et de contre-exemples (entrées et sortie de la fonction / appartenance ou non à la classe) x besoin d’un expert pour caractériser les exemples (donner la valeur de la sortie – donner la classe de la ...
Marie -Odile Cordier, le 11 septembre 2003, projet SACADEAU Inspiré de V. Claveau + V. Masson + …
Une définition
z«Un programme est capable d’apprendre à partir d’une expérience E, p.r. à un ensemble T de taches et selon une mesure de performance P, si sa performance à effectuer T mesurée par P, s'améliore avec E. Mitchell» T.
zExemple : apprendre à jouer aux dames
yT : jouer et gagner aux dames yP : pourcentage de victoires parmi les parties jouées yE : « entraînement » avec un humain
2
Exemples de pb d’apprentissage
zApprentissage de compétence - apprendre à agir yapprendre a nager en observant un expert zApprentissage de formes - apprendre à discriminer ycontrôle qualité
zApprentissage de concept apprendre à classer ydétection de fraudes de carte de crédit zApprentissage de fonction - apprendre a prédire yprévisions météo
3
Types d’apprentissage
Une donnée (un exemple) est un couple <x,f(x)> ou x est la valeur d'entrée et f(x) la valeur de sortie(inconnue si apprentissage non-supervisé)
zSupervisé vs. non-supervisé ysupervisé : xles données sont composées d’exemples et de contre-exemples (entrées etsortiede la fonction / appartenance ou non à la classe) xbesoin d’un expert pour caractériser les exemples (donner la valeur de la sortie donner la classe de la donnée) ynon supervisé : xrecherche de similarités dans les données : on ne connaît pas les classes a priori
zCaractérisation explicite ou non ydescription de la classe vs. boîte noire
4
Apprentissage inductif
s(purevisé
zBut : induire une règle générale à partir d’un ensemble d’observations
Exemples d’apprentissage
Système d’apprentissage
Objet inconnu
Description du concept
Classe ( action) +
)
5
Apprentissage et inférence
zgiloesmylS
a)Tout homme est mortel
b)Or Socrate est un homme
c)Donc Socrate est mortel
mortel(X) :- homme(X).
homme(socrate).
mortel(socrate).
Inférence déductive : avec a et b on trouve c
Inférence abductive : avec a et c on trouve b
Inférenceinductive: avec b et c on trouve a
6
Apprentissage inductif
(ouapprenantouapprenti)
cherche
zLe système d’apprentissage à trouver une description du concept qui y« explique » les instances données en exemples y« n’explique pas » les instances données en contre-exemples
Instances
Concepts (espace des hypothès7es)
PLI : programmation logique inductive
zRecherche du « meilleur » f parmi un ensemble (espace) d'hypothèses H à= pb de recherche dans un espaceapprentissage
Attrait majeur de la PLI:
recours à un langage des hypothèsesexpressif(logique du premier ordre) eteituqpar(les exemples, les hypothèses possibles et l’expertise du domaine ont la même représentation) Inconvénient :
la richesse de ce langage implique une combinatoire forte > il est important de décrire desbiais d ’apprentissagequi limitent l’exploration de l ’ensemble des hypothèses possibles
8
Exemple jouet
On veut apprendre à découvrir quels animaux volent : f(x) = vole ou f(x) = vole_pas
zRecherche du « meilleur » f parmi un ensemble (espace) d'hypothèses H à pb de recherche dans un espaceapprentissage =
zUn biais est une connaissance rajoutée au système qui permet de choisir plus efficacement un meilleur f parmi H zf doit avoir telles propriétés » =>Biais restrictifs : « restreint H zBiais de préférence : détermine un ordre sur l’ensemble des solutions possibles ~ heuristiques