Notions d'apprentissage automatique machine learning

Cordier

Description

Notions d’apprentissage
automatique machine learning
zQu’est-ce que l’apprentissage
y généralités
y apprentissage inductif
zUn exemple : apprentissage de chroniques (ECGs)
Marie-Odile Cordier, le 11 septembre 2003,
projet SACADEAU
Inspiré de V. Claveau + V. Masson + …Une définition
z« Un programme est capable d’apprendre à
partir d’une expérience E, p.r. à un ensemble T
de taches et selon une mesure de performance
P, si sa performance à effectuer T mesurée par
P, s'améliore avec E. » T. Mitchell
zExemple : apprendre à jouer aux dames
yT : jouer et gagner aux dames
yP : pourcentage de victoires parmi les parties jouées
yE : « entraînement » avec un humain
2Exemples de pb d’apprentissage
zApprentissage de compétence - apprendre à agir
yapprendre a nager en observant un expert
zApprentissage de formes - apprendre à discriminer
ycontrôle qualité
zApprentissage de concept – apprendre à classer
ydétection de fraudes de carte de crédit
zApprentissage de fonction - apprendre a prédire
yprévisions météo
3Types d’apprentissage
Une donnée (un exemple) est un couple ou x est la valeur d'entrée
et f(x) la valeur de sortie (inconnue si apprentissage non-supervisé)
z Supervisé vs. non-supervisé
ysupervisé :
x les données sont composées d’exemples et de contre-exemples
(entrées et sortie de la fonction / appartenance ou non à la classe)
x besoin d’un expert pour caractériser les exemples
(donner la valeur de la sortie – donner la classe de la ...

Sujets

• Rokh
• Placentalia
• Piève
• États du Venezuela
• Fusion
• Institutions de l'Union européenne

Informations

• Publié par: Adri
• Nombre de lectures: 98
• Langue: Français
• Poids de l'ouvrage: 5 Mo

Extrait

Notions d’apprentissage automatique  machine learning

zQu’est-ce que l’apprentissage

ytélisgérané

yapprentissage inductif

zUn exemple : apprentissage de chroniques (ECGs)

Marie -Odile Cordier, le 11 septembre 2003, projet SACADEAU Inspiré de V. Claveau + V. Masson + …

Une définition

z«Un programme est capable d’apprendre à partir d’une expérience E, p.r. à un ensemble T de taches et selon une mesure de performance P, si sa performance à effectuer T mesurée par P, s'améliore avec E. Mitchell» T.

zExemple : apprendre à jouer aux dames

yT : jouer et gagner aux dames   yP : pourcentage de victoires parmi les parties jouées yE : « entraînement » avec un humain

2

Exemples de pb d’apprentissage

zApprentissage de compétence - apprendre à agir yapprendre a nager en observant un expert zApprentissage de formes - apprendre à discriminer ycontrôle qualité

zApprentissage de concept –apprendre à classer ydétection de fraudes de carte de crédit zApprentissage de fonction - apprendre a prédire yprévisions météo

3

Types d’apprentissage

Une donnée (un exemple) est un couple <x,f(x)> ou x est la valeur d'entrée et f(x) la valeur de sortie (inconnue si apprentissage non-supervisé)

zSupervisé vs. non-supervisé ysupervisé : xles données sont composées d’exemples et de contre-exemples (entrées etsortiede la fonction / appartenance ou non à la classe) xbesoin d’un expert pour caractériser les exemples (donner la valeur de la sortie –donner la classe de la donnée) ynon supervisé : xrecherche de similarités dans les données : on ne connaît pas les classes a priori

zCaractérisation explicite ou non ydescription de la classe vs. boîte noire

4

Apprentissage inductif

s(purevisé

zBut : induire une règle générale à partir d’un ensemble d’observations

Exemples d’apprentissage

Système d’apprentissage

Objet inconnu

Description du concept

Classe ( action) +

)

5

Apprentissage et inférence

zgiloesmylS

a)Tout homme est mortel

b)Or Socrate est un homme

c)Donc Socrate est mortel

mortel(X) :- homme(X).

homme(socrate).

mortel(socrate).

Inférence déductive : avec a et b on trouve c

Inférence abductive : avec a et c on trouve b

Inférenceinductive: avec b et c on trouve a

6

Apprentissage inductif

(ou apprenant ou apprenti)

cherche

zLe système d’apprentissage à trouver une description du concept qui y« explique » les instances données en exemples y« n’explique pas » les instances données en contre-exemples

Instances

Concepts (espace des hypothès 7 es)

PLI : programmation logique inductive

zRecherche du « meilleur » f parmi un ensemble (espace) d'hypothèses H à= pb de recherche dans un espaceapprentissage

Attrait majeur de la PLI:

recours à un langage des hypothèsesexpressif(logique du premier ordre) eteituqpar(les exemples, les hypothèses possibles et l’expertise du domaine ont la même représentation) Inconvénient :

la richesse de ce langage implique une combinatoire forte —> il est important de décrire desbiais d ’apprentissagequi limitent l’exploration de l ’ensemble des hypothèses possibles

8

Exemple jouet

On veut apprendre à découvrir quels animaux volent : f(x) = vole ou f(x) = vole_pas

zExemples positifs (e+) : canard, pie, chauve-souris

zExemples négatifs (e-) : chien, chat, pingouin

  zdécrivant les e+ et e- : oiseau,attributs a_des_ailes, mammifère, à_plumes, à_poils, gros, petit, poids, ...

9

Exemple jouet - version PLI

On veut apprendre un prédicat vole(X)

zInformations sur le « monde » (background knowledge) : oiseau(canard). oiseau(pie).

mammifère(chauve-souris). mammifère(chien). mammifère(chat).

àRésultat de l’apprentissage :

vole(X) :- oiseau(X).

vole(chauve-souris).

zE+ : vole(canard). vole(pie). vole(chauve-souris). zE- :

vole(chien). vole(chat).

10

Biais inductifs

zRecherche du « meilleur » f parmi un ensemble (espace) d'hypothèses H à pb de recherche dans un espaceapprentissage =

zUn biais est une connaissance rajoutée au système qui permet de choisir plus efficacement un meilleur f parmi H zf doit avoir telles propriétés » =>Biais restrictifs : « restreint H zBiais de préférence : détermine un ordre sur l’ensemble des solutions possibles ~ heuristiques

11