Statistique avec des petits échantillons

Gilles Celeux

Description

Statistiqueavecdespetitséchantillons
GillesCeleux
Select, Inria Saclay, Université Paris Sud
Gilles Celeux (Inria) Petitséchantillons 1 / 40Plan
1 Modélisation statistique
Estimation du maximum de vraisemblance
Choix de modèles
2 Problèmes statistiquesàinformationfaible
3 Inférencebayésienne
Traduction des informations a priori en lois a priori
Approximation de la loi a posteriori
Illustration pour une loi de Weibull très censurée
Sélection bayésienne de modèles
Gilles Celeux (Inria) Petitséchantillons 2 / 40Inférence statistique
dDes donnéesx = (x ,...,x ) dans R sont issues d’une loi den1
probabilité inconnue de densité f(x).
Les données sont utilisées pour tirer de l’information sur cette densité
f(x).
Modèle paramétrique : on suppose que
f(x) = f(x;θ),
avec θ paramètre inconnu à estimer à partir de (x ,...,x ).1 n
Gilles Celeux (Inria) Petitséchantillons 3 / 40Exemple: la loinormale
Les données (x ,...,x ) représentent le poids de n objets fabriqués1 n
en série.
On suppose que ces poids suivent une loi normale de moyenne μ et
2de variance σ :
21 (x−μ)
pf(x;θ) = exp(− ).
2σ(2π)σ
2Le paramètre à estimer est θ = (μ,σ ).
GillesCeleux (Inria) Petitséchantillons 4 / 40Exemple: la loide Weibull
Les données (x ,...,x ) représentent les durées de vie de nn1
matériels.
Une loi couramment utilisée pour modéliser des durées de vie est la loi
de Weibull.
Elle utilise un paramètre d’échelle η et un paramètre de forme β :
x xβ−1 βf(x;θ) = β( ) exp((− ) )
η η
Le paramètre à ...

Sujets

• Modelé (géologie)
• Vraisemblance
• Distribution de Weibull
• Simulation informatique
• Loi normale multidimensionnelle
• Distribution Gamma

Informations

• Publié par: Oftu
• Nombre de lectures: 86
• Langue: Français

Extrait

iGlle Statistiqueavecdespetitséchantillons seCelxuI(rnai) GillesCeleux Select,InriaSaclay,UniversitéParis-Sud ePitstcéahtnliolsn1/04

lPna 1 2 3 Modélisationstatistique Estimationdumaximumdevraisemblance Choixdemodèles Problèmesstatistiquesàinformationfaible Inférencebayésienne Traductiondesinformationsapriorienloisapriori Approximationdelaloiaposteriori IllustrationpouruneloideWeibulltrèscensurée Sélectionbayésiennedemodèles iGllseeCelxuI(rnai)ePitstcéahtnliolsn2/04

nIéfercnetstasiituqe Desdonnéesx =( x 1 ,..., x n ) dansR d sontissuesd’uneloide probabilitéinconnuededensitéf ( x ) . Lesdonnéessontutiliséespourtirerdel’informationsurcettedensité .)x(f Modèleparamétrique:onsupposeque f(x)=f(x;θ), avecθparamètreinconnuàestimeràpartirde(x 1 ,...,x n ). iGllseeCelxuI(rnai)ePitstcéahtnliolsn3/04

xEmeple:alolionmrlae Lesdonnées ( x 1 ,..., x n ) représententlepoidsdenobjetsfabriqués ensérie. Onsupposequecespoidssuiventuneloinormaledemoyenneµet devarianceσ 2 : 1 ( x − µ) 2 f(x;θ)= p (2π)σ exp( − σ 2 ). Leparamètreàestimerestθ=(µ,σ 2 ). iGllseeCelxuI(rnai)ePitstcéahtnliolsn4/04

Exemple:laloideWeibull Lesdonnées ( x 1 ,..., x n ) représententlesduréesdevieden matériels. Uneloicourammentutiliséepourmodéliserdesduréesdevieestlaloi deWeibull. Elleutiliseunparamètred’échelleηetunparamètredeformeβ: f(x;θ)=β( η x ) β − 1 exp(( − η x ) β ) Leparamètreàestimerest θ=(η,β) . iGllseeCelxuI(rnai)ePitstcéahtnliolsn5/04

Estimationdumaximumdevraisemblance Lavraisemblanceduparamètreθassociéauxdonnéess’écrit n Y L(θ)=f(x i ;θ). 1=i Lavraisemblancecontienttoutel’informationapportéepar(x 1 ,...,x n ) surleparamètreθ. Laméthodedumaximumdevraisemblanceconsisteàestimer θ par θ ˆ = argm θ axL (θ). Cetestimateurjouitdebonnespropriétéslorsquenestgranddevant ladimensionde θ . iGllseeCelxuI(rnai)ePitstcéahtnliolsn6/04

xEmelpse’de Casgaussien tsmitauesrudVM n 1 X µˆ= n x i 1=i n 1 X σˆ 2 = n (x i − µˆ) 2 . 1=i CasdeWeibull.Leséquationsdevraisemblancesont te iGllseeCelxuI(rnai) PP 1 i n = 1 log(x i ) i n = 1 x i β ˆ log(x i ) ˆ + n − P nβ ˆ =0. β i=1 x i ˆ βn P ηˆ=[ i=1 x i ] 1/β ˆ . n ePitstcéahtnliolsn7/04

eTtsudarpprotedrviaesbmalcne PourchoisirentredeuxmodèlesM 0 etM 1 dontlesespacesdes paramètressontemboîtés,ondisposedutestderapportde vraisemblance. Λ= L(θ ˆ 0 ) L(θ ˆ 1 ) Sousl’hypothèsequelesdonnéessontissuesdelaloif(x;θ 0 ), − 2logΛsuitasymptotiquementuneloiduχ 2 àdimθ 1 -dimθ 0 degrés deliberté. iGllseeCelxuI(rnai)ePitstcéahtnliolsn8/04

Critèresdevraisemblancepénalisée Lescritèresdevraisemblancepénalisésontutiliséspourchoisirun modèleparmidesmodèlesnonnécessairementemboîtés. AIC ( M )= −2logL (θ ˆ M )+ 2dim (θ M ) BIC ( M )= −2logL (θ ˆ M )+ dim (θ M ) log ( n ) Cescritèressontobtenussousdesargumentsasymptotiqueset jouissentdepropriétésasymptotiquesoptimales. iGllseeCelxuI(rnai)ePitstcéahtnliolsn9/04

alPn 1 2 3 Modélisationstatistique Estimationdumaximumdevraisemblance Choixdemodèles Problèmesstatistiquesàinformationfaible Inférencebayésienne Traductiondesinformationsapriorienloisapriori Approximationdelaloiaposteriori IllustrationpouruneloideWeibulltrèscensurée Sélectionbayésiennedemodèles iGllseeCelxuI(rnai)ePitstcéahtnliolsn01/04

Petitséchantillons Latailled’unéchantillonnestàcompareraunombre ν de paramètresàestimer. yTipuqmene,toprunueidtsrbituoinadsnRavec2paramètresà estimerlesproblèmespeuventcommenceravecn<20. Lesproblèmesdeviennentsérieuxlorsqueν ≈ n... Lesstatisticienssontdeplusenplusconfrontésàdestaillesn pluspetitesqueladimensionddesdonnées. iGllseeCelxuI(rnai)ePitstcéahtnliolsn11/04