Mathematical statistics

Dimitri Petritis

Description

UFR Mathématiques Master de mathématiques
Journaldeborddumodule
Statistiquemathématique
Les renvois de la table de matières sont cliquables.
Dernière mise à jour : 14 avril 2011.
Table des matières
1 Modèlestatistiqueetillustrationsimple 1
2 Rappelssurlesconvergences 2
3 Autourdelaloigaussienne 3
4 Estimationnonparamétrique 4
5 Fondementsdelastatistique 4
5.1 Modèles dominés et familles exponentielles . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
5.2 Théorie de la décision . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
5.3 Exhaustivité . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
5.4 Complétude . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
5.5 Théorie des estimateurs ponctuels . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
6 Solutionducontrôlecontinuterminal 5
A Quelquesrappelssurl’espéranceconditionnelle 6
B Bibliographie 6
C Exercices 6
1 Modèle statistique et illustration simple
– Rappels sur le cadre axiomatique de Kolmogorov concernant les probabilités et les variables aléatoires.
– Espace statistique
/USERS/petritis/ens/jdb-stat.tex Page 1UFR Mathématiques Master de mathématiques
– Espace des paramètres
– des décisions
– Statistique
– Schéma de Bernoulli
– Estimation
– Localisation
– Test d’hypothèses
Suppléments
FIGURE 1 – Soit K une variable aléatoire distribuée selon la loiB(n;q) avec n= 25 et q2[0;1]. La ...

Sujets

• Statistique
• Loisy
• Statue
• Exponentielle
• Famille Visconti
• Orange (couleur)

Informations

• Publié par: Udwue
• Nombre de lectures: 109
• Langue: Français

Extrait

UFR MathÉmatiques

Table des matiÈres

Journal de bord du module Statistique mathÉmatique Les renvois de la table de matires sont cliquables. Dernire mise À jour : 14 avril 2011.

1 ModÈlestatistique et illustration simple

2 Rappelssur les convergences

3 Autourde la loi gaussienne

4 Estimationnon paramÉtrique

Master de mathÉmatiques

1

2

3

4

5 Fondementsde la statistique4 5.1 Modlesdomins et familles exponentielles4. . . . . . . . . . . . . . . . . . . . . . . . . . . 5.2 Thoriede la dcision4. . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . 5.3 Exhaustivit. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .5 5.4 Compltude. . . . . . . . . . . . . . . . . . . . . . . . . . . . . .5. . . . . . . . . . . . . . 5.5 Thoriedes estimateurs ponctuels. . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . 5

6 Solutiondu contrÔle continu terminal

A Quelquesrappels sur l’espÉrance conditionnelle

B Bibliographie

C Exercices

1 ModÈlestatistique et illustration simple

– Rappelssur le cadre axiomatique de Kolmogorov concernant les probabilits et les variables alatoires. – Espacestatistique

/USERS/petritis/ens/jdb-stat.tex

5

6

6

6

Page 1

UFR MathÉmatiques

– Espacedes paramtres – Espacedes dcisions – Statistique – Schmade Bernoulli – Estimation – Localisation – Testd’hypothses SupplÉments

Master de mathÉmatiques

F IGURE Soit1 –K n une variable alatoire distribue selon la loiB(n,θ)avecn=25 etθ∈[0,1]. La figure reprsente les probabilitsp(θ) =P θ (K n ≥k 0 )(en rouge) etq(θ) =1−P θ (K n ≥k 0 )(en vert) aveck 0 =5 pour les diffrentes valeurs deθ. On constate que pour toutθ∈[0,θ 0 ], avecθ 0 =0.05, la probabilitp(θ)reste infrieure À 0.01, ce qui signifie que la probabilit de commettre une erreur de premire espce est trs faible. Cependant pourθ>θ 0 mais proche deθ 0 la probabilitq(θ)de commettre une erreur de seconde espce est substantielle.

2 F IGURE 2 –Les densits de la loi normaleN(0,σ)avecσ=1 (en vert),σ=1/2 (en rouge) etσ=2 (en orange).

2 Rappelssur les convergences

– Formulationsquivalentes de la convergence presque sÛre. – Convergenceen probabilit.

/USERS/petritis/ens/jdb-stat.tex

Page 2

UFR MathÉmatiques

Master de mathÉmatiques

F IGURE 3 –Les densits de la loiγ p,1 avecp=1 (en rouge),p=2 (en vert) etp=4 (en orange).

F 4– Lesdensits de la loiγ 2,λ avecλ=2 (en rouge),λ=1 (en vert) etλ=1/2 (en orange). IGURE

– Laconvergence en probabilit est mtrisable – Laconvergence presque sÛre entrane la convergence en probabilit ; la rciproque est fausse en gnral. 0 – Sila suite(X n )converge en probabilit versX, de toute suite croissante d’entiers(n), on peut extraire une 00 sous-suite(n)telle queX n converge versXpresque sÛrement. 00 p – ConvergencedansL, avecp∈]0,∞[. p – Laconvergence dansLentrane la convergence en probabilit. – Èqui-intgrabilit. 1 – SiX n →Xen probabilit et(X n )qui-intgrable, alorsXintgrable et la convergence a lieu aussi dansL. – Fonctionsde rpartition et caractristique. – Lesfonctions de rpartition et caractristique dterminent la loi. – Laconvergence en probabilit entrane la convergence en loi. – Tension; convergence troite ; critres de tension. – Siune suite de probabilits est qui-tendue et converge faiblement alors elle converge troitement. – Convergenced-dimensionnelles ; critre de Cramr-Wold.

3 Autourde la loi gaussienne

– Densitgaussienned-dimensionnelle ; matrice de covariance.

/USERS/petritis/ens/jdb-stat.tex

Page 3

UFR MathÉmatiques

Master de mathÉmatiques

2 – Loiduχ, de Student, loiF. – Si(X i ) i=1,...,n sont indpendantes gaussiennes, leur moyenne empirique et leur variance empirique sont ind- pendantes.

4 Estimationnon paramÉtrique

– Fonctionde rpartition empirique. – Thormede Glivenko-Cantelli. – Thormede Kolmogorov-Smirnov (sans dmonstration). – Soitun chantillon den 1 +n 2 variables alatoires indpendantes et identiquement distribues selon une loi de fonction de rpartitionFcontinue. Alors r i √ n 1 n 2 lo ˆ ˆ lim sup|F n 1 −G n 2 |=limnD n , n 1 +n 2 x∈R ˆ ˆ oÙF n 1 etG n 2 sont les fonctions de rpartition empiriques partielles etD n la diffrence apparaissant dans le thorme de Glivenko-Cantelli. La dmonstration est faite dans le cas particuliern 1 =n 2 =net illustre bien le principe de rflexion. + + – Statistiquelibre ; les statistiquesD,DetD, associ n n ,D n 1 ,n 2 n 1 ,n 2 es À des loiscontinuessont libres. – Èchantillonsordonns, statistique d’ordre, statistique de rang.

5 Fondementsde la statistique

5.1 ModÈlesdominÉs et familles exponentielles

– Domination. – Siµest une mesure dominanteσ-finie, il existe une probabilit qui lui est quivalente. – Familleexponentielle. – Espacede paramtrisation naturelle. – L’espacede paramtrisation naturelle est convexe. – Complexificationde l’espace de paramtrisation; proprits d’holomorphie des esprances en les variables de l’espace de paramtres comlexifies.

5.2 ThÉoriede la dÉcision

– Rglede dcision dterministe, stochastique. – Fonctionde perte. – Risquede la dcision. –C-optimalit ;C-admissibilit. – Exemples. – Principedu minimax, principe de Bayes. – Risquemoyenn de Bayes pour des rgles de dcision dterministes. – Risquemoyenn de Bayes pour des rgles de dcision stochastiques.

/USERS/petritis/ens/jdb-stat.tex

Page 4

UFR MathÉmatiques

5.3 ExhaustivitÉ

Master de mathÉmatiques

– Tribuet statistique exhaustives. – Thormede Bahadur. – SoientS 1 etS 2 deux statistiques etµune probabilit :σ(S 1 )⊆σ(S 2 )modµsi, et seulement si, il existe une application mesurableψtelle queS 1 =ψ◦S 2 . – Thormede Halmos-Savage : Sur un modle statistique(X,X,Π)domin (avec la probabilit dominante crite sous la formeν= ∑ n∈N c n P n ), une sous-tribuF⊆Xest exhaustive si, et seulement si, pour toute dP P∈Π, il existe une densitF-mesurable, notef P , telle que=f P ,ν-p.s. dν – Corollaire: pour une famille exponentielle, dont les densits par rapport À la mesure de rfrence s’crivent k sous la formef θ (x) =C(θ)exp( ∑ j=1 c j (θ)h j (x))h(x), la statistiqueS:x7→(h 1 (x), . . . ,h k (x))∈Rest ex- haustive. – Exemples. – Illustrationde la notion d’exhaustivit dans un cas discret.

5.4 ComplÉtude

– – Famillede probabilits et statistique compltes. – SiΠest complte par rapport À une sous-tribuFexhaustive alorsFest minimalement exhaustive. – Si une famille exponentielle dont les densits par rapport À une mesure de rfrence s’crivent comme f θ (x) =C(θ)h(x)exp( ∑ j=1 c j (θ)h j (x)est de rang total, alors la statistiqueS(x) = (h 1 (x), . . . ,h k (x))est com- plte.

5.5 ThÉoriedes estimateurs ponctuels

– Biais. – Plongementde l’estimation deg(θ)dans la cadre de la thorie de la dcision. – Calculdu risque pour des fonctions de perte donnes par des formes quadratiques. – Thormede Rao-Blackwell. – Thormede Lehmann-Scheff ; estimateurs uniformment efficaces. – Ingalitde Cramr-Rao. – Matriced’information de Fisher. – Critred’efficacit d’un estimateur par comparaison de son risque avec la borne d’information. – Exemplede la famille exponentielle. – Vraisemblanceet log-vraisemblance. – Estimateurdu maximum de vraisemblance.

6 Solutiondu contrÔle continu terminal

ContrÔle continu du 13 avril 2011

/USERS/petritis/ens/jdb-stat.tex

Page 5

UFR MathÉmatiques

A Quelquesrappels sur l’espÉrance conditionnelle

Master de mathÉmatiques

– Projectiondans un espace de Hilbert. – Thormede Kolmogorov sur l’esprance conditionnelle. – Dmonstrationde l’existence et de l’unicit de l’esprance conditionnelle par une mthode base sur la projection hilbertienne. – Loiconditionnelle ; noyau stochastique.

B Bibliographie

La rfrence de base est indique encaractÈres gras.

P. Billingsley, Probability and measure. Third edition. Wiley Series in Probability and Mathematical Statistics. John Wiley, New York (1995).

D. Dacunha-Castelle, M. Duflo, Probabilits et statistique, vol. 1, Masson, Paris (1982).

D. Fourdrinier, Statistique infÉrentielle, Dunod, Paris (2002).

E.L. Lehmann, Testing statistical hypotheses, Chapman and Hall, , New York (1986).

C Exercices

Recueil d’exercices

/USERS/petritis/ens/jdb-stat.tex

Page 6