Cours de probas - agreg

Cl. Durand

Description

Table des matièresCours1. Loi de probabilité; espérance; moments…………………………………….. 52. Lois discrètes ; lois à densité………………………………………………… 103. Indépendance d'événements, de tribus, de variables aléatoires……………… 134. Caractérisation des lois……………………………………………………… 185. Suites de variables aléatoires; différentes sortes de convergence…………… 286. Echantillons d'une loi. Définitions et notations pour la suite……………….. 347. Estimateurs pour une loi normale…………………………………………… 358. Loi(s) des grands nombres…………………………………………………… 369. Le théorème de la limite centrale…………………………………………… 3910. Jugement sur échantillon; intervalles de confiance et tests d'hypothèses…… 43sur une moyenne.Annexes1. Corrélation linéaire………………………………………………………….. 492. Produit dénombrable d'espaces probabilisés………………………………… 513. Théorème de Borel-Cantelli: loi du tout ou rien…………………………….. 534. Marches aléatoires…………………………………………………………… 555. Introduction aux chaînes de Markov finies………………………………….. 596. Processus de Poisson………………………………………………………… 657. Formule d'inversion pour X réelles et Φ intégrable………………………… 69X8. Deux lois fortes des grands nombres………………………………………… 719. Une amélioration de l'inégalité de Bienaymé-Chebychev…………………… 75210. Le test du ℵ d'ajustement…………………………………………………… 7711. Méthodes de Monte-Carlo pour le calcul d'intégrales……………………….. 8112. Examen de passage 1-2, 1999 (entropie d'un système aléatoire discret)…….. 9113. Exge 1-2, 2000 (sommes aléatoires de variables ...

Informations

• Publié par: Fuiv
• Nombre de lectures: 39
• Langue: Français

Extrait

Cours

Table des matières

1.  5Loi de probabilité; espérance; moments…………………………………….. 2.  10o s discrètes ; lois à densit酅…………………………………………… L i 3. d'événements, de tribus, de variables aléatoires……………… 13Indépendance 4. Caractérisation des lois……………………………………………………… 18 5.  28Suites de variables aléatoires; différentes sortes de convergence…………… 6. Echantillons d'une loi. Définitions et notations pour la suite……………….. 34 7.  35Estimateurs pour une loi normale…………………………………………… 8.  36Loi(s) des grands nombres…………………………………………………… 9.  39Le théorème de la limite centrale…………………………………………… 10. Jugement sur échantillon; intervalles de confiance et tests d'hypothèses…… 4

sur une moyenne. Annexes

3

1.  49Corrélation linéaire………………………………………………………….. 2.  51Produit dénombrable d'espaces probabilisés………………………………… 3.  53Théorème de Borel-Cantelli: loi du tout ou rien…………………………….. 4. Marches aléatoires…………………………………………………………… 55 5. Introduction aux chaînes de Markov finies………………………………….. 59 6.  65Processus de Poisson………………………………………………………… 7. Formule d'inversion pour X réelles etΦ X intégrable………………………… 69 8.  71Deux lois fortes des grands nombres………………………………………… 9.  75Une amélioration de l'inégalité de Bienaymé-Chebychev…………………… 10. Le test duℵ 2 d'ajustement…………………………………………………… 77 11.  81Méthodes de Monte-Carlo pour le calcul d'intégrales……………………….. 12.  91Examen de passage 1-2, 1999 (entropie d'un système aléatoire discret)…….. 13.  95Examen de passage 1-2, 2000 (sommes aléatoires de variables aléatoires)…. 14.  99Examen de passage 1-2, 2001 (loi du min, loi du max ; étude asymptotique).. 15. Lois classiques : récapitulatif………………………………………………… 103

Bibliographie…………………………………………………………

105

COURS

1) LOI DE PROBABILITE; ESPERANCE; MOMENTS

On appelleespace probabiliséun espace mesuré (Ω,T,p) vérifiant la condition p(Ω) = 1.Ωest l'ensemble des

possibles, ouévénements élémentaires, et les éléments de T sont appelésévénements.

Exemple:la probabilité uniforme:

SiΩest fini non (vide) et si T est l'ensemble des parties deΩ, laprobabilité uniformep surΩest définie sur T par: p(A) = d arC Cra d Ω   A .

Le calcul de la probabilité d'un événement se ramène alors à un problème de dénombrement. Par exemple:

• 

• 

• 

La probabilité pour qu'en jetant 6 dés non truqués, on obtienne 6 résultats deux à deux distincts est p=  6    6 6 .15,0 0#  !

La probabilité pour que parmi n personnes, au moins deux aient la même date de naissance (en n supposant n≤ne soit née un 29 février) est et qu'aucune de ces personnes  365p n  - =1 A 36 563 n 5  , soit n- donc:p n = 1- ∏ k 1 e p 4 # 0,016 et p 64 # 0,997 ; p n   k=1 (1- 365 )  50% pour n=25. dépasse. On obtient par exempl

Si, sur M tickets de loterie, n sont gagnants (avec n≤M/2), la probabilité pour qu'un acheteur de n n C billets en ait au moins un gagnant estp -= 1 M-n n  . C M

Si D est une partie mesurable de mesure finie non nulle de R d ,λ (d) et T la mesure et la tribu de Lebesgue de D, laprobabilité uniformep sur D est définie sur T par:

λ (d) (A) p(A) = λ (d) (D) .

Par exemple, la probabilité pour qu'un nombre choisi au hasard dans l'intervalle [0,1] soit rationnel est nulle.

Si B∈T est un événement de probabilité≠0, on définit sur (Ω,T) laprobabilité conditionnelle sachant B, notée p B , par : p B A( ) =(p/A)B =  p(A p( ∩B) B) .

• 

• 

• 

p(A/B) = p(A)⇔p(A∩  

 B) = p(A).p(B) (ceci traduit l'indépendance de A et B; cf. paragr. 3).

Si A, B∈ tels que p(A).p(B)T sont≠0, alors :p(A/B).p(B) = p(B/A).p(A) (formule d'inversion).

Si (B k ) est un système complet d’événements (i.e. une partition finie ou dénombrable de parties mesurables mesurables deΩ) de probabilités non nulles, alors :

∀A∈T : p(A) =∑p A( k ∩

B k ) =∑B  k A/p( k ).p(B k ) (formule des probabilités totales)

Si p(A)≠0:∀ p(Bi : i /A) = ∑ A p /  A p ( ( k / B i ) B k B p. p ( (. ) i ) B k )   (formule de Bayes).

Exemples:

• 

Dans une population, la probabilité pour qu'un individu ait une maladie M donnée est p.

On dispose d'un test T de dépistage, et l'on évalue à 0,95 la probabilité pour qu'une personne ayant -  respt: n'ayant pas - la maladie ait un test positif - respt. négatif).

Evaluons l'efficacité du test sur la population en donnant la probabilité pour qu'une personne ayant un test positif ait effectivement la maladie.

Notons T l'événement: "le test est positif" et M : "la personne a la maladie"; il vient: p(M/T) =  p(T/M)p p ( ( M T/ )  M + )   . p p ( ( T M / ) M c )p(M c ) = g(p) ,

 avec p(M) = p , p(M c ) = 1-p , p(T/M) = 0,95 ,  p(T c /M c  et p(T/M) = 0,95 c ) = 0,05.                   On trouve g(p) =  1 1 8 9 p+ p 5  . g croît de 0 à 0,83 avec p.  Pour une population peu atteinte, le test sera très peu concluant  (g(0,005) # 0,087).

 Le test est efficace à 50% pour p 1/4. =

• de cette (sage) décision, il ne fume pas.Un fumeur décide de ne plus fumer; le jour (jour 1) On considère que, pour j≥1: →la probabilité qu’il fume le jour j+1sachantqu’il n’a pas fumé le jour j estα ∈]0,1[. →la probabilité qu’il ne fume pas le jour j+1sachantqu’il a fumé le jour j estβ ∈]0,1[.

Cherchons la probabilité u n  pour qu'il ne fume pas le jour n (événement A n ): la formule des probabilités totales fournit, pour n≥1: u n+1 = (1-α-β)u n +β, avec u 1 = 1. On obtient par la méthode classique: α u n = β α + β .(1-α-β) n-1 ue  n .  oNotsnq  → lim  +∞ u n = α+β β  : +β    α+

→Si 1-α>βlui est plus facile de ne pas fumer un jour s'il n'a pas fumé la veille), u(s'il n tendra vers sa limite de façon monotone (en décroissant).

→Si 1-α<β(s'il lui est plus facile de ne pas fumer un jour s'il a fumé la veille), u n tendra vers sa limite en oscillant.

→Siα+β= 1, u n  (logique).est constante et égale à cette valeur commune

Supposons de plus que la décision de fumer ou non le jour jsachant attitude adoptée les jours son précédentsne dépend que de l'attitude adoptée le jour j-1(suite sans mémoire; cf annexe: chaînes de Markov), et calculons la probabilité pour que le fumeur ne fume pas du jour n au jour q inclus (q>n): -1               p( k ∩A =n q k ) = p( A q k /   ∩ =n -q A 1 k q ).  k p(∩ - n 1 A = k A(p) h ==    py q /A q-1 k (p .)  q ∩A n= k ) = p 1 .( k  p∩ 1- A q =n k );        par récurrence, on obtient: p( k ∩ q A k ) = (1-α) q-n .p(A n ). =n

 Il en découle la probabilité pour qu'il ne fume plus à partir du jour n (avec Beppo-Levi): p(∩ ≥ A n k q  )  = →  m + il ∞ p ( k ∩ =n q A k ) = 0, k  et celle pour qu'il s'arrête définitivement de fumer un jour: p(∪ n k≥ ∩ n A k  (!).) = 0

Unevariable aléatoire surΩabrégé v.a.) est une application mesurable de(en Ωdans K = R , C , R d ou une de leurs parties (v.a. réelle; complexe; vecteur aléatoire de dimension d). Une v.a. à valeurs dans un ensemble fini ou dénombrable est ditediscrète.

On décrit une variable aléatoire X :Ω →K par les p({ωΩ∈, X(ω)∈A}) = p(X -1 (A)) pour A borelien de K ; on note: p(X -1 (A)) = p(X∈A) = p X (A)

oùp X (c'est une probabilité sur K), aussi appelée loi de Xest la mesure image de p par X .

Pour une v.a. discrète à valeurs dans un ensemble I (fini ou dénombrable), on note p(X -1 ({k})) = p(X=k) = p k pour k∈I , et ainsi: p X =∑p k .δ k , oùδ k désigne la mesure de Dirac en k. ∈ k I

Si une v.a. X a pour loi la probabilité uniforme sur un ensembleΔ, on dit que X suit laloi uniformesurΔ.

On introduit une v.a. X sur un espace probabiliséΩ pour mesurer le résultat d'une expérience aléatoire (expérience renouvelable, en principe sinon en pratique, et qui, renouvelée dans des conditions "identiques", ne donne pas à chaque essai le même résultat). Pour étudier une expérience aléatoire, onmodélisela situation en attribuant par exemple à certaines v.a. des lois connues, ce qui permet ensuite de faire des prévisions théoriques sur les résultats de l'expérience. Toute modélisation exige un choix; un modèle valide est un modèle qui, confronté avec les données recueillies lors de l'expérience, fournit des résultats satisfaisants (c'est l'objet de lastatistique).

Exemples: • Le lancer de trois dés non truqués peut se modéliser en considérant que les dés sont discernables et que le résultat (a 1 ,a 2 ,a 3 ) obtenu suit la loi uniforme sur {1,…,6} 3 .

Déterminons les lois des v.a. X = min(a 1 ,a 2 ,a 3 ) et Y = max(a 1 ,a 2 ,a 3 ) en donnant la loi de (X,Y): Pour 1≤i≤ p(X=i,Y=i)6 : = p( (a 1 ,a 2 ,a 3  )i)i,i, 6   1  =( = ) 3  . Pour 1≤i < j≤ trop formaliser):6 (sans 3 3 (X=i, Y=j) =  k ∪ ( 1= a k = i , autres = j )∪  k ∪ 1= ( a k = j , autres = i ) 3 ∪  ∪ k=1 ( i < a k  et la réunion est disjointe; il suit: ,< j , {autres} = {i,j} ) p( X=i,Y=j) = 3.  6 1 3 1j-i- 6 1  . j-i 3    + 3.  6 3  + 3.2.  6 3  =

Ce sont bien sûr les seuls événements de probabilités non nulles. Nous pouvons donner maintenant les lois de X et Y (à valeurs dans {1,…,6}): p(X=i) =  j ∑ 1 6 j i=X(p  6  = )j=Y, =i i- 63   =    3   i 2  39i +127 216   . -      6 3  j=  +∑ i+1 p(Y=j) =  i ∑i,X=j)Y=  1  = 6 1= (p  j 3  j-i 3j  +  j-1 2 3j +1 216  .  - =  i ∑ =1 36

Remarques: • La loi d’un couple (X,Y) de v.a. fournit fournit celles de X et Y, et d'une façon générale celle de ϕ(X,Y) pour toute fonction mesurableϕ, avec: p(ϕ(X,Y)∈A ) = p (X,Y) (ϕ -1 (A) ) = ⌠ ⌡ dp (X,Y) = ⌡ ⌠ dp (X,Y) (x,y) . ϕ -1 (A) ϕ (x,y) ∈ A • Si X 1 ,…,X n sont n v.a.indépendanteset équidistribuées, on peut obtenir facilement les lois des v.a. S = sup(X 1 ,…,X n ) et I = inf(X 1 ,…,X n ) à l’aide de lafonction de répartitioncommune aux X i (voir après).

• 

• 

Fouad et Taoufiq projettent de se rencontrer entre 0h et 1h, chacun d'eux ayant promis d'attendre l'autre 10 mn (ni plus, ni moins). Si l'on considère que (X,Y) = (heure d'arrivée de Fouad, heure d'arrivée de Taoufiq) suit la loi uniforme p sur [0,1] 2 probabilité qu'ils se rencontrent effectivement est:, la Y|≤1/6) = p (X,Y) (A) = λ (2) (A) p 1 = p( |X- λ (2) ([0,1] 2 ) =λ (2) (A) , où A = {(x,y)∈[0,1] 2 , |x-y|≤1/6}, soit donc (dessin) :  p 1 1 - (5/6) 2 .,3  11  =   63 0  #   =   La loi de Z = |X-Y| est décrite par: p(Z≤a) = 1- (1-a) 2 = 2a-a 2  sur [0,1] (loi à densité (cf paragr. 2). Si l'heure d'arrivée x de Fouad est fixée et si Y suit la loi uniforme p sur [0,1], la proba.pdevient: p 2 = p( |x-Y|≤1/6) =λ (1) (I x ) , où I x = [0,1]∩ obtient:[x-1/6,x+1/6] ; on → si∈ [  , 0]  6 1 :   I x = [0 , x+1 1 x 6 ];p 2  = x ; + 6 1 1 1 → x si∈ ,  6  [  :  ]  6 5 I x   6 ;]+  x  [ = x , 1 6 - p 2   ;= 3 → x si∈   ]I:  5 6 [  1 ,  x ;,  6 1 ] 1 [ =  - xp 2   - x   .=  7 6 Dans ces mêmes dernières conditions, la probabilité p 3 d’une rencontre sachant que Fouad ne trouve personne en arrivant dévient, en notant J x n'est pas là à l'heure x] (ie.: déjàl'événement: [Taoufiq parti, ou pas encore arrivé): p 3  = p( |x-Y|≤1/6 / J xp  = ) I(p   x ( ∩ J x ) J x ) ; on  obtient cette fois: → si  1 1 1 = x∈[ 0 , 6 ] : J x  I= ]x,1]; x ∩J x  ]x,x+6];p 3   ;= 6(1-x) 1 1 1 → si x∈ [ 6 1   6  ]  ,  5  : J x = [0,x-6[∪]x,1]; I x ∩J x = ]x,x+6];p 3   ;= 5 → x si∈J:    [  5 6  , 1 ] x 1 6 x-0, [ =[ ∪]x,1]; I x ∩J x = ]x,1];p 3   6(1- = . )x   5 On note T la v.a. à valeurs dans N donnant en nombre d'heures la durée de vie d'une ampoule électrique (arrondie à l'heure inférieure ; on considére que p(T =∞) = 0). On suppose que l'ampoule n'a pas de durée de vie limite fixée, i.e. :∀n∈  N , p(T≥n) > 0. Si l'ampoule a tenu bon jusqu'à l'heure n, on noteθ n la probabilité de la voir griller avant l'heure n+1 : θ= p(T=n / T≥n). n    La suite (θ n l'ampoule. Donnons la loi de T à l'aide des) est le taux de panne de θ n : Pour n entier, il vient: p(T≥n) = p(T=n) + p(T≥n+1) = p(T=n/T≥n).p(T≥n) + p(T≥n+1), n-1  =∏(1-θ k ) (n≥1) (1) d'où pour n≥ T p(1 (réc):≥  k=0 n ) n-1 puis, pour n≥ = p(T1: p(T=n)≥n) - p(T≥n+1) =θ n .  k ∏(1- 0= θ k ) , avec p(T=0) =θ o . Le résultat (1) et l'hypothèse indiquent que la suite (θ n [0,1[ ; En outre, on a, par) est à valeurs dans +∞+∞ convergence décroissante: p(  n ∩ = T( 0 ≥ 0 = ) )n n = ∏-(1 0= θ n ) ; +∞ Le produit infini est donc divergent, et par suite:  n ∑ =0 θ n = +∞(série et produit ont même nature). +∞ Soit réciproquement une suite (θ n ) à valeurs dans [0,1[ telle que∑ n=0 θ n = +∞. On vérifie alors qu'en n-1 posant p o =θ o et p n =θ n . k ∏(-1 0= θ k ) pour n≥1, on définit par p(T=n) = p n une v.a. T à valeurs dans N +∞n-1 n de taux de ifie e∏ panne (θ n n=0 qur   )(r1é-v(θ n ) = 0 et écrire p n   = k  ∏-(1 0= θ k )  k  -∏-1( =0 θ k  constater) pour +∞ que∑p n =1 ; prouver n=0 ensuite : [∀n≥0 : p(T≥n) > 0] puis [∀n≥0 : p(T=n/T≥n) =θ n ] . Dans le cas où (θ n ) est constante ( =θ ∈[0,1[ ) , la loi de T est donnée par: p(T=0) =θ;∀n≥1   , p(T=n) =θ(1-θ) n .

Si X :Ω → K est une v.a. etϕ application mesurable de K dans une C  telle que la v.a. complexeϕoX (notée aussiϕ(X)) soit intégrable surΩ, on note E(ϕoX) = ⌡ ⌠ ϕoX.dp = ⌡ ⌠ ϕ.dp X . Ω K En particulier, si X est une v.a. complexe intégrable surΩ, la valeur moyenne de X surΩest appeléeespérance de X, et notée E(X), ou X (s'il n'y a pas d'ambiguité): ∀X∈L 1 (Ω) : E(X) =X= ⌡ ⌠ X.dp = ⌠ ⌡ t.dp X (t). Ω C Si A est une partie mesurable de K : p(X∈A) = E(1 A oX). Deux v.a. X et Y définies surΩet presque partout égales (dans le langage des probabilités, on dit plutôt: "presque sûrement" , en abrégé p.s.), suivent donc la même loi (car pour A mesurable dans K, 1 A oX et 1 A oY sont pp égales). La réciproque est évidemment fausse. (par exemple: on lance une pièce de monnaie non truquée et on note X la v.a. qui vaut 1 si le résultat est pile, et 0 sinon: p X = p 1-X 2  ( =  1 δ 0 +δ 1 ) et pourtant X et 1-X sont partout distinctes).

La connaissance de la seule moyenne d'une v.a. détermine assez peu celle-ci. Pour mesurer l'éparpillement des masses autour du centre de gravité, on introduit les moments de la v.a. lorsqu'ils existent. On notera, du fait que p est une mesure finie, les inclusions: L q (Ω)⊂L p (Ω)⊂…⊂L 1 (Ω q) , pour≥p≥1. ( car |X| p  ≤1 + |X| q pour q≥p )

Si X∈L p (Ω; R ) pour un p∈[1,+∞[ , on dit que X est d'ordre p; on définit pour k∈[1,p] le moment d'ordre k, le moment absolu d'ordre k, le moment centré d'ordre k et le moment absolu centré d'ordre k de X (ils dépendent uniquement de la loi de X): E(X k ) = ⌡ ⌠ X k .dp = ⌠ ⌡ t k .dp X (t) ; E(|X| k ) = ⌠ ⌡ |X| k .dp = ⌠ ⌡ | t | k .dp X (t) ; Ω R Ω R m k = E((X- X ) k  M) ; k = E(|X- X | k ).

Le moment (absolu) centré d’ordre 2 :m 2 = M 2  X )= E( (X- 2 ) est noté V(X) et appelé variance de X; sa racine   carrée positiveσ(X) est l’écart-type de X.

La linéarité de E fournit :V(X) = E(X 2 ) – E(X) 2  a donc l'inégalité E(X) (on 2  ≤E(X 2 )); V(λX) =λ 2 V(X) (λ∈ R ) ; V(X-a) = V(X) (a∈ R ).

La variance V(X) est nulle si et seulement si X est presque sûrement égale à sa moyenne. Hormis ce cas particulier, la variable X σ -E(X) ()X centrée réduite , i.e. de moyenne nulle et de variance égale à 1.est

L'éparpillement des valeurs d'une v.a. réelle X d'ordre p autour de sa valeur moyenne est mesuré par l'inégalité:

Prop 1.∀ p( |X-r > 0 : X |≥r )≤ r   M   pp . Pour p≥r ) σ 2 = 2 : p( |X- X |≤  r 2  oùσest l'écart-type de X (inégalité de Bienaymé-Chebychev).

(pour Y réelle positive intégrable etα> 0, on a : E(Y) = ⌡ ⌠ Ydp≥  ⌡ ⌠ Y.dp≥ r. ⌠ ⌡  r.p(Ydp =≥ α), i.e. ΩY≥ αY≥ α p(Y≥ α)≤ E( α il suffit alors d’appliquer ceci à Y = |X-E(X)| Y) (inégalité de Markov) ; p etα= r p . ---------------------------------------------------------------------------------------------------------------------------------------- Annexe: corrélation linéaire. ----------------------------------------------------------------------------------------------------------------------------------------

2) LOIS DISCRETES ; LOIS A DENSITE

a) Lois discrètes:

Soit X une v.a. à valeurs dans I, partie finie ou dénombrable de R , et p k = p(X=k) pour k∈I : p X  =  k ∑ ∈ Siϕ: I→  C a, lorsque cela a un sens :est une application (automatiquement mesurable ici), on

E(ϕ(X)) = ⌡ ⌠ ϕ.dp X  =  k∈ ∑ϕ I ()kp. k  . I en particulier :   E(X) =  k ∑k I .p k ; E(X n =  k  ) ∈ ∑ I k n .p k . ∈

I p k .δ k .

Exemple: On lance une pièce ayant la probabilité p de tomber sur « pile » ; soit X la variable valant 1 si le résultat est pile, et 0 sinon: p(X=0) =1-p ; p(X=1) = p; la loi p X est appeléeloi de Bernoulli B(p)de paramètre p. On obtient immédiatement: E(X) = p ; V(X) = p(1-p).

b) Lois à densité dans un intervalle I de R :

Soit f∈L + (I) telle que ⌡ ⌠ f.dλ= 1 (λdésigne la mesure de Lebesgue sur I ). Une v.a. X à valeurs dans I suit la loi I à densité f sur I si p X = f.λ.(On dit aussi que X est absolument continue).

Pour A⊂I mesurable, on a alors:

p(X

= A) = p X (A) ⌡ ⌠ f.dλ A

(d’où l’interprétation de la probabilité que X soit comprise entre deux réels a et b par une "aire sous la courbe de

f entre x = a et x = b"). Cette formule estcaractéristiqued'une variable à densité f.

Si X est absolument continue, on a p(X=x) = 0 pour tout x∈I.

Pourϕmesurable de I dans C , il vient, si cela a un sens :

En particulier : E(X) = ⌡ ⌠ x.f(x).dx , …. I Exemples:

Loi uniforme U(a,b) (a < b):

E(ϕ(X)) = ⌡ ⌠ ϕ.dp X = ⌠ ⌡ ϕ.f.dλ I I

On choisit « au hasard » un réel x entre a et b ; le résultat est décrit par la variable X. Pour A mesurable dans [a,b]: p(X∈A) = λ b )A( =  a-b 1   . -a ⌡ ⌠ dx : suit la loi U(a,b) à densité X    a-b 1  = ,a[ rus .b]f(x) A b On obtient E(X) = ⌡ ⌠ x dx , e  t(V  = +a 2 b 1 b) 2  =X) a-   ( 2 . b-a. a

1 b-a

a

densi té de U(a,b)

b