//img.uscri.be/pth/73fe57413b57bc0fd28f043e433346300799c933
Cet ouvrage fait partie de la bibliothèque YouScribe
Obtenez un accès à la bibliothèque pour le lire en ligne
En savoir plus

Universite Pierre et Marie Curie Master de Mathematiques

De
107 pages
Niveau: Supérieur, Master
Universite Pierre et Marie Curie Master de Mathematiques annee 2004-05 Processus stationnaires et prevision Laboratoire de Probabilites et Modeles Aleatoires

  • procedures d'estimation dans les modeles arma

  • coefficients de fourier

  • master de mathematiques

  • filtrage des processus

  • universite pierre

  • rappels d'integration

  • processus stationnaire


Voir plus Voir moins

Universite Pierre et Marie Curie
Master de Mathematiques
annee 2004-05
Processus stationnaires et prevision
Laboratoire de Probabilites et Modeles Aleatoires23
Processus stationnaires et prevision.
Mode d’emploi
Ce polycopie est destine aux etudiants de l’U.E. \Processus stationnaires et prevision" du
Master de Mathematiques de l’Universite Pierre et Marie Curie. En principe il s’adresse
donc a des etudiants ayant suivi un premier cours de probabilites. Cependant le chapitre
2 contient un rappel de tous les resultats probabilistes utilises par la suite. Il est rela-
tivement autonome et peut eventuellement ^etre aborde par un etudiant n’ayant jamais
suivi de cours de probabilites. Le chapitre 1 introduit les principales notions de series
et transformations de Fourier, et comporte, en annexe, quelques elements de la theorie
classique du signal deterministe. Cette annexe qui, en principe, ne fait pas partie de ce
cours, concerne neanmoins tous les etudiants desirant acquerir quelques notions de base
de traitement du signal. Les chapitres 3, 5 et 6 sont consacres aux deux sujets essentiels
traites dans ce polycopie, a savoir l’etude spectrale des processus du second ordre et
l’etude des series chronologiques classiques: Ar, Ma, Arma ainsi que quelques elements
d’etude statistique de ces processus.
Un certain nombre de resultats sur la \petite" integrale stochastique, guran t clas-
siquement dans un cours sur les processus du second ordre, ont ete rassembles dans
le chapitre 4 \L’integrale stochastique", car ils ne sont pas vraiment necessaires pour
la comprehension des trois chapitres principaux, a savoir les chapitres 3, 5 et 6. Il est
neanmoins vivement recommande au lecteur d’en prendre connaissance.
Ce polycopie est divise en chapitres, sections et sous-sections. Ainsi 3.2.4 renvoie au
chapitre 3, section 2, sous-section 4 et 5.4 renvoie au chapitre 5, section 4. A l’interieur
d’une m^eme section, les enonces sont numerotes en continu. Ainsi \d’apres le th. 5.4.6"
renvoie au chapitre 5, section 4, enonce 6. Quant aux egalites, elles sont numerotees
entre parentheses et en continu au sein d’un m^eme chapitre. Ainsi \vu (3.5)" refere a la
cinquieme egalite numerotee du chapitre 3. Le signe " " indique la n d’une preuve.
Paolo Baldi qui a enseigne ce cours en 04-05, s’est tout particulierement attache a le
completer par de procedures d’estimation dans les modeles Arma.
Jean Lacroix4Table des Matieres
1 Analyse de Fourier 7
1.1 Rappels de cours . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
1.1.1 Rappels sur les espaces de Hilbert . . . . . . . . . . . . . . . . . . 7
1.1.2 Rappels d’Integration . . . . . . . . . . . . . . . . . . . . . . . . . 9
1.2 Series de Fourier . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
21.2.1 Coe cien ts de Fourier d’une fonction de L (T;dx) . . . . . . . . . 11
21.2.2 Transformation de Fourier d’une suite de ‘ (Z) . . . . . . . . . . . 14
11.2.3 Coe cien ts de Fourier d’une fonction de L (T;dx) . . . . . . . . . 14
1.3 Transformation de Fourier sur R . . . . . . . . . . . . . . . . . . . . . . . 16
11.3.1 Transformation de Fourier surL (R;dx) . . . . . . . . . . . . . . 17
21.3.2 T de Fourier surL (R;dx) . . . . . . . . . . . . . . 19
1.3.3 Exemples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
1.4 Convolution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
1.5 Autocorrelation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
1.6 Transformee en z . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
1.7 Annexe: Signaux deterministes . . . . . . . . . . . . . . . . . . . . . . . . 27
1.7.1 Echantillonnage et formule de Poisson . . . . . . . . . . . . . . . . 28
1.7.2 Transformee de Fourier sur un ensemble ni . . . . . . . . . . . . . 31
1.7.3 Transformation de Laplace . . . . . . . . . . . . . . . . . . . . . . 33
2 Rappels de calcul des probabilites 35
2.1 Generalites . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35
2.2 Convergences . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36
2.3 Independance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38
2.4 V.a. complexes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40
2.5 Fonctions caracteristiques . . . . . . . . . . . . . . . . . . . . . . . . . . . 41
2.6 Processus Gaussiens . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
2.7 Le Modele lineaire . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47
3 Theorie spectrale des processus du second ordre 49
3.1 Processus du second ordre . . . . . . . . . . . . . . . . . . . . . . . . . . . 49
3.2 Theoremes de Herglotz et Bochner . . . . . . . . . . . . . . . . . . . . . . 51
3.3 Filtrage des processus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57
3.4 Representation spectrale des p.s.c. . . . . . . . . . . . . . . . . . . . . . . 596 TABLE DES MATIERES
4 L’integrale stochastique 63
4.1 Processus a accroissements orthogonaux et integrale stochastique . . . . . 63
4.2 L’integrale stochastique et les processus stationnaires . . . . . . . . . . . . 65
4.3 Les exemples fondamentaux . . . . . . . . . . . . . . . . . . . . . . . . . . 67
4.3.1 Le mouvement brownien. . . . . . . . . . . . . . . . . . . . . . . . 67
4.3.2 Le processus de Poisson. . . . . . . . . . . . . . . . . . . . . . . . 71
5 Processus stationnaires aleatoires 73
5.1 Inversion des ltres . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 73
5.2 Prediction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 74
5.3 Processus AR, MA et ARMA . . . . . . . . . . . . . . . . . . . . . . . . . 74
5.3.1 Processus AR . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 74
5.3.2 Pro MA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 77
5.3.3 Processus ARMA . . . . . . . . . . . . . . . . . . . . . . . . . . . . 79
5.3.4 La fonction de covariance des processus ARMA . . . . . . . . . . . 82
5.4 Matrices de Toeplitz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 83
5.4.1 L’Algorithme de Levinson . . . . . . . . . . . . . . . . . . . . . . . 85
5.4.2 Prolongement AR d’un segment de covariance . . . . . . . . . . . . 87
5.4.3t de Pisarenko d’un segment de covariance . . . . . . 88
6 Statistique des processus du second ordre 91
6.1 Theoremes limites . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 92
6.2 Etude statistique d’un processus stationnaire . . . . . . . . . . . . . . . . 95
6.2.1 Estimation de la moyenne . . . . . . . . . . . . . . . . . . . . . . 95
6.2.2 de la covariance . . . . . . . . . . . . . . . . . . . . . . 95
6.3 Estimation des parametres d’un processus ARMA reel . . . . . . . . . . . 97
6.3.1 Estimation dans les modeles AR: les equations de Yule-Walker . . 97
6.3.2 Les estimateurs du maximum de vraisemblance . . . . . . . . . . . 100
6.4 Estimation du spectre d’un p.s.c. . . . . . . . . . . . . . . . . . . . . . . . 102
6.4.1 Estimation de la densite spectrale . . . . . . . . . . . . . . . . . . 102
6.4.2 Estimateurs des parametres bases sur le spectre . . . . . . . . . . . 104Chapitre 1
Analyse de Fourier
1.1 Rappels de cours
1.1.1 Rappels sur les espaces de Hilbert
SoitH un espace de Hilbert complexe muni du produit scalairehi. L’inegalite suivante,
appelee inegalite de Schwarz, sera tres souvent utilisee dans la suite du cours:
Proposition 1.1. Soit x et y des elements de H. On a alors:
jhx;yijkxkkyk
Avec egalite si et seulement si x et y sont colineaires.
La propriete suivante porte le nom de "bicontinuite du produit scalaire":
Proposition 1.2. Soitx ety deux suites dansH qui convergent respectivement versn n
x et y. Alors la suite numerique hx ;y i converge vers hx;yi.n n
De nition 1.3. Soit A une partie de H.
? On designe parA l’ensemble des elements deH orthogonaux a tous les elements
de A. C’est un sous espace ferme de H.
On designe par(A) l’espace vectoriel ferme engendre parA, et on dit que la partie
A est totale dans H si (A) =H.
Proposition 1.4. Soit A une partie de H. Alors:
? ? ?A = ((A)) ; et H =(A)A
Cette proposition sera souvent utilisee sous la forme suivante:
Corollaire 1.5. Soit A une partie de H.
?1. A est totale dans H si et seulement si A =f0g.
?2. Soit x2H. Alors x2(A) si et seulement si pour tout y2A on ahx;yi = 0.
La proposition suivante est generalement attribuee a Bessel et Parseval:8 Chapitre I. Analyse de Fourier
Proposition 1.6. Soit fe g une famille orthonormee dans H. Pour x2H on pose 2
x =hx;e i. On a alors: X
2 2jx j kxk
2
Si de plus la famille fe g est totale dans H (on dit alors que c’est une base or- 2
thonormee) on a les egalites:
X X
2 2kx k =kxk ; x y =hx;yi
2 2
Dans le cas d’un espace de Hilbert separable (de dimension in nie) toute base est
denombrable et peut donc ^etre indexee par l’ensemble Z. On a alors:
Proposition 1.7. Soit fe g une base orthonormee de H . L’application x !n n2Z
2fx g est une application lineaire bijective et isometrique de H sur ‘ (Z) , dontn n2Z P
l’application reciproque est donnee parfx g ! x e .n n2Z n nn2Z
2Autrement dit, tout espace de Hilbert separable est isomorphe a ‘ (Z) . La notion
de projection orthogonale sera fondamentale dans la suite du cours et resulte de la
decomposition de l’espace H donnee en 1.4 (2).
Proposition 1.8. Soit F un sous espace ferme deH, on designe parP (x) (projectionF
orthogonale de x sur F) la surjection continue de H surF veri an t les deux proprietes
equivalentes:
1. hx P (x);yi = 0 pour8y2F.F
2. kx P (x)k = inf kx yk.F y2F
Dans la plupart des cas, on calcule une projection orthogonale en utilisant une base
orthonormee:
Proposition 1.9. Soitfe g une base orthonormee deH, telle quefe g soit unen n2Z n npPpbase orthonormee de F, alors P (x) = hx;e ieF n n 1
Il est facile de prouver la propriete de \continuite\ suivante:
Proposition 1.10. SoitF une suite de sous espaces de l’espace de HilbertH etx2H.n
On pose x = Proj(xjF )n n
1. Si la suite F est decroissante et F =\ F alors x converge vers Proj(xjF).n n n n
2. Si la suite F est croissante et F =[ F alors x converge vers Proj(xjF).n n n n
Nous terminons cette section par une propriete d’extension des isometries qui nous sera
tres utile.
Proposition 1.11. Soit F ( resp F ) un sous espace dense de l’espace de Hilbert H1 2 1
(respH ). Alors siW est une application lineaire isometrique et surjective deF surF2 1 2
elle se prolonge de fa con unique en une isometrie de H surH1 2
Les espaces de Hilbert les plus utilises dans ce cours seront les espaces de suites ou de
fonctions complexes de carre sommable.I. 1. Rappels de cours 9
1.1.2 Rappels d’Integration
Soit ( ;A;) un espace mesure, etant une mesure positive que l’on supposera toujours
p nie. Pour 1p1 on designe par L l’espace de Banach des classes d’equivalence
(pour l’egalite presque sure)^ des fonctions complexes mesurables telles que les quantites
R 1=pp kfk = jfj d si p<1p

kfk = inffc;jfjc -p:p:g1
psoient nies (ce sont alors des normes surL ).
2Proposition 1.12. L’espace L muni du produit scalaire
R
hf;gi = f(!)g(!)d (!)

est un espace de Hilbert.
pProposition 1.13. (Inegalite de H older) Soitp 1,q 1 avec 1=p+1=q = 1 etf 2L ,
q 1g2L . Alors fg2L et kfgk kfk kgk1 p q
Proposition 1.14. (Lien avec la convergence presque partout) Soit f une suite den
p p pL qui converge dans L vers f 2 L . Alors il existe une sous suite extraite de f quin
converge -p.p. vers f.
pEn particulier ceci signi e que si une suite f converge vers f dans L et f convergen 1 n
vers f -p.p. alors f =f -p.p.2 1 2
1Proposition 1.15. (Theoreme de Lebesgue) Soit f une suite de fonctions de L quin
1 1converge-p.p. versf et telle qu’il existeg2L avecjf jg pour toutn. Alorsf 2Ln
1et f converge vers f dansL .n
Nous utiliserons tres souvent le theoreme de Fubini. Soit ( ;A; ),i = 1;2 des espacesi i i
mesures, les deux mesures etant positives et nies.i
Theoreme 1.16. Soit f(! ;! ) une fonction A
A mesurable.1 2 1 2
1. Si f 0 alors
Z Z Z Z
f(! ;! )d (! ) d (! ) = f(! ;! )d (! ) d (! )1 2 2 2 1 1 1 2 1 1 2 2




1 2 2 1
Cette valeur commune etant nie ou non.
2. Pourf non necessairement positive la formule ci-dessus est toujours valable si l’on
s’assure au prealable que cette formule appliquee a la fonction positive jfj fournit
une valeur nie. Toutes les integrales ecrites sont alors absolument convergentes et
de nissen t l’integrale de f par rapport a la mesure produit
.1 2
On supposera 1p<1 dans les enonces suivants de cette section.
P
pProposition 1.17. Soitf une suite de fonctions deL telle que kf k <1. Alorsn n pnP
p pla serie f converge -p.p. absolument et dans L (vers une fonction de L noteenn R RP P P
f ). En particulier pourp = 1 on aura donc f = f .n n nn n n10 Chapitre I. Analyse de Fourier
P P Pn n 1Demonstration. On pose S = f et h = jf j, h = jf j. On an k n k kk=1 k=1 k=1
1X
khk = lim"kh k kf k <1p n p k p
n
k=1
P
pOn en deduit h2L et par consequent que h est nie presque partout ( et donc fnnPmconverge -p.p. absolument). D’autre part pourm>n,kS S k kf k cem n p k pk=n+1
pqui prouve que la suite S est de Cauchy dans L en utilisant la propriete de CauchynP P
pde la serie convergente kf k . L’espace L etant complet la serie f est donck p nk n
pconvergente dans L .
1 pCorollaire 1.18. Soita 2‘ (Z) etf une suite de fonctions bornee dansL . Alors lan nP
pserie a f converge -p.p. absolument et dans Ln nn
2Dans le cas de series orthogonales dansL on a un resultat voisin (il s’agit de la somme
des carres des normes!) mais on perd en general la convergence presque sure:^
2Proposition 1.19. Soit f une suite de fonctions orthogonales dansL .n
P P
2 21. Si kf k <1 la serie f converge dans L .n nn 2 n
P
2 22. Soit a 2‘ (Z) et f une suite bornee dans L . Alors la serie a f convergen n n nn
2 1dans L . Si de plus a 2‘ (Z) alors la serie converge -p.p.n
2Demonstration. On veri e immediatement que la serie est de Cauchy dans L car en
adoptant les notations de la preuve de 1.17 on a d’apres le \theoreme de Pythagore":
mX
2 2kS S k = kf km n k2 2
k=n+1
P
2Il su t alors d’utiliser la propriete de Cauchy de la serie convergente kf k . Lakk
seconde assertion est un corollaire immediat de 1.18.
Proposition 1.20. L’ensemble des combinaisons lineaires a coe cien ts complexes de
pfonctions indicatrices d’ensembles mesurables de mesure nie est dense dansL . Dans
le cas de
= R ou T muni de leur tribu Borelienne on peut se contenter d’indicatrices
d’intervalles. De plus dans le cas de R, l’ensemble des fonctions continues a support
pcompact est dense dans L et de m^eme pour l’ensemble des continues dans le
cas de T.
On remarquera que:
1 2 1 Si est une mesure nie on a les inclusions: L L L
1 2 1 Par contre ‘ (Z) ‘ (Z) ‘ (Z)
mais qu’aucune inclusion de ce genre n’est valide sur R muni de la mesure de Lebesgue.
1.2 Series de Fourier
On identi e les fonctions sur [0 1[ aux fonctions sur R periodiques et de periode 1 et on
designe par T l’intervalle [0 1[ muni de la topologie du tore R=Z qui en fait un espace
compact. (Attention, la restriction a [0 1[ d’une fonctionf continue sur R ne de nit une
fonction continue sur T que si f(0) =f(1)!). On ecrira donc indi eremment:
Z Z Z1 a+1
f(x)dx ; f(x)dx ; f(x)dx
T 0 a