Statistique multivariate - M1 Miage

Description

Statistique multivariate - M1 Miage
Matthieu Barrandon, Marco Dozzi
Septembre 2008
Matthieu Barrandon, Marco Dozzi () Septembre 2008 1 / 164. RØgression et corrØlation multiple
4.1. La loi normale multidimensionnelle
4.2. RØgression linØaire multiple : estimation des paramŁtres
4.3. RØgression multiple : tests des paramŁtres et analyse de
variance
Annexe. CorrØlation et rØgression simple, loi normale bidimensionnelle
Matthieu Barrandon, Marco Dozzi () Septembre 2008 2 / 164.1. La loi normale multidimensionnelle
Exemple : taille du pŁre et taille du ls ainØ suivant Pearson et Lee
N (μ,Σ) loi normale m-dimensionnelle de moyenne μ et de matrice dem
covarianceΣ
2μ σ σ1211pour m = 2 : μ = , Σ = .2μ σ σ122 2
Fonction de densitØ de N (μ,Σ) :m
m 1/2 1 t 1 mf(x) = ((2π) DetΣ) exp( (x μ) Σ (x μ)), x 2R
2
oø DetΣ (supposØ di⁄Ørent de zØro) est le dØterminant deΣ.
2 2 2Pour m = 2, DetΣ = σ σ σ .1 2 12
Matthieu Barrandon, Marco Dozzi () Septembre 2008 3 / 164.2. RØgression linØaire multiple : estimation des
paramŁtres
Exemple. Chemin d arrŒt d une voiture en fonction de sa vitesse
(x ,y ), i = 1,2, ...50 observations de la vitesse x et du chemin d arrŒt Yi i
modŁle de rØgression
2y = β x +β x +e , i = 1,2...,50.i i ii1 2
oø e sont les rØsidus : des variables alØatoires indØpendantes et de loii
normale N(0,σ), oø σ (inconnu en gØnØral) est supposØ indØpendant de x.
Matthieu Barrandon, Marco Dozzi () Septembre 2008 4 / 164.2. RØgression linØaire multiple : estimation des
paramŁtres ...

Sujets

• Paramètre post-képlérien
• Théorème de Rice
• Estimation par noyau
• Loisy
• Annexe (comptabilité)
• Pyramides de Gizeh et constellation d'Orion

Informations

• Publié par: Shaum
• Nombre de lectures: 43
• Langue: Français

Extrait

MatthieuBarrandon,Ma Statistiquemultivariate-M1Miage rcoDozzi MatthieuBarrandon,MarcoDozzi () Septembre2008 Septembre20081/16

4.Régressionetcorrélationmultiple 4.1.Laloinormalemultidimensionnelle 4.2.Régressionlinéairemultiple:estimationdesparamètres 4.3.Régressionlinéairemultiple:testsdesparamètresetanalysede variance Annexe.Corrélationetrégressionsimple,loinormalebidimensionnelle MatthieuBarrandon,MarcoDozzi()Septembre20082/16

4.1.Laloinormalemultidimensionnelle Exemple:tailledupèreettailledu…lsainésuivantPearsonetLee N m ( µ , Σ )loinormalem-dimensionnelledemoyenne µ etdematricede covariance Σ  2  pourm = 2: µ = µ 1 , Σ = σ 1 σ 1 2 2 . µ 2 σ 12 σ 2 FonctiondedensitédeN m ( µ , Σ ): 1 (x µ )),xf(x)=((2 π ) m Det Σ ) � 1/2 exp(� 2 1 (x� µ ) t Σ � �2 oùDet Σ (supposédi¤érentdezéro)estledéterminantde Σ . Pourm=2,Det Σ = σ 1 2 σ 2 2 � σ 1 2 2 . MatthieuBarrandon,MarcoDozzi()Septe R mbr m e20083/16

4.2.Régressionlinéairemultiple:estimationdes paramètres Exemple.Chemind’arrêtd’unevoitureenfonctiondesavitesse (x i ,y i ),i=,1,2..5.0 modèlederégression boesvrtaoisnedalivetssexteud y i = β 1 x i + β 2 x i 2 +e i ,i=1,2...,50. hcmeni’draêrtY oùe i sontlesrésidus:desvariablesaléatoiresindépendantesetdeloi normaleN(0, σ ),où σ (inconnuengénéral)estsupposéindépendantdex. MatthieuBarrandon,MarcoDozzi()Septembre20084/16

4.2.Régressionlinéairemultiple:estimationdes paramètres(2) Modèlegénéraldelarégressionlinéairemultiple observations(x i1 ,x i2 ,..,x im ,y i )i = 1,2,...,n modèlederégressiony i = β 0 + β 1 x i1 + β 2 x i2 + ... + β m x im + e i , oùlesrésiduse i sontdesvariablesaléatoiresindépendantesetdeloi normaleN ( 0, σ ) . µ Y (x 1 ,x 2 ,...,x m )= β 0 + β 1 x 1 + β 2 x 2 +... β m x m MatthieuBarrandon,MarcoDozzi()Septembre20085/16

61/68002erbmetpeS)(izzoDocraM,nodnarraBueihttaM , . 0 β = β , .. m1 x


11 x . 1 =X, . 1 y =Y ùo,E 01 @ B β m A C 1 C A x mn


x 1n 0 B @ 1 X=Y+ β Formematricielledumodèlegénéraldelarégressionlinéairemultiple 10 CB A@ y n e 1 10 E= @ B . A C . e n 4.2.Régressionlinéairemultiple:estimationdes paramètres(3)

4.2.Régressionlinéairemultiple:estimationdes paramètres(4) Estimationsdesparamètresausensdesmoindrescarrés hToérmèe.41.uSppsonosuqeelsérisudse,i i = 1,2,...,nsontdes variablesaléatoiresindépendantesdeloiN ( 0, σ ) .Lesestimateursausens desmoindrescarrésdesparamètres β et σ 2 sontdonnéespar MatthieuB 1mn β b =(X t X) �1 X t Y, σ c 2 = 1 (Y�X β b ) t (Y�X β b ). �� arrandon,MarcoDozzi()Septembre20087/16

4.2.Régressionlinéairemultiple:estimationdes paramètres(5) N m+1 ( β , σ 2 ( X t X ) �1 ) ,e us n ti � al m ol � in 1 ) ro σ m 2 / la σ e 2 ( s m iut + al 1 l ) - io idm hk e -i n d s e oi u n x n a e v ll e e c Théorème4.1(suite). β b ( t c ( n � m � 1 ) degrésdeliberté.Lemodèleestimédelaregressionlinéaire multipledeYsurx 1 ,x 2 ,...,x m estdonnépar MatthieuBarrando µ b n, Y M ( ar x co 1 , Do x zz 2 i , ( . ) ..,x m )= β b 0 + β b 1 x 1 + β b 2 x 2 +...+ β b m x m . Septembre20088/16

4.3.Régressionlinéairemultiple:testdesparamètreset analysedesvariances Dé…nition.Unerestrictionlinéairede β estuneéquationdelaforme c t β =d,oùc t =(c 0 ,c 1 ,...,c m )etd2 R sontsupposésdonnés. Théorème4.2.Supposonsquelesrésidussatisfontauxconditionsdu Théorème4.1.Sousl’hypothèseH 0 :c t β =dlavariable σ d 1 c t b t= p c β � b c t (X t X) � suitlaloideStudentt ( n � m � 1 ) avecn � m � estlenombredevariablesexplicativesx 1 ,x 2 ,...,x m etnestlenombre d’observations(x i1 ,x i2 ,..,x im ,y i ). MatthieuBarrandon,MarcoDozzi() 1edrgséed Sep l t i e b m e br r e t 2 é 0 , 08 ùom 9/16

4.3.Régressionlinéairemultiple:testdesparamètreset analysedesvariances(2) Exempleduchemind’arrêt(suite): µ b Y (x)=0.2353x+0.0108x 2 nouveaumodèle:y i = β 1 x i + β 2 x i 2 +x i e i 0 ,e i 0 indépendantesetdeloi N(0, σ ),i=1,2,...,50 transformation:y i 0 =y i /x i ,y i 0 = β 1 + β 2 x i +e i 0 nouveaumodèleestimé: β µ b Y 0 ( x )= 0.2381 + 0.0  105  x , µ b Y ( x )= 0.2381x + 0.0105x 2 H 0 : β 2 =0,(0,1) β 1 =0 2 variablede q test: p t = β c 2 / [ σ b ( X t X ) 2 � 2 1 ]= 0.0105/ [ 0.1843549 � 1 ]= 3.4 > t ( 48 ) 0.975 RejeterH 0 . MatthieuBarrandon,MarcoDozzi()Septembre200810/16

4.3.Régressionlinéairemultiple:testdesparamètreset analysedesvariances(3) Exempledesventes. Ils’agitd’analyserlesventessemestriellesenfonctiondedi¤érentes variablesquisontsusceptiblesdelesin‡uencer: marchétotaldusecteur(x 1 ),remisesauxgrossistes(x 2 ), prixduproduit(x 3 ),budgetderecherche(x 4 ),investissements(x 5 ), fraisdepublicité(x 6 ),fraisdeventes(x 7 ), totaldubudgetdepublicitédusecteur(x 8 ). y i = β 0 + β 1 x i1 + β 2 x i2 + ... + β 1 x i8 + e i ,i = 1,2,...,38 µ Y ( x 1 ,x 2 ,...,x 8 )= β 0 + β 1 x 1 + β 2 x 2 + ... + β m x 8 modèleestimé µ b Y (x 1 ,x 2 ,...,x 8 )=3130.01+4.39x 1 +1.70x 2 �13.58x 3 �3.81x 4 + 1.91x 5 +8.55x 6 +1.59x 7 �0.03x 8 σ b 2 = 38 1 �9 (Y�X β b ) t (Y�X β b )=65867. MatthieuBarrandon,MarcoDozzi()Septembre200811/16