EXERCICEbibarospLeesocrudsil´tseuaePers´ee Pers´eeesta`larecherchedeson´epouseAndrome`dequ’undieumalveillantaenferm´eedansunecaverne.Malheu-reusement,ilyatroiscavernesidentiques:dansl’unesetrouveAndrome`demaisdanschacunedesdeuxautres setrouveunegorgoneauregardp´etrifiant. Zeusintervient:”Monfils,jesaisdansquellecaverneAndrome`desetrouvemaisjenepeuxpasteledire.Toutefois je peux t’aider.Une fois que tu auras choisi une caverne, je peux t’indiquer parmi les deux cavernes restantes, unecaverneo`uilyaunegorgoneetjeteconseillealorsdemodifiertonchoixinitial.” ˆ Pers´ee:”Op`erecruel,quejechangeounonmonchoix,ilyatoujoursunechancesurdeuxquejesoistransform´e en pierre!” Zeus:”Perse´e,lamath´ematiqueestmeilleureconseille`requelacol`ere!” Quelleestlaprobabilite´quePerse´etrouveAndrom`edesiPerse´enemodifiepassonchoix? Quelleestlaprobabilit´equePerse´etrouveAndrome`desiPers´eemodifiesonchoix? Que lui conseillez-vous?
1
` PROBLEMEaemtndslerlesrudi’´etudieeme`dtsepudflborbj’otiecLt´hoeironmocaledeitacinumh´ut-oerieo de l’information - introduite en 1948 par Claude Shannon. De´finitionsetnotations – (Ω,A, Pigneunespaceprobabilis´e.)´dse ln(x) –ϕofcnitno´dfieinse]0urestla,1] parx7→ϕ(x) =−. ln(2) –Pourun´ev´enementAorabdpe´tneibile,llnuon on posei(A) =ϕ(P(A)). –hetssuer[0no´dfieinalofcnit,1] par ln(x) h(0) = 0et pourx∈]0,1], h(x) =−x ln(2) –Pourunevariableale´atoireXdiscΩ(ruseinfie´dete`r,A, Peslru´ersl,elveap`oaon)sose´rsureseev d’existence : X H(X) =h(P(X=x)) x∈X(Ω) – SiXleva`astsuansdurlbmesneninfiee{x1, x2, . . . , xn}, alorsH(X) existe et, en notant pk=P(X=xk), on a : n n X X H(X) =h(P(X=xk)) =h(pk) k=1k=1 Remarque:Enthe´oriedel’information,i(A)pptaeslee´dudetrtiniecntnemeev´eel’´AetH(X)est l’incertitude moyenne- ouentropie- deX. Partie IrecnIededutits´ev´enements I.1) Onchoisit une carte au hasard dans un jeu de 32 cartes. SoitA.”ruœcedemadalteeestir´arte”lacemtne´en´’vel Que valentP(A) eti(A) ? ∗ I.2) Soitn∈N. On lancenfoisunepe.iliue´rbce`iqe´e Atve´o´bete”meennerl’nsitnisforP.”ELIPresice´i(A). I.3)V´erifierlespointssuivants: 0 0 (i)Pourun´ev´enementΩquasi-certain:i(Ω ) = 0. (ii) SiAeriartnoctnemelt´’vee´enAossra,olesblbaroipqu´enti(A) = 1. (iii) SiAetBind´sontuopspalrnepetnadet´barolibiPet siP(A∩B)6= 0, alorsi(A∩B) =i(A) +i(B). I.4)Pr´eciserP(A1∩A2∩. . .∩An)uqnaementsenesdlv´´eA1, A2, . . . , Anestadtnpeneind´mentellemututnos P(A1∩A2∩. . .∩An)6= 0. Ende´duireunenouvellede´monstrationdeI.2) I.5) SoitAetBstntsqelued´xuee´veemenA⊂BetP(A)6= 0. Compareri(A) eti(B). I.6) Quevaut lim+ϕ(xleelquetr´rptein)t-eudoonatetnpiose´ratlurennecedt? x→0
Partie IIscdireoiat´ealleete`rIncertenavirbatidudeu’ II.1) Soit(X, Yevarpledncou)uioere´taselaailbnodslaltocioiojneentdost´ennanedlstebaeluausvinat: X 12 3 Y 1 1 01/3 1/3Ainsi par exempleP(Y= 1∩X= 2) =. 3 2 1/60 0 3 1/60 0
2
D´eterminerlaloideXso,ecnare´psenE(X) etH(X). De´terminerlaloideYenps,osra´eencE(Y) etH(Y). ∗ II.2) Soitn∈NetUna`avelrudes´ntaaisoerriablealuneva{1,2, . . . , n}telle que : 1 pour toutk∈ {1,2, . . . , n},P(Un=k) =. n Que vautH(Un) ? II.3)V´erifierquehest continue et positive sur [0,1]. ´ Est-elled´erivableen0?Etudierhouacerrbr´epenesitat.evedtseisensr II.4) SoitXnsnesuanniefiblem.variuneal´eableera`taiorudsavel Montrer queH(X)>ntme,sits,eleeutilaise´eva0ge´cXest quasi-certaine. II.5) Pourx∈[0,1], on poseh2(x) =h(x) +h(1−x). a) Pourx∈[0,1], on a clairementh2(x) =h2(1−xlacourbedese´ratluauqta`tn).esQuniigcefieh2dans unrep`ereorthonorm´e? ´ b) Etudierh2fiire´v,euqreh2admet sur [0,rqemeeluoidxnunmarrptee´’ilcensohuendmeagra1p]h2. c) SoitXnruolldileioedeBtreeparam`e´laelbairavenuunntvauiesirtoeap∈]0,1[. Montrer queH(X)6tseusi,entsileme,aleg´eit1ac´vep= 1/2. II.6) Soitn∈N\ {0,1}et soitXtoirediscr`ete.Osnpuopesuqeairavenuae´laelb X(Ω) ={x1, x2, . . . , xn}avec pour toutk∈ {1,2, . . . , n},pk=P(X=xk)>0. a)Montrer,en´etudiantu7→u−1−ln(u), que : pour toutu >0,ln(u)6u−1 (1) et que ln(u) =u−1 si, et seulement si,u= 1. 1 b) Enutilisant (1) pour les, montrer que : npk H(X)6ln(n)/tuoleeuntme,psirtoulati´cgee,ste´is)aveln(2k∈ {1,2, . . . , n},P(X=xk) = 1/n. II.7) Soitp∈]0,1[ etGarep`eametr´gio´moeirtedeuqtoiresuivantunelnuveraailbae´laep. ∗ On posem=E(G) et pourk∈N,pk=P(G=k). a) Rappelerla valeur dem, montrer queH(G) existe et la calculer. ∗ b) SoitXenuveleteuqeleal´irtoiaareablX(Ω) =N,E(X) =metH(X) existe. ∗ Pourk∈N, on poseqk=P(X=k) et on supposeraqk>0. ∗ Enutilisant(1)ve´rifierquepourtoutk∈N, on a : qkln(p) + (k−1)qkln(1−p)−qkln(qk)6pk−qk et´etablir:H(X)6H(G´cgea)eve´islatieule,etssi,mentXelemquoiitsumˆlaeG.
Partie III’unevarirtitudedtaioerocbaellae´ueinntecnI Pourunevariableale´atoireXdenstunettanadmetie´fcontinue surR´ed’privunneut´veemtnleel +∞ R nombre fini de points, on dit queXadmet uneincertitudent´egraleuqnaldi’h(f(x))dxconverge. −∞ +∞ R Danscecas,lavaleurdel’int´egraleH(X) =h(f(x))dxeel´peapsteincertitudedeX. −∞ III.1)Cas des lois normales a) SoitY0ecelaumreon´ree´rtn.teuiedenutniolusernavi´ealoiatrivaleab Montrer queH(Y0) existe et calculerH(Y0).