clase no. 20 de pye

Clase No. 20 de PyE

Jose Rafael Leon RamosIMERL UDELAR

Jose Rafael Leon Ramos IMERL UDELAR Clase No. 20 de PyE

Teorema Central del Lımite.Veremos hoy los rudimentos del Teorema Central del Lımite (TCL)daremos un bosquejo de la demostracion en un caso sencillo.Veremos por que es util y luego lo aplicaremos a la distribucion delos estimadores. Esto ultimo nos llevara a aplicaciones a laspruebas de hipotesis y a la construccion de intervalos de confianza.


Consideremos para ilustrar de que viene el TCL. Sean X1, . . . ,Xn

una coleccion de v.a. (i.i.d) supongamos que E(Xi ) = 0 yVar(Xi ) = σ2. Definamos la siguiente sucesion

Sn =X1 + . . .+ Xn

σ√n

.

Se tiene que E(Sn) = 0 y Var(Sn) = 1.


Definamos ahora Fn(x) = P(Sn ≤ x) y Φ(x) la distribucion de lagaussiana estandar. Se tiene el siguiente teorema

Teorema. (TLC) Bajo las hipotesis enunciadas anteriormente secumple

Fn(x)→ Φ(x), ∀x ∈ R.


Comentarios:1.- Si las v.a. tienen distribucion de Bernoulli esto es Xi

d= Bi (p).

Entonces si definimos Yi = Xi − p. Tenemos E(Yi ) = 0 yVar(Yi ) = Var(Xi ) = p(1− p). Ası

Fn(x) = P(X1 + X2 + . . .+ Xn − np√

np(1− p)≤ x)

= P(Y1 + Y2 + . . .+ Yn√

np(1− p)≤ x)→ Φ(x).


Esto se puede expresar de la manera siguiente. Denotemos porB(n, p) una binomial de parametros n y p entonces

B(n, p)d= X1 + X2 + . . .+ Xn.. Entonces

P(B(n, p)− np√

np(1− p)≤ x) ∼ Φ(x).

El sımbolo ∼ significa equivalencia asintotica.


Todo esto implica

P(B(n, p) ≤ y) = P(B(n, p)− np ≤ y − np)

= P(B(n, p)− np√

np(1− p)≤ y − np√

np(1− p)) ∼ Φ(

y − np√np(1− p)

).

Esta relacion implica que podemos aproximar la distribucion de labinomial con la distribucion de una gaussiana estandar.


2.- Sean ahora {Xi}∞i=1 una sucesion de v.a. i.i.d tales queE(Xi ) = µ y Var(Xi ) = σ2.Vamos a estudiar la aproximacion gaussiana de la distribucion de lamedia empırica X n = X1+...+Xn

n . Tenemos

P(X n ≤ x) = P((X1 − µ) + . . .+ (Xn − µ)

n≤ x − µ)

= P((X1 − µ) + . . .+ (Xn − µ)

σ√n

≤√n(x − µ)

σ) ∼ Φ(

√n(x − µ)

σ)

Este resultado sera muy util para la definicion de intervalos deconfianza y para pruebas de hipotesis.


3.- Las hipotesis bajo las cuales se cumple el resultado son muyindispensables. Por ejemplo una v.a. que no cumple el resultado esla distribucion de Cauchy que es aquella que tiene como densidadla funcion β(x) = 1

π(1+x2)pues tenemos que si C tiene distribucion

de Cauchy entonces

E(X 2) =

∫ ∞−∞

x21

π(1 + x2)dx =∞

y por consecuencia no existe la varianza.


Ejemplo 2. Estimar la probabilidad que salgan entre 40 y 60 carasen 100 lanzamientos de una moneda justa. Sabemos que p = 1

2 . Siusamos el TCL tenemos

P(40 ≤ B(100,1

2) ≤ 60) ∼ Φ(

10

5)− Φ(−10

5) = Φ(2)− (1− Φ(2))

= 2Φ(2)− 1 = 0,9544


Normalidad asintotica de un estimador.Un estimador se dice asintoticamente normal si su distribucionestandarizada se puede aproximar por la distribucion de lagaussiana estandar. Expliquemos este enunciado. Sea Tn unestimador de un parametro θ construido a partir de una muestraaleatoria simple X1, . . . ,Xn. Sean E(Tn) y Var(Tn) su esperanza ysu varianza respectivamente.


Entonces Tn es asintoticamente normal si

P(Tn − E(Tn)√

Var(Tn)≤ t)→ Φ(t).

Hemos visto que la media empırica X n es un estimadorasintoticamente normal.Supongamos ahora que conocemos la esperanza µ de una variablealeatoria X y no conocemos su varianza σ2.


Si disponemos de una muestra aleatoria simple de esa distribucionentonces podemos definir el estimador

σ2n =1

n

n∑i=1

(Xi − µ)2.

Entonces E[σ2n] = σ2 y Var(σ2n) = 1nVar((X − µ)2) := 1

nγ2

supondremos tambien que este ultimo parametro es finito.


P(σ2n − σ2

γ√n

≤ t) = P(1√n

n∑i=1

[(Xi − µ)2 − σ2

γ] ≤ t)→ Φ(t).

Este resultado se deduce del TCL si se lo aplicamos a las v.a.

Yi = (Xi−µ)2−σ2

γ . Resultando este estimador asintoticamentenormal.


El metodo delta.Sea X1, ...,Xn un muestreo aleatorio de X con distribucion p(x ; θ)que depende de un parametro θ. Sea Tn un estimador consistentede θ y consideremos g(Tn) un estimador de g(θ) para una funciong : R→ R con derivada continua.

Como el estimador es consistente esto es TnP→ θ sabemos que

g(Tn)→ g(θ). Supongamos que la funcion g es diferenciable porel teorema de Taylor al primer orden tenemos

g(Tn) = g(θ) + g ′(θ)(Tn − θ) + resto.

Olvidamos el resto pues consideramos que es despreciable.


Ası podemos escribir

Eg(Tn) = g(θ) + g ′(θ)(E(Tn)− θ).

Si el estimador Tn es asintoticamente insesgado. Entoncespodemos escribir

g(Tn)− g(θ)√Var(Tn)

= g ′(θ)Tn − E(Tn)√

Var(Tn)∼ N(0, (g ′(θ))2).


Demostracion del TCL.Sean dos funciones Fδ y F δ con tres derivadas continuas yacotadas y que verifican la cadena de desigualdades.

1(−∞,x−δ](y) ≤ Fδ(y) ≤ 1(∞,x](y) ≤ F δ(y) ≤ 1(−∞,x+δ](y)

Figura: Funciones aproximantes


Se tiene lo siguiente. Sea Xn una sucesion de v.a. y denotemos porGn sus funciones de distribucion ası

Gn(x) = P(Xn ≤ x) = E(1(−∞,x](Xn))

de esta manera tenemos que

Gn(x − δ) < E[Fδ(Xn)] < Gn(x) < E[F δ(Xn)] < Gn(x + δ)

Supongamos que para cada δ > 0 tenemos que

lımn→∞

E[Fδ(Xn)] = E[Fδ(X )] y lımn→∞

E[F δ(Xn)] = E[F δ(X )],


Entonces

E[Fδ(X )] ≤ lım infn→∞

Gn(x) ≤ lım supn→∞

Gn(x) ≤ E[F δ(X )].

Ademas

GX (x − δ) = P(X ≤ x − δ) ≤ E[Fδ(X )] ≤ P(X ≤ x) = GX (x)

e igual para la otra funcion. Si GX es continua en x se tiene que

lımδ→0

E[Fδ(X )] = lımδ→0

E[F δ(X )] = GX (x).

Por consiguiente se desprende que

lımn→∞

Gn(x) = GX (x)

para todo punto de continuidad de GX .


Supondremos, de manera mas general, que para toda funcioncontinua y acotada f con tres derivadas acotadas se tiene

E[f (Xn)]→ E[f (X )].

Para demostrar el TCL sean X1, . . . ,Xn va i.i.d con E(Xi ) = 0 yE(X 2

i ) = 1 y consideremos Y1, . . . ,Yn i.i.d N(0, 1) eindependientes de las Xi .


Sabemos que la v.a.

Zn =Y1 + . . .+ Yn√

n

d= N(0, 1).

Sea tambien

Sn =X1 + . . .+ Xn√

n.

Para f una funcion continua y acotada con tres derivadas acotadas


f (1√n

(Xj+1 + θj))

= f (1√nθj) + f ′(

1√nθj)

Xj+1√n

+1

2f ′′(

1√nθj)

X 2j+1

n

+1

6f ′′′(

αjXj+1 + (1− αj)θj√n

)(Xj+1√

n)3

f (1√n

(Yj+1 + θj))

= f (1√nθj) + f ′(

1√nθj)

Yj+1√n

+1

2f ′′(

1√nθj)

Y 2j+1

n

+1

6f ′′′(

αjYj+1 + (1− αj)θj√n

)(Yj+1√

n)3


Notemos varias cosas. En primer lugar por construccion θj esindependiente de Xj+1 y de Yj+1. Por otra parte

E[f ′(1√nθj)

Xj+1√n

] = E[f ′(1√nθj)]E[

Xj+1√n

] = 0,

E[f ′′(1√nθj)

X 2j+1

n] = E [f ′′(

1√nθj)]E[

X 2j+1

n] = E [f ′′(

1√nθj)]

1

n.

Los mismos resultados se obtienen para los terminos queinvolucran a Yj+1.


Estos hechos implican que

|E[f (Sn)− f (Zn)]|

= |E[1

6

n−1∑j=0

[f ′′′(αjXj+1 + (1− αj)θj√

n)(Xj+1√

n)3

− 1

6f ′′′(

αjXj+1 + (1− αj)θj√n

)(Yj+1√

n)3]]|

≤ 1

6

||f ′′′||∞√n

(E[|X |3] + E[|Y |3])→ 0

si E[|X |3] <∞, pues siempre se verifica E[|Y |3] <∞.


clase no. 20 de pye

Documents