SENALES Y SISTEMASClase 6

Carlos H. Muravchik

19 de Marzo de 2018

1 / 1

Habıamos visto:

1. Variables aleatorias2. Esperanza. Distribuciones destacadas.3. Funcion de VA. Comienzo.

Y se vienen:

I Funcion de VA. RepasoI Momentos y Funcion caracterısticaI Distribucion y densidad conjunta.I Distribucion Condicional.I Procesos Estocasticos. Familia de realizaciones. Ejemplos.

Interpretacion, clases.

3 / 1

Funcion de una VA - Intro - RepasoMotivacion: A menudo interesa una funcion de la VA cuyadistribucion se conoce.Ejemplo: se conoce que una amplitud X ∼ FX (x), pero interesala distribucion FY (y) de la potencia instantanea Y = X 2.

I Supongamos que Y = g(X ) con g : R→ RI Tecnica basica: (en la serie de problemas)

FY (y) = PY ≤ y = Pg(X ) ≤ y =

= Pω ∈ Ω : g(X (ω)) ≤ y = Pg(X ) ≤ y =

= PX ∈ g−1(Ay )donde Ay∗ = y ∈ R : y ≤ y∗

I PX ∈ g−1(Ay ) se puede calcular usando solo FX (x)I g−1(Ay ) denota la “imagen inversa” por g del conjunto Ay :

el conjunto de valores de X que satisfacen g(x) ≤ yI Nota: g−1(y) no es la funcion inversa de g(·), que podrıa

no existir.5 / 1

Funcion de una VA - 2 - Repaso

La tecnica anterior es valida para VA discretas o continuas

FY (y) = PX ∈ g−1(Ay )

I Si la VA es continua se puede calcular fY (y) = ∂FY (y)∂y .

Note que Ay es funcion de y

6 / 1

Funcion de una VA - 3 - RepasoEjemplo: Y = X 2

a) Si y < 0, FY (y) = PX ∈ ∅b) Si y = 0, FY (y) = PX = 0c) Si y > 0, FY (y) = P(x1 ≤ X ≤ x2)

= FX (x2)− FX (x1) + PX = x1 con x1 = −√y ; x2 =√

y

fY (y) =dFY (y)

dy= fX (

√y)

12√

y+ fX (−

√y)

12√

y

7 / 1

Funcion de una VA - 4

Observacion:Aun si g es continua y X una VA continua, Y = g(X ) puederesultar una VA discreta, mixta o continua.

Ejemplo: Considere los 3 casos siguientes con X ∼ U(a,b)

Y discreta Y mixta Y continua

8 / 1

Resultado

Una de las consecuencias mas importantes para Y = g(X ) esque:

µY = E Y =

∫ ∞−∞

y fY (y) dy

con fY (y) obtenida como antes, y

µg = E g(X ) =

∫ ∞−∞

g(x) fX (x) dx

son iguales, o sea µY = µg .

µY = E Y = µg = E g(X )

Esto no es trivial como parece, es un profundo resultado de lateorıa de la medida en analisis

Escriba el equivalente para VA discretas

9 / 1

Funcion caracterıstica

Definicion:

ΦX (u) = E ejuX =

∫ ∞−∞

ejux fX (x) dx

I Como veremos ΦX (u) = FfX (x)(−u/2π)

I Entre sus usos, es otro metodo para obtener densidadesde funciones de VA:Si Y = g(X ) y podemos calcular

Φg(u) = E ej u g(X)

entonces, la antitransformada de Fourier de Φg(u) definefY (y) (bajo ciertas hipotesis tecnicas).

11 / 1

Funcion caracterıstica – VA discreta

Definicion:

ΦX (u) = E ejuX =∞∑

k=−∞ejuxk pk

con pk = PX = xkI Similar a VA continua, pero cambiando lo obvio.I Como veremos ΦX (u) es la transformada de Fourier de

tiempo discreto (TFTD) de la secuencia de los pk , cuandoxk = k∆x (xk equiespaciados).

I Entre sus usos: otro metodo para obtener distribucionesde funciones de VA.

12 / 1

MomentosDefinicion: momento (no–central) de orden r -simo

mr = E X r =

∫ ∞−∞

x r fX (x) dx r ∈ Z

Definicion: momento central de orden r -simo, con r ∈ Z

µr = E (X − E X)r = E (X − µX )r =∫ ∞−∞

(x − µX )r fX (x) dx con µX = m1

I Al ver Transformada de Fourier veremos la relacion entredensidades, momentos y funciones caracterısticas.

I Anticipo: conocer la densidad ⇔ conocer la funcioncaracterıstica ⇔ conocer todos los momentos y queconverja la serie de McLaurin de la Φ(u).

I La media µX es m1, el valor cuadratico medio m2 y lavarianza µ2.

13 / 1

Momentos – VA discretasDefinicion: momento (no–central) de orden r -simo

mr = E X r =∞∑

k=−∞x r

k pk r ∈ Z

Definicion: momento central de orden r -simo, con r ∈ Z

µr = E (X − E X)r = E (X − µX )r =∞∑

k=−∞(xk − µX )r pk

con pk = PX = xk y µX = m1.

I Al ver TFTD comentaremos la relacion entre densidades,momentos y funciones caracterısticas para xkequiespaciados.

I La media µX es m1, el valor cuadratico medio m2 y lavarianza µ2.

14 / 1

Distribucion conjunta de 2 VAI Experimento aleatorio que produce salidas que afectan a 2

VA, X e Y . P.ej.: 2 electrodos de EEG registrando actividadde un conjunto activo de neuronas.

I Hay eventos que solo pueden ser definidos a partir deambas VA.

I Tambien hay eventos que pueden describirse con 1 solaVA.

Definicion: X e Y son VA independientes si cualquier eventoconjunto Axy puede descomponerse como Axy = Ax ∩ Ay ,donde PAxy = PAxPAy.

16 / 1

Distribucion acumulativa conjunta

Definicion:

FXY (x , y) , Pω ∈ Ω : (X (ω) ≤ x) ∩ (Y (ω) ≤ y)= P(X ≤ x) ∩ (Y ≤ y)

I Si X e Y son VA independientesFXY (x , y) = FX (x)FY (y); ∀(x , y) ∈ R2.

I FX (x) y FY (y) son las distribuciones marginales.

17 / 1

VA discretas 1La distribucion podrıa verse como una tabla, posiblemente delargo infinito

X \ Y y1 y2 · · · yk · · · ys · · ·

x1 p11 p12 · · · p1k · · · p1s · · ·x2 p21 p22 · · · p2k · · · p2s · · ·...

......

. . ....

. . ....

. . .xm pm1 pm2 · · · pmk · · · pms · · ·...

......

. . ....

. . ....

. . .xr pr1 pr2 · · · prk · · · prs · · ·...

......

. . ....

. . ....

. . .

FXY (xm, yk ) =m∑

l=1

k∑n=1

pln

18 / 1

VA discretas 2

PA =∑

(xm,yk )∈A

pmk

19 / 1

Densidad conjunta de probabilidad

Definicion:

fXY (x , y) =∂2FXY (α, β)

∂α∂β

∣∣∣∣(x ,y)

Con esto,

PA =

∫∫A

fXY (α, β)dα dβ

En la figuraA = (X ≤ x) ∩ (Y ≤ y) yPA = FXY (x , y)

PA =

∫ y

−∞

∫ x

−∞fXY (α, β)dα dβ

20 / 1

PropiedadesI FXY (−∞, y) = P(X ≤ −∞) ∩ (Y ≤ y) = P∅ = 0 y

FXY (x ,−∞) = 0.I FXY (∞,∞) = P(X ≤ ∞) ∩ (Y ≤ ∞) = PΩ = 1.I FXY (∞, y) = P(X ≤ ∞) ∩ (Y ≤ y) = PΩ ∩ (Y ≤ y) =

P(Y ≤ y) = FY (y).I similarmente, FXY (x ,∞) = FX (x).

Definicion: Esperanza matematica

E g(X ,Y ) =

∫∫g(α, β)fXY (α, β)dα dβ

con propiedades similares al caso univariable.

y en el caso de VA discretas

E g(X ,Y ) =∑

m

∑k

g(xm, yk )pXY (xm, yk )

21 / 1

Momentos bivariados

Definicion: Momento bivariado de orden r ∈ Z+

E X sY t =

∫∫ ∞−∞

αsβt fXY (α, β) dα dβ con s, t ∈ Z+ : s+t = r

y en el caso discreto

E X sY t =

(∞,∞)∑(m,k)=(−∞,−∞)

xsmy t

kpmk cons, t ∈ Z+ : s+t = r

22 / 1

Distribuciones multivariadas

I Se generaliza esto para multiples VA.I Es la base para los procesos estocasticos.I Ver, por ejemplo, en Topicos...

23 / 1

Distribucion Condicional I

Para ayudar en los calculos es util definir

Definicion: Distribucion condicionada a un evento A

FX |A(x |A) = P(X ≤ x)|A =P(X ≤ x) ∩ A

PA

y tambien

fX |A(x |A) =∂

∂xFX |A(x)

I esto es facilmente extensible a FX ,Y |A(x , y |A) yfX ,Y |A(x , y |A).

I Si A = Y = y para una VA continua, PA = 0 y no sepuede usar lo anterior!

25 / 1

Densidad condicional

Para VA continuas, la densidad condicional puede hallarseinformalmente haciendo A = y < Y ≤ y + dy

Luego PA ≈ fY (y) dy

Px < X ≤ x + dx |A = fX |Y (x |y) dx

y como P(x < X ≤ x + dx) ∩ A = fXY (x , y) dx dy se puedever que

Densidad condicional:

fX |Y (x |y) =fXY (x , y)

fY (y)

26 / 1

Esperanza condicional

Esperanza condicional:

E X |Y = y =

∫ ∞−∞

λfX |Y (λ|y) dλ = µX |Y (y)

Notar: E X |Y es una funcion de Y = y

Observe la utilısima relacion

E E X |Y = E µX |Y =

∫ ∞−∞

µX |Y (ρ)fY (ρ) dρ

= E X

27 / 1

Ejemplo 1

0 1000 2000

−0.5

−0.4

−0.3

−0.2

−0.1

0

0.1

0.2

0.3

0.4

0.5

muestras

ampl

itud

2000 2200 2400

−0.5

−0.4

−0.3

−0.2

−0.1

0

0.1

0.2

0.3

0.4

0.5

muestras2360 2380 2400

−0.5

−0.4

−0.3

−0.2

−0.1

0

0.1

0.2

0.3

0.4

0.5

muestras

Registros del fonema “a”Otros registros: distinta oportunidad, momento condicion, ...

29 / 1

Ejemplo 2

0 200 400 600 800−150

−100

−50

0

50

100

150

Bal

ance

de

Cau

dal[m

3 ]

Tiempo0 200 400 600 800

−0.4

−0.3

−0.2

−0.1

0

0.1

0.2

0.3

0.4

0.5

Tiempo

Dife

renc

ia d

e P

resi

on

Registros simultaneos de balance (caudal deentrada menos caudal de salida) y diferenciade presion en un tramo de oleoducto. GentilezaRepsol-YPF

Otros registros: distinta oportunidad, momento condicion, ...

30 / 1

Ejemplo 3

−10

0

10

−10

0

10

−10

0

10

−10

0

10

0 0.2 0.4 0.6 0.8 1 1.2 1.4 1.6 1.8 2

−10

0

10

Pot

enci

al E

léct

rico

[ µV

]

Tiempo [ s ]

Registros simultaneos de potencial en lugares vecinos de lacabeza. Gentileza Dra. Silvia Kochen (CONICET y HospitalRamos Mejıa)Otros registros: distinta oportunidad, momento condicion, ...

31 / 1

Senal aleatoria o proceso estocastico

Es una funcion de dos variables:

X (t , ζ) : I × Ω→ R

donde I es un intervalo de R, p.ej.: [0,∞) o (−∞,∞)

I t = t0, ζ la salida de un experimento aleatorio⇒X (t0, ζ) = Xt0(ζ) es VA.

I ζ = ζ0 una salida fija,⇒ Xζ0(t) es una funcion del tiempo orealizacion.

I Si t = t0, ζ = ζ0 ⇒; X (t0, ζ0) = es un numero real.

32 / 1

Interpretacion

-

6

6

-

6

-

t

t

t

X(t, ζ0)

X(t, ζ1)

X(t, ζj)

.....................................................................................

.....................................................................................

t0

t0

t0

t1

t1

t1

I Coleccion de realizaciones indexadas por la ζ ∈ Ω.I Coleccion de VAs indexadas por t ∈ I ⊆ R.

33 / 1

Procesos estocasticos: ¿para que?

I Modelizacion y analisis.I ¿que modelizan? situaciones que si uno tratara de repetir

en iguales condiciones, no lograrıa que la senal se repitaexactamente. Se producen una cantidad senales posibles,cada una con “cierta probabilidad” de ocurrir.

I ¿que se analiza? se trata de obtener informacion delproceso; es decir “comun” a todas (o a muchas)realizaciones. En cada realizacion individual la mismainformacion podrıa diferir significativamente de la delconjunto.

34 / 1

Clases de procesos I

I Coleccion de realizaciones indexadas por la ζ ∈ Ω, por suvariable independiente:

1. VIC: procesos (propiamente dichos).2. VID: secuencias aleatorias, denotamos X [n, ζ].

I Coleccion de VAs indexadas por t ∈ I ⊆ R, por su rangode amplitudes:

1. Espacio de estados discreto: todas las VA (sean de X (t , ζ)o sean de X [n, ζ]) son discretas (numero de llamadastelefonicas, senal telegrafica).

2. Espacio de estados continuo (ruido termico, modelo deloscilador).

35 / 1

Procesos discretos

X [n, ζ] ζ ∈ Ω; n ∈ I ⊆ Z

-

6

6

-

6

-

n

n

n

X[n, ζ0]

X[n, ζ1]

X[n, ζj ]

.....................................................................................

n0

n0

n0

n1

n1

n1

... .......

......

........

.......

................

........

..

..

......

................

..

....

...

........

..

..

..

..

.

..

..

..

..

.

..

..

..

......

......

.....

.....................................................................................

36 / 1

Clases de procesos II

I Proceso parametrico finito : tienen un numero finito deparametros aleatorios. P.ej.: generador senoidal.

s(t , φ) = Asen(2πf0t + φ) con A, f0 ∈ R; φ ∼ U [−π, π)

Notar la predictibilidad.I Regulares: o genuinamente aleatorios. Tienen un numero

infinito de VA y son “completamente impredecibles”. P.ej.:ruido termico.

Los procesos que usamos, en general, combinan las dosvariantes anterior. P.ej.: en forma aditiva.

37 / 1

Distribuciones asociadas – VIC

PROCESOS ESTOCASTICOS como conjunto de infinitas VA.

Caso VIC

-

6

....................................................................................................................................................................................................

..

..

..

..

..

.

..

..

..

..

..

..

..

..

.

..

..

..

..........

tt2t1

x0 + dx

x0

x

fX(x; t)

.................

....

....

........................

..

..

..

..

..

..

.

..

..

..

..

..

..

..

.

..

..

..

..

..

..

..

..

..

..

.

..

..

..

..

..

..........

..

..

....

..

.fX(x; t1)

fX(x; t2)

Realizaciones: en el plano x − t .

39 / 1

Distribuciones asociadas – VIC – 1VAPara 1 VA

FX (x ; t) = PXt ≤ x = Pζ ∈ Ω : X (t , ζ) ≤ x

fX (x ; t) =∂FX (x ; t)

∂x

fX (x ; t)dx = Px ≤ Xt ≤ x + dx =

Pζ ∈ Ω : x ≤ X (t , ζ) ≤ x + dx

-

6

....................................................................................................................................................................................................

..

..

..

..

..

.

..

..

..

..

..

..

..

..

.

..

..

..

..........

tt2t1

x0 + dx

x0

x

fX(x; t)

.................

....

....

........................

..

..

..

..

..

..

.

..

..

..

..

..

..

..

.

..

..

..

..

..

..

..

..

..

..

.

..

..

..

..

..

..........

..

..

....

..

.fX(x; t1)

fX(x; t2)

40 / 1

Distribuciones asociadas – VIC – 2VAPara 2 VA

FX (x1, x2; t1, t2) = P(X (t1) ≤ x1) ∩ (X (t2) ≤ x2)

fX (x1, x2; t1, t2) dx1 dx2 =∂2FX (x1, x2; t1, t2)

∂x1∂x2=

P(x1 ≤ X (t1) ≤ x1 + dx1) ∩ (x2 ≤ X (t2) ≤ x2 + dx2)

y logicamente

fX (x1; t1) =

∫ ∞−∞

fX (x1, x2; t1, t2) dx2 =∂FX (x1, ∞; t1, t2)

∂x1

fX (x2; t2) =

∫ ∞−∞

fX (x1, x2; t1, t2) dx1 =∂FX (∞, x2; t1, t2)

∂x2

41 / 1

Distribuciones asociadas – VIC – multiples VA

FX (x1, x2, . . . , xn; t1, t2, . . . , tn) =

P(X (t1) ≤ x1) ∩ (X (t2) ≤ x2) ∩ · · · ∩ (X (tn) ≤ xn)

fX (x1, x2, . . . , xn; t1, t2, . . . , tn) =

∂nFX (x1, x2, . . . , xn; t1, t2, . . . , tn)

∂x1∂x2 . . . ∂xn

fX (x1, x2, . . . , xn; t1, t2, . . . , tn)dx1 dx2 . . . dxn =

P

n⋂

i=1

(xi ≤ X (ti) < xi + dxi)

42 / 1

Distribuciones asociadas – VID

FX (x ; t1) = PXt1 ≤ x = PX [t1] ≤ x

y

fX (x ; t1) dx =∂FX (x ; t1)

∂xdx = Px ≤ Xt1 ≤ x + dx =

= Px ≤ X [t1] ≤ x + dx

-

6

....................................................................................................................................................................................................

..

..

..

..

..

.

..

..

..

..

..

..

..

..

.

..

..

..

..........

tt2t1

x0 + dx

x0

x

fX(x; t)

.................

....

....

........................

..

..

..

..

..

..

.

..

..

..

..

..

..

..

.

..

..

..

..

..

..

..

..

..

..

.

..

..

..

..

..

..........

..

..

....

..

.fX(x; t1)

fX(x; t2)

43 / 1

Distribuciones asociadas – VID – multiples VA

Distribucion y densidad conjuntas de orden n

FX (x1, x2, . . . , xn; t1, t2, . . . , tn) = P

n⋂

i=1

(X [ti ] ≤ xi)

y en caso de que exista (espacio de estado continuo), ladensidad de probabilidad conjunta,

fX (x1, x2, . . . , xn; t1, t2, . . . , tn) =

∂nFX (x1, x2, . . . , xn; t1, t2, . . . , tn)

∂x1∂x2 . . . ∂xn

44 / 1

Operaciones aritmeticas

I Detalle: ω ∈ Ω, con ω = (ξ, ζ) y 2 procesos X (t , ξ) eY (t , ζ).

I De la manera previsible: el proceso suma esZ (t , ω) = X (t , ξ) + Y (t , ζ) y de modo similar las otrasoperaciones.

45 / 1

Proxima Clase

I Independencia. IID y Ruido blanco.I Media estadıstica.I Correlacion de senales determinısticas (de energıa y

potencia).I Funciones de correlacion y covarianza estadısticas. Otros

momentos.I Correlacion: concepto; notacion: orden, conjugada y

desplazamiento de las variables, propiedadesautocorrelacion e intercorrelacion.

47 / 1