stochastic diffe

573

Upload: marian

Post on 22-Feb-2018

217 views

Category:

Documents


0 download

TRANSCRIPT

  • 7/24/2019 Stochastic Diffe

    1/571

  • 7/24/2019 Stochastic Diffe

    2/571

    N o r t h - H o l l a n d M a t h e m a t i c a l L i b r a r y

    B o a r d o f A d v i s o r y E d i t o r s :

    M . A r a n , H . B a s s , J . E e l l s , W . F e i t , P . J . F r e y d , F . W . G e h r i n g , H . H a l b e r s t a m ,

    L . V . H d r m a n d e r , J . H . B . K e m p e r m a n , H . A . L a u w e r i e r , W . A . J . L u x e m b u r g

    F . P . P e t e r s o n , I . M . S i n g e r a n d A . C . Z a a n e n

    V O L U M E 2 4

    N O R T H - H O L L A N D P U B L I S H I N G C O M P A N Y

    A M S T E R D A M O X F O R D N E W Y O R K

  • 7/24/2019 Stochastic Diffe

    3/571

  • 7/24/2019 Stochastic Diffe

    4/571

    S t o c h a s t i c D i f f e r e n t i a l E q u a t i o n s

    a n d

    D i f f u s i o n P r o c e s s e s

    S e c o n d E d i t i o n

    b y

    N o b u y u k i I K E D A

    S h i n z o W A T A N A B E

    D e p a r t m e n t o f M a t h e m a t i c s

    D e p a r t m e n t o f M a t h e m a t i c s

    O s a k a U n i v e r s i t y

    K y o t o U n i v e r s i t y

    i s

    O R T H - H O L L A N D P U B L I S H I N G C O M P A N Y

    K O D A N S H A L T D .

    A M S T E R D A M O X F O R D N E W Y O R K

    T O K Y O

    1 9 8 9

  • 7/24/2019 Stochastic Diffe

    5/571

    Q v w

    C o p y r i g h t 1 9 8 1 , 1 9 8 9 b y K o d a n s h a L t d .

    A l l r i g h t s r e s e r v e d .

    N o p a r t o f t h i s b o o k m a y b e r e p r o d u c e d i n a n y f o r m , b y p h o t o s t a t , m i c r o f i l m ,

    r e t r i e v a l s y s t e m , o r a n y o t h e r m e a n s , w i t h o u t t h e w r i t t e n p e r m i s s i o n o f K o d a n s h a

    L t d . ( e x c e p t i n t h e c a s e o f b r i e f q u o t a t i o n f o r c r i t i c i s m o r r e v i e w )

    I S B N O - 4 4 4 - 8 7 3 7 8 3

    I S B N 4 - 0 6 - 2 0 3 2 3 1 - 7 ( J a p a n )

    P u b l i s h e d i n c o - e d i t i o n w i t h N o r t h - H o l l a n d P u b l i s h i n g C o m p a n y

    D i s t r i b u t o r s f o r J a p a n :

    K O D A N S H A L T D .

    1 2 - 2 1 O t o w a 2 - c h o m e , B u n k y o - k u , T o k y o 1 1 2 , J a p a n

    D i s t r i b u t o r s o u t s i d e J a p a n , U . S . A . a n d C a n a d a :

    E L S E V I E R S C I E N C E - P U B L I S H E R S B . V .

    P . O . B o x 1 0 3

    1 0 0 0 A C A m s t e r d a m

    T h e N e t h e r l a n d s

    S o l e d i s t r i b u t o r s f o r t h e U . S . A . a n d C a n a d a :

    E L S E V I E R S C I E N C E P U B L I S H I N G C O M P A N Y , I N C .

    6 5 5 A v e n u e o f t h e A m e r i c a s

    N e w Y o r k , N Y 1 0 0 1 0

    U . S . A .

    P r i n t e d i n J a p a n

  • 7/24/2019 Stochastic Diffe

    6/571

    I t i s w i t h o u r d e e p e s t g r a t i t u d e a n d w a r m e s t a f f e c t i o n

    t h a t w e d e d i c a t e t h i s b o o k

    t o o u r t e a c h e r

    K i y o s i I t o

    w h o h a s b e e n a c o n s t a n t s o u r c e o f

    k n o w l e d g e a n d i n s p i r a t i o n .

  • 7/24/2019 Stochastic Diffe

    7/571

  • 7/24/2019 Stochastic Diffe

    8/571

    P r e f a c e t o t h e S e c o n d E d i t i o n

    A c o n s i d e r a b l e n u m b e r o f c o r r e c t i o n s a n d i m p r o v e m e n t s h a v e b e e n

    m a d e i n t h i s s e c o n d e d i t i o n . I n p a r t i c u l a r , m a j o r a n d s u b s t a n t i a l c h a n g e s

    a r e i n C h a p t e r I I I a n d C h a p t e r V w h e r e t h e s e c t i o n s t r e a t i n g o n e x c u r -

    s i o n s o f B r o w n i a n m o t i o n a n d t h e M a l l i a v i n c a l c u l u s h a v e b e e n m u c h

    m o r e e x p a n d e d a n d r e f i n e d . A l s o , s e c t i o n s d i s c u s s i n g c o m p l e x ( c o n f o r m a l )

    m a r t i n g a l e s a n d K a h l e r d i f f u s i o n s h a v e b e e n i n s e r t e d .

    W e w o u l d e x p r e s s o u r s i n c e r e t h a n k s t o a l l t h o s e w h o k i n d l y c o m -

    m u n i c a t e d u s m i s t a k e s i n a n d g a v e u s h e l p f u l c a m m e n t s o n t h e f i r s t e d i -

    t i o n o f t h i s b o o k .

    N o v e m b e r 1 9 8 8

    N . I K E D A

    S . W A T A N A B E

    V i i

  • 7/24/2019 Stochastic Diffe

    9/571

  • 7/24/2019 Stochastic Diffe

    10/571

    P r e f a c e

    T h e t h e o r y o f s t o c h a s t i c i n t e g r a l s a n d s t o c h a s t i c d i f f e r e n t i a l e q u a t i o n s

    w a s i n i t i a t e d a n d d e v e l o p e d b y K . I t o . I n 1 9 4 2 ( [ 5 7 ] , c f . a l s o [ 6 2 ] ) t h i s

    t h e o r y w a s f i r s t a p p l i e d t o K o l m o g o r o v ' s p r o b l e m o f d e t e r m i n i n g M a r k o v

    p r o c e s s e s [ 8 5 ] . L e t y t b e a M a r k o v p r o c e s s o n t h e r e a l l i n e R ' a n d , f o r e a c h

    i n s t a n t t o , l e t F r o , , = F t o , t ( y t a ) b e t h e c o n d i t i o n a l p r o b a b i l i t y d i s t r i b u t i o n o f

    y , g i v e n y t o . I n a l m o s t a l l i n t e r e s t i n g c a s e s w e m a y a s s u m e t h a t F * a ( ` - t 0 ) - ' 3

    c o n v e r g e s a s t j t o t o a p r o b a b i l i t y d i s t r i b u t i o n o n R ' , w h i c h w e s h a l l

    d e n o t e b y D y o . ( H e r e [ a ] i s t h e i n t e g e r p a r t o f a a n d * k d e n o t e s t h e

    k - f o l d c o n v o l u t i o n . ) D y t o i s t h u s a n i n f i n i t e l y d i v i s i b l e d i s t r i b u t i o n . K o l -

    m o g o r o v ' s p r o b l e m i s n o w f o r m u l a t e d a s f o l l o w s : g i v e n a s y s t e m L ( t , y ) o f

    i n f i n i t e l y d i v i s i b l e d i s t r i b u t i o n s , f i n d t h e M a r k o v p r o c e s s y t w i t h g i v e n i n i -

    t i a l d i s t r i b u t i o n s u c h t h a t

    ( 0 . 1 )

    D y , = L ( t , y , ) .

    K o l m o g o r o v [ 8 5 ] a n d F e l l e r [ 2 6 ] b o t h s u c c e e d e d i n o b t a i n i n g M a r k o v

    p r o c e s s e s b y s o l v i n g K o l m o g o r o v ' s d i f f e r e n t i a l e q u a t i o n s ( e q u a t i o n s e q u i -

    v a l e n t t o ( 0 . 1 ) f o r t h e t r a n s i t i o n p r o b a b i l i t i e s ) , t h u s e s t a b l i s h i n g a n a n a l y -

    t i c a l m e t h o d i n p r o b a b i l i t y t h e o r y . T h i s m e t h o d h a s b e e n f u r t h e r d e v e l o p e d

    i n c o n n e c t i o n w i t h H i l l e - Y o s i d a ' s t h e o r y o f s e m i g r o u p s .

    I n c o n t r a s t w i t h t h e s e a n a l y t i c a l m e t h o d s , a p r o b a b i l i s t i c a p p r o a c h

    s u g g e s t e d b y L e v y a n d e s t a b l i s h e d b y I t o e n a b l e s o n e t o c o n s t r u c t s a m p l e

    f u n c t i o n s o f t h e p r o c e s s y t d i r e c t l y . C o n s i d e r t h e c a s e w h e n L ( t , y ) = G

    ( a ( t , y ) , b ( t , y ) ) , w h e r e G ( a , f l ) i s t h e G a u s s i a n d i s t r i b u t i o n w i t h m e a n a a n d

    s t a n d a r d d e v i a t i o n f l . T h e i n t u i t i v e m e a n i n g o f ( 0 . 1 ) t h e n i s t h a t t h e i n f i n -

    i t e s i m a l c h a n g e o f t h e c o n d i t i o n a l d i s t r i b u t i o n g i v e n y , = y i s G ( a ( t , y ) d t ,

    b ( t , y ) , / d t ) . O n t h e o t h e r h a n d , i f x , i s a B r o w n i a n m o t i o n * ' ( W i e n e r

    *

    T h e B r o w n i a n m o t i o n i s a r a n d o m m o v e m e n t o f m i c r o s c o p i c p a r t i c l e s w h i c h w a s

    d i s c o v e r e d b y t h e E n g l i s h b o t a n i s t R . B r o w n . I t s p h y s i c a l t h e o r y w a s i n v e s t i g a t e d b y

    E i n s t e i n ( [ 2 4 ] ) . T h e m a t h e m a t i c a l t h e o r y w a s i n i t i a t e d a n d . d e v e l o p e d b y W i e n e r

    ( 1 7 7 ] a n d L 4 v y [ 9 9 ] .

    i x

  • 7/24/2019 Stochastic Diffe

    11/571

    x

    P R E F A C E

    p r o c e s s ) , t h e " s t o c h a s t i c d i f f e r e n t i a l " * d x , = x , + d , - x , c o n d i t i o n e d o n

    t h e p a s t { x , , s < t } s a t i s f i e s t h e l a w G ( 0 , d t ) . T h i s s u g g e s t s t h a t w e w r i t e

    ( 0 . 2 )

    d y , = a ( t , y , ) d t + b ( t , y , ) d x , ;

    t h u s y , s h o u l d b e d e t e r m i n e d a s a s o l u t i o n o f t h e i n t e g r a l e q u a t i o n

    ( 0 . 3 )

    Y , = Y o +

    f ' a ( s , y , ) d s

    + S b ( s , y , ) d x , .

    0

    0

    H o w e v e r , W i e n e r a n d L e v y h a d a l r e a d y s h o w n t h a t x , i s n o w h e r e d i f f e r -

    e n t i a b l e f o r a l m o s t a l l s a m p l e p a t h s a n d s o t h e i n t e g r a l w i t h r e s p e c t t o d x ,

    c a n n o t b e d e f i n e d i n t h e o r d i n a r y s e n s e . I n o r d e r t o g e t a r o u n d t h i s d i f -

    f i c u l t y , I t o i n t r o d u c e d t h e n o t i o n o f " s t o c h a s t i c i n t e g r a l s " . U s i n g t h i s i d e a

    h e w a s t h e n a b l e t o o b t a i n y , a s t h e u n i q u e s o l u t i o n o f ( 0 . 3 ) f o r a g i v e n

    i n i t i a l v a l u e y o u n d e r a L i p s c h i t z c o n d i t i o n o n a ( t , y ) a n d b ( t , y ) ; f u r t h e r -

    m o r e , h e s h o w e d t h a t t h i s y , a c t u a l l y s a t i s f i e s t h e o r i g i n a l e q u a t i o n ( 0 . 1 ) .

    I n d e p e n d e n t l y i n t h e S o v i e t U n i o n , S . B e r n s t e i n ( [ 4 ] a n d [ 5 ] ) i n t r o d u c e d a

    s t o c h a s t i c d i f f e r e n c e e q u a t i o n a n d s h o w e d t h a t t h e r a n d o m v a r i a b l e d e -

    t e r m i n e d b y t h i s e q u a t i o n h a s t h e f u n d a m e n t a l s o l u t i o n o f K o l m o g o r o v ' s

    e q u a t i o n a s i t s l i m i t i n g d i s t r i b u t i o n . G i h m a n ( [ 3 5 ] , [ 3 6 ] a n d [ 3 7 ] ) c a r r i e d

    o u t B e r n s t e i n ' s p r o g r a m i n d e p e n d e n t l y o f I t o a n d s u c c e e d e d i n c o n s t r u c t -

    i n g a t h e o r y o f s t o c h a s t i c d i f f e r e n t i a l e q u a t i o n s .

    T o d a y I t o ' s t h e o r y i s a p p l i e d n o t o n l y t o M a r k o v p r o c e s s e s ( d i f f u s i o n

    p r o c e s s e s ) b u t a l s o t o a l a r g e c l a s s o f s t o c h a s t i c p r o c e s s e s . T h i s f r a m e w o r k

    p r o v i d e s u s w i t h a p o w e r f u l t o o l f o r d e s c r i b i n g a n d a n a l y z i n g s t o c h a s t i c

    p r o c e s s e s . S i n c e I t o ' s t h e o r y m a y b e c o n s i d e r e d a s a n i n t e g r a l - d i f f e r e n t i a l

    c a l c u l u s f o r s t o c h a s t i c p r o c e s s e s , i t i s o f t e n c a l l e d I t o ' s s t o c h a s t i c a n a l y s i s

    o r s t o c h a s t i c c a l c u l u s .

    T h e m a i n a i m o f t h e p r e s e n t b o o k i s t o g i v e a s y s t e m a t i c t r e a t m e n t o f

    t h e m o d e m t h e o r y o f s t o c h a s t i c i n t e g r a l s a n d s t o c h a s t i c d i f f e r e n t i a l e q u a -

    t i o n s . A s i s c u s t o m a r y n o w a d a y s , w e w i l l d e v e l o p t h i s t h e o r y w i t h i n t h e

    m a r t i n g a l e f r a m e w o r k . T h e t h e o r y o f m a r t i n g a l e s , w h i c h w a s i n i t i a t e d

    a n d d e v e l o p e d b y J . L . D o o b , p l a y s a n i n d i s p e n s a b l e r o l e i n t h e m o d e r n

    t h e o r y o f s t o c h a s t i c a n a l y s i s . T h e c l a s s o f s t o c h a s t i c p r o c e s s e s t o w h i c h

    I t o ' s t h e o r y c a n b e a p p l i e d ( u s u a l l y c a l l e d I t O p r o c e s s e s o r l o c a l l y i n -

    f i n i t e l y d i v i s i b l e p r o c e s s e s ) i s n o w e x t e n d e d t o a c l a s s o f s t o c h a s t i c p r o -

    c e s s e s c a l l e d s e m i m a r t i n g a l e s . S u c h p r o c e s s e s a p p e a r t o b e t h e m o s t g e n -

    *

    T h e n o t i o n o f s t o c h a s t i c d i f f e r e n t i a l s w a s c o n s i d e r e d b y L e v y ( [ 9 9 ] , [ 1 0 0 ] a n d [ 1 0 1 ] ) ;

    h e u s e d a s u g g e s t i v e n o t a t i o n c . / d t t o d e n o t e d x , w h e r e g i s a r a n d o m v a r i a b l e

    w i t h d i s t r i b u t i o n G ( 0 , 1 ) .

  • 7/24/2019 Stochastic Diffe

    12/571

    P R E F A C E

    x i

    e r a l f o r w h i c h a u n i f i e d t h e o r y o f s t o c h a s t i c c a l c u l u s c a n b e d e v e l o p e d . *

    A s o m e w h a t d i f f e r e n t t y p e o f s t o c h a s t i c c a l c u l u s h a s b e e n i n t r o d u c e d b y

    S t r o o c k a n d V a r a d h a n u n d e r t h e n a m e o f m a r t i n g a l e p r o b l e m s ( c f . [ 1 6 0 ]

    f o r t h i s e l e g a n t a n d p o w e r f u l a p p r o a c h ) . I n t h i s b o o k , h o w e v e r , w e p r e f e r

    t o f o l l o w I t o ' s o r i g i n a l a p p r o a c h a l t h o u g h a n i n f l u e n c e o f S t r o o c k a n d

    V a r a d h a n w i l l b e s e e n i n m a n y p l a c e s .

    C h a p t e r I c o n t a i n s s o m e p r e l i m i n a r y m a t e r i a l s t h a t a r e n e c e s s a r y f o r

    t h e d e v e l o p m e n t a n d u n d e r s t a n d i n g o f o u r b o o k . I n p a r t i c u l a r , w e r e v i e w

    t h e t h e o r y o f m a r t i n g a l e s .

    T h e n o t i o n o f s t o c h a s t i c i n t e g r a l s a n d I t o ' s f o r m u l a a r e d i s c u s s e d i n

    C h a p t e r I I . T h e s e c o n s t i t u t e t h e c o r e o f s t o c h a s t i c a n a l y s i s .

    I n C h a p t e r I I I , t h e r e s u l t s o f C h a p t e r I I a r e r e f o r m u l a t e d i n a m o r e

    c o n v e n i e n t f o r m f o r a p p l i c a t i o n s . I n p a r t i c u l a r , a t y p e o f s t o c h a s t i c i n t e g r a l

    i n t r o d u c e d b y S t r a t o n o v i c h [ 1 5 3 ] a n d F i s k [ 2 7 ] w i l l b e f o r m u l a t e d a s a n

    o p e r a t i o n ( c a l l e d s y m m e t r i c m u l t i p l i c a t i o n ) i n t h e f r a m e w o r k o f t h e t h e o r y

    d e v e l o p e d t h e r e . I t w i l l p l a y a n i m p o r t a n t r o l e i n C h a p t e r s V a n d V I .

    T h e g e n e r a l t h e o r y o f s t o c h a s t i c d i f f e r e n t i a l e q u a t i o n s i s d i s c u s s e d i n

    C h a p t e r I V . T h e s o l u t i o n s o f t h e s e e q u a t i o n s w i l l n o t n e c e s s a r i l y b e n o n -

    a n t i c i p a t i v e f u n c t i o n a l s o f t h e a c c o m p a n y i n g B r o w n i a n p a t h s ; w e d i s t i n -

    g u i s h t h o s e s o l u t i o n s h a v i n g t h i s p r o p e r t y a s s t r o n g s o l u t i o n s . S t o c h a s t i c

    d i f f e r e n t i a l e q u a t i o n s a r e t h e n u s e d t o c o n s t r u c t d i f f u s i o n p r o c e s s e s f o r

    g i v e n d i f f e r e n t i a l o p e r a t o r s a n d , i n t h e c a s e o f a s t a t e s p a c e w i t h b o u n d a r y ,

    f o r g i v e n b o u n d a r y c o n d i t i o n s . I n d i s c u s s i n g s t o c h a s t i c d i f f e r e n t i a l e q u a -

    t i o n s w i t h b o u n d a r y c o n d i t i o n s , w e a r e n a t u r a l l y l e d t o s t o c h a s t i c d i f f e r -

    e n t i a l e q u a t i o n s w h i c h a r e b a s e d o n s e m i m a r t i n g a l e s m o r e g e n e r a l t h a n

    B r o w n i a n m o t i o n s a n d o n P o i s s o n r a n d o m m e a s u r e s o v e r g e n e r a l s t a t e

    s p a c e s .

    T h e m a i n o b j e c t s t o b e s t u d i e d i n C h a p t e r V a r e t h e f l o w s o f d i f f e o m o r -

    p h i s m s d e f i n e d o n a d i f f e r e n t i a b l e m a n i f o l d w h i c h a r e a s s o c i a t e d w i t h a

    g i v e n s y s t e m o f v e c t o r f i e l d s . S t o c h a s t i c c a l c u l u s e n a b l e s u s t o t r a n s f e r m a n y

    i m p o r t a n t o p e r a t i o n s i n a n a l y s i s a n d d i f f e r e n t i a l g e o m e t r y w h i c h a r e d e -

    f i n e d o n s m o o t h c u r v e s t h r o u g h o r d i n a r y d i f f e r e n t i a l - i n t e g r a l c a l c u l u s t o a

    c l a s s o f s t o c h a s t i c c u r v e s . F l o w s o f d i f f e o m o r p h i s m s a r e o n e s u c h e x a m p l e .

    B y m a k i n g u s e o f a f f i n e c o n n e c t i o n s o r R i e m a n n i a n c o n n e c t i o n s w e c a n

    c o n s t r u c t f l o w s o f d i f f e o m o r p h i s m s o v e r t h e s p a c e o f f r a m e b u n d l e s . T h e

    m o s t g e n e r a l n o n - s i n g u l a r d i f f u s i o n c a n t h e n b e o b t a i n e d b y p r o j e c t i o n .

    W e c a n a l s o r e a l i z e I t o ' s s t o c h a s t i c p a r a l l e l d i s p l a c e m e n t o f t e n s o r f i e l d s

    b y t h i s m e t h o d . T h e s e i d e a s a r e d u e t o E e l l s , E l w o r t h y a n d M a l l i a v i n . I n

    d i s c u s s i n g a s i m i l a r p r o b l e m i n t h e c a s e o f a m a n i f o l d w i t h b o u n d a r y , w e

    *

    T h e m o d e r n t h e o r y o f s e m i m a r t i n g a l e s a n d t h e s t o c h a s t i c c a l c u l u s b a s e d o n t h e m

    h a v e b e e n e x t e n s i v e l y d e v e l o p e d i n F r a n c e b y M e y e r , D e l l a c h e r i e , J a c o d e t c . ( c f .

    J a c o d [ 7 7 ] ) .

  • 7/24/2019 Stochastic Diffe

    13/571

    x i i

    P R E F A C E

    e x h i b i t a p r o b a b i l i s t i c c o n d i t i o n w h i c h c h a r a c t e r i z e s t h e r e f l e c t i n g d i f f u s i o n

    p r o c e s s e s i n t h e n o r m a l d i r e c t i o n a m o n g a l l r e f l e c t i n g d i f f u s i o n p r o c e s s e s

    i n o b l i q u e d i r e c t i o n s .

    M a n y o f t h e m a t h e m a t i c a l o b j e c t s o b t a i n e d t h r o u g h s t o c h a s t i c a n a l y -

    s i s , e . g . , s t r o n g s o l u t i o n s o f s t o c h a s t i c d i f f e r e n t i a l e q u a t i o n s , a r e f u n c t i o n a l s

    o f t h e a c c o m p a n y i n g B r o w n i a n p a t h s , i . e . , B r o w n i a n f u n c t i o n a l s o r W i e n e r

    f u n c t i o n a l s . I n S e c t i o n s 7 a n d 8 o f C h a p t e r V w e i n t r o d u c e a r e c e n t w o r k

    o f M a l l i a v i n w h i c h a n a l y z e s s o l u t i o n s o f s t o c h a s t i c d i f f e r e n t i a l e q u a t i o n s

    a s W i e n e r f u n c t i o n a l s . T h e r e h e o b t a i n s t h e r e m a r k a b l e r e s u l t t h a t t h e

    s m o o t h n e s s p r o b l e m f o r t h e h e a t e q u a t i o n c a n b e t r e a t e d b y t h i s p r o b a -

    b i l i s t i c a p p r o a c h .

    S o m e m i s c e l l a n e o u s m a t e r i a l s a r e p r e s e n t e d i n C h a p t e r V I . I n t h e f i r s t

    h a l f w e d i s c u s s s o m e t o p i c s r e l a t e d t o t h e c o m p a r i s o n t h e o r e m . A l t h o u g h t h e

    r e s u l t s o b t a i n e d b y t h i s m e t h o d a r e u s u a l l y a l i t t l e w e a k e r t h a n t h o s e o b -

    t a i n e d v i a p a r t i a l d i f f e r e n t i a l e q u a t i o n s , t h e t e c h n i q u e i s s i m p l e r a n d i t

    s o m e t i m e s p r o d u c e s s h a r p r e s u l t s . T h e t o p i c s d i s c u s s e d i n t h e s e c o n d h a l f

    a r e m o r e o r l e s s r e l a t e d t o t h e n o t i o n o f s t o c h a s t i c a r e a a s i n t r o d u c e d b y

    L e v y . T h e a p p r o x i m a t i o n t h e o r e m s c o n s i d e r e d i n S e c t i o n 7 a r e c o n c e r n e d

    w i t h t h e t r a n s f e r o f c o n c e p t s d e f i n e d o n s m o o t h c u r v e s t o s t o c h a s t i c c u r v e s .

    T h e r e a r e m a n y t o p i c s i n t h e a r e a o f s t o c h a s t i c d i f f e r e n t i a l e q u a t i o n s

    a n d t h e i r a p p l i c a t i o n s w h i c h a r e n o t c o n s i d e r e d i n t h i s b o o k : e . g . , t h e

    t h e o r y o f s t o c h a s t i c c o n t r o l , f i l t e r i n g a n d s t a b i l i t y , a p p l i c a t i o n s t o l i m i t

    t h e o r e m s , a p p l i c a t i o n s t o p a r t i a l d i f f e r e n t i a l e q u a t i o n s i n c l u d i n g n o n -

    l i n e a r e q u a t i o n s , e t c . W e e s p e c i a l l y r e g r e t t h a t w e c o u l d n o t i n c l u d e t h e

    i m p o r t a n t w o r k s b y N . V . K r y l o v o n t h e e s t i m a t e s f o r t h e d i s t r i b u t i o n s o f

    s t o c h a s t i c i n t e g r a l s a n d t h e i r a p p l i c a t i o n s ( c f . e . g . [ 9 1 ] a n d [ 9 2 ] ) .

    W e w i s h t o e x p r e s s o u r g r a t i t u d e t o G . M a r u y a m a f o r h i s c o n s t a n t i n -

    t e r e s t a n d e n c o u r a g e m e n t d u r i n g t h e w r i t i n g o f t h i s b o o k . W e a r e a l s o i n -

    d e b t e d t o H . K u n i t a f o r h i s c r i t i c a l c o m m e n t s a n d c o n s t r u c t i v e s u g g e s t i o n s

    a n d t o S . N a k a o w h o g r e a t l y a s s i s t e d u s i n t h e p r o o f s o f T h e o r e m s V I - 7 . 1

    a n d V I - 7 . 2 . A m o n g t h e m a n y o t h e r s w h o h a v e m a d e c o n t r i b u t i o n s , w e

    w o u l d p a r t i c u l a r l y t h a n k H . A s a n o , S . K o t a n i , S . K u s u o k a , S . M a n a b e ,

    Y . O k a b e , H . O k u r a a n d I . S h i g e k a w a f o r t h e i r u s e f u l c o m m e n t s , s u g -

    g e s t i o n s a n d c o r r e c t i o n s . F i n a l l y , w e a l s o e x p r e s s o u r a p p r e c i a t i o n t o T . H .

    S a v i t s w h o r e a d t h e m a n u s c r i p t a n d s u g g e s t e d g r a m m a t i c a l i m p r o v e m e n t s ,

    a n d t o t h e e d i t o r i a l s t a f f o f K o d a n s h a S c i e n t i f i c w h o p r o v i d e d m u c h h e l p

    i n t h e p u b l i c a t i o n o f t h i s b o o k .

    O s a k a a n d K y o t o , F e b r u a r y 1 9 8 0

    N o b u y u k i I K E D A

    S h i n z o W A T A N A B E

  • 7/24/2019 Stochastic Diffe

    14/571

    C o n t e n t s

    P r e f a c e t o t h e S e c o n d E d i t i o n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . v i i

    P r e f a c e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . i x

    G e n e r a l n o t a t i o n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . x v

    C h a p t e r I . P r e l i m i n a r i e s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . I

    1 .

    B a s i c n o t i o n s a n d n o t a t i o n s ,

    1

    2 .

    P r o b a b i l i t y m e a s u r e s o n a m e t r i c s p a c e ,

    2

    3 .

    E x p e c t a t i o n s , c o n d i t i o n a l e x p e c t a t i o n s a n d r e g u l a r c o n d i t i o n a l p r o b a b i l -

    i t i e s ,

    1 1

    4 .

    C o n t i n u o u s s t o c h a s t i c p r o c e s s e s ,

    1 6

    5 .

    S t o c h a s t i c p r o c e s s e s a d a p t e d t o a n i n c r e a s i n g f a m i l y o f s u b a - f i e l d s ,

    2 0

    6 .

    M a r t i n g a l e s ,

    2 5

    7 .

    B r o w n i a n m o t i o n s ,

    4 0

    8 .

    P o i s s o n r a n d o m m e a s u r e ,

    4 2

    9 .

    P o i n t p r o c e s s e s a n d P o i s s o n p o i n t p r o c e s s e s ,

    4 3

    C h a p t e r I I .

    S t o c h a s t i c i n t e g r a l s a n d I t o ' s f o r m u l a . . . . . . . . . . . . . 4 5

    1 .

    I t o ' s d e f i n i t i o n o f s t o c h a s t i c i n t e g r a l s ,

    4 5

    2 . S t o c h a s t i c i n t e g r a l s w i t h r e s p e c t t o m a r t i n g a l e s ,

    5 3

    3 .

    S t o c h a s t i c i n t e g r a l s w i t h r e s p e c t t o p o i n t p r o c e s s e s ,

    5 9

    4 .

    S e m i - m a r t i n g a l e s ,

    6 3

    5 .

    I t o ' s f o r m u l a ,

    6 6

    6 . M a r t i n g a l e c h a r a c t e r i z a t i o n o f B r o w n i a n m o t i o n s a n d P o i s s o n p o i n t

    p r o c e s s e s , 7 3

    7 .

    R e p r e s e n t a t i o n t h e o r e m f o r s e m i - m a r t i n g a l e s ,

    8 4

    C h a p t e r I I I . S t o c h a s t i c c a l c u l u s

    . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9 7

    1 .

    T h e s p a c e o f s t o c h a s t i c d i f f e r e n t i a l s , 9 7

    2 .

    S t o c h a s t i c d i f f e r e n t i a l e q u a t i o n s w i t h r e s p e c t t o q u a s i m a r t i n g a l e s ,

    1 0 3

    3 .

    M o m e n t i n e q u a l i t i e s f o r m a r t i n g a l e s ,

    1 1 0

    4 .

    S o m e a p p l i c a t i o n s o f s t o c h a s t i c c a l c u l u s t o B r o w n i a n m o t i o n s ,

    1 1 3

    4 . 1 .

    B r o w n i a n l o c a l t i m e ,

    1 1 3

    4 . 2 .

    R e f l e c t i n g B r o w n i a n m o t i o n a n d t h e S k o r o h o d e q u a t i o n ,

    1 1 9

    4 . 3 .

    E x c u r s i o n s o f B r o w n i a n m o t i o n ,

    1 2 3

    x i i i

  • 7/24/2019 Stochastic Diffe

    15/571

    x i v

    C O N T E N T S

    4 . 4 S o m e l i m i t t h e o r e m s f o r o c c u p a t i o n t i m e s o f B r o w n i a n m o t i o n ,

    1 4 6

    5 .

    E x p o n e n t i a l m a r t i n g a l e s ,

    1 4 9

    6 .

    C o n f o r m a l m a r t i n g a l e s ,

    1 5 5

    C h a p t e r I V .

    S t o c h a s t i c d i f f e r e n t i a l e q u a t i o n s . . . . . . . . . . . . . . . . . . 1 5 9

    1 .

    D e f i n i t i o n o f s o l u t i o n s ,

    1 5 9

    2 .

    E x i s t e n c e t h e o r e m ,

    1 6 7

    3 .

    U n i q u e n e s s t h e o r e m ,

    1 7 8

    4 . S o l u t i o n b y t r a n s f o r m a t i o n o f d r i f t a n d b y t i m e c h a n g e , 1 9 0

    5 .

    D i f f u s i o n p r o c e s s e s ,

    2 0 2

    6 .

    D i f f u s i o n p r o c e s s e s g e n e r a t e d b y d i f f e r e n t i a l o p e r a t o r s a n d s t o c h a s t i c

    d i f f e r e n t i a l e q u a t i o n s ,

    2 1 2

    7 .

    S t o c h a s t i c d i f f e r e n t i a l e q u a t i o n s w i t h b o u n d a r y c o n d i t i o n s ,

    2 1 7

    8 .

    E x a m p l e s ,

    2 3 2

    9 .

    S t o c h a s t i c d i f f e r e n t i a l e q u a t i o n s w i t h r e s p e c t t o P o i s s o n p o i n t p r o c e s s e s ,

    2 4 4

    C h a p t e r V . D i f f u s i o n p r o c e s s o n m a n i f o l d s

    . . . . . . . . . . . . . . . . . . . . 2 4 7

    1 .

    S t o c h a s t i c d i f f e r e n t i a l e q u a t i o n s o n m a n i f o l d s ,

    2 4 7

    2 .

    F l o w o f d i f f e o m o r p h i s m s ,

    2 5 4

    3 .

    H e a t e q u a t i o n o n a m a n i f o l d ,

    2 6 9

    4 .

    N o n - d e g e n e r a t e d i f f u s i o n s o n a m a n i f o l d a n d t h e i r h o r i z o n t a l l i f t s ,

    2 7 5

    5 .

    S t o c h a s t i c p a r a l l e l d i s p l a c e m e n t a n d h e a t e q u a t i o n f o r t e n s o r f i e l d s ,

    2 9 7

    6 .

    T h e c a s e w i t h b o u n d a r y c o n d i t i o n s ,

    3 0 8

    7 .

    K a h l e r d i f f u s i o n s ,

    3 4 1

    8 .

    M a l l i a v i n ' s s t o c h a s t i c c a l c u l u s o f v a r i a t i o n f o r W i e n e r f u n c t i o n a l s , 3 4 9

    9 .

    P u l l - b a c k o f S c h w a r t z d i s t r i b u t i o n s u n d e r W i e n e r m a p p i n g s a n d t h e

    r e g u l a r i t y o f i n d u c e d m e a s u r e s ( p r o b a b i l i t y l a w s ) ,

    3 7 5

    1 0 .

    T h e c a s e o f s t o c h a s t i c d i f f e r e n t i a l e q u a t i o n s : A p p l i c a t i o n s t o h e a t

    k e r n e l s ,

    3 9 1

    C h a p t e r V I . T h e o r e m s o n c o m p a r i s o n a n d a p p r o x i m a t i o n a n d t h e i r

    a p p l i c a t i o n s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4 3 7

    1 . A c o m p a r i s o n t h e o r e m f o r o n e - d i m e n s i o n a l l t d p r o c e s s e s ,

    4 3 7

    2 .

    A n a p p l i c a t i o n t o a n o p t i m a l c o n t r o l p r o b l e m , 4 4 1

    3 .

    S o m e r e s u l t s o n o n e - d i m e n s i o n a l d i f f u s i o n p r o c e s s e s ,

    4 4 6

    4 .

    C o m p a r i s o n t h e o r e m f o r o n e - d i m e n s i o n a l p r o j e c t i o n o f d i f f u s i o n p r o -

    c e s s e s , 4 5 2

    5 .

    A p p l i c a t i o n s t o d i f f u s i o n s o n R i e m a n n i a n m a n i f o l d s ,

    4 6 0

    6 . S t o c h a s t i c l i n e i n t e g r a l s a l o n g t h e p a t h s o f d i f f u s i o n p r o c e s s e s ,

    4 6 7

    7 .

    A p p r o x i m a t i o n t h e o r e m s f o r s t o c h a s t i c i n t e g r a l s a n d s t o c h a s t i c d i f f e r e n -

    t i a l e q u a t i o n s , 4 8 0

    8 .

    T h e s u p p o r t o f d i f f u s i o n p r o c e s s e s , 5 1 7

    9 .

    A s y m p t o t i c e v a l u a t i o n o f t h e d i f f u s i o n m e a s u r e f o r t u b e s a r o u n d a

    s m o o t h c u r v e ,

    - 5 3 2

    B i b l i o g r a p h y . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5 4 1

    I n d e x . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5 6 1

  • 7/24/2019 Stochastic Diffe

    16/571

    G e n e r a l N o t a t i o n

    T h e o r e m I V - 3 . 2 , f o r e x a m p l e , m e a n s T h e o r e m 3 . 2 ( t h e s e c o n d t h e o r e m

    i n S e c t i o n 3 ) i n C h a p t e r I V . I f t h i s t h e o r e m i s q u o t e d i n C h a p t e r I V , i t i s

    w r i t t e n a s T h e o r e m 3 . 2 o n l y .

    T h e f o l l o w i n g n o t a t i o n s a r e f r e q u e n t l y u s e d .

    A : = B m e a n s t h a t A i s d e f i n e d b y B o r A i s d e n o t e d b y B .

    A ( x ) = B ( x )

    : A ( x ) a n d B ( x ) a r e i d e n t i c a l l y e q u a l , i . e . A ( x ) = B ( x )

    f o r a l l x .

    1 1 4

    :

    t h e r e s t r i c t i o n ( o f a f u n c t i o n f ) t o a s u b s e t A o f t h e

    d o m a i n o f d e f i n i t i o n o f f .

    A o B

    : t h e s y m m e t r i c d i f f e r e n c e o f A a n d B , i . e . , ( A \ B ) U ( B \ A ) .

    I 4

    : t h e i n d i c a t o r f u n c t i o n o f A , i . e . , I . 4 ( x ) = I o r 0 a c c o r d i n g -

    l y a s x e A o r x A .

    a V b

    :

    t h e m a x i m u m o f a a n d b .

    a A b

    : t h e m i n i m u m o f a a n d b .

    E ( X : B )

    :

    t h e e x p e c t a t i o n o f a r a n d o m v a r i a b l e X o n a n e v e n t B ,

    i . e . , f 2 X ( c o ) P ( d a ) ) = E ( X I B ) .

    8 , j , 6 " , b

    :

    t h e K r o n e c k e r ' s J .

    8 M

    : t h e u n i t ( D i r a c ) m e a s u r e a t a .

    L i . p .

    : l i m i t i n p r o b a b i l i t y .

    a . s .

    : a l m o s t s u r e l y .

    t - - X ( t ) ,

    : t h e m a p p i n g t - - - X ( t ) .

    I t - X O N

    R = R ' : t h e r e a l l i n e .

    C

    :

    t h e c o m p l e x p l a n e .

    R d : t h e d - d i m e n s i o n a l E u c l i d e a n s p a c e .

    N

    : t h e s e t o f a l l p o s i t i v e i n t e g e r s .

    Z

    : t h e s e t o f a l l i n t e g e r s .

    Z +

    : t h e s e t o f a l l n o n - n e g a t i v e i n t e g e r s .

    x v

  • 7/24/2019 Stochastic Diffe

    17/571

    x v i G E N E R A L N O T A T I O N

    : t h e s e t o f a l l r a t i o n a l n u m b e r s .

    : t h e l a r g e s t i n t e g e r n o t e x c e e d i n g x .

    " s m o o t h " u s u a l l y m e a n s C " ( i . e . , i n f i n i t e l y d i f f e r e n t i a b l e ) ; " s u f f i c i e n t l y

    s m o o t h " i s t h e s a m e a s " s u f f i c i e n t l y d i f f e r e n t i a b l e " .

    O t h e r n o t a t i o n s w i l l b e e x p l a i n e d w h e r e t h e y f i r s t a p p e a r .

  • 7/24/2019 Stochastic Diffe

    18/571

    C H A P T E R I

    P r e l i m i n a r i e s

    1 . B a s i c n o t i o n s a n d n o t a t i o n s

    T h e r e a d e r i s a s s u m e d t o b e f a m i l i a r w i t h s o m e o f t h e b a s i c n o t i o n s

    i n m e a s u r e t h e o r y ( c f . [ 4 5 ] a n d [ 1 2 9 ] ) , e s p e c i a l l y t h e n o t i o n s o f a a - f i e l d

    ( c a l l e d a l s o a a - a l g e b r a o r a B o r e l f i e l d ) , a m e a s u r a b l e s p a c e ( a p a i r c o n -

    s i s t i n g o f a n a b s t r a c t s p a c e a n d a a - f i e l d o n i t ) a n d a m e a s u r a b l e m a p p i n g .

    W h e n S i s a t o p o l o g i c a l s p a c e , t h e s m a l l e s t a - f i e l d . 4 ' ( S ) o n S w h i c h c o n -

    t a i n s a l l o p e n s e t s i s c a l l e d t h e t o p o l o g i c a l a f i e l d a n d a n e l e m e n t B E

    - q ( S ) i s c a l l e d a B o r e l s e t i n S . A m a p p i n g f f r o m a t o p o l o g i c a l s p a c e

    i n t o a n o t h e r t o p o l o g i c a l s p a c e S ' w h i c h i s

    P % ( S ) / . . e r l ( S ' ) - m e a s u r a b l e

    ( i . e . , f - ' ( B ) = { x ; f ( x ) e B } E . ' ( S ) f o r a l l B E - q ( S ' ) ) i s c a l l e d B o r e l

    m e a s u r a b l e . A n y a - a d d i t i v e n o n - n e g a t i v e m e a s u r e P o n a m e a s u r a b l e s p a c e

    s u c h t h a t P ( Q ) = 1 i s c a l l e d a p r o b a b i l i t y o n ( S 2 , ) a n d t h e t r i p l e

    ( Q , F P ) i s c a l l e d a p r o b a b i l i t y s p a c e . I f P i s a p r o b a b i l i t y o n ( 5 2 , . x ` - ) ,

    t h e n _ F " r = { A e 5 2 ; 3 B 1 , B 2 E J r s u c h t h a t B , c A c B 2 a n d P ( B 1 ) =

    P ( B 2 ) } i s a a - f i e l d o n Q c o n t a i n i n g . F - : T h e p r o b a b i l i t y P c a n b e n a t u r a l l y

    e x t e n d e d t o . ' a a n d t h e s p a c e ( 0 . .

    i ' , P ) i s c a l l e d t h e c o m p l e t i o n o f

    ( 5 2 , . 9 P ) . A p r o b a b i l i t y P o n ( Q , F - ) s u c h t h a t . 9 ' = J F

    r i s c a l l e d

    c o m p l e t e a n d i n t h i s c a s e ( 0 , $ ; P ) i s c a l l e d a c o m p l e t e p r o b a b i l i t y s p a c e .

    I f S i s a t o p o l o g i c a l s p a c e , w e s e t

    ( 1 . 1 )

    g ( s ) = n _ q ( s r ,

    4

    w h e r e p r u n s o v e r a l l p r o b a b i l i t i e s o n ( S , . , ' ( S ) ) . A n e l e m e n t i n ' ( S )

    i s c a l l e d a u n i v e r s a l l y m e a s u r a b l e s e t i n S a n d a m a p p i n g f f r o m S i n t o

    a n o t h e r t o p o l o g i c a l s p a c e S ' w h i c h i s ' ( S ) / . ( S ' ) - m e a s u r a b l e i s c a l l e d

    u n i v e r s a l l y m e a s u r a b l e . L e t { .

    } b e a f a m i l y o f a - f i e l d s o n Q . W e d e n o t e

    b y V - F - . t h e s m a l l e s t a - f i e l d o n Q w h i c h c o n t a i n s a l l Y ; . I f I F i s a c l a s s

    a

    o f s u b s e t s o f 9 , w e d e n o t e b y a [ W ] t h e s m a l l e s t a - f i e l d o n 1 2 w h i c h c o n -

    t a i n s W . A l s o , i f { X a }

    a e A i s a

    f a m i l y o f m a p p i n g s f r o m 5 2 i n t o a m e a s u r a b l e

    1

  • 7/24/2019 Stochastic Diffe

    19/571

    2

    P R E L I M I N A R I E S

    s p a c e

    t h e n t h e s m a l l e s t a - f i e l d . . Y o n 0 s u c h t h a t e a c h X . i s

    9 7 7 ' - m e a s u r a b l e i s d e n o t e d b y a [ X a ; a E A ] . I n p a r t i c u l a r , a [ X ] _

    X - ' ( . Y - ' ) f o r e v e r y m a p p i n g X : 0 - 0 ' .

    L e t

    P ) b e a p r o b a b i l i t y s p a c e a n d ( S , : , 1 3 ( S ) ) b e a t o p o l o g i c a l

    s p a c e S w i t h t h e t o p o l o g i c a l a - f i e l d R ( S ) . A m a p p i n g X f r o m 0 i n t o S

    w h i c h i s F - / R ( S ) - m e a s u r a b l e i s c a l l e d a n S - v a l u e d r a n d o m v a r i a b l e . * '

    I f , i n p a r t i c u l a r , S = R , S = C , o r S = R d , t h e n X i s c a l l e d a r e a l r a n d o m

    v a r i a b l e , a c o m p l e x r a n d o m v a r i a b l e , o r a d - d i m e n s i o n a l r a n d o m v a r i a b l e ,

    r e s p e c t i v e l y . I f X i s a n S - v a l u e d r a n d o m v a r i a b l e , t h e n

    ( 1 . 2 )

    P X ( B ) = P [ X - ' ( B ) ] = P [ c v ; X ( c ) ) E B ] = P [ X E B ] , * z

    B E . 2 ( S ) ,

    d e f i n e s a p r o b a b i l i t y o n ( S , P ( S ) ) . P X i s c a l l e d t h e p r o b a b i l i t y l a w ( o r

    p r o b a b i l i t y d i s t r i b u t i o n ) o f t h e r a n d o m v a r i a b l e X . P X i s n o t h i n g b u t t h e

    i n d u c e d m e a s u r e , o r t h e i m a g e m e a s u r e o f t h e m e a s u r a b l e m a p p i n g X .

    2 . P r o b a b i l i t y m e a s u r e s o n a m e t r i c s p a c e

    L e t S b e a s e p a r a b l e m e t r i c s p a c e w i t h t h e m e t r i c p a n d . 2 ( S ) b e t h e

    t o p o l o g i c a l a - f i e l d .

    P r o p o s i t i o n 2 . 1 . L e t P b e a p r o b a b i l i t y o n ( S , P ( S ) ) . T h e n , f o r e v e r y

    B E . 2 ( S ) ,

    ( 2 . 1 )

    P ( B ) =

    s u p

    P ( F ) =

    i n f

    P ( G ) .

    F c B . F : c l o s e d

    8 c G , G : o p e n

    P r o o f . S e t ' = { B E P 2 ( S ) ; ( 2 . 1 ) h o l d s } . I f B E W , t h e n c l e a r l y

    B ( t h e c o m p l e m e n t o f B ) E I F . I f B . E B , n = 1 , 2 ,

    . . . ,

    t h e n

    U B n E I F . I n d e e d , f o r g i v e n e > 0 , w e c a n c h o o s e a n o p e n s e t G . a n d

    a c l o s e d s e t F . s u c h t h a t F . c B . c G . a n d

    P ( G n \ F n ) S a / 2 n + '

    n = 1 , 2 , . . . .

    A o

    S e t G = U G . a n d F = U F . w h e r e n o i s c h o s e n s o t h a t

    n - 3

    n - + 1

    n o

    P U l F n \ U

    - - / 2 -

    n .

    i

    l

    " M o r e g e n e r a l l y , a r a n d o m v a r i a b l e i s a n y m e a s u r a b l e m a p p i n g f r o m ( 5 2 , 9 ) i n t o

    a m e a s u r a b l e s p a c e .

    * 2 W e o f t e n s u p p r e s s t h e a r g u m e n t

    c o i n t h i s w a y .

  • 7/24/2019 Stochastic Diffe

    20/571

    P R O B A B I L I T Y M E A S U R E S O N A M E T R I C S P A C E

    3

    T h e n G i s o p e n , F i s c l o s e d , F c U B , , c G a n d

    n - 1

    P ( G \ F ) l / n } * i s c l o s e d , F . c F n + , a n d U F , , = G . S i n c e P ( G ) =

    n

    l i m P ( F , ) , i t f o l l o w s t h a t G E V . T h e r e f o r e , ` F = . O w ( S ) .

    W e d e n o t e , b y C b ( S ) , t h e s e t o f a l l b o u n d e d , c o n t i n u o u s r e a l - v a l u e d

    f u n c t i o n s o n S . C b ( S ) i s a B a n a c h s p a c e w i t h t h e u s u a l n o r m 1 1 f I I =

    s u p I f ( x ) 1 , . f E C b ( S ) .

    X E S

    P r o p o s i t i o n 2 . 2 . L e t P a n d Q b e p r o b a b i l i t i e s o n ( S , . O J ( S ) ) . I f

    $ 8 f ( x ) P ( d x ) = f f ( x ) Q ( d x ) f o r e v e r y f E C b ( S ) , t h e n P = Q .

    P r o o f . B y P r o p o s i t i o n 2 . 1 , i t i s s u f f i c i e n t t o s h o w t h a t P ( F ) = Q ( F )

    f o r e v e r y c l o s e d s e t F . I f w e s e t f n ( x ) = 6 ( n p ( x , F ) ) w h e r e 0 ( t ) i s t h e f u n c -

    t i o n d e f i n e d b y

    1

    t < 0 ,

    0 ( t ) = 1 - t

    ,

    O < t < 1 ,

    0 ,

    t > 1 ,

    t h e n l i m f n ( x ) = I P ( x ) f o r e v e r y x E S . C o n s e q u e n t l y , b y t h e d o m i n a t e d

    m m

    c o n v e r g e n c e t h e o r e m ,

    P ( F ) =

    l i m

    j ' f n ( x ) P ( d x )

    = l i m f

    S f n ( x ) Q ( d x ) = Q ( F ) .

    P r o p o s i t i o n 2 . 3 . S u p p o s e t h a t S i s c o m p l e t e w i t h r e s p e c t t o t h e m e t r i c

    p , t h a t i s , e v e r y p - C a u c h y s e q u e n c e i s a c o n v e r g e n t s e q u e n c e . T h e n a n y

    p r o b a b i l i t y P o n ( S , . ' ( S ) ) i s i n n e r r e g u l a r i n t h e s e n s e t h a t f o r e v e r y B

    0 ( S )

    ( 2 . 2 ) P ( B ) =

    s u p

    P ( K ) .

    K G B , K : c o m p a c t

    P r o o f . W e f i r s t p r o v e t h a t f o r e v e r y a > 0 t h e r e e x i s t s a c o m p a c t s e t

    " p ( x , A ) = i n f p ( x , y ) .

    Y E A

  • 7/24/2019 Stochastic Diffe

    21/571

    4

    P R E L I M I N A R I E S

    K c S s u c h t h a t P ( K ) > 1 - c . S i n c e S i s s e p a r a b l e , S c a n b e c o v e r e d b y

    a c o u n t a b l e n u m b e r o f b a l l s o f r a d i u s S f o r a n y g i v e n 0 > 0 . L e t

    J . 1 0 ,

    a n d , f o r e a c h n , l e t a k ' , k = 1 , 2 ,

    . . . b e a s e q u e n c e o f c l o s e d

    b a l l s o f

    r a d i u s S n c o v e r i n g S . T h e n

    1 = P ( S ) = J i m P ( k

    s

    a k ) )

    : - -

    a n d c o n s e q u e n t l y w e c a n f i n d I n s u c h t h a t

    ( 2 . 3 )

    P ( k

    a k ) ) > 1 - a / 2 n .

    1

    S e t K = ( 1 U a k ' . C l e a r l y , f o r e v e r y b > 0 , K c a n b e c o v e r e d b y a f i n i t e

    n - 1 k

    n u m b e r o f b a l l s w i t h r a d i u s S a n d h e n c e K i s t o t a l l y b o u n d e d . S i n c e S i s

    c o m p l e t e , t h i s i m p l i e s t h a t K i s c o m p a c t . F r o m ( 2 . 3 ) , w e c o n c l u d e t h a t

    P ( K ) > I - e .

    N e x t , l e t B E . H I ( S ) . B y P r o p o s i t i o n 2 . 1 , w e c a n c h o o s e a c l o s e d s e t

    F c B s u c h t h a t P ( B ) < P ( F ) + e . N o w F ' = F f l K i s c o m p a c t a n d

    P ( F ) - P ( F ) < P ( K C ) < c . H e n c e P ( B ) < P ( F ' ) + 2 c w h i c h

    i m p l i e s

    t h a t ( 2 . 2 ) h o l d s .

    D e f i n i t i o n 2 . 1 . A s e q u e n c e { P . } o f p r o b a b i l i t i e s o n ( S , . . W ( S ) ) i s s a i d

    t o b e / w e a k l y c o n v e r g e n t t o a p r o b a b i l i t y P o n ( S , R ( S ) ) i f f o r e v e r y

    f J

    C M S )

    J i m f

    f ( x ) P n ( d x ) = f f ( x ) P ( d x ) ._ f

    S

    s

    P i s u n i q u e l y d e t e r m i n e d f r o m { P n } b y P r o p o s i t i o n 2 . 2 , a n d w e w r i t e

    P = w - l i m P n , o r P n - w P a s

    a s n - - o o .

    P r o p o s i t i o n 2 . 4 . T h e f o l l o w i n g f i v e c o n d i t i o n s a r e e q u i v a l e n t :

    ( i )

    P .

    P .

    ( i i ) u r n f f ( x ) P n ( d x ) = f

    s

    f ( x ) P ( d x ) f o r e v e r y u n i f o r m l y c o n t i n u o u s

    s

    . f E C b ( S ) .

    ( i i i ) l i m P n ( F ) < P ( F )

    f o r e v e r y c l o s e d s e t F .

    ( i v ) 1 m P n ( G ) > P ( G )

    f o r e v e r y o p e n s e t G .

    n - -

  • 7/24/2019 Stochastic Diffe

    22/571

    P R O B A B I L I T Y M E A S U R E S O N A M E T R I C S P A C E

    5

    ( v ) l i r a P ( A ) = P ( A ) f o r e v e r y A E . 6 . d ' ( S ) s u c h t h a t P ( 8 A ) = 0 . *

    n o m

    P r o o f . " ( i ) : = > ( i i ) " i s o b v i o u s . T o s h o w " ( i i ) ' ( i i i ) " , n o t e t h a t t h e

    f u n c t i o n s f k ( x ) u s e d i n t h e p r o o f o f P r o p o s i t i o n 2 . 2 a r e u n i f o r m l y c o n t i n u -

    o u s . T h e n , ( i i ) i m p l i e s t h a t

    l i m

    P ( F )

    < l i m n f

    f k ( x ) P . ( d x ) =

    J ' f k ( x ) P ( d x )

    a n d , l e t t i n g k - - o o , w e h a v e ( i i i ) .

    " ( i i i ) q ( i v ) " f o l l o w s b y t a k i n g

    c o m p l e m e n t s . N e x t , w e s h o w " ( i i i )

    ( i ) " . L e t f E C b ( S ) . B y a l i n e a r

    t r a n s f o r m a t i o n , w e m a y a s s u m e , w i t h o u t l o s s o f g e n e r a l i t y t h a t 0 < f < 1 .

    T h e n

    ( 2 . 4 )

    k

    ( i - 1 ) / k P { x ; ( i - 1 ) / k < f ( x ) < i / k }

    < f

    s

    f ( x ) P ( d x ) < E i l k P { x ; ( i - 1 ) / k < f ( x ) < i l k ) .

    1 - 1

    I f w e s e t F 1 = { x ; i l k < f ( x ) l , t h e r i g h t - h a n d s i d e o f ( 2 . 4 ) i s e q u a l t o

    k - 1

    k - 1

    E P ( F 1 ) / k a n d t h e l e f t - h a n d s i d e i s e q u a l t o E P ( F 1 ) / k - 1 / k . F r o m

    1 - o

    1 - 0

    ( i i i ) , i t f o l l o w s t h a t

    k _ 2

    k - 1

    l i m f f ( x ) P . ( d x )

    F n E P ( F 1 ) / k < E P ( F , ) / k

    1 - 0

    1 - 0

    < 1 / k + f f ( x ) P ( d x ) .

    S i n c e k w a s a r b i t r a r y , w e d e d u c e t h a t

    R E f f ( x ) P . ( d x ) < - f f ( x ) P ( d x ) .

    s

    s

    B y r e p l a c i n g f w i t h

    1 - f i n t h e a b o v e a r g u m e n t , w e o b t a i n

    l i m f

    s f ( x ) P , ( d x ) Z f f ( x ) P ( d x )

    C o n s e q u e n t l y , l i m f f ( x ) P ( d x ) = f f ( x ) P ( d x ) .

    - - s s

    * a A =

    i s t h e b o u n d a r y o f t h e s e t A , A i s t h e c l o s u r e o f A a n d . 4 i s t h e i n t e r i o r o f

    A .

  • 7/24/2019 Stochastic Diffe

    23/571

    6

    P R E L I M I N A R I E S

    F i n a l l y , w e s h o w " ( i i i ) .

    ( v ) " . I f P ( 6 A ) = 0 , t h e n , a s s u m i n g ( i i i )

    ( i v ) ) , w e h a v e

    P ( A ) = P ( A ) S l i m P . ( - ) < l i m P ( A ) P ( A )

    s h o w i n g t h a t

    P ( A ) . C o n v e r s e l y , a s s u m e ( v ) . L e t F b e a c l o s e d

    s e t a n d s e t F 6 = { x ; p ( x , F ) < 6 1 . T h e n a F 6 c { x ; p ( x , F ) = 8 } : = A 8

    a n d , s i n c e t h e A s a r e d i s j o i n t f o r d i f f e r e n t 8 , t h e s e t o f b s u c h t h a t P ( A 6 ) >

    0 i s a t m o s t c o u n t a b l e . T h e r e f o r e , w e c a n c h o o s e d 1 1 0 s u c h t h a t P ( A a 1 ) _

    0 a n d h e n c e P ( a F 8 , ) = 0 . C o n s e q u e n t l y

    P ( F ) = l i m P ( F 8 1 ) = l i m l i m P ( F 8 ) > l i m P ( F ) .

    I . . .

    I - e o 0 . 0 0

    n _ _

    E x a m p l e 2 . 1 . I f S = R , t h e r e i s a o n e - t o - o n e c o r r e s p o n d e n c e b e t w e e n

    a p r o b a b i l i t y P o n ( S , . $ ( S ) ) a n d i t s

    d i s t r i b u t i o n f u n c t i o n

    F ( x ) =

    P ( ( - c o , x ] ) . T h e n " P - = - P " i s e q u i v a l e n t t o " F ( x ) - - - - F ( x ) f o r e v e r y

    c o n t i n u i t y p o i n t x o f F " . T h e f o r m e r i m p l i e s t h e l a t t e r b y ( v ) o f t h e a b o v e

    p r o p o s i t i o n a n d t h e c o n v e r s e i m p l i c a t i o n i s p r o v e d e a s i l y b y a p p r o x i m a -

    t i n g t h e i n t e g r a l s - f ( x ) d F ( x ) a n d f

    f ( x ) d F ( x ) w i t h t h e R i e m a n n s u m s .

    P r o p o s i t i o n 2 . 5 . W e a k c o n v e r g e n c e o f p r o b a b i l i t i e s i s a m e t r i c c o n -

    c e p t . T o b e p r e c i s e , w e c a n d e f i n e a m e t r i c d o n t h e t o t a l i t y ' 1 5 1 ( S ) o f

    p r o b a b i l i t i e s o n ( S , . q ( S ) ) s u c h t h a t

    P . ' - P

    i s e q u i v a l e n t t o

    d ( P , , , P ) - - - 0

    a s n - - - o o .

    P r o o f . T h e w e l l k n o w n P r o h o r o v m e t r i c , w h i c h i s a g e n e r a l i z a t i o n

    o f t h a t o f L e v y i n t h e c a s e S = R , i s s u c h a m e t r i c ( c f . [ 1 4 2 ] ) . H e r e w e

    g i v e a n e q u i v a l e n t m e t r i c i n t h e f o l l o w i n g w a y ( c f . [ 1 6 5 ] ) . I f S i s a s e p a r a b l e

    m e t r i c s p a c e , w e c a n c h o o s e a n e q u i v a l e n t m e t r i c s o t h a t S i s t o t a l l y

    b o u n d e d u n d e r t h i s m e t r i c . * T h e n , t h e s e t o f a l l u n i f o r m l y c o n t i n u o u s

    f u n c t i o n s h a s a c o u n t a b l e d e n s e s u b s e t I f . ) w i t h r e s p e c t t o t h e u n i f o r m

    n o r m a n d w e s e t

    d ( P , Q ) = E 2 - 1 { 1 A

    ( I f

    s

    f i ( x ) P ( d x ) - - f

    , f , ( x ) Q ( d x )

    J ) J

    * I n d e e d , i t i s w e l l k n o w n t h a t a s e p a r a b l e m e t r i c s p a c e i s h o m e o m o r p h i c t o a s u b s e t

    o f t h e H i l b e r t c u b e

    [ 0 , I ] ' r , [ 9 8 ] .

  • 7/24/2019 Stochastic Diffe

    24/571

    P R O B A B I L I T Y M E A S U R E S O N A M E T R I C S P A C E 7

    I t i s e a s y t o s e e , b y u s i n g P r o p o s i t i o n 2 . 4 ( i i ) , t h a t d i s a m e t r i c s a t i s f y i n g

    t h e c o n d i t i o n o f t h e t h e o r e m .

    T h u s , t h e t o t a l i t y . 9 ( S ) o f p r o b a b i l i t i e s o n ( S , . - ' ( S ) ) i s a m e t r i c s p a c e

    u n d e r w e a k c o n v e r g e n c e . W e n o w w a n t t o c h a r a c t e r i z e a r e l a t i v e l y c o m -

    p a c t ' s e t i n . 9 ( S ) . F o r t h i s , w e g i v e t h e f o l l o w i n g d e f i n i t i o n :

    D e f i n i t i o n 2 . 2 . A f a m i l y A c . 9 ' ( S ) i s c a l l e d t i g h t i f f o r e v e r y s > 0

    t h e r e e x i s t s a c o m p a c t s u b s e t K c S s u c h t h a t P ( K ) > 1 - E f o r e v e r y

    P E A ; i . e . , i n f P ( K ) > 1 - a .

    P E A

    E x a m p l e 2 . 2 . I f S i s c o m p l e t e u n d e r t h e m e t r i c p , t h e n e v e r y f i n i t e

    s e t A i s t i g h t b y P r o p o s i t i o n 2 . 3 . G e n e r a l l y , i f A , a n d A Z a r e t i g h t , t h e n

    s o i s A , U A 2 .

    T h e o r e m 2 . 6 . L e t A c . 9 ' ( S ) .

    ( 1 ) I f A i s t i g h t , t h e n A i s r e l a t i v e l y c o m p a c t i n . 9 ' ( S ) .

    ( 2 ) W h e n S i s c o m p l e t e u n d e r t h e m e t r i c p w e h a v e t h e c o n v e r s e o f

    ( 1 ) : n a m e l y , i f A i s r e l a t i v e l y c o m p a c t i n . 9 ' ( S ) , t h e n A i s t i g h t .

    P r o o f . F o r t h e p r o o f o f ( 1 ) , w e f i r s t n o t e t h a t , i f S i s a c o m p a c t m e t r i c

    s p a c e t h e n . 9 ' ( S ) i s c o m p a c t a n d h e n c e e v e r y A c . 9 ' ( S ) i s r e l a t i v e l y c o m -

    p a c t . I n d e e d , b y R i e s z ' s t h e o r e m , . 9 ' ( S ) = { p E C * ( S ) ; , u ( f ) > 0 f o r f > 0

    a n d p ( 1 ) = 1 } * 2 a n d , s i n c e C ( S ) = C b ( S ) , w e a k c o n v e r g e n c e i s e q u i v a l e n t

    t o c o n v e r g e n c e i n t h e w e a k * - t o p o l o g y o n C * ( S ) . T h u s . 9 ' ( S ) i s c o m p a c t

    s i n c e i t i s a w e a k * - c l o s e d s u b s e t o f t h e u n i t b a l l i n C * ( S ) a n d , a s i s w e l l

    k n o w n , t h e u n i t b a l l i s w e a k * - c o m p a c t .

    I n t h e g e n e r a l c a s e , w e n o t e t h a t S i s h o m e o m o r p h i c t o a s u b s e t o f a

    c o m p a c t m e t r i c s p a c e ( a c t u a l l y , a s u b s e t o f [ 0 , l ] r ' ) a n d h e n c e w e m a y

    a s s u m e t h a t S i s a s u b s e t o f a c o m p a c t m e t r i c s p a c e S . W e w a n t t o s h o w

    t h a t f o r e v e r y s e q u e n c e f r o m a t i g h t f a m i l y A w e c a n a l w a y s c h o o s e

    a c o n v e r g e n t s u b s e q u e n c e . F o r a p r o b a b i l i t y u o n ( S O ( S ) ) , w e d e f i n e

    a p r o b a b i l i t y o n ( S , J ( S ) ) b y

    i ( A ) = p ( A n s ) , A e . 9 ' ( S ) . N o t e t h a t

    A c S i s i n O ( S ) i f a n d o n l y i f i t i s e x p r e s s e d a s A = A n S f o r s o m e

    A E 0 ( 9 ) . N o w ,

    i s a s e q u e n c e i n

    a n d h e n c e , b y t h e a b o v e

    r e m a r k , w e c a n c h o o s e a s u b s e q u e n c e , w h i c h w e d e n o t e a g a i n b y

    c o n v e r g i n g w e a k l y t o a p r o b a b i l i t y v o n ( S , ` ( S ) ) . W e n o w s h o w t h a t

    t h e r e i s a p r o b a b i l i t y u o n ( S , 3 ' ( S ) ) s u c h t h a t = v a n d p c o n v e r g e s

    * ' i . e . , i t s c l o s u r e i s c o m p a c t , o r e q u i v a l e n t l y , f r o m e v e r y i n f i n i t e s e q u e n c e c o n t a i n e d

    i n t h i s s e t w e c a n c h o o s e a c o n v e r g e n t s u b s e q u e n c e .

    * 2 C ( S ) i s t h e B a n a c h l a t t i c e u n d e r t h e n a t u r a l o r d e r o f a l l r e a l c o n t i n u o u s f u n c t i o n s o n

    S a n d C * ( S ) i s t h e d u a l s p a c e . 1 d e n o t e s t h e f u n c t i o n f ( x ) = 1 .

  • 7/24/2019 Stochastic Diffe

    25/571

    8

    P R E L I M I N A R I E S

    w e a k l y t o p . I n d e e d , f o r e v e r y r = 1 , 2 ,

    . . . ,

    t h e r e e x i s t s a c o m p a c t s u b -

    s e t K , o f S ( a n d h e n c e a c o m p a c t s u b s e t i n S ) s u c h t h a t # . ( K , ) > 1 - 1 1 r

    f o r a l l n . C l e a r l y K , E a ( s ) n - 9 ( 9 ) a n d 4 . ( K , ) = p n ( K , ) . S i n c e

    v

    w e a k l y , w e h a v e

    v ( K , ) > l i m

    1 - 1 1 r .

    T h e r e f o r e U K , = E C S i s b o t h i n . , a ` ( S ) a n d R ( S ) a n d v ( E ) = 1 . I f

    A E . 9 J ( S ) , t h e n A f l E E . 4 ( 9 ) s i n c e A f l E = A " ( 1 S f l E = A f l E f o r s o m e

    A E R ( 9 ) .

    S ) . W e s e t p ( A ) = v ( A f l E ) f o r e v e r y A E R ( S ) . N o w i t i s e a s y

    t o s e e t h a t p i s a p r o b a b i l i t y o n ( S , . ' ( S ) ) a n d 1 2 = v . F i n a l l y w e s h o w t h a t

    p - p w e a k l y i n 0 ' ( S ) . L e t A b e c l o s e d i n S . T h e n A = A f l s f o r s o m e

    c l o s e d s e t i n S a n d

    p ( A ) . C o n s e q u e n t l y

    l i m p ( A ) = l i m / 2 . ( A ) < / 2 ( A ) = p ( A )

    a n d t h e a s s e r t i o n f o l l o w s f r o m P r o p o s i t i o n 2 . 4 , ( i i i ) . W e o m i t t h e p r o o f

    o f ( 2 ) ( c f . [ 6 ] , [ 1 3 8 ] ) .

    C o n s i d e r a n S - v a l u e d r a n d o m v a r i a b l e X ; i . e . , a n . . Y ' / . ' ( S ) - m e a s u r a -

    b l e m a p p i n g f r o m a p r o b a b i l i t y s p a c e ( 1 2 , f , P ) i n t o S . T h e p r o b a b i l i t y

    l a w P X o f X i s t h e i m a g e m e a s u r e o f t h e m a p p i n g X : 0 - - S .

    D e f i n i t i o n 2 . 3 . L e t X , , , n = 1 , 2 , . . . , a n d X b e S - v a l u e d

    r a n d o m

    v a r i a b l e s . * W e s a y X . c o n v e r g e s t o X i n l a w i f P X - - - P X w e a k l y .

    S u p p o s e X , , , n = 1 , 2 , . . . a n d X a r e d e f i n e d o n t h e s a m e p r o b a b i l i t y

    s p a c e

    P ) . T h e n X i s s a i d t o c o n v e r g e t o X a l m o s t e v e r y w h e r e ( o r

    a l m o s t s u r e l y ) i f

    P ( w ; p ( X ( o ) ) , X ( w ) ) - - - 0

    a s n - - o o } = 1

    a n d X . i s s a i d t o c o n v e r g e t o X i n p r o b a b i l i t y , i f , f o r e v e r y a > 0 ,

    P { c o ;

    X ( c o ) ) > a } - - - - 0

    a s n - - - o o .

    I t i s w e l l k n o w n t h a t a l m o s t e v e r y w h e r e c o n v e r g e n c e i m p l i e s c o n -

    v e r g e n c e i n p r o b a b i l i t y a n d c o n v e r g e n c e i n p r o b a b i l i t y i m p l i e s c o n v e r -

    g e n c e i n l a w . T h e f o l l o w i n g t h e o r e m d u e t o S k o r o h o d a s s e r t s t h a t , i f S

    * T h e y m a y b e d e f i n e d o n d i f f e r e n t p r o b a b i l i t y s p a c e s .

  • 7/24/2019 Stochastic Diffe

    26/571

    P R O B A B I L I T Y M E A S U R E S O N A M E T R I C S P A C E

    9

    i s c o m p l e t e u n d e r t h e m e t r i c p , a c o n v e r s e o f t h e a b o v e i m p l i c a t i o n s h o l d s

    i n a c e r t a i n s e n s e .

    T h e o r e m 2 . 7 . L e t ( S , p ) b e a c o m p l e t e s e p a r a b l e m e t r i c s p a c e a n d

    P , , , n = 1 , 2 , . . .

    , a n d P b e p r o b a b i l i t i e s o n ( S , , % ( S ) ) s u c h t h a t P

    - "

    P a s n - - c o . T h e n , o n a p r o b a b i l i t y s p a c e ( L , 2 , P ) , w e c a n c o n s t r u c t

    S - v a l u e d r a n d o m v a r i a b l e s X , , , n = 1 , 2 ,

    . . . ,

    a n d X s u c h t h a t

    ( i ) P = P X n , n = 1 , 2 ,

    . . .

    a n d P = P X .

    ( i i ) X . c o n v e r g e s t o X a l m o s t e v e r y w h e r e .

    T h u s , i n p a r t i c u l a r , c o n v e r g e n c e i n l a w o f r a n d o m v a r i a b l e s X . c a n b e

    r e a l i z e d b y a n a l m o s t e v e r y w h e r e c o n v e r g e n c e w i t h o u t c h a n g i n g t h e l a w

    o f a n y X . .

    P r o o f . W e p r o v e t h i s t h e o r e m b y t a k i n g = [ 0 , 1 ) , . 1 = 0 ( [ 0 , 1 ) )

    a n d P ( d ( o ) = d c o : t h e L e b e s g u e m e a s u r e . T o e v e r y f i n i t e s e q u e n c e ( i 1 ,

    i 2 , . . . , i k )

    ( k = 1 , 2 , . . . ) o f n a t u r a l

    n u m b e r s , w e a s s o c i a t e a s e t

    S ( , 1 , 1 2 . - - - . 1 k ) ( E r ( S ) a s f o l l o w s :

    ( 1 ) I f ( i l , i 2 , . . . , i k ) # ( h , i 2 , -

    , J k ) , t h e n

    S ( 1 1 , 1 2 , . . - . t k ) n S ( 1 1 . J 2 . . . . , J k )

    w

    ( 2 )

    J

    U

    1

    S J = S

    a n d

    J

    U

    1

    S ( 1 1 , 1 2 . . . . . t k . n = S 0 1 , 1 2 - - 1 k )

    ( 3 ) d i a m S ( , , , , 2

    k ) < 2 - k * 1 ;

    ( 4 ) P n ( a S U 1 . t 2 , . . . , t k ) ) = 0 ,

    n = 1 , 2 , . . . a n d

    P ( a S ( 1 1 . 1 2 . . . . . 1 k ) )

    = 0 .

    T h u s , b y ( 1 ) a n d ( 2 ) ,

    { S ( , 1 , 1 2 . . . . . k ) } f o r m s f o r e a c h f i x e d k a d i s j o i n t

    c o v e r i n g o f S w h i c h i s a r e f i n e m e n t o f t h a t c o r r e s p o n d i n g t o k ' < k . W e

    c a n c o n s t r u c t s u c h a s y s t e m o f s u b s e t s a s f o l l o w s . F o r e a c h k , l e t a m ) ,

    m = 1 , 2 , . . . b e b a l l s w i t h r a d i u s ) = I d ( r i . t 2 . . . . . t k ) I

    - - -

    I d ( t t , t 2 . . . .

    ' k > I =

    P ( S ( 1 1 . 1 2 . - - - . 1 k ) ) ,

    i f c o

    d u l , t 2 , _ . . . t k ) t h e n t h e r e e x i s t s n k s u c h t h a t c o E

    t k )

    f o r a l l n Z n k . T h e n X n ( c o ) = X k ( w ) a n d h e n c e

    P ( X ( ( O ) , X ( w ) ) < P ( X n ( ( O ) , X n ( w ) ) + P ( X n ( c o ) , X k ( ( O ) )

    + P ( X k ( w ) , X ( w ) ) < 2 / 2 1 ,

    i f

    n Z n k .

    T h e r e f o r e , i f w e s e t 0 0 = ( 1 (

    U

    4 0 1 . 1 2 . . . _ . t k ) ) , X X ( w ) - - X ( w ) f o r

    k - t ( 1 1 1 2 . . . . . 1 k )

    c o E D o a s n - - - n o a n d c l e a r l y P ( f 2 , ) = 1 .

    F i n a l l y , w e e s h o w t h a t f i x - = P . a n d P X = P . S i n c e

    P { w ; X n + D ( w ) E S ( 1 1 . 1 2 . . . . . t k ) } = P t ( ) ; X n + D ( w ) E S U i . t 2 . . . . . t k ) }

    = P n ( S ( i 1 . t 2 . . . . . ' k ) )

    a n d s i n c e e v e r y o p e n s e t i n S i s e x p r e s s e d a s a d i s j o i n t c o u n t a b l e u n i o n o f

    t k ) ' S , w e h a v e , b y F a t o u ' s l e m m a ,

    l i m

    P X n ( O ) > P , ( O )

    f o r e v e r y o p e n s e t 0 i n S . T h e n , b y P r o p o s i t i o n 2 . 4 , P X - P c o n v e r g e s w e a k l y

    t o P . a s p - - n o s h o w i n g t h a t P X , = P . S i m i l a r l y , w e h a v e - f i x = P .

    *

    4 a . 1 2 . . . , r k , # o r

    # 0 , t h e n S ( 1 1 , 1 1 , . , , t k ) 4 0 a n d h e n c e t h i s i s w e l l

    d e f i n e d .

  • 7/24/2019 Stochastic Diffe

    28/571

    E X P E C T A T I O N S , C O N D I T I O N A L E X P E C T A T I O N S

    1 1

    3 . E x p e c t a t i o n s , c o n d i t i o n a l e x p e c t a t i o n s a n d r e g u l a r c o n d i t i o n a l

    p r o b a b i l i t i e s

    L e t X b e a r e a l ( o r c o m p l e x ) r a n d o m v a r i a b l e d e f i n e d o n a p r o b a b i l i t y

    s p a c e ( 9 2 , Y , P ) . T w o r a n d o m v a r i a b l e s X a n d Y a r e i d e n t i f i e d i f

    P [ c o ; X ( ( o )

    Y ( c ) ) ] = 0 . X i s c a l l e d i n t e g r a b l e i f

    f

    Q

    I X ( c o ) I P ( d c v ) < c o .

    M o r e g e n e r a l l y , i f

    f

    a

    I X ( c ) ) I P ( d c o ) < c o ,

    ( p > 0 ) ,

    i t i s c a l l e d p - t h i n t e g r a b l e . * l L e t p > 1 . T h e t o t a l i t y o f p - t h i n t e g r a b l e

    r a n d o m v a r i a b l e s , d e n o t e d b y , ( S 2 , , P ) o r s i m p l y b y 2 D ( Q ) o r .

    ( P ) ,

    f o r m s a B a n a c h s p a c e w i t h t h e n o r m

    I I X I I , =

    ( f

    I X ( w ) I V P ( d w ) ) ' / ' .

    ( S l ,

    P ) i s t h e B a n a c h s p a c e o f e s s e n t i a l l y b o u n d e d r a n d o m v a r i a b l e s

    w i t h t h e n o r m I I X I I . = e s s . s u p I X ( c o ) 1 .

    F o r a n i n t e g r a b l e r a n d o m v a r i a b l e X , E ( X ) = f a X ( c ) ) P ( d u ) ) i s c a l l e d

    t h e e x p e c t a t i o n o f X . F o r a s q u a r e - i n t e g r a b l e r a n d o m v a r i a b l e X , V ( X ) _

    E ( X 2 ) - E ( X ) 2 ( = E ( ( X - E ( X ) ) 2 ) ) i s c a l l e d t h e v a r i a n c e o f X .

    A f a m i l y { Y } a G A o f s u b c r - f i e l d s o f - 9 - i s c a l l e d m u t u a l l y i n d e p e n d e n t

    i f f o r e v e r y d i s t i n c t c h o i c e o f a l , a 2 ,

    . . . , a k E A a n d A , e

    i =

    1 , 2 , . . . , k ,

    P ( A , f l A 2 f l . . . f l A k ) = P ( A 1 ) P ( A 2 ) . . . P ( A k )

    A f a m i l y o f r a n d o m v a r i a b l e s { X a } a a A i s c a l l e d m u t u a l l y i n d e p e n d e n t * 2

    i f { 6 [ X a ] } a E , i i s m u t u a l l y i n d e p e n d e n t . A f a m i l y { X a , a e A l o f r a n d o m

    v a r i a b l e s i s c a l l e d i n d e p e n d e n t o f a a f i e l d 9 c . F i f u [ X a ; a E A ] a n d

    9 a r e m u t u a l l y i n d e p e n d e n t .

    L e t X b e a n i n t e g r a b l e r a n d o m v a r i a b l e a n d 9 e - 9 - b e a s u b a - f i e l d

    o f . F . T h e n p ( B ) = E ( X : B ) : = f B X ( c o ) P ( d ( 9 ) ,

    B E 9 ,

    d e f i n e s a

    I f p = 2 , i t i s c a l l e d s q u a r e - i n t e g r a b l e .

    * = T h i s d e f i n i t i o n a p p l i e s f o r g e n e r a l S - v a l u e d r a n d o m v a r i a b l e s .

  • 7/24/2019 Stochastic Diffe

    29/571

    1 2 P R E L I M I N A R I E S

    a - a d d i t i v e s e t f u n c t i o n o n W w i t h f i n i t e t o t a l v a r i a t i o n a n d i s c l e a r l y a b s o -

    l u t e l y c o n t i n u o u s w i t h r e s p e c t t o v = P I , , . T h e R a d o n - N i k o d y m d e r i v a -

    t i v e d p / d v ( w ) i s d e n o t e d b y E ( X 1 9 ) ( c o ) ; t h u s E ( X I ' ) i s t h e u n i q u e ( u p

    t o i d e n t i f i c a t i o n )

    ' - m e a s u r a b l e i n t e g r a b l e r a n d o m v a r i a b l e Y s u c h t h a t

    E ( Y : B ) = E ( X : B ) f o r e v e r y B e 3 ? .

    D e f i n i t i o n 3 . 1 . E ( X I ' ) ( c o ) i s c a l l e d t h e c o n d i t i o n a l e x p e c t a t i o n o f X

    g i v e n I N .

    T h e f o l l o w i n g p r o p e r t i e s o f c o n d i t i o n a l e x p e c t a t i o n s a r e e a s i l y p r o v e d .

    ( X , Y , X , , , b e l o w a r e i n t e g r a b l e r e a l r a n d o m v a r i a b l e s a n d a , b a r e r e a l

    n u m b e r s . )

    ( E . 1 ) E ( a X + b Y I 9 ) = a E ( X I ' ) + b E ( Y I ' ) a . s .

    ( E . 2 ) I f X > 0 a . s . , t h e n E ( X I ' ) > 0

    a . s .

    ( E . 3 ) E ( 1 I ' ) = 1

    a . s .

    ( E . 4 ) I f X i s

    ' - m e a s u r a b l e , t h e n E ( X I ' ) = X , a . s . , m o r e g e n e r a l l y ,

    i f X Y i s i n t e g r a b l e a n d X i s ' - m e a s u r a b l e

    E ( X Y I

    ' ) = X E ( Y I

    ' )

    a . s .

    ( E . 5 ) I f X i s a s u b a - f i e l d o f

    ' , t h e n

    E ( E ( X I 9 ) I

    ) = E ( X I

    )

    a . s .

    ( E . 6 ) I f X . - - - X i n . 9 1 ( Q ) , t h e n E ( X . I ' ) - - - E ( X I

    ' ) i n g 1 ( 9 2 ) .

    ( E . 7 ) ( J e n s e n ' s i n e q u a l i t y ) I f y r : R ' - R ' i s c o n v e x a n d V ( X )

    i n t e g r a b l e t h e n

    1 V ( E ( X I g ' ) ) S E ( y r ( X ) I

    ' )

    a . s .

    I n p a r t i c u l a r ,

    I E ( X I c 9 ) I < E ( I X I I ' ) a n d , i f X i s s q u a r e - i n t e g r a b l e ,

    I E ( X I W ) I 2 < E ( I X I Z I , y ) .

    ( E . 8 ) X i s i n d e p e n d e n t o f ' i f a n d o n l y i f f o r e v e r y B o r e l m e a s u r a -

    b l e f u n c t i o n f s u c h t h a t f ( X ) i s i n t e g r a b l e , E ( f ( X ) I

    ' ) = E ( f ( X ) ) a . s .

    L e t 1 ; b e a m a p p i n g f r o m Q i n t o a m e a s u r a b l e s p a c e ( S , R ) s u c h t h a t

    i t i s _ 9 - / R - m e a s u r a b l e . T h e n p ( B ) = E ( X : { c o ; ( ( o ) e B } ) i s a a - a d d i t i v e

    s e t f u n c t i o n o n . h 9 w h i c h i s a b s o l u t e l y c o n t i n u o u s w i t h r e s p e c t t o t h e i m a g e

    m e a s u r e v = P f . T h e R a d o n - N i k o d y m d e n s i t y d p / d v ( x ) i s d e n o t e d b y

    E ( X 1 1 ; = x ) a n d i s c a l l e d t h e c o n d i t i o n a l e x p e c t a t i o n o f X g i v e n = x . I t

    p o s s e s s e s s i m i l a r p r o p e r t i e s a s a b o v e .

    D e f i n i t i o n 3 . 2 . L e t ( Q , , F , P ) b e a p r o b a b i l i t y s p a c e a n d 9 b e a

  • 7/24/2019 Stochastic Diffe

    30/571

    E X P E C T A T I O N S , C O N D I T I O N A L E X P E C T A T I O N S

    1 3

    s u b a - f i e l d o f J . A s y s t e m { p ( c o , A ) } c c { a , A E J i s c a l l e d a r e g u l a r c o n d i t i o n a l

    p r o b a b i l i t y g i v e n

    ' i f i t s a t i s f i e s t h e f o l l o w i n g c o n d i t i o n s :

    ( i ) f o r f i x e d c o , A - - - p ( c o , A ) i s a p r o b a b i l i t y o n ( Q , - F - ) ;

    ( i i ) f o r f i x e d A E F - , c o - p ( c ) , A ) i s 1 9 - m e a s u r a b l e ;

    ( i i i ) f o r e v e r y A E - = Y a n d B E 3 ? ,

    P ( A f l B ) = f p ( c o , A ) P ( d c o ) .

    C l e a r l y p r o p e r t y ( i i i ) i s e q u i v a l e n t t o

    ( i i i ) ' f o r e v e r y n o n - n e g a t i v e r a n d o m v a r i a b l e X a n d B E 9

    E ( X : B ) = f

    s a

    ( I B ( c ) )

    f

    a

    X ( c ) ' ) p ( c o , d c o ' ) } P ( d c o ) ,

    t h a t i s , J a X ( c o ' ) p ( c o , d c ) ' ) c o i n c i d e s w i t h E ( X I ' ) ( ( o )

    a . s .

    W e s a y t h a t t h e r e g u l a r c o n d i t i o n a l p r o b a b i l i t y i s u n i q u e i f w h e n e v e r

    { p ( c ) , A ) } a n d { p ' ( c o , A ) } p o s s e s s t h e a b o v e p r o p e r t i e s , t h e n t h e r e e x i s t s

    a s e t N E

    ' o f P - m e a s u r e 0 s u c h t h a t , i f c o 0 N t h e n p ( c ) , A ) = p ' ( c ) ,

    A ) f o r a l l A E

    - .

    D e f i n i t i o n 3 . 3 . A m e a s u r a b l e s p a c e ( 0 , . F - ) i s c a l l e d a s t a n d a r d m e a s -

    u r a b l e s p a c e i f i t i s B o r e l i s o m o r p h i c * t o o n e o f t h e f o l l o w i n g m e a s u r a b l e

    s p a c e s : ( < 1 , n > , ,

    ( < l , n > ) ) , ( N , , ; i ( N ) ) o r ( M , . q ( M ) ) , w h e r e < 1 , n > =

    { 1 , 2 , . . . , n }

    w i t h t h e d i s c r e t e t o p o l o g y , N

    { 1 , 2 ,

    . . .

    }

    w i t h t h e

    d i s c r e t e t o p o l o g y a n d M = { 0 , 1 } N = { w = ( a ) , , c o 2 ,

    . . . ) ,

    c o , = 0 o r

    1 } w i t h t h e p r o d u c t t o p o l o g y .

    I t i s w e l l k n o w n t h a t a P o l i s h s p a c e ( a c o m p l e t e s e p a r a b l e m e t r i c s p a c e )

    w i t h t h e t o p o l o g i c a l a - f i e l d i s a s t a n d a r d m e a s u r a b l e s p a c e a n d e v e r y

    m e a s u r a b l e s u b s e t o f a s t a n d a r d m e a s u r a b l e s p a c e w i t h t h e i n d u c e d

    a - f i e l d i s a s t a n d a r d m e a s u r a b l e s p a c e ( c f . [ 9 8 ] , [ 1 3 8 ] ) .

    T h e o r e m 3 . 1 . L e t ( Q , . , 1 - ) b e a s t a n d a r d m e a s u r a b l e s p a c e a n d P b e

    a p r o b a b i l i t y o n ( 0 ,

    L e t

    ' b e a s u b a - f i e l d o f . F - . T h e n a r e g u l a r

    c o n d i t i o n a l p r o b a b i l i t y { p ( c o , A ) } g i v e n

    ' e x i s t s u n i q u e l y .

    P r o o f . W e c o n s i d e r t h e c a s e w h e r e ( 5 2 , . x ) i s i s o m o r p h i c t o ( M ,

    . ' ( M ) ) a n d h e n c e w e m a y a s s u m e t h a t 0 = M a n d - 9 - = R ( M ) . L e t

    r " :

    5 2 E ) c o ' - . ( c o , , c o 2 i . . . , c o n ) E { 0 , 1 } "

    b e t h e p r o j e c t i o n

    a n d

    * ( 9 2 , . Y ) a n d

    a r e B o r e l i s o m o r p h i c i f t h e r e e x s t i s a b i j e c t i o n f : 9 2 - - > S 2 ' s u c h

    t h a t f i s

    F / . F ' - m e a s u r a b l e a n d f - ' i s . 7 ' / . F - m e a s u r a b l e , i . e . f ( .

    - ) = . F ' .

  • 7/24/2019 Stochastic Diffe

    31/571

    1 4

    P R E L I M I N A R I E S

    F - = n n l . o d " [ { O , 1 } n ] . C l e a r l y

    { J I F " n } i s a n i n c r e a s i n g f a m i l y o f f i n i t e

    a - f i e l d s a n d V .

    = J r . I f P n , n = 1 , 2 , . . . a r e p r o b a b i l i t i e s o n ( S 2 , . 9 )

    n

    a n d { P n }

    i s c o n s i s t e n t i n t h e s e n s e t h a t P n + , j T n = P n , n = 1 , 2 , . . . ,

    t h e n t h e r e e x i s t s a u n i q u e p r o b a b i l i t y P o n ( Q , , Y ' ) s u c h t h a t P I , - . = P n .

    I n d e e d , b y c o n s i s t e n c y , P i s w e l l d e f i n e d o n U . a n d i f B . E U F - k ,

    n - I k - 3

    n = 1 , 2 , . . . , i s s u c h t h a t B . D B n + , a n d l i m P ( B n ) > 0 t h e n ( 1 B n =

    n o m

    n

    s i n c e { B n } i s a s y s t e m o f c l o s e d s e t s i n a c o m p a c t s p a c e 1 2 h a v i n g t h e f i n i t e

    i n t e r s e c t i o n p r o p e r t y . P i s t h e n e x t e n d e d t o a [ U .

    ] = V .

    = j r b y

    n

    H o p f ' s e x t e n s i o n t h e o r e m .

    W e s e t p n ( c o , A ) = E ( 1 , , j ( 9 ) ( c o ) , A E f i n . C l e a r l y , t h e r e e x i s t s a s e t

    N . E

    ' o f P - m e a s u r e 0 s u c h t h a t i f c o ( 4 N n , t h e n p n ( w , A ) i s a p r o b -

    a b i l i t y o n ,

    a n d p n ( c o , A ) = p n _ , ( c ) , A ) f o r A E n = 1 , 2 , . . . .

    I f w e s e t N = U N n , t h e n f o r e a c h c o i j N , { p n ( w , . ) } i s a c o n s i s t e n t f a m i l y

    n

    a n d h e n c e d e t e r m i n e s a u n i q u e p r o b a b i l i t y p ( w , ) o n ( S 2 , 7 - ) . T a k e a p r o b -

    a b i l i t y v o n ( Q , Y ) a n d d e f i n e p ( c o , ) = v i f c o E N . T h e n t h e s y s t e m

    i s a r e g u l a r c o n d i t i o n a l p r o b a b i l i t y g i v e n

    ' . I n d e e d , p r o p e r t i e s

    ( i i ) a n d ( i i i ) a r e o b v i o u s f o r A E U 5 a n d e x t e n d t o F b y a s t a n d a r d

    m o n o t o n e l e m m a . I f { p ( c o , ) } a n d { p ' ( c o , . ) } a r e t w o r e g u l a r c o n d i t i o n a l

    p r o b a b i l i t i e s , t h e n t h e s e t N = { w ; p ( c o , A ) a p ' ( w , A ) f o r s o m e A E

    U - 9 - . 1 h a s P - m e a s u r e 0 a n d i f c o

    N , t h e n p ( c o , A ) = p ' ( ( o , A ) f o r a l l

    n - 1

    A E 9 " a g a i n b y t h e m o n o t o n e l e m m a . T h i s p r o v e s t h e u n i q u e n e s s o f

    t h e r e g u l a r c o n d i t i o n a l p r o b a b i l i t y .

    D e f i n i t i o n 3 . 4 . L e t ( Q , . 9 ' " ) b e a m e a s u r a b l e s p a c e . W e s a y t h a t - V i s

    c o u n t a b l y d e t e r m i n e d i f t h e r e e x i s t s a c o u n t a b l e s u b s e t 7 - 0 c J V s u c h

    t h a t w h e n e v e r a n y t w o p r o b a b i l i t i e s a g r e e o n - 9 - 0 t h e y m u s t c o i n c i d e .

    C l e a r l y , i f ( 1 2 , Y ) i s a s t a n d a r d m e a s u r a b l e s p a c e t h e n Y i s c o u n t a b l y

    d e t e r m i n e d .

    T h e o r e m 3 . 2 . L e t ( Q , . F ) b e a s t a n d a r d m e a s u r a b l e s p a c e a n d P b e a

    p r o b a b i l i t y o n ( 0 , . , Y ' " ) . L e t c y b e a s u b a - f i e l d o f Y a n d p ( c o , d c o ' ) b e a

    r e g u l a r c o n d i t i o n a l p r o b a b i l i t y g i v e n

    ' . I f 2 ' i s a c o u n t a b l y d e t e r m i n e d

    s u b a - f i e l d o f

    ' , t h e n t h e r e e x i s t s a s e t N E

    o f P - m e a s u r e 0 s u c h

    t h a t c o e N i m p l i e s p ( c o , A ) = I A ( ( o ) f o r e v e r y A E X .

    P r o o f . L e t X , c 2 b e a c o u n t a b l e s e t i n D e f i n i t i o n 3 . 4 f o r X .

    C l e a r l y i f A E o , t h e n t h e r e e x i s t s N A E g ' o f P - m e a s u r e 0 s u c h t h a t

    p ( c o , A ) = 1 , , ( w )

    i f c o N 4 . S e t N = U N A , t h e n p ( c o , A ) = I 4 ( w ) h o l d s

    A e X O

    f o r a l l A E 2 ' i f c o c N .

  • 7/24/2019 Stochastic Diffe

    32/571

    E X P E C T A T I O N S , C O N D I T I O N A L E X P E C T A T I O N S

    1 5

    C o r o l l a r y . L e t ( 0 , . Y " ) b e a s t a n d a r d m e a s u r a b l e s p a c e a n d P b e a

    p r o b a b i l i t y o n ( 9 2 , . - ) . L e t

    ' b e a s u b a - f i e l d o f 5 a n d p ( c o , ) b e a

    r e g u l a r c o n d i t i o n a l p r o b a b i l i t y g i v e n ' . L e t ( w ) b e a m a p p i n g f r o m Q

    i n t o a m e a s u r a b l e s p a c e ( S , R ) s u c h t h a t i t i s

    ' / . g - m e a s u r a b l e . S u p p o s e

    f u r t h e r t h a t 1 2 i s c o u n t a b l y d e t e r m i n e d a n d { x } E R f o r e v e r y x E S

    ( t h i s i s t r u e , f o r e x a m p l e , i f ( S , . ) i s a s t a n d a r d m e a s u r a b l e s p a c e ) . T h e n

    ( 3 . 1 )

    p ( c o , { c o ' ; c ( c v ' ) = c ( c o ) } ) = 1 ,

    a . a . c o .

    P r o o f . S i n c e . ' i s c o u n t a b l y d e t e r m i n e d , t h e r e e x i s t s a c o u n t a b l e

    s u b s e t : / r 0 c _ q w i t h t h e p r o p e r t y o f D e f i n i t i o n 3 . 4 . H e n c e , i f w e s e t

    0 =

    B e . 0 1 } , 2 i s a c o u n t a b l y d e t e r m i n e d s u b a - f i e l d o f

    '

    w i t h 2 o = B E . q o } . B y T h e o r e m 3 . 2 , t h e r e e x i s t s a s e t N E < 9

    o f P - m e a s u r e 0 s u c h t h a t i f C o ( Z N , p ( c o , A ) = I A ( w ) f o r e v e r y A E _ 2 ' .

    B y t a k i n g A . = { c o ' ; ( w ' ) = c ( c o ) } E 2 ' , w e h a v e ( 3 . 1 ) f o r c o

    N .

    I n t h e s a m e w a y a s T h e o r e m 3 . 1 , w e c a n p r o v e t h e f o l l o w i n g r e s u l t .

    T h e o r e m 3 . 3 . L e t ( Q , 9 1 - ) b e a s t a n d a r d m e a s u r a b l e s p a c e a n d P b e a

    p r o b a b i l i t y o n ( Q , . 7 - ) . L e t ( c o ) b e a m a p p i n g f r o m Q i n t o a m e a s u r a b l e

    s p a c e ( S , _ q ) s u c h t h a t i t i s - 9 - / - T - m e a s u r a b l e a n d l e t P t b e t h e i n d u c e d

    m e a s u r e o n ( S , R ) b y t . T h e n t h e r e e x i s t s a s y s t e m { p ( x , A ) ) X E S , A E , , - s u c h

    t h a t

    ( i ) f o r f i x e d x E S , A - p ( x , A ) i s a p r o b a b i l i t y o n ( 0 , - 5 7 - ) ;

    ( i i ) f o r f i x e d A E _ - V - , x ' - - - p ( x , A ) i s P ' - m e a s u r a b l e ;

    ( i i i ) f o r e v e r y A E Y " a n d B E R , w e h a v e

    P ( A f l { w ; ( c o ) E = B } ) = f p ( x , A ) P F ( d x ) .

    F u r t h e r m o r e , i f { p ' ( x , A ) ) i s a n y o t h e r s u c h s y s t e m , t h e n t h e r e e x i s t s a s e t

    N E _ . o f P e - m e a s u r e 0 s u c h t h a t x e N i m p l i e s

    p ( x , A ) = p ' ( x , A )

    f o r a l l

    A E - q

    T h u s , f o r e v e r y i n t e g r a b l e r a n d o m v a r i a b l e X , f

    a X ( w ) p ( x , d o ) )

    c o i n c i d e s

    w i t h E ( X I

    = x ) , P C - a . e . x . p ( x , A ) i s c a l l e d t h e r e g u l a r c o n d i t i o n a l p r o b -

    a b i l i t y g i v e n = x . I n t h e s a m e w a y a s T h e o r e m 3 . 2 a n d i t s c o r o l l a r y w e

    c a n p r o v e t h e f o l l o w i n g :

    C o r o l l a r y . W e a s s u m e f u r t h e r i n T h e o r e m 3 . 3 t h a t . , J i s c o u n t a b l y

    d e t e r m i n e d a n d { x } E . . ' f o r e v e r y x E S . T h e n t h e r e e x i s t s a s e t N E , 1 }

    o f P c - m e a s u r e 0 s u c h t h a t i f x N , p ( x , { c o ; g ( w ) E B } ) = I B ( x ) f o r e v e r y

    B E R . I n p a r t i c u l a r , i f x ( 4 N t h e n

  • 7/24/2019 Stochastic Diffe

    33/571

    1 6

    P R E L I M I N A R I E S

    ( 3 . 2 )

    p ( x , { c o ; c ( c o ) = x } ) = 1 .

    4 . C o n t i n u o u s s t o c h a s t i c p r o c e s s e s

    L e t W d = C ( [ 0 , o o ) - - - R d ) b e t h e s e t o f a l l c o n t i n u o u s f u n c t i o n s

    w : ( 0 , o o ) F ) t s - w ( t ) a R . W e d e f i n e a m e t r i c p o n W d b y

    ( 4 . 1 )

    p ( w , , w 2 ) = E 2 - " [ ( m a x I W 1 ( t ) - w 2 ( t ) I ) A 1 ] ,

    w 1 , w 2 E W .

    n - r

    o < t s n

    I t i s e a s y t o s e e t h a t W d i s c o m p l e t e a n d s e p a r a b l e u n d e r t h i s m e t r i c .

    C l e a r l y , w " - - - - w w i t h r e s p e c t t o t h e m e t r i c p i f a n d o n l y i f w n ( t ) c o n -

    v e r g e s t o w ( t ) u n i f o r m l y i n t o n e a c h b o u n d e d i n t e r v a l . L e t . ' ( W d ) b e

    t h e t o p o l o g i c a l v - f i e l d . B y a B o r e l c y l i n d e r s e t w e m e a n a s e t B e W d o f

    t h e f o l l o w i n g f o r m

    B = { w ; ( w ( t , ) , w ( t 2 ) ,

    . . . , w ( t " ) ) E E }

    f o r s o m e s e q u e n c e 0 < t , < t 2 N } = 0 ;

    N - -

    n

    ( 4 . 3 )

    f o r e v e r y T > O a n d e > 0 ,

    l i m s u p P { m a x I X n ( t ) - X n ( s ) I > e } = 0 .

    h 1 0

    n

    t , s e [ O , T ]

    I t - s I $ h

    T h e n t h e r e

    e x i s t s a s u b s e q u e n c e n , < n 2 0 , s u p m a x I w ( t ) I < n o ,

    . E A t e [ O , T ]

    * t e [ 0 , o o ) i s c o n s i d e r e d a s t i m e .

  • 7/24/2019 Stochastic Diffe

    35/571

    1 8

    P R E L I M I N A R I E S

    a n d

    ( i i ) e q u i - c o n t i n u o u s , i . e . , f o r e v e r y T > 0 , J i m s u p V h ( w ) = 0 , w h e r e

    h 1 0 w c A

    V h ( w ) = m a x

    I w ( s ) - w ( t ) 1 .

    i . S E t O , T ]

    I t - S I s h

    W e s e e b y ( 4 . 2 ) t h a t f o r e v e r y e > 0 t h e r e e x i s t s a > 0 s u c h t h a t P X n ( w ;

    I w ( 0 ) I < a ) > 1 - a / 2 f o r a l l n . A l s o , b y ( 4 . 3 ) , f o r e v e r y e > 0 a n d k =

    1 , 2 , . . . t h e r e e x i s t s h k > 0 s u c h t h a t h k 1 0 a n d P X n { w ; V h k ( w ) >

    1 / k ) < a / 2 k + 1 f o r a l l n . T h u s P X a [ n { w ; V h k ( w ) < 1 / k } ] > 1 - e / 2 . S e t

    k - 1

    K . = { w ; I w ( o ) I < a } n ( n { w ; V h k ( w ) < 1 / k } ) . T h e n c l e a r l y

    K 8 s a t i s f i e s

    k - 1

    ( i ) a n d ( i i ) a n d h e n c e i t i s c o m p a c t . N o w P X n ( K 8 ) > 1 - a s h o w i n g

    t h a t { P X 8 } i s t i g h t . S o , b y T h e o r e m 2 . 6 ( 1 ) , a s u b s e q u e n c e I n k ) e x i s t s s u c h

    t h a t P X n k * - P f o r s o m e p r o b a b i l i t y P o n ( W a , . q ( W ' ) ) . W e n o w a p p l y

    T h e o r e m 2 . 7 t o c o n s t r u c t J Y n k a n d t w i t h p r o p e r t i e s a s a b o v e . I f e v e r y f i n i t e

    d i m e n s i o n a l d i s t r i b u t i o n o f P X n c o n v e r g e s , t h e n c l e a r l y a l i m i t p o i n t o f

    { P X 8 } i s u n i q u e a n d h e n c e P X n i t s e l f c o n v e r g e s w e a k l y t o P a s n - - - o o .

    T h e o r e m 4 . 3 . L e t X . = ( X 8 ( t ) ) , n = 1 , 2 ,

    . . . ,

    b e a s e q u e n c e o f

    d - d i m e n s i o n a l c o n t i n u o u s p r o c e s s e s s a t i s f y i n g t h e f o l l o w i n g t w o c o n d i -

    t i o n s :

    ( 4 . 6 )

    t h e r e e x i s t p o s i t i v e c o n s t a n t s M a n d y s u c h t h a t E { I X . ( 0 ) I Y } 0 a n d 6 > 0 b e g i v e n . C h o o s e v = v ( 8 , s ) s u c h t h a t

    ( 1 + 2 / ( 2 - 1 ) ) / 2 v < e a n d

    ( 4 . 1 0 )

    P [ U

    {

    m a x

    I Y ( ( i + 1 ) / 2 m ) - Y ( i / 2 m ) I > 1 / 2 - a ) ]

    m v

    0 5 i 5 2 m T -