stochastic diffe
TRANSCRIPT
-
7/24/2019 Stochastic Diffe
1/571
-
7/24/2019 Stochastic Diffe
2/571
N o r t h - H o l l a n d M a t h e m a t i c a l L i b r a r y
B o a r d o f A d v i s o r y E d i t o r s :
M . A r a n , H . B a s s , J . E e l l s , W . F e i t , P . J . F r e y d , F . W . G e h r i n g , H . H a l b e r s t a m ,
L . V . H d r m a n d e r , J . H . B . K e m p e r m a n , H . A . L a u w e r i e r , W . A . J . L u x e m b u r g
F . P . P e t e r s o n , I . M . S i n g e r a n d A . C . Z a a n e n
V O L U M E 2 4
N O R T H - H O L L A N D P U B L I S H I N G C O M P A N Y
A M S T E R D A M O X F O R D N E W Y O R K
-
7/24/2019 Stochastic Diffe
3/571
-
7/24/2019 Stochastic Diffe
4/571
S t o c h a s t i c D i f f e r e n t i a l E q u a t i o n s
a n d
D i f f u s i o n P r o c e s s e s
S e c o n d E d i t i o n
b y
N o b u y u k i I K E D A
S h i n z o W A T A N A B E
D e p a r t m e n t o f M a t h e m a t i c s
D e p a r t m e n t o f M a t h e m a t i c s
O s a k a U n i v e r s i t y
K y o t o U n i v e r s i t y
i s
O R T H - H O L L A N D P U B L I S H I N G C O M P A N Y
K O D A N S H A L T D .
A M S T E R D A M O X F O R D N E W Y O R K
T O K Y O
1 9 8 9
-
7/24/2019 Stochastic Diffe
5/571
Q v w
C o p y r i g h t 1 9 8 1 , 1 9 8 9 b y K o d a n s h a L t d .
A l l r i g h t s r e s e r v e d .
N o p a r t o f t h i s b o o k m a y b e r e p r o d u c e d i n a n y f o r m , b y p h o t o s t a t , m i c r o f i l m ,
r e t r i e v a l s y s t e m , o r a n y o t h e r m e a n s , w i t h o u t t h e w r i t t e n p e r m i s s i o n o f K o d a n s h a
L t d . ( e x c e p t i n t h e c a s e o f b r i e f q u o t a t i o n f o r c r i t i c i s m o r r e v i e w )
I S B N O - 4 4 4 - 8 7 3 7 8 3
I S B N 4 - 0 6 - 2 0 3 2 3 1 - 7 ( J a p a n )
P u b l i s h e d i n c o - e d i t i o n w i t h N o r t h - H o l l a n d P u b l i s h i n g C o m p a n y
D i s t r i b u t o r s f o r J a p a n :
K O D A N S H A L T D .
1 2 - 2 1 O t o w a 2 - c h o m e , B u n k y o - k u , T o k y o 1 1 2 , J a p a n
D i s t r i b u t o r s o u t s i d e J a p a n , U . S . A . a n d C a n a d a :
E L S E V I E R S C I E N C E - P U B L I S H E R S B . V .
P . O . B o x 1 0 3
1 0 0 0 A C A m s t e r d a m
T h e N e t h e r l a n d s
S o l e d i s t r i b u t o r s f o r t h e U . S . A . a n d C a n a d a :
E L S E V I E R S C I E N C E P U B L I S H I N G C O M P A N Y , I N C .
6 5 5 A v e n u e o f t h e A m e r i c a s
N e w Y o r k , N Y 1 0 0 1 0
U . S . A .
P r i n t e d i n J a p a n
-
7/24/2019 Stochastic Diffe
6/571
I t i s w i t h o u r d e e p e s t g r a t i t u d e a n d w a r m e s t a f f e c t i o n
t h a t w e d e d i c a t e t h i s b o o k
t o o u r t e a c h e r
K i y o s i I t o
w h o h a s b e e n a c o n s t a n t s o u r c e o f
k n o w l e d g e a n d i n s p i r a t i o n .
-
7/24/2019 Stochastic Diffe
7/571
-
7/24/2019 Stochastic Diffe
8/571
P r e f a c e t o t h e S e c o n d E d i t i o n
A c o n s i d e r a b l e n u m b e r o f c o r r e c t i o n s a n d i m p r o v e m e n t s h a v e b e e n
m a d e i n t h i s s e c o n d e d i t i o n . I n p a r t i c u l a r , m a j o r a n d s u b s t a n t i a l c h a n g e s
a r e i n C h a p t e r I I I a n d C h a p t e r V w h e r e t h e s e c t i o n s t r e a t i n g o n e x c u r -
s i o n s o f B r o w n i a n m o t i o n a n d t h e M a l l i a v i n c a l c u l u s h a v e b e e n m u c h
m o r e e x p a n d e d a n d r e f i n e d . A l s o , s e c t i o n s d i s c u s s i n g c o m p l e x ( c o n f o r m a l )
m a r t i n g a l e s a n d K a h l e r d i f f u s i o n s h a v e b e e n i n s e r t e d .
W e w o u l d e x p r e s s o u r s i n c e r e t h a n k s t o a l l t h o s e w h o k i n d l y c o m -
m u n i c a t e d u s m i s t a k e s i n a n d g a v e u s h e l p f u l c a m m e n t s o n t h e f i r s t e d i -
t i o n o f t h i s b o o k .
N o v e m b e r 1 9 8 8
N . I K E D A
S . W A T A N A B E
V i i
-
7/24/2019 Stochastic Diffe
9/571
-
7/24/2019 Stochastic Diffe
10/571
P r e f a c e
T h e t h e o r y o f s t o c h a s t i c i n t e g r a l s a n d s t o c h a s t i c d i f f e r e n t i a l e q u a t i o n s
w a s i n i t i a t e d a n d d e v e l o p e d b y K . I t o . I n 1 9 4 2 ( [ 5 7 ] , c f . a l s o [ 6 2 ] ) t h i s
t h e o r y w a s f i r s t a p p l i e d t o K o l m o g o r o v ' s p r o b l e m o f d e t e r m i n i n g M a r k o v
p r o c e s s e s [ 8 5 ] . L e t y t b e a M a r k o v p r o c e s s o n t h e r e a l l i n e R ' a n d , f o r e a c h
i n s t a n t t o , l e t F r o , , = F t o , t ( y t a ) b e t h e c o n d i t i o n a l p r o b a b i l i t y d i s t r i b u t i o n o f
y , g i v e n y t o . I n a l m o s t a l l i n t e r e s t i n g c a s e s w e m a y a s s u m e t h a t F * a ( ` - t 0 ) - ' 3
c o n v e r g e s a s t j t o t o a p r o b a b i l i t y d i s t r i b u t i o n o n R ' , w h i c h w e s h a l l
d e n o t e b y D y o . ( H e r e [ a ] i s t h e i n t e g e r p a r t o f a a n d * k d e n o t e s t h e
k - f o l d c o n v o l u t i o n . ) D y t o i s t h u s a n i n f i n i t e l y d i v i s i b l e d i s t r i b u t i o n . K o l -
m o g o r o v ' s p r o b l e m i s n o w f o r m u l a t e d a s f o l l o w s : g i v e n a s y s t e m L ( t , y ) o f
i n f i n i t e l y d i v i s i b l e d i s t r i b u t i o n s , f i n d t h e M a r k o v p r o c e s s y t w i t h g i v e n i n i -
t i a l d i s t r i b u t i o n s u c h t h a t
( 0 . 1 )
D y , = L ( t , y , ) .
K o l m o g o r o v [ 8 5 ] a n d F e l l e r [ 2 6 ] b o t h s u c c e e d e d i n o b t a i n i n g M a r k o v
p r o c e s s e s b y s o l v i n g K o l m o g o r o v ' s d i f f e r e n t i a l e q u a t i o n s ( e q u a t i o n s e q u i -
v a l e n t t o ( 0 . 1 ) f o r t h e t r a n s i t i o n p r o b a b i l i t i e s ) , t h u s e s t a b l i s h i n g a n a n a l y -
t i c a l m e t h o d i n p r o b a b i l i t y t h e o r y . T h i s m e t h o d h a s b e e n f u r t h e r d e v e l o p e d
i n c o n n e c t i o n w i t h H i l l e - Y o s i d a ' s t h e o r y o f s e m i g r o u p s .
I n c o n t r a s t w i t h t h e s e a n a l y t i c a l m e t h o d s , a p r o b a b i l i s t i c a p p r o a c h
s u g g e s t e d b y L e v y a n d e s t a b l i s h e d b y I t o e n a b l e s o n e t o c o n s t r u c t s a m p l e
f u n c t i o n s o f t h e p r o c e s s y t d i r e c t l y . C o n s i d e r t h e c a s e w h e n L ( t , y ) = G
( a ( t , y ) , b ( t , y ) ) , w h e r e G ( a , f l ) i s t h e G a u s s i a n d i s t r i b u t i o n w i t h m e a n a a n d
s t a n d a r d d e v i a t i o n f l . T h e i n t u i t i v e m e a n i n g o f ( 0 . 1 ) t h e n i s t h a t t h e i n f i n -
i t e s i m a l c h a n g e o f t h e c o n d i t i o n a l d i s t r i b u t i o n g i v e n y , = y i s G ( a ( t , y ) d t ,
b ( t , y ) , / d t ) . O n t h e o t h e r h a n d , i f x , i s a B r o w n i a n m o t i o n * ' ( W i e n e r
*
T h e B r o w n i a n m o t i o n i s a r a n d o m m o v e m e n t o f m i c r o s c o p i c p a r t i c l e s w h i c h w a s
d i s c o v e r e d b y t h e E n g l i s h b o t a n i s t R . B r o w n . I t s p h y s i c a l t h e o r y w a s i n v e s t i g a t e d b y
E i n s t e i n ( [ 2 4 ] ) . T h e m a t h e m a t i c a l t h e o r y w a s i n i t i a t e d a n d . d e v e l o p e d b y W i e n e r
( 1 7 7 ] a n d L 4 v y [ 9 9 ] .
i x
-
7/24/2019 Stochastic Diffe
11/571
x
P R E F A C E
p r o c e s s ) , t h e " s t o c h a s t i c d i f f e r e n t i a l " * d x , = x , + d , - x , c o n d i t i o n e d o n
t h e p a s t { x , , s < t } s a t i s f i e s t h e l a w G ( 0 , d t ) . T h i s s u g g e s t s t h a t w e w r i t e
( 0 . 2 )
d y , = a ( t , y , ) d t + b ( t , y , ) d x , ;
t h u s y , s h o u l d b e d e t e r m i n e d a s a s o l u t i o n o f t h e i n t e g r a l e q u a t i o n
( 0 . 3 )
Y , = Y o +
f ' a ( s , y , ) d s
+ S b ( s , y , ) d x , .
0
0
H o w e v e r , W i e n e r a n d L e v y h a d a l r e a d y s h o w n t h a t x , i s n o w h e r e d i f f e r -
e n t i a b l e f o r a l m o s t a l l s a m p l e p a t h s a n d s o t h e i n t e g r a l w i t h r e s p e c t t o d x ,
c a n n o t b e d e f i n e d i n t h e o r d i n a r y s e n s e . I n o r d e r t o g e t a r o u n d t h i s d i f -
f i c u l t y , I t o i n t r o d u c e d t h e n o t i o n o f " s t o c h a s t i c i n t e g r a l s " . U s i n g t h i s i d e a
h e w a s t h e n a b l e t o o b t a i n y , a s t h e u n i q u e s o l u t i o n o f ( 0 . 3 ) f o r a g i v e n
i n i t i a l v a l u e y o u n d e r a L i p s c h i t z c o n d i t i o n o n a ( t , y ) a n d b ( t , y ) ; f u r t h e r -
m o r e , h e s h o w e d t h a t t h i s y , a c t u a l l y s a t i s f i e s t h e o r i g i n a l e q u a t i o n ( 0 . 1 ) .
I n d e p e n d e n t l y i n t h e S o v i e t U n i o n , S . B e r n s t e i n ( [ 4 ] a n d [ 5 ] ) i n t r o d u c e d a
s t o c h a s t i c d i f f e r e n c e e q u a t i o n a n d s h o w e d t h a t t h e r a n d o m v a r i a b l e d e -
t e r m i n e d b y t h i s e q u a t i o n h a s t h e f u n d a m e n t a l s o l u t i o n o f K o l m o g o r o v ' s
e q u a t i o n a s i t s l i m i t i n g d i s t r i b u t i o n . G i h m a n ( [ 3 5 ] , [ 3 6 ] a n d [ 3 7 ] ) c a r r i e d
o u t B e r n s t e i n ' s p r o g r a m i n d e p e n d e n t l y o f I t o a n d s u c c e e d e d i n c o n s t r u c t -
i n g a t h e o r y o f s t o c h a s t i c d i f f e r e n t i a l e q u a t i o n s .
T o d a y I t o ' s t h e o r y i s a p p l i e d n o t o n l y t o M a r k o v p r o c e s s e s ( d i f f u s i o n
p r o c e s s e s ) b u t a l s o t o a l a r g e c l a s s o f s t o c h a s t i c p r o c e s s e s . T h i s f r a m e w o r k
p r o v i d e s u s w i t h a p o w e r f u l t o o l f o r d e s c r i b i n g a n d a n a l y z i n g s t o c h a s t i c
p r o c e s s e s . S i n c e I t o ' s t h e o r y m a y b e c o n s i d e r e d a s a n i n t e g r a l - d i f f e r e n t i a l
c a l c u l u s f o r s t o c h a s t i c p r o c e s s e s , i t i s o f t e n c a l l e d I t o ' s s t o c h a s t i c a n a l y s i s
o r s t o c h a s t i c c a l c u l u s .
T h e m a i n a i m o f t h e p r e s e n t b o o k i s t o g i v e a s y s t e m a t i c t r e a t m e n t o f
t h e m o d e m t h e o r y o f s t o c h a s t i c i n t e g r a l s a n d s t o c h a s t i c d i f f e r e n t i a l e q u a -
t i o n s . A s i s c u s t o m a r y n o w a d a y s , w e w i l l d e v e l o p t h i s t h e o r y w i t h i n t h e
m a r t i n g a l e f r a m e w o r k . T h e t h e o r y o f m a r t i n g a l e s , w h i c h w a s i n i t i a t e d
a n d d e v e l o p e d b y J . L . D o o b , p l a y s a n i n d i s p e n s a b l e r o l e i n t h e m o d e r n
t h e o r y o f s t o c h a s t i c a n a l y s i s . T h e c l a s s o f s t o c h a s t i c p r o c e s s e s t o w h i c h
I t o ' s t h e o r y c a n b e a p p l i e d ( u s u a l l y c a l l e d I t O p r o c e s s e s o r l o c a l l y i n -
f i n i t e l y d i v i s i b l e p r o c e s s e s ) i s n o w e x t e n d e d t o a c l a s s o f s t o c h a s t i c p r o -
c e s s e s c a l l e d s e m i m a r t i n g a l e s . S u c h p r o c e s s e s a p p e a r t o b e t h e m o s t g e n -
*
T h e n o t i o n o f s t o c h a s t i c d i f f e r e n t i a l s w a s c o n s i d e r e d b y L e v y ( [ 9 9 ] , [ 1 0 0 ] a n d [ 1 0 1 ] ) ;
h e u s e d a s u g g e s t i v e n o t a t i o n c . / d t t o d e n o t e d x , w h e r e g i s a r a n d o m v a r i a b l e
w i t h d i s t r i b u t i o n G ( 0 , 1 ) .
-
7/24/2019 Stochastic Diffe
12/571
P R E F A C E
x i
e r a l f o r w h i c h a u n i f i e d t h e o r y o f s t o c h a s t i c c a l c u l u s c a n b e d e v e l o p e d . *
A s o m e w h a t d i f f e r e n t t y p e o f s t o c h a s t i c c a l c u l u s h a s b e e n i n t r o d u c e d b y
S t r o o c k a n d V a r a d h a n u n d e r t h e n a m e o f m a r t i n g a l e p r o b l e m s ( c f . [ 1 6 0 ]
f o r t h i s e l e g a n t a n d p o w e r f u l a p p r o a c h ) . I n t h i s b o o k , h o w e v e r , w e p r e f e r
t o f o l l o w I t o ' s o r i g i n a l a p p r o a c h a l t h o u g h a n i n f l u e n c e o f S t r o o c k a n d
V a r a d h a n w i l l b e s e e n i n m a n y p l a c e s .
C h a p t e r I c o n t a i n s s o m e p r e l i m i n a r y m a t e r i a l s t h a t a r e n e c e s s a r y f o r
t h e d e v e l o p m e n t a n d u n d e r s t a n d i n g o f o u r b o o k . I n p a r t i c u l a r , w e r e v i e w
t h e t h e o r y o f m a r t i n g a l e s .
T h e n o t i o n o f s t o c h a s t i c i n t e g r a l s a n d I t o ' s f o r m u l a a r e d i s c u s s e d i n
C h a p t e r I I . T h e s e c o n s t i t u t e t h e c o r e o f s t o c h a s t i c a n a l y s i s .
I n C h a p t e r I I I , t h e r e s u l t s o f C h a p t e r I I a r e r e f o r m u l a t e d i n a m o r e
c o n v e n i e n t f o r m f o r a p p l i c a t i o n s . I n p a r t i c u l a r , a t y p e o f s t o c h a s t i c i n t e g r a l
i n t r o d u c e d b y S t r a t o n o v i c h [ 1 5 3 ] a n d F i s k [ 2 7 ] w i l l b e f o r m u l a t e d a s a n
o p e r a t i o n ( c a l l e d s y m m e t r i c m u l t i p l i c a t i o n ) i n t h e f r a m e w o r k o f t h e t h e o r y
d e v e l o p e d t h e r e . I t w i l l p l a y a n i m p o r t a n t r o l e i n C h a p t e r s V a n d V I .
T h e g e n e r a l t h e o r y o f s t o c h a s t i c d i f f e r e n t i a l e q u a t i o n s i s d i s c u s s e d i n
C h a p t e r I V . T h e s o l u t i o n s o f t h e s e e q u a t i o n s w i l l n o t n e c e s s a r i l y b e n o n -
a n t i c i p a t i v e f u n c t i o n a l s o f t h e a c c o m p a n y i n g B r o w n i a n p a t h s ; w e d i s t i n -
g u i s h t h o s e s o l u t i o n s h a v i n g t h i s p r o p e r t y a s s t r o n g s o l u t i o n s . S t o c h a s t i c
d i f f e r e n t i a l e q u a t i o n s a r e t h e n u s e d t o c o n s t r u c t d i f f u s i o n p r o c e s s e s f o r
g i v e n d i f f e r e n t i a l o p e r a t o r s a n d , i n t h e c a s e o f a s t a t e s p a c e w i t h b o u n d a r y ,
f o r g i v e n b o u n d a r y c o n d i t i o n s . I n d i s c u s s i n g s t o c h a s t i c d i f f e r e n t i a l e q u a -
t i o n s w i t h b o u n d a r y c o n d i t i o n s , w e a r e n a t u r a l l y l e d t o s t o c h a s t i c d i f f e r -
e n t i a l e q u a t i o n s w h i c h a r e b a s e d o n s e m i m a r t i n g a l e s m o r e g e n e r a l t h a n
B r o w n i a n m o t i o n s a n d o n P o i s s o n r a n d o m m e a s u r e s o v e r g e n e r a l s t a t e
s p a c e s .
T h e m a i n o b j e c t s t o b e s t u d i e d i n C h a p t e r V a r e t h e f l o w s o f d i f f e o m o r -
p h i s m s d e f i n e d o n a d i f f e r e n t i a b l e m a n i f o l d w h i c h a r e a s s o c i a t e d w i t h a
g i v e n s y s t e m o f v e c t o r f i e l d s . S t o c h a s t i c c a l c u l u s e n a b l e s u s t o t r a n s f e r m a n y
i m p o r t a n t o p e r a t i o n s i n a n a l y s i s a n d d i f f e r e n t i a l g e o m e t r y w h i c h a r e d e -
f i n e d o n s m o o t h c u r v e s t h r o u g h o r d i n a r y d i f f e r e n t i a l - i n t e g r a l c a l c u l u s t o a
c l a s s o f s t o c h a s t i c c u r v e s . F l o w s o f d i f f e o m o r p h i s m s a r e o n e s u c h e x a m p l e .
B y m a k i n g u s e o f a f f i n e c o n n e c t i o n s o r R i e m a n n i a n c o n n e c t i o n s w e c a n
c o n s t r u c t f l o w s o f d i f f e o m o r p h i s m s o v e r t h e s p a c e o f f r a m e b u n d l e s . T h e
m o s t g e n e r a l n o n - s i n g u l a r d i f f u s i o n c a n t h e n b e o b t a i n e d b y p r o j e c t i o n .
W e c a n a l s o r e a l i z e I t o ' s s t o c h a s t i c p a r a l l e l d i s p l a c e m e n t o f t e n s o r f i e l d s
b y t h i s m e t h o d . T h e s e i d e a s a r e d u e t o E e l l s , E l w o r t h y a n d M a l l i a v i n . I n
d i s c u s s i n g a s i m i l a r p r o b l e m i n t h e c a s e o f a m a n i f o l d w i t h b o u n d a r y , w e
*
T h e m o d e r n t h e o r y o f s e m i m a r t i n g a l e s a n d t h e s t o c h a s t i c c a l c u l u s b a s e d o n t h e m
h a v e b e e n e x t e n s i v e l y d e v e l o p e d i n F r a n c e b y M e y e r , D e l l a c h e r i e , J a c o d e t c . ( c f .
J a c o d [ 7 7 ] ) .
-
7/24/2019 Stochastic Diffe
13/571
x i i
P R E F A C E
e x h i b i t a p r o b a b i l i s t i c c o n d i t i o n w h i c h c h a r a c t e r i z e s t h e r e f l e c t i n g d i f f u s i o n
p r o c e s s e s i n t h e n o r m a l d i r e c t i o n a m o n g a l l r e f l e c t i n g d i f f u s i o n p r o c e s s e s
i n o b l i q u e d i r e c t i o n s .
M a n y o f t h e m a t h e m a t i c a l o b j e c t s o b t a i n e d t h r o u g h s t o c h a s t i c a n a l y -
s i s , e . g . , s t r o n g s o l u t i o n s o f s t o c h a s t i c d i f f e r e n t i a l e q u a t i o n s , a r e f u n c t i o n a l s
o f t h e a c c o m p a n y i n g B r o w n i a n p a t h s , i . e . , B r o w n i a n f u n c t i o n a l s o r W i e n e r
f u n c t i o n a l s . I n S e c t i o n s 7 a n d 8 o f C h a p t e r V w e i n t r o d u c e a r e c e n t w o r k
o f M a l l i a v i n w h i c h a n a l y z e s s o l u t i o n s o f s t o c h a s t i c d i f f e r e n t i a l e q u a t i o n s
a s W i e n e r f u n c t i o n a l s . T h e r e h e o b t a i n s t h e r e m a r k a b l e r e s u l t t h a t t h e
s m o o t h n e s s p r o b l e m f o r t h e h e a t e q u a t i o n c a n b e t r e a t e d b y t h i s p r o b a -
b i l i s t i c a p p r o a c h .
S o m e m i s c e l l a n e o u s m a t e r i a l s a r e p r e s e n t e d i n C h a p t e r V I . I n t h e f i r s t
h a l f w e d i s c u s s s o m e t o p i c s r e l a t e d t o t h e c o m p a r i s o n t h e o r e m . A l t h o u g h t h e
r e s u l t s o b t a i n e d b y t h i s m e t h o d a r e u s u a l l y a l i t t l e w e a k e r t h a n t h o s e o b -
t a i n e d v i a p a r t i a l d i f f e r e n t i a l e q u a t i o n s , t h e t e c h n i q u e i s s i m p l e r a n d i t
s o m e t i m e s p r o d u c e s s h a r p r e s u l t s . T h e t o p i c s d i s c u s s e d i n t h e s e c o n d h a l f
a r e m o r e o r l e s s r e l a t e d t o t h e n o t i o n o f s t o c h a s t i c a r e a a s i n t r o d u c e d b y
L e v y . T h e a p p r o x i m a t i o n t h e o r e m s c o n s i d e r e d i n S e c t i o n 7 a r e c o n c e r n e d
w i t h t h e t r a n s f e r o f c o n c e p t s d e f i n e d o n s m o o t h c u r v e s t o s t o c h a s t i c c u r v e s .
T h e r e a r e m a n y t o p i c s i n t h e a r e a o f s t o c h a s t i c d i f f e r e n t i a l e q u a t i o n s
a n d t h e i r a p p l i c a t i o n s w h i c h a r e n o t c o n s i d e r e d i n t h i s b o o k : e . g . , t h e
t h e o r y o f s t o c h a s t i c c o n t r o l , f i l t e r i n g a n d s t a b i l i t y , a p p l i c a t i o n s t o l i m i t
t h e o r e m s , a p p l i c a t i o n s t o p a r t i a l d i f f e r e n t i a l e q u a t i o n s i n c l u d i n g n o n -
l i n e a r e q u a t i o n s , e t c . W e e s p e c i a l l y r e g r e t t h a t w e c o u l d n o t i n c l u d e t h e
i m p o r t a n t w o r k s b y N . V . K r y l o v o n t h e e s t i m a t e s f o r t h e d i s t r i b u t i o n s o f
s t o c h a s t i c i n t e g r a l s a n d t h e i r a p p l i c a t i o n s ( c f . e . g . [ 9 1 ] a n d [ 9 2 ] ) .
W e w i s h t o e x p r e s s o u r g r a t i t u d e t o G . M a r u y a m a f o r h i s c o n s t a n t i n -
t e r e s t a n d e n c o u r a g e m e n t d u r i n g t h e w r i t i n g o f t h i s b o o k . W e a r e a l s o i n -
d e b t e d t o H . K u n i t a f o r h i s c r i t i c a l c o m m e n t s a n d c o n s t r u c t i v e s u g g e s t i o n s
a n d t o S . N a k a o w h o g r e a t l y a s s i s t e d u s i n t h e p r o o f s o f T h e o r e m s V I - 7 . 1
a n d V I - 7 . 2 . A m o n g t h e m a n y o t h e r s w h o h a v e m a d e c o n t r i b u t i o n s , w e
w o u l d p a r t i c u l a r l y t h a n k H . A s a n o , S . K o t a n i , S . K u s u o k a , S . M a n a b e ,
Y . O k a b e , H . O k u r a a n d I . S h i g e k a w a f o r t h e i r u s e f u l c o m m e n t s , s u g -
g e s t i o n s a n d c o r r e c t i o n s . F i n a l l y , w e a l s o e x p r e s s o u r a p p r e c i a t i o n t o T . H .
S a v i t s w h o r e a d t h e m a n u s c r i p t a n d s u g g e s t e d g r a m m a t i c a l i m p r o v e m e n t s ,
a n d t o t h e e d i t o r i a l s t a f f o f K o d a n s h a S c i e n t i f i c w h o p r o v i d e d m u c h h e l p
i n t h e p u b l i c a t i o n o f t h i s b o o k .
O s a k a a n d K y o t o , F e b r u a r y 1 9 8 0
N o b u y u k i I K E D A
S h i n z o W A T A N A B E
-
7/24/2019 Stochastic Diffe
14/571
C o n t e n t s
P r e f a c e t o t h e S e c o n d E d i t i o n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . v i i
P r e f a c e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . i x
G e n e r a l n o t a t i o n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . x v
C h a p t e r I . P r e l i m i n a r i e s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . I
1 .
B a s i c n o t i o n s a n d n o t a t i o n s ,
1
2 .
P r o b a b i l i t y m e a s u r e s o n a m e t r i c s p a c e ,
2
3 .
E x p e c t a t i o n s , c o n d i t i o n a l e x p e c t a t i o n s a n d r e g u l a r c o n d i t i o n a l p r o b a b i l -
i t i e s ,
1 1
4 .
C o n t i n u o u s s t o c h a s t i c p r o c e s s e s ,
1 6
5 .
S t o c h a s t i c p r o c e s s e s a d a p t e d t o a n i n c r e a s i n g f a m i l y o f s u b a - f i e l d s ,
2 0
6 .
M a r t i n g a l e s ,
2 5
7 .
B r o w n i a n m o t i o n s ,
4 0
8 .
P o i s s o n r a n d o m m e a s u r e ,
4 2
9 .
P o i n t p r o c e s s e s a n d P o i s s o n p o i n t p r o c e s s e s ,
4 3
C h a p t e r I I .
S t o c h a s t i c i n t e g r a l s a n d I t o ' s f o r m u l a . . . . . . . . . . . . . 4 5
1 .
I t o ' s d e f i n i t i o n o f s t o c h a s t i c i n t e g r a l s ,
4 5
2 . S t o c h a s t i c i n t e g r a l s w i t h r e s p e c t t o m a r t i n g a l e s ,
5 3
3 .
S t o c h a s t i c i n t e g r a l s w i t h r e s p e c t t o p o i n t p r o c e s s e s ,
5 9
4 .
S e m i - m a r t i n g a l e s ,
6 3
5 .
I t o ' s f o r m u l a ,
6 6
6 . M a r t i n g a l e c h a r a c t e r i z a t i o n o f B r o w n i a n m o t i o n s a n d P o i s s o n p o i n t
p r o c e s s e s , 7 3
7 .
R e p r e s e n t a t i o n t h e o r e m f o r s e m i - m a r t i n g a l e s ,
8 4
C h a p t e r I I I . S t o c h a s t i c c a l c u l u s
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9 7
1 .
T h e s p a c e o f s t o c h a s t i c d i f f e r e n t i a l s , 9 7
2 .
S t o c h a s t i c d i f f e r e n t i a l e q u a t i o n s w i t h r e s p e c t t o q u a s i m a r t i n g a l e s ,
1 0 3
3 .
M o m e n t i n e q u a l i t i e s f o r m a r t i n g a l e s ,
1 1 0
4 .
S o m e a p p l i c a t i o n s o f s t o c h a s t i c c a l c u l u s t o B r o w n i a n m o t i o n s ,
1 1 3
4 . 1 .
B r o w n i a n l o c a l t i m e ,
1 1 3
4 . 2 .
R e f l e c t i n g B r o w n i a n m o t i o n a n d t h e S k o r o h o d e q u a t i o n ,
1 1 9
4 . 3 .
E x c u r s i o n s o f B r o w n i a n m o t i o n ,
1 2 3
x i i i
-
7/24/2019 Stochastic Diffe
15/571
x i v
C O N T E N T S
4 . 4 S o m e l i m i t t h e o r e m s f o r o c c u p a t i o n t i m e s o f B r o w n i a n m o t i o n ,
1 4 6
5 .
E x p o n e n t i a l m a r t i n g a l e s ,
1 4 9
6 .
C o n f o r m a l m a r t i n g a l e s ,
1 5 5
C h a p t e r I V .
S t o c h a s t i c d i f f e r e n t i a l e q u a t i o n s . . . . . . . . . . . . . . . . . . 1 5 9
1 .
D e f i n i t i o n o f s o l u t i o n s ,
1 5 9
2 .
E x i s t e n c e t h e o r e m ,
1 6 7
3 .
U n i q u e n e s s t h e o r e m ,
1 7 8
4 . S o l u t i o n b y t r a n s f o r m a t i o n o f d r i f t a n d b y t i m e c h a n g e , 1 9 0
5 .
D i f f u s i o n p r o c e s s e s ,
2 0 2
6 .
D i f f u s i o n p r o c e s s e s g e n e r a t e d b y d i f f e r e n t i a l o p e r a t o r s a n d s t o c h a s t i c
d i f f e r e n t i a l e q u a t i o n s ,
2 1 2
7 .
S t o c h a s t i c d i f f e r e n t i a l e q u a t i o n s w i t h b o u n d a r y c o n d i t i o n s ,
2 1 7
8 .
E x a m p l e s ,
2 3 2
9 .
S t o c h a s t i c d i f f e r e n t i a l e q u a t i o n s w i t h r e s p e c t t o P o i s s o n p o i n t p r o c e s s e s ,
2 4 4
C h a p t e r V . D i f f u s i o n p r o c e s s o n m a n i f o l d s
. . . . . . . . . . . . . . . . . . . . 2 4 7
1 .
S t o c h a s t i c d i f f e r e n t i a l e q u a t i o n s o n m a n i f o l d s ,
2 4 7
2 .
F l o w o f d i f f e o m o r p h i s m s ,
2 5 4
3 .
H e a t e q u a t i o n o n a m a n i f o l d ,
2 6 9
4 .
N o n - d e g e n e r a t e d i f f u s i o n s o n a m a n i f o l d a n d t h e i r h o r i z o n t a l l i f t s ,
2 7 5
5 .
S t o c h a s t i c p a r a l l e l d i s p l a c e m e n t a n d h e a t e q u a t i o n f o r t e n s o r f i e l d s ,
2 9 7
6 .
T h e c a s e w i t h b o u n d a r y c o n d i t i o n s ,
3 0 8
7 .
K a h l e r d i f f u s i o n s ,
3 4 1
8 .
M a l l i a v i n ' s s t o c h a s t i c c a l c u l u s o f v a r i a t i o n f o r W i e n e r f u n c t i o n a l s , 3 4 9
9 .
P u l l - b a c k o f S c h w a r t z d i s t r i b u t i o n s u n d e r W i e n e r m a p p i n g s a n d t h e
r e g u l a r i t y o f i n d u c e d m e a s u r e s ( p r o b a b i l i t y l a w s ) ,
3 7 5
1 0 .
T h e c a s e o f s t o c h a s t i c d i f f e r e n t i a l e q u a t i o n s : A p p l i c a t i o n s t o h e a t
k e r n e l s ,
3 9 1
C h a p t e r V I . T h e o r e m s o n c o m p a r i s o n a n d a p p r o x i m a t i o n a n d t h e i r
a p p l i c a t i o n s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4 3 7
1 . A c o m p a r i s o n t h e o r e m f o r o n e - d i m e n s i o n a l l t d p r o c e s s e s ,
4 3 7
2 .
A n a p p l i c a t i o n t o a n o p t i m a l c o n t r o l p r o b l e m , 4 4 1
3 .
S o m e r e s u l t s o n o n e - d i m e n s i o n a l d i f f u s i o n p r o c e s s e s ,
4 4 6
4 .
C o m p a r i s o n t h e o r e m f o r o n e - d i m e n s i o n a l p r o j e c t i o n o f d i f f u s i o n p r o -
c e s s e s , 4 5 2
5 .
A p p l i c a t i o n s t o d i f f u s i o n s o n R i e m a n n i a n m a n i f o l d s ,
4 6 0
6 . S t o c h a s t i c l i n e i n t e g r a l s a l o n g t h e p a t h s o f d i f f u s i o n p r o c e s s e s ,
4 6 7
7 .
A p p r o x i m a t i o n t h e o r e m s f o r s t o c h a s t i c i n t e g r a l s a n d s t o c h a s t i c d i f f e r e n -
t i a l e q u a t i o n s , 4 8 0
8 .
T h e s u p p o r t o f d i f f u s i o n p r o c e s s e s , 5 1 7
9 .
A s y m p t o t i c e v a l u a t i o n o f t h e d i f f u s i o n m e a s u r e f o r t u b e s a r o u n d a
s m o o t h c u r v e ,
- 5 3 2
B i b l i o g r a p h y . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5 4 1
I n d e x . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5 6 1
-
7/24/2019 Stochastic Diffe
16/571
G e n e r a l N o t a t i o n
T h e o r e m I V - 3 . 2 , f o r e x a m p l e , m e a n s T h e o r e m 3 . 2 ( t h e s e c o n d t h e o r e m
i n S e c t i o n 3 ) i n C h a p t e r I V . I f t h i s t h e o r e m i s q u o t e d i n C h a p t e r I V , i t i s
w r i t t e n a s T h e o r e m 3 . 2 o n l y .
T h e f o l l o w i n g n o t a t i o n s a r e f r e q u e n t l y u s e d .
A : = B m e a n s t h a t A i s d e f i n e d b y B o r A i s d e n o t e d b y B .
A ( x ) = B ( x )
: A ( x ) a n d B ( x ) a r e i d e n t i c a l l y e q u a l , i . e . A ( x ) = B ( x )
f o r a l l x .
1 1 4
:
t h e r e s t r i c t i o n ( o f a f u n c t i o n f ) t o a s u b s e t A o f t h e
d o m a i n o f d e f i n i t i o n o f f .
A o B
: t h e s y m m e t r i c d i f f e r e n c e o f A a n d B , i . e . , ( A \ B ) U ( B \ A ) .
I 4
: t h e i n d i c a t o r f u n c t i o n o f A , i . e . , I . 4 ( x ) = I o r 0 a c c o r d i n g -
l y a s x e A o r x A .
a V b
:
t h e m a x i m u m o f a a n d b .
a A b
: t h e m i n i m u m o f a a n d b .
E ( X : B )
:
t h e e x p e c t a t i o n o f a r a n d o m v a r i a b l e X o n a n e v e n t B ,
i . e . , f 2 X ( c o ) P ( d a ) ) = E ( X I B ) .
8 , j , 6 " , b
:
t h e K r o n e c k e r ' s J .
8 M
: t h e u n i t ( D i r a c ) m e a s u r e a t a .
L i . p .
: l i m i t i n p r o b a b i l i t y .
a . s .
: a l m o s t s u r e l y .
t - - X ( t ) ,
: t h e m a p p i n g t - - - X ( t ) .
I t - X O N
R = R ' : t h e r e a l l i n e .
C
:
t h e c o m p l e x p l a n e .
R d : t h e d - d i m e n s i o n a l E u c l i d e a n s p a c e .
N
: t h e s e t o f a l l p o s i t i v e i n t e g e r s .
Z
: t h e s e t o f a l l i n t e g e r s .
Z +
: t h e s e t o f a l l n o n - n e g a t i v e i n t e g e r s .
x v
-
7/24/2019 Stochastic Diffe
17/571
x v i G E N E R A L N O T A T I O N
: t h e s e t o f a l l r a t i o n a l n u m b e r s .
: t h e l a r g e s t i n t e g e r n o t e x c e e d i n g x .
" s m o o t h " u s u a l l y m e a n s C " ( i . e . , i n f i n i t e l y d i f f e r e n t i a b l e ) ; " s u f f i c i e n t l y
s m o o t h " i s t h e s a m e a s " s u f f i c i e n t l y d i f f e r e n t i a b l e " .
O t h e r n o t a t i o n s w i l l b e e x p l a i n e d w h e r e t h e y f i r s t a p p e a r .
-
7/24/2019 Stochastic Diffe
18/571
C H A P T E R I
P r e l i m i n a r i e s
1 . B a s i c n o t i o n s a n d n o t a t i o n s
T h e r e a d e r i s a s s u m e d t o b e f a m i l i a r w i t h s o m e o f t h e b a s i c n o t i o n s
i n m e a s u r e t h e o r y ( c f . [ 4 5 ] a n d [ 1 2 9 ] ) , e s p e c i a l l y t h e n o t i o n s o f a a - f i e l d
( c a l l e d a l s o a a - a l g e b r a o r a B o r e l f i e l d ) , a m e a s u r a b l e s p a c e ( a p a i r c o n -
s i s t i n g o f a n a b s t r a c t s p a c e a n d a a - f i e l d o n i t ) a n d a m e a s u r a b l e m a p p i n g .
W h e n S i s a t o p o l o g i c a l s p a c e , t h e s m a l l e s t a - f i e l d . 4 ' ( S ) o n S w h i c h c o n -
t a i n s a l l o p e n s e t s i s c a l l e d t h e t o p o l o g i c a l a f i e l d a n d a n e l e m e n t B E
- q ( S ) i s c a l l e d a B o r e l s e t i n S . A m a p p i n g f f r o m a t o p o l o g i c a l s p a c e
i n t o a n o t h e r t o p o l o g i c a l s p a c e S ' w h i c h i s
P % ( S ) / . . e r l ( S ' ) - m e a s u r a b l e
( i . e . , f - ' ( B ) = { x ; f ( x ) e B } E . ' ( S ) f o r a l l B E - q ( S ' ) ) i s c a l l e d B o r e l
m e a s u r a b l e . A n y a - a d d i t i v e n o n - n e g a t i v e m e a s u r e P o n a m e a s u r a b l e s p a c e
s u c h t h a t P ( Q ) = 1 i s c a l l e d a p r o b a b i l i t y o n ( S 2 , ) a n d t h e t r i p l e
( Q , F P ) i s c a l l e d a p r o b a b i l i t y s p a c e . I f P i s a p r o b a b i l i t y o n ( 5 2 , . x ` - ) ,
t h e n _ F " r = { A e 5 2 ; 3 B 1 , B 2 E J r s u c h t h a t B , c A c B 2 a n d P ( B 1 ) =
P ( B 2 ) } i s a a - f i e l d o n Q c o n t a i n i n g . F - : T h e p r o b a b i l i t y P c a n b e n a t u r a l l y
e x t e n d e d t o . ' a a n d t h e s p a c e ( 0 . .
i ' , P ) i s c a l l e d t h e c o m p l e t i o n o f
( 5 2 , . 9 P ) . A p r o b a b i l i t y P o n ( Q , F - ) s u c h t h a t . 9 ' = J F
r i s c a l l e d
c o m p l e t e a n d i n t h i s c a s e ( 0 , $ ; P ) i s c a l l e d a c o m p l e t e p r o b a b i l i t y s p a c e .
I f S i s a t o p o l o g i c a l s p a c e , w e s e t
( 1 . 1 )
g ( s ) = n _ q ( s r ,
4
w h e r e p r u n s o v e r a l l p r o b a b i l i t i e s o n ( S , . , ' ( S ) ) . A n e l e m e n t i n ' ( S )
i s c a l l e d a u n i v e r s a l l y m e a s u r a b l e s e t i n S a n d a m a p p i n g f f r o m S i n t o
a n o t h e r t o p o l o g i c a l s p a c e S ' w h i c h i s ' ( S ) / . ( S ' ) - m e a s u r a b l e i s c a l l e d
u n i v e r s a l l y m e a s u r a b l e . L e t { .
} b e a f a m i l y o f a - f i e l d s o n Q . W e d e n o t e
b y V - F - . t h e s m a l l e s t a - f i e l d o n Q w h i c h c o n t a i n s a l l Y ; . I f I F i s a c l a s s
a
o f s u b s e t s o f 9 , w e d e n o t e b y a [ W ] t h e s m a l l e s t a - f i e l d o n 1 2 w h i c h c o n -
t a i n s W . A l s o , i f { X a }
a e A i s a
f a m i l y o f m a p p i n g s f r o m 5 2 i n t o a m e a s u r a b l e
1
-
7/24/2019 Stochastic Diffe
19/571
2
P R E L I M I N A R I E S
s p a c e
t h e n t h e s m a l l e s t a - f i e l d . . Y o n 0 s u c h t h a t e a c h X . i s
9 7 7 ' - m e a s u r a b l e i s d e n o t e d b y a [ X a ; a E A ] . I n p a r t i c u l a r , a [ X ] _
X - ' ( . Y - ' ) f o r e v e r y m a p p i n g X : 0 - 0 ' .
L e t
P ) b e a p r o b a b i l i t y s p a c e a n d ( S , : , 1 3 ( S ) ) b e a t o p o l o g i c a l
s p a c e S w i t h t h e t o p o l o g i c a l a - f i e l d R ( S ) . A m a p p i n g X f r o m 0 i n t o S
w h i c h i s F - / R ( S ) - m e a s u r a b l e i s c a l l e d a n S - v a l u e d r a n d o m v a r i a b l e . * '
I f , i n p a r t i c u l a r , S = R , S = C , o r S = R d , t h e n X i s c a l l e d a r e a l r a n d o m
v a r i a b l e , a c o m p l e x r a n d o m v a r i a b l e , o r a d - d i m e n s i o n a l r a n d o m v a r i a b l e ,
r e s p e c t i v e l y . I f X i s a n S - v a l u e d r a n d o m v a r i a b l e , t h e n
( 1 . 2 )
P X ( B ) = P [ X - ' ( B ) ] = P [ c v ; X ( c ) ) E B ] = P [ X E B ] , * z
B E . 2 ( S ) ,
d e f i n e s a p r o b a b i l i t y o n ( S , P ( S ) ) . P X i s c a l l e d t h e p r o b a b i l i t y l a w ( o r
p r o b a b i l i t y d i s t r i b u t i o n ) o f t h e r a n d o m v a r i a b l e X . P X i s n o t h i n g b u t t h e
i n d u c e d m e a s u r e , o r t h e i m a g e m e a s u r e o f t h e m e a s u r a b l e m a p p i n g X .
2 . P r o b a b i l i t y m e a s u r e s o n a m e t r i c s p a c e
L e t S b e a s e p a r a b l e m e t r i c s p a c e w i t h t h e m e t r i c p a n d . 2 ( S ) b e t h e
t o p o l o g i c a l a - f i e l d .
P r o p o s i t i o n 2 . 1 . L e t P b e a p r o b a b i l i t y o n ( S , P ( S ) ) . T h e n , f o r e v e r y
B E . 2 ( S ) ,
( 2 . 1 )
P ( B ) =
s u p
P ( F ) =
i n f
P ( G ) .
F c B . F : c l o s e d
8 c G , G : o p e n
P r o o f . S e t ' = { B E P 2 ( S ) ; ( 2 . 1 ) h o l d s } . I f B E W , t h e n c l e a r l y
B ( t h e c o m p l e m e n t o f B ) E I F . I f B . E B , n = 1 , 2 ,
. . . ,
t h e n
U B n E I F . I n d e e d , f o r g i v e n e > 0 , w e c a n c h o o s e a n o p e n s e t G . a n d
a c l o s e d s e t F . s u c h t h a t F . c B . c G . a n d
P ( G n \ F n ) S a / 2 n + '
n = 1 , 2 , . . . .
A o
S e t G = U G . a n d F = U F . w h e r e n o i s c h o s e n s o t h a t
n - 3
n - + 1
n o
P U l F n \ U
- - / 2 -
n .
i
l
" M o r e g e n e r a l l y , a r a n d o m v a r i a b l e i s a n y m e a s u r a b l e m a p p i n g f r o m ( 5 2 , 9 ) i n t o
a m e a s u r a b l e s p a c e .
* 2 W e o f t e n s u p p r e s s t h e a r g u m e n t
c o i n t h i s w a y .
-
7/24/2019 Stochastic Diffe
20/571
P R O B A B I L I T Y M E A S U R E S O N A M E T R I C S P A C E
3
T h e n G i s o p e n , F i s c l o s e d , F c U B , , c G a n d
n - 1
P ( G \ F ) l / n } * i s c l o s e d , F . c F n + , a n d U F , , = G . S i n c e P ( G ) =
n
l i m P ( F , ) , i t f o l l o w s t h a t G E V . T h e r e f o r e , ` F = . O w ( S ) .
W e d e n o t e , b y C b ( S ) , t h e s e t o f a l l b o u n d e d , c o n t i n u o u s r e a l - v a l u e d
f u n c t i o n s o n S . C b ( S ) i s a B a n a c h s p a c e w i t h t h e u s u a l n o r m 1 1 f I I =
s u p I f ( x ) 1 , . f E C b ( S ) .
X E S
P r o p o s i t i o n 2 . 2 . L e t P a n d Q b e p r o b a b i l i t i e s o n ( S , . O J ( S ) ) . I f
$ 8 f ( x ) P ( d x ) = f f ( x ) Q ( d x ) f o r e v e r y f E C b ( S ) , t h e n P = Q .
P r o o f . B y P r o p o s i t i o n 2 . 1 , i t i s s u f f i c i e n t t o s h o w t h a t P ( F ) = Q ( F )
f o r e v e r y c l o s e d s e t F . I f w e s e t f n ( x ) = 6 ( n p ( x , F ) ) w h e r e 0 ( t ) i s t h e f u n c -
t i o n d e f i n e d b y
1
t < 0 ,
0 ( t ) = 1 - t
,
O < t < 1 ,
0 ,
t > 1 ,
t h e n l i m f n ( x ) = I P ( x ) f o r e v e r y x E S . C o n s e q u e n t l y , b y t h e d o m i n a t e d
m m
c o n v e r g e n c e t h e o r e m ,
P ( F ) =
l i m
j ' f n ( x ) P ( d x )
= l i m f
S f n ( x ) Q ( d x ) = Q ( F ) .
P r o p o s i t i o n 2 . 3 . S u p p o s e t h a t S i s c o m p l e t e w i t h r e s p e c t t o t h e m e t r i c
p , t h a t i s , e v e r y p - C a u c h y s e q u e n c e i s a c o n v e r g e n t s e q u e n c e . T h e n a n y
p r o b a b i l i t y P o n ( S , . ' ( S ) ) i s i n n e r r e g u l a r i n t h e s e n s e t h a t f o r e v e r y B
0 ( S )
( 2 . 2 ) P ( B ) =
s u p
P ( K ) .
K G B , K : c o m p a c t
P r o o f . W e f i r s t p r o v e t h a t f o r e v e r y a > 0 t h e r e e x i s t s a c o m p a c t s e t
" p ( x , A ) = i n f p ( x , y ) .
Y E A
-
7/24/2019 Stochastic Diffe
21/571
4
P R E L I M I N A R I E S
K c S s u c h t h a t P ( K ) > 1 - c . S i n c e S i s s e p a r a b l e , S c a n b e c o v e r e d b y
a c o u n t a b l e n u m b e r o f b a l l s o f r a d i u s S f o r a n y g i v e n 0 > 0 . L e t
J . 1 0 ,
a n d , f o r e a c h n , l e t a k ' , k = 1 , 2 ,
. . . b e a s e q u e n c e o f c l o s e d
b a l l s o f
r a d i u s S n c o v e r i n g S . T h e n
1 = P ( S ) = J i m P ( k
s
a k ) )
: - -
a n d c o n s e q u e n t l y w e c a n f i n d I n s u c h t h a t
( 2 . 3 )
P ( k
a k ) ) > 1 - a / 2 n .
1
S e t K = ( 1 U a k ' . C l e a r l y , f o r e v e r y b > 0 , K c a n b e c o v e r e d b y a f i n i t e
n - 1 k
n u m b e r o f b a l l s w i t h r a d i u s S a n d h e n c e K i s t o t a l l y b o u n d e d . S i n c e S i s
c o m p l e t e , t h i s i m p l i e s t h a t K i s c o m p a c t . F r o m ( 2 . 3 ) , w e c o n c l u d e t h a t
P ( K ) > I - e .
N e x t , l e t B E . H I ( S ) . B y P r o p o s i t i o n 2 . 1 , w e c a n c h o o s e a c l o s e d s e t
F c B s u c h t h a t P ( B ) < P ( F ) + e . N o w F ' = F f l K i s c o m p a c t a n d
P ( F ) - P ( F ) < P ( K C ) < c . H e n c e P ( B ) < P ( F ' ) + 2 c w h i c h
i m p l i e s
t h a t ( 2 . 2 ) h o l d s .
D e f i n i t i o n 2 . 1 . A s e q u e n c e { P . } o f p r o b a b i l i t i e s o n ( S , . . W ( S ) ) i s s a i d
t o b e / w e a k l y c o n v e r g e n t t o a p r o b a b i l i t y P o n ( S , R ( S ) ) i f f o r e v e r y
f J
C M S )
J i m f
f ( x ) P n ( d x ) = f f ( x ) P ( d x ) ._ f
S
s
P i s u n i q u e l y d e t e r m i n e d f r o m { P n } b y P r o p o s i t i o n 2 . 2 , a n d w e w r i t e
P = w - l i m P n , o r P n - w P a s
a s n - - o o .
P r o p o s i t i o n 2 . 4 . T h e f o l l o w i n g f i v e c o n d i t i o n s a r e e q u i v a l e n t :
( i )
P .
P .
( i i ) u r n f f ( x ) P n ( d x ) = f
s
f ( x ) P ( d x ) f o r e v e r y u n i f o r m l y c o n t i n u o u s
s
. f E C b ( S ) .
( i i i ) l i m P n ( F ) < P ( F )
f o r e v e r y c l o s e d s e t F .
( i v ) 1 m P n ( G ) > P ( G )
f o r e v e r y o p e n s e t G .
n - -
-
7/24/2019 Stochastic Diffe
22/571
P R O B A B I L I T Y M E A S U R E S O N A M E T R I C S P A C E
5
( v ) l i r a P ( A ) = P ( A ) f o r e v e r y A E . 6 . d ' ( S ) s u c h t h a t P ( 8 A ) = 0 . *
n o m
P r o o f . " ( i ) : = > ( i i ) " i s o b v i o u s . T o s h o w " ( i i ) ' ( i i i ) " , n o t e t h a t t h e
f u n c t i o n s f k ( x ) u s e d i n t h e p r o o f o f P r o p o s i t i o n 2 . 2 a r e u n i f o r m l y c o n t i n u -
o u s . T h e n , ( i i ) i m p l i e s t h a t
l i m
P ( F )
< l i m n f
f k ( x ) P . ( d x ) =
J ' f k ( x ) P ( d x )
a n d , l e t t i n g k - - o o , w e h a v e ( i i i ) .
" ( i i i ) q ( i v ) " f o l l o w s b y t a k i n g
c o m p l e m e n t s . N e x t , w e s h o w " ( i i i )
( i ) " . L e t f E C b ( S ) . B y a l i n e a r
t r a n s f o r m a t i o n , w e m a y a s s u m e , w i t h o u t l o s s o f g e n e r a l i t y t h a t 0 < f < 1 .
T h e n
( 2 . 4 )
k
( i - 1 ) / k P { x ; ( i - 1 ) / k < f ( x ) < i / k }
< f
s
f ( x ) P ( d x ) < E i l k P { x ; ( i - 1 ) / k < f ( x ) < i l k ) .
1 - 1
I f w e s e t F 1 = { x ; i l k < f ( x ) l , t h e r i g h t - h a n d s i d e o f ( 2 . 4 ) i s e q u a l t o
k - 1
k - 1
E P ( F 1 ) / k a n d t h e l e f t - h a n d s i d e i s e q u a l t o E P ( F 1 ) / k - 1 / k . F r o m
1 - o
1 - 0
( i i i ) , i t f o l l o w s t h a t
k _ 2
k - 1
l i m f f ( x ) P . ( d x )
F n E P ( F 1 ) / k < E P ( F , ) / k
1 - 0
1 - 0
< 1 / k + f f ( x ) P ( d x ) .
S i n c e k w a s a r b i t r a r y , w e d e d u c e t h a t
R E f f ( x ) P . ( d x ) < - f f ( x ) P ( d x ) .
s
s
B y r e p l a c i n g f w i t h
1 - f i n t h e a b o v e a r g u m e n t , w e o b t a i n
l i m f
s f ( x ) P , ( d x ) Z f f ( x ) P ( d x )
C o n s e q u e n t l y , l i m f f ( x ) P ( d x ) = f f ( x ) P ( d x ) .
- - s s
* a A =
i s t h e b o u n d a r y o f t h e s e t A , A i s t h e c l o s u r e o f A a n d . 4 i s t h e i n t e r i o r o f
A .
-
7/24/2019 Stochastic Diffe
23/571
6
P R E L I M I N A R I E S
F i n a l l y , w e s h o w " ( i i i ) .
( v ) " . I f P ( 6 A ) = 0 , t h e n , a s s u m i n g ( i i i )
( i v ) ) , w e h a v e
P ( A ) = P ( A ) S l i m P . ( - ) < l i m P ( A ) P ( A )
s h o w i n g t h a t
P ( A ) . C o n v e r s e l y , a s s u m e ( v ) . L e t F b e a c l o s e d
s e t a n d s e t F 6 = { x ; p ( x , F ) < 6 1 . T h e n a F 6 c { x ; p ( x , F ) = 8 } : = A 8
a n d , s i n c e t h e A s a r e d i s j o i n t f o r d i f f e r e n t 8 , t h e s e t o f b s u c h t h a t P ( A 6 ) >
0 i s a t m o s t c o u n t a b l e . T h e r e f o r e , w e c a n c h o o s e d 1 1 0 s u c h t h a t P ( A a 1 ) _
0 a n d h e n c e P ( a F 8 , ) = 0 . C o n s e q u e n t l y
P ( F ) = l i m P ( F 8 1 ) = l i m l i m P ( F 8 ) > l i m P ( F ) .
I . . .
I - e o 0 . 0 0
n _ _
E x a m p l e 2 . 1 . I f S = R , t h e r e i s a o n e - t o - o n e c o r r e s p o n d e n c e b e t w e e n
a p r o b a b i l i t y P o n ( S , . $ ( S ) ) a n d i t s
d i s t r i b u t i o n f u n c t i o n
F ( x ) =
P ( ( - c o , x ] ) . T h e n " P - = - P " i s e q u i v a l e n t t o " F ( x ) - - - - F ( x ) f o r e v e r y
c o n t i n u i t y p o i n t x o f F " . T h e f o r m e r i m p l i e s t h e l a t t e r b y ( v ) o f t h e a b o v e
p r o p o s i t i o n a n d t h e c o n v e r s e i m p l i c a t i o n i s p r o v e d e a s i l y b y a p p r o x i m a -
t i n g t h e i n t e g r a l s - f ( x ) d F ( x ) a n d f
f ( x ) d F ( x ) w i t h t h e R i e m a n n s u m s .
P r o p o s i t i o n 2 . 5 . W e a k c o n v e r g e n c e o f p r o b a b i l i t i e s i s a m e t r i c c o n -
c e p t . T o b e p r e c i s e , w e c a n d e f i n e a m e t r i c d o n t h e t o t a l i t y ' 1 5 1 ( S ) o f
p r o b a b i l i t i e s o n ( S , . q ( S ) ) s u c h t h a t
P . ' - P
i s e q u i v a l e n t t o
d ( P , , , P ) - - - 0
a s n - - - o o .
P r o o f . T h e w e l l k n o w n P r o h o r o v m e t r i c , w h i c h i s a g e n e r a l i z a t i o n
o f t h a t o f L e v y i n t h e c a s e S = R , i s s u c h a m e t r i c ( c f . [ 1 4 2 ] ) . H e r e w e
g i v e a n e q u i v a l e n t m e t r i c i n t h e f o l l o w i n g w a y ( c f . [ 1 6 5 ] ) . I f S i s a s e p a r a b l e
m e t r i c s p a c e , w e c a n c h o o s e a n e q u i v a l e n t m e t r i c s o t h a t S i s t o t a l l y
b o u n d e d u n d e r t h i s m e t r i c . * T h e n , t h e s e t o f a l l u n i f o r m l y c o n t i n u o u s
f u n c t i o n s h a s a c o u n t a b l e d e n s e s u b s e t I f . ) w i t h r e s p e c t t o t h e u n i f o r m
n o r m a n d w e s e t
d ( P , Q ) = E 2 - 1 { 1 A
( I f
s
f i ( x ) P ( d x ) - - f
, f , ( x ) Q ( d x )
J ) J
* I n d e e d , i t i s w e l l k n o w n t h a t a s e p a r a b l e m e t r i c s p a c e i s h o m e o m o r p h i c t o a s u b s e t
o f t h e H i l b e r t c u b e
[ 0 , I ] ' r , [ 9 8 ] .
-
7/24/2019 Stochastic Diffe
24/571
P R O B A B I L I T Y M E A S U R E S O N A M E T R I C S P A C E 7
I t i s e a s y t o s e e , b y u s i n g P r o p o s i t i o n 2 . 4 ( i i ) , t h a t d i s a m e t r i c s a t i s f y i n g
t h e c o n d i t i o n o f t h e t h e o r e m .
T h u s , t h e t o t a l i t y . 9 ( S ) o f p r o b a b i l i t i e s o n ( S , . - ' ( S ) ) i s a m e t r i c s p a c e
u n d e r w e a k c o n v e r g e n c e . W e n o w w a n t t o c h a r a c t e r i z e a r e l a t i v e l y c o m -
p a c t ' s e t i n . 9 ( S ) . F o r t h i s , w e g i v e t h e f o l l o w i n g d e f i n i t i o n :
D e f i n i t i o n 2 . 2 . A f a m i l y A c . 9 ' ( S ) i s c a l l e d t i g h t i f f o r e v e r y s > 0
t h e r e e x i s t s a c o m p a c t s u b s e t K c S s u c h t h a t P ( K ) > 1 - E f o r e v e r y
P E A ; i . e . , i n f P ( K ) > 1 - a .
P E A
E x a m p l e 2 . 2 . I f S i s c o m p l e t e u n d e r t h e m e t r i c p , t h e n e v e r y f i n i t e
s e t A i s t i g h t b y P r o p o s i t i o n 2 . 3 . G e n e r a l l y , i f A , a n d A Z a r e t i g h t , t h e n
s o i s A , U A 2 .
T h e o r e m 2 . 6 . L e t A c . 9 ' ( S ) .
( 1 ) I f A i s t i g h t , t h e n A i s r e l a t i v e l y c o m p a c t i n . 9 ' ( S ) .
( 2 ) W h e n S i s c o m p l e t e u n d e r t h e m e t r i c p w e h a v e t h e c o n v e r s e o f
( 1 ) : n a m e l y , i f A i s r e l a t i v e l y c o m p a c t i n . 9 ' ( S ) , t h e n A i s t i g h t .
P r o o f . F o r t h e p r o o f o f ( 1 ) , w e f i r s t n o t e t h a t , i f S i s a c o m p a c t m e t r i c
s p a c e t h e n . 9 ' ( S ) i s c o m p a c t a n d h e n c e e v e r y A c . 9 ' ( S ) i s r e l a t i v e l y c o m -
p a c t . I n d e e d , b y R i e s z ' s t h e o r e m , . 9 ' ( S ) = { p E C * ( S ) ; , u ( f ) > 0 f o r f > 0
a n d p ( 1 ) = 1 } * 2 a n d , s i n c e C ( S ) = C b ( S ) , w e a k c o n v e r g e n c e i s e q u i v a l e n t
t o c o n v e r g e n c e i n t h e w e a k * - t o p o l o g y o n C * ( S ) . T h u s . 9 ' ( S ) i s c o m p a c t
s i n c e i t i s a w e a k * - c l o s e d s u b s e t o f t h e u n i t b a l l i n C * ( S ) a n d , a s i s w e l l
k n o w n , t h e u n i t b a l l i s w e a k * - c o m p a c t .
I n t h e g e n e r a l c a s e , w e n o t e t h a t S i s h o m e o m o r p h i c t o a s u b s e t o f a
c o m p a c t m e t r i c s p a c e ( a c t u a l l y , a s u b s e t o f [ 0 , l ] r ' ) a n d h e n c e w e m a y
a s s u m e t h a t S i s a s u b s e t o f a c o m p a c t m e t r i c s p a c e S . W e w a n t t o s h o w
t h a t f o r e v e r y s e q u e n c e f r o m a t i g h t f a m i l y A w e c a n a l w a y s c h o o s e
a c o n v e r g e n t s u b s e q u e n c e . F o r a p r o b a b i l i t y u o n ( S O ( S ) ) , w e d e f i n e
a p r o b a b i l i t y o n ( S , J ( S ) ) b y
i ( A ) = p ( A n s ) , A e . 9 ' ( S ) . N o t e t h a t
A c S i s i n O ( S ) i f a n d o n l y i f i t i s e x p r e s s e d a s A = A n S f o r s o m e
A E 0 ( 9 ) . N o w ,
i s a s e q u e n c e i n
a n d h e n c e , b y t h e a b o v e
r e m a r k , w e c a n c h o o s e a s u b s e q u e n c e , w h i c h w e d e n o t e a g a i n b y
c o n v e r g i n g w e a k l y t o a p r o b a b i l i t y v o n ( S , ` ( S ) ) . W e n o w s h o w t h a t
t h e r e i s a p r o b a b i l i t y u o n ( S , 3 ' ( S ) ) s u c h t h a t = v a n d p c o n v e r g e s
* ' i . e . , i t s c l o s u r e i s c o m p a c t , o r e q u i v a l e n t l y , f r o m e v e r y i n f i n i t e s e q u e n c e c o n t a i n e d
i n t h i s s e t w e c a n c h o o s e a c o n v e r g e n t s u b s e q u e n c e .
* 2 C ( S ) i s t h e B a n a c h l a t t i c e u n d e r t h e n a t u r a l o r d e r o f a l l r e a l c o n t i n u o u s f u n c t i o n s o n
S a n d C * ( S ) i s t h e d u a l s p a c e . 1 d e n o t e s t h e f u n c t i o n f ( x ) = 1 .
-
7/24/2019 Stochastic Diffe
25/571
8
P R E L I M I N A R I E S
w e a k l y t o p . I n d e e d , f o r e v e r y r = 1 , 2 ,
. . . ,
t h e r e e x i s t s a c o m p a c t s u b -
s e t K , o f S ( a n d h e n c e a c o m p a c t s u b s e t i n S ) s u c h t h a t # . ( K , ) > 1 - 1 1 r
f o r a l l n . C l e a r l y K , E a ( s ) n - 9 ( 9 ) a n d 4 . ( K , ) = p n ( K , ) . S i n c e
v
w e a k l y , w e h a v e
v ( K , ) > l i m
1 - 1 1 r .
T h e r e f o r e U K , = E C S i s b o t h i n . , a ` ( S ) a n d R ( S ) a n d v ( E ) = 1 . I f
A E . 9 J ( S ) , t h e n A f l E E . 4 ( 9 ) s i n c e A f l E = A " ( 1 S f l E = A f l E f o r s o m e
A E R ( 9 ) .
S ) . W e s e t p ( A ) = v ( A f l E ) f o r e v e r y A E R ( S ) . N o w i t i s e a s y
t o s e e t h a t p i s a p r o b a b i l i t y o n ( S , . ' ( S ) ) a n d 1 2 = v . F i n a l l y w e s h o w t h a t
p - p w e a k l y i n 0 ' ( S ) . L e t A b e c l o s e d i n S . T h e n A = A f l s f o r s o m e
c l o s e d s e t i n S a n d
p ( A ) . C o n s e q u e n t l y
l i m p ( A ) = l i m / 2 . ( A ) < / 2 ( A ) = p ( A )
a n d t h e a s s e r t i o n f o l l o w s f r o m P r o p o s i t i o n 2 . 4 , ( i i i ) . W e o m i t t h e p r o o f
o f ( 2 ) ( c f . [ 6 ] , [ 1 3 8 ] ) .
C o n s i d e r a n S - v a l u e d r a n d o m v a r i a b l e X ; i . e . , a n . . Y ' / . ' ( S ) - m e a s u r a -
b l e m a p p i n g f r o m a p r o b a b i l i t y s p a c e ( 1 2 , f , P ) i n t o S . T h e p r o b a b i l i t y
l a w P X o f X i s t h e i m a g e m e a s u r e o f t h e m a p p i n g X : 0 - - S .
D e f i n i t i o n 2 . 3 . L e t X , , , n = 1 , 2 , . . . , a n d X b e S - v a l u e d
r a n d o m
v a r i a b l e s . * W e s a y X . c o n v e r g e s t o X i n l a w i f P X - - - P X w e a k l y .
S u p p o s e X , , , n = 1 , 2 , . . . a n d X a r e d e f i n e d o n t h e s a m e p r o b a b i l i t y
s p a c e
P ) . T h e n X i s s a i d t o c o n v e r g e t o X a l m o s t e v e r y w h e r e ( o r
a l m o s t s u r e l y ) i f
P ( w ; p ( X ( o ) ) , X ( w ) ) - - - 0
a s n - - o o } = 1
a n d X . i s s a i d t o c o n v e r g e t o X i n p r o b a b i l i t y , i f , f o r e v e r y a > 0 ,
P { c o ;
X ( c o ) ) > a } - - - - 0
a s n - - - o o .
I t i s w e l l k n o w n t h a t a l m o s t e v e r y w h e r e c o n v e r g e n c e i m p l i e s c o n -
v e r g e n c e i n p r o b a b i l i t y a n d c o n v e r g e n c e i n p r o b a b i l i t y i m p l i e s c o n v e r -
g e n c e i n l a w . T h e f o l l o w i n g t h e o r e m d u e t o S k o r o h o d a s s e r t s t h a t , i f S
* T h e y m a y b e d e f i n e d o n d i f f e r e n t p r o b a b i l i t y s p a c e s .
-
7/24/2019 Stochastic Diffe
26/571
P R O B A B I L I T Y M E A S U R E S O N A M E T R I C S P A C E
9
i s c o m p l e t e u n d e r t h e m e t r i c p , a c o n v e r s e o f t h e a b o v e i m p l i c a t i o n s h o l d s
i n a c e r t a i n s e n s e .
T h e o r e m 2 . 7 . L e t ( S , p ) b e a c o m p l e t e s e p a r a b l e m e t r i c s p a c e a n d
P , , , n = 1 , 2 , . . .
, a n d P b e p r o b a b i l i t i e s o n ( S , , % ( S ) ) s u c h t h a t P
- "
P a s n - - c o . T h e n , o n a p r o b a b i l i t y s p a c e ( L , 2 , P ) , w e c a n c o n s t r u c t
S - v a l u e d r a n d o m v a r i a b l e s X , , , n = 1 , 2 ,
. . . ,
a n d X s u c h t h a t
( i ) P = P X n , n = 1 , 2 ,
. . .
a n d P = P X .
( i i ) X . c o n v e r g e s t o X a l m o s t e v e r y w h e r e .
T h u s , i n p a r t i c u l a r , c o n v e r g e n c e i n l a w o f r a n d o m v a r i a b l e s X . c a n b e
r e a l i z e d b y a n a l m o s t e v e r y w h e r e c o n v e r g e n c e w i t h o u t c h a n g i n g t h e l a w
o f a n y X . .
P r o o f . W e p r o v e t h i s t h e o r e m b y t a k i n g = [ 0 , 1 ) , . 1 = 0 ( [ 0 , 1 ) )
a n d P ( d ( o ) = d c o : t h e L e b e s g u e m e a s u r e . T o e v e r y f i n i t e s e q u e n c e ( i 1 ,
i 2 , . . . , i k )
( k = 1 , 2 , . . . ) o f n a t u r a l
n u m b e r s , w e a s s o c i a t e a s e t
S ( , 1 , 1 2 . - - - . 1 k ) ( E r ( S ) a s f o l l o w s :
( 1 ) I f ( i l , i 2 , . . . , i k ) # ( h , i 2 , -
, J k ) , t h e n
S ( 1 1 , 1 2 , . . - . t k ) n S ( 1 1 . J 2 . . . . , J k )
w
( 2 )
J
U
1
S J = S
a n d
J
U
1
S ( 1 1 , 1 2 . . . . . t k . n = S 0 1 , 1 2 - - 1 k )
( 3 ) d i a m S ( , , , , 2
k ) < 2 - k * 1 ;
( 4 ) P n ( a S U 1 . t 2 , . . . , t k ) ) = 0 ,
n = 1 , 2 , . . . a n d
P ( a S ( 1 1 . 1 2 . . . . . 1 k ) )
= 0 .
T h u s , b y ( 1 ) a n d ( 2 ) ,
{ S ( , 1 , 1 2 . . . . . k ) } f o r m s f o r e a c h f i x e d k a d i s j o i n t
c o v e r i n g o f S w h i c h i s a r e f i n e m e n t o f t h a t c o r r e s p o n d i n g t o k ' < k . W e
c a n c o n s t r u c t s u c h a s y s t e m o f s u b s e t s a s f o l l o w s . F o r e a c h k , l e t a m ) ,
m = 1 , 2 , . . . b e b a l l s w i t h r a d i u s ) = I d ( r i . t 2 . . . . . t k ) I
- - -
I d ( t t , t 2 . . . .
' k > I =
P ( S ( 1 1 . 1 2 . - - - . 1 k ) ) ,
i f c o
d u l , t 2 , _ . . . t k ) t h e n t h e r e e x i s t s n k s u c h t h a t c o E
t k )
f o r a l l n Z n k . T h e n X n ( c o ) = X k ( w ) a n d h e n c e
P ( X ( ( O ) , X ( w ) ) < P ( X n ( ( O ) , X n ( w ) ) + P ( X n ( c o ) , X k ( ( O ) )
+ P ( X k ( w ) , X ( w ) ) < 2 / 2 1 ,
i f
n Z n k .
T h e r e f o r e , i f w e s e t 0 0 = ( 1 (
U
4 0 1 . 1 2 . . . _ . t k ) ) , X X ( w ) - - X ( w ) f o r
k - t ( 1 1 1 2 . . . . . 1 k )
c o E D o a s n - - - n o a n d c l e a r l y P ( f 2 , ) = 1 .
F i n a l l y , w e e s h o w t h a t f i x - = P . a n d P X = P . S i n c e
P { w ; X n + D ( w ) E S ( 1 1 . 1 2 . . . . . t k ) } = P t ( ) ; X n + D ( w ) E S U i . t 2 . . . . . t k ) }
= P n ( S ( i 1 . t 2 . . . . . ' k ) )
a n d s i n c e e v e r y o p e n s e t i n S i s e x p r e s s e d a s a d i s j o i n t c o u n t a b l e u n i o n o f
t k ) ' S , w e h a v e , b y F a t o u ' s l e m m a ,
l i m
P X n ( O ) > P , ( O )
f o r e v e r y o p e n s e t 0 i n S . T h e n , b y P r o p o s i t i o n 2 . 4 , P X - P c o n v e r g e s w e a k l y
t o P . a s p - - n o s h o w i n g t h a t P X , = P . S i m i l a r l y , w e h a v e - f i x = P .
*
4 a . 1 2 . . . , r k , # o r
# 0 , t h e n S ( 1 1 , 1 1 , . , , t k ) 4 0 a n d h e n c e t h i s i s w e l l
d e f i n e d .
-
7/24/2019 Stochastic Diffe
28/571
E X P E C T A T I O N S , C O N D I T I O N A L E X P E C T A T I O N S
1 1
3 . E x p e c t a t i o n s , c o n d i t i o n a l e x p e c t a t i o n s a n d r e g u l a r c o n d i t i o n a l
p r o b a b i l i t i e s
L e t X b e a r e a l ( o r c o m p l e x ) r a n d o m v a r i a b l e d e f i n e d o n a p r o b a b i l i t y
s p a c e ( 9 2 , Y , P ) . T w o r a n d o m v a r i a b l e s X a n d Y a r e i d e n t i f i e d i f
P [ c o ; X ( ( o )
Y ( c ) ) ] = 0 . X i s c a l l e d i n t e g r a b l e i f
f
Q
I X ( c o ) I P ( d c v ) < c o .
M o r e g e n e r a l l y , i f
f
a
I X ( c ) ) I P ( d c o ) < c o ,
( p > 0 ) ,
i t i s c a l l e d p - t h i n t e g r a b l e . * l L e t p > 1 . T h e t o t a l i t y o f p - t h i n t e g r a b l e
r a n d o m v a r i a b l e s , d e n o t e d b y , ( S 2 , , P ) o r s i m p l y b y 2 D ( Q ) o r .
( P ) ,
f o r m s a B a n a c h s p a c e w i t h t h e n o r m
I I X I I , =
( f
I X ( w ) I V P ( d w ) ) ' / ' .
( S l ,
P ) i s t h e B a n a c h s p a c e o f e s s e n t i a l l y b o u n d e d r a n d o m v a r i a b l e s
w i t h t h e n o r m I I X I I . = e s s . s u p I X ( c o ) 1 .
F o r a n i n t e g r a b l e r a n d o m v a r i a b l e X , E ( X ) = f a X ( c ) ) P ( d u ) ) i s c a l l e d
t h e e x p e c t a t i o n o f X . F o r a s q u a r e - i n t e g r a b l e r a n d o m v a r i a b l e X , V ( X ) _
E ( X 2 ) - E ( X ) 2 ( = E ( ( X - E ( X ) ) 2 ) ) i s c a l l e d t h e v a r i a n c e o f X .
A f a m i l y { Y } a G A o f s u b c r - f i e l d s o f - 9 - i s c a l l e d m u t u a l l y i n d e p e n d e n t
i f f o r e v e r y d i s t i n c t c h o i c e o f a l , a 2 ,
. . . , a k E A a n d A , e
i =
1 , 2 , . . . , k ,
P ( A , f l A 2 f l . . . f l A k ) = P ( A 1 ) P ( A 2 ) . . . P ( A k )
A f a m i l y o f r a n d o m v a r i a b l e s { X a } a a A i s c a l l e d m u t u a l l y i n d e p e n d e n t * 2
i f { 6 [ X a ] } a E , i i s m u t u a l l y i n d e p e n d e n t . A f a m i l y { X a , a e A l o f r a n d o m
v a r i a b l e s i s c a l l e d i n d e p e n d e n t o f a a f i e l d 9 c . F i f u [ X a ; a E A ] a n d
9 a r e m u t u a l l y i n d e p e n d e n t .
L e t X b e a n i n t e g r a b l e r a n d o m v a r i a b l e a n d 9 e - 9 - b e a s u b a - f i e l d
o f . F . T h e n p ( B ) = E ( X : B ) : = f B X ( c o ) P ( d ( 9 ) ,
B E 9 ,
d e f i n e s a
I f p = 2 , i t i s c a l l e d s q u a r e - i n t e g r a b l e .
* = T h i s d e f i n i t i o n a p p l i e s f o r g e n e r a l S - v a l u e d r a n d o m v a r i a b l e s .
-
7/24/2019 Stochastic Diffe
29/571
1 2 P R E L I M I N A R I E S
a - a d d i t i v e s e t f u n c t i o n o n W w i t h f i n i t e t o t a l v a r i a t i o n a n d i s c l e a r l y a b s o -
l u t e l y c o n t i n u o u s w i t h r e s p e c t t o v = P I , , . T h e R a d o n - N i k o d y m d e r i v a -
t i v e d p / d v ( w ) i s d e n o t e d b y E ( X 1 9 ) ( c o ) ; t h u s E ( X I ' ) i s t h e u n i q u e ( u p
t o i d e n t i f i c a t i o n )
' - m e a s u r a b l e i n t e g r a b l e r a n d o m v a r i a b l e Y s u c h t h a t
E ( Y : B ) = E ( X : B ) f o r e v e r y B e 3 ? .
D e f i n i t i o n 3 . 1 . E ( X I ' ) ( c o ) i s c a l l e d t h e c o n d i t i o n a l e x p e c t a t i o n o f X
g i v e n I N .
T h e f o l l o w i n g p r o p e r t i e s o f c o n d i t i o n a l e x p e c t a t i o n s a r e e a s i l y p r o v e d .
( X , Y , X , , , b e l o w a r e i n t e g r a b l e r e a l r a n d o m v a r i a b l e s a n d a , b a r e r e a l
n u m b e r s . )
( E . 1 ) E ( a X + b Y I 9 ) = a E ( X I ' ) + b E ( Y I ' ) a . s .
( E . 2 ) I f X > 0 a . s . , t h e n E ( X I ' ) > 0
a . s .
( E . 3 ) E ( 1 I ' ) = 1
a . s .
( E . 4 ) I f X i s
' - m e a s u r a b l e , t h e n E ( X I ' ) = X , a . s . , m o r e g e n e r a l l y ,
i f X Y i s i n t e g r a b l e a n d X i s ' - m e a s u r a b l e
E ( X Y I
' ) = X E ( Y I
' )
a . s .
( E . 5 ) I f X i s a s u b a - f i e l d o f
' , t h e n
E ( E ( X I 9 ) I
) = E ( X I
)
a . s .
( E . 6 ) I f X . - - - X i n . 9 1 ( Q ) , t h e n E ( X . I ' ) - - - E ( X I
' ) i n g 1 ( 9 2 ) .
( E . 7 ) ( J e n s e n ' s i n e q u a l i t y ) I f y r : R ' - R ' i s c o n v e x a n d V ( X )
i n t e g r a b l e t h e n
1 V ( E ( X I g ' ) ) S E ( y r ( X ) I
' )
a . s .
I n p a r t i c u l a r ,
I E ( X I c 9 ) I < E ( I X I I ' ) a n d , i f X i s s q u a r e - i n t e g r a b l e ,
I E ( X I W ) I 2 < E ( I X I Z I , y ) .
( E . 8 ) X i s i n d e p e n d e n t o f ' i f a n d o n l y i f f o r e v e r y B o r e l m e a s u r a -
b l e f u n c t i o n f s u c h t h a t f ( X ) i s i n t e g r a b l e , E ( f ( X ) I
' ) = E ( f ( X ) ) a . s .
L e t 1 ; b e a m a p p i n g f r o m Q i n t o a m e a s u r a b l e s p a c e ( S , R ) s u c h t h a t
i t i s _ 9 - / R - m e a s u r a b l e . T h e n p ( B ) = E ( X : { c o ; ( ( o ) e B } ) i s a a - a d d i t i v e
s e t f u n c t i o n o n . h 9 w h i c h i s a b s o l u t e l y c o n t i n u o u s w i t h r e s p e c t t o t h e i m a g e
m e a s u r e v = P f . T h e R a d o n - N i k o d y m d e n s i t y d p / d v ( x ) i s d e n o t e d b y
E ( X 1 1 ; = x ) a n d i s c a l l e d t h e c o n d i t i o n a l e x p e c t a t i o n o f X g i v e n = x . I t
p o s s e s s e s s i m i l a r p r o p e r t i e s a s a b o v e .
D e f i n i t i o n 3 . 2 . L e t ( Q , , F , P ) b e a p r o b a b i l i t y s p a c e a n d 9 b e a
-
7/24/2019 Stochastic Diffe
30/571
E X P E C T A T I O N S , C O N D I T I O N A L E X P E C T A T I O N S
1 3
s u b a - f i e l d o f J . A s y s t e m { p ( c o , A ) } c c { a , A E J i s c a l l e d a r e g u l a r c o n d i t i o n a l
p r o b a b i l i t y g i v e n
' i f i t s a t i s f i e s t h e f o l l o w i n g c o n d i t i o n s :
( i ) f o r f i x e d c o , A - - - p ( c o , A ) i s a p r o b a b i l i t y o n ( Q , - F - ) ;
( i i ) f o r f i x e d A E F - , c o - p ( c ) , A ) i s 1 9 - m e a s u r a b l e ;
( i i i ) f o r e v e r y A E - = Y a n d B E 3 ? ,
P ( A f l B ) = f p ( c o , A ) P ( d c o ) .
C l e a r l y p r o p e r t y ( i i i ) i s e q u i v a l e n t t o
( i i i ) ' f o r e v e r y n o n - n e g a t i v e r a n d o m v a r i a b l e X a n d B E 9
E ( X : B ) = f
s a
( I B ( c ) )
f
a
X ( c ) ' ) p ( c o , d c o ' ) } P ( d c o ) ,
t h a t i s , J a X ( c o ' ) p ( c o , d c ) ' ) c o i n c i d e s w i t h E ( X I ' ) ( ( o )
a . s .
W e s a y t h a t t h e r e g u l a r c o n d i t i o n a l p r o b a b i l i t y i s u n i q u e i f w h e n e v e r
{ p ( c ) , A ) } a n d { p ' ( c o , A ) } p o s s e s s t h e a b o v e p r o p e r t i e s , t h e n t h e r e e x i s t s
a s e t N E
' o f P - m e a s u r e 0 s u c h t h a t , i f c o 0 N t h e n p ( c ) , A ) = p ' ( c ) ,
A ) f o r a l l A E
- .
D e f i n i t i o n 3 . 3 . A m e a s u r a b l e s p a c e ( 0 , . F - ) i s c a l l e d a s t a n d a r d m e a s -
u r a b l e s p a c e i f i t i s B o r e l i s o m o r p h i c * t o o n e o f t h e f o l l o w i n g m e a s u r a b l e
s p a c e s : ( < 1 , n > , ,
( < l , n > ) ) , ( N , , ; i ( N ) ) o r ( M , . q ( M ) ) , w h e r e < 1 , n > =
{ 1 , 2 , . . . , n }
w i t h t h e d i s c r e t e t o p o l o g y , N
{ 1 , 2 ,
. . .
}
w i t h t h e
d i s c r e t e t o p o l o g y a n d M = { 0 , 1 } N = { w = ( a ) , , c o 2 ,
. . . ) ,
c o , = 0 o r
1 } w i t h t h e p r o d u c t t o p o l o g y .
I t i s w e l l k n o w n t h a t a P o l i s h s p a c e ( a c o m p l e t e s e p a r a b l e m e t r i c s p a c e )
w i t h t h e t o p o l o g i c a l a - f i e l d i s a s t a n d a r d m e a s u r a b l e s p a c e a n d e v e r y
m e a s u r a b l e s u b s e t o f a s t a n d a r d m e a s u r a b l e s p a c e w i t h t h e i n d u c e d
a - f i e l d i s a s t a n d a r d m e a s u r a b l e s p a c e ( c f . [ 9 8 ] , [ 1 3 8 ] ) .
T h e o r e m 3 . 1 . L e t ( Q , . , 1 - ) b e a s t a n d a r d m e a s u r a b l e s p a c e a n d P b e
a p r o b a b i l i t y o n ( 0 ,
L e t
' b e a s u b a - f i e l d o f . F - . T h e n a r e g u l a r
c o n d i t i o n a l p r o b a b i l i t y { p ( c o , A ) } g i v e n
' e x i s t s u n i q u e l y .
P r o o f . W e c o n s i d e r t h e c a s e w h e r e ( 5 2 , . x ) i s i s o m o r p h i c t o ( M ,
. ' ( M ) ) a n d h e n c e w e m a y a s s u m e t h a t 0 = M a n d - 9 - = R ( M ) . L e t
r " :
5 2 E ) c o ' - . ( c o , , c o 2 i . . . , c o n ) E { 0 , 1 } "
b e t h e p r o j e c t i o n
a n d
* ( 9 2 , . Y ) a n d
a r e B o r e l i s o m o r p h i c i f t h e r e e x s t i s a b i j e c t i o n f : 9 2 - - > S 2 ' s u c h
t h a t f i s
F / . F ' - m e a s u r a b l e a n d f - ' i s . 7 ' / . F - m e a s u r a b l e , i . e . f ( .
- ) = . F ' .
-
7/24/2019 Stochastic Diffe
31/571
1 4
P R E L I M I N A R I E S
F - = n n l . o d " [ { O , 1 } n ] . C l e a r l y
{ J I F " n } i s a n i n c r e a s i n g f a m i l y o f f i n i t e
a - f i e l d s a n d V .
= J r . I f P n , n = 1 , 2 , . . . a r e p r o b a b i l i t i e s o n ( S 2 , . 9 )
n
a n d { P n }
i s c o n s i s t e n t i n t h e s e n s e t h a t P n + , j T n = P n , n = 1 , 2 , . . . ,
t h e n t h e r e e x i s t s a u n i q u e p r o b a b i l i t y P o n ( Q , , Y ' ) s u c h t h a t P I , - . = P n .
I n d e e d , b y c o n s i s t e n c y , P i s w e l l d e f i n e d o n U . a n d i f B . E U F - k ,
n - I k - 3
n = 1 , 2 , . . . , i s s u c h t h a t B . D B n + , a n d l i m P ( B n ) > 0 t h e n ( 1 B n =
n o m
n
s i n c e { B n } i s a s y s t e m o f c l o s e d s e t s i n a c o m p a c t s p a c e 1 2 h a v i n g t h e f i n i t e
i n t e r s e c t i o n p r o p e r t y . P i s t h e n e x t e n d e d t o a [ U .
] = V .
= j r b y
n
H o p f ' s e x t e n s i o n t h e o r e m .
W e s e t p n ( c o , A ) = E ( 1 , , j ( 9 ) ( c o ) , A E f i n . C l e a r l y , t h e r e e x i s t s a s e t
N . E
' o f P - m e a s u r e 0 s u c h t h a t i f c o ( 4 N n , t h e n p n ( w , A ) i s a p r o b -
a b i l i t y o n ,
a n d p n ( c o , A ) = p n _ , ( c ) , A ) f o r A E n = 1 , 2 , . . . .
I f w e s e t N = U N n , t h e n f o r e a c h c o i j N , { p n ( w , . ) } i s a c o n s i s t e n t f a m i l y
n
a n d h e n c e d e t e r m i n e s a u n i q u e p r o b a b i l i t y p ( w , ) o n ( S 2 , 7 - ) . T a k e a p r o b -
a b i l i t y v o n ( Q , Y ) a n d d e f i n e p ( c o , ) = v i f c o E N . T h e n t h e s y s t e m
i s a r e g u l a r c o n d i t i o n a l p r o b a b i l i t y g i v e n
' . I n d e e d , p r o p e r t i e s
( i i ) a n d ( i i i ) a r e o b v i o u s f o r A E U 5 a n d e x t e n d t o F b y a s t a n d a r d
m o n o t o n e l e m m a . I f { p ( c o , ) } a n d { p ' ( c o , . ) } a r e t w o r e g u l a r c o n d i t i o n a l
p r o b a b i l i t i e s , t h e n t h e s e t N = { w ; p ( c o , A ) a p ' ( w , A ) f o r s o m e A E
U - 9 - . 1 h a s P - m e a s u r e 0 a n d i f c o
N , t h e n p ( c o , A ) = p ' ( ( o , A ) f o r a l l
n - 1
A E 9 " a g a i n b y t h e m o n o t o n e l e m m a . T h i s p r o v e s t h e u n i q u e n e s s o f
t h e r e g u l a r c o n d i t i o n a l p r o b a b i l i t y .
D e f i n i t i o n 3 . 4 . L e t ( Q , . 9 ' " ) b e a m e a s u r a b l e s p a c e . W e s a y t h a t - V i s
c o u n t a b l y d e t e r m i n e d i f t h e r e e x i s t s a c o u n t a b l e s u b s e t 7 - 0 c J V s u c h
t h a t w h e n e v e r a n y t w o p r o b a b i l i t i e s a g r e e o n - 9 - 0 t h e y m u s t c o i n c i d e .
C l e a r l y , i f ( 1 2 , Y ) i s a s t a n d a r d m e a s u r a b l e s p a c e t h e n Y i s c o u n t a b l y
d e t e r m i n e d .
T h e o r e m 3 . 2 . L e t ( Q , . F ) b e a s t a n d a r d m e a s u r a b l e s p a c e a n d P b e a
p r o b a b i l i t y o n ( 0 , . , Y ' " ) . L e t c y b e a s u b a - f i e l d o f Y a n d p ( c o , d c o ' ) b e a
r e g u l a r c o n d i t i o n a l p r o b a b i l i t y g i v e n
' . I f 2 ' i s a c o u n t a b l y d e t e r m i n e d
s u b a - f i e l d o f
' , t h e n t h e r e e x i s t s a s e t N E
o f P - m e a s u r e 0 s u c h
t h a t c o e N i m p l i e s p ( c o , A ) = I A ( ( o ) f o r e v e r y A E X .
P r o o f . L e t X , c 2 b e a c o u n t a b l e s e t i n D e f i n i t i o n 3 . 4 f o r X .
C l e a r l y i f A E o , t h e n t h e r e e x i s t s N A E g ' o f P - m e a s u r e 0 s u c h t h a t
p ( c o , A ) = 1 , , ( w )
i f c o N 4 . S e t N = U N A , t h e n p ( c o , A ) = I 4 ( w ) h o l d s
A e X O
f o r a l l A E 2 ' i f c o c N .
-
7/24/2019 Stochastic Diffe
32/571
E X P E C T A T I O N S , C O N D I T I O N A L E X P E C T A T I O N S
1 5
C o r o l l a r y . L e t ( 0 , . Y " ) b e a s t a n d a r d m e a s u r a b l e s p a c e a n d P b e a
p r o b a b i l i t y o n ( 9 2 , . - ) . L e t
' b e a s u b a - f i e l d o f 5 a n d p ( c o , ) b e a
r e g u l a r c o n d i t i o n a l p r o b a b i l i t y g i v e n ' . L e t ( w ) b e a m a p p i n g f r o m Q
i n t o a m e a s u r a b l e s p a c e ( S , R ) s u c h t h a t i t i s
' / . g - m e a s u r a b l e . S u p p o s e
f u r t h e r t h a t 1 2 i s c o u n t a b l y d e t e r m i n e d a n d { x } E R f o r e v e r y x E S
( t h i s i s t r u e , f o r e x a m p l e , i f ( S , . ) i s a s t a n d a r d m e a s u r a b l e s p a c e ) . T h e n
( 3 . 1 )
p ( c o , { c o ' ; c ( c v ' ) = c ( c o ) } ) = 1 ,
a . a . c o .
P r o o f . S i n c e . ' i s c o u n t a b l y d e t e r m i n e d , t h e r e e x i s t s a c o u n t a b l e
s u b s e t : / r 0 c _ q w i t h t h e p r o p e r t y o f D e f i n i t i o n 3 . 4 . H e n c e , i f w e s e t
0 =
B e . 0 1 } , 2 i s a c o u n t a b l y d e t e r m i n e d s u b a - f i e l d o f
'
w i t h 2 o = B E . q o } . B y T h e o r e m 3 . 2 , t h e r e e x i s t s a s e t N E < 9
o f P - m e a s u r e 0 s u c h t h a t i f C o ( Z N , p ( c o , A ) = I A ( w ) f o r e v e r y A E _ 2 ' .
B y t a k i n g A . = { c o ' ; ( w ' ) = c ( c o ) } E 2 ' , w e h a v e ( 3 . 1 ) f o r c o
N .
I n t h e s a m e w a y a s T h e o r e m 3 . 1 , w e c a n p r o v e t h e f o l l o w i n g r e s u l t .
T h e o r e m 3 . 3 . L e t ( Q , 9 1 - ) b e a s t a n d a r d m e a s u r a b l e s p a c e a n d P b e a
p r o b a b i l i t y o n ( Q , . 7 - ) . L e t ( c o ) b e a m a p p i n g f r o m Q i n t o a m e a s u r a b l e
s p a c e ( S , _ q ) s u c h t h a t i t i s - 9 - / - T - m e a s u r a b l e a n d l e t P t b e t h e i n d u c e d
m e a s u r e o n ( S , R ) b y t . T h e n t h e r e e x i s t s a s y s t e m { p ( x , A ) ) X E S , A E , , - s u c h
t h a t
( i ) f o r f i x e d x E S , A - p ( x , A ) i s a p r o b a b i l i t y o n ( 0 , - 5 7 - ) ;
( i i ) f o r f i x e d A E _ - V - , x ' - - - p ( x , A ) i s P ' - m e a s u r a b l e ;
( i i i ) f o r e v e r y A E Y " a n d B E R , w e h a v e
P ( A f l { w ; ( c o ) E = B } ) = f p ( x , A ) P F ( d x ) .
F u r t h e r m o r e , i f { p ' ( x , A ) ) i s a n y o t h e r s u c h s y s t e m , t h e n t h e r e e x i s t s a s e t
N E _ . o f P e - m e a s u r e 0 s u c h t h a t x e N i m p l i e s
p ( x , A ) = p ' ( x , A )
f o r a l l
A E - q
T h u s , f o r e v e r y i n t e g r a b l e r a n d o m v a r i a b l e X , f
a X ( w ) p ( x , d o ) )
c o i n c i d e s
w i t h E ( X I
= x ) , P C - a . e . x . p ( x , A ) i s c a l l e d t h e r e g u l a r c o n d i t i o n a l p r o b -
a b i l i t y g i v e n = x . I n t h e s a m e w a y a s T h e o r e m 3 . 2 a n d i t s c o r o l l a r y w e
c a n p r o v e t h e f o l l o w i n g :
C o r o l l a r y . W e a s s u m e f u r t h e r i n T h e o r e m 3 . 3 t h a t . , J i s c o u n t a b l y
d e t e r m i n e d a n d { x } E . . ' f o r e v e r y x E S . T h e n t h e r e e x i s t s a s e t N E , 1 }
o f P c - m e a s u r e 0 s u c h t h a t i f x N , p ( x , { c o ; g ( w ) E B } ) = I B ( x ) f o r e v e r y
B E R . I n p a r t i c u l a r , i f x ( 4 N t h e n
-
7/24/2019 Stochastic Diffe
33/571
1 6
P R E L I M I N A R I E S
( 3 . 2 )
p ( x , { c o ; c ( c o ) = x } ) = 1 .
4 . C o n t i n u o u s s t o c h a s t i c p r o c e s s e s
L e t W d = C ( [ 0 , o o ) - - - R d ) b e t h e s e t o f a l l c o n t i n u o u s f u n c t i o n s
w : ( 0 , o o ) F ) t s - w ( t ) a R . W e d e f i n e a m e t r i c p o n W d b y
( 4 . 1 )
p ( w , , w 2 ) = E 2 - " [ ( m a x I W 1 ( t ) - w 2 ( t ) I ) A 1 ] ,
w 1 , w 2 E W .
n - r
o < t s n
I t i s e a s y t o s e e t h a t W d i s c o m p l e t e a n d s e p a r a b l e u n d e r t h i s m e t r i c .
C l e a r l y , w " - - - - w w i t h r e s p e c t t o t h e m e t r i c p i f a n d o n l y i f w n ( t ) c o n -
v e r g e s t o w ( t ) u n i f o r m l y i n t o n e a c h b o u n d e d i n t e r v a l . L e t . ' ( W d ) b e
t h e t o p o l o g i c a l v - f i e l d . B y a B o r e l c y l i n d e r s e t w e m e a n a s e t B e W d o f
t h e f o l l o w i n g f o r m
B = { w ; ( w ( t , ) , w ( t 2 ) ,
. . . , w ( t " ) ) E E }
f o r s o m e s e q u e n c e 0 < t , < t 2 N } = 0 ;
N - -
n
( 4 . 3 )
f o r e v e r y T > O a n d e > 0 ,
l i m s u p P { m a x I X n ( t ) - X n ( s ) I > e } = 0 .
h 1 0
n
t , s e [ O , T ]
I t - s I $ h
T h e n t h e r e
e x i s t s a s u b s e q u e n c e n , < n 2 0 , s u p m a x I w ( t ) I < n o ,
. E A t e [ O , T ]
* t e [ 0 , o o ) i s c o n s i d e r e d a s t i m e .
-
7/24/2019 Stochastic Diffe
35/571
1 8
P R E L I M I N A R I E S
a n d
( i i ) e q u i - c o n t i n u o u s , i . e . , f o r e v e r y T > 0 , J i m s u p V h ( w ) = 0 , w h e r e
h 1 0 w c A
V h ( w ) = m a x
I w ( s ) - w ( t ) 1 .
i . S E t O , T ]
I t - S I s h
W e s e e b y ( 4 . 2 ) t h a t f o r e v e r y e > 0 t h e r e e x i s t s a > 0 s u c h t h a t P X n ( w ;
I w ( 0 ) I < a ) > 1 - a / 2 f o r a l l n . A l s o , b y ( 4 . 3 ) , f o r e v e r y e > 0 a n d k =
1 , 2 , . . . t h e r e e x i s t s h k > 0 s u c h t h a t h k 1 0 a n d P X n { w ; V h k ( w ) >
1 / k ) < a / 2 k + 1 f o r a l l n . T h u s P X a [ n { w ; V h k ( w ) < 1 / k } ] > 1 - e / 2 . S e t
k - 1
K . = { w ; I w ( o ) I < a } n ( n { w ; V h k ( w ) < 1 / k } ) . T h e n c l e a r l y
K 8 s a t i s f i e s
k - 1
( i ) a n d ( i i ) a n d h e n c e i t i s c o m p a c t . N o w P X n ( K 8 ) > 1 - a s h o w i n g
t h a t { P X 8 } i s t i g h t . S o , b y T h e o r e m 2 . 6 ( 1 ) , a s u b s e q u e n c e I n k ) e x i s t s s u c h
t h a t P X n k * - P f o r s o m e p r o b a b i l i t y P o n ( W a , . q ( W ' ) ) . W e n o w a p p l y
T h e o r e m 2 . 7 t o c o n s t r u c t J Y n k a n d t w i t h p r o p e r t i e s a s a b o v e . I f e v e r y f i n i t e
d i m e n s i o n a l d i s t r i b u t i o n o f P X n c o n v e r g e s , t h e n c l e a r l y a l i m i t p o i n t o f
{ P X 8 } i s u n i q u e a n d h e n c e P X n i t s e l f c o n v e r g e s w e a k l y t o P a s n - - - o o .
T h e o r e m 4 . 3 . L e t X . = ( X 8 ( t ) ) , n = 1 , 2 ,
. . . ,
b e a s e q u e n c e o f
d - d i m e n s i o n a l c o n t i n u o u s p r o c e s s e s s a t i s f y i n g t h e f o l l o w i n g t w o c o n d i -
t i o n s :
( 4 . 6 )
t h e r e e x i s t p o s i t i v e c o n s t a n t s M a n d y s u c h t h a t E { I X . ( 0 ) I Y } 0 a n d 6 > 0 b e g i v e n . C h o o s e v = v ( 8 , s ) s u c h t h a t
( 1 + 2 / ( 2 - 1 ) ) / 2 v < e a n d
( 4 . 1 0 )
P [ U
{
m a x
I Y ( ( i + 1 ) / 2 m ) - Y ( i / 2 m ) I > 1 / 2 - a ) ]
m v
0 5 i 5 2 m T -