breimanoptimalgamblingfavorableoutcome disseminate
TRANSCRIPT
-
8/18/2019 BreimanOptimalGamblingFavorableOutcome Disseminate
1/14
OPTIMAL
GAMBLING
SYSTEMS FOR
FAVORABLE GAMES
L .
BREIMAN
UNIVERSITY
OF
CALIFORNIA,
LOS ANGELES
1 .
I n t r o d u c t i o n
A s s u m e
t h a t
w e a r e
h a r d e n e d a n d u n s c r u p u l o u s
t y p e s
w i t h a n
i n f i n i t e l y
w e a l t h y f r i e n d . We i n d u c e
h i m
t o
m a t c h a n y b e t w e w i s h t o
m a k e o n t h e
e v e n t
t h a t
a
c o i n
b i a s e d
i n
o u r
f a v o r
w i l l
t u r n
u p
h e a d s .
T h a t
i s ,
a t
e v e r y
t o s s
we
h a v e
p r o b a b i l i t y
p
> 1 / 2 o f d o u b l i n g
t h e
a m o u n t
o f
o u r
b e t .
I f
w e a r e
c l e v e r ,
a s w e l l
a s
u n s c r u p u l o u s ,
we s o o n
b e g i n
t o
w o r r y
a b o u t
how m u c h o f
o u r
a v a i l a b l e
f o r -
t u n e
t o b e t
a t
e v e r y
t o s s .
B e t t i n g e v e r y t h i n g w e h a v e
o n
h e a d s o n
e v e r y
t o s s
w i l l
l e a d
t o
a l m o s t
c e r t a i n b a n k r u p t c y . On
t h e
o t h e r
h a n d ,
i f
we
b e t a
s m a l l ,
b u t
f i x e d ,
f r a c t i o n
( w e a s s u m e t h r o u g h o u t t h a t
m o n e y
i s
i n f i n i t e l y d i v i s i b l e )
o f
o u r a v a i l a b l e
f o r t u n e
a t
e v e r y t o s s ,
t h e n
t h e
l a w o f
l a r g e
n u m b e r s
i n f o r m s
u s
t h a t
o u r f o r t u n e
c o n v e r g e s a l m o s t s u r e l y
t o
p l u s
i n f i n i t y .
W h a t
t o d o ?
M o r e
g e n e r a l l y ,
l e t
X
b e
a
r a n d o m v a r i a b l e
t a k i n g
v a l u e s
i n
t h e s e t
I
=
{ 1 , * ,
s }
s u c h t h a t
P{X
=
i }
=
p i
a n d
l e t
t h e r e b e
a c l a s s
e o f
s u b s e t s
A i
o f
I ,
w h e r e
e
=
{ A 1 ,
-
,
A r } ,
w i t h
U ,
A ,
=
I ,
t o g e t h e r
w i t h
p o s i t i v e
n u m b e r s
( o i , * , O r ) .
We
p l a y t h i s g a m e
b y b e t t i n g a m o u n t s
j l i ,
*
* ,
j 3 ,
o n t h e
e v e n t s
{X E
A , }
a n d
i f
t h e e v e n t { X
=
i }
i s
r e a l i z e d ,
we
r e c e i v e
b a c k t h e
a m o u n t
F i E A ,
j , 0 ,
w h e r e
t h e sum
i s
o v e r a l l
j
s u c h t h a t i
E
A i .
We may
a s s u m e
t h a t
o u r
e n t i r e
f o r t u n e i s
d i s t r i b u t e d a t
e v e r y p l a y
o v e r t h e
b e t t i n g
s e t s
e ,
b e c a u s e t h e
p o s s i b i l i t y
o f
h o l d i n g p a r t
o f o u r
f o r t u n e
i n
r e s e r v e i s
r e a l i z e d
b y
t a k i n g A 1 , s a y ,
s u c h
t h a t
A I
=
I ,
a n d
o ,
=
1 .
L e t
S n b e t h e f o r t u n e
a f t e r
n
p l a y s ;
we
s a y
t h a t
t h e
g a m e
i s
f a v o r a b l e
i f
t h e r e i s
a
g a m b l i n g
s t r a t e g y
s u c h
t h a t
a l m o s t
s u r e l y
S n
-+
o o .
We
g i v e
i n
t h e
n e x t
s e c t i o n
a
s i m p l e
n e c e s s a r y
a n d s u f f i c i e n t
c o n d i t i o n
f o r
a
g a m e
t o b e
f a v o r a b l e .
Ho w
m u c h
t o
b e t o n
t h e v a r i o u s
a l t e r n a t i v e s
i n a
s e q u e n c e o f
i n d e p e n d e n t
r e p e t i t i o n s
o f
a
f a v o r a b l e
g a m e d e p e n d s ,
o f
c o u r s e ,
o n w h a t o u r
g o a l
u t i l i t y i s .
T h e r e a r e
t w o
c r i t e r i o n s ,
a m o n g
t h e
many
p o s s i b i l i t i e s ,
t h a t
s e e m
p r e - e m i n e n t l y
r e a s o n a b l e .
O n e i s
t h e
m i n i m a l t i m e
r e q u i r e m e n t ,
t h a t
i s , w e
f i x a n
a m o u n t
x
w e w i s h t o
w i n
a n d
i n q u i r e
a f t e r
t h a t
g a m b l i n g
s t r a t e g y
w h i c h w i l l m i n i m i z e
t h e
e x p e c t e d
n u m b e r o f
t r i a l s n e e d e d t o
w i n
o r
e x c e e d
x .
T h e
o t h e r i s
a
m a g n i t u d e
c o n d i t i o n ;
we
f i x
a t n
t h e n u m b e r o f
t r i a l s we a r e
g o i n g
t o
p l a y
a n d e x a m i n e
t h e
s i z e o f
o u r
f o r t u n e
a f t e r
t h e
n
p l a y s .
T h i s r e s e a r c h w a s
s u p p o r t e d
i n
p a r t b y
t h e O f f i c e o f
N a v a l
R e s e a r c h
u n d e r
C o n t r a c t
N o n r - 2 2 2 ( 5 3 ) .
6 5
-
8/18/2019 BreimanOptimalGamblingFavorableOutcome Disseminate
2/14
66 FOURTH
BERKELEY SYMPOSIUM:
BREIMAN
I n t h i s w o r k , w e
a r e e s p e c i a l l y
i n t e r e s t e d
i n t h e a s y m p t o t i c
p o i n t
o f
v i e w .
We
s h o w
t h a t
i n t h e
l o n g r u n , f r o m e i t h e r o f
t h e
t w o
a b o v e c r i t e r i o n s , t h e r e i s
o n e s t r a t e g y
A *
w h i c h
i s
o p t i m a l .
T h i s
s t r a t e g y
i s
f o u n d a s
t h a t
s y s t e m o f
b e t t i n g
( e s s e n t i a l l y u n i q u e )
w h i c h
m a x i m i z e s E ( l o g
S R ) .
T h e
r e a s o n f o r t h i s r e s u l t i s
h e u r i s t i c a l l y
c l e a r .
U n d e r
r e a s o n a b l e
b e t t i n g
s y s t e m s
S .
i n c r e a s e s
e x p o n e n t i a l l y
a n d
m a x i m i z i n g
E ( l o g
S , )
m a x i m i z e s t h e
r a t e
o f
g r o w t h .
I n
t h e s e c o n d s e c t i o n
w e
i n v e s t i g a t e t h e
n a t u r e o f A * . I t i s
a
c o n s e r v a t i v e
p o l i c y
w h i c h
c o n s i s t s
i n
b e t t i n g
f i x e d
f r a c t i o n s
o f t h e a v a i l a b l e f o r t u n e o n
t h e
v a r i o u s
A i .
F o r
e x a m p l e ,
i n
t h e c o i n - t o s s i n g g a m e A * i s : b e t a f r a c t i o n
p
-
q
o f
o u r
f o r t u n e
o n
h e a d s
a t
e v e r y g a m e .
I t i s a l s o , i n
g e n e r a l ,
a p o l i c y
o f d i v e r s i f i c a -
t i o n
i n v o l v i n g t h e
p l a c i n g
o f
b e t s o n many o f
t h e
A j
r a t h e r t h a n
t h e
s i n g l e o n e
w i t h
t h e
l a r g e s t
e x p e c t e d
r e t u r n .
T h e
m i n i m a l
e x p e c t e d t i m e p r o p e r t y i s c o v e r e d i n
t h e t h i r d
s e c t i o n . We
s h o w ,
b y
a n e x a m i n a t i o n
o f
t h e
e x c e s s i n
W a l d ' s
f o r m u l a ,
t h a t
t h e
d e s i r e d f o r t u n e
x
b e c o m e s i n f i n i t e , t h a t
t h e
e x p e c t e d
t i m e
u n d e r
A *
t o
a m a s s
x
b e c o m e s l e s s t h a n
t h a t u n d e r a n y o t h e r
s t r a t e g y .
S e c t i o n
f o u r i s i n v o l v e d
w i t h
t h e
m a g n i t u d e
p r o b l e m .
T h e c o n t e n t
h e r e
i s
t h a t
A *
m a g n i t u d e w i s e ,
d o e s a s w e l l a s a n y o t h e r
s t r a t e g y ,
a n d
t h a t
i f
o n e
p i c k s
a
p o l i c y
w h i c h i n t h e
l o n g
r u n d o e s
n o t
b e c o m e c l o s e
t o
A * ,
t h e n
w e a r e
a s y m p t o t -
i c a l l y
i n f i n i t e l y
w o r s e
o f f .
F i n a l l y ,
i n
s e c t i o n f i v e ,
w e
d i s c u s s
t h e
f i n i t e ( n o n a s v m p t o t i c )
c a s e
f o r
t h e
c o i n - t o s s i n g g a m e .
We h a v e b e e n u n s u c c e s s f u l i n o u r e f f o r t s t o f i n d a
s t r a t e g y
w h i c h
m i n i m i z e s t h e
e x p e c t e d t i m e f o r
x
f i x e d ,
b u t
w e s t a t e a c o n j e c t u r e
w h i c h
e x p r e s s e s
a
m o d e r a t e
f a i t h
i n
t h e
s i m p l i c i t y
o f
t h i n g s .
I t
i s
n o t
d i f f i c u l t ,
h o w e v e r ,
t o f i n d
a
s t r a t e g y
w h i c h m a x i m i z e s
P { S .
2
x }
f o r f i x e d n ,
x
a n d we s t a t e
t h e
r e s u l t s
w i t h
o n l y
a
s c a n t i n d i c a t i o n o f
p r o o f ,
a n d
t h e n
l a u n c h i n t o a
c o m p a r i s o n
w i t h
t h e s t r a t e g y
A * f o r
l a r g e
n .
T h e
c o n c l u s i o n o f t h e s e
i n v e s t i g a t i o n s
i s
t h a t
t h e
s t r a t e g y
A * s e e m s
b y
a l l
r e a s o n a b l e
s t a n d a r d s
t o
b e
a s y m p t o t i c a l l y
b e s t ,
a n d
t h a t ,
i n
t h e f i n i t e
c a s e ,
i t i s
s u b o p t i m a l
i n t h e
s e n s e
o f
p r o v i d i n g
a
u n i f o r m l y g o o d a p p r o x i m a t i o n
t o
t h e
o p t i m a l
r e s u l t s .
S i n c e
c o m p l e t i n g
t h i s
w o r k we h a v e b e e n a l l o w e d t o e x a m i n e
t h e
m o s t
s i g -
n i f i c a n t
m a n u s c r i p t
o f
L .
D u b i n s
a n d
L .
J .
S a v a g e [ 1 ] ,
w h i c h w i l l s o o n b e
p u b -
l i s h e d .
A l t h o u g h g a m b l i n g
h a s
b e e n
a s s o c i a t e d
w i t h
p r o b a b i l i t y
s i n c e
i t s
b i r t h ,
o n l y
q u i t e
r e c e n t l y
h a s
t h e
q u e s t i o n
o f
g a m b l i n g s y s t e m s
o p t i m a l
w i t h
r e s p e c t
t o s o m e
g o a l u t i l i t y
b e e n
i n v e s t i g a t e d
c a r e f u l l y .
T o t h e
b e a u t i f u l
a n d
d e e p
r e s u l t s
o f
D u b i n s
a n d
S a v a g e , u p o n
w h i c h
w o r k
w a s c o m m e n c e d
i n
1 9 5 6 ,
m u s t
b e
g i v e n
p r i o r i t y
a s t h e
f i r s t
t o f o r m u l a t e
s y s t e m a t i c a l l y
a n d
s o l v e
t h e
p r o b l e m s
o f
o p t i m a l
g a m b l i n g s t r a t e g i e s .
We
s t r o n g l y
r e c o m m e n d
t h e i r w o r k
t o
e v e r y
s t u d e n t
o f
p r o b a b i l i t y t h e o r y .
A l t h o u g h
o u r
o r i g i n a l i m p e t u s
c a m e f r o m a d i f f e r e n t
s o u r c e ,
a n d
a l t h o u g h
t h e i r
m a n u s c r i p t
i s a l m o s t
w h o l l y
c o n c e r n e d
w i t h
u n f a v o r a b l e
a n d
f a i r
g a m e s ,
t h e r e
a r e
a
f e w
s m a l l
a r e a s
o f
o v e r l a p
w v h i c h
I
s h o u l d
l i k e
t o
p o i n t
o u t
a n d
a c k n o w l e d g e
p r i o r i t y .
D u b i n s
a n d
S a v a g e d i d ,
o f
c o u r s e ,
f o r m u l a t e t h e
c o n c e p t
-
8/18/2019 BreimanOptimalGamblingFavorableOutcome Disseminate
3/14
OPTIMAL GAMBLING
S Y S T E M S
6 7
o f
a
f a v o r a b l e
g a m e .
F o r
t h e s e
g a m e s
t h e y
c o n s i d e r e d
t h e
c l a s s
o f
f r a c t i o n a l i z i n g
s t r a t e g i e s ,
w h i c h c o n s i s t
i n b e t t i n g
a
f i x e d f r a c t i o n o f
o n e ' s f o r t u n e a t e v e r y
p l a y , a n d
n o t i c e d
t h e
i n t e r e s t i n g
p h e n o m e n o n
t h a t t h e r e
w a s a c r i t i c a l f r a c t i o n
s u c h
t h a t i f
one
b e t s a f i x e d f r a c t i o n
l e s s
t h a n
t h i s c r i t i c a l
v a l u e ,
t h e n
S .
-
a . s .
a n d i f
o n e
b e t s
a
f i x e d
f r a c t i o n
g r e a t e r
t h a n
t h i s
c r i t i c a l
v a l u e ,
t h e n
S , ,
0
a . s .
I n
a d d i t i o n , o u r
p r o p o s i t i o n
3 i s a n
a l m o s t e x a c t d u p l i c a t i o n
o f o n e o f
t h e i r
t h e o r e m s .
I n
t h e i r
w o r k , a l s o , w i l l b e f o u n d t h e
s o l u t i o n t o m a x i m i z i n g P { S n
_
x }
f o r a n
u n f a v o r a b l e g a m e , a n d
i t
i s
i n t e r e s t i n g
t o o b se r v e h er e
t h e a b r u p t
d i s -
c o n t i n u i t y
i n
s t r a t e g i e s
a s
t h e g a m e
c h a n g e s
f r o m
u n f a v o r a b l e t o
f a v o r a b l e .
My
o r i g i n a l c u r i o s i t y
c o n c e r n i n g
f a v o r a b l e
g a m e s d a t e s f r o m
a p a p e r o f
J .
L .
K e l l y , J r .
[ 2 ] i n
w h i c h t h e r e
i s
a n
i n t r i g u i n g
i n t e r p r e t a t i o n o f i n f o r m a t i o n
t h e o r y
f r o m a
g a m b l i n g
p o i n t
o f v i e w . F i n a l l y ,
s o m e o f t h e l a s t s e c t i o n , i n
p r o b -
l e m
a n d s o l u t i o n ,
i s
c l o s e l y
r e l a t e d t o t h e
t h e o r y
o f d y n a m i c
p r o g r a m m i n g
a s
o r i g i n a t e d
b y
R .
B e l l m a n
[ 3 ] .
2 .
T h e
n a t u r e
o f
A*
We
i n t r o d u c e
s o m e n o t a t i o n . L e t
t h e o u t c o m e
o f t h e
k t h
g a m e b e X k
a n d
R n
=
( X , ,
* *
,
X 1 ) .
T a k e
t h e
i n i t i a l
f o r t u n e S o
t o b e u n i t y , a n d
S .
t h e f o r t u n e
a f t e r
n
g a m e s .
T o
s p e c i f y
a
s t r a t e g y
A
we s p e c i f y
f o r e v e r y n ,
t h e
f r a c t i o n s
I
X r n + 1 ) ,
X ( n + l ) ]
=
X , , n +
o f
o u r
a v a i l a b l e
f o r t u n e
a f t e r t h e n t h g a m e ,
S . ,
t h a t
w e
w i l l
b e t
o n
a l t e r n a t i v e
A 1 , A ,
i n
t h e ( n + 1 ) s t
g a m e . H e n c e
( 2 . 1 )
E
g n
+ 1 )
=
1 .
j=1
N o t e
t h a t K ( n + l )
may
d e p e n d o n
R n .
D e n o t e
A
= ( X 1 , 2 ,
* ) .
D e f i n e
t h e
r a n d o m
v a r i a b l e s
V , ,
b y
( 2 . 2 )
V n
=
j
n )
yj
=
i x
s o
t h a t
S + 1
=
V ± n + l S n .
L e t
Wn
=
l o g
V n ,
s o
w e h a v e
( 2 . 3 )
l o g
S n
=
Wn
+ +
W 1 .
T o
d e f i n e
A * ,
c o n s i d e r
t h e
s e t
o f
v e c t o r s
X
=
( X 1 ,
* ,
X , )
w i t h r
n o n n e g a t i v e
c o m p o n e n t s
s u c h
t h a t X 1
+
+
X ,
=
1
a n d d e f i n e a f u n c t i o n
W ( X )
o n
t h i s
s p a c e
a F
b y
( 2 . 4 )
W ( X )
=
E
p i
l o g
(
E
X 3 o i ) .
T h e
f u n c t i o n W ( X )
a c h i e v e s i t s m a x i m u m
o n
a
a n d
w e d e n o t e
W
=
m a x K e g
W ( X ) .
P R O P O S I T I O N
1 .
L e t
X ( ) ,
X ( 2 ) b e
i n
9 Y
s u c h
t h a t W
=
W ( K ( 1 ) )
=
W ( X ( 2 ) ) ,
t h e n
f o r
a l l
i ,
w e
h a v e
i E A i j ' )
o
=
EAi
X 2 )
o 0 j
P R O O F .
L e t
q ,
#
b e
p o s i t i v e
n u m b e r s
s u c h
t h a t
a
+ , B
= 1 .
T h e n
i f
X
=
a X ( 1 )
+
X ( 2 ) ,
we
h a v e
W ( X )
.
W . B u t
b y
t h e
c o n c a v i t y
o f
l o g
( 2 . 5 ) W ( X )
> _
a W ( x ( ' ) )
+
3 W ( K ( 2 ) )
w i t h
e q u a l i t y
i f
a n d
o n l y
i f
t h e c o n c l u s i o n
o f
t h e
p r o p o s i t i o n
h o l d s .
-
8/18/2019 BreimanOptimalGamblingFavorableOutcome Disseminate
4/14
68
FOURTH BERKELEY
SYMPOSIUM: BREIMAN
No w l e t
X *
b e
s u c h t h a t W
=
W ( X * ) a n d d e f i n e A *
a s ( X * ,
X * ,
. ) .
A l t h o u g h
X *
may n o t b e
u n i q u e ,
t h e
r a n d o m v a r i a b l e s
W 1 , W 2 ,
* * a r i s i n g
f r o m
A *
a r e
b y
p r o p o s i t i o n 1 u n i q u e l y d e f i n e d , a n d
f o r m
a
s e q u e n c e o f i n d e p e n d e n t , i d e n t i c a l l y
d i s t r i b u t e d
r a n d o m v a r i a b l e s .
Q u e s t i o n s
o f
u n i q u e n e s s
a n d
d e s c r i p t i o n
o f
X *
a r e
c o m p l i c a t e d
i n
t h e
g e n e r a l
c a s e . B u t s o m e
i n s i g h t
i n t o
t h e t y p e o f s t r a t e g y w e g e t
u s i n g
A *
i s a f f o r d e d
b y
P R O P O S I T I O N
2 .
L e t t h e
s e t s
A 1 , * ,
A r
b e d i s j o i n t , t h e n
n o
m a t t e r
w h a t
t h e
o d d s
o i
a r e ,
X *
i s
g i v e n b y X *
=
P{X E
A i } .
T h e
p r o o f
i s
a
s i m p l e
c o m p u t a t i o n
a n d i s o m i t t e d .
Fr om n ow o n
w e r e s t r i c t a t t e n t i o n
t o
f a v o r a b l e g a m e s
a n d
g i v e
t h e f o l l o w i n g
c r i t e r i o n .
P R O P O S I T I O N
3 .
A
g a m e i s
f a v o r a b l e i f a n d
o n l y
i f
W >
0 .
P R O O F . We
h a v e
n
( 2 . 6 )
l o g
S *
=
E n
W.
1
I f
W
=
EWk
i s
p o s i t i v e ,
t h e n t h e
s t r o n g
l a w o f
l a r g e
n u m b e r s
y i e l d s
S *
- +
a . s .
C o n v e r s e l y ,
i f t h e r e
i s a
s t r a t e g y
A s u c h t h a t
S n
-*oo
a . s .
w e u s e
t h e
r e s u l t o f
s e c t i o n
4 ,
w h i c h
s a y s
t h a t
f o r
a n y s t r a t e g y
A ,
l i m .
S n / S *
e x i s t s
a . s . f i n i t e .
H e n c e
S n
a . s .
a n d t h e r e f o r e
W
_
0 .
S u p p o s e
W
=
0 ,
t h e n
t h e l a w o f t h e
i t e r a t e d
l o g a r i t h m
comes t o o u r
r e s c u e
a n d
p r o v i d e s
a c o n t r a d i c t i o n t o
S n
- o .
3 .
T h e
a s y m p t o t i c
t i m e
m i n i m i z a t i o n
p r o b l e m
F o r
a n y s t r a t e g y
A
a n d
a n y
n u m b e r x
> 1 ,
d e f i n e t h e
r a n d o m
v a r i a b l e
T ( x )
b y
( 3 . 1 )
T ( x )
=
{ s m a l l e s t
n
s u c h
t h a t
S n
_ x } ,
a n d
T * ( x )
t h e
c o r r e s p o n d i n g
r a n d o m
v a r i a b l e
u s i n g
t h e
s t r a t e g y
A * .
T h a t
i s ,
T ( x ) i s t h e n u m b e r o f
p l a y s
n e e d e d
u n d e r
A t o
a m a s s o r e x c e e d
t h e
f o r t u n e
x .
T h i s s e c t i o n
i s
c o n c e r n e d
w i t h
t h e
p r o o f
o f t h e
f o l l o w i n g
t h e o r e m .
THEOREM
1 .
I f t h e
r a n d o m
v a r i a b l e s
W 1 ,
W 2 ,
a r e
n o n l a t t i c e ,
t h e n
f o r
a n y
s t r a t e g y
( 3 . 2 )
l i m
[ E T ( x )
E T * ( x ) ]
=
(W
E W n )
a n d t h e r e i s
a
c o n s t a n t
a ,
i n d e p e , i d e n t o f
A a n d
x
s u c h t h a t
( 3 . 3 )
E T * ( x )
-
E T ( x )
<
a .
N o t i c e
t h a t
t h e
r i g h t
s i d e o f
( 3 . 2 )
i s
a l w a y s n o n n e g a t i v e
a n d
i s
z e r o
o n l y
i f
A
i s
e q u i v a l e n t
t o
A * i n
t h e s e n s e
t h a t f o r
e v e r y
n ,
we h a v e
W.
=
W * .
T h e
r e a s o n
f o r
t h e r e s t r i c t i o n
t h a t
Wn
b e
n o n l a t t i c e
i s
f a i r l y a p p a r e n t .
B u t
a s t h i s
r e s t r i c t i o n
i s o n
l o g
V * r a t h e r
t h a n
o n V *
i t s e l f ,
t h e
c o m m o n
g a m e s
w i t h
r a t i o n a l v a l u e s o f
t h e
o d d s
o j
a n d
p r o b a b i l i t i e s
p i
u s u a l l y
w i l l
b e
n o n l a t t i c e .
F o r
i n s t a n c e ,
a l i t t l e
n u m b e r - t h e o r e t i c
j u g g l i n g
p r o v e s
t h a t
i n
t h e
c o i n - t o s s i n g
c a s e
t h e c o u n t a b l e
s e t
o f
v a l u e s
o f
p
f o r w h i c h
W.
i s
l a t t i c e c o n s i s t s
o n l y
o f
i r r a t i o n a l s .
-
8/18/2019 BreimanOptimalGamblingFavorableOutcome Disseminate
5/14
OPTIMAL GAMBLING
S Y S T E M S
69
T h e p r o o f
o f t h e
a b o v e t h e o r e m
i s
l o n g
a n d
w i l l
b e c a r r i e d
o u t
i n
a
s e q u e n c e
o f
p r o p o s i t i o n s . T h e h e a r t i s a n
a s y m p t o t i c
e s t i m a t e o f t h e
e x c e s s i n
W a l d ' s
i d e n t i t y [ 4 ] .
P R O P O S I T I O N
4 . L e t
X 1 , X 2 , *
b e a
s e q u e n c e o f
i d e n t i c a l l y
d i s t r i b u t e d ,
i n d e -
p e n d e n t
n o n l a t t i c e
r a n d o m
v a r i a b l e s
w i t h
0
<
EX1
<
° .
L e t
Y n
=
X 1
+
. .
.
+
X , .
F o r
a n y
r e a l n u m b e r s
x ,
( ,
w i t h
t
>
0 ,
l e t
F _ ( Q )
=
P { f i r s t
Y n _
x
i s
<
x
+ t } .
T h e n
t h e r e i s a
c o n t i n u o u s
d i s t r i b u t i o n
G ( t )
s u c h
t h a t
f o r e v e r y
v a l u e
o f
t ,
( 3 . 4 )
l i m
F . ( t )
=
G Q ) .
X- z
P R O O F . T h e
a b o v e s t a t e m e n t
i s
c o n t a i n e d i n
k n o w n
r e s u l t s
c o n c e r n i n g
t h e
r e n e w a l
t h e o r e m .
I f X 1
>
0
a . s .
a n d
h a s t h e d i s t r i b u t i o n
f u n c t i o n
F ,
i t
i s
k n o w n
( s e e ,
f o r
e x a m p l e ,
[ 5 ] )
t h a t
l i m x ,
F . ( , )
=
( 1 1 E X 1 )
J '
[ 1
-
F ( t ) ]
d t . I f
X 1
i s
n o t
p o s i t i v e ,
w e
u s e a
d e v i c e
d u e
t o
B l a c k w e l l
[ 6 ] .
D e f i n e
t h e
i n t e g e r - v a l u e d
r a n d o m
v a r i a b l e s
n i
<
n 2
<
...
b y
n 1
=
{ f i r s t
n s u c h
t h a t
X 1
+
+
X .
>
0 } ,
n 2
=
{ f i r s t
n
s u c h
t h a t
X , , , , +
+
. . .
+
X .
>
O } ,
a n d s o
f o r t h .
T h e n
t h e
r a n d o m
v a r i a b l e s
X 1
=
X 1
+
+
X , l ,
X 2
=
Xm+
1 +
- -
+
X , , , ,
a r e
i n d e p e n d e n t ,
i d e n t i c a l l y
d i s t r i b u t e d , p o s i t i v e ,
a n d
E X '
< 0 0
( s e e
[ 6 ] ) .
L e t t i n g
Y ' n
=
X 1
+
+
X ' ,
n o t e
t h a t
P { f i r s t
Y n
> _
x i s < x
+
t } = P { f i r s t
Y n '
_
x i s
< x
+
t } ,
w h i c h
c o m p l e t e s t h e
p r o o f .
We
f i n d
i t
u s e f u l t o
t r a n s f o r m t h i s
p r o b l e m
b y
d e f i n i n g
f o r
a n y
s t r a t e g y A ,
a
r a n d o m
v a r i a b l e
N ( y ) ,
( 3 . 5 )
N ( y )
=
{ s m a l l e s t
n
s u c h
t h a t
Wn
+
+
W 1
>
y }
w i t h
N * ( y )
t h e
a n a l o g o u s
t h i n g
f o r
A * .
T o
p r o v e
( 3 . 2 )
w e
n e e d
t o
p r o v e
1
X
( 3 . 6 )
l i m
[ E N ( y )
E N * ( y ) ]
=
-W
( W
- E W n )
a n d w e
u s e
a
r e s u l t
v e r y c l o s e
t o
W a l d ' s
i d e n t i t y .
P R O P O S I T I O N
5 .
F o r
a n y s t r a t e g y
A
s u c h
t h a t
S n
- M *
a . s .
a n d
a n y
y
( 3 . 7 ) E N ( y )
=
W E
[W
-
E ( W k I R k - l ) ] }
+
E
[ E
Wk ]
P R O O F .
T h e
a b o v e
i d e n t i t y
i s
d e r i v e d
i n
a
v e r y
s i m i l a r
f a s h i o n t o
D o o b ' s
d e r i v a t i o n
[ 6 ] o f
W a l d ' s
i d e n t i t y .
T h e
d i f f i c u l t
p o i n t
i s
a n
i n t e g r a b i l i t y
c o n d i t i o n
a n d
w e
g e t
a r o u n d
t h i s
b y
u s i n g ,
i n s t e a d o f
t h e
s t r a t e g y A ,
a
m o d i f i c a t i o n
A j
w h i c h
c o n s i s t s
i n
u s i n g
A
f o r
t h e
f i r s t
J
p l a y s
a n d
t h e n
s w i t c h i n g
t o
X * .
T h e
c o n d i t i o n
S n
- * o o
a . s .
i m p l i e s
t h a t
none
o f
t h e W k
may
t a k e
o n
t h e
v a l u e
-oo
a n d
t h a t
N ( y )
i s
w e l l
d e f i n e d .
L e t
N j ( y )
b e
t h e
r a n d o m v a r i a b l e
a n a l o g o u s t o
N ( y )
u n d e r
A i J
a n d W I J )
t o
W k .
D e f i n e a
s e q u e n c e o f
r a n d o m
v a r i a b l e s
Z n b y
n
( 3 . 8 )
Z n
=
E
[ W P
E ( W f j R k - l ) ] .
T h i s
s e q u e n c e i s
a
m a r t i n g a l e w i t h
E Z &
=
0 .
By
W a l d ' s
i d e n t i t y ,
E N j ( y ) <
o
a n d
i t
i s
s e e n
t h a t t h e
c o n d i t i o n s
o f
t h e
o p t i o n a l
s a m p l i n g
t h e o r e m
( [ 7 ] ,
t h e o r e m
2 . 2 - C 3 )
a r e
v a l i d a t e d w i t h
t h e
c o n c l u s i o n
t h a t
E Z N ,
=
0 .
T h e r e f o r e
-
8/18/2019 BreimanOptimalGamblingFavorableOutcome Disseminate
6/14
70
FOURTH BERKELEY S YMPOSIUM:
BREIMAN
( 3 . 9 )
WENr
=
E [ N
w ]
E { k =
[ E ( W i J ) I R k - 1 ) ] }
+ E [
E W i ]
=
E{~
E
[ W - E ( W k I R k 1 l ) ] }
E [
W k = l T j .
T h e s e c o n d t e r m o n t h e r i g h t s a t i s f i e s
( 3 . 1 0 ) y _E[
E
W V
_
y
+
a ,
w h e r e a
=
m a x 3 ( l o g
o j ) .
H e n c e , i f EN
=
o o , t h e n
l i m j
ENs
=
0 0 ,
s o t h a t
E { E 1 ' [ W
E ( W k R k - l ) ] }
=
X o
a n d
( 3 . 7 )
i s
d e g e n e r a t e l y
t r u e . No w
as s u me
t h a t EN
<
o o ,
a n d
l e t J
- -
0 0 .
T h e f i r s t
t e r m
on
t h e
r i g h t
i n
( 3 . 9 )
c o n v e r g e s
t o
E { Y I
[ W
-
E ( W k I R k - l ) ] }
m o n o t o n i c a l l y .
T h e r a n d o m
v a r i a b l e s F J
W ( j )
c o n v e r g e
a . s .
t o
,
1k
a n d
a r e
b o u n d e d b e l o w
a n d
a b o v e
b y y
a n d
y
+
a
s o
t h a t
t h e
e x p e c t a t i o n s
c o n v e r g e .
I t
r e m a i n s t o
s h o w
t h a t l i m T
ENj
= E N . S i n c e
( 3 . 1 1 )
E NJ
=
L N < J )
NdP
L N > J )
N . , d P ,
w e n e e d
t o
s h o w
t h a t t h e
e x t r e m e
r i g h t t e r m c o n v e r g e s t o z e r o . L e t
J
n + J
( 3 . 1 2 )
U J
=
E W k ,
N ( U J )
=
{ f i r s t
n
s u c h
t h a t
E
W ' J
y
U J }
1 J+ 1
s o
t h a t
( 3 . 1 3 )
f | N > J
N J
d P
=
J P ( N
>
J ) +
f N > J )
N ( U J )
d P .
S i n c e
EN
<
o 0 ,
we h a v e
l i m j
JP{N >
J }
=
0 .
We w r i t e
t h e s e c o n d t e r m
a s
E { E [ N ( U j )
U J ]
I N
> J }
P { N
>
J } .
By
W a l d ' s i d e n t i t y ,
( 3 . 1 4 ) E [ N ( U j ) I
U j ]
<
Wy
U J
+
a
w
On
t h e
o t h e r
h a n d
s i n c e
t h e m o s t
we c a n
w i n
a t
a n y p l a y
i s
a ,
t h e
i n e q u a l i t y
( 3 . 1 5 )
N
_
Y
U
+
a
h o l d s o n t h e s e t
{ N
> J } . P u t t i n g t o g e t h e r
t h e
p i e c e s ,
( 3 . 1 6 )
N (
j
d P -
<
a
( N
- J )
d P
+
a
P ( N
>
J .
T h e
r i g h t
s i d e
c o n v e r g e s
t o z e r o
a n d t h e
p r o p o s i t i o n
i s
p r o v e n .
I f
we s u b t r a c t
f r o m
( 3 . 7 )
t h e
a n a l o g o u s
r e s u l t f o r
A *
w e
g e t
( 3 . 1 7 ) E N ( y ) -EN*(y)
E
[W
E ( W k I R k { k ) - }
+
E [ k
k
w k ] .
-
8/18/2019 BreimanOptimalGamblingFavorableOutcome Disseminate
7/14
OPTIMAL
GAMBLING SYSTEMS
71
T h i s l a s t
r e s u l t
e s t a b l i s h e s
i n e q u a l i t y ( 3 . 3 )
o f t h e
t h e o r e m . A s w e
l e t
y
- *
o o ,
t h e n
N ( y )
o o
a . s . a n d
w e
s e e
t h a t
{ N
( 3 . 1 8 )
l i m
E
{ [W
E ( W k t R k - 1 ) ] }
(W
E W k ) .
B y
p r o p o s i t i o n
4 ,
t h e
d i s t r i b u t i o n
F *
o f
Ef
Wk -
y
c o n v e r g e s ,
a s
y
- x
0,
t o
s o m e
c o n t i n u o u s
d i s t r i b u t i o n
F * a n d
w e f i n i s h
b y
p r o v i n g
t h a t t h e
d i s t r i b u t i o n
F y
o f
F
Wk-
y
a l s o
c o n v e r g e s
t o
F * .
P R O P O S I T I O N
6 . L e t
Y , ,
f n
b e
t w o
s e q u e n c e s o f
r a n d o n m
v a r i a b l e s s u c h
t h a t
Yn° - ° ,
Y n
+
en
a . s .
I f
Z i s
a n y r a n d o m
v a r i a b l e ,
i f
E
=
s u p n , ,
> e , n 1 ,
a n d
i f
w e
d e f i n e
( 3 . 1 9 )
H y Q ( )
= P { f i r s t Y n _
Z+yis
0 ,
( 3 . 2 1 )
F z + u f
2 u )
-
P { e
>
u }
_ D z , ( t )
_ D , ( t )
_
H y - u
+
2 u )
+
P { E
>
u } .
P R O O F .
( 3 . 2 2 )
D , Q ( )
_
P { f i r s t
Y n
+
E n _
Z
+
y
i s
<
Z +
Y
+
{ ,
E
<
u }
+ P { E
>
u }
<
P { f i r s t
Y n
>
Z
+
y-u i s
<
Z+
y
+
t +
u ,
E
<
u }
+ P { e
_
u }
<
H , _ ( u
+
2 u )
+
P { E
>
u } .
( 3 . 2 3 )
D , Q ( )
>
P { f i r s t
Y n
+
, e
>
Z
+
y
i s
<
Z
+
y
+
S ,
e
<
u }
_
P { f i r s t
Y n
>
Z
+ y +
u i s
<
Z
+ y
+ -u,
E
< u }
>
H v + u (
-
2 u )
P { E
_
u } .
P R O P O S I T I O N
7 .
L e t
X i ,
X 2 ,
- -
b e
a
s e q u e n c e
o f i n d e p e n d e n t
i d e n t i c a l l y
d i s -
t r i b u t e d
n o n l a t t i c e
r a n d o m
v a r i a b l e s ,
0
<
E X ,
<
c, w i t h
Y n
= X 1 +
.. .
+
X n .
I f
Z i s
a n y
r a n d o m v a r i a b l e
i n d e p e n d e n t
o f
X 1 , X 2 ,
,
G
t h e l i m i t i n g
d i s t r i b u -
t i o n
o f
p r o p o s i t i o n
4 ,
a n d
( 3 . 2 4 )
F 1 , , z ( t )
=
P { f i r s t
Y n
> _
Z
+
y i s
<
Z
y
+ },
t h e n
l i m y
F y , z ( Q )
=
G ( )
PROOF.
( 3 . 2 5 )
F y , z Q ( )
=
E [ P { f i r s t
Y n _
Z
+
Y
i S
<
Z
+
y
+
I Z } ]
=
E [ F y + z ( t ) ] ,
w h e r e
F y Q ( )
=
P { f i r s t
Y .
>
y
i s
< y
+ , } . B u t
l i m ,
F , + z ( ( )
=
G ( Q )
a . s . w h i c h ,
t o g e t h e r
w i t h
t h e
b o u n d e d n e s s
o f
F + ( + z Q ) ,
e s t a b l i s h e s
t h e
r e s u l t .
We
s t a r t
p u t t i n g
t h i n g s
t o g e t h e r
w i t h
-
8/18/2019 BreimanOptimalGamblingFavorableOutcome Disseminate
8/14
7 2
FOURTH
BERKELEY
SYMPOSIUM:
BREIMAN
P R O P O S I T I O N 8 .
L e t
,l
Wk -
, 1
Wt
c o n v e r g e
a . s .
t o a n e v e r y w h e r e f i n i t e
l i m i t .
I f
t h e
W* a r e n o n l a t t i c e ,
i f
F , ( Q )
i s
t h e d i s t r i b u t i o n
f u n c t i o n
f o r
l
Wk -
y , t h e n
l i m v
F . ( Q )
=
F * Q ) .
P R O O F .
F i x
m , l e t
r - 1
n
n
( 3 . 2 6 )
Z m
W I ,
e m , n
=
,
W k
-
W * ,
e m
=
S U p
I E m , n I ,
1
m
m n
a n d b y a s s u m p t i o n
e m
->
a . s .
No w
( 3 . 2 7 )
F , , ( )
=
P { f i r s t
E
W k
_ y
i s
<
y
+
}
=
P { f i r s t
W % *
+
E m . , n )
Z m + y
i s <
Z m + y t } .
I f
( 3 . 2 8 )
H v ( t )
=
P { f i r s t
L
W k
_
Zm
+
Y
i s
<
Zm
y
+
,
m
t h e n
b y
p r o p o s i t i o n
6 ,
f o r
a n y
u
> 0 ,
( 3 . 2 9 )
H , + u (
-
2 u )
-
P { e mn
u }
_
F v ( t )
_
H y - u ( (
+
2 u )
+
P { e m
>
u } .
L e t t i n g
y
-X
a n d
a p p l y i n g
p r o p o s i t i o n
7 ,
( 3 . 3 0 )
F*
2 u )
P { l e
>
u }
<
l i m
F ( )
_
l i m
F y ( )
_ F * Q (
+
2 u )
+
P { e m
>
u } .
v
v
T a k i n g
f i r s t
m
- X
o
a n d
t h e n
u
O - 0
w e
g e t
( 3 . 3 1 )
l i m
F , ( Q )
=
l i m
F y ( t )
=
F * ( - ) .
v
v
T o
f i n i s h
t h e
p r o o f ,
w e
i n v o k e
t h e o r e m s
2
a n d
3 o f
s e c t i o n
4 .
T h e
c o n t e n t
w e
u s e
i s t h a t
i f
5 7 7
Wk
-
Wk
d o e s
n o t c o n v e r g e
a . s . t o a n
e v e r y w h e r e
f i n i t e
l i m i t ,
t h e n
E
[W
-
E ( W k j R k - l ) ]
=
+o
o n
a
s e t
o f
p o s i t i v e
p r o b a b i l i t y .
T h e r e f o r e ,
i f
t h e
c o n d i t i o n s
o f
p r o p o s i t i o n s
5 a n d
8
a r e
n o t v a l i d a t e d ,
t h e n b y
( 3 . 1 7 )
b o t h
s i d e s
o f
( 3 . 2 )
a r e
i n f i n i t e .
T h u s t h e
t h e o r e m
i s
p r o v e d .
3 .
A s y m p t o t i c
m a g n i t u d e
p r o b l e m
T h e
m a i n r e s u l t s
o f
t h i s
s e c t i o n c a n
b e s t a t e d
r o u g h l y
a s :
a s y m p t o t i c a l l y ,
S *
i s
a s
l a r g e
a s t h e
S .
p r o v i d e d
b y
a n y
s t r a t e g y A ,
a n d i f
A
i s
n o t
a s y m p t o t i c a l l y
c l o s e
t o
A * ,
t h e n
S n
i s
i n f i n i t e l y
l a r g e r
t h a n
S . .
T h e r e s u l t s a r e v a l i d w h e t h e r
o r
n o t t h e
g a m e s
a r e f a v o r a b l e .
T H E O R E M
2 .
L e t
A b e
a n y s t r a t e g y
l e a d i n g
t o t h e
f o r t u n e S n
a f t e r
n
p l a y s .
T h e n
l i m o
S n / S n
e x i s t s
a . s . a n d
E ( l i m n
S n / S n )
.
1 .
F o r t h e s t a t e m e n t
o f
t h e o r e m 3
w e
n e e d
D E F I N I T I O N .
A i s
a
n o n t e r m i n a t i n g
s t r a t e g y
i f
t h e r e a r e
n o
v a l u e s o f X A
s u c h
t h a t
Y . f E A ,
' X 5 n ) j
=
0 ,
f o r
a n y
n .
-
8/18/2019 BreimanOptimalGamblingFavorableOutcome Disseminate
9/14
OPTIMAL
GAMBLING SYSTEMS 7 3
T H E O R E M
3 .
I f
A
i s
a
n o n t e r m i n a t i n g s t r a t e g y ,
t h e n
a l m o s t
s u r e l y
( 4 . 1 )
L
[ W
E ( W k I R k l 1 ) ]
=
0 0
X
l i m
=
° °
1
n S n
P R O O F S .
We
p r e s e n t t h e
t h e o r e m s
t o g e t h e r
a s
t h e i r
p r o o f s
a r e
s i m i l a r
a n d
h i n g e
o n
t h e
m a r t i n g a l e
t h e o r e m s .
F o r
e v e r y
n
( 4 . 2 )
E
( - * R n - 1 )
=
E
( R R n - l ) S n
I f
w e
p r o v e t h a t
E ( V n / V n l R n - 1 )
<
1
a . s . ,
t h e n
S n / S *
i s
a
d e c r e a s i n g
s e m i -
m a r t i n g a l e w i t h
l i m n
S n / S n
e x i s t i n g
a . s .
a n d
( 4 . 3 )
E l i m
S n *
E
S o
=
1 .
n S = n
S o
By t h e
d e f i n i t i o n
o f
A * ,
f o r
e v e r y
e
>
0 ,
( 4 . 4 )
E { l o g [ ( 1
-
e ) V n
+
e T n ]
-
l o g
V n j R n - 1 }
<
0 .
M a n i p u l a t i n g
g i v e s
( 4 . 5 )
E
[ l o g ( 1 + 1
) R n - 1 ] < h l o g
1
B y
F a t o u ' s l e m m a ; a s
e
- O 0
( 4 . 6 )
E
n l R n - 1
=
E
[ l i m ( l o g
i
+
e
n ) R - 1 ]
_
l i m 1 o 1
1
=
1 .
e
-
e
T h e o r e m 3 r e s e m b l e s a
m a r t i n g a l e
t h e o r e m
g i v e n b y
D o o b
( [ 6 ] , p p .
3 2 3 - 3 2 4 ) ,
b u t
i n t e g r a b i l i t y
c o n d i t i o n s
g e t
i n o u r
w a y
a n d f o r c e
s o m e
d e v i o u s n e s s . F i x
a
n u m b e r
M
>
0
a n d
t a k e
A
t o
b e t h e e v e n t
{W
-
E ( W n I R n - 1 )
>
M
i . o . } .
I f
p
=
m i n i
p i ,
t h e n
E(W*
-
W n j R n 1 )
_
M
i m p l i e s
P{Wn
-
Wn
> =
M I R n l }
>
P .
By
t h e
c o n d i t i o n a l
v e r s i o n
o f
t h e B o r e l - C a n t e l l i
l e m m a
( [ 7 ] ,
p . 3 2 4 ) ,
t h e
s e t o n w h i c h
E
P{W*
-Wn
M I R n - 1 }
= 0 0
a n d t h e s e t
{Wn
-Wn
>
M
i . o . }
a r e
a . s .
t h e
s a m e .
T h e r e f o r e ,
a . s .
o n
A ,
we h a v e
W n *
-
Wn
>
M
i . o .
a n d
l o g
( S n / S n )
=
E
( W Z
-
W k )
c a n n o t
c o n v e r g e .
We
c o n c l u d e t h a t
b o t h
s i d e s
o f
( 4 . 1 )
d i v e r g e
a . s .
o n A .
S t a r t i n g
w i t h
a
s t r a t e g y A ,
d e f i n e
a n a m e n d e d
s t r a t e g y
AM
b y :
i f W
-
E ( W n I R n - 1 )
< M,
u s e
A
o n t h e n t h
p l a y ,
o t h e r w i s e
u s e
A *
o n t h e n t h
p l a y .
T h e
r a n d o m
v a r i a b l e s
S n
( 4 . 7 )
U n
=
l o g
- n -
-
E _
[W
-
E ( W k i M | R k - l ) ]
f o r m
a
m a r t i n g a l e s e q u e n c e
w i t h
( 4 . 8 )
Un -
U n _ 1
=
Wn -
Wn
[W
E ( W n
m | R R n 1 ) ] -
-
8/18/2019 BreimanOptimalGamblingFavorableOutcome Disseminate
10/14
7 4
FOURTH BERKELEY
SYMPOSIUM:
BREIMAN
F o r
A m ,
w e
h a v e
E(W*
-
W . m 1 j R . _ )
< M,
l e a d i n g
t o t h e i n e q u a l i t i e s ,
( 4 . 9 ) s u p
( W .
W . , ` )
- < p
U .
U . - , 1
p
p
p
On t h e o t h e r
s i d e ,
i f
( 4 . 1 0 )
a
=
m i n
l o g
X *
j o
3j,
=
max
l o g
o j ,
j
EiAf
/
t h e n
U .
-
U . - ,
>
a
3 -
M.
T h e s e b o u n d s a l l o w
t h e
u s e o f a k n o w n m a r t i n -
g a l e
t h e o r e m ( [ 7 ] ,
p p .
3 1 9 - 3 2 0 ) t o c o n c l u d e t h a t
l i m .
U ,
e x i s t s a . s .
w h e n e v e r
o n e o f
l i m
U , .
< o o ,
l i m
U .
>
-
o o
i s s a t i s f i e d .
T h i s
i m p l i e s
t h e
s t a t e m e n t
( 4 . 1 1 )
l i m
S . *
X E
[ W - E ( W ( m ) | R , . _ 1 ) ]
<
0.
J )
< [W
H o w e v e r , o n t h e c o m p l e m e n t
o f
t h e s e t A t h e
c o n v e r g e n c e
o r
d i v e r g e n c e
o f t h e
a b o v e
e x p r e s s i o n s i n v o l v e s
t h e
c o n v e r g e n c e
o r
d i v e r g e n c e
o f t h e
c o r r e s p o n d i n g
q u a n t i t i e s
i n
( 4 . 1 ) w h i c h
p r o v e s
t h e
t h e o r e m .
C O R O L L A R Y 1 .
I f f o r
s o m e
s t r a t e g y A ,
w e h a v e
X ,
[ W
-
E ( W k j R k - i ) ]
=
w i t h p r o b a b i l i t y r y >
0 ,
t h e n f o r
e v e r y
e
> 0 ,
t h e r e
i s
a
s t r a t e g y A
s u c h t h a t w i t h
p r o b a b i l i t y
a t
l e a s t
- y
X E
l i m
S . I
=
0
a n d
e x c e p t f o r
a s e t
o f p r o b a b i l i t y
a t
m o s t e ,
r i m
S . q n / S
<
P R O O F .
L e t
E
b e
t h e s e t o n w h i c h
l i m
S I / S n
=
0 , w i t h P { E }
=
y .
F o r
a n y
e > 0 , f o r
N s u f f i c i e n t l y l a r g e , t h e r e i s
a s e t E N , m e a s u r a b l e
w i t h
r e s p e c t
t o
t h e
f i e l d
g e n e r a t e d
b y RN
s u c h t h a t
P { E N
A E }
< e , w h e r e
A
d e n o t e s t h e
s y m m e t r i c
s e t
d i f f e r e n c e .
D e f i n e
A
a s f o l l o w s :
i f
n
<
N ,
u s e
A ,
i f
R n ,
w i t h
n
>
N ,
i s
s u c h
t h a t
t h e f i r s t
N
o u t c o m e s
( X i ,
X N )
i s
n o t
i n
E N ,
u s e
A ,
o t h e r w i s e u s e
A * .
On
E N ,
w e h a v e
E [W
-
E ( W k f R k l ) ]
0
s o
t h a t
l i m
S & / S n
=
0
o n
EN
A
E .
F u r t h e r ,
P { E N
n
E }
P{E}-
e
=
y
-
e . On
t h e
c o m p l e m e n t
o f
E N ,
w e
h a v e
S n
=
S n n l e a d i n g
t o
l i m
S n / S n
<
1 , e x c e p t
f o r
a
s e t
w i t h
p r o b a b i l i t y
a t m o s t
E .
5 .
P r o b l e m s
w i t h f i n i t e
g o a l s
i n
c o i n t o s s i n g
I n t h i s
s e c t i o n
w e
c o n s i d e r f i r s t
t h e p r o b l e m :
f i x a n
i n t e g e r
n
> 0 ,
a n d
t w o
n u m b e r s
y
>
x
>
0 ,
f i n d
a
s t r a t e g y
w h i c h m a x i m i z e s
P { S n
_
y I S o
=
x } .
I n
t h i s
s i t u a t i o n , t h e n ,
o n l y
n
p l a y s
o f t h e
g a m e
a r e
a l l o w e d a n d
we w i s h
t o
m a x i -
m i z e
t h e
p r o b a b i l i t y
o f
e x c e e d i n g
a
c e r t a i n
r e t u r n . We w i l l a l s o
b e
i n t e r e s t e d
i n
w h a t
h a p p e n s
a s
n ,
y
b e c o m e
l a r g e . By c h a n g i n g
t h e u n i t o f
m o n e y ,
n o t e
t h a t
( 5 . 1 )
s u p
P { S n
>
y I S o
=
x }
=
s u p
P
{S
>
S o
=
- }
w h e r e t h e
s u p r e m u m
i s
o v e r
a l l
s t r a t e g i e s .
T h u s ,
t h e
p r o b l e m
r e d u c e s t o
t h e
u n i t
i n t e r v a l ,
a n d w e
may e v i d e n t l y
t r a n s l a t e
b a c k
t o t h e
g e n e r a l
c a s e
i f
we f i n d
a n
o p t i m u m
s t r a t e g y
i n
t h e
r e d u c e d c a s e .
D e f i n e ,
f o r
t _
0 ,
n
>
1 ,
-
8/18/2019 BreimanOptimalGamblingFavorableOutcome Disseminate
11/14
-
8/18/2019 BreimanOptimalGamblingFavorableOutcome Disseminate
12/14
-
8/18/2019 BreimanOptimalGamblingFavorableOutcome Disseminate
13/14
OPTIMAL
GAMBLING S Y S T E M S
77
l o n g
a s
p > 1 / 2 .
T h e
s t r a t e g y A * i n
t h i s
c a s e
i s :
b e t
a
f r a c t i o n
p
-
q
o f
o u r
f o r t u n e
a t e v e r y p l a y .
L e t
4 n ( e )
=
P { S *
>
l l S o
=
t } .
I n
l i g h t
o f
t h e
a b o v e
r e m a r k , t h e
f o l l o w i n g r e s u l t i s
n o t
w i t h o u t g r a t i f i c a t i o n .
T H E O R F M 4 .
I i r n
s u p t
[ 0 n Q ( )
-
e . ( 4 ) ]
=
0 .
P R O O F .
T h e
p r o o f
i s
s o m e w h a t
t e d i o u s ,
u s i n g
t h e
c e n t r a l
l i m i t
t h e o r e m a n d
t a i l e s t i m a t e s .
H o w e v e r ,
s o m e
i n t e r e s t i n g p r o p e r t i e s
o f
0 ) ( t )
w i l l b e d i s c o v e r e d
a l o n g
t h e
w a y .
L e t
P { k l l / 2 }
b e
t h e
p r o b a b i l i t y
o f
k
o r
f e w e r
t a i l s
i n
t o s s i n g
a
f a i r c o i n
n
t i m e s ,
P { k l p }
t h e
p r o b a b i l i t y
o f
k
o r f e w e r
t a i l s
i n n
t o s s e s o f a
c o i n
w i t h
P { H }
=
p .
I f
t
=
P { k l l / 2 }
+ 2 ,
n o t e t h a t
, n ( t - )
=
P { k l p } .
L e t
=
V p q , b y
t h e
c e n t r a l
l i m i t
t h e o r e m ,
i f
t i ,
=
P { q n
+
t o V n l 1 1 / 2 }
+ 2 - n ,
t h e n
( 5 . 9 )
l i m
O n
( 4 t n - )
= ffi |
e - ' / 2 d x ,
u n i f o r m l y
i n
t .
T h u s ,
i f w e
e s t a b l i s h
t h a t
( 5 . 1 0 ) l i m
4 % , n )
=
1f
e _ x 2 / 2
d x
n
_ V 2 7 r
_ c
u n i f o r m l y
f o r
t
i n
a n y
b o u n d e d
i n t e r v a l , t h e n
b y
t h e
m o n o t o n i c i t y
o f
O n
t ,
s ( t ) ,
t h e t h e o r e m w i l l f o l l o w .
By
d e f i n i t i o n ,
( 5 . 1 1 )
4 ( 4 )
=
P { W 1
+
* -
+
W .
>
O l W o
=
l o g { }
=
P{W* +
W*
> - l o g t } ,
w h e r e t h e W*
a r e i n d e p e n d e n t ,
a n d
i d e n t i c a l l y d i s t r i b u t e d
w i t h
p r o b a b i l i t i e s
P
{ W t
=
l o g
2 p }
=
p
a n d
P { W k
=
l o g
2 q }
=
q . A g a i n u s i n g t h e
c e n t r a l l i m i t
t h e o r e m ,
t h e
p r o b l e m r e d u c e s t o
s h o w i n g
t h a t
( 5 . 1 2 )
l i m
l o g
t n , t + n E W ,
=
t
n
n
a ( W * 1 )
u n i f o r m l y
i n
a n y
b o u n d e d i n t e r v a l .
By
a
t h e o r e m
o n t a i l
e s t i m a t e s
[ 8 ] ,
i f
X 1 , X 2 , -
-
a r e
i n d e p e n d e n t
r a n d o m
v a r i a b l e s
w i t h P { X k
=
1 }
=
1 / 2 a n d
P { X k
=
0 }
=
1 / 2 ,
t h e n
( 5 . 1 3 )
l o g
P { X 1
+
+
X n _
n a }
=
n O ( a )
+
, u ( n ,
a )
l o g
n ,
w h e r e
I A ( n ,
a )
i s
b o u n d e d f o r a l l
n ,
w i t h
1 / 2
+
6
_
a
<
1
-
,
a n d
0 ( a )
=
-a
l o g
( 2 a )
( 1 - a )
l o g [ 2 ( 1
a ) ] .
No w
( 5 . 1 4 )
l o g
t n .
= l o g
[ P { X 1
+
+
X n
_ n p
-
t o V i } +
2 n ]
s o
t h a t
t h e
a p p r o p r i a t e
a
=
p
-
t a / \ n
w i t h
( 5 . 1 5 )
0 ( a )
=
0 ( p )
l o g
S i n c e
0 ( p )
>
- l o g
2 ,
w e
may
i g n o r e
t h e
2 - n
t e r m
a n d
e s t i m a t e
-
8/18/2019 BreimanOptimalGamblingFavorableOutcome Disseminate
14/14