computation complexity lctn - laszlo lovasz

8/8/2019 Computation Complexity Lctn - Laszlo Lovasz

1/169

C o m p u t a t i o n C o m p l e x i t y

L a s z l o L o v a s z

t r a n s l a t i o n , a d d i t i o n s , m o d i c a t i o n s b y

P e t e r G a c s

M a r c h 1 5 , 1 9 9 4

L e c t u r e n o t e s f o r a o n e - s e m e s t e r g r a d u a t e c o u r s e . P a r t o f i t i s a l s o s u i t a b l e f o r

a n u n d e r g r a d u a t e c o u r s e , a t a s l o w e r p a c e . M a t h e m a t i c a l m a t u r i t y i s t h e m a i n

p r e r e q u i s i t e .


2/169


3/169

8 P a r a l l e l a l g o r i t h m s 1 2 5

8 . 1 P a r a l l e l r a n d o m a c c e s s m a c h i n e s : : : : : : : : : : : : : : : : : : : : : : : : : 1 2 5

8 . 2 T h e c l a s s N C : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 1 2 9

9 D e c i s i o n t r e e s 1 3 2

9 . 1 A l g o r i t h m s u s i n g d e c i s i o n t r e e s : : : : : : : : : : : : : : : : : : : : : : : : : 1 3 2

9 . 2 N o n d e t e r m i n i s t i c d e c i s i o n t r e e s : : : : : : : : : : : : : : : : : : : : : : : : : 1 3 6

9 . 3 L o w e r b o u n d s o n t h e d e p t h o f d e c i s i o n t r e e s : : : : : : : : : : : : : : : : : : 1 3 9

1 0 C o m m u n i c a t i o n c o m p l e x i t y 1 4 5

1 0 . 1 C o m m u n i c a t i o n m a t r i x a n d p r o t o c o l - t r e e : : : : : : : : : : : : : : : : : : : : 1 4 5

1 0 . 2 S o m e p r o t o c o l s : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 1 4 9

1 0 . 3 N o n - d e t e r m i n i s t i c c o m m u n i c a t i o n c o m p l e x i t y : : : : : : : : : : : : : : : : : 1 5 0

1 0 . 4 R a n d o m i z e d p r o t o c o l s : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 1 5 4

1 1 A n a p p l i c a t i o n o f c o m p l e x i t y : c r y p t o g r a p h y 1 5 6

1 1 . 1 A c l a s s i c a l p r o b l e m : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 1 5 6

1 1 . 2 A s i m p l e c o m p l e x i t y - t h e o r e t i c m o d e l : : : : : : : : : : : : : : : : : : : : : : 1 5 6

1 2 P u b l i c - k e y c r y p t o g r a p h y 1 5 7

1 2 . 1 T h e R i v e s t - S h a m i r - A d l e m a n c o d e : : : : : : : : : : : : : : : : : : : : : : : : 1 5 8

1 2 . 2 P s e u d o - r a n d o m n e s s : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 1 6 1

1 2 . 3 O n e - w a y f u n c t i o n s : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 1 6 4

1 2 . 4 A p p l i c a t i o n o f p s e u d o - n u m b e r g e n e r a t o r s t o c r y p t o g r a p h y : : : : : : : : : : 1 6 7

3


4/169

1 I n t r o d u c t i o n

T h e s u b j e c t o f c o m p l e x i t y t h e o r y T h e n e e d t o b e a b l e t o m e a s u r e t h e c o m p l e x i t y o f a

p r o b l e m , a l g o r i t h m o r s t r u c t u r e , a n d t o o b t a i n b o u n d s a n d q u a n t i t i v e r e l a t i o n s f o r c o m p l e x i t y

a r i s e s i n m o r e a n d m o r e s c i e n c e s : b e s i d e s c o m p u t e r s c i e n c e , t h e t r a d i t i o n a l b r a n c h e s o f

m a t h e m a t i c s , s t a t i s t i c a l p h y s i c s , b i o l o g y , m e d i c i n e , s o c i a l s c i e n c e s a n d e n g i n e e r i n g a r e a l s o

c o n f r o n t e d m o r e a n d m o r e f r e q u e n t l y w i t h t h i s p r o b l e m . I n t h e a p p r o a c h t a k e n b y c o m p u t e r

s c i e n c e , c o m p l e x i t y i s m e a s u r e d b y t h e q u a n t i t y o f c o m p u t a t i o n a l r e s o u r c e s ( t i m e , s t o r a g e ,

p r o g r a m , c o m m u n i c a t i o n ) . T h e s e n o t e s d e a l w i t h t h e f o u n d a t i o n s o f t h i s t h e o r y .

C o m p u t a t i o n t h e o r y c a n b a s i c a l l y b e d i v i d e d i n t o t h r e e p a r t s o f d i e r e n t c h a r a c t e r . F i r s t ,

t h e e x a c t n o t i o n s o f a l g o r i t h m , t i m e , s t o r a g e c a p a c i t y , e t c . m u s t b e i n t r o d u c e d . F o r t h i s ,

d i e r e n t m a t h e m a t i c a l m a c h i n e m o d e l s m u s t b e d e n e d , a n d t h e t i m e a n d s t o r a g e n e e d s

o f t h e c o m p u t a t i o n s p e r f o r m e d o n t h e s e n e e d t o b e c l a r i e d ( t h i s i s g e n e r a l l y m e a s u r e d a s

a f u n c t i o n o f t h e s i z e o f i n p u t ) . B y l i m i t i n g t h e a v a i l a b l e r e s o u r c e s , t h e r a n g e o f s o l v a b l e

p r o b l e m s g e t s n a r r o w e r t h i s i s h o w w e a r r i v e a t d i e r e n t c o m p l e x i t y c l a s s e s . T h e m o s t

f u n d a m e n t a l c o m p l e x i t y c l a s s e s p r o v i d e i m p o r t a n t c l a s s i c a t i o n e v e n f o r t h e p r o b l e m s a r i s i n g

i n c l a s s i c a l a r e a s o f m a t h e m a t i c s t h i s c l a s s i c a t i o n r e e c t s w e l l t h e p r a c t i c a l a n d t h e o r e t i c a l

d i c u l t y o f p r o b l e m s . T h e r e l a t i o n o f d i e r e n t m a c h i n e m o d e l s t o e a c h o t h e r a l s o b e l o n g s

t o t h i s r s t p a r t o f c o m p u t a t i o n t h e o r y .

S e c o n d , o n e m u s t d e t e r m i n e t h e r e s o u r c e n e e d o f t h e m o s t i m p o r t a n t a l g o r i t h m s i n v a r i o u s

a r e a s o f m a t h e m a t i c s , a n d g i v e e c i e n t a l g o r i t h m s t o p r o v e t h a t c e r t a i n i m p o r t a n t p r o b l e m s

b e l o n g t o c e r t a i n c o m p l e x i t y c l a s s e s . I n t h e s e n o t e s , w e d o n o t s t r i v e f o r c o m p l e t e n e s s i n t h e

i n v e s t i g a t i o n o f c o n c r e t e a l g o r i t h m s a n d p r o b l e m s t h i s i s t h e t a s k o f t h e c o r r e s p o n d i n g e l d s

o f m a t h e m a t i c s ( c o m b i n a t o r i c s , o p e r a t i o n s r e s e a r c h , n u m e r i c a l a n a l y s i s , n u m b e r t h e o r y ) .

T h i r d , o n e m u s t n d m e t h o d s t o p r o v e \ n e g a t i v e r e s u l t s " , i . e . f o r t h e p r o o f t h a t s o m e

p r o b l e m s a r e a c t u a l l y u n s o l v a b l e u n d e r c e r t a i n r e s o u r c e r e s t r i c t i o n s . O f t e n , t h e s e q u e s t i o n s

c a n b e f o r m u l a t e d b y a s k i n g w h e t h e r s o m e i n t r o d u c e d c o m p l e x i t y c l a s s e s a r e d i e r e n t o r

e m p t y . T h i s p r o b l e m a r e a i n c l u d e s t h e q u e s t i o n w h e t h e r a p r o b l e m i s a l g o r i t h m i c a l l y s o l v a b l e

a t a l l t h i s q u e s t i o n c a n t o d a y b e c o n s i d e r e d c l a s s i c a l , a n d t h e r e a r e m a n y i m p o r t a n t r e s u l t s

r e l a t e d t o i t . T h e m a j o r i t y o f a l g o r i t h m i c p r o b l e m s o c c u r r i n g i n p r a c t i c e i s , h o w e v e r , s u c h

t h a t a l g o r i t h m i c s o l v a b i l i t y i t s e l f i s n o t i n q u e s t i o n , t h e q u e s t i o n i s o n l y w h a t r e s o u r c e s m u s t

b e u s e d f o r t h e s o l u t i o n . S u c h i n v e s t i g a t i o n s , a d d r e s s e d t o l o w e r b o u n d s , a r e v e r y d i c u l t

a n d a r e s t i l l i n t h e i r i n f a n c y . I n t h e s e n o t e s , w e c a n o n l y g i v e a t a s t e o f t h i s s o r t o f r e s u l t .

I t i s , n a l l y , w o r t h r e m a r k i n g t h a t i f a p r o b l e m t u r n s o u t t o h a v e o n l y \ d i c u l t " s o l u t i o n s ,

t h i s i s n o t n e c e s s a r i l y a n e g a t i v e r e s u l t . M o r e a n d m o r e a r e a s ( r a n d o m n u m b e r g e n e r a t i o n ,

c o m m u n i c a t i o n p r o t o c o l s , s e c r e t c o m m u n i c a t i o n , d a t a p r o t e c t i o n ) n e e d p r o b l e m s a n d s t r u c -

t u r e s t h a t a r e g u a r a n t e e d t o b e c o m p l e x . T h e s e a r e i m p o r t a n t a r e a s f o r t h e a p p l i c a t i o n o f

c o m p l e x i t y t h e o r y f r o m a m o n g t h e m , w e w i l l d e a l w i t h c r y p t o g r a p h y , t h e t h e o r y o f s e c r e t

c o m m u n i c a t i o n .

S o m e n o t a t i o n a n d d e n i t i o n s A n i t e s e t o f s y m b o l s w i l l s o m e t i m e s b e c a l l e d a n

a l p h a b e t . A n i t e s e q u e n c e f o r m e d f r o m s o m e e l e m e n t s o f a n a l p h a b e t i s c a l l e d a w o r d .

T h e e m p t y w o r d w i l l a l s o b e c o n s i d e r e d a w o r d , a n d w i l l b e d e n o t e d b y . T h e s e t o f w o r d s

o f l e n g t h n o v e r i s d e n o t e d b y

n

, t h e s e t o f a l l w o r d s ( i n c l u d i n g t h e e m p t y w o r d ) o v e r

i s d e n o t e d b y

. A s u b s e t o f

, i . e . , a n a r b i t r a r y s e t o f w o r d s , i s c a l l e d a l a n g u a g e .

4


5/169

N o t e t h a t t h e e m p t y l a n g u a g e i s a l s o d e n o t e d b y b u t i t i s d i e r e n t , f r o m t h e l a n g u a g e

f g c o n t a i n i n g o n l y t h e e m p t y w o r d .

L e t u s d e n e s o m e o r d e r i n g s o f t h e s e t o f w o r d s . S u p p o s e t h a t a n o r d e r i n g o f t h e e l e m e n t s

o f i s g i v e n . I n t h e l e x i c o g r a p h i c o r d e r i n g o f t h e e l e m e n t s o f

, a w o r d p r e c e d e s a w o r d

i f e i t h e r i s a p r e x ( b e g i n n i n g s e g m e n t ) o f o r t h e r s t l e t t e r w h i c h i s d i e r e n t i n

t h e t w o w o r d s i s s m a l l e r i n . ( E . g . , 3 5 2 4 4 p r e c e d e s 3 5 3 4 4 w h i c h p r e c e d e s 3 5 3 4 4 7 . ) T h e

l e x i c o g r a p h i c o r d e r i n g d o e s n o t o r d e r a l l w o r d s i n a s i n g l e s e q u e n c e : f o r e x a m p l e , e v e r y

w o r d b e g i n n i n g w i t h 0 p r e c e d e s t h e w o r d 1 o v e r t h e a l p h a b e t f 0 1 g . T h e i n c r e a s i n g o r d e r

i s t h e r e f o r e o f t e n p r e f e r r e d : h e r e , s h o r t e r w o r d s p r e c e d e l o n g e r o n e s a n d w o r d s o f t h e s a m e

l e n g t h a r e o r d e r e d l e x i c o g r a p h i c a l l y . T h i s i s t h e o r d e r i n g o f f 0 1 g

w e g e t w h e n w e w r i t e u p

t h e n a t u r a l n u m b e r s i n t h e b i n a r y n u m b e r s y s t e m .

T h e s e t o f r e a l n u m b e r s w i l l b e d e n o t e d b y R , t h e s e t o f i n t e g e r s b y Z a n d t h e s e t o f

r a t i o n a l n u m b e r s ( f r a c t i o n s ) b y Q . T h e s i g n o f t h e s e t o f n o n - n e g a t i v e r e a l ( i n t e g e r , r a t i o n a l )

n u m b e r s i s R

+

( Z

+

, Q

+

) . W h e n t h e b a s e o f a l o g a r i t h m w i l l n o t b e i n d i c a t e d i t w i l l b e

u n d e r s t o o d t o b e 2 .

L e t f a n d g b e t w o r e a l ( o r e v e n c o m p l e x ) f u n c t i o n s d e n e d o v e r t h e n a t u r a l n u m b e r s .

W e w r i t e

f = O ( g )

i f t h e r e i s a c o n s t a n t c > 0 s u c h t h a t f o r a l l n l a r g e e n o u g h w e h a v e j f ( n ) j c j g ( n ) j . W e

w r i t e

f = o ( g )

i f f i s 0 o n l y a t a n i t e n u m b e r o f p l a c e s a n d f ( n ) = g ( n ) ! 0 i f n ! 1 . W e w i l l a l s o u s e

s o m e t i m e s a n i n v e r s e o f t h e b i g O n o t a t i o n : w e w r i t e

f = ( g )

i f g = O ( f ) . T h e n o t a t i o n

f = ( g )

m e a n s t h a t b o t h f = O ( g ) a n d g = O ( f ) h o l d , i . e . t h e r e a r e c o n s t a n t s c

1

c

2

> 0 s u c h t h a t

f o r a l l n l a r g e e n o u g h w e h a v e c

1

g ( n ) f ( n ) c

2

g ( n ) . W e w i l l a l s o u s e t h i s n o t a t i o n w i t h i n

f o r m u l a s . T h u s ,

( n + 1 )

2

= n

2

+ O ( n )

m e a n s t h a t ( n + 1 )

2

c a n b e w r i t t e n i n t h e f o r m n

2

+ R ( n ) w h e r e R ( n ) = O ( n

2

) . K e e p i n

m i n d t h a t i n t h i s k i n d o f f o r m u l a , t h e e q u a l i t y s i g n i s n o t s y m m e t r i c a l . T h u s , O ( n ) = O ( n

n

)

b u t O ( n

2

) 6= O ( n ) . W h e n s u c h f o r m u l a s b e c o m e t o o c o m p l e x i t i s b e t t e r t o g o b a c k t o s o m e

m o r e e x p l i c i t n o t a t i o n .

1 . 1 E x e r c i s e I s i t t r u e t h a t 1 + 2 + + n = O ( n

3

) ? C a n y o u m a k e t h i s s t a t e m e n t s h a r p e r ?

}

5


6/169

2 M o d e l s o f c o m p u t a t i o n

I n t h i s s e c t i o n , w e w i l l t r e a t t h e c o n c e p t o f a l g o r i t h m . T h i s c o n c e p t i s f u n d a m e n t a l f o r

o u r t o p i c b u t s t i l l , w e w i l l n o t d e n e i t . R a t h e r , w e c o n s i d e r i t a n i n t u i t i v e n o t i o n w h i c h

i s a m e n a b l e t o v a r i o u s k i n d s o f f o r m a l i z a t i o n ( a n d t h u s , i n v e s t i g a t i o n f r o m a m a t h e m a t i c a l

p o i n t o f v i e w ) . A l g o r i t h m m e a n s a m a t h e m a t i c a l p r o c e d u r e s e r v i n g f o r a c o m p u t a t i o n o r

c o n s t r u c t i o n ( t h e c o m p u t a t i o n o f s o m e f u n c t i o n ) , a n d w h i c h c a n b e c a r r i e d o u t m e c h a n i c a l l y ,

w i t h o u t t h i n k i n g . T h i s i s n o t r e a l l y a d e n i t i o n , b u t o n e o f t h e p u r p o s e s o f t h i s c o u r s e i s t o

c o n v i n c e y o u t h a t a g e n e r a l a g r e e m e n t c a n b e a c h i e v e d o n t h e s e m a t t e r s . T h i s a g r e e m e n t

i s o f t e n f o r m u l a t e d a s C h u r c h ' s t h e s i s . A p r o g r a m i n t h e P a s c a l p r o g r a m m i n g l a n g u a g e i s a

g o o d e x a m p l e o f a n a l g o r i t h m s p e c i c a t i o n .

S i n c e t h e \ m e c h a n i c a l " n a t u r e o f a n a l g o r i t h m i s t h e m o s t i m p o r t a n t o n e , i n s t e a d o f

t h e n o t i o n o f a l g o r i t h m , w e w i l l i n t r o d u c e v a r i o u s c o n c e p t s o f a m a t h e m a t i c a l m a c h i n e .

T h e m a t h e m a t i c a l m a c h i n e s t h a t w e w i l l c o n s i d e r w i l l b e u s e d t o c o m p u t e s o m e o u t p u t

f r o m s o m e i n p u t . T h e i n p u t a n d o u t p u t c a n b e e . g . a w o r d ( n i t e s e q u e n c e ) o v e r a x e d

a l p h a b e t . M a t h e m a t i c a l m a c h i n e s a r e v e r y m u c h l i k e t h e r e a l c o m p u t e r s t h e r e a d e r k n o w s

b u t s o m e w h a t i d e a l i z e d : w e o m i t s o m e i n e s s e n t i a l f e a t u r e s ( e . g . h a r d w a r e b u g s ) , a n d a d d

i n n i t e l y e x p a n d a b l e m e m o r y .

H e r e i s a t y p i c a l p r o b l e m w e o f t e n s o l v e o n t h e c o m p u t e r : G i v e n a l i s t o f n a m e s , s o r t

t h e m i n a l p h a b e t i c a l o r d e r . T h e i n p u t i s a s t r i n g c o n s i s t i n g o f n a m e s s e p a r a t e d

b y c o m m a s : G o o d m a n , Z e l d o v i c h , F e k e t e . T h e o u t p u t i s a l s o a s t r i n g : F e k e t e ,

G o o d m a n , Z e l d o v i c h . T h e p r o b l e m i s t o c o m p u t e a f u n c t i o n a s s i g n i n g a n o u t p u t

s t r i n g t o e a c h i n p u t s t r i n g . B o t h i n p u t a n d o u t p u t h a v e u n b o u n d e d s i z e .

I n t h i s c o u r s e , w e w i l l c o n c e n t r a t e o n t h i s t y p e o f p r o b l e m , t h o u g h t h e r e a r e o t h e r

p o s s i b l e o n e s . I f e . g . a d a t a b a s e m u s t b e d e s i g n e d t h e n s e v e r a l f u n c t i o n s m u s t b e

c o n s i d e r e d s i m u l t a n e o u s l y . S o m e o f t h e m w i l l o n l y b e c o m p u t e d o n c e w h i l e o t h e r s ,

o v e r a n d o v e r a g a i n w h i l e n e w i n p u t s a r r i v e .

I n g e n e r a l , a t y p i c a l g e n e r a l i z e d a l g o r i t h m i c p r o b l e m i s n o t j u s t o n e p r o b l e m b u t a n i n n i t e

f a m i l y o f p r o b l e m s w h e r e t h e i n p u t s c a n h a v e a r b i t r a r i l y l a r g e s i z e . T h e r e f o r e w e e i t h e r m u s t

c o n s i d e r a n i n n i t e f a m i l y o f n i t e c o m p u t e r s o f g r o w i n g s i z e o r s o m e i d e a l , i n n i t e c o m p u t e r .

T h e l a t t e r a p p r o a c h h a s t h e a d v a n t a g e t h a t i t a v o i d s t h e q u e s t i o n s o f w h a t i n n i t e f a m i l i e s

a r e a l l o w e d . ( T h e u s u a l m o d e l o f n i t e a u t o m a t a , w h e n u s e d t o c o m p u t e f u n c t i o n s w i t h

a r b i t r a r y - s i z e i n p u t s , i s t o o p r i m i t i v e f o r t h e p u r p o s e s o f c o m p l e x i t y t h e o r y s i n c e i t i s a b l e

t o c o m p u t e o n l y v e r y s i m p l e f u n c t i o n s . T h e e x a m p l e p r o b l e m ( s o r t i n g ) a b o v e c a n n o t b e

s o l v e d b y s u c h a n i t e a u t o m a t o n , s i n c e t h e i n t e r m e d i a t e m e m o r y n e e d e d f o r c o m p u t a t i o n

i s u n b o u n d e d . )

H i s t o r i c a l l y , t h e r s t p u r e i n n i t e m o d e l o f c o m p u t a t i o n w a s t h e T u r i n g m a c h i n e , i n t r o -

d u c e d b y t h e E n g l i s h m a t h e m a t i c i a n T u r i n g i n 1 9 3 6 , t h u s b e f o r e t h e i n v e n t i o n o f p r o g r a m -

c o n t r o l l e d c o m p u t e r s . T h e e s s e n c e o f t h i s m o d e l i s a c e n t r a l p a r t t h a t i s b o u n d e d ( w i t h a

s t r u c t u r e i n d e p e n d e n t o f t h e i n p u t ) a n d a n i n n i t e s t o r a g e ( m e m o r y ) . ( M o r e e x a c t l y , t h e

m e m o r y i s a n i n n i t e o n e - d i m e n s i o n a l a r r a y o f c e l l s . T h e c o n t r o l i s a n i t e a u t o m a t o n c a p a -

b l e o f m a k i n g a r b i t r a r y l o c a l c h a n g e s t o t h e s c a n n e d m e m o r y c e l l a n d o f g r a d u a l l y c h a n g i n g

t h e s c a n n e d p o s i t i o n . ) O n T u r i n g m a c h i n e s , a l l c o m p u t a t i o n s c a n b e c a r r i e d o u t t h a t c o u l d

6


7/169

e v e r b e c a r r i e d o u t o n a n y o t h e r m a t h e m a t i c a l m a c h i n e - m o d e l s . T h i s m a c h i n e n o t i o n i s u s e d

m a i n l y i n t h e o r e t i c a l i n v e s t i g a t i o n s . I t i s l e s s a p p r o p r i a t e f o r t h e d e n i t i o n o f c o n c r e t e a l g o -

r i t h m s s i n c e i t s d e s c r i p t i o n i s a w k w a r d , a n d m a i n l y s i n c e i t d i e r s f r o m e x i s t i n g c o m p u t e r s

i n s e v e r a l i m p o r t a n t a s p e c t s .

T h e m o s t e s s e n t i a l c l u m s i n e s s d i s t i n g u i s h i n g t h e T u r i n g m a c h i n e f r o m r e a l c o m p u t e r s i s

t h a t i t s m e m o r y i s n o t a c c e s s i b l e i m m e d i a t e l y : i n o r d e r t o r e a d a \ f a r " m e m o r y c e l l , a l l

i n t e r m e d i a t e c e l l s m u s t a l s o b e r e a d . T h i s i s b r i d g e d o v e r b y t h e R a n d o m A c c e s s M a c h i n e

( R A M ) . T h e R A M c a n r e a c h a n a r b i t r a r y m e m o r y c e l l i n a s i n g l e s t e p . I t c a n b e c o n s i d e r e d

a s i m p l i e d m o d e l o f r e a l c o m p u t e r s a l o n g w i t h t h e a b s t r a c t i o n t h a t i t h a s u n b o u n d e d

m e m o r y a n d t h e c a p a b i l i t y t o s t o r e a r b i t r a r i l y l a r g e i n t e g e r s i n e a c h o f i t s m e m o r y c e l l s .

T h e R A M c a n b e p r o g r a m m e d i n a n a r b i t r a r y p r o g r a m m i n g l a n g u a g e . F o r t h e d e s c r i p t i o n

o f a l g o r i t h m s , i t i s p r a c t i c a l t o u s e t h e R A M s i n c e t h i s i s c l o s e s t t o r e a l p r o g r a m w r i t i n g .

B u t w e w i l l s e e t h a t t h e T u r i n g m a c h i n e a n d t h e R A M a r e e q u i v a l e n t f r o m m a n y p o i n t s o f

v i e w w h a t i s m o s t i m p o r t a n t , t h e s a m e f u n c t i o n s a r e c o m p u t a b l e o n T u r i n g m a c h i n e s a n d

t h e R A M .

D e s p i t e t h e i r s e e m i n g t h e o r e t i c a l l i m i t a t i o n s , w e w i l l c o n s i d e r l o g i c c i r c u i t s a s a m o d e l o f

c o m p u t a t i o n , t o o . A g i v e n l o g i c c i r c u i t a l l o w s o n l y a g i v e n s i z e o f i n p u t . I n t h i s w a y , i t c a n

s o l v e o n l y a n i t e n u m b e r o f p r o b l e m s i t w i l l b e , h o w e v e r , e v i d e n t , t h a t f o r a x e d i n p u t

s i z e , e v e r y f u n c t i o n i s c o m p u t a b l e b y a l o g i c a l c i r c u i t . I f w e r e s t r i c t t h e c o m p u t a t i o n t i m e ,

h o w e v e r , t h e n t h e d i e r e n c e b e t w e e n p r o b l e m s p e r t a i n i n g t o l o g i c c i r c u i t s a n d t o T u r i n g -

m a c h i n e s o r t h e R A M w i l l n o t b e t h a t e s s e n t i a l . S i n c e t h e s t r u c t u r e a n d w o r k o f l o g i c

c i r c u i t s i s t h e m o s t t r a n s p a r e n t a n d t r a c t a b l e , t h e y p l a y v e r y i m p o r t a n t r o l e i n t h e o r e t i c a l

i n v e s t i g a t i o n s ( e s p e c i a l l y i n t h e p r o o f o f l o w e r b o u n d s o n c o m p l e x i t y ) .

I f a c l o c k a n d m e m o r y r e g i s t e r s a r e a d d e d t o a l o g i c c i r c u i t w e a r r i v e a t t h e i n t e r c o n n e c t e d

n i t e a u t o m a t a t h a t f o r m t h e t y p i c a l h a r d w a r e c o m p o n e n t s o f t o d a y ' s c o m p u t e r s . L e t u s

n o t e t h a t a x e d n i t e a u t o m a t o n , w h e n u s e d o n i n p u t s o f a r b i t r a r y s i z e , c a n c o m p u t e o n l y

v e r y p r i m i t i v e f u n c t i o n s , a n d i s n o t a n a d e q u a t e c o m p u t a t i o n m o d e l .

M a y b e t h e s i m p l e s t i d e a f o r a n i n n i t e m a c h i n e i s t o c o n n e c t a n i n n i t e n u m b e r o f s i m i l a r

a u t o m a t a i n t o a n a r r a y ( s a y , a o n e - d i m e n s i o n a l o n e ) . S u c h a u t o m a t a a r e c a l l e d c e l l u l a r

a u t o m a t a .

T h e k e y n o t i o n u s e d i n d i s c u s s i n g m a c h i n e m o d e l s i s s i m u l a t i o n . T h i s n o t i o n w i l l n o t

b e d e n e d i n f u l l g e n e r a l i t y , s i n c e i t r e f e r s a l s o t o m a c h i n e s o r l a n g u a g e s n o t e v e n i n v e n t e d

y e t . B u t i t s m e a n i n g w i l l b e c l e a r . W e w i l l s a y t h a t m a c h i n e M s i m u l a t e s m a c h i n e N i f t h e

i n t e r n a l s t a t e s a n d t r a n s i t i o n s o f N c a n b e t r a c e d b y m a c h i n e M i n s u c h a w a y t h a t f r o m

t h e s a m e i n p u t s , M c o m p u t e s t h e s a m e o u t p u t s a s N .

2 . 1 T h e T u r i n g m a c h i n e

T h e n o t i o n o f a T u r i n g m a c h i n e O n e t e n d e n c y o f c o m p u t e r d e v e l o p m e n t i s t o b u i l d

l a r g e r a n d l a r g e r n i t e m a c h i n e s f o r l a r g e r a n d l a r g e r t a s k s . T h o u g h t h e d e t a i l e d s t r u c t u r e

o f t h e l a r g e r m a c h i n e i s d i e r e n t f r o m t h a t o f t h e s m a l l e r o n e s c e r t a i n g e n e r a l p r i n c i p l e s

g u a r a n t e e s o m e u n i f o r m i t y a m o n g c o m p u t e r s o f d i e r e n t s i z e . F o r t h e o r e t i c a l p u r p o s e s , i t

i s d e s i r a b l e t o p u r s u e t h i s u n i f o r m i t y t o t h e l i m i t a n d t o d e s i g n a c o m p u t e r m o d e l i n n i t e

i n s i z e , a c c o m o d a t i n g t h e r e f o r e t a s k s o f a r b i t r a r y s i z e . A g o o d s t a r t i n g p o i n t s e e m s t o b e

t o t r y t o c h a r a c t e r i z e t h o s e f u n c t i o n s o v e r t h e s e t o f n a t u r a l n u m b e r s c o m p u t a b l e b y a n

7


8/169

i d e a l i z e d h u m a n c a l c u l a t o r . S u c h a c a l c u l a t o r c a n h o l d o n l y a l i m i t e d a m o u n t o f i n f o r m a t i o n

i n t e r n a l l y b u t h a s a c c e s s t o a r b i t r a r y a m o u n t s o f s c r a t c h p a p e r . T h i s i s t h e i d e a b e h i n d

T u r i n g m a c h i n e s . I n s h o r t , a T u r i n g m a c h i n e i s a n i t e - s t a t e m a c h i n e i n t e r a c t i n g w i t h a n

i n n i t e t a p e t h r o u g h a d e v i c e t h a t c a n r e a d t h e t a p e , w r i t e i t o r m o v e o n i t i n u n i t s t e p s .

F o r m a l l y , a T u r i n g m a c h i n e c o n s i s t s o f t h e f o l l o w i n g .

( a ) k 1 t a p e s i n n i t e i n b o t h d i r e c t i o n s . T h e t a p e s a r e d i v i d e d i n t o a n i n n i t e n u m b e r

o f c e l l s i n b o t h d i r e c t i o n s . E v e r y t a p e h a s a d i s t i n g u i s h e d s t a r t i n g c e l l w h i c h w e w i l l

a l s o c a l l t h e 0 t h c e l l . O n e v e r y c e l l o f e v e r y t a p e , a s y m b o l c a n b e w r i t t e n f r o m a n i t e

a l p h a b e t . W i t h t h e e x c e p t i o n o f n i t e l y m a n y c e l l s , t h i s s y m b o l m u s t b e a s p e c i a l

s y m b o l o f t h e a l p h a b e t , d e n o t i n g t h e \ e m p t y c e l l " .

( b ) A r e a d - w r i t e h e a d , p o s i t i o n e d i n e v e r y s t e p o v e r a c e l l o f t h e t a p e , b e l o n g s t o e v e r y

t a p e .

( c ) A c o n t r o l u n i t w i t h a s e t o f p o s s i b l e s t a t e s f r o m a n i t e s e t ; . T h e r e i s a d i s t i n g u i s h e d

s t a r t i n g s t a t e \ S T A R T " a n d e n d i n g s t a t e \ S T O P " .

I n i t i a l l y , t h e c o n t r o l u n i t i s i n t h e \ S T A R T " s t a t e , a n d t h e h e a d s r e s t o v e r t h e s t a r t i n g

c e l l s o f t h e t a p e s . I n e v e r y s t e p , e a c h h e a d r e a d s t h e s y m b o l f o u n d i n t h e g i v e n c e l l o f t h e

t a p e d e p e n d i n g o n t h e s y m b o l s r e a d a n d i t s o w n s t a t e , t h e c o n t r o l u n i t d o e s o n e o f t h e

f o l l o w i n g 3 t h i n g s :

| m a k e s a t r a n s i t i o n i n t o a n e w s t a t e ( t h i s c a n b e t h e s a m e a s t h e o l d o n e , t o o )

| d i r e c t s e a c h h e a d t o o v e r w r i t e t h e s y m b o l i n t h e t a p e c e l l i t i s s c a n n i n g ( i n p a r t i c u l a r ,

i t c a n g i v e t h e d i r e c t i o n t o l e a v e i t u n c h a n g e d )

| d i r e c t s e a c h h e a d t o m o v e o n e s t e p r i g h t o r l e f t , o r t o s t a y i n p l a c e .

T h e m a c h i n e h a l t s w h e n t h e c o n t r o l u n i t r e a c h e s t h e s t a t e \ S T O P " .

M a t h e m a t i c a l l y , t h e f o l l o w i n g d a t a d e s c r i b e t h e T u r i n g m a c h i n e : T = h k ; i

w h e r e k 1 i s a n a t u r a l n u m b e r , a n d ; a r e n i t e s e t s , 2 a n d S T A R T S T O P 2 ; ,

f u r t h e r

: ;

k

! ;

: ;

k

!

k

: ;

k

! f ; 1 0 1 g

k

a r e a r b i t r a r y m a p p i n g s . A m o n g t h e s e , g i v e s t h e n e w s t a t e , t h e s y m b o l s t o b e w r i t t e n

o n t h e t a p e a n d s h o w s h o w m u c h t h e h e a d m o v e s . I n w h a t f o l l o w s w e x t h e a l p h a b e t

a n d a s s u m e t h a t i t c o n s i s t s , b e s i d e s t h e s y m b o l , o f a t l e a s t t w o s y m b o l s , s a y i t c o n t a i n s 0

a n d 1 ( i n m o s t c a s e s , i t w o u l d b e s u c i e n t t o c o n n e o u r s e l v e s t o t h e s e t w o s y m b o l s ) .

U n d e r t h e i n p u t o f a T u r i n g m a c h i n e , w e u n d e r s t a n d t h e w o r d s i n i t i a l l y w r i t t e n o n t h e

t a p e s . W e a l w a y s a s s u m e t h a t t h e s e a r e w r i t t e n o n t h e t a p e s s t a r t i n g f r o m t h e 0 e l d . T h u s ,

t h e i n p u t o f a k - t a p e T u r i n g m a c h i n e i s a n o r d e r e d k - t u p l e , e a c h e l e m e n t o f w h i c h i s a w o r d

8


9/169

i n

. M o s t f r e q u e n t l y , w e w r i t e a n o n - e m p t y w o r d o n l y o n t h e r s t t a p e f o r i n p u t . I f w e

s a y t h a t t h e i n p u t i s a w o r d x t h e n w e u n d e r s t a n d t h a t t h e i n p u t i s t h e k - t u p l e ( x : : : ) .

T h e o u t p u t o f t h e m a c h i n e i s a n o r d e r e d k - t u p l e c o n s i s t i n g o f t h e w o r d s o n t h e t a p e s .

F r e q u e n t l y , h o w e v e r , w e a r e r e a l l y i n t e r e s t e d o n l y i n o n e w o r d , t h e r e s t i s \ g a r b a g e " . I f

w i t h o u t a n y p r e v i o u s a g r e e m e n t , w e r e f e r t o a s i n g l e w o r d a s o u t p u t , t h e n w e u n d e r s t a n d

t h e w o r d o n t h e l a s t t a p e .

I t i s p r a c t i c a l t o a s s u m e t h a t t h e i n p u t w o r d s d o n o t c o n t a i n t h e s y m b o l . O t h e r w i s e ,

i t w o u l d n o t b e p o s s i b l e t o k n o w w h e r e i s t h e e n d o f t h e i n p u t : a s i m p l e p r o b l e m l i k e \ n d

o u t t h e l e n g t h o f t h e i n p u t " w o u l d n o t b e s o l v a b l e , i t w o u l d b e u s e l e s s f o r t h e h e a d t o k e e p

s t e p p i n g r i g h t , i t w o u l d n o t k n o w w h e t h e r t h e i n p u t h a s a l r e a d y e n d e d . W e d e n o t e t h e

a l p h a b e t n f g b y

0

. ( W e c o u l d r e s e r v e a s y m b o l f o r s i g n a l l i n g \ e n d o f i n p u t " i n s t e a d . )

W e a l s o a s s u m e t h a t d u r i n g i t s w o r k , t h e T u r i n g m a c h i n e r e a d s i t s w h o l e i n p u t w i t h t h i s ,

w e e x c l u d e o n l y t r i v i a l c a s e s .

2 . 1 E x e r c i s e C o n s t r u c t a T u r i n g m a c h i n e t h a t c o m p u t e s t h e f o l l o w i n g f u n c t i o n s :

( a ) x

1

: : : x

m

7! x

m

: : : x

1

.

( b ) x

1

: : : x

m

7! x

1

: : : x

m

x

1

: : : x

m

.

( c ) x

1

: : : x

m

7! x

1

x

1

: : : x

m

x

m

.

( d ) f o r a n i n p u t o f l e n g t h m c o n s i s t i n g o f a l l 1 ' s , t h e b i n a r y f o r m o f m f o r a l l o t h e r i n p u t s ,

\ W I N N I E P O O H " .

}

2 . 2 E x e r c i s e A s s u m e t h a t w e h a v e t w o T u r i n g m a c h i n e s , c o m p u t i n g t h e f u n c t i o n s f :

0

!

0

a n d g :

0

!

0

. C o n s t r u c t a T u r i n g m a c h i n e c o m p u t i n g t h e f u n c t i o n f g . }

2 . 3 E x e r c i s e C o n s t r u c t a T u r i n g m a c h i n e t h a t m a k e s 2

j x j

s t e p s f o r e a c h i n p u t x . }

2 . 4 E x e r c i s e C o n s t r u c t a T u r i n g m a c h i n e t h a t o n i n p u t x , h a l t s i n n i t e l y m a n y s t e p s i f

a n d o n l y i f t h e s y m b o l 0 o c c u r s i n x . }

T u r i n g m a c h i n e s a r e d e n e d i n m a n y d i e r e n t , b u t f r o m a l l i m p o r t a n t p o i n t s o f v i e w

e q u i v a l e n t , w a y s i n d i e r e n t b o o k s . O f t e n , t a p e s a r e i n n i t e o n l y i n o n e d i r e c t i o n t h e i r

n u m b e r c a n v i r t u a l l y a l w a y s b e r e s t r i c t e d t o t w o a n d i n m a n y r e s p e c t s e v e n t o o n e w e c o u l d

a s s u m e t h a t b e s i d e s t h e s y m b o l ( w h i c h i n t h i s c a s e w e i d e n t i f y w i t h 0 ) t h e a l p h a b e t c o n t a i n s

o n l y t h e s y m b o l 1 a b o u t s o m e t a p e s , w e c o u l d s t i p u l a t e t h a t t h e m a c h i n e c a n o n l y r e a d f r o m

t h e m o r o n l y w r i t e o n t o t h e m ( b u t a t l e a s t o n e t a p e m u s t b e b o t h r e a d a b l e a n d w r i t a b l e ) e t c .

T h e e q u i v a l e n c e o f t h e s e v a r i a n t s f r o m t h e p o i n t o f v i e w o f t h e c o m p u t a t i o n s p e r f o r m a b l e

o n t h e m , c a n b e v e r i e d w i t h m o r e o r l e s s w o r k b u t w i t h o u t a n y g r e a t e r d i c u l t y . I n t h i s

d i r e c t i o n , w e w i l l p r o v e o n l y a s m u c h a s w e n e e d , b u t s o m e i n t u i t i o n w i l l b e p r o v i d e d .

2 . 5 E x e r c i s e W r i t e a s i m u l a t i o n o f a T u r i n g m a c h i n e w i t h a d o u b l y i n n i t e t a p e b y a

T u r i n g m a c h i n e w i t h a t a p e t h a t i s i n n i t e o n l y i n o n e d i r e c t i o n . }

9


10/169

U n i v e r s a l T u r i n g m a c h i n e s B a s e d o n t h e p r e c e d i n g , w e c a n n o t i c e a s i g n i c a n t d i e r -

e n c e b e t w e e n T u r i n g m a c h i n e s a n d r e a l c o m p u t e r s : F o r t h e c o m p u t a t i o n o f e a c h f u n c t i o n ,

w e c o n s t r u c t e d a s e p a r a t e T u r i n g m a c h i n e , w h i l e o n r e a l p r o g r a m - c o n t r o l l e d c o m p u t e r s , i t i s

e n o u g h t o w r i t e a n a p p r o p r i a t e p r o g r a m . W e w i l l s h o w n o w t h a t T u r i n g m a c h i n e s c a n a l s o

b e o p e r a t e d t h i s w a y : a T u r i n g m a c h i n e c a n b e c o n s t r u c t e d o n w h i c h , u s i n g s u i t a b l e \ p r o -

g r a m s " , e v e r y t h i n g i s c o m p u t a b l e t h a t i s c o m p u t a b l e o n a n y T u r i n g m a c h i n e . S u c h T u r i n g

m a c h i n e s a r e i n t e r e s t i n g n o t j u s t b e c a u s e t h e y a r e m o r e l i k e p r o g r a m - c o n t r o l l e d c o m p u t e r s

b u t t h e y w i l l a l s o p l a y a n i m p o r t a n t r o l e i n m a n y p r o o f s .

L e t T = h k + 1 ;

T

T

T

T

i a n d S = h k ;

S

S

S

S

i b e t w o T u r i n g m a c h i n e s

( k 1 ) . L e t p 2

0

. W e s a y t h a t T s i m u l a t e s S w i t h p r o g r a m p i f f o r a r b i t r a r y w o r d s

x

1

: : : x

k

2

0

, m a c h i n e T h a l t s i n n i t e l y m a n y s t e p s o n i n p u t ( x

1

: : : x

k

p ) i f a n d o n l y i f

S h a l t s o n i n p u t ( x

1

: : : x

k

) a n d i f a t t h e t i m e o f t h e s t o p , t h e r s t k t a p e s o f T e a c h h a v e

t h e s a m e c o n t e n t a s t h e t a p e s o f S .

W e s a y t h a t a ( k + 1 ) - t a p e T u r i n g m a c h i n e i s u n i v e r s a l ( w i t h r e s p e c t t o k - t a p e T u r i n g

m a c h i n e s ) i f f o r e v e r y k - t a p e T u r i n g m a c h i n e S o v e r , t h e r e i s a w o r d ( p r o g r a m ) p w i t h

w h i c h T s i m u l a t e s S .

( 2 . 1 . 1 ) T h e o r e m F o r e v e r y n u m b e r k 1 a n d e v e r y a l p h a b e t t h e r e i s a ( k + 1 ) - t a p e

u n i v e r s a l T u r i n g m a c h i n e .

P r o o f T h e b a s i c i d e a o f t h e c o n s t r u c t i o n o f a u n i v e r s a l T u r i n g m a c h i n e i s t h a t o n t a p e

k + 1 , w e w r i t e a t a b l e d e s c r i b i n g t h e w o r k o f t h e T u r i n g m a c h i n e S t o b e s i m u l a t e d . B e s i d e s

t h i s , t h e u n i v e r s a l T u r i n g m a c h i n e T w r i t e s i t u p f o r i t s e l f , w h i c h s t a t e o f t h e s i m u l a t e d

m a c h i n e S i t i s c u r r e n t l y i n ( e v e n i f t h e r e i s o n l y a n i t e n u m b e r o f s t a t e s , t h e x e d m a c h i n e

T m u s t s i m u l a t e a l l m a c h i n e s S , s o i t \ c a n n o t k e e p i n i t s h e a d " t h e s t a t e s o f S ) . I n e a c h

s t e p , o n t h e b a s i s o f t h i s , a n d t h e s y m b o l s r e a d o n t h e o t h e r t a p e s , i t l o o k s u p i n t h e t a b l e

t h e s t a t e t h a t S m a k e s t h e t r a n s i t i o n i n t o , w h a t i t w r i t e s o n t h e t a p e s a n d w h a t m o v e s t h e

h e a d s m a k e .

W e g i v e t h e e x a c t c o n s t r u c t i o n b y r s t u s i n g k + 2 t a p e s . F o r t h e s a k e o f s i m p l i c i t y ,

a s s u m e t h a t c o n t a i n s t h e s y m b o l s \ 0 " , \ 1 " , \ { 1 " . L e t S = h k ;

S

S

S

S

i b e a n

a r b i t r a r y k - t a p e T u r i n g m a c h i n e . W e i d e n t i f y e a c h e l e m e n t o f t h e s t a t e s e t ;

S

n f S T O P g

w i t h a w o r d o f l e n g t h r o v e r t h e a l p h a b e t

0

. L e t t h e \ c o d e " o f a g i v e n p o s i t i o n o f m a c h i n e

S b e t h e f o l l o w i n g w o r d :

g h

1

: : : h

k

S

( g h

1

: : : h

k

)

S

( g h

1

: : : h

k

)

S

( g h

1

: : : h

k

)

w h e r e g 2 ;

S

i s t h e g i v e n s t a t e o f t h e c o n t r o l u n i t , a n d h

1

: : : h

k

2 a r e t h e s y m b o l s r e a d

b y e a c h h e a d . W e c o n c a t e n a t e a l l s u c h w o r d s i n a r b i t r a r y o r d e r a n d o b t a i n s o t h e w o r d a

S

.

T h i s i s w h a t w e w i l l w r i t e o n t a p e k + 1 w h i l e o n t a p e k + 2 , w e w r i t e a s t a t e o f m a c h i n e

S , i n i t i a l l y t h e n a m e o f t h e S T A R T s t a t e .

F u r t h e r , w e c o n s t r u c t t h e T u r i n g m a c h i n e T

0

w h i c h s i m u l a t e s o n e s t e p o r S a s f o l l o w s .

O n t a p e k + 1 , i t l o o k s u p t h e e n t r y c o r r e s p o n d i n g t o t h e s t a t e r e m e m b e r e d o n t a p e k + 2

a n d t h e s y m b o l s r e a d b y t h e r s t k h e a d s , t h e n i t r e a d s f r o m t h e r e w h a t i s t o b e d o n e : i t

w r i t e s t h e n e w s t a t e o n t a p e k + 2 , t h e n i t l e t s i t s r s t k h e a d s w r i t e t h e a p p r o p r i a t e s y m b o l

a n d m o v e i n t h e a p p r o p r i a t e d i r e c t i o n .

1 0


11/169

F o r t h e s a k e o f c o m p l e t e n e s s , w e a l s o d e n e m a c h i n e T

0

f o r m a l l y , b u t w e a l s o m a k e s o m e

c o n c e s s i o n t o s i m p l i c i t y i n t h a t w e d o t h i s o n l y f o r c a s e k = 1 . T h u s , t h e m a c h i n e h a s

t h r e e h e a d s . B e s i d e s t h e o b l i g a t o r y \ S T A R T " a n d \ S T O P " s t a t e s , l e t i t a l s o h a v e s t a t e s

N O M A T C H - O N , N O M A T C H - B A C K - 1 , N O M A T C H - B A C K - 2 , M A T C H - B A C K , W R I T E -

S T A T E , M O V E a n d A G A I N . L e t h ( i ) d e n o t e t h e s y m b o l r e a d b y t h e i - t h h e a d ( 1 i 3 ) .

W e d e s c r i b e t h e f u n c t i o n s b y t h e t a b l e i n F i g u r e 2 . 1 ( w h e r e v e r w e d o n o t s p e c i f y

a n e w s t a t e t h e c o n t r o l u n i t s t a y s i n t h e o l d o n e ) . I n t h e t y p i c a l r u n i n F i g u r e 2 . 2 , t h e

n u m b e r s o n t h e l e f t r e f e r t o l i n e s i n t h e a b o v e p r o g r a m . T h e t h r e e t a p e s a r e s e p a r a t e d b y

t r i p l e v e r t i c a l l i n e s , a n d t h e h e a d p o s i t i o n s a r e s h o w n b y u n d e r s c o r e s .

W e c a n g e t r i d o f t a p e k + 2 e a s i l y : i t s c o n t e n t s ( w h i c h i s a l w a y s j u s t r c e l l s ) w i l l b e p l a c e d

o n c e l l s { 1 , { 2 , : : : , ; r . I t i s a p r o b l e m , h o w e v e r , t h a t w e s t i l l n e e d t w o h e a d s o n t h i s t a p e :

o n e m o v e s o n i t s p o s i t i v e h a l f , a n d o n e o n t h e n e g a t i v e h a l f . W e s o l v e t h i s b y d o u b l i n g e a c h

c e l l : t h e s y m b o l w r i t t e n i n t o i t o r i g i n a l l y s t a y s i n i t s l e f t h a l f , a n d i n i t s r i g h t h a l f t h e r e i s

a 1 i f t h e h e a d w o u l d r e s t t h e r e , a n d a 0 i f t w o h e a d s w o u l d r e s t t h e r e ( t h e o t h e r r i g h t h a l f

c e l l s s t a y e m p t y ) . I t i s e a s y t o d e s c r i b e h o w a h e a d m u s t m o v e o n t h i s t a p e i n o r d e r t o b e

a b l e t o s i m u l a t e t h e m o v e m e n t o f b o t h o r i g i n a l h e a d s .

2 . 6 E x e r c i s e S h o w t h a t i f w e s i m u l a t e a k - t a p e m a c h i n e o n t h e a b o v e c o n s t r u c t e d ( k + 1 ) -

t a p e T u r i n g m a c h i n e t h e n o n a n a r b i t r a r y i n p u t , t h e n u m b e r o f s t e p s i n c r e a s e s o n l y b y a

m u l t i p l i c a t i v e f a c t o r p r o p o r t i o n a l t o t h e l e n g t h o f t h e s i m u l a t i n g p r o g r a m . }

2 . 7 E x e r c i s e L e t T a n d S b e t w o o n e - t a p e T u r i n g m a c h i n e s . W e s a y t h a t T s i m u l a t e s t h e

w o r k o f S b y p r o g r a m p ( h e r e p 2

0

) i f f o r a l l w o r d s x 2

0

, m a c h i n e T h a l t s o n i n p u t p x

i n a n i t e n u m b e r o f s t e p s i f a n d o n l y i f S h a l t s o n i n p u t x a n d a t h a l t i n g , w e n d t h e s a m e

c o n t e n t o n t h e t a p e o f T a s o n t h e t a p e o f S . P r o v e t h a t t h e r e i s a o n e - t a p e T u r i n g m a c h i n e

T t h a t c a n s i m u l a t e t h e w o r k o f e v e r y o t h e r o n e - t a p e T u r i n g m a c h i n e i n t h i s s e n s e . }

1 1


12/169

S T A R T :

1 : i f h ( 2 ) = h ( 3 ) 6= t h e n 2 a n d 3 m o v e s r i g h t

2 : i f h ( 2 ) h ( 3 ) 6= a n d h ( 2 ) 6= h ( 3 ) t h e n \ N O M A T C H - O N " a n d 2 , 3 m o v e r i g h t

8 : i f h ( 3 ) = a n d h ( 2 ) 6= h ( 1 ) t h e n \ N O M A T C H - B A C K - 1 " a n d 2 m o v e s r i g h t , 3

m o v e s l e f t

9 : i f h ( 3 ) = a n d h ( 2 ) = h ( 1 ) t h e n \ M A T C H - B A C K " , 2 m o v e s r i g h t a n d 3 m o v e s

l e f t

1 8 : i f h ( 3 ) 6= a n d h ( 2 ) = t h e n \ S T O P "

N O M A T C H - O N :

3 : i f h ( 3 ) 6= t h e n 2 a n d 3 m o v e r i g h t

4 : i f h ( 3 ) = t h e n \ N O M A T C H - B A C K - 1 " a n d 2 m o v e s r i g h t , 3 m o v e s l e f t

N O M A T C H - B A C K - 1 :

5 : i f h ( 3 ) 6= t h e n 3 m o v e s l e f t , 2 m o v e s r i g h t

6 : i f h ( 3 ) = t h e n \ N O M A T C H - B A C K - 2 " , 2 m o v e s r i g h t

N O M A T C H - B A C K - 2 :

7 : \ S T A R T " , 2 a n d 3 m o v e s r i g h t

M A T C H - B A C K :

1 0 : i f h ( 3 ) 6= t h e n 3 m o v e s l e f t

1 1 : i f h ( 3 ) = t h e n \ W R I T E - S T A T E " a n d 3 m o v e s r i g h t

W R I T E - S T A T E :

1 2 : i f h ( 3 ) 6= t h e n 3 w r i t e s t h e s y m b o l h ( 2 ) a n d 2 , 3 m o v e s r i g h t

1 3 : i f h ( 3 ) = t h e n \ M O V E " , h e a d 1 w r i t e s h ( 2 ) , 2 m o v e s r i g h t a n d 3 m o v e s l e f t

M O V E :

1 4 : \ A G A I N " , h e a d 1 m o v e s h ( 2 )

A G A I N :

1 5 : i f h ( 2 ) 6= a n d h ( 3 ) 6= t h e n 2 a n d 3 m o v e l e f t

1 6 : i f h ( 2 ) 6= b u t h ( 3 ) = t h e n 2 m o v e s l e f t

1 7 : i f h ( 2 ) = h ( 3 ) = t h e n \ S T A R T " , a n d 2 , 3 m o v e r i g h t .

F i g u r e 2 . 1 : A u n i v e r s a l T u r i n g m a c h i n e

1 2


13/169

l i n e T a p e 3 T a p e 2 T a p e 1

1 0 1 0 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 1 0 1 1 1 1 0 1 1 1

2 0 1 0 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 1 0 1 1 1 1 0 1 1 1

3 0 1 0 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 1 0 1 1 1 1 0 1 1 1

4 0 1 0 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 1 0 1 1 1 1 0 1 1 1

5 0 1 0 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 1 0 1 1 1 1 0 1 1 1

6 0 1 0 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 1 0 1 1 1 1 0 1 1 1

7 0 1 0 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 1 0 1 1 1 1 0 1 1 1

1 0 1 0 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 1 0 1 1 1 1 0 1 1 1

8 0 1 0 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 1 0 1 1 1 1 0 1 1 1

9 0 1 0 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 1 0 1 1 1 1 0 1 1 1

1 0 0 1 0 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 1 0 1 1 1 1 0 1 1 1

1 1 0 1 0 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 1 0 1 1 1 1 0 1 1 1

1 2 0 1 0 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 1 0 1 1 1 1 0 1 1 1

1 3 1 1 1 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 1 0 1 1 1 1 0 1 1 1

1 4 1 1 1 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 1 0 1 1 1 1 0 1 0 1

1 5 1 1 1 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 1 0 1 1 1 1 0 1 0 1

1 6 1 1 1 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 1 0 1 1 1 1 0 1 0 1

1 7 1 1 1 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 1 0 1 1 1 1 0 1 0 1

1 1 1 1 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 1 0 1 1 1 1 0 1 0 1

1 8 1 1 1 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 1 0 1 1 1 1 0 1 0 1

F i g u r e 2 . 2 : E x a m p l e r u n o f t h e u n i v e r s a l T u r i n g m a c h i n e

1 3


14/169


15/169

t h e n i t w o u l d m o v e t h a t a l s o b y 2 k p o s i t i o n s i n t h e a p p r o p r i a t e d i r e c t i o n . )

W h e n t h e s i m u l a t i o n o f t h e c o m p u t a t i o n o f S i s n i s h e d , t h e r e s u l t m u s t s t i l l b e \ c o m -

p r e s s e d " : t h e c o n t e n t o f c e l l 2 k i m u s t b e c o p i e d t o c e l l i . T h i s c a n b e d o n e s i m i l a r l y t o t h e

i n i t i a l \ s t r e t c h i n g " .

O b v i o u s l y , t h e a b o v e d e s c r i b e d m a c h i n e T w i l l c o m p u t e t h e s a m e t h i n g a s S . T h e n u m b e r

o f s t e p s i s m a d e u p o f t h r e e p a r t s : t h e t i m e s o f \ s t r e t c h i n g " , t h e s i m u l a t i o n a n d \ c o m p r e s -

s i o n " . L e t M b e t h e n u m b e r o f c e l l s o n m a c h i n e T w h i c h w i l l e v e r b e s c a n n e d b y t h e

m a c h i n e o b v i o u s l y , M = O ( N ) . T h e \ s t r e t c h i n g " a n d \ c o m p r e s s i o n " n e e d t i m e O ( M

2

) .

T h e s i m u l a t i o n o f o n e s t e p o f S n e e d s O ( M ) s t e p s , s o t h e s i m u l a t i o n n e e d s O ( M N ) s t e p s .

A l l t o g e t h e r , t h i s i s s t i l l o n l y O ( N

2

) s t e p s .

2 . 8 E x e r c i s e I n t h e s i m u l a t i o n o f k - t a p e m a c h i n e s b y o n e - t a p e m a c h i n e s g i v e n a b o v e t h e

n i t e c o n t r o l o f t h e s i m u l a t i n g m a c h i n e T w a s s o m e w h a t b i g g e r t h a n t h a t o f t h e s i m u l a t e d

m a c h i n e S : m o r e o v e r , t h e n u m b e r o f s t a t e s o f t h e s i m u l a t i n g m a c h i n e d e p e n d s o n k . P r o v e

t h a t t h i s i s n o t n e c e s s a r y : t h e r e i s a o n e - t a p e m a c h i n e t h a t c a n s i m u l a t e a r b i t r a r y k - t a p e

m a c h i n e s . }

( 2 . 9 ) E x e r c i s e S h o w t h a t i f w e a l l o w a t w o - t a p e T u r i n g m a c h i n e i n T h e o r e m 2 . 1 . 2 t h e n

t h e n u m b e r o f s t e p s i n c r e a s e s l e s s : e v e r y k - t a p e T u r i n g m a c h i n e c a n b e r e p l a c e d b y a t w o -

t a p e o n e i n s u c h a w a y t h a t i f o n s o m e i n p u t , t h e k - t a p e m a c h i n e m a k e s N s t e p s t h e n t h e

t w o - t a p e o n e m a k e s a t m o s t O ( N l o g N ) . H i n t : R a t h e r t h a n m o v i n g t h e s i m u l a t e d h e a d s ,

m o v e t h e s i m u l a t e d t a p e s ! ( H e n n i e - S t e a r n s ) ] }

2 . 1 0 E x e r c i s e L e t t h e l a n g u a g e L c o n s i s t o f \ p a l i n d r o m e s " :

L = f x

1

: : : x

n

x

n

: : : x

1

: x

1

: : : x

n

2

0

g :

( a ) T h e r e i s a 2 - t a p e T u r i n g m a c h i n e d e c i d i n g a b o u t a w o r d o f l e n g t h N i n O ( N ) s t e p s ,

w h e t h e r i t i s i n L .

( b ) E v e r y 1 - t a p e T u r i n g m a c h i n e n e e d s ( N

2

) s t e p s t o d e c i d e t h i s .

}

2 . 1 1 E x e r c i s e T w o - d i m e n s i o n a l t a p e .

( a ) D e n e t h e n o t i o n o f a T u r i n g m a c h i n e w i t h a t w o - d i m e n s i o n a l t a p e .

( b ) S h o w t h a t a t w o - t a p e T u r i n g m a c h i n e c a n s i m u l a t e a T u r i n g m a c h i n e w i t h a t w o -

d i m e n s i o n a l t a p e . H i n t : S t o r e o n t a p e 1 , w i t h e a c h s y m b o l o f t h e t w o - d i m e n s i o n a l

t a p e , t h e c o o r d i n a t e s o f i t s o r i g i n a l p o s i t i o n . ]

( c ) E s t i m a t e t h e e c i e n c y o f t h e a b o v e s i m u l a t i o n .

}

1 5


16/169


17/169

m e m o r y a n d t h e s i z e o f t h e n u m b e r s s t o r e d . ) A t a n y g i v e n t i m e , o n l y n i t e l y m a n y o f t h e

n u m b e r s s t o r e d i n m e m o r y a r e d i e r e n t f r o m 0 .

T h e p r o g r a m s t o r a g e c o n s i s t s a l s o o f a n i n n i t e s e q u e n c e o f r e g i s t e r s c a l l e d l i n e s . W e

w r i t e h e r e a p r o g r a m o f s o m e n i t e l e n g t h , i n a c e r t a i n p r o g r a m m i n g l a n g u a g e s i m i l a r t o t h e

m a c h i n e l a n g u a g e o f r e a l m a c h i n e s . I t i s e n o u g h , e . g . , t o p e r m i t t h e f o l l o w i n g i n s t r u c t i o n s :

x i ] : = 0 x i ] : = x i ] + 1 x i ] : = x i ] ; 1

x i ] : = x i ] + x j ] x i ] : = x i ] ; x j ]

x i ] : = x x j ] ] x x i ] ] : = x j ]

i f x i ] 0 t h e n g o t o p :

H e r e , i a n d j a r e t h e n u m b e r o f s o m e m e m o r y r e g i s t e r ( i . e . a n a r b i t r a r y i n t e g e r ) , p i s t h e

n u m b e r o f s o m e p r o g r a m l i n e ( i . e . a n a r b i t r a r y n a t u r a l n u m b e r ) . T h e i n s t r u c t i o n b e f o r e t h e

l a s t o n e g u a r a n t e e s t h e p o s s i b i l i t y o f i m m e d i a t e a d d r e s s i n g . W i t h i t , t h e m e m o r y b e h a v e s

l i k e a n a r r a y i n a c o n v e n t i o n a l p r o g r a m m i n g l a n g u a g e l i k e P a s c a l . W h a t a r e e x a c t l y t h e b a s i c

i n s t r u c t i o n s h e r e i s i m p o r t a n t o n l y t o t h e e x t e n t t h a t t h e y s h o u l d b e s u c i e n t l y s i m p l e t o

i m p l e m e n t , e x p r e s s i v e e n o u g h t o m a k e t h e d e s i r e d c o m p u t a t i o n s p o s s i b l e , a n d t h e i r n u m b e r

b e n i t e . F o r e x a m p l e , i t w o u l d b e s u c i e n t t o a l l o w t h e v a l u e s ; 1 ; 2 ; 3 f o r i j . W e c o u l d

a l s o o m i t t h e o p e r a t i o n s o f a d d i t i o n a n d s u b t r a c t i o n f r o m a m o n g t h e e l e m e n t a r y o n e s , s i n c e

a p r o g r a m c a n b e w r i t t e n f o r t h e m . O n t h e o t h e r h a n d , w e c o u l d a l s o i n c l u d e m u l t i p l i c a t i o n ,

e t c .

T h e i n p u t o f t h e R a n d o m A c c e s s M a c h i n e i s a s e q u e n c e o f n a t u r a l n u m b e r s w r i t t e n i n t o

t h e m e m o r y r e g i s t e r s x 0 ] x 1 ] : : : . T h e R a n d o m A c c e s s M a c h i n e c a r r i e s o u t a n a r b i t r a r y

n i t e p r o g r a m . I t s t o p s w h e n i t a r r i v e s a t a p r o g r a m l i n e w i t h n o i n s t r u c t i o n i n i t . T h e

o u t p u t i s d e n e d a s t h e c o n t e n t o f t h e r e g i s t e r s x i ] a f t e r t h e p r o g r a m s t o p s .

T h e n u m b e r o f s t e p s o f t h e R a n d o m A c c e s s M a c h i n e i s n o t t h e b e s t m e a s u r e o f t h e \ t i m e i t

t a k e s t o w o r k " . D u e t o t h e f a c t t h a t t h e i n s t r u c t i o n s o p e r a t e o n n a t u r a l n u m b e r s o f a r b i t r a r y

s i z e , t r i c k s a r e p o s s i b l e t h a t a r e v e r y f a r f r o m p r a c t i c a l c o m p u t a t i o n s . F o r e x a m p l e , w e c a n

s i m u l a t e v e c t o r o p e r a t i o n s b y t h e a d d d i t i o n o f t w o v e r y l a r g e n a t u r a l n u m b e r s . O n e p o s s i b l e

r e m e d y i s t o p e r m i t o n l y o p e r a t i o n s e v e n m o r e p r i m i t i v e t h a n a d d i t i o n : i t i s e n o u g h t o

p e r m i t x i ] : = x i ] + 1 ( s e e t h e e x e r c i s e o n t h e P o i n t e r M a c h i n e b e l o w ) . T h e o t h e r p o s s i b i l i t y

i s t o s p e a k a b o u t t h e r u n n i n g t i m e o f a R A M i n s t e a d o f i t s n u m b e r o f s t e p s . W e d e n e t h i s

b y c o u n t i n g a s t h e t i m e o f a s t e p n o t o n e u n i t b u t a s m u c h a s t h e n u m b e r o f b i n a r y d i g i t s o f

t h e n a t u r a l n u m b e r s o c c u r r i n g i n i t ( r e g i s t e r a d d r e s s e s a n d t h e i r c o n t e n t s ) . ( S i n c e t h e s e a r e

e s s e n t i a l l y b a s e t w o l o g a r i t h m s , i t i s a l s o u s u a l t o c a l l t h i s m o d e l l o g a r i t h m i c c o s t R A M . )

S o m e t i m e s , t h e r u n n i n g t i m e o f s o m e a l g o r i t h m s i s c h a r a c t e r i z e d b y t w o n u m b e r s . W e

w o u l d s a y t h a t \ t h e m a c h i n e m a k e s a t m o s t n s t e p s o n n u m b e r s w i t h a t m o s t k ( b i n a r y )

d i g i t s " t h i s g i v e s t h e r e f o r e a r u n n i n g t i m e o f O ( n k ) .

2 . 1 4 E x e r c i s e W r i t e a p r o g r a m f o r t h e R A M t h a t f o r a g i v e n p o s i t i v e n u m b e r a

( a ) d e t e r m i n e s t h e l a r g e s t n u m b e r m w i t h 2

m

a

( b ) c o m p u t e s i t s b a s e 2 r e p r e s e n t a t i o n

}

1 7


18/169

2 . 1 5 E x e r c i s e L e t p ( x ) = a

0

+ a

1

x + + a

n

x

n

b e a p o l y n o m i a l w i t h i n t e g e r c o e c i e n t s

a

0

: : : a

n

. W r i t e a R A M p r o g r a m c o m p u t i n g t h e c o e c i e n t s o f t h e p o l y n o m i a l ( p ( x ) )

2

f r o m t h o s e o f p ( x ) . E s t i m a t e t h e r u n n i n g t i m e o f y o u r p r o g r a m i n t e r m s o f n a n d K =

m a x f j a

0

j : : : j a

n

j g . }

N o w w e s h o w t h a t t h e R A M a n d T u r i n g m a c h i n e s c a n c o m p u t e e s s e n t i a l l y t h e s a m e a n d

t h e i r r u n n i n g t i m e s d o n o t d i e r t o o m u c h e i t h e r . L e t u s c o n s i d e r ( f o r s i m p l i c i t y ) a 1 - t a p e

T u r i n g m a c h i n e , w i t h a l p h a b e t f 0 1 2 g , w h e r e ( d e v i a t i n g f r o m e a r l i e r c o n v e n t i o n s b u t m o r e

p r a c t i c a l l y h e r e ) l e t 0 b e t h e \ " b l a n k s p a c e s y m b o l .

E v e r y i n p u t x

1

: : : x

n

o f t h e T u r i n g m a c h i n e ( w h i c h i s a 1 { 2 s e q u e n c e ) c a n b e i n t e r p r e t e d

a s a n i n p u t o f t h e R A M i n t w o d i e r e n t w a y s : w e c a n w r i t e t h e n u m b e r s n , x

1

: : : x

n

i n t o t h e r e g i s t e r s x 0 ] : : : x n ] , o r w e c o u l d a s s i g n t o t h e s e q u e n c e x

1

: : : x

n

a s i n g l e n a t u r a l

n u m b e r b y r e p l a c i n g t h e 2 ' s w i t h 0 a n d p r e x i n g a 1 . T h e o u t p u t o f t h e T u r i n g m a c h i n e c a n

b e i n t e r p r e t e d s i m i l a r l y t o t h e o u t p u t o f t h e R A M .

W e w i l l c o n s i d e r r s t t h e r s t i n t e r p r e t a t i o n .

( 2 . 2 . 1 ) T h e o r e m F o r e v e r y ( m u l t i t a p e ) T u r i n g m a c h i n e o v e r t h e a l p h a b e t f 0 1 2 g , o n e

c a n c o n s t r u c t a p r o g r a m o n t h e R a n d o m A c c e s s M a c h i n e w i t h t h e f o l l o w i n g p r o p e r t i e s . I t

c o m p u t e s f o r a l l i n p u t s t h e s a m e o u t p u t s a s t h e T u r i n g m a c h i n e a n d i f t h e T u r i n g m a -

c h i n e m a k e s N s t e p s t h e n t h e R a n d o m A c c e s s M a c h i n e m a k e s O ( N ) s t e p s w i t h n u m b e r s o f

O ( l o g N ) d i g i t s .

P r o o f L e t T = h 1 f 0 1 2 g ; i . L e t ; = f 1 : : : r g , w h e r e 1 = S T A R T a n d r =

S T O P . D u r i n g t h e s i m u l a t i o n o f t h e c o m p u t a t i o n o f t h e T u r i n g m a c h i n e , i n r e g i s t e r 2 i o f

t h e R A M w e w i l l n d t h e s a m e n u m b e r ( 0 , 1 o r 2 ) a s i n t h e i - t h c e l l o f t h e T u r i n g m a c h i n e .

R e g i s t e r x 1 ] w i l l r e m e m b e r w h e r e i s t h e h e a d o n t h e t a p e , a n d t h e s t a t e o f t h e c o n t r o l u n i t

w i l l b e d e t e r m i n e d b y w h e r e w e a r e i n t h e p r o g r a m .

O u r p r o g r a m w i l l b e c o m p o s e d o f p a r t s P

i

( 1 i r ) a n d Q

i j

( 1 i r ; 1 0 j 2 ) .

T h e p r o g r a m p a r t P

i

b e l o w ( 1 i r ; 1 ) s i m u l a t e s t h e e v e n t w h e n t h e c o n t r o l u n i t o f t h e

T u r i n g m a c h i n e i s i n s t a t e i a n d t h e m a c h n e r e a d s o u t w h a t n u m b e r i s o n c e l l x 1 ] = 2 o f t h e

t a p e . D e p e n d i n g o n t h i s , i t w i l l j u m p t o d i e r e n t p l a c e s i n t h e p r o g r a m :

x 3 ] : = x x 1 ] ]

i f x 3 ] 0 t h e n g o t o t h e a d d r e s s o f Q

i 0

]

x 3 ] : = x 3 ] ; 1


i 1

]

x 3 ] : = x 3 ] ; 1


i 2

]

L e t t h e p r o g r a m p a r t P

r

c o n s i s t o f a s i n g l e e m p t y p r o g r a m l i n e . T h e p r o g r a m p a r t Q

i j

b e l o w o v e r w r i t e s t h e x 1 ] - t h r e g i s t e r a c c o r d i n g t o t h e r u l e o f t h e T u r i n g m a c h i n e , m o d i e s

x 1 ] a c c o r d i n g t o t h e m o v e m e n t o f t h e h e a d , a n d j u m p s t o t h e c o r r e s p o n d i n g p r o g r a m p a r t

P

i

.

1 8


19/169

x 3 ] : = 0

x 3 ] : = x 3 ] + 1

.

.

.

x 3 ] : = x 3 ] + 1

9

>

>

=

>

>

( i j ) - t i m e s

x x 1 ] ] : = x 3 ]

x 1 ] : = x 1 ] + ( i j )

x 1 ] : = x 1 ] + ( i j ) x 3 ] : = 0 i f x 3 ] 0 t h e n g o t o t h e a d d r e s s o f P

( i j )

]

( H e r e , i n s t r u c t i o n x 1 ] : = x 1 ] + ( i j ) m u s t b e u n d e r s t o o d i n t h e s e n s e t h a t w e t a k e i n s t r u c -

t i o n x 1 ] : = x 1 ] + 1 o r x 1 ] : = x 1 ] ; 1 i f ( i j ) = 1 o r { 1 a n d o m i t i t i f ( i j ) = 0 . ) T h e

p r o g r a m i t s e l f l o o k s a s f o l l o w s .

x 1 ] : = 0

P

1

P

2

.

.

.

P

r

Q

1 0

.

.

.

Q

r ; 1 2

W i t h t h i s , w e h a v e d e s c r i b e d t h e \ i m i t a t i o n " o f t h e T u r i n g m a c h i n e . T o e s t i m a t e t h e r u n n i n g

t i m e , i t i s e n o u g h t o n o t e t h a t i n N s t e p s , t h e T u r i n g m a c h i n e c a n w r i t e a n y t h i n g i n a t m o s t

O ( N ) r e g i s t e r s , s o i n e a c h s t e p o f t h e T u r i n g m a c h i n e w e w o r k w i t h n u m b e r s o f l e n g t h

O ( l o g N ) .

( 2 . 2 . 2 ) R e m a r k T h e l a n g u a g e o f t h e R A M i s s i m i l a r t o ( t h o u g h m u c h s i m p l e r t h a n ) t h e

m a c h i n e l a n g u a g e o f r e a l c o m p u t e r s . I f m o r e a d v a n c e d p r o g r a m m i n g c o n s t r u c t s a r e d e s i r e d

a c o m p i l e r m u s t b e u s e d . }

A n o t h e r i n t e r p r e t a t i o n o f t h e i n p u t o f t h e T u r i n g m a c h i n e i s , a s m e n t i o n e d a b o v e , t o v i e w

t h e i n p u t a s a s i n g l e n a t u r a l n u m b e r , a n d t o e n t e r i t i n t o t h e R A M a s s u c h . T h i s n u m b e r a

i s t h u s i n r e g i s t e r x 0 ] . I n t h i s c a s e , w h a t w e c a n d o i s c o m p u t e t h e d i g i t s o f a w i t h t h e h e l p

o f a s i m p l e p r o g r a m , w r i t e t h e s e ( d e l e t i n g t h e 1 f o u n d i n t h e r s t p o s i t i o n ) i n t o t h e r e g i s t e r s

x 0 ] : : : x n ; 1 ] ( s e e E x e r c i s e 2 . 1 4 ) a n d a p p l y t h e c o n s t r u c t i o n d e s c r i b e d i n T h e o r e m 2 . 2 . 1 .

( 2 . 2 . 3 ) R e m a r k I n t h e p r o o f o f T h e o r e m 2 . 2 . 1 , w e d i d n o t u s e t h e i n s t r u c t i o n x i ] : =

x i ] + x j ] t h i s i n s t r u c t i o n i s n e e d e d o n l y i n t h e s o l u t i o n o f E x e r c i s e 2 . 1 4 . M o r e o v e r , e v e n

t h i s e x e r c i s e w o u l d b e s o l v a b l e i f w e d r o p p e d t h e r e s t r i c t i o n o n t h e n u m b e r o f s t e p s . B u t i f

w e a l l o w a r b i t r a r y n u m b e r s a s i n p u t s t o t h e R A M t h e n w i t h o u t t h i s i n s t r u c t i o n t h e r u n n i n g

t i m e , m o r e o v e r , t h e n u m b e r o f s t e p s o b t a i n e d w o u l d b e e x p o n e n t i a l e v e n f o r v e r y s i m p l e

p r o b l e m s . L e t u s e . g . c o n s i d e r t h e p r o b l e m t h a t t h e c o n t e n t a o f r e g i s t e r x 1 ] m u s t b e a d d e d

t o t h e c o n t e n t b o f r e g i s t e r x 0 ] . T h i s i s e a s y t o c a r r y o u t o n t h e R A M i n a f e w s t e p s i t s

1 9


20/169

r u n n i n g t i m e , e v e n i n c a s e o f l o g a r i t h m i c c o s t s , i s o n l y a p p r o x . l o g

2

j a j + l o g

2

j b j . B u t i f w e

e x c l u d e t h e i n s t r u c t i o n x i ] : = x i ] + x j ] t h e n t h e t i m e i t n e e d s i s a t l e a s t m i n f j a j j b j g ( s i n c e

e v e r y o t h e r i n s t r u c t i o n i n c r e a s e s t h e a b s o l u t e v a l u e o f t h e l a r g e s t s t o r e d n u m b e r b y a t m o s t

1 ) . }

L e t a p r o g r a m b e g i v e n n o w f o r t h e R A M . W e c a n i n t e r p r e t i t s i n p u t a n d o u t p u t e a c h a s

a w o r d i n f 0 1 ; # g

( d e n o t i n g a l l o c c u r r i n g i n t e g e r s i n b i n a r y , i f n e e d e d w i t h a s i g n , a n d

s e p a r a t i n g t h e m b y # ) . I n t h i s s e n s e , t h e f o l l o w i n g t h e o r e m h o l d s .

( 2 . 2 . 4 ) T h e o r e m F o r e v e r y R a n d o m A c c e s s M a c h i n e p r o g r a m t h e r e i s a T u r i n g m a c h i n e

c o m p u t i n g f o r e a c h i n p u t t h e s a m e o u t p u t . I f t h e R a n d o m A c c e s s M a c h i n e h a s r u n n i n g t i m e

N t h e n t h e T u r i n g m a c h i n e r u n s i n O ( N

2

) s t e p s .

P r o o f W e w i l l s i m u l a t e t h e c o m p u t a t i o n o f t h e R A M b y a f o u r - t a p e T u r i n g m a c h i n e . W e

w r i t e o n t h e r s t t a p e t h e c o n t e n t o f r e g i s t e r s x i ] ( i n b i n a r y , a n d w i t h s i g n i f i t i s n e g a t i v e ) .

W e c o u l d r e p r e s e n t t h e c o n t e n t o f a l l r e g i s t e r s ( r e p r e s e n t i n g , s a y , t h e c o n t e n t 0 b y t h e s y m b o l

\ * " ) . I t w o u l d c a u s e a p r o b l e m , h o w e v e r , t h a t t h e R A M c a n w r i t e e v e n i n t o t h e r e g i s t e r

w i t h n u m b e r 2

N

u s i n g o n l y t i m e N , a c c o r d i n g t o t h e l o g a r i t h m i c c o s t . O f c o u r s e , t h e n t h e

c o n t e n t o f t h e o v e r w h e l m i n g m a j o r i t y o f t h e r e g i s t e r s w i t h s m a l l e r i n d i c e s r e m a i n s 0 d u r i n g

t h e w h o l e c o m p u t a t i o n i t i s n o t p r a c t i c a l t o k e e p t h e c o n t e n t o f t h e s e o n t h e t a p e s i n c e

t h e n t h e t a p e w i l l b e v e r y l o n g , a n d i t w i l l t a k e e x p o n e n t i a l t i m e f o r t h e h e a d t o w a l k t o t h e

p l a c e w h e r e i t m u s t w r i t e . T h e r e f o r e w e w i l l s t o r e o n t h e t a p e o f t h e T u r i n g m a c h i n e o n l y

t h e c o n t e n t o f t h o s e r e g i s t e r s i n t o w h i c h t h e R A M a c t u a l l y w r i t e s . O f c o u r s e , t h e n w e m u s t

a l s o r e c o r d t h e n u m b e r o f t h e r e g i s t e r i n q u e s t i o n .

W h a t w e w i l l d o t h e r e f o r e i s t h a t w h e n e v e r t h e R A M w r i t e s a n u m b e r y i n t o a r e g i s t e r

x z ] , t h e T u r i n g m a c h i n e s i m u l a t e s t h i s b y w r i t i n g t h e s t r i n g # # y # z t o t h e e n d o f i t s r s t

t a p e . ( I t n e v e r r e w r i t e s t h i s t a p e . ) I f t h e R A M r e a d s t h e c o n t e n t o f s o m e r e g i s t e r x z ] t h e n

o n t h e r s t t a p e o f t h e T u r i n g m a c h i n e , s t a r t i n g f r o m t h e b a c k , t h e h e a d l o o k s u p t h e r s t

s t r i n g o f f o r m # # u # z t h i s v a l u e u s h o w s w h a t w a s w r i t t e n i n t h e z - t h r e g i s t e r t h e l a s t

t i m e . I f i t d o e s n o t n d s u c h a s t r i n g t h e n i t t r e a t s x z ] a s 0 .

E a c h i n s t r u c t i o n o f t h e \ p r o g r a m m i n g l a n g u a g e " o f t h e R A M i s e a s y t o s i m u l a t e b y a n

a p p r o p r i a t e T u r i n g m a c h i n e u s i n g o n l y t h e t h r e e o t h e r t a p e s . O u r T u r i n g m a c h i n e w i l l b e

a \ s u p e r m a c h i n e " i n w h i c h a s e t o f s t a t e s c o r r e s p o n d s t o e v e r y p r o g r a m l i n e . T h e s e s t a t e s

f o r m a T u r i n g m a c h i n e w h i c h c a r r i e s o u t t h e i n s t r u c t i o n i n q u e s t i o n , a n d t h e n i t b r i n g s t h e

h e a d s t o t h e e n d o f t h e r s t t a p e ( t o i t s l a s t n o n e m p t y c e l l ) a n d t o c e l l 0 o f t h e o t h e r t a p e s .

T h e S T O P s t a t e o f e a c h s u c h T u r i n g m a c h i n e i s i d e n t i e d w i t h t h e S T A R T s t a t e o f t h e

T u r i n g m a c h i n e c o r r e s p o n d i n g t o t h e n e x t l i n e . ( I n c a s e o f t h e c o n d i t i o n a l j u m p , i f x i ] 0

h o l d s , t h e \ s u p e r m a c h i n e " g o e s i n t o t h e s t a r t i n g s t a t e o f t h e T u r i n g m a c h i n e c o r r e s p o n d i n g

t o l i n e p . ) T h e S T A R T o f t h e T u r i n g m a c h i n e c o r r e s p o n d i n g t o l i n e 0 w i l l a l s o b e t h e S T A R T

o f t h e s u p e r m a c h i n e . B e s i d e s t h i s , t h e r e w i l l b e y e t a n o t h e r S T O P s t a t e : t h i s c o r r e s p o n d s

t o t h e e m p t y p r o g r a m l i n e .

I t i s e a s y t o s e e t h a t t h e T u r i n g m a c h i n e t h u s c o n s t r u c t e d s i m u l a t e s t h e w o r k o f t h e R A M

s t e p - b y - s t e p . I t c a r r i e s o u t m o s t p r o g r a m l i n e s i n a n u m b e r o f s t e p s p r o p o r t i o n a l t o t h e

n u m b e r o f d i g i t s o f t h e n u m b e r s o c c u r r i n g i n i t , i . e . t o t h e r u n n i n g t i m e o f t h e R A M s p e n t

o n i t . T h e e x c e p t i o n i s r e a d o u t , f o r w i c h p o s s i b l y t h e w h o l e t a p e m u s t b e s e a r c h e d . S i n c e

t h e l e n g t h o f t h e t a p e i s N , t h e t o t a l n u m b e r o f s t e p s i s O ( N

2

) .

2 0


21/169

2 . 1 6 E x e r c i s e S i n c e t h e R A M i s a s i n g l e m a c h i n e t h e p r o b l e m o f u n i v e r s a l i t y c a n n o t b e

s t a t e d i n e x a c t l y t h e s a m e w a y a s f o r T u r i n g m a c h i n e s : i n s o m e s e n s e , t h i s s i n g l e R A M i s

u n i v e r s a l . H o w e v e r , t h e f o l l o w i n g \ s e l f - s i m u l a t i o n " p r o p e r t y o f t h e R A M c o m e s c l o s e . F o r a

R A M p r o g r a m p a n d i n p u t x , l e t R ( p x ) b e t h e o u t p u t o f t h e R A M . L e t h p x i b e t h e i n p u t

o f t h e R A M t h a t w e o b t a i n b y w r i t i n g t h e s y m b o l s o f p o n e - b y - o n e i n t o r e g i s t e r s 1 , 2 , : : : ,

f o l l o w e d b y a s y m b o l # a n d t h e n b y r e g i s t e r s c o n t a i n i n g t h e o r i g i n a l s e q u e n c e x . P r o v e

t h a t t h e r e i s a R A M p r o g r a m u s u c h t h a t f o r a l l R A M p r o g r a m s p a n d i n p u t s x w e h a v e

R ( u h p x i ) = R ( p x ) . }

2 . 1 7 E x e r c i s e P o i n t e r M a c h i n e . A f t e r h a v i n g s e e n n i t e - d i m e n s i o n a l t a p e s a n d a t r e e t a p e ,

w e m a y w a n t t o c o n s i d e r a m a c h i n e w i t h a m o r e g e n e r a l d i r e c t e d g r a p h i t s s t o r a g e m e d i u m .

E a c h c e l l c h a s a x e d n u m b e r o f e d g e s , n u m b e r e d 1 : : : r , l e a v i n g i t . W h e n t h e h e a d s c a n s

a c e r t a i n c e l l i t c a n m o v e t o a n y o f t h e c e l l s ( c i ) ( i = 1 : : : r ) r e a c h a b l e f r o m i t a l o n g

o u t g o i n g e d g e s . S i n c e i t s e e m s i m p o s s i b l e t o a g r e e o n t h e b e s t g r a p h , w e i n t r o d u c e a n e w

k i n d o f e l e m e n t a r y o p e r a t i o n : t o c h a n g e t h e s t r u c t u r e o f t h e s t o r a g e g r a p h l o c a l l y , a r o u n d t h e

s c a n n i n g h e a d . A r b i t r a r y t r a n s f o r m a t i o n s c a n b e a c h i e v e d b y a p p l y i n g t h e f o l l o w i n g t h r e e

o p e r a t i o n s r e p e a t e d l y ( a n d i g n o r i n g n o d e s t h a t b e c o m e i s o l a t e d ) : ( c i ) : = N e w , w h e r e N e w

i s a n e w n o d e ( c i ) : = ( ( c j ) ) a n d ( ( c i ) ) : = ( c j ) . A m a c h i n e w i t h t h i s s t o r a g e

s t r u c t u r e a n d t h e s e t h r e e o p e r a t i o n s a d d e d t o t h e u s u a l T u r i n g m a c h i n e o p e r a t i o n s w i l l b e

c a l l e d a P o i n t e r M a c h i n e .

L e t u s c a l l R A M ' t h e R A M f r o m w h i c h t h e o p e r a t i o n s o f a d d i t i o n a n d s u b t r a c t i o n a r e

o m i t t e d , o n l y t h e o p e r a t i o n x i ] : = x i ] + 1 i s l e f t . P r o v e t h a t t h e P o i n t e r M a c h i n e i s

e q u i v a l e n t t o R A M ' , i n t h e f o l l o w i n g s e n s e .

F o r e v e r y P o i n t e r M a c h i n e t h e r e i s a R A M ' p r o g r a m c o m p u t i n g f o r e a c h i n p u t t h e s a m e

o u t p u t . I f t h e P o i n t e r M a c h i n e h a s r u n n i n g t i m e N t h e n t h e R A M ' r u n s i n O ( N ) s t e p s .

F o r e v e r y R A M ' p r o g r a m t h e r e i s a P o i n t e r M a c h i n e c o m p u t i n g f o r e a c h i n p u t t h e s a m e

o u t p u t . I f t h e R A M ' h a s r u n n i n g t i m e N t h e n t h e P o i n t e r M a c h i n e r u n s i n O ( N ) s t e p s .

F i n d o u t w h a t R e m a r k 2 . 2 . 3 s a y s f o r t h i s s i m u l a t i o n . }

2 1


22/169

" !

#

A N D

?

A

A

A

A

A U

F i g u r e 2 . 4 : A n o d e o f a l o g i c c i r c u i t

2 . 3 B o o l e a n f u n c t i o n s a n d l o g i c c i r c u i t s

L e t u s l o o k i n s i d e a c o m p u t e r , ( a c t u a l l y i n s i d e a n i n t e g r a t e d c i r c u i t , w i t h a m i c r o s c o p e ) .

D i s c o u r a g e d b y a l o t o f p h y s i c a l d e t a i l i r r e l e v a n t t o a b s t r a c t n o t i o n s o f c o m p u t a t i o n , w e

w i l l d e c i d e t o l o o k a t t h e b l u e p r i n t s o f t h e c i r c u i t d e s i g n e r , a t t h e s t a g e w h e n i t s h o w s t h e

s m a l l e s t e l e m e n t s o f t h e c i r c u i t s t i l l a c c o r d i n g t o t h e i r c o m p u t a t i o n a l f u n c t i o n s . W e w i l l s e e

a n e t w o r k o f l i n e s t h a t c a n b e i n t w o s t a t e s , h i g h o r l o w , o r i n o t h e r w o r d s T r u e o r F a l s e , o r ,

a s w e w i l l w r i t e , 1 o r 0 . T h e n o d e s a t t h e j u n c t i o n o f t h e l i n e s h a v e t h e f o r m s l i k e i n F i g u r e

2 . 4 a n d s o m e o t h e r s . T h e s e l o g i c c o m p o n e n t s a r e f a m i l i a r t o u s . T h u s , a t t h e l o w e s t

l e v e l o f c o m p u t a t i o n , t h e t y p i c a l c o m p u t e r p r o c e s s e s b i t s . I n t e g e r s , o a t i n g - p o i n t n u m b e r s ,

c h a r a c t e r s a r e a l l r e p r e s e n t e d a s s t r i n g s o f b i t s , a n d t h e u s u a l a r i t h m e t i c a l o p e r a t i o n s a r e

c o m p o s e d o f b i t o p e r a t i o n s . L e t u s s e e , h o w f a r t h e c o n c e p t o f b i t o p e r a t i o n g e t s u s .

A B o o l e a n f u n c t i o n i s a m a p p i n g f : f 0 1 g

n

! f 0 1 g . T h e v a l u e s 0 , 1 a r e s o m e t i m e s

i d e n t i e d w i t h t h e v a l u e F a l s e , T r u e a n d t h e v a r i a b l e s i n f ( x

1

: : : x

n

) a r e s o m e t i m e s c a l l e d

l o g i c v a r i a b l e s , B o o l e a n v a r i a b l e s o r b i t s . I n m a n y a l g o r i t h m i c p r o b l e m s , t h e r e a r e n

i n p u t l o g i c v a r i a b l e s a n d o n e o u t p u t b i t . F o r e x a m p l e : g i v e n a g r a p h G w i t h N n o d e s ,

s u p p o s e w e w a n t t o d e c i d e w h e t h e r i t h a s a H a m i l t o n i a n c y c l e . I n t h i s c a s e , t h e g r a p h

c a n b e d e s c r i b e d w i t h

N

2

l o g i c v a r i a b l e s : t h e n o d e s a r e n u m b e r e d f r o m 1 t o N a n d x

i j

( 1 i < j N ) i s 1 i f i a n d j a r e c o n n e c t e d a n d 0 i f t h e y a r e n o t . T h e v a l u e o f t h e f u n c t i o n

f ( x

1 2

x

1 3

: : : x

n ; 1 n

) i s 1 i f t h e r e i s a H a m i l t o n c y c l e i n G a n d 0 i f t h e r e i s n o t . O u r p r o b l e m

i s t h e c o m p u t a t i o n o f t h e v a l u e o f t h i s ( i m p l i c i t l y g i v e n ) B o o l e a n f u n c t i o n .

T h e r e a r e o n l y f o u r o n e - v a r i a b l e B o o l e a n f u n c t i o n s : t h e i d e n t i c a l l y 0 , i d e n t i c a l l y 1 , t h e

i d e n t i t y a n d t h e n e g a t i o n : x ! x = 1 ; x . W e a l s o u s e t h e n o t a t i o n : x . W e m e n t i o n o n l y

t h e f o l l o w i n g t w o - v a r i a b l e B o o l e a n f u n c t i o n s : t h e o p e r a t i o n o f c o n j u n c t i o n ( l o g i c a l A N D ) :

x ^ y =

(

1 i f x = y = 1 ,

0 o t h e r w i s e ,

t h i s c a n a l s o b e c o n s i d e r e d t h e c o m m o n , o r m o d 2 m u l t i p l i c a t i o n , t h e o p e r a t i o n o f d i s j u n c -

t i o n , o r l o g i c a l O R

x _ y =

(

0 i f x = y = 0 ,

1 o t h e r w i s e ,

2 2


23/169

t h e b i n a r y a d d i t i o n

x y = x + y m o d 2 :

T h e m e n t i o n e d o p e r a t i o n s a r e c o n n e c t e d b y a n u m b e r o f u s e f u l i d e n t i t i e s . A l l t h r e e m e n -

t i o n e d b i n a r y o p e r a t i o n s a r e a s s o c i a t i v e a n d c o m m u t a t i v e . T h e r e a r e s e v e r a l d i s t r i b u t i v i t y

p r o p e r t i e s :

x ^ ( y _ z ) = ( x ^ y ) _ ( x ^ z )

x _ ( y ^ z ) = ( x _ y ) ^ ( x _ z )

a n d

x ^ ( y z ) = ( x ^ y ) ( x ^ z ) :

T h e D e M o r g a n i d e n t i t i e s c o n n e c t n e g a t i o n w i t h c o n j u n c t i o n a n d d i s j u n c t i o n :

x ^ y = x _ y

x _ y = x ^ y :

E x p r e s s i o n s c o m p o s e d u s i n g t h e o p e r a t i o n s o f n e g a t i o n , c o n j u n c t i o n a n d d i s j u n c t i o n a r e

c a l l e d B o o l e a n p o l y n o m i a l s .

( 2 . 3 . 1 ) L e m m a E v e r y B o o l e a n f u n c t i o n i s e x p r e s s i b l e u s i n g a B o o l e a n p o l y n o m i a l .

P r o o f L e t a

1

: : : a

n

2 f 0 1 g . L e t

z

i

=

(

x

i

i f a

i

= 1 ,

x

i

i f a

i

= 0 ,

a n d E

a

1

: : : a

n

( x

1

: : : x

n

) = z

1

^ ^ z

n

. N o t i c e t h a t E

a

1

: : : a

n

( x

1

: : : x

n

) = 1 h o l d s i f a n d

o n l y i f ( x

1

: : : x

n

) = ( a

1

: : : a

n

) . H e n c e

f ( x

1

: : : x

n

) =

_

f ( a

1

: : : a

n

) = 1

E

a

1

: : : a

n

( x

1

: : : x

n

) :

T h e B o o l e a n p o l y n o m i a l c o n s t r u c t e d i n t h e a b o v e p r o o f h a s a s p e c i a l f o r m . A B o o l e a n

p o l y n o m i a l c o n s i s t i n g o f a s i n g l e ( n e g a t e d o r u n n e g a t e d ) v a r i a b l e i s c a l l e d a l i t e r a l . W e

c a l l a n e l e m e n t a r y c o n j u n c t i o n a B o o l e a n p o l y n o m i a l i n w h i c h v a r i a b l e s a n d n e g a t e d

v a r i a b l e s a r e j o i n e d b y t h e o p e r a t i o n \ ^ " . ( A s a d e g e n e r a t e d c a s e , t h e c o n s t a n t 1 i s a l s o a n

e l e m e n t a r y c o n j u n c t i o n , n a m e l y t h e e m p t y o n e . ) A B o o l e a n p o l y n o m i a l i s a d i s j u n c t i v e

n o r m a l f o r m i f i t c o n s i s t s o f e l e m e n t a r y c o n j u n c t i o n s , j o i n e d b y t h e o p e r a t i o n \ _ " . W e

a l l o w a l s o t h e e m p t y d i s j u n c t i o n , w h e n t h e d i s j u n c t i v e n o r m a l f o r m h a s n o c o m p o n e n t s . T h e

B o o l e a n f u n c t i o n d e n e d b y s u c h a n o r m a l f o r m i s i d e n t i c a l l y 0 . I n g e n e r a l , l e t u s c a l l a

B o o l e a n p o l y n o m i a l s a t i s a b l e i f i t i s n o t i d e n t i c a l l y 0 . A s w e s e e , a n o n t r i v i a l d i s j u n c t i v e

n o r m a l f o r m i s a l w a y s s a t i s a b l e .

2 3


24/169

( 2 . 3 . 2 ) E x a m p l e H e r e i s a n i m p o r t a n t e x a m p l e o f a B o o l e a n f u n c t i o n e x p r e s s e d b y d i s j u n c -

t i v e n o r m a l f o r m : t h e s e l e c t i o n f u n c t i o n . B o r r o w i n g t h e n o t a t i o n f r o m t h e p r o g r a m m i n g

l a n g u a g e C , w e d e n e i t a s

x ? y : z =

(

y i f x = 1 ,

z i f x = 0 .

I t c a n b e e x p r e s s e d a s x ? y : z = ( x ^ y ) _ ( : x ^ z ) . I t i s p o s s i b l e t o c o n s t r u c t t h e d i s j u n c t i v e

n o r m a l f o r m o f a n a r b i t r a r y B o o l e a n f u n c t i o n b y t h e r e p e a t e d a p p l i c a t i o n o f t h i s e x a m p l e .

}

B y a d i s j u n c t i v e k - n o r m a l f o r m , w e u n d e r s t a n d a d i s j u n c t i v e n o r m a l f o r m i n w h i c h

e v e r y c o n j u n c t i o n c o n t a i n s a t m o s t k l i t e r a l s .

I n t e r c h a n g i n g t h e r o l e o f t h e o p e r a t i o n s \ ^ " a n d \ _ " , w e c a n d e n e t h e e l e m e n t a r y

d i s j u n c t i o n a n d c o n j u n c t i v e n o r m a l f o r m . T h e e m p t y c o n j u n c t i o n i s a l s o a l l o w e d , i t i s

t h e c o n s t a n t 1 . I n g e n e r a l , l e t u s c a l l a B o o l e a n p o l y n o m i a l a t a u t o l o g y i f i t i s i d e n t i c a l l y

1 . W e f o u n d t h a t a n o n t r i v i a l c o n j u n c t i v e n o r m a l f o r m i s n e v e r a t a u t o l o g y .

W e f o u n d t h a t a l l B o o l e a n f u n c t i o n s c a n b e e x p r e s s e d b y a d i s j u n c t i v e n o r m a l f o r m . F r o m

t h e d i s j u n c t i v e n o r m a l f o r m , w e c a n o b t a i n a c o n j u n c t i v e n o r m a l f o r m , a p p l y i n g t h e d i s t r i b u -

t i v i t y p r o p e r t y r e p e a t e d l y . W e h a v e s e e n t h a t t h i s i s a w a y t o d e c i d e w h e t h e r t h e p o l y n o m i a l

i s a t a u t o l o g y . S i m i l a r l y , a n a l g o r i t h m t o d e c i d e w h e t h e r a p o l y n o m i a l i s s a t i s a b l e i s t o

b r i n g i t t o a d i s j u n c t i v e n o r m a l f o r m . B o t h a l g o r i t h m s c a n t a k e v e r y l o n g t i m e .

I n g e n e r a l , o n e a n d t h e s a m e B o o l e a n f u n c t i o n c a n b e e x p r e s s e d i n m a n y w a y s a s a

B o o l e a n p o l y n o m i a l . G i v e n s u c h a n e x p r e s s i o n , i t i s e a s y t o c o m p u t e t h e v a l u e o f t h e

f u n c t i o n . H o w e v e r , m o s t B o o l e a n f u n c t i o n s c a n b e e x p r e s s e d o n l y b y v e r y l a r g e B o o l e a n

p o l y n o m i a l s .

2 . 1 8 E x e r c i s e C o n s i d e r t h a t x

1

x

0

i s t h e b i n a r y r e p r e s e n t a t i o n o f a n i n t e g e r x = 2 x

1

+ x

0

a n d s i m i l a r l y , y

1

y

0

i s a b i n a r y r e p r e s e n t a t i o n o f a n u m b e r y . L e t f ( x

0

x

1

y

0

y

1

z

0

z

1

) b e t h e

B o o l e a n f o r m u l a w h i c h i s t r u e i f a n d o n l y i f z

1

z

0

i s t h e b i n a r y r e p r e s e n t a t i o n o f t h e n u m b e r

x + y m o d 4 .

E x p r e s s t h i s f o r m u l a u s i n g o n l y c o n j u n c t i o n , d i s j u n c t i o n a n d n e g a t i o n . }

2 . 1 9 E x e r c i s e C o n v e r t i n t o d i s j u n c t i v e n o r m a l f o r m t h e f o l l o w i n g B o o l e a n f u n c t i o n s .

( a ) x + y + z m o d 2

( b ) x + y + z + t m o d 2

}

2 . 2 0 E x e r c i s e C o n v e r t i n t o c o n j u n c t i v e n o r m a l f o r m t h e f o r m u l a ( x ^ y ^ z ) ) ( u ^ v ) . }

T h e r e a r e c a s e s w h e n a B o o l e a n f u n c t i o n c a n b e c o m p u t e d f a s t b u t i t c a n o n l y e x p r e s s e d

b y a v e r y l a r g e B o o l e a n p o l y n o m i a l . T h i s i s b e c a u s e t h e s i z e o f a B o o l e a n p o l y n o m i a l d o e s n o t

r e e c t t h e p o s s i b i l i t y o f r e u s i n g p a r t i a l r e s u l t s . T h i s d e c i e n c y i s c o r r e c t e d b y t h e f o l l o w i n g

m o r e g e n e r a l f o r m a l i s m .

2 4


25/169

x = 0

y = 1

0

computation complexity lctn - laszlo lovasz

Documents