steps toward a cognitive engineering (1982).pdf

7/28/2019 Steps toward a Cognitive Engineering (1982).pdf

http://slidepdf.com/reader/full/steps-toward-a-cognitive-engineering-1982pdf 1/5

S t e p s t o w a r d a C o g n i t i v e E n g i n e e r i n g :

D e s i g n R u l e s B a s e d o n A na l y s e s o f H u m a n E r r o r

D o n a l d A . N o r m a n

P r o g r a m i n Co g n i t i v e S c i e n c eU n £ v e r s l t y o f C a l i f o r n i a , S a n D i e g o

L a J ol l a , C a l i f o r n i a 9 2 0 9 3

A b s t r a c t

T h i s p a p e r u s e s th e a n a l y s i s o f h u m a n e r r o r

t o p r o v i d e a t o o l f o r t h e d e v e l o p m e n t o f p r i n c i -

p l e s o f s y s t e m d e s i g n, b o t h t o m i n i m i z e t h e

o c c u r r e n c e o f e r r o r a n d to m i n i m i z e i t s e f f e c t s .

E v e n t u a l l y , i t s h o u l d be p o s s i b l e t o e s t a b l i s h a

s y s t e m a t i c s e t o f g u i d e l i n e s , w i t h e x p l i c i t , q u a n -

t i t a t i v e c o s t - b e n e f l t t r a d e o f f s t h a t c a n l e a d

t o w a r d a d e s i g n d i s c i p l i n e - - a " C o g n i t i v e

E n g i n e e r i n g . " T h i s s h o r t n o t e s t a r t s t h e p r o c e s s .

M y e v e n t u a l g o a l i s t h e e s t a b l i s h m e n t o f a d i s c i p -

l i n e o f " Co g n i t i v e E n g i n e e r i n g " t h a t c a n p r o v i d e

d e s i g n e r s w i t h t h e t o ol s r e q u i r e d t o m a k e t h e i r

p r o d u c t s m o r e s e n s i t i v e a n d r e s p o n s i v e t o t h e

n e e d s o f t h e u s e r s . T h e s e t o o l s w i l l h a v e a t l e a s t

t w o c o m p o n e n t s : f i r s t , a s e t o f w e l l e s t a b l i s h e d

p r o c e d u r e s a n d m e t h o d s w i t h k n o w n b e n e f i t s a n d

c o s t s , a d v a n t a g e s a n d d i s a d v a n t a g e s ; s e c o n d , a s e t

o f q u a n t i t a t i v e m o d e l i n g a i d s t h a t c a n b e u s e d t o

g i v e n u m e ri c a l a s s e s s m e n t o f t h e p e r f o r m a n c e t o b e

e x p e c t e d f r o m a p a r t i c u l a r d e s i g n c h o i c e . M y h o p e

i s t h a t b y p r o v i d i n g a r a t i o n a l e b a s e d u p o n m o d e r n

c o g n i t i v e t h e o r y, i t w i l l b e p o s s i b l e t o g e n e r a l -

i z e t h e s e f i n d i n g s t o n e w s i t u a t i o n s a n d t o

p r e s e n t t h e m i n s u c h a w a y t h a t d e s i g n e r s w i l l

f i n d t h e m a c c es s i b l e a n d u s e a b l e d u r i n g t h e t h e

c o u r s e o f d e s i g n . T h i s p a p e r i s s i m p l y t h e v e r y

b e g i n n i n g o f t h e e n d e a v o r . T h e r e a r e s e v e r a l w a y s

t o b e g i n . L e t m e d e s c r i b e t h re e :

I. S t a r t w i t h t h e p s y c h o l o g i c a l m e c h a n i s m s t h a t

h a v e b e e n s t ud i e d b y p s y c h o l o g i s t s ; u s e

k n o w l e d g e o f t h e p r o c e s s i n g m e c h a n i s m s t o

d e r i v e t h e i m p o r t an t c o n s t r a i n t s o n h u m a n

p e r f o r m a n c e . T h i s i s t h e a p p r o a c h t a k e n b y

C a r d , M o r a n , a n d N e w e l l ( 1 9 8 2) .

2 . P e o p l e f o r m m e n t a l m o d e l s o f e a c h o t h e r , t h e

w o r l d , a n d o f t h e d e v i c e s a n d s y s t e m s w i t h

w h i c h t h e y i n t e r a c t. T h e s e m e n t a l m o d e l s a r e

@ 19 81 A S S O C I A T I ON . F O R C O M P U T I N G M A C H I N E R Y

Permission o opy without ee ll r art f his aterial s ranted rovided hatthe copies re not mad e or distributed or irect omme rical dvantage, he A C Mcopyright otice nd the title f the publication nd its at e ppear, nd notice sgiven that opying s y permission f the Association or omp uti ng Machinery.To co py otherwise, r to republish, equires fee and/or pecific ermission.

u s e d t o p r e di c t s y s t e m b e h a v i o r a n d g u i d e

a c t i o n s . T h e m o d e l s , h o w ev e r , h a v e i n t e r e s t -

i n g p r o p e r t i e s , s o m e t i m e s b e i n g d e r i v e d f r o m

i d i o s y n c r a t i c i n t e r p r e t a t i o n s o f t h e s ys t e m .

M o r e o v e r , t h e m o d e l s m u s t o p e r a t e w i t h i n t h e

c o n s t r a i n t s o f t h e h u m a n p r o c e s s i n g s y s t e m ( I

e x p a n d o n t h i s i n N o r m a n , 1 9 8 2 ) . T h e s t u d y

o f t h e s e m o d e l s , t h e i r v e r a c i t y , a n d t h e

c a p a b i l i t y o f p e o p l e t o u s e t h e m o d e l s w i s e l y

p r o v i d e s a n i m p o r t a n t t o o l fo r t h e u n d e r -

s t a n d i n g o f t h e h u m a n - s y s t e m i n t e r f a ce . T h i s

i s t h e a p p r o a c h d e s c r i b e d i n M e n t a l M o d e l s( G e n t n e r & St e v e n s , 1 9 8 2 ) .

3 . U s e a n a l ys e s o f p e o p l e ' s p e r f o r m a n c e i n a

v a r i e t y o f s i t u a t i o n s ~ b u t e s p e c i a l l y t h e i r

e r r o r s - - to c o n s t r u c t a n a n a l y s i s o f t h e

a p p r o p r i a t e f o r m of h m ~ a n - m a c h l n e i n t e r f a c e

t h a t w o u l d o p t i m i z e p e r f o r m a n c e a n d m i n i m i z e

e i t h e r t h e i n c i d e n c e o f e r r o r o r t h e e f f e c t

o f t h e e r r o r , o n c e c o m m i t t e d .

A l l t h r e e o f th e s e a p p r o a c h e s a r e c o m p l e m e n t a r y t o

o n e a n o t h e r a n d s h o u l d b e c o m b i n e d i n a n y c o m p l e t e

a t t e m p t to p r o d u c e a c o g n i t i v e e n g i n e e r i n g . I n

t h i s b r i e f p a p e r I u s e o n l y t h e t h i r d a p p r o a c h .

S y s t e m D e s i g n P r i n c i p l e s C a n B__e D e r i v e d f r o m t h #

C l a s s e s o f H u m a n E r r o r

I h a v e c o l l e c t e d a n u m b e r o f e rr o r s m a d e b y

p e o p l e , b o t h i n t h e i r e v e r y d a y l l f e a n d a l s o i n

t h e i r u s e o f c o m p u t e r s y s t e m s ( N o r m a n , 1 9 8 1 ) .

T h e s e e r r o r s y i e l d s o m e i n s i gh t i n t o t h e p s y c h o -

l o g i c a l m e c h a n i s m s t h a t a r e i n v o l v e d , b u t t h e y c a n

a l s o b e u s e d t o ex a m i n e t h e h u m a n - m a c h l n e i n t e r -

f a c e .

C a l l t h e h i g h e s t l e v e l s p e c i f i c a t i o n o f a

d e s i r e d a c t i o n a n i n t e n ti o n . T h e i n t e n t i o n m a y

r e s u l t f r o m c o n s c i o u s d e c i s i o n m a k i n g o r f r o m s u b -

c o n s c i o u s p r o c e s s i n g . T h e i m p o r t a n t p o i n t i s t h a t

i t i s a h i g h l e v e l s p e c i f i c a t i o n t h a t s t a r t s a

c h a i n o f p r o c e s s i n g t h a t n o r m a l l y r e s u l t s i n t h e

a c c o m p l i s h m e n t o f t h a t i n t e n t i o n . A n e r r o r i n t h e

i n t e n t i o n i s c a l l e d a " m i s t a k e . " A n e r r o r i n c a r -r y i n g o u t t h e i n t e n t i o n i s c a l l e d a " s l l p . "

S l l p s c a n b e c l a s s l f l e d i n t o a s m a l l s e t o f

c l a s s e s b a s e d u p o n t h e m e c h a n i s m s t h a t s e e m t h e

m o s t l i k e l y c a u s es . T h e b a s i c c l a s s i f i c a t i o n i s

b a s e d u p o n a s i m p l e m o d e l o f t h e h u m a n i n w h i c h i t

i s a s s u m e d t h a t a n y i n t e n t i o n s e t s l o o s e a n u m b e r

378



o f a c t i v e s c h e m a s, e a c h w i t h a n a c t i v a t i o n v a l u e

a n d a s e t o f t r i g g e r c o n d l t l o n s ~ a s c h e m a i s p e r -

f o r m e d w h e n e v e r t h e c o m b i n a t i o n o f It s a c t i v a t i o n

v a l u e a n d t h e g o o d n e s s o f m a t c h o f i t s t r i g g e r

c o n d i t i o n s r e a c h e s a n a p p r o p r i a t e l e v e l . T h i s

m o d e l g i v e s r i s e t o t h e c l a s s i f i c a t i o n o f s l i p s

l i s t e d i n T a b l e I . F o r c u r r e n t p u r p o s e s i t i s

o n l y n e c e s s a r y t o e x a m i n e a s u b s e t o f t h e c l a s s i f -

i c a t i o n s c h e m e s h o w n i n T a b l e I . I n p a r t i c u l a r , I

d i s c u s s m o d e e r r o r s , d e s c r i p t i o n e r r o r s, c a p t u r e

e r r o r s , a n d a c t i v a t i o n e r r o r s .

T a b l e 1

( m o d i f i e d f r o m N o r m a n , 1 9 8 1 ) .

C l a s s i f i c a t i o n o _~ S l i p s

B a s e d o n T h e i r P r e s u m e d S o u r c e s

S I ~ i n t h e f o r m a t i o n o f i n t e n t i o n

M o d e e r r o r s : e r r o n e o u s c l a s s i f i c a t i o n o f t h e

s i t u a t i o n

D e s c r i p t i o n e r r o rs : a m b i g u o u s o r i n c o m p l e t e

s p e c i f i c a t i o n o f t h e i n t e n t i o n

S l i p s r e s u l t i n g fro____m a u l t y a c t i v a t i o n o f s c h e m a s

U n i n t e n t i o n a l a c t i v a t io n : w h e n s c h e m a s n o t

p a r t o f a c u r r e n t a c t i o n s e q u e n c e b e c o m e

a c t i v a t e d f o r e x t r a n e o u s r e a s o n s , t h e nb e c o m e t r i g g e r e d a n d l e a d to s l i p s

C a p t u r e e r r o rs : w h e n a s e q u e n c e b e i n g p e r -

f o r m e d i s s i m i l a r t o a n o t h e r m o r e f r e -

q u e n t o r b e t t e r l e a r n e d s e q u e n c e , t h e

l a t t e r m a y c a p t u r e c o n t r o l

D a t a - d r i v e n a c t i v a ti o n : e x t e r n a l e v e n t s

c a u s e a c t i v a t i o n o f s ch e m a s

A s s o c i a t i v e a c t i v a t i on : c u r r e n t l y a c t i v e

s c h e m a s a c t i v a t e o t h er s w i t h w h i c h t h e y

a r e a s s o c i a t e d

L o s s o f a c t i v a t i o n : w h e n s c h e m a s t h a t h a v e

b e e n a c t i v a t e d l o se a c t i v a t i on , t h e r e b y

l o s i n g e f f e c t i v e n es s t o c o n t r o l b e h a v i o r

F o r g e t t i n g a n i n t e n t i o n ( b u t c o n t i n u i n g

w i t h t h e a c t i o n s e q u e n c e )

M 1 s o r d e r i n g t h e c o m p o n e n t s o f a n a c t i o n

s e q u e n c e , i n c l u d i n g s k i p p i n g s t e p s

a n d r e p e a t i n g s t e p s

S l i p s r e s u l t i n g fr o__. m f a u l t y t r i g g e r i n g o f s c h e m a s

F a l s e t r i g g e r in g : a p r o p e r l y a c t i v a t e d s c h e m a

i s t r i g g e r e d a t a n i n a p p r o p r i a t e t i m e

S p o o n e r i s m s : r e v e r s a l o f e v e n t c o m p o n e n t s

B l e n d s : c o m b i n a t i o n s o f c o m p o n e n t s f r o m t w o

c o m p e t i n g s c h e m a s

T h o u g h t s l e a d i n g t o a c t i o n s : t r i g g e r i n g o f

s c h e m a s m e a n t o n l y t o b e t h o u g h t , n o t t o

g o v e r n a c t i o n

P r e m a t u r e t r i g g e r i n g

F a i l u r e i n t r i g g er i n g : w h e n a n a c t i v e s c h e m a

n e v e r g e t s i n v o k e d b e c a u s e :

A c t i o n w a s p r e e m p t e d b y c o m p e t i n g s c h e m as ;

T h e r e w a s i n s u f f i c i e nt a c t i v a t i o n , e i t h e r a s

a r e s u l t o f f o r g e t t i n g o r b e c a u s e t h ei n i t i a l l e v e l w a s t o o l o w;

T h e r e w a s a f a i l u r e o f t h e t r i g g e r c o n d i t i o n

t o m a t c h , e i t h e r b e c a u s e t h e tr i g g e r i n g

c o n d i t i o n s w e r e b a d l y s p e c i f i e d o r t h e

m a t c h b e t w e e n o c c u r r i n g c o n d i t i o n s a n d

t h e r e q u i r e d c o n d i t i o ns w e r e n e v e r s u f -

f i c i e n t l y c l o s e .

M o d e E r r o r s S u g g e s t t h e N e e d f o r B e t t e r F e e d b a c k

M o d e e r r o rs o c c u r w h e n t h e p e r s o n b e l i e v e s

t h e s y s t e m i s I n o n e s t a t e ( m o d e ) , w h e r e a s i t i s

a c t u a l l y i n a n o t h e r . T h i s l e a d s t o t h e p e r f o r -

m a n c e o f a n i n a p p r o p r i a t e a c t i o n . M o d e e r ro r s

o c c u r f r e q u e n t l y i n s y s t e m s t h a t d o n o t p r o v i d e

c l e a r f e e d b a c k a s t o t h e i r c u r r e n t s t a t e . T h e

m o s t c o , n o n e x a m p l e s i n my c o l l e c t i o n c o m e f r o m

t h e u s e o f c o m p u t e r t e x t e d i t o r s , w h e r e u s e r s t r y

t o i s s u e c o m m a n d s w h i l e i n t e x t m o d e o r t o t y p et e x t w h i l e I n c o m m a n d m o d e . S i m i l a r e r r o r s o c c u r

I n p u s h i n g t h e b u t t o n s o n c o m p l e x d i g i t a l w a t c h e s .

T h e a u t op l l o t s o f c o mm e r c i a l a i r c r a f t p r o v i d e

n u m e r o u s p o s s i b i l i t i e s f o r m o d e e r r o r s ; a re c e n t

i n c i d e n t i n w h i c h a n A e r o M e x i c o D C - 1 0 s t a l l e d ,

w a s b a d l y b u f f e t e d , a n d l o s t t h e t i p s o f b o t h

e l e v a t o r s a p p e a r s t o h a v e b e e n t h e r e s u l t o f a

m o d e e r r o r i n u s i n g t h e a u t o p l l o t o n t h e p a r t o f

t h e c r e w ( N TS B , 1 9 8 0 a ) . T h e c l e a r i m p l i c a t i o n o f

m o d e e r r o r s i s t h a t t h e y r e s u l t f r o m i n a d e q u a t e

f e e d b a c k a n d i n d i c a t i o n o f t h e s t a t e o f t h e s y s -

t e m .

D e s c r i p t i o n E r r o r s S u g g e s t t h e N e e d f o r B e t t e r

S y s t e m C o n f i g u r a t i o n

A d e s c r i p t i o n e r r o r o c c u r s w h e n t h e r e I s

i n s u f f i c i e n t s p e c i f i c a t i o n o f t h e a c t i on , a n d t h e

r e s u l t a n t a m b i g u i t y l e a d s t o a n e r r o n e o u s a c t

b e i n g p e r f o r m e d . U s u a l l y t h i s e r r o n e o u s a c t i s

c l o s e l y r e l a t e d t o t h e d e s i r e d o n e . O f t e n t h e

e r r o r s a r e h u m o r o u s ( a t l e a s t t o o t h e r s ) . O n e

d r a m a t i c c a s e i n m y c o l l e c t i o n o c c u r r e d w h e n a

p e r s o n , w h i l e c l e a n i n g a f i s h i n a r o w b o a t i n t h e

m l d d l e o f a l a k e , t h r e w t h e c l e a n e d f i s h o v e r b o a r d

a n d k e p t t he e n t r a i l s . I n a n o t h e r r e l a t e d c a s e , a

p e r s o n p r e p a r i n g f o r a p a r t y p u t t h e c a k e i n t h e

r e f r i g e r a t o r a n d t h e s a l a d I n t h e o v e n . D e s c r i p -

t i o n e r r o r s a l s o o c c u r i n o p e r a t i o n a l s i t u a t i o n s ,

w h e r e t h e y c a n l e a d t o s e r i o u s a c c i d e n t s . T h e t w o

p r e c e d i n g d e s c r i p t i o n e r r o r s c a n b e t h o u g ht o f as

s i t u a t i o n s i n w h i c h t h e p r o p e r a r g u m e n t s a n d f u n c -

t i o n s w e r e s p e c i f i e d , b u t t h e o r d e r i n g o f t h ea r g u m e n t s w a s i m p r o p e r . I n g e n e r a l , t h e s e e r r o r s

o c c u r w h e n d i f f e re n t a c t i o n s h a v e s i m i l a r d e s c r i p -

t i o n s , e i t h e r i n t h e s p e c i f i c a t i o n o f t h e a c t i o n s

o r i n t h e c l a s s o f a r g u m e n t s .

O n e c l a s s o f d e s c r i p t i o n e r r o r s o c c u r s i n t h e

u s e o f c o m p u t e r t e x t e d i t o r s w h i c h h a v e m u l t i p l e

c o m m a n d s , u s u a l l y b a s e d u p o n o n e o r t w o k e y s -

t r o k e s . T h u s , i n t h e t e x t e d i t o r " v i " ( t h e s c r e e n

e d i t o r s u p p l i e d w i t h t h e B e r k e l e y D i s t r i b u t i o n o f

t h e U N I X o p e r a t i n g s y s t e m ) , e a c h o f t h e l e t t e r s ~ ,

~ , K, a n d ~ h a s d i f f e r e n t m e a n i n g s w h e n t y p e d i n

l o w e r c a s e ( " d " ) , u p p e r c a s e ( " s h i f t - d " o r " D" ) ,

o r a s a c o n t r o l k e y ( " c o n t r o l - d " ) . M a n y o t h e r

k e y s a l s o h a v e t h e s e m u l t i p l e u s e s . I t s h o u l d

c o m e as n o s u r p r i s e t o d i s c o v e r t h a t d e s c r i p t i o n

e r r o r s o c c u r f r e q u e n t l y i n t h i s e d i t o r .

D e s c r i p t i o n e r r o r s a re r e l a t i v e l y c o m m o n i n

t h e t h r o w i n g o f s w i t c h e s o r o p e r a t i o n s o f c o n -

t r o ls , e s p e c i a l l y w h e n t h e o p e r a t i o n s a r e s i m il a r ,

s u c h a s i n t h e s e t t i n g o f a l t i m e t e r s , r a d i o f r e -

q u e n c i e s , a n d t r a n s p o n d e r c o d e s . T h i s p r o b l e m i s

3 7 9



e s p e c i a l l y b a d i n t h e d e s i g n o f n u c l e a r p o w e r

p l a n t c o n t r o l r o o m s , w h e r e s w i t c h e s a n d c o n t r o l s

a r e l a l d o u t i n n e a t , l o g i c a l , n i c e l o o k i n g r ow s .

T h e r e s u l t, h o w e v e r , i s c l e a r p o t e n t i a l f o r c o n f u -

s i o n , f o r r e a d i n g t h e w r o n g i n s t r u m e n t s a n d f o r

o p e r a t i n g t h e w r o n g c o n t r o l s ( L o c k h e e d M i s s i l e s &

S p a c e C o m p a n y , 1 9 7 6 ) .

D e s c r i p t i o n e r r o r s c a n b e e x p e c t e d t o o c c u rw h e r e v e r c o n t r o l p a n e l s a r e d e s i g n e d s o t h a t a t aq u i c k g l a n c e ( o r i n p e r i p h e r a l v i s J [ o n ) t h e d i s -

t i n c t i o n s a m o n g c o n t r o l s a r e n o t c l e a r e n o u gh .

S o l u t l o n s t o t h i s p r o b l e m h a v e l o n g b e e n k n o w n .

T h r e e p r i n c i p l e s a r e a s f o l l o w s :

I. A r r a n g e i n s t r u m e n t s a n d c o n t r o l s i n f u n c -

t i o n a l p a t t e r n s , p e r h a p s i n t h e f o r m o f a

f l o w c h a r t o f t h e s y s t e m ;

2. U s e " s h a p e c o d i n g " t o m a k e t h e c o n t r o l s a n d

i n s t r e m e n t s l o o k a n d f e e l d i f f e r e n t f r o m o n e

a n o t h e r ;

3. M a k e i t d i f f i c u l t t o d o a c t i o n s t h a t c a n l e a d

t o o p e r a t i o n s t h a t h a v e s e r i o u s i m p l i c a t i o n s

a n d t h a t a r e n o t r e v e r s i b l e .

With c o m p u t e r s y s t e m s , t h e s e t h r e e p r i n c i p l e s a r e

r e a d i l y m o d i f i e d t o th e i r C o m p u t e r " ( "C " ) v e r -

s i o n s :

1C . Screen d isp l ays and menu s y s t e m s sh o u l d b e

o r g a n i z e d f u n c t i o n a l l y ;

2 C. D e s i g n t h e c o m m a n d l a n g u a g e ( o r m e n u d i s p l a y

h e a d i n g s ) t o b e d i s t i n c t f r o m o n e a n o t h e r s o

a s n o t t o b e e a s i l y c o n f u s e d , e i t h e r i n p e r -

c e p t i o n o r i n t h e a c t i o n r e q u i r e d ;

3C. M a k e i t d i f f i c u l t t o d o a c t i o n s t h a t c a n l e a d

t o o p e r a t i o n s w i t h s e r i o u s i m p l i c a t i o n s a n d

t h a t a r e n o t r e v e r s i b l e

L a c k o f c o n s i s t e n c y i n c o m m a n d s t r u c t u r e

leads to description error___._s. One class of

d e s c r i p t i o n e r r o r s o c c u r s w h e n a p e r s o n a t t e m p t s

t o r e - d e r i v e a n a c t i o n s e q u e n c e a n d d o e s s O

I m p r o p e r l y , f o r m i n g a s e q u e n c e a p p r o p r i a t e f o r a n

a c t i o n d i f f e r e n t f r o m t h e o n e i n t e n d e d . T h i s

o c c u r s p r i m a r i l y t h r o u g h a l a c k o f c o n s i s t e n c y i n

c o m m a n d s t r u c t u r e , s o t h a t th e a p p r o p r i a t e s t r u c -

t u r e f o r o n e c o m m a n d i s n o t t h e s a m e f o r a n o t h e r ,

e v e n t h o u g h t h e c o m m a n d s a p p e a r t o b e r e l a t e d a n d

s h a r e a c o m m o n d e s c r i p t i o n o f p u r p o s e p a c t i o n , a n d

e v e n p a r t o f t h e c o m m a n d f o r m a t . S i m i l a r s i t u a -

t i o n s o c c u r i n t h e i n t e r p r e t a t i o n o f I n s t r e m e n tr e a d i n g s . T h e b a s i c c o n c e p t i n v o l v e d h e r e i s t h a t

w h e n p e o p l e l a c k k n o w l e d g e a b o u t t h e p r o p e r o p e r a -t i o n o f s o m e a s p e c t o f a m a c h i n e , t h e y a r e a p t t o

d e r i v e t h e o p e r a t i o n b y a n a l o g y w i t h o t h e r , s i m i -

l a r a s p e c t s o f t h e d e v i c e . T h e " d e r i v a t i o n " m a y

b e u n c o n s c i o u s , a n d i t c a n i n f l u e n c e b e h a v i o r

w i t h o u t t h e p e r s o n r e a l i z i n g t h a t i t i s h a p p e n i n g .

F o r m i n g c o n c l u s i o n s f r o m t h e r e l a t i o n s h i p s o f o n e

s y s t e m t o a n o t h e r i s a c o m m o n a n d p o w e r f u l m e t h o d

o f h u m a n t h o u g h t , b u t i t c a n l e a d t o e r r o r i f t h e

m a p p i n g f r o m o n e d o m a i n o n t o t h e o t h e r i s n o t c o n -

s i s t e n t ( L a k o f f & J o h n s o n , 1 9 8 1 ; G e n t n e r , 1 9 8 0 ) .

T h e r e a r e c a se s w h e r e l a c k o f c o n s i s t e n c y

s e e m s d e s i r a b l e , a n d i t i s p u t i n t o th e d e s i g n

d e l i b e r a t e l y a n d w i t h c a r e f u l th o u g h t . T h i s u s u -

a l l y o c c u r s w h e n t h e n o r m a l s e q u e n c e f o r a n o p e r a -

t i o n is l o n g a n d t e d io u s , a n d w h e n s u c h a n o p e r a -

t i o n i s t o b e p e r f o r m e d f r e q u e n t l y i t s e e m s

d e s i r a b l e t o p r o v i d e s h o r t c u t s . S i m i l a r l y , t h e

d e f a u l t s t a t e o f a n i n s t r u m e n t o r c o n t r o l i s s o m e -

t i m e s m a d e i n c o n s i s t e n t w i t h t h a t o f o t h e r i n s t r u -

m e n t s o r c o n t r o l s b e c a u s e e x p e r i e n c e s h o w s t h a t

t h e d i f f e r e n t d e f a u l t s s i m p l i f y s o m e f o r m s o f

o p e r a t i o n s . N o n e t h e l e s s , t h e s e i n c o n s i s t e n c i e s

l e a d t o e r r o r s ( a n d t o d l f f l c u ~ t y i n l e a r n i n g ) .

O n e s o l u t i o n i s t o m a k e c o m m a n d s t r u c t u r e ( a n d

i n s t r u m e n t f o r m a t ) c o n s i s t e n t , e v e n a t t h e co s t o f

s o m e i n e f f i c i e n c y i s u s a g e . A b e t t e r s o l u t i o nw o u l d b e t o r e - d e s l g n t h e e n t i r e s y s t e m s o a s t o

y i e l d b o t h c o n s i s t e n c y a n d e a s e o f o p e r a t i o n .

C a p t u r e E r r o r s Imp l y t h e N e e d f o r B e t t e r F eed b ack

A c a p t u r e e r r o r o c c u r s w h e n t h e r e i s o v e r l a p

i n t h e s e q u e n c e r e q u i r e d f o r t h e p e r f o r m a n c e o f

t w o d i f f e r e nt a c t i o n s, e s p e c l a l l y w h e n o n e is d o ne

c o n s i d e r a b l y m o r e f r e q u e n t l y t h a n t h e o t h e r . I n

t h e c o u r s e o f a t t e m p t i n g t h e i n f r e q u e n t o n e , t h em o r e c o m m o n a c t g e t s d o n e i n s t e a d . A c a p t u r e e r r o r

w i t h t h e ' ~ i " t e x t e d i t o r o n t h e B e r k e l e y R e l e a s e

o f t h e U N I X o p e r a t i n g s y s t e m o c c u r s w h e n a t t e m p t -

i n g t o w r i t e o u t a f i l e . T h e c o m m a n d " : w " m e a n s

t o w r i t e t h e f i l e , " : q " q u i t s t h e e d i t o r ( if t h e

t e x t h a s n o t b e e n m o d i f i e d s i n c e t h e l a s t w r i t i n g

o f t h e f i l e ) a n d t h e c o m b i n e d s e q u e n c e " : w q "

w r i t e s , t h e n q u i t s . B e c a u s e " : w q " i s s u c h a c o n -

v e n i e n t o p e r a t i o n , m a n y p e o p l e u s e i t r e g u l a r l y a s

t h e i r w a y o f f i n i s h i n g a d a y ' s s e s s i o n , a n d s o i t

s o o n b e c o m e s a n a u t o m a t i c c o m m a n d , w i t h t h e s t a t u s

o f a s i n g l e o p e r a t i o n r a t h e r t h a n of t w o s e q u e n -

t i a l l y c o m b i n e d c o m m a n d s . H o w e v e r , a s a r e s u l t ,

a t t i m e s w h e n o n e w i s h e s s i m p l y t o w r i t e t h e f i l e

a n d c o n t i n u e w i t h t h e e d i t i n g , o n e f i n d s o n e s e l f

o u t o f t h e e d i t o r a n d b a c k i n t h e o p e r a t i n g s y s -t e m : b y a c a p t u r e e r r o r , t h e s e q u e n c e " : w q " w a s

t y p e d i n s t e a d o f t h e s i m p l e r s e q u e n c e " : w " .

One p o ss i b l e way o f av o i d i n g t h i s c l a s s o f

e r ro r i s t o mi n i mi ze o v er l ap p i n g seq u e n ces , b u t

t h i s may n o t b e p o ss i b l e , e sp ec i a l l y when t h e

i n f r eq u en t ac t i o n seq u en ce i s s i mp l y a mo d i f i ca -t i o n o f t h e f r eq u en t o n e . I n t h e case o f "v i " i f

" :wq" were take n e ver by some o the r command (e .g . ,

i n n e w e r v e r s i o n s o f t h e s y s t e m , " Z Z " i s

e q u i v a l e n t t o " :w q " ) t h e c a p t u r e e r r o r s h o u l d

d i s a p p e a r , a s t h e t w o d i f f e r e n t c o m m a n d s - - " : w "

a n d " Z Z " h a v e n o p a r t s i n c o m m o n .

A seco n d way o f av o i d i n g t h e e r ro r i s t o t r y

t o ca t ch i t wh ere i t o ccu r s . T he e r ro r o ccu r s a t

t h e c r i t i c a l p l a c e w he r e t h e s e q u e n c e s d e v i a t e , s oi t i s h e re t h a t t h e p ro b l em mu s t b e f aced . I f t h e

sy s t em k no ws wh a t t h e i n t en t i o n o f t h e u se r i s(p e rh ap s b y r eq u i r i n g t h e u se r t o i n d i ca t e t h e

o v era l l i n t en t i o n ) , i t co u l d b e d es i g n ed so t h a t

a t t h e c r i t i ca l ch o i ce p o i n t t h e p ro p er p a t h wasf l ag g ed o r i n some o t h e r way b ro u g h t t o t h e a t t en -

t i o n o f t h e o p era t o r . I n ad d i t i o n , su f f i c i e n tf eed b ack ab o u t t h e s t a t e o f t h e sy s t em sh o u l d b e

p ro v i d ed t o p ro v i d e r emi n d er s a s t o t h e d ev i a t i o n

f ro m t h e i n t en t i o n . A maj o r i s su e h e re i s s i mp l y

3 8 0



t o kn ow t h e c r i t i ca l p l ace a t wh l ch t h e e r ro r so ccu r so t h a t r emed l a l ac t i o n can b e b u i l t l n t o

t h e s y s t e m a t tha t c r l t l c a l p o l n t .

A c t l v a t l o n I s s u e s S u g g e s t t h e I m p o r t a n c e o f

D l s p l a y l n g t h e O p t i o n s a n d o f P r o v i d i n g F e e d b a c k

A c t l v a t l o n e r r o r s a r e of t w o c l a s s e s ; i n a p -

p r o p r i a t e a c t i o n s g e t p e r f o r m e d a n d a p p r o p r i a t e

a c t i o n s f al l t o g e t d o n e. T h e f o r m e r o c c u r s w h e na n i n a p p r o p r i a t e a c t i o n s e q u e n c e i s a c t i v a t e de i t h e r b y b e i n g r e l a t e d t o d e s i r e d s e q u e n c e s ( as

i n t h e c a p t u r e e r r o r ) o r t h r o u g h e v e n t s I n t he

w o r l d ( " d a t a - d r l v e n a c t i v a t i o n " ) . T h e , a l l u r e t o

c a r r y o u t a n a c t i o n u s u a l l y o c c u r s d u e t o m e m o r y

f a i l u r e , a n d t h i s c a n o c c u r w h e n e v e n t s i n t e r c e d e

b e t w e e n t h e t l m e o f p r e p a r i n g a n i n t e n t i o n a n d t h e

t i m e a t w h i c h t h e a c t s h o u l d b e p e r f o r m e d . V a r i o u s

m e m o r y a l d s s e e m e s s e n t i a l t o p r e v e n t t h e l a tt e r .

T h e f i r s t f o r m o f a c t i v a t i o n e r r o r m a y v e r y w e l l

n o t b e p r e v e n t a b l e . I n t h l s c a s e , t h e s y s t e m

s h o u l d b e d e s i g n e d t o b e t o l e r a n t o f t h e m .

P e o p l e W l l l M a k e E r r or s , S o M a k e t h e S y s t e m I n s e n-

s i t i v e t o T h e m

T h e a n a l y s i s o f e r r o r s p r o v i d e s o n e s e t o fc o n s i d e r a t i o n s f o r t h e c o n s t r u c t i o n of a s y s t e m

t h a t m i g h t m i n i m i z e e r r o r s . T h e r e a r e s e v e r a l

o t h e r f a c t o r s t h a t s h o u l d b e c o n s i d e r e d a s w e l l .

F i r s t , p e o p l e w i l l m a k e e r r o r s , e v e n i n t h e b e s t

d e s i g n e d s y s t e m s , e v e n w i t h t h e b e s t o f t r a i n i n g

a n d b e s t o f m o t i v a t i o n s . S o , a c o r o l l a r y o f t h e

a t t e m p t t o m i n i m i z e e r r o r s i s t h a t o n e s h o u l d t r y

t o m i n i m i z e t h e e f f e c t of a n e r r o r . T h l s m e a n s

t h a t a c t i o n s s h o u l d b e r e v e r s l b l e , a t l e a s t as

m u c h a s i s p o s s i b l e . S o m e t h in g s , o f co u r s e , o n c ep e r f o r m e d , a r e i r r e v o c a b l e . A c t i o n s t h a t c a n l e a d

t o d i f f i c u l t y s h o u l d b e d i f f i c u l t t o d o , p e r h a p s

r e q u i r i n g a s e t o f s t e p s ( as I n t h e r e l e a s e o f

" s a f e t i e s " r e q u i r e d w h e n t h e p i l o t w i s h e s t o e j e c t

f r o m a m i l i t a r y a l r p l a n e ) , o r a t le a s t , r e q u i r i n g

a c o n f i r m a t i o n , a s w h e n r e q u e s t i n g t h a t a l l f i l e s

o n a c o m p u t e r d i r e c t o r y b e d e s t r o y e d .

I t i s n o t s u f f i c i e n t t o a s k t h e u s e r t o c o n -

f l r m t h a t a p a r t i c u l a r a c t l o n s e q u e n c e i s w a n t e d ,

b e c a u s e i f c o n f i r m a t i o n i s r o u t i n e l y a s k e d f o r

( a n d i f t h e u s u a l r e s p o n s e i s " y e s " ) t h e c o n f i r m a -

t i o n i ts e l f b e c o m e s a n a u t o m a t i c a l l y i n v o k e d c o m -

p o n e n t o f t h e c o m m a n d s e q u e n c e . T h u s , i f t h e

c o m m a n d I s g i v e n I n e r r o r , I t i s l i k e l y t o h a v e

t h e c o n f i r m a t i o n i n v o k e d a s p a r t o f t h e s a m e

e r r o r ; i n o u r e x p e r i e n ce , t h e c o n f i r m a t i o n i s a s

a p t t o b e i n e r r o r as t h e o r i g i n a l c o m m a n d . T h e

p o i n t i s t h a t d i s a s t r o u s c o m m a n d s s h o u l d b e d l f f l -

c u l t t o c a r r y o u t , a n d c o n f i r m a t i o n s o f t h e v a l l -

d i t y o f t h e co m m a n d m a y n o t o f f e r s u f f i c i e n t d ! f -

f l c u l t y t o b e a s a t i s f a c t o r y s a f e g u a r d .

Somet imes the command need o n ly a ct as i f i t

were d o ne , b u t d o es n o t i n f ac t h av e t o b e d o n e .

C o n s i d e r t h e c o m m a n d t o d e l e t e f i l e s f r o m t h e s y s -

t e m ; t h e s y s t u m c o u l d c l a i m t o h a v e r e m o v e d t h e

f i l e , b u t i n f ac t p u t t h e m a w a y o n s o m e t e m p o r a r y

l o c a t i o n s o t h a t t h e y c a n b e r e c o v e r e d i f l a t e r

t h e i r " d e l e t i o n " w a s d i s c o v e r e d t o h a v e b e e n a n

e r ro r ( r ea i d e l e t t o n can b e d o ne o n an i n f r eq u en t

b as i s , s ay a f t e r a l ap se o f s ev era l h o u r s or

b as i s , s ay a f t e r a l ap se o f s ev era l h o u r s o r

d ay s ) . I n In t e r l l s p (T e t t e l mu n & M as l n t e r , 1 98 1)

o p e r a t i o n s m a y b e " u n d o n e , " e v e n o p e r a t i o n s s u c h

a s w r i t i n g o n o r d e s t r o y i n g f i l e s .

L e s s o n s

T h e s e s i m p l e o b s e r v a t i o n s l e a d u s t o s o m e

c o n c l u s i o n s a b ou t s y s t e m d e s i g n . O b v i o u s l y , t h i sa n a l y s i s o n l y t a k es us p a r t o f t h e w a y t o w a r d a

s e t o f d e s i g n p ri n c i p l e s . A n a n a l y s i s o f e r r o r s

c a n o n l y g e t a t s o m e c l a s s e s o f p r o b l e m s , a n d

t h e r e m a y n o t a l w a y s b e g e n e r a l r u l e s a p p l i c a b l e

t o t h e i s s ue s . T h e s e a n a l y s e s m u s t b e s u p p l e -

m e n t e d w i t h o t h e r m e t h o d s , i n c l u d i n g a n u n d e r -

s t a n d i n g o f th e n a t u r e o f a p e r s o n ' s m e n t a l i m a g e

o f t h e s y s t e m t h a t i s b e i n g u s e d a n d a n u n d e r -

s t a n d i n g o f t h e h u m a n i n f o r m a t i o n p r o c e s s i n g c g p a -

b l l l t y o f t h e u s e r . M e a n w h i l e , t h e a n a l y s e s

p r e s e n t e d h e r e d o m a k e s e v e r a l p o i n t s t h a t a r e

u s e f u l t o s u ~ a r i z e :

F e e d b a c k : T h e s t a t e o f t h e s y s t e m s h o u l d b e

c l e a r l y a v a i l a b l e t o t h e u se r , 1 d e a f l y i n a

f o r m t h a t i s u n a m b i g u o u s a n d t h a t m a k e s t h e

s e t o f o p t i o n s r e a d i l y a v a i l a b l e s o a s t oa v o i d m o d e e r r o r s .

S i m i l a r i t y of r e s p o n s e s e q u e n c e s : D i f f e r e n t

c l a s s e s o f a c t i o n s s h o u l d h a v e q u i t e d i s s i m i -

l a r c o m m a n d s e q u e n c e s ( o r m e n u p a t t e r n s ) s o

a s t o a v o i d c a p t u r e a n d d e s c r i p t i o n e r r o r s .

A c t i o n s s h o u l d b e r e v e r s i b l e ( as m u c h a s p o s -

s i b l e ) a n d w h e r e b o t h i r r e v e r s i b l e a n d o f

r e l a t i v e l y h l g h c o n s e q u e n c e , t h e y s h o u l d b e

d i f f i c u l t t o d o, t h e r e b y p r e v e n t i n g u n l n t e n -

t l o n a l p e r f o r m a n c e .

C o n s i s t e n c y o f t h e s y s t e m : T h e s y s t e m s h o u l d

b e c o n s i s t e n t i n l t s s t r u c t u r e a n d d e s i g n o f

c o m m a n d s o a s t o m i n i m i z e m e m o r y p r o b l e m s i n

r e t r i e v i n g t h e o p e r a t i o n s .

T h e s e c o n s i d e r a t i o n s , c o u p l e d w l t h s i m i l a r

a n a l y s e s o f t h e p r o p e r t i e s o f t h e u s e r s " m e n t a l

m o d e l s o f t h e s y s t e m l e a d t o o t h e r s e t s o f r u l e s

f o r p e r f o r m a n c e , i n c l u d i n g t h e n o t i o n o f a s y s t e m

I m a g e , w h i c h s h o u l d b e t h e f i r s t t h i n g s e t u p b y

t h e d es i g n er , an d w i t h a l l connnands, feedback , and

i n s t ru c t i o n d es i g n ed t o b e co n s i s t e n t wi t h t h a t

sy s t em i mag e . Ho wev er , t h i s i s an o t h e r s t o ry , o n e

t h a t t o o i s b u t i n t h e ea r l y s t a g es o f d ev e l o p -

men t , an d wh i ch i s n o t fu l l y r ead y t o b e d i scu sse dh e r e .

Research su p p o r t was p ro v i d ed b y t h e Of f i ce o f Na-

v a l R e s e a r c h , t h e A i r F o r c e O f f i c e o f S c i e n t i f i cR e s e a r c h , a n d t h e N a v a l A i r D e v e l o p m e n t C e n t e r

u n d e r c o n t r a c t N 0 0 0 1 4 - 7 9 - C - 0 3 2 3 . R e q u e s t s f o r r e -

p r i n t s s h o u l d b e s e n t t o D o n a l d A . N o r m a n , P r o g r a m

I n C o g n i t i v e S c i e n c e C - 0 1 5 ; U n i v e r s i t y o f C a l i f o r -

n i a , S a n D i e g o ; L a J o l l a , C a l i f o r n i a , 9 2 0 9 3 , U S A .

8 8 1



R e f e r e n c e s

C a r d , S . , M o r a n , T . , & N e w e l l , A . , A p p l i e d

i n f o r m a t i o n - p r o c e s s l n g p s y c h o l o g y : T h e

h u m a n - c o m p u t e r i n t e r f a c e . H i l l s d a l e , N . J . :

E r l b a u m A s s o c i a t e s , 1 9 82 .

G e n t n e r , D . T h e S t r u c t u r e o f A n a l o g i c a l M o d e l s

i n S c i e n c e : T e c h n l c a l R e p o r t 4 4 51 . C a m -

b r i d g e , M a s s : B o l t , B e r a n e k a n d N e w m a n , 1 9 8 0 .

G e n t n e r , D. & S t e v e n s , A . ( E d s . ) , M e n t a l m o d e l s .

H i l l s d a l e , N . J . : E r l b a u m A s s o c l a t e s , 1 9 8 2 ( i np r e s s ) .

L a k o f f , G. & J o h n s o n , M. M e t a p h o r s w e l i v e 5~ .

C h i c a g o : U n i v e r s i t y o f C h i c a g o P r es s , 1 9 8 0 .

L o c k h e e d M i s s i l e s & S p a c e C o m p a n y . H u m a n f a c t o r s

r e v i e w o f n u c l e a r p o w e r ~ ! a n t c o n t r o l r o o m

d e s k . E P R I N P - 3 0 9- S Y . P a l o A l t o, C a l i f o r -

n i a . : E l e c t r i c P o w e r R e s e a r c h I n s t i t u t e ,1976.

N a t i o n a l T r a n s p o r t a t i o n S a f e t y B o a r d. A i r c r a f t

i n c i d e n t r e R 0 r t : A e r o M e x i c o D C - 1 0 - 3 0 , X A - D U H

o v e r L u x e m b o u r g , E u r o p e , N o v e m b e r I I , 1 9 7 9 .( N T S B - A A R - 8 0 - 1 0 ) . W a s h i n g t o n , D . C . : N a t i o n a l

t r a n s p o r t a t io n s a fe t y b o a rd , N o w ~ b e r , 1 98 0.

( a) ( R e p o r t a v a i l a b l e f r o m N a t i o n a l T e c h n i c a lI n f o r m a t i o n S e r v i c e . )

N a t i o n a l T r a n s p o r t a t i o n S a f e t y B o a r d . S p e c i a li n v e s t i g a t i q n r e _ _ ~ _ q / . ~ : D e s i ~ n - l n d u c e d l a n d i n g

g e a r r e t r a c t i o n a c c i d en t s i n B e e c h B a r o n ,B o n a n z a , a n d o t h e r l l g b t a i r c r a f t . ( N T S B -

S R - 8 0 - 1 ) . W a s h i n g t o n , D . C . : N a t i o n a l T r a n -

s p o r t a t l o n S a f e t y B o a r d , J u n e , 1 9 8 0. ( b )

( R e p o r t a v a i l a b l e f r o m N a t i o n a l T e c h n i c a lI n f o r m a t i o n S e r v i c e . )

N o r m a n , D . A . C a t e g o r i z a t i o n o f a c t i o n s l ip s .P s y c h o l o g i c e l R e v i e w , 1 9 81 , 8 8 , 1 - 1 5 .

N o r m a n , D. A . , S o m e o b s e r v a t i o n s o n m e n t a l

m o d e l s . I n D . G e n t n e r a n d A . S t e v e n s

( E ds . ), M e n t a l m o d e l s . H i l l s d a l e , N . J . : E r l -b a u m A s s o c i a t e s , 1 9 8 2 ( i n p re s s ) .

T e i t e l m a n , W. , & M a s i n t e r , L . , T h e I n t e r l i s p

p r o g r a m m i n g e n v i r o n m e n t . C o m p u t e r , 1 9 8 1 , 1 4 ,(April, No. 4), 25 - 33.

3 8 2

steps toward a cognitive engineering (1982).pdf

Documents