[doi 10.1177%2f096228029800700306]

8/16/2019 [doi 10.1177%2F096228029800700306]

1/18

http://smm.sagepub.com/ Statistical Methods in Medical Research

http://smm.sagepub.com/content/7/3/301The online version of this article can be found at:

DOI: 10.1177/096228029800700306

1998 7: 301Stat Methods Med Res Patrick E ShroutMeasurement reliability and agreement in psychiatry

Published by:

http://www.sagepublications.com

can be found at:Statistical Methods in Medical Research Additional services and information for

http://smm.sagepub.com/cgi/alertsEmail Alerts:

http://smm.sagepub.com/subscriptionsSubscriptions:

http://www.sagepub.com/journalsReprints.navReprints:

http://www.sagepub.com/journalsPermissions.navPermissions:

http://smm.sagepub.com/content/7/3/301.refs.htmlCitations:

What is This?

- Jun 1, 1998Version of Record>>

at UNIV OF IDAHO LIBRARY on September 5, 2014smm.sagepub.comDownloaded from at UNIV OF IDAHO LIBRARY on September 5, 2014smm.sagepub.comDownloaded from

http://smm.sagepub.com/http://smm.sagepub.com/http://smm.sagepub.com/http://smm.sagepub.com/content/7/3/301http://smm.sagepub.com/content/7/3/301http://www.sagepublications.com/http://smm.sagepub.com/cgi/alertshttp://smm.sagepub.com/subscriptionshttp://smm.sagepub.com/subscriptionshttp://www.sagepub.com/journalsReprints.navhttp://www.sagepub.com/journalsReprints.navhttp://www.sagepub.com/journalsPermissions.navhttp://smm.sagepub.com/content/7/3/301.refs.htmlhttp://smm.sagepub.com/content/7/3/301.refs.htmlhttp://online.sagepub.com/site/sphelp/vorhelp.xhtmlhttp://online.sagepub.com/site/sphelp/vorhelp.xhtmlhttp://smm.sagepub.com/content/7/3/301.full.pdfhttp://smm.sagepub.com/http://smm.sagepub.com/http://smm.sagepub.com/http://smm.sagepub.com/http://smm.sagepub.com/http://smm.sagepub.com/http://online.sagepub.com/site/sphelp/vorhelp.xhtmlhttp://smm.sagepub.com/content/7/3/301.full.pdfhttp://smm.sagepub.com/content/7/3/301.refs.htmlhttp://www.sagepub.com/journalsPermissions.navhttp://www.sagepub.com/journalsReprints.navhttp://smm.sagepub.com/subscriptionshttp://smm.sagepub.com/cgi/alertshttp://www.sagepublications.com/http://smm.sagepub.com/content/7/3/301http://smm.sagepub.com/

8/16/2019 [doi 10.1177%2F096228029800700306]

2/18

S t a t i s t i c a l M e t h o d s i n

M e d i c a l

R e s e a r c h 1 9 9 8 ;

7 :

3 0 1 - 3 1 7

M e a s u r e m e n t r e l i a b i l i t y

a n d

a g r e e m e n t

i n

p s y c h i a t r y

P a t r i c k

E

Shrout

D e p a r t m e n t

o f

P s y c h o l o g y ,

New

Y o r k

U n i v e r s i t y ,

New

Y o r k ,

US A

P s y c h i a t r i c r e s e a r c h h a s

b e n e f i t e d

f r o m

a t t e n t i o n

t o

m e a s u r e m e n t

t h e o r i e s o f

r e l i a b i l i t y ,

a n d

r e l i a b i l i t y /

a g r e e m e n t

s t a t i s t i c s

f o r

p s y c h o p a t h o l o g y

r a t i n g s

a n d d i a g n o s e s a r e

r e g u l a r l y r e p o r t e d i n e m p i r i c a l

r e p o r t s .

N e v e r t h e l e s s , t h e r e a r e s t i l l c o n t r o v e r s i e s r e g a r d i n g h o w r e l i a b i l i t y

s h o u l d

b e

m e a s u r e d ,

a n d

t h e

a m o u n t

o f

r e s o u r c e s

t h a t

s h o ul d b e s p e n t

o n

s t u d y i n g


q u a l i t y i n r e s e a r c h p r o g r a m s .

T h e s e

i s s u e s a r e d i s c u s s e d i n

t h e c o n t e x t o f

r e c e n t

t h e o r e t i c a l a n d t e c h n i c a l

c o n t r i b u t i o n s

t o t h e

s t a t i s t i c a l

a n a l y s i s o f

r e l i a b i l i t y . S p e c i a l a t t e n t i o n

i s

p a i d

t o


s t u d i e s

p u b l i s h e d s i n c e K r a e m e r s

1 9 9 2 r e v i e w

o f

r e l i a b i l i t y

m e t h o d s i n t h i s j o u r n a l .

1

I n t r o d u c t i o n

T h e

g e n e r a l i s s u e s c o n c e r n i n g

r e l i a b i l i t y a n d

a g r e e m e n t i n

P s y c h i a t r i c


h a v e b e e n

d i s c u s s e d

e x t e n s i v e l y

i n

p s y c h i a t r y j o u r n a l s -

a n d i n s t a t i s t i c a l

a n d

p s y c h o m e t r i c w r i t i n g . 8

1 4

Many

e x c e p t i o n a l l y

c l e a r

i n t r o d u c t i o n s t o

t h e

t o p i c

h a v e

b e e n

w r i t t e n

f o r

s c i e n t i s t s

a n d

s t a t i s t i c i a n s , 1 5 1 6

a n d

t h e

i n c l u s i o n

o f


s t a t i s t i c s

i n

c u t t i n g

e d g e r e s e a r c h

r e p o r t s i s n o w c o m m o n .

T h e


l i t e r a t u r e

h a s d o c u m e n t e d t h e a d v e r s e e f f e c t s o f

e x t r a n e o u s

r a n d o m

v a r i a t i o n o n m e a s u r e s o f s y m p t o m

s e v e r i t y a n d

e x t e n t ,

m e a s u r e s o f

f u n c t i o n i n g ,

f o r m u l a t i o n o f

p s y c h i a t r i c d i a g n o s e s , a n d t h e a s s e s s m e n t

o f

r i s k

s t a t u s .

E x t r a n e o u s

r a n d o m v a r i a t i o n

may

b e

i n t r o d u c e d b y

many

p r o c e s s e s ,

i n c l u d i n g a m b i g u o u s

i t e m s

a n d

d i a g n o s t i c c r i t e r i a , i m p r o p e r l y t r a i n e d

r a t e r s , m e m o r y l a p s e s b y i n f o r m a n t s , a n d

l a c k

o f

i n s i g h t

b y

p a t i e n t s .

H o w e v e r ,

e x t r a n e o u s


v a r i a t i o n

i s

n o t

a l w a y s

d u e

t o m i s t a k e s o r

e r r o r s . V a r i a t i o n

may

a l s o b e i nt ro d u c e d w h e n

l e g i t i m a t e

p e r s p e c t i v e s

a r e

s a m p l e d

r a t h e r

t h a n

s y s t e m a t i c a l l y

a s s e s s e d .

F o r

e x a m p l e ,

m o t h e r s

a n d

f a t h e r s may p r o v i d e d i f f e r e n t , b u t

w o r t h w h i l e ,

i n f o r m a t i o n a b o u t

t h e i r c h i l d .

R a n d o m l y

c h o s e n

r a t e r s

may

h a v e d i f f e r e n t b u t

l e g i t i m a t e

t h e o r i e s

a b o u t h o w

t o

i n t e r p r e t

co mmo n

o b s e r v a t i o n s .

W h a t e v e r i t s

c a u s e ,

m e a s u r e m e n t v a r i a t i o n m e a n s t h a t o n e

a s s e s s m e n t

d i f f e r s f r o m

a n

i n d e p e n d e n t

r e p l i c a t e

a s s e s s m e n t . I f

t h e

a m o u n t

o f

m e a s u r e m e n t v a r i a t i o n

i s

e x t r e m e ,

t h e

p a t i e n t may

r e c e i v e o n e

d i a g n o s i s

r a t h e r t h a n

a n o t h e r ,

t h e

w r o n g p e r s o n s

may

b e

a s s i g n e d

t o t r e a t m e n t a n d

c o n t r o l

g r o u p s ,

a n d t h e s t a t i s t i c a l

a n a l y s i s

o f

v a l i d i t y

s t u d i e s

may

l e a d

t o

b i a s e d r e s u l t s .

R e c o g n i t i o n

o f

t h e

n e e d

f o r r e l i a b l e


a n d

d i a g n o s i s

h a d

a

s u b s t a n t i a l

i m p a c t

o n

t h e

d e v e l o p m e n t

o f

t h e

t h i r d

a n d

f o u r t h

e d i t i o n s

o f t h e

D i a g n o s t i c

a n d

S t a t i s t i c a l M a n u a l

i n

t h e

U n i t e d S t a t e s 1 7 1 8

a n d

t h e

I n t e r n a t i o n a l

C l a s s i f i c a t i o n

o f

D i s e a s e s

o u t s i d e

t h e

U S A . 9

D i a g n o s t i c d i s t i n c t i o n s

t h a t

c o u l d

b e

m a d e

r e l i a b l y

w e r e

A d d r e s s

f o r

c o r r e s p o n d e n c e :

PE

S h r o u t , D e p a r t m e n t

o f

P s y c h o l o g y ,

New

Y o r k

U n i v e r s i t y ,

6

W a s h i n g t o n P l a c e ,

New

Y o r k ,

NY

1 0 0 3 ,

U S A . E - m a i l :

s h r o u t @ p s y c h . n y u . e d u

0 9 6 2 - 2 8 0 2 9 8 ) S M 1 6 5 R A

C

A r n o l d

1 9 9 8

at UNIV OF IDAHO LIBRARY on September 5, 2014smm.sagepub.comDownloaded from

http://smm.sagepub.com/http://smm.sagepub.com/http://smm.sagepub.com/http://smm.sagepub.com/

8/16/2019 [doi 10.1177%2F096228029800700306]

3/18

3 0 2 PE

S h r o u t

i n c l u d e d

i n t h e s e

m a n u a l s ,

w h i l e d i s t i n c t i o n s t h a t

w e r e

h a r d t o

r e p l i c a t e

w e r e

l e f t

o u t .

I t

b e c a m e

w i d e l y

r e c o g n i z e d

t h a t

a m e a s u r e

t h a t c a n

n o t

b e r e p r o d u c e d i s o n e

t h a t

i s

u n l i k e l y

t o

b e v a l i d .

P e r h a p s

m o r e

t h a n

i n

o t h e r

a r e a s o f

m e d i c i n e ,

p s y c h i a t r y

h a s

b e e n

p r o f o u n d l y

a f f e c t e d

b y r e l i a b i l i t y t h e o r y

a n d m e t h o d s .

D e s p i t e

a l l

t h a t

h a s b e e n

w r i t t e n

a n d

a l l

t h e

p r o g r e s s

t h a t

h a s

b e e n

m a d e

u s i n g


s t a t i s t i c s i n

p s y c h i a t r y ,

t h e r e

r e m a i n

i m p o r t a n t

c o n t r o v e r s i e s a b o u t

f u n d a m e n t a l

i s s u e s s u c h

a s

h o w m e a s u r e m e n t

p r e c i s i o n

s h o u l d

b e

c h a r a c t e r i z e d ,

a n d

h o w


s t u d i e s

i n

p s y c h i a t r y

s h o u l d

b e

d e s i g n e d .

S o m e o f t h e

s t a n d i n g

c o n t r o v e r s i e s a r e

c o v e r e d b e l o w ,

w h i l e

r e c e n t c o n t r i b u t i o n s t o t h e s t a t i s t i c a l t r e a t m e n t

o f


a n d

a g r e e m e n t

a r e

r e v i e w e d . T h e s e

s t a t i s t i c a l / p s y c h o m e t r i c

d i s c u s s i o n s

a r e

p l a c e d

i n

t h e

c o n t e x t o f

p s y c h i a t r i c

r e s e a r c h a n d c l i n i c a l

p r a c t i c e .

B e l o w i s a b r i e f

r e v i e w

o f f o r m a l


m o d e l s .

2

Recap

o f

c l a s s i c a l

r e l i a b i l i t y t h e o r y

2 . 1

T h e

a d d i t i v e

e r r o r

model

C l a s s i c a l r e l i a b i l i t y

t h e o r y

w a s

o r i g i n a l l y

d e v e l o p e d

f o r


i n

e d u c a t i o n

a n d

c o g n i t i v e p s y c h o l o g y .

L o r d a n d

N o v i c k 4

a n d C r o n b a c h

e t

a l . 1 0 p r o v i d e

t h e m o s t

t h o r o u g h d e v e l o p m e n t s

o f t h e s t a t i s t i c a l b a s i s o f

c l a s s i c a l

t h e o r y .

S u p p o s e

w e h a v e

a

p o p u l a t i o n

o f m e a s u r e s o r m e a s u r e m e n t

d e v i c e s ,

a n d we

s a m p l e

m e a s u r e

j

t o

a s s e s s

a

f i x e d

p e r s o n

i . C a l l

t h a t

m e a s u r e m e n t ,

X i j .

I n

e d u c a t i o n , t h e

m e a s u r e

j

m i g h t b e

a

p a r t i c u l a r

i t e m

o r a c h i e v e m e n t

s u b t e s t ,

a n d ,

i n

p s y c h i a t r y ,

t h e m e a s u r e m i g h t

b e a n

e x p e r t

r a t e r o r

a

f a m i l y

i n f o r m a n t .

F o l l o w i n g

t h e

n o t a t i o n

a n d

t e r m i n o l o g y

o f

K r a e m e r , 1 6

we

w r i t e

X i j

a s

t h e

sum

o f

a

p e r s o n

p a r a m e t e r ,

i ,

a n d

a

r e s i d u a l

t e r m t h a t

c a r r i e s

t h e

u n i q u e

e f f e c t o f

m e a s u r e

j

x i j

=

( +

i

T h e f i x e d p e r s o n

p a r a m e t e r ,

i ,

i s

d e f i n e d

a s t h e e x p e c t e d v a l u e o f

X o v e r t h e

p o p u l a t i o n

o f m e a s u r e s .

K r a e m e r c a l l s i t t h e c o n s e n s u s

s c o r e ,

w h i l e

L o r d a n d N o v i c k 4

c a l l i t t h e t r u e

s c o r e ,

a n d C r o n b a c h e t

a l . 1 0

c a l l i t

t h e

u n i v e r s e s c o r e .

B e c a u s e

i

i s

E ( X i 0 )

f o r t h e f i x e d

p e r s o n ,

E i j )

=

0 . F o r

t h e f i x e d

p e r s o n ,

w e w i l l

w r i t e ,

V a r X i j )

=

V a r E i j )

=

u ( c ) ,

w h i c h i s

known

a s t h e

s q u a r e d

s t a n d a r d e r r o r o f

m e a s u r e m e n t f o r

p e r s o n

i .

C l e a r l y ,

t h e s m a l l e r

a 2 ( E ) i s ,

t h e

m o r e p r e c i s e t h e

m e a s u r e m e n t .

W h e t h e r

5 2 ( E )

i s

i n t e r p r e t e d

t o

b e

l a r g e

o r

s m a l l

u s u a l l y

d e p e n d s

o n

i t s

s i z e r e l a t i v e

t o t h e

v a r i a n c e

o f

t h e

m e a s u r e d

c h a r a c t e r i s t i c

o v e r

p e r s o n s .

S u p p o s e

t h a t

X

n o w

r e p r e s e n t s

a

m e a s u r e m e n t o f a

r a n d o m l y

s e l e c t e d

p a t i e n t .

U n d e r

t h i s

s a m p l i n g

p l a n ,

w e

c o n s i d e r t h e

c o n s e n s u s

s c o r e ,

i ,

t o

b e

a r a n d o m e f f e c t

w i t h

mean , u a n d

t h e

v a r i a n c e ,

a o 2 ) .

I t i s

c u s t o m a r y

i n

c l a s s i c a l

r e l i a b i l i t y t h e o r y

t o

a s s u m e t h a t

t h e

v a r i a n c e

o f

t h e e r r o r

c o m p o n e n t ,

5 2 ( E ) ,

i s

t h e s a m e

f o r d i f f e r e n t

s u b j e c t s . T h i s

a s s u m p t i o n

i s o n e

t h a t

i s

r e j e c t e d b y

s o - c a l l e d

m o d e r n t e s t

t h e o r y ,

o r

i t e m

r e s p o n s e

t h e o r y .

1 4



8/16/2019 [doi 10.1177%2F096228029800700306]

4/18

M e a s u r e m e n t

r e l i a b i l i t y a n d a g r e e m e n t

i n

p s y c h i a t r y

3 0 3

2 . 2 T h e r e l i a b i l i t y c o e f f i c i e n t

I n

c l a s s i c a l

r e l i a b i l i t y t h e o r y , t h e

r e l i a b i l i t y c o e f f i c i e n t

i s

d e f i n e d a s

t h e

r a t i o

o f t h e

t r u e

s c o r e

v a r i a n c e t o t h e t o t a l v a r i a n c e

o f

t h e

o b s e r v e d

m e a s u r e ,

X . T h e

p a t i e n t s /

r e s p o n d e n t s

a r e

a s s u m e d

t o

b e

s a m p l e d

i n d e p e n d e n t l y o f

t h e e r r o r

p r o c e s s ,

a n d

s o t h e

o b s e r v e d

v a r i a n c e

o f

X

c a n b e

d e c o m p o s e d

a s

t h e

sum

o f

t h e

t r u e s c o r e

a n d

e r r o r

v a r i a n c e s

Rx=

J=[r 2 . 1 )

T h e

r e l i a b i l i t y c o e f f i c i e n t ,

R x ,

i s

r e a d i l y i n t e r p r e t e d

a s

t h e

p r o p o r t i o n

o f

a x 2

t h a t i s d u e

t o

r e p l i c a b l e

d i f f e r e n c e s

i n

p a t i e n t s .

I t

t u r n s o u t t o

b e

a

u s e f u l

q u a n t i t y

i n


a n a l y s e s

a s w e l l .

F o r

e x a m p l e ,

S n e d e c o r

a n d C o c h ra n 2 0

s h o w t h a t

t h i s

i s t h e

q u a n t i t y

t h a t d e s c r i b e s t h e

b i a s o f l e a s t

s q u a r e s

e s t i m a t e

o f

t h e

b i v a r i a t e

r e g r e s s i o n

o n a

f a l l i b l e


v a r i a b l e

( s e e

a l s o

F u l l e r 2 1 ) .

L o r d

a n d

N o v i c k 1 4

s h o w

h o w

p r o d u c t

moment

c o r r e l a t i o n s a r e

a t t e n u a t e d b y

t h e

r e l i a b i l i t i e s

o f

t h e t w o v a r i a b l e s

b e i n g

a n a l y s e d ,

a n d

w o r k

o n

b i a s

i n

maximum

l i k e l i h o o d

l o g i s t i c

r e g r e s s i o n

h a s

a l s o

s h o w n

b i a s

t o

b e i nd e x e d

b y

R x .

K r a e m e r 1 2 d e s c r i b e s

how t h e

p o w e r

o f

h y p o t h e s i s

t e s t s

i s

a f f e c t e d b y c h a n g e s

i n

Rx

f o r t h e

d e p e n d e n t

m e a s u r e s .

2 . 3

E s t i m a t i o n

o f

Rx

Rx

i s e s t i m a t e d

u s i n g

d a t a

o n

a c t u a l

r e p l i c a t e

m e a s u r e s

o f

X i j .

W h i l e ,

i n

t h e o r y ,

m e a s u r e m e n t s a r e

a s

s e l e c t e d

f r o m a

l a r g e p o p u l a t i o n

o f

p o t e n t i a l m e a s u r e s ,

i n

p r a c t i c e t h e y a r e o f t e n s e l e c t e d f r o m

a

f i n i t e

s e t

o f r a t e r s , i t e m s ,

o r t e s t f o r m s .

Many

o f

t h e


i s s u e s

i n


t h e o r y

a r e

c o n c e r n e d w i t h

m o d e l s f o r

r e p r e s e n t i n g

t h e

k i n d s

o f

r e p l i c a t e

m e a s u r e m e n t s t h a t a r e a v a i l a b l e

i n

e m p i r i c a l

s t u d i e s .

T h e m o s t common w a y t o e s t i m a t e

Rx

i s

t o

u s e s o m e f o rm o f i n t r a c l a s s

c o r r e l a t i o n .

S e v e r a l

f o rm s h a v e

b e e n

d e s c r i b e d

f o r

q u a n t i t a t i v e

r a t i n g s . 2 3 2 5

T h e s e

v a r y

a c c o r d i n g

t o

w h e t h e r

t h e

r e l i a b i l i t y d e s i g n

h a s

r a t e r s c r o s s e d

w i t h

p a t i e n t s

o r w h e t h e r

i t

h a s

u n i q u e

r a t e r s n e s t e d

w i t h i n

p a t i e n t s .

T h e f o r m s

a l s o d i f f e r

a c c o r d i n g

t o w h e t h e r

t h e

r a t e r s a r e c o n s i d e r e d

t o b e

r a n d o m

o r

f i x e d

e f f e c t s .

F o r

b i n a r y

o r

c a t e g o r i c a l

r a t i n g s ,

t h e

f a m i l y

o f

k a p p a

c o e f f i c i e n t s

p r o v i d e s

t h e m o s t

c o m m o n e s t i m a t e s . 9 1 2 2 6 D u n n 1 5

p r o v i d e s a n e x t e n s i v e d i s c u s s i o n

o f

m a n y a p p r o a c h e s

t o

t h e

e s t i m a t i o n

o f v a r i o u s

f o r m s o f

R x .

2 . 4

C o m p o s i t e

m e a s u r e s

T h e


o f

a n y


p r o c e d u r e

t h a t h a s

Rx

>

0

c a n b e

i mp ro v e d b y

a v e r a g i n g r e p l i c a t e m e a s u r e m e n t s ,

when

r e p l i c a t e

m e a s u r e m e n t s

ar e a v a i l a b l e .

S u p p o s e

W

i s

t h e

a v e r a g e

o f

k - i n d e p e n d e n t

X

m e a s u r e m e n t s .

S p e a r m a n 2 7

a n d

B r o w n 2 8

d e s c r i b e d

t h e


o f W ,

R w ,

i n

t e r m s

o f

t h e


o f t h e

m e a s u r e s

t h a t a r e

a v e r a g e d ,

R x .

T h e s o - c a l l e d

S p e a r m a n - B r o w n

f o r m u l a

i s

R w ( ) =

k R x

R w ( k )

~ ~ ~ ~ ~ ~ ~ ~ ~ ~ ~

) 1

( k - l I ) R x ( 2 )

T h i s

e x p r e s s i o n

i s

d e r i v e d

a s s u m i n g

t h a t

t h e

r e p l i c a t e

m e a s u r e s

h a v e

t h e

same

e x p e c t e d

v a l u e ,

a n d

t h e

s a m e

e r r o r v a r i a n c e .

R e p l i c a t i o n s

t h a t

m e e t t h e s e c r i t e r i a

a r e



8/16/2019 [doi 10.1177%2F096228029800700306]

5/18

3 0 4

PE S h r o u t

c a l l e d

p a r a l l e l m e a s u r e s .

C o m p o s i t e s

o f m e a s u r e s t h a t

a r e

n o t

s t r i c t l y p a r a l l e l

w i l l a l s o

b e m o r e

r e l i a b l e t h a n t h e

c o m p o n e n t s ,

b u t t h e

r e l i a b i l i t y , R w ,

d e p e n d s

o n

t h e

p a t t e r n

o f

v a r i a n c e s a n d c o v a r i a n c e s

o f t h e

m e a s u r e s i n t h a t c a s e .

I m p r o v i n g

t h e

r e l i a b i l i t y o f a


b y

s u m m i n g

o r

a v e r a g i n g r e p l i c a t e

m e a s u r e s

i s

o n e

o f

t h e

m o s t

i m p o r t a n t

s t r a t e g i e s

r e s e a r c h e r s

h a v e

f o r

d e a l i n g

w i t h


e r r o r .

C l a s s i c a l r e l i a b i l i t y

t h e o r y g i v e s

t h e

r e s e a r c h e r

t h e

t o o l s n e e d e d t o

p l a n how

many r e p l i c a t e

m e a s u r e s a r e n e e d e d

t o

o b t a i n

a d e q u a t e r e l i a b i l i t y ( s e e , f o r

e x a m p l e , S h ro ut a n d

F l e i s s 2 5 ) .

2 . 5 E x t e n s i o n s o f

c l a s s i c a l t h e o r y

K r a e m e r 1 2 1 6 s h o w e d

t h a t

many

o f t h e r e s u l t s o f c l a s s i c a l


t h e o r y a p p l y

t o

X v a r i a b l e s t h a t a r e

b i n a r y e . g .

d i a g n o s i s

p r e s e n t

v e r s u s

a b s e n t ) . S h e s h o w e d t h a t

c e r t a i n f o r m s o f t h e

k a p p a f a m i l y

o f

s t a t i s t i c s ,

f i r s t

p r o p o s e d b y

C o h e n 9 a s a d h o c

a g r e e m e n t

i n d i c e s ,

a r e

a c t u a l l y

e q u i v a l e n t

t o i n t r a c l a s s

c o r r e l a t i o n e s t i m a t e s

o f

R x .

T h e

p o p u l a t i o n m o d e l d e f i n e d

b y

K r a e m e r , r e p r e s e n t s

t h e

c o n s e n s u s s c o r e s ,

i ,

a s

c o n t i n u o u s

p r o b a b i l i t y

v a l u e s

i n

t h e

i n t e r v a l

0 ,

1 ) .

A l t h o u g h

t h e

c o n s e n s u s

s c o r e s

c a n

b e l i n k e d

c o n c e p t u a l l y

t o s o m e u n k n o w n l a t e n t

c a t e g o r i e s

e . g .

d i s e a s e

t r u l y p r e s e n t ,

d i s e a s e t r u l y a b s e n t ) ,

t h e s e l a t e n t

c a t e g o r i e s

a r e

n e i t h e r n e c e s s a r y n o r

h e l p f u l

i n

d e r i v i n g

t h e


t h e o r y

r e s u l t s .

C r o n b a c h

e t

a l . 1 0

e x t e n d e d

c l a s s i c a l


t h e o r y b y

d e v e l o p i n g

a

f r a m e w o r k

f o r

s y s t e m a t i c a l l y e x p l o r i n g

d e t e r m i n a n t s

o f

e r r o r

v a r i a t i o n a n d o f

c o n s e n s u s s c o r e

v a r i a t i o n .

F o r

e x am p l e , s u p p o s e m u l t i p l e

r a t e r s a r e

s a m p l e d

f r o m a

p o p u l a t i o n

o f

e x p e r t s

t h a t

i n c l u d e s

p s y c h i a t r i s t s , p s y c h o l o g i s t s a n d


s o c i a l

w o r k e r s .

S u p p o s e

a l s o

t h a t

s o m e

o f t h e

e x p e r t s

i n t e r v i e w t h e

p a t i e n t s

i n

t h e i r o f f i c e s

a n d

o t h e r s

c o n d u c t t h e i n t e r v i e w

i n

a

h o s p i t a l

w a r d . D o e s

t h e s e l e c t i o n o f

t y p e

o f

e x p e r t

a n d

p l a c e

o f

t h e i n t e r v i e w h a v e a n

e f f e c t

o n

t h e r a t i n g s ? T h e

a n a l y s e s

o f

s u c h m e as u re m e nt

f a c e t s

i s

w h a t

C r o n b a c h

a n d

h i s

c o l l e a g u e s

c a l l

g e n e r a l i z a b i l i t y

a n a l y s e s .

L i k e

s i m p l e


a n a l y s e s , g e n e r a l i z a b i l i t y

t h e o r y

m a k e s

u s e

o f

v a r i a n c e c o m p o n e n t s

m e t h o d s a n d o f t e n

r e p o r t s

s u m m a r i e s

o f

r e s u l t s a s v a r i a n c e

r a t i o s

t h a t r e s e m b l e

R x .

3

C o n t i n u i n g

c o n t r o v e r s i e s

3 . 1 R e p r e s e n t i n g

d e g r e e o f m e a s u r e m e n t

p r e c i s i o n

A

r e c u r r i n g

i s s u e

a m o n g t h o s e

c o n c e r n e d

w i t h


p r e c i s i o n i s w h e t h e r t h e


c o e f f i c i e n t

i s a n

o p t i m a l o r e v e n

a p p r o p r i a t e i n d e x o f


p r e c i s i o n .

Many

o f t h e

a r g u m e n t s a g a i n s t Rx c e n t r e

o n

i t s d e p e n d e n c e o n

a 2 G ) ,

t h e

v a r i a n c e o f

t h e

c o n s e n s u s

s c o r e s . A s

I

m e n t i o n e d a b o v e ,

t h e

r e l i a b i l i t y c o e f f i c i e n t

e s s e n t i a l l y

c a l i b r a t e s

t h e

m a g n i t u d e

o f

t h e e r r o r

v a r i a n c e ,

a o 2 E ) ,

w i t h

t h e

b e t w e e n

s u b j e c t

v a r i a n c e o n

i ,

a 2 ( ( )

R x

CJ

- 2

[ a 0

+

U f

£ ]

t

A l t h o u g h

t h e e r r o r

v a r i a t i o n

may

b e

m i n u s c u l e ,

t h e


c o e f f i c i e n t

w i l l

a p p r o a c h

z e r o

a s

t h e

b e t w e e n - s u b j e c t

c o n s e n s u s - s c o r e

v a r i a t i o n a p p r o a c h e s

z e r o .



8/16/2019 [doi 10.1177%2F096228029800700306]

6/18



a n d

a g r e e m e n t

i n

p s y c h i a t r y

3 0 5

M o r e o v e r ,

e v e n i f t h e r e l i a b i l i t y

o f

a

m e a s u r e m e n t p r o c e d u r e i s

s h o w n

t o b e

g o o d

i n

o n e

p o p u l a t i o n , i t m i g h t b e p o o r i n

a n o t h e r

p o p u l a t i o n t h a t i s m o r e

h o m o g e n e o u s , 3 0

a s

r e f l e c t e d b y

a s m a l l e r v a l u e o f

a 2

) .

T h e d e p e n d e n c e

o f

Rx

o n

b e t w e e n - s u b j e c t v a r i a n c e

h a s

b e e n

c a l l e d t h e

b a s e

r a t e

p r o b l e m

w h e n

X

i s

a

b i n a r y

v a r i a b l e .

T h i s

v e r s i o n

o f

t h e

c o m p l a i n t

i s

u s u a l l y

m a d e

a g a i n s t C o h e n s

k a p p a , w h i c h f o r b i n a r y

j u d g e m e n t s

i s

a

l e g i t i m a t e

e s t i m a t e

o f

R x .

T h e b a s e

r a t e p r o b l e m

h a s b e e n

d i s c u s s e d

b y

many

a u t h o r s 2 3 3 1 3 2

who o f t e n

a r g u e

f ro m a n

i n t u i t i v e

p e r s p e c t i v e t h a t s o m e t h i n g

m u s t b e

w r o n g

w i t h

a n i n d e x

o f

p r e c i s i o n

t h a t v a r i e s s y s t e m a t i c a l l y

w i t h t h e p r e v a l e n c e ( b a s e

r a t e )

o f t h e

b i n a r y c h a r a c t e r i s t i c .

T h e

n e c e s s i t y a n d d e s i r a b i l i t y

o f

c o n s i d e r i n g a 2 ( ( )

i n

i n d i c e s o f


p r e c i s i o n

c o m e s

u p i n a d i f f e r e n t

c o n t e x t w h e n a p o p u l a t i o n h a s

o n l y

a

s i n g l e

m e m b e r . 3 3 C o n s i d e r

a s i t u a t i o n i n

w h i c h f a m i l i e s o f

p a t i e n t s

who

w e r e

b e i n g

d i s c h a r g e d f r o m

a s p e c i f i c

p s y c h i a t r i c h o s p i t a l a r e a s k e d

t o r a t e

t h e i r

s a t i s f a c t i o n

w i t h

t h e f a c i l i t y .

S u p p o s e

1

i s t h e

r e s p o n s e f o r

c o m p l e t e l y

s a t i s f i e d

a n d

9

m e a n s

c o m p l e t e l y

d i s s a t i s f i e d .

I f

9 9

o u t

o f

1 0 0

f a m i l i e s i n

a

g i v e n y e ar

c h o s e

t h e

r e s p o n s e

a l t e r n a t i v e ,

9 ,

o n e

w o u l d

b e

i n c l i n e d

t o

t h i n k

t h a t

t h i s

w a s b a d

n e w s

f o r

t h e

i n s t i t u t i o n .

H o we v e r , f ro m

a

c l a s s i c a l

r e l i a b i l i t y p e r s p e c t i v e t h e

f a m i l y

f e e d b a c k

m i g h t

b e

d i s r e g a r d e d

b e c a u s e

t h e

r e l i a b i l i t y i s

n o t e s t a b l i s h e d . T h e

n e a r l y

p e r f e c t

c o n s e n s u s

w o u l d

l e a d

t o

a v e r y

s m a l l v a l u e o f a 2 ( E ) , b u t a d m i n i s t r a t o r s

m i g h t

s p e c u l a t e

t h a t a l l

h o s p i t a l s g e t

n e g a t i v e

r a t i n g s , w h i c h

w o u l d m e a n

t h a t

a 2 ( ( )

i s

h y p o t h e t i c a l l y

s m a l l e r .

C l e a r l y ,

t h i s a c a d e m i c a r g um e n t w o u l d n o t b e

r e a s s u r i n g

t o t h o s e i n

t h e

r e a l w o r l d

w h o

a r e c o n c e r n e d w i t h

q u a l i t y o f m e d i c a l

c a r e .

I n

o r g a n i z a t i o n a l p s y c h o l o g y , w h e r e

t h e i s s u e

o f r a t i n g s i n g l e

i n s t i t u t i o n s

c o m e s

u p

q u i t e o f t e n ,

a

s u g g e s t i o n

w a s m a d e t o

c r e a t e a m e t a p h o r i c a l f o r m o f

Rx

b y r e p l a c i n g

a 2 ( ( )

w i t h

h y p o t h e t i c a l

v a l u e s b a s e d o n a s s u m e d d i s t r i b u t i o n a l

f o r m s . 3 4

T h i s

s u g g e s t i o n h a s b e e n c o n t r o v e r s i a l . 5

3 3 3 5 3 6

O n e

r e a s o n a b l e

a l t e r n a t i v e

t o

a

r i g i d

a d h e r e n c e

t o

t h e

f o r m

o f

R x ,

w h e n

a 2 ( ( )

i s

n o t

k n o w n

o r

n o t

d e f i n e d ,

i s

t o

f o c u s

t h e

s u b s t a n t i v e d i s c u s s i o n o f m e a s u r e m e n t q u a l i t y a n d

i n t e r p r e t a t i o n

o n

t h e

m a g n i t u d e

o f

a r 2 e ) ,

t h e c l a s s i c a l s q u a r e d

s t a n d a r d e r r o r

o f m e a s u r e m e n t . 5

I n

m a n y

c o n t e x t s ,

s u c h

a s

t h e h y p o t h e t i c a l

r a t i n g s o f

t h e


h o s p i t a l ,

t h e


o f

U 2 ( E )

i s c l e a r

w i t h o u t

t h e n e e d

t o

r e s o r t t o

a f

i ) .

A

d i f f e r e n t s c h o o l

o f s t a t i s t i c i a n s a n d

p s y c h o m e t r i c i a n s

h a s r e c o m m e n d e d

t h a t

c l a s s i c a l


a n a l y s i s

b e

d i s p l a c e d

b y a n e w

e m p h a s i s

o n

u n d e r s t a n d i n g

t h e

r e s p o n s e p r o c e s s e s

o f i n d i v i d u a l m e a s u r e s .

D e v e l o p e d

i n

t h e c o n t e x t

o f e d u c a t i o n a l

m e a s u r e m e n t , t h i s p e r s p e c t i v e i s k n o w n a s i t e m

r e s p o n s e

t h e o r y ( I R T ) . 4 3 7

I R T

a t t e m p t s

t o

r e l a t e t h e

r e s p o n s e s

t o

e a c h

i t e m i n

a t e s t

t o a n

u n d e r l y i n g

l a t e n t

d i m e n s i o n , 0 , t h a t r e f l e c t s t h e

c o n s t r u c t

t o b e m e a s u r e d .

F o r


r a t i n g s ,

f a c t o r

a n a l y s i s w o u l d b e a n

e x a m p l e

o f a l a t e n t v a r i a b l e m o d e l

t h a t

r e l a t e s a n

u n o b s e r v e d

d i m e n s i o n t o

m a n i f e s t r a t i n g s . 5

I R T t h e o r i s t s

f o c u s

t h e i r

a t t e n t i o n o n t h e

p r e c i s i o n

o f e s t i m a t e s o f

0 ,

w h i c h

t h e y

d e s c r i b e

u s i n g t h e c o n c e p t o f

i n f o r m a t i o n

a d a p t e d

f r o m maximum

l i k e l i h o o d

t h e o r y .

T r e a t i n g

e ac h i t e m

o r m e a s u r e a s

f i x e d ,

I R T

r e p r e s e n t s

t h e

p r e c i s i o n

o f


( i n f o r m a t i o n )

a s

a

f u n c t i o n

o f

0 .

F o r

m o s t

m e a s u r e s ,

I R T

s h o w s

t h a t


v a r i e s

c o n s i d e r a b l y a c r o s s t h e d i m e n s i o n o n e i s

t r y i n g

t o

m e a s u r e .

B y c o n d i t i o n i n g

o n

0 , I R T t h e o r i s t s

h o p e

t o a v o i d

t h e

i n t u i t i v e

u n p l e a s a n t n e s s

o f

h a v i n g


p r e c i s i o n

d e p e n d

o n

t h e c h a r a c t e r i s t i c s

o f e a c h p o p u l a t i o n

b e i n g

m e a s u r e d . 3 7



8/16/2019 [doi 10.1177%2F096228029800700306]

7/18

3 0 6

PE

S h r o u t

F r o m

t h e

I R T

p e r s p e c t i v e , s u m m a r y m e a s u r e s o f


s h o u l d b e

r e p l a c e d

w i t h


f u n c t i o n s

f o r

f i x e d i t e m s

o r

m e a s u r e s .

O n e s e t o f

m e a s u r e s

may

b e

i n f o r m a t i v e a b o u t d i s t i n c t i o n s b e t w e e n

p e r s o n s

w i t h

s e v e r e p s y c h o p a t h o l o g y ,

w h i l e

a n o t h e r

s e t o f

m e a s u r e s may

b e

u s e f u l

i n

d i s t i n g u i s h i n g

s u b c l i n i c a l d i s o r d e r f r o m

p e r s o n s

who

a r e

f r e e

o f

s y m p t o m s .

T h e

i m p a c t

o f

d i f f e r e n t

l e v e l s

o f


p r e c i s i o n i s

m o r e

o r l e s s c r i t i c a l

d e p e n d i n g

o n

t h e

d i s t r i b u t i o n

o f

0

i n

a n y

g i v e n s t u d y

p o p u l a t i o n .

T h e

c o n t r o v e r s y

b e t w e e n a d v o c a t e s o f

c l a s s i c a l r e l i a b i l i t y

a n d

t h o s e

who

r e j e c t

s u m m a r y m e a s u r e s o f c h a n c e - c o r r e c t e d a g r e e m e n t , m i g h t b e

m a i n t a i n e d

b y d i f f e r e n t

a s s u m p t i o n s

m a d e

b y

e a c h s i d e . T h e

f o r m e r may a s s u m e

a n i n t e r e s t i n

p o p u l a t i o n -

b a s e d

s t u d i e s

o f

p s y c h i a t r i c p h e n o m e n a ,

w h i l e t h e l a t t e r

may

a s s u m e a n i n t e r e s t i n

s p e c i f i c s u b j e c t s .

A d v o c a t e s o f c l a s s i c a l r e l i a b i l i t y

e s t i m a t e s

c a n p o i n t t o t h e

u t i l i t y o f

Rx i n a s s e s s i n g

t h e i m p a c t

o f


e r r o r

o n

s u b s t a n t i v e

a n a l y s e s . 2 1 3 8

T h e y

c a n

a r g u e

t h a t

t h e

v a r i a n c e

o f

t h e

c o n s e n s u s

s c o r e ,

a 2

( ) ,

i s

i m p o r t a n t

b e c a u s e i t

a f f e c t s

t h e

o b s e r v e d

v a r i a n c e o f

X

i n

s t u d y

s a m p l e s . 6

T h e y

c a n

s h o w

t h e

e m p i r i c a l

b e n e f i t

o f

i m p r o v i n g

r e l i a b i l i t y i n t e r m s

o f


p o w e r 2

f o r p o p u l a t i o n - b a s e d s t u d i e s . T h e y a l s o c a n

a r g u e

t h a t

a t t e n t i o n

t o

c l a s s i c a l


b e f o r e s u b s t a n t i v e s t u d i e s

a r e

u n d e r t a k e n , i s

a

p r a c t i c a l

a n d

r e a l i s t i c

w a y

t o

i m p r o v e

t h e

q u a l i t y

o f s c i e n t i f i c r e s e a r c h . 1 6

F i n a l l y ,

t h e y

c a n s h o w t h a t

a l t e r n a t i v e

s u m m a r y m e a s u r e s o f


p r e c i s i o n a r e e i t h e r

f l a w e d , 6 3 9

o r

r e d u c i b l e t o f o r m s o f

t h e

c l a s s i c a l


c o e f f i c i e n t . 6 , 3 9 4 0 X 4 2

A d v o c a t e s f o r

a n

e m p h a s i s

o n t h e s t a n d a r d

e r r o r o f


w i t h o u t

r e g a r d

t o

t h e d i s t r i b u t i o n o f

e i t h e r

t h e

c o n s e n s u s

s c o r e , ,

o r

s o m e

o t h e r i n d i v i d u a l

d i f f e r e n c e

q u a n t i t y

s u c h a s I R T s

0 , a r e

o n

f i r m

g r o u n d w h e n

t h e

e m p h a s i s

i s

o n

s i n g l e s u b j e c t s ,

o r

o n

c o n d i t i o n a l

i n f e r e n c e . 3 7 U n l e s s t h e

s p e c i f i c

s u b j e c t s

a r e

b e i n g

c o m p a r e d

t o

o t h e r s i n t h e

s t u d y p o p u l a t i o n ,

t h e v a r i a n c e

o f

t h e

s t ud y p o p ul a t i o n

may

b e i r r e l e v a n t .

A s

d i s c u s s e d

b y

M e l l e n b e r g h , 3 7

f o c u s

o n



n e e d

n o t

p r e c l u d e

a

l a t e r

c o n s i d e r a t i o n

o f


i f t h e f o r m

o f

t h e

d i s t r i b u t i o n o f i n d i v i d u a l


i s

k n o w n .

U n f o r t u n a t e l y ,

s o m e

o f

t h e

p a r t i c i p a n t s

i n

t h e

c o n t r o v e r s y r e g a r d i n g

t h e

u s e f u l n e s s

o f

r e l i a b i l i t y e s t i m a t e s ,

h a v e n o t

f o c u s e d o n t h e

c a r e f u l l y

c o n s i d e r e d

p o s i t i o n s

r e v i e w e d

a b o v e .

I t

c a n

o n l y

b e h o p e d

t h a t t h e l i t e r a t u r e

w i l l m o v e

a w a y

f r o m

c o m p l a i n t s a b o u t t h e i n t u i t i v e n e s s ,

o r

l a c k

t h e r e o f ,

o f s t a t i s t i c a l r e s u l t s , t h e

d i f f i c u l t y

o f

d e m o n s t r a t i n g r e l i a b i l i t y

i n

p o p u l a t i o n - b a s e d

s t u d i e s

w i t h

l i m i t e d v a r i a t i o n ,

a n d

t h e s a d

f a c t t h a t


h a s

t o b e

r e a s s e s s e d

i n

e a c h n e w

s t u d y p o p u l a t i o n .

K r a e m e r 1 6

w a r n e d

a g a i n s t s u g a r - c o a t i n g

t h e

d i s c u s s i o n

o f


p r e c i s i o n ,

b u t

u n f o r t u n a t e l y

t h e r e

a r e s t i l l

i n s t a n c e s o f t h i s

p r a c t i c e .

3 . 2

Ho w

i n v o l v e d s h o u l d r e l i a b i l i t y

s t u d i e s

b e ?

A n o t h e r

a r e a o f

s o m e

c o n t e n t i o n

i n t h e


l i t e r a t u r e i s

how much

t i m e

a n d

e f f o r t

s h o u l d

b e

a l l o c a t e d

t o

t h e

s t u d y

o f

t h e

m a g n i t u d e

a n d s o u r c e s

o f


v a r i a t i o n . Many

o f t h e

m o d e l s a n d a n a l y s e s p r o p o s e d b y s t a t i s t i c i a n s a n d

p s y c h o m e t r i c i a n s r e q u i r e l a r g e s a m p l e s

w i t h

m u l t i p l e

r e p l i c a t e

m e a s u r e s . M e t h o d o -

l o g i c a l

a d v a n c e s c a n

b e

r e a d i l y

a p p l i e d

i n

e d u c a t i o n a l

r e s e a r c h ,

w h e r e

t h o u s a n d s ,

i f

n o t

h u n d r e d s

o f

t h o u s a n d s ,

o f s t u d e n t s s u b m i t

t o

s t a n d a r d i z e d

t e s t i n g .

H o w e v e r ,


c l i n i c a l


o f t e n

h a v e

l i m i t e d

p o p u l a t i o n s

o f

p a t i e n t s

a n d



8/16/2019 [doi 10.1177%2F096228029800700306]

8/18

M e a s u r e m e n t r e l i a b i l i t y a n d

a g r e e m e n t

i n

p s y c h i a t r y

3 0 7

r e s t r i c t e d n u m b e r s o f

c o l l e a g u e s

who c a n

s e r v e

a s

r e p l i c a t e

e x p e r t

r a t e r s . F o r t h i s

r e a s o n , s o m e

a p p r o a c h e s t o

t h e s t u d y

o f m e a s u r e m e n t

q u a l i t y

a r e d e s c r i b e d

a s

n o t

f e a s i b l e

f o r

p s y c h i a t r y .

T h e

q u e s t i o n

i s

how f a r



c a n ,

a n d

s h o u l d , b e p u s h e d .

T h e

a n s w e r

t o

t h e

s h o u l d p a r t

o f

t h e

q u e s t i o n

n o

d o u b t

d e p e n d s

o n

t h e

r e s e a r c h

q u e s t i o n

a n d

t h e

s c o p e

o f t h e

r e s e a r c h e n t e r p r i s e .

S m a l l

p r e l i m i n a r y

s t u d i e s

o f

p o t e n t i a l

i n d i v i d u a l


may

n e e d

o n l y p r e l i m i n a r y

a t t e n t i o n

t o



w h i l e

l a r g e e p i d e m i o l o g i c a l s u r v e y s

d e s e r v e m o r e

c o m p r e h e n s i v e

a t t e n t i o n

t o m e a s u r e m e n t q u a l i t y . F o r t u n a t e l y ,

t h e s t a t i s t i c a l

l i t e r a t u r e i n r e c e n t

y e a r s

h a s

b e g u n

t o

p r o v i d e

r e s e a r c h e r s w i t h

c o n c r e t e


a b o u t

how

l a r g e

a


s t u d y m u s t b e

t o

b e u s e f u l . I t

t ur n s o u t

t h a t e v e n

s i m p l e

s t u d i e s

o f r a t e r


a n d

a g r e e m e n t o f t e n n e e d

s a m p l e s

t h a t a r e

l a r g e r

t h a n t h o s e

c o m m o n l y

u s e d i n c u r r e n t

p s y c h i a t r i c r e s e a r c h .

C a n t o r 4 3 p r o v i d e d t a b l e s t o

f a c i l i t a t e

t h e

s a m p l e

s i z e

c a l c u l a t i o n s

f o r s t u d i e s

p l a n n i n g

t o

e s t i m a t e

C o h e n s k a p p a . T h e y

a s s u m e d

t h a t i n f e r e n c e s w o u l d

b e

m a d e

u s i n g

t h e

a s y m p t o t i c

s t a n d a r d

e r r o r

o f

k a p p a

r e p o r t e d

b y

F l e i s s

e t

a l . 4 4

T h e i r

i l l u s t r a t i o n s

m a k e

i t

c l e a r

t h a t m o r e t h a n

a h u n d r e d

s u b j e c t s

a r e

n e e d e d

i n

e a c h

2

x 2

t a b l e ,

i f o n e w a n t s


a s s u r a n c e

o f

d e t e c t i n g

m o d e s t

r e l i a b i l i t y .

D e t e c t i n g

m o d e s t


m e a n s

c o n s t r u c t i n g

c o n f i d e n c e

i n t e r v a l s

w i t h

l o w e r

b o u n d s

g r e a t e r

t h a n

0 . 3

o r

0 . 4 ,

o r

r e j e c t i n g

a

n u l l

h y p o t h e s i s

t h a t

k a p p a

i s

e q u a l

t o

0 . 3

a g a i n s t

a l t e r n a t i v e s t h a t

i t i s

g r e a t e r

t h a n 0 . 3 .

W a l t e r e t a l . 4 5

p r o v i d e d

u s e f u l

t a b l e s

f o r

p l a n n i n g


s t u d i e s i n w h i c h

t h e

o u t c o m e

r a t i n g

i s


a n d

a p p r o x i m a t e l y

n o r m a l ,

a n d

w h e n

e s t i m a t e s

o f

i n t r a c l a s s

c o r r e l a t i o n

a r e t o

b e

u s e d

a s


s t a t i s t i c s .

T h e y

u s e d

a n

a p p r o x i m a t i o n ,

b a s e d

o n

F i s h e r , 4 6

t o

p r o d u c e

a

c l o s e d

f o r m

e x p r e s s i o n

o f

t h e

s a m p l e

s i z e f o r

v a r i o u s

h y p o t h e s e s

a b o u t

r e l i a b i l i t y . B y s t u d y i n g

r e s u l t s

f o r d i f f e r e n t

n u m b e r s

o f

r a t e r s , a s

w e l l

a s

s u b j e c t s ,

t h e y

m a d e

r e c o m m e n d a t i o n s

a b o u t

o p t i m a l

d e s i g n s

o f


s t u d i e s .

T h e i r

r e s u l t s

s u g g e s t

t h a t

s t u d i e s

o f

q u a n t i t a t i v e r a t i n g s

c a n b e

s u b s t a n t i a l l y

s m a l l e r

i n t e r m s o f n u m b e r s

o f

s u b j e c t s

t h a n s t u d i e s

o f

b i n a r y r a t i n g s .

F o r

e x a m p l e ,

i f we

w a n t t o

d i s t i n g u i s h

a

t r u e


o f 0 . 6

f r o m a n u l l

v a l u e

o f 0 . 4

w i t h 80

p o w e r ,

a n d w e h a v e

t h r e e

r a t e r s ,

we w o u l d

o n l y

n e e d

3 2

s u b j e c t s

i n

t h e

r e l i a b i l i t y s t u d y .

D o n n e r 4 7 e x t e n d e d

t h e

d i s c u s s i o n

t o

c o n s i d e r

s a m p l e

s i z e

r e q u i r e m e n t s

f o r

c o m p a r i n g


r e s u l t s

f r o m

t w o o r

m o r e

i n d e p e n d e n t s a m p l e s .

He c o n s i d e r e d


s t u d i e s

o f b o t h c o n t i n u o u s


a n d

b i n a r y

d e c i s i o n s

w h e n t w o

r a t e r s a r e

u s e d . T h e

r e s u l t s

f o r

c o n t i n u o u s


w e r e

b a s e d

o n t h e

a p p r o x i m a t i o n

t h a t h e

a n d h i s

c o l l e a g u e s

u s e d

f o r

s i n g l e

s a m p l e

i n f e r e n c e , 4 5

w h i l e

t h e

r e s u l t s f o r

b i n a r y

r a t i n g s

w e r e

b a s e d o n

g o o d n e s s - o f - f i t

t e s t s . 4 8

L i k e

t h e

c a l c u l a t i o n s

f o r

s i n g l e

s a m p l e s ,

t h e s i z e s o f

s a m p l e s

n e e d e d

t o

c o m p a r e


o f

c o n t i n u o u s

r a t i n g s

a r e


s m a l l e r t h a n

t h o s e n e e d e d

t o

c o m p a r e

b i n a r y

r a t i n g s .

To

d i s t i n g u i s h

b e t w e e n


o f

0 . 2

a n d 0 . 6 w i t h

t w o r a t e r s

T y p e

I e r r o r

0 . 0 5 , T y p e

I I

e r r o r ,

0 . 2 0 ) ,

s a m p l e

s i z e s

o f

a r o u n d

6 0

w e r e

n e e d e d

i n

e a c h

g r o u p

f o r


r a t i n g s .

F o r

b i n a r y r a t i n g s ,

b e t w e e n

1 0 0 a n d

2 0 0

w e r e

n e e d e d ,

w i t h t h e

l a r g e r

n u m b e r

a s s o c i a t e d w i t h

s t u d i e s

w i t h

s m a l l e r

b a s e r a t e s .

T h e d i f f e r e n t

r e s u l t s

f o r c o n t i n u o u s

r a t i n g s

v e r s u s

b i n a r y

r a t i n g s

a r e

i m p o r t a n t

a n d

p e r s i s t e n t . A l t h o u g h

t h e

c o s t o f d i c h o t o m i z a t i o n h a s

b e e n d e s c r i b e d

r e p e a t e d l y

i n

t h e



8/16/2019 [doi 10.1177%2F096228029800700306]

9/18

3 0 8

P E

S h r o u t

m e t h o d o l o g i c a l

l i t e r a t u r e , 1 2 4 9 r e c e n t

p a p e r s

h a v e

a t t e m p t e d t o

m a k e

t h i s c o s t

e v e n

c l e a r e r w i t h

r e g a r d t o t h e e s t i m a t i o n

o f

r e l i a b i l i t y . 2 9 A s D o n n e r a n d

E l i a s z i w

p o i n t e d

o u t , t h e

s i t u a t i o n

f o r

i n f e r e n c e s a b o u t


i s

m a d e d i f f i c u l t b y t h e f a c t

t h a t

r a t h e r

s u b t l e


i n

p r e c i s i o n , s a y

b e t w e e n


o f

0 . 4

a n d

0 . 8 ,

may

b e

o f

c l i n i c a l

a n d

r e s e a r c h

i n t e r e s t . 2 9

When s u c h

d i s t i n c t i o n s

a r e

i n v e s t i g a t e d

w i t h

b i n a r y

o r

c a t e g o r i c a l r a t i n g s ,

p r o v i s i o n s

f o r much

l a r g e r s a m p l e s m u s t

b e

m a d e .

T h e

m e s s a g e

t h a t i s

b e g i n n i n g t o

e m e r g e

f r o m

t h e

c o n s i d e r a t i o n

o f

s a m p l i n g

d i s t r i b u t i o n s

o f e v e n

t h e

s i m p l e r


s t a t i s t i c s ,

i s

t h a t

s a m p l e

s i z e f o r

m e a s u r e m e n t s t u d i e s

n e e d t o b e

l a r g e r

t h a n

c om m on

p r a c t i c e .

P s y c h i a t r i c


n e e d

h e l p

i n

c h a n g i n g

t h e i r

e x p e c t a t i o n s

a b o u t how

much

e f f o r t i s

n e e d e d t o

s t u d y


I n

t h e

c o n t e x t o f

t h e s e

n e w

e x p e c t a t i o n s ,

s o m e o f

t h e

m u l t i v a r i a t e

m e t h o d s

t h a t a r e

b e i n g

d e v e l o p e d

t o

s t u d y m e a s u r e m e n t

q u a l i t y may

b e

n e w l y

a p p r a i s e d a s

f e a s i b l e

a n d

d e s i r a b l e .

3 . 3

S t a n d a r d s

f o r


r e s u l t s :

w h a t

i s

b a d ?

A

t h i r d a r e a

o f

s o m e

c o n t r o v e r s y

i n

t h e

r e l i a b i l i t y l i t e r a t u r e

i s

w h a t

c o n s t i t u t e s

a d e q u a t e

a n d

i n a d e q u a t e

r e l i a b i l i t y . L a n d i s a n d

K o c h 1 3 p r o v i d e d

a d j e c t i v e s t o

d e s c r i b e r a n g e s

o f


v a l u e s .

T h e s e

a r e

0 , 0 . 2 0 ) ,

s l i g h t ; ( 0 . 2 1 , 0 . 4 ) , f a i r ;

( 0 . 4 1 ,

0 . 6 0 ) ,

m o d e r a t e ; ( 0 . 6 1 , 0 . 8 0 ) ,

s u b s t a n t i a l ;

a n d

( 0 . 8 1 ,

1 . 0 k ,

a l m o s t

p e r f e c t .

A l t h o u g h

t h e s e

l a b e l s

h a v e

b e e n

q u o t e d

b y

s o m e

m e t h o d o l o g i s t s , 5

t h e y

h a v e

b e e n

c r i t i c i z e d

b y

o t h e r s .

5

T h e

i s s u e o f w h i c h

l a b e l s t o

p r o v i d e

may s e e m

t o

b e

a

t r i v i a l

m a t t e r o f

s e m a n t i c s ,

o r

a

s i m p l e

m a t t e r o f

s u b j e c t i v e

v a l u e .

H o w e v e r ,

t h e s e

l a b e l s

a r e

u s e d

b y r e s e a r c h e r s

a s

t h e y d e c i d e

w h e t h e r

t o i n v e s t

a d d i t i o n a l e f f o r t i n t o

i m p r o v i n g m e a s u r e m e n t p r e c i s i o n .

R e s e a r c h e r s who a r e

a b l e t o s h o w

t h a t

t h e


o f a

m e a s u r e s ,

X ,

i s

a r o u n d 0 . 6 0

may b e a b l e

t o

c l a i m

m o d e r a t e o r

s u b s t a n t i a l


d e p e n d i n g

o n

t h e

s a m p l i n g

f l u c t u a t i o n s

o f

t h e

d a t a .

I n

e i t h e r

c a s e ,

t h e y

w i l l

b e

u n l i k e l y

t o

g i v e

a d d i t i o n a l

e f f o r t

t o

i m p r o v i n g t h e

q u a l i t y

o f

t h e

m e a s u r e .

H o w e v e r ,

i f

t h e


o f X

i s

t r u l y 0 . 6 , t h e n

t h e

r e g r e s s i o n

o f

a n

o u t c o m e

o n

X

w i l l b e

a t t e n u a t e d

b y

m o r e

t h a n

a

t h i r d ,

o t h e r

v a r i a b l e s

t h a t a r e

s u p p o s e d

t o b e

a d j u s t e d f o r X w i l l

r e m a i n


c o n f o u n d e d ,

a n d

t h e

p o w e r

o f

t h e

s t u d y t o f i n d t r u e


w i l l

b e d i m i n i s h e d .

G i v e n t h a t


c a n

u s u a l l y

b e

i m p r o v e d b y

a v e r a g i n g r e p l i c a t e

m e a s u r e s , i t i s

u n f o r t u n a t e

t h a t

t h e

c o n v e n t i o n a l

l a b e l s

f o r

t h e

q u a l i t y

o f


d o

n o t s e r v e

t o

e n c o u r a g e

c o n s t a n t

r e f i n e m e n t o f

m e a s u r e m e n t . T o

t h i s

e n d ,

t h e

f o l l o w i n g r e v i s i o n

o f

t h e L a n d i s

a n d K o c h

a d j e c t i v e s

a r e

p r o p o s e d

a s :

( 0 . 0 0 , 0 . 1 0 )

-

v i r t u a l l y

n o n e ;

( 0 . 1 1 , 0 . 4 0 )

-

s l i g h t ;

( 0 . 4 1 , 0 . 6 0 )

-

f a i r ;

( 0 . 6 1 , 0 . 8 0 )

-

m o d e r a t e ;

( 0 . 8 1 , 1 . 0 )

-

s u b s t a n t i a l .

T h i s

s u g g e s t e d

r e v i s i o n s h i f t s t h e

L a n d i s

a n d

K o c h

a d j e c t i v e s

t o

t h e

n e x t

i n t e r v a l ,

w i t h

a

r e c o g n i t i o n

t h a t


v a l u e s

i n

t h e

r a n g e o f

0 , 0 . 1 )

a r e

s o

l o w t h a t e v e n

a v e r a g i n g

s e v e r a l

r e p l i c a t e

m e a s u r e s

t o g e t h e r

w o u l d n o t

h e l p . M e a s u r e s w i t h

s l i g h t


a r e

o n e s

t h a t

c a n b e

i m p r o v e d u s i n g

a v e r a g e s

o f many r e p l i c a t e

m e a s u r e s .

M e a s u r e s

w i t h f a i r


c a n b e

s a i d t o h a v e

n e a r l y

h a l f t h e i r v a r i a n c e

a t t r i b u t a b l e



8/16/2019 [doi 10.1177%2F096228029800700306]

10/18

M e a s u r e m e n t r e l i a b i l i t y

a n d

a g r e e m e n t

i n p s y c h i a t r y 3 0 9

t o

c o n s e n s u s s c o r e

v a r i a t i o n .

M o d e r a t e l y

r e l i a b l e

m e a s u r e s w o u l d

s t i l l

l e a d

t o b i a s

a s

e x p l a n a t o r y

v a r i a b l e s

i n r e g r e s s i o n

a n a l y s e s ,

a n d w o u l d b e

s o m e w h a t

i n e f f i c i e n t

a s

o u t c o m e

m e a s u r e s ,

b u t t h e s e u n t o w a r d

e f f e c t s

a r e

l i m i t e d .

S u b s t a n t i a l r e l i a b i l i t y

i s t h e

o n l y

c a t e g o r y w h e r e

t h e

a d j e c t i v e c o n v e y s

t h e s e n s e t h a t

m e a s u r e s

a r e g e n e r a l l y

a d e q u a t e .

When

a p p l y i n g

a n y s t a n d a r d s

t o

e m p i r i c a l r e s u l t s ,

i t

i s i m p o r t a n t

t o

r e c o g n i z e

t h e

l i m i t a t i o n s

o f r e l i a b i l i t y

e s t i m a t e s

f r o m

a n y g i v e n

s t u d y .

T h e a d j e c t i v e

l a b e l i s u s u a l l y

c h o s e n t o d e s c r i b e

t h e p o i n t

e s t i m a t e ,

b u t t h e

c o n f i d e n c e

i n t e r v a l may

s h o w

t h a t t h e

s t u d y

i s c o n s i s t e n t

w i t h

a r a n g e o f

l a b e l s .

M o r e i m p o r t a n t s o m e

e s t i m a t e s

o f


a r e k n o w n

t o

b e

b i a s e d .

C r o n b a c h s

a l p h a , 5 1

a s a n

e s t i m a t e

o f

s c a l e

r e l i a b i l i t y , i s

k n o w n t o b e

s y s t e m a t i c a l l y

t o o

s m a l l , e x c e p t

w h e n t h e i t e m s

a r e

r e d u n d a n t . When

a p p l i e d

t o i t e m s t h a t

m e as u r e u n i q u e

a s p e c t s

o f p r o c e s s ,

t h e a l p h a

e s t i m a t e

may b e

l o w

e v e n

t h o u g h t h e

i t e m s a r e

i n d i v i d u a l l y

r e p o r t e d

w i t h

g o o d

r e l i a b i l i t y ( s e e

b e l o w ) .

4

Recent


t o


t h e o r y

C o n t r i b u t i o n s

t o


t h e o r y

t h a t h a v e

a p p e a r e d

s i n c e

t h e

p a p e r b y

K r a e m e r , 6

a r e d i s c u s s e d

b e l o w . I t

i s

c l e a r

t h a t t h e m a j o r i t y

o f t h e


r e l e v a n t t o

p s y c h i a t r y

a d o p t

t h e

p e r s p e c t i v e

t h a t c l a s s i c a l r e l i a b i l i t y

c o e f f i c i e n t s

a r e

u s e f u l

a n d

d e s e r v i n g

o f

f u r t h e r

r e f i n e m e n t .

4 . 1

D e f i n i n g

a n d

e s t i m a t i n g


G i v e n

t h e

b r e a d t h

o f

D u n n s 1 5

c o m p r e h e n s i v e

c o v e r a g e

o f

a p p r o a c h e s

t o

e s t i m a t i n g


o n e m i g h t w e l l

w o n d e r w h a t

o t h e r r e f i n e m e n t s

o r

m e t h o d s

a r e n e e d e d .

O n e

s e t

o f c o n t r i b u t i o n s

a i m s

t o f u r t h e r a n u n d e r s t a n d i n g

o f

C r o n b ac h s

a l p h a 5

a n d

o t h e r

e s t i m a t o r s o f

c o m p o s i t e


I f

k

i t e m s

o r r a t e r s ,

X i ,

a r e u s e d

t o

m e a s u r e

n

s u b j e c t s ,

a n d

a

c o m p o s i t e

m e a s u r e , W= E X i ,

i s

c o n s t r u c t e d

a s

t h e

sum

o f

t h e

k


t h e n

C r o nb a c h s

a l p h a p r o v i d e s

a n e s t i m a t e o f

t h e


o f

t h a t

c o m p o s i t e

k

V a r ( X i ) 1

k -

i

V a r W )

J

A s s h o w n

b y

L o r d

a n d N o v i c k , 1 4

a s w e l l

a s

D u n n , 5

a l p h a

i s a

l o w e r

b o u n d

o f t h e

c o m p o s i t e s

t r u e


w i t h t h e

b i a s e l i m i na t e d o nl y

w h e n t h e

i t e m s

h a v e t h e

s a m e

l o a d i n g s

o n a co mmo n s i n g l e

f a c t o r .

I n t h a t

c a s e ,

t h e i t e m s

a r e

s a i d

t o

b e


t a u

e q u i v a l e n t .

When

t h e

i t e m s

l o a d

o n

t h e s a m e

s i n g l e

f a c t o r

b u t

w i t h

d i f f e r e n t

l o a d i n g

w e i g h t s ,

t h e

i t e m s

a r e

s a i d

t o

b e

c o n g e n e r i c ,

a n d

i n t h a t

c a s e

t h e

a l p h a

e s t i m a t e p r o d u c e s

a

v a l u e

t h a t i s s y s t e m a t i c a l l y

l e s s t h a n

t h e

u n k n o w n

p a r a m e t e r .

When t h e

i t e m s a r e

c o n g e n e r i c ,

a n

a l t e r n a t i v e e s t i m a t e

o f t h e


o f

t h e

c o m p o s i t e

c a n

b e

w r i t t e n

1 5 5 _ 5 4

u s i n g

e s t i m a t e s

f r o m

a

c o n f i r m a t o r y

f a c t o r

a n a l y s i s

o f

t h e i t e m

d a t a .

I n

p r a c t i c e ,

c o e f f i c i e n t a l p h a

i s

o f t e n

u s e d

b y



when i t

c a n

o n l y

b e

i n t e r p r e t e d

a s

a l o w e r

b o u n d .

R a y k o v 5 5

e x a m i n e d

t h e

m a g n i t u d e

o f

a l p h a s

b i a s

w h e n

i t e m s

w e r e

c o n g e n e r i c

r a t h e r t h a n


t a u

e q u i v a l e n t .

He

f o u n d t h a t

t h e b i a s

w a s o n l y

s u b s t a n t i a l w h e n

t h e

n u m b e r o f i t e m s w a s

v e r y

s m a l l

a n d

t h e

a v e r a g e



8/16/2019 [doi 10.1177%2F096228029800700306]

11/18

3 1

0 PE S h r o u t

i t e m

l o a d i n g

w a s

a l s o

s m a l l .

He c o n c l u d e d

t h a t

a l p h a p r o v i d e s

u s e f u l

e s t i m a t e s w h e n

t h e

n u m b e r

o f

i t e m s i s

f o u r

o r

m o r e ,

a n d

w h e n

t h e

i t e m s

a r e

k n o w n

t o

b e

s t r o n g l y

r e l a t e d

t o

a

c o mm o n

c o n s t r u c t .

R a y k o v

d i d

n o t , h o w e v e r ,

c o n s i d e r

t h e

m a g n i t u d e

o f

a l p h a s

b i a s

w h e n

t h e

i t e m s

i n a

c o m p o s i t e

w e r e

m e a s u r e s

o f

d i f f e r e n t

c o n s t r u c t s .

F o r

e x a m p l e ,

i t

i s

common i n


r e s e a r c h

t o

s t u d y

p s y c h o s o c i a l

r i s k

f a c t o r s

s u c h

a s

s t r e s s f u l l i f e

e v e n t s .

A

q u a n t i t y

o f i n t e r e s t

may

b e t h e n u m b e r o f s t r e s s f u l

e v e n t s

f r o m

a

f i x e d l i s t t h a t

o c c u r r e d i n t h e

p a s t

w e e k .

E v e n t s

m i g h t

r e f l e c t

d i f f e r e n t


p r o c e s s e s

s u c h

a s w o r k s t r e s s a n d

f a m i l y s t r e s s ,

b u t

t h e

sum

o f

t h e

s t r e s s o r s

i s

s t i l l

o f

i n t e r e s t a s

a

r i s k

f a c t o r .

F o r

a p p l i c a t i o n s

s u c h

a s

t h i s ,

C r o n b ac h s

a l p h a

i s

l i k e l y

t o

p r o d u c e a v e r y

b i a s e d

e s t i m a t e

o f

t h e


o f

t h e s t r e s s

c o m p o s i t e ,

e v e n

i f

s u b j e c t s

a r e

c a p a b l e

o f

a n s w e r i n g

t h e

i t e m s

r e l i a b l y .

A l t h o u g h a l p h a

i s n o t

v e r y u s e f u l

i n

t h i s

c o n t e x t , i t i s

o f t e n

m i s i n t e r p r e t e d

a s

e v i d e n c e t h a t


q u a l i t y

i s

p o o r .

L i e t

a l . 6

e x a m i n e d

t h e


o f

c o m p o s i t e s

u n d e r

v e r y g e n e r a l c o n d i t i o n s ,

i n c l u d i n g

t h e

c a s e i n w h i c h

i t e m s a r e r e l a t e d t o

d i f f e r e n t l a t e n t

v a r i a b l e s .

T h e i r

a n a l y s i s

a s s u m e d

t h a t

t h e


o f

t h e

i t e m s

c o m b i n e d

i n

t h e

c o m p o s i t e

a r e

k n o w n

i n d i v i d u a l l y . T h e y

s h o w e d t h a t

r e g u l a r i t i e s

i m p l i e d b y

t h e

S p e a r m a n - B r o w n

f o r m u l a

( e q u a t i o n

2 )

d o

n o t

n e c e s s a r i l y

h o l d

i f

i t e m s

a r e

c o n g e n e r i c

o r

a r e

r e l a t e d t o

more

t h a n

o n e

f a c t o r .

B y d e s i g n i n g

i t e m

w e i g h t s

a s a

f u n c t i o n o f

i t e m

r e l i a b i l i t i e s a n d

i t e m

v a r i a n c e s ,

t h e y d e v e l o p e d

a

w e i g h t e d c o m p o s i t e

t h a t h a s

maximum


u n d e r

g e n e r a l

c o n d i t i o n s . T h e i r

r e s u l t s

m i g h t

b e

a p p l i c a b l e

t o


r e s e a r c h

s e t t i n g s

w h e r e

f i x e d r a t e r s a r e

a v a i l a b l e

t o

c o n d u c t

e x p e r t r a t i n g s ,

b u t

t h e y

d i f f e r

i n

t h e i r

a v e r a g e


F a g o t 5 7 5

c o n s i d e r e d

w a y s

t o

g e n e r a l i z e

t h e

a s s e s s m e n t o f

r e l i a b i l i t y i n a

v e r y

d i f f e r e n t

w a y .

He

a d d r e s s e d t h e

p o s s i b i l i t y

t h a t d i f f e r e n t

r a t e r s

may

u s e n u m b e r s i n

d i f f e r e n t

w a y s l e a d i n g

t o

a p p a r e n t

d i s c r e p a n c i e s

t h a t a r e

s i m p l y

d u e

t o

r a t i n g s c a l e

u s e .

F o r

e x a m p l e ,

r a t e r s

may

m a k e m a g n i t u d e

e s t i m a t e s

w i t h

d i f f e r e n t

c o m p a r i s o n

r e f e r e n c e s . I f

o n e

w i s h e s t o e s t i m a t e

t h e


o f

r a t i n g s

m a d e

o n

d i f f e r e n t

s c a l e s ,

o n e

n e e d s

t o t r a n s f o r m o n e

o r

b o t h

s e t s o f

r a t i n g s

t o

a

u n i f o r m

m e t r i c .

F a g o t d e s c r i b e d

g e n e r a l

c l a s s e s

o f

a d m i s s i b l e

t r a n s f o r m a t i o n s a n d

d i s c u s s e d t h e

i m p l i c a t i o n s

o f

i g n o r i n g

t h e i s s u e

o f s c a l e .

When

r a t e r s a r e

m a k i n g

j u d g e m e n t s

w i t h

r e g a r d

t o

m u l t i p l e o u t c o m e s ,

i t

m i g h t

b e

u s e f u l

t o

s u m m a r i z e

t h e o v e r a l l

d e g r e e

o f

a g r e e m e n t u s i n g


i n t r a c l a s s


e s t i m a t e s

d e v e l o p e d

b y

K o n i s h i e t a l . 5 9 f o r

p o p u l a t i o n g e n e t i c s . H o w e v e r ,

A i c k i n

a n d

R i t e n b a u g h 3 8 a r g u e d

t h a t

t h e

i m p a c t

o f


u n r e l i a b i l i t y

o n

l i n e a r

m o d e l e s t i m a t i o n

n e e d s t o

b e s t u d i e d

u s i n g


a r r a y s

t h a t

c h a r a c t e r i z e

t h e

i m p a c t

o f

e r r o r o n b o t h

t h e

v a r i a n c e s a n d

c o v a r i a n c e s

o f t h e

e x p l a n a t o r y

v a r i a b l e s .

K r a e m e r 6

o b s e r v e d

t h a t

d i f f e r e n t

c h a n c e - c o r r e c t e d

a g r e e m e n t

i n d i c e s

a n d


s t a t i s t i c s

m a y

b e

e s t i m a t i n g

t h e s a m e

q u a n t i t y

w h e n

t h e

r a t e r s

c a n

b e

c o n s i d e r e d

t o

b e

r a n d o m l y

s e l e c t e d .

S i n c e

t h a t

s t a t e m e n t ,

B l a c k m a n a n d K o v a l 4 l

s h o w e d

t h a t

f o u r d i f f e r e n t m e a s u r e s o f

a g r e e m e n t

i n

2

x 2

t a b l e s , i n c l u d i n g

C o h e n s

k a p p a 9

a n d

M a k s

r h o , 6 0

w e r e

e s t i m a t i n g

t h e s a m e

i n t r a c l a s s

c o r r e l a t i o n a s

t h e


c o e f f i c i e n t . S i m i l a r

c o n c l u s i o n s

w e r e

r e a c h e d

b y

B o d i a n , 6 1

who d e v e l o p e d

a l t e r n a t i v e i n t r a c l a s s


a p p r o a c h e s

f o r

b i n a r y r a t i n g s

u n d e r t h e

a s s u m p t i o n s

t h a t r a t e r s

w e r e

r a n d o m a n d

n e s t e d

w i t h i n

s u b j e c t ,

a n d

t h a t

r a t e r s w e r e e i t h e r f i x e d

o r

r a n d o m

e f f e c t s i n

a

r a t e r - b y - s u b j e c t

c r o s s e d

d e s i g n .



8/16/2019 [doi 10.1177%2F096228029800700306]

12/18

8/16/2019 [doi 10.1177%2F096228029800700306]

13/18

3 1 2 PE S h r o u t

4 . 3

I nf e r e n c e s r e g ar d i n g


c o m p a r i s o n s

McGraw

a n d W o n g 2 4 m p r o v i d e d a

s u m m a r y

o f

i n f e r e n t i a l

m e t h o d s a v a i l a b l e

f o r

i n t r a c l a s s

c o r r e l a t i o n c a l c u l a t e d f r o m

q u a n t i t a t i v e r a t i n g s .

T h e y f o c u s e d o n

m e t h o d s

b a s e d o n

t h e a n a l y s i s o f v a r i a n c e

o f n o r m a l l y

d i s t r i b u t e d

m e a s u r e s .

D o n n e r

a n d

h i s

c o l l e a g u e s , 6 9

d e v e l o p e d

a

g o o d n e s s - o f - f i t

a p p r o a c h

t o

t h e

a n a l y s i s

o f

s e v e r a l

p r o b l e m s i n v o l v i n g k a p p a . O n e

a p p l i c a t i o n

i s

t h e

c o m p a r i s o n o f a g r e e m e n t

l e v e l

a c r o s s s e v e r a l i n d e p e n d e n t

s a m p l e s .

D o n n e r

e t

a l . 4 8 w e r e

a b l e t o

s h o w t h a t t h e i r

g o o d n e s s - o f - f i t t e s t w o r k e d w e l l

f o r

e v e n

m o d e s t s a m p l e s i z e s , w h i l e

a s y m p t o t i c n o r m a l

t h e o r y

t e s t s o n l y w o r k e d

w e l l

f o r

s a m p l e s i z e s

g r e a t e r t h a n 1 0 0 .

D o n n e r

a n d

E l i a s z i w h a v e a l s o

d e v e l o p e d

a

s e r i e s

o f

g o o d n e s s - o f - f i t - b a s e d

t e s t s t o

e x a m i n e a s s o c i a t i o n s

w i t h i n a

m u l t i n o m i a l t a b l e . 7 2

I n

c o n t r a s t t o m u l t i n o m i a l

m o d e l s

t h a t

c o m p a r e

e a c h

c a t e g o r y t o t h e r e m a i n i n g

c a t e g o r y , D o n n e r

a n d E l i a s z i w p r o p o s e a

s e r i e s o f

h i e r a r c h i c a l h y p o t h e s e s o f

s t a t i s t i c a l l y i n d e p e n d e n t

h y p o t h e s e s . T h e s e m o d e l s

a r e

l i k e l y

t o

b e

o f

i n t e r e s t

t o

p s y c h i a t r i c n o s o l o g i s t s

who a r e

c o n s i d e r i n g w h e t h e r

d i a g n o s t i c c a t e g o r i e s

c a n

b e

s p l i t r e l i a b l y .

A

n e w

a p p r o a c h

t o

t h e

d e f i n i t i o n

o f

i n t r a c l a s s

c o r r e l a t i o n s

f o r

v a r i a b l e s

i n

t h e

e x p o ne nt i al f am i l y w a s

p r o p o s e d

b y C o m m e n g e s

a n d J a c q m i n . 7 3 T h e y u s e a

g e n e r a l i z e d e s t i m a t i o n

e q u a t i o n f o r m u l a t i o n t o

d e r i v e a

s c o r e t e s t f o r i n f e r e n c e s

a b o u t

a

r a n d o m e f f e c t s v e r s i o n s

o f

t h e


c o e f f i c i e n t .

4 . 4

M o d e l l i n g i n f l u e n c e s

on a g r e e m e n t a n d

d i s a g r e e m e n t

A l t h o u g h

t h e

m e t h o d s

d e v e l o p e d

b y

D o n n e r

a n d

o t h e r s

f o r

c o m p a r i n g d i f f e r e n t


e s t i m a t e s

a r e

l i k e l y

t o

b e

u s e f u l i n

many c a s e s ,

t h e


o f

t h e s e

c o m p a r i s o n s

i s

c o m p l i c a t e d b y

t h e f a c t

t h a t

b o t h

c o n s e n s u s

s c o r e

v a r i a t i o n

a n d

e r r o r

s c o r e

v a r i a t i o n i n f l u e n c e s


I f

t w o


s t a t i s t i c s

d i f f e r ,

o n e

m u s t a s k

w h e t h e r t h e s m a l l e r

v a l u e i s d u e t o

t h e

h o m o g e n e i t y

o f

i t s

p o p u l a t i o n

o r

d u e t o

a n

i n c r e a s e

i n

r a t e r

e r r o r .

T h i s

p r o b l e m

w a s a d d r e s s e d

b y C r o n b a c h

a n d h i s

c o l l e a g u e s

when

t h e y

i n t r o d u c e d


s t u d i e s . 0 A s

d e s c r i b e d

b y

Dunn a n d

o t h e r s , 1 5 , 7 4


t h e o r y

a t t e m p t s

t o

d e t e r m i n e

w h i c h

f a c e t s o f t h e


p r o c e s s

a r e

m o s t

i m p o r t a n t

i n a

g i v e n

a p p l i c a t i o n .

A n a l y s i s

o f v a r i a n c e

a n d v a r i a n c e

c o m p o n e n t

e s t i m a t i o n

p r o v i d e s

t h e

b a s i c

m e t h o d o l o g y

f o r


s t u d i e s o f


m e a s u r e s .

O f

s p e c i a l

i n t e r e s t ,

i s

t h e

m a g n i t u d e

o f

t a r g e t a n d

e r r o r

v a r i a t i o n t h a t i s

a t t r i b u t a b l e

t o

s u b j e c t

g r o u p s

a n d a s s e s s m e n t

t e c h n i q u e s . A l t h o u g h

t h e

o r i g i n a l

f o r m u l a t i o n

o f


t h e o r y a s s u m e d t h a t t h e

e r r o r

v a r i a n c e

w a s

c o n s t a n t

a c r o s s

s u b j e c t s

a n d

s u b p o p u l a t i o n s ,

m o d e r n v a r i a n c e

c o m p o n e n t

m e t h o d s m a k e

t h i s

a s s u m p t i o n

u n n e c e s s a r y .

C o n s i s t e n t

w i t h

t h e

g e n e r a l i z a b i l i t y t h e o r y s f o c u s

o n

v a r i a n c e


B a r t k o 4 0

r e c e n t l y

p r o p o s e d

a

u n i f i e d

a p p r o a c h

t o t h e

r e p r e s e n t a t i o n

a n d

a n a l y s i s

o f

v a r i a n c e

c o m p o n e n t s

f r o m

t w o

g r o u p s .

H i s

a p p r o a c h

u s e s

g r a p h i c a l t o o l s a n d i s

p a r t i c u l a r l y

e a s y

f o r

s u b s t a n t i v e

r e s e a r c h e r s t o

a p p l y .

F o r

c a t e g o r i c a l r a t i n g s ,

l o g

l i n e a r

a n a l y s e s

c a n b e u s e d

t o d e s c r i b e

t h e e f f e c t o f

v a r i a t i o n

i n

o v e r a l l

b a s e r a t e s

a n d w i t h i n s t r a t a a s s o c i a t i o n

o n


G r a h a m 7 5

a d a p t e d

t h e

m e t h o d s o f

T a n n e r

a n d

Y o u n g 7 6

t o

l o o k a t

t h e

e f f e c t s o f

c o v a r i a t e s o n

a g r e e m e n t .

B a r l o w 2 2

p r o p o s e d

a

m o d e l

b a s e d

o n

c o n d i t i o n a l

l o g i s t i c

r e g r e s s i o n

f o r



8/16/2019 [doi 10.1177%2F096228029800700306]

14/18



a n d

a g r e e m e n t i n p s y c h i a t r y

3 1 3

a d j u s t i n g

f o r c o v a r i a t e s

t h a t

a f f e c t

m a r g i n a l r a t e s . S u c h a n a l y s e s

c a n b e i n f o r m a t i v e

a b o u t

c h a n g e s

i n Rx f r o m

g r o u p

t o g r o u p ,

e v e n i f

t h e y

d o

n o t r e p r e s e n t

[doi 10.1177%2f096228029800700306]

Documents