Download - Key Graph
-
8/3/2019 Key Graph
1/7
K e y G r a p h : A u t o m a t i c I n d e x i n g b y C o - o c c u r r e n c e G r a p h
b a s e d o n B u i l d i n g C o n s t r u c t i o n M e t a p h o r
Y u k i o O h s a w a , N e l s E . B e n s o n a n d M a s a h i k o Y a c h i d a
D e p t . S y s t e m s a n d H u m a n S c i e n c e ,
G r a d u a t e S c h o o l o f E n g i n e e r i n g S c i e n c e O s a k a U n i v e r s i t y ,
T o y o n a k a , O s a k a 5 6 0 - 8 5 3 1 , J a p a n
A b s t r a c t
I n t h i s p a p e r , w e p r e s e n t a n a l g o r i t h m f o r e x t r a c t -
i n g k e y w o r d s r e p r e s e n t i n g t h e a s s e r t e d m a i n p o i n t i n a
d o c u m e n t , w i t h o u t r e l y i n g o n e x t e r n a l d e v i c e s s u c h a s
n a t u r a l l a n g u a g e p r o c e s s i n g t o o l s o r a d o c u m e n t c o r -
p u s . O u r a l g o r i t h m K e y G r a p h i s b a s e d o n t h e s e g -
m e n t a t i o n o f a g r a p h , r e p r e s e n t i n g t h e c o - o c c u r r e n c e
b e t w e e n t e r m s i n a d o c u m e n t , i n t o c l u s t e r s . E a c h c l u s -
t e r c o r r e s p o n d s t o a c o n c e p t o n w h i c h a u t h o r ' s i d e a
i s b a s e d , a n d t o p r a n k e d t e r m s b y a s t a t i s t i c b a s e d
o n e a c h t e r m ' s r e l a t i o n s h i p t o t h e s e c l u s t e r s a r e s e -
l e c t e d a s k e y w o r d s . T h i s s t r a t e g y c o m e s f r o m c o n -
s i d e r i n g t h a t a d o c u m e n t i s c o n s t r u c t e d l i k e a b u i l d -
i n g f o r e x p r e s s i n g n e w i d e a s b a s e d o n t r a d i t i o n a l c o n -
c e p t s . T h e e x p e r i m e n t a l r e s u l t s s h o w t h a t t h u s e x -
t r a c t e d t e r m s m a t c h a u t h o r ' s p o i n t q u i t e a c c u r a t e l y ,
e v e n t h o u g h K e y G r a p h d o e s n o t u s e e a c h t e r m ' s a v e r -
a g e f r e q u e n c y i n a c o r p u s , i . e . , K e y G r a p h i s a c o n t e n t -
s e n s i t i v e , d o m a i n i n d e p e n d e n t d e v i c e o f i n d e x i n g .
1 I n t r o d u c t i o n
A d v a n c e s i n h i g h - v o l u m e s t o r a g e m e d i a h a v e l e a d
t o a n e x p l o s i o n i n t h e a m o u n t o f m a c h i n e r e a d a b l e t e x t
a v a i l a b l e . T h i s i n f o r m a t i o n a p p e a r s i n m a n y f o r m s
s u c h a s e l e c t r o n i c m a i l s , n e w s , l i b r a r i e s , a n d m a n y
o t h e r s . T h e s h e e r q u a n t i t y o f t e x t o f t e n p r o h i b i t s
d e a l i n g w i t h c o m p l e t e d o c u m e n t s t h e m s e l v e s f o r s o m e
p r o c e s s i n g t a s k s , s u c h a s s e a r c h a n d c o m p a r i s o n o f
d o c u m e n t s , d u e t o t h e l i m i t e d s p a c e a n d t i m e c o n s i d -
e r a t i o n s .
A s a s o l u t i o n , a s m a l l s e t o f t e r m s ( w o r d s a n d
p h r a s e s ) a r e e m p l o y e d t o s e r v e a s r e p r e s e n t a t i v e s f o r
a d o c u m e n t . S e a r c h i n g , c o m p a r i s o n , a n d o t h e r o p e r -
a t i o n s a r e p e r f o r m e d o n t h e s e t e r m s , r a t h e r t h a n t h e
c o m p l e t e d o c u m e n t s . A s s i g n i n g r e p r e s e n t a t i v e t e r m s
t o a d o c u m e n t i s a p r o c e s s c a l l e d i n d e x i n g a n d t h e
t e r m s a s s i g n e d a r e k n o w n a s k e y w o r d s . I n d e x i n g h e l p s
i n s i g n i c a n t l y r e d u c i n g t h e h u m a n e o r t i n s i f t i n g
t h r o u g h v a s t a m o u n t s o f i n f o r m a t i o n . T h e p r i m a r y
u s e o f k e y w o r d s i s a s t h e b a s i s o f v a r i o u s s e a r c h t e c h -
n i q u e s f o r i n f o r m a t i o n r e t r i e v a l , b u t k e y w o r d s a l s o
s e r v e a s t h e a b s t r a c t f o r a d o c u m e n t , i . e . , k e y w o r d s
p r e s e n t a s h o r t s u m m a r y o f t h e i n f o r m a t i o n c o n t a i n e d
w i t h i n a d o c u m e n t .
O u r g o a l i s t o e x t r a c t k e y w o r d s w h i c h w o r k s w e l l
f o r b o t h p u r p o s e s . T h a t i s , g i v e n a s e t o f d o c u m e n t s ,
w e w a n t t o r e t r i e v e o n e s w i t h c o n t e n t m o s t a c c u r a t e l y
m a t c h i n g u s e r ' s s p e c i c a n d u n i q u e i n t e r e s t , n o t o n l y
i n c l u d i n g t e r m s h e / s h e o f t e n u s e s t h a n o t h e r p e o p l e
i n t h e d o m a i n . F o r t h i s p u r p o s e , w e h a v e t o e x t r a c t
t e r m s r e p r e s e n t i n g t h e a u t h o r ' s p o i n t i n t h e c u r r e n t
d o c u m e n t . F o r e x a m p l e , c a m e r a i s n o t a k e y w o r d w e
w a n t t o e x t r a c t f r o m a d o c u m e n t p r e s e n t i n g a n o m n i -
d i r e c t i o n a l r o b o t v i s i o n f o r l o o k i n g a t v e r t i c a l e d g e s a l l
a r o u n d t h e r o b o t w i t h a s i n g l e l e n s a l t h o u g h c a m e r a
m a y a p p e a r m o r e f r e q u e n t l y i n t h e c u r r e n t d o c u m e n t
t h a n i n a v e r a g e d o c u m e n t s i n r o b o t i c s d o m a i n , b e -
c a u s e c a m e r a d o e s n o t r e p r e s e n t t h e o r i g i n a l c o n t r i b u -
t i o n o f t h e a u t h o r . R a t h e r , i n o r d e r t o s u m m a r i z e t h e
o r i g i n a l i t y o f a d o c u m e n t , o r f o r i n v e s t i g a t i n g a l r e a d y
p r e s e n t e d d o c u m e n t s o v e r l a p p i n g a r e c e n t i n v e n t i o n o f
t h e s e a r c h e n g i n e u s e r , i t i s i m p o r t a n t t o e x t r a c t t h e
m a i n a n d o r i g i n a l p o i n t { u s e o f a c o n i c a l m i r r o r f o r
m a k i n g a r o b o t l o o k a t v e r t i c a l e d g e s a l l a r o u n d i t s e l f ,
i n t h e e x a m p l e a b o v e .
2 P r e v i o u s W o r k a n d O u r A i m
2 . 1 P r e v i o u s w o r k
H u m a n e x p e r t s c a n r e l i a b l y s e l e c t c o n s i s t e n t k e y -
w o r d s f r o m d o c u m e n t s b y h a n d . Y e t , i t i s b e c o m i n g
i m p r a c t i c a l t o r e l y o n h u m a n e x p e r t s t o c h o o s e k e y -
w o r d s , b e c a u s e t h e r e a r e t o o m a n y d o c u m e n t s t o b e
i n d e x e d . A n e e c t i v e a p p r o a c h f o r a v o i d i n g t h i s p r o b -
l e m m a y b e t o a s s i g n a u t h o r s t h e t a s k o f i n d e x i n g
d o c u m e n t s t h e y w r o t e . H o w e v e r , t h e r e a r e d o c u m e n t s
i n d i g i t a l l i b r a r i e s , a l r e a d y s t o c k e d w i t h o u t b e i n g i n -
d e x e d - a s s i g n i n g a u t h o r s t h e t a s k o f i n d e x i n g a l l o f
t h e i r p a s t w o r k i s n o t p r a c t i c a l . I n o r d e r t o c o p e w i t h
s u c h p r o b l e m s , t h e r e h a v e b e e n s e v e r a l a p p r o a c h e s f o r
a u t o m a t i c i n d e x i n g o f d o c u m e n t s . B e l o w , L e t u s s h o w
s o m e p r e v i o u s a p p r o a c h e s a n d t h e i r d i s a d v a n t a g e s .
S t a t i s t i c i n d e x i n g T h e s i m p l e s t m e t h o d i s t o
c o u n t t h e o c c u r r e n c e s o f e a c h t e r m i n t h e d o c u -
m e n t a n d s e l e c t t h o s e w i t h f r e q u e n c i e s a b o v e a c e r -
t a i n t h r e s h o l d [ 1 ] . H o w e v e r , s o m e h i g h f r e q u e n c y
t e r m s m a y h a v e l i t t l e i m p o r t a n c e t o t h e d o c u m e n t ,
w h i l e s o m e l o w f r e q u e n c y t e r m s m a y b e i m p o r t a n t .
T h e r e f o r e , a v e r a g e f r e q u e n c i e s o f t e r m s i n a l a r g e - s c a l e
d a t a b a s e [ 2 , 3 , 4 ] s u c h a s a c o r p u s a r e u s e d i n o r d e r t o
e x c l u d e f r e q u e n t t e r m s i n a v e r a g e d o c u m e n t s ( m a n y
c r i t e r i a w e r e i n v e n t e d a s t e r m s ' i m p o r t a n c e [ 5 ] ) . M u -
t u a l i n f o r m a t i o n [ 6 , 7 ] a n d B a y e s i a n N e t w o r k [ 8 ] w e r e
a l s o u s e d f o r o b t a i n i n g t y p i c a l k e y w o r d s o f d o c u m e n t s
-
8/3/2019 Key Graph
2/7
i n e a c h a r e a , b a s e d o n c o r p u s - b a s e d d o c u m e n t m o d e l s .
H o w e v e r , a c o r p u s b a s e d m e t h o d i s n o t a l w a y s a p -
p r o p r i a t e f o r o u r p u r p o s e o f e x t r a c t i n g t h e m a i n i d e a ,
i . e . p o i n t o f a d o c u m e n t . I n t h e e x a m p l e a b o v e , c a m -
e r a w i l l b e e x t r a c t e d i f w e u s e t h e c o r p u s f o r t h e d o -
m a i n o f r o b o t i c s . I f w e m i s s v e r t i c a l e d g e s , b y p r e f e r -
r i n g c a m e r a o r v i s i o n , t h e n r e c a l l ( r e a d e r n o t f a m i l i a r
w i t h r e c a l l a n d p r e c i s i o n w i l l b e r e f e r r e d t o S e c t i o n
5 ) w i l l b e p o o r f o r a u s e r s e a r c h i n g a d o c u m e n t a b o u t
g e n e r a t i n g a m a p o f a r o o m f r o m v i s i b l e v e r t i c a l e d g e s .
A l s o , p r e c i s i o n w i l l b e b a d i f t h e u s e r w a n t s g o o d c a m -
e r a s f o r r o b o t - e y e s , b e c a u s e t h e d o c u m e n t i n t h e c u r -
r e n t e x a m p l e w i l l b e r e t r i e v e d a s r e l e v a n t t o t h e u s e r .
I n d e x i n g b y s e c t i o n s a n d t i t l e s E d i t o r s o f
n e w s p a p e r s a r e t r a i n e d t o w r i t e t h e s u m m a r y i n t h e
b e g i n n i n g o f a r t i c l e s , b e c a u s e t h e i r a i m i s t o b e r e a d b y
m a n y p e o p l e i n c l u d i n g b u s y o n e s . H o w e v e r , i n s o m e
a c a d e m i c o r t e c h n i c a l p a p e r s , o n l y p r e v i o u s w o r k s o r
t h e o u t l i n e o f t h e b a c k g r o u n d d o m a i n a p p e a r s i n t h e
i n t r o d u c t i o n . T h a t i s , n o t e v e r y d o c u m e n t h a s i t s o w n
p o i n t i n t h e b e g i n n i n g . A l s o , t i t l e s m a y b e v e r y a b -
s t r a c t a n d m e a n i n g l e s s - i n e x t r e m e c a s e s a s i n t h e
I n t e r n e t , a d o c u m e n t s m a y h a v e n o t i t l e .
I n d e x i n g b y n a t u r a l l a n g u a g e a n a l y s i s W h i l e
n a t u r a l l a n g u a g e a n a l y s i s m a y h a v e t h e p o t e n t i a l t o
y i e l d t h e m o s t a c c u r a t e k e y w o r d s f o r a d o c u m e n t , t h e
e l d h a s n o t y e t r e a c h e d t h e p o i n t w h e r e i t c a n b e a p -
p l i e d t o g e n e r a l p r o b l e m s . F o r e x a m p l e , a s i g n i c a n t
a m o u n t o f b a c k g r o u n d k n o w l e d g e ( s y n t a c t i c , s e m a n -
t i c , p r a g m a t i c k n o w l e d g e , f o n t s f o r e m p h a s i s , a n d s o
o n ) i s n e c e s s a r y [ 9 ] . T h i s c o m p l e x i t y l e a d s t o a l a r g e
p r o c e s s i n g t i m e r e q u i r e m e n t , a n d a c q u i r i n g t h e k n o w l -
e d g e i s i t s e l f a b o t t l e n e c k .
2 . 2 O u r a i m
M o t i v a t e d b y a b o v e p r o b l e m s o f p r e v i o u s m e t h -
o d s , w e a i m a t a u t o m a t i c i n d e x i n g w h i c h :
e x p r e s s e s t h e m a i n p o i n t o f t h e a u t h o r , n o t f r e -
q u e n t t e r m s h e / s h e u s e s .
u s e s o n l y i n f o r m a t i o n i n t h e t e x t o f d o c u m e n t s ,
i . e . n o t e x t e r n a l k n o w l e d g e l i k e a c o r p u s , s e c t i o n s ,
o r n a t u r a l l a n g u a g e p r o c e s s i n g .
a c h i e v e s a s i m p l e a n d f a s t a l g o r i t h m .
3 K e y G r a p h : I n d e x i n g b y a C o -
o c c u r r e n c e G r a p h
3 . 1 A b u i l d i n g c o n s t r u c t i o n m e t a p h o r
I n t h i s w o r k , w e d e a l w i t h t e c h n i c a l o r a c a d e m i c
d o c u m e n t s t o b e i n d e x e d . O u r m e t h o d K e y G r a p h i s
b a s e d o n t h e s i m p l e m o d e l t h a t a d o c u m e n t i s w r i t t e n
t o c a r r y a f e w o r i g i n a l p o i n t s , a n d t h a t t e r m s i n t h a t
d o c u m e n t a r e r e l a t e d f o r e x p r e s s i n g t h e s e p o i n t s .
C o m p a r i n g a w r i t t e n d o c u m e n t t o a c o n s t r u c t e d
b u i l d i n g p r o v i d e s a u s e f u l m e t a p h o r t o e x p l a i n o u r
m o d e l . T h i s b u i l d i n g h a s f o u n d a t i o n s ( s t a t e m e n t s f o r
p r e p a r i n g b a s i c c o n c e p t s ) , w a l l s , d o o r s a n d w i n d o w s
( o r n a m e n t a t i o n ) . B u t , a f t e r a l l , t h e r o o f s ( m a i n i d e a s
i n t h e d o c u m e n t ) , w i t h o u t w h i c h t h e b u i l d i n g ' s i n h a b -
i t a n t s c a n n o t b e p r o t e c t e d a g a i n s t r a i n s o r s u n s h i n e ,
a r e t h e m o s t i m p o r t a n t . T h e s e r o o f s a r e s u p p o r t e d b y
c o l u m n s . S i m p l y p u t , K e y G r a p h n d s t h e r o o f s , i . e .
t e r m s t h a t h o l d t h e r e s t o f t h e d o c u m e n t t o g e t h e r v i a
c o l u m n s . F o r e x t r a c t i n g r o o f s , K e y G r a p h i s c o m p o s e d
o f t h r e e m a j o r p h a s e s .
1 ) E x t r a c t i n g f o u n d a t i o n s , w h e r e
b a s i c a n d p r e p a r a t o r y c o n c e p t s a r e o b t a i n e d a s
c l u s t e r s , e a c h o f w h i c h a r e c o n s t r u c t e d b y t h e c o -
o c c u r r e n c e a m o n g t h e t e r m s i n t h e d o c u m e n t .
2 ) E x t r a c t i n g c o l u m n s , w h e r e c o l u m n s , i . e . , t h e
r e l a t i o n s h i p s b e t w e e n t e r m s i n t h e d o c u m e n t a n d
t h e b a s i c c o n c e p t s e x t r a c t e d i n 1 ) a r e o b t a i n e d .
3 ) E x t r a c t i n g r o o f s , w h e r e n o d e s ( r e p -
r e s e n t i n g t e r m s ) a t t h e c r o s s o f s t r o n g c o l u m n s
a r e r e g a r d e d a s r o o f s
M a k i n g a c o - o c c u r r e n c e g r a p h i n 1 ) i s a c o m m o n a p -
p r o a c h f o r c o m p u t i n g t h e r e l e v a n c e b e t w e e n t e r m s ,
e . g . , [ 1 0 , 1 1 ] . O u r n e w p o i n t i s t o r e g a r d t h e c o -
o c c u r r e n c e g r a p h a s t h e f o u n d a t i o n s o f t h e d o c u m e n t ,
o n w h i c h t h e d o c u m e n t i s b u i l t . T h e r o o f s o f t h e b u i l t
d o c u m e n t a r e o b t a i n e d i n 2 ) a n d 3 ) . I n t h e f o l l o w -
i n g s u b s e c t i o n s , p h a s e s 1 ) , 2 ) , a n d 3 ) a r e f o r m a l l y
e x p r e s s e d . C a n d i d a t e s o f f o u n d a t i o n s a n d r o o f s a r e
p r e p a r e d b e f o r e a l l t h e s e p h a s e s , i n t h e i n i t i a l d o c u -
m e n t p r e p a r a t i o n p h a s e ( s e e 3 . 2 ) . T h e n , p h a s e s 1 ) 2 )
a n d 3 ) a b o v e r u n ( s e e 3 . 3 , 3 . 4 a n d 3 . 5 r e s p e c t i v e l y ) .
3 . 2 D o c u m e n t p r e p a r a t i o n
A d o c u m e n t ( l e t u s c a l l t h i s D ) i s c o m p o s e d
o f s e n t e n c e s , w h i c h a r e i n t u r n c o m p o s e d o f w o r d s .
P r i o r t o p r o c e s s i n g D , a l i s t o f n o n - s i g n i c a n t w o r d s
t h a t h a v e l i t t l e m e a n i n g i s p r e p a r e d , w h i c h i s t h e o n l y
e x t e r n a l k n o w l e d g e u s e d . T h i s l i s t i s r e f e r r e d t o a s a
s t o p w o r d s l i s t a n d c o n t a i n s s u c h w o r d s a s \ a " , \ a n d " ,
\ h e r e " , e t c . , s i m i l a r t o [ 9 ] . A l o n g w i t h s u c h w o r d s t o
d i s c a r d , o u r l i s t a l s o i n c l u d e s w o r d s t e m s t o d i s c a r d .
W o r d s i n D a r e s t e m m e d t o r e d u c e r e l a t e d w o r d s t o
t h e s a m e r o o t . F o r e x a m p l e \ r u n " , \ r u n n i n g " , a n d
\ r u n s " a r e a l l r e d u c e d t o \ r u n " b y t h e m e t h o d i n [ 1 2 ] .
S e q u e n c e s o f w o r d s b o u n d b y n o n - s i g n i c a n t w o r d s
a n d s t e m s b e c o m e p h r a s e c a n d i d a t e s . F o r c o n s t r u c t -
i n g p h r a s e s , e a c h c o m b i n a t i o n o f m u l t i p l e w o r d s i n
e a c h p h r a s e c a n d i d a t e i s s e l e c t e d a n d a d d e d t o a l i s t ,
w h e r e t h e s e l e c t e d w o r d s a r e s i d e b y s i d e i n t h e p h r a s e
c a n d i d a t e a n d t h e l e n g t h i s g r e a t e r t h a n o n e w o r d .
F o r e x a m p l e , f o r w o r d s a b c , a n d d , p h r a s e c a n -
d i d a t e f a b c d g g e n e r a t e s p h r a s e s f a b c g f a b g f b c d g
f b c g , a n d f c d g . T h e l i s t o f p h r a s e s i s s o r t e d b y f r e -
q u e n c y a n d e a c h p h r a s e i s p r o c e s s e d i n t u r n . I f a n y
p h r a s e i n c l u d i n g t h e c u r r e n t p h r a s e h a s a f r e q u e n c y
e q u a l t o t h e c u r r e n t o n e , t h e c u r r e n t o n e i s t h r o w n o u t
( t h e r e c a n n o t b e o n e w i t h a g r e a t e r f r e q u e n c y b e c a u s e
t h e p h r a s e s a r e s o r t e d ) . O t h e r w i s e , a l l t h e p h r a s e s i n -
c l u d i n g t h e c u r r e n t o n e a r e t h r o w n o u t . T h i s m e t h o d
p u l l s o u t l o n g e r p h r a s e s w i t h h i g h e r f r e q u e n c y . A f t e r
t h i s d o c u m e n t p r e p a r a t i o n p h a s e D i s r e p r e s e n t e d b y
D
t e r m s
i n c l u d i n g u n i q u e t e r m s ( i . e . , e a c h t e r m i s i n -
c l u d e d o n c e ) w
1
w
2
w
j
w
l
. H e r e a f t e r , a t e r m
m e a n s a w o r d o r a p h r a s e i n D
t e r m s
-
8/3/2019 Key Graph
3/7
3 . 3 P h a s e 1 ) e x t r a c t i n g f o u n d a t i o n s
G r a p h G f o r d o c u m e n t D i s m a d e o f n o d e s r e p r e -
s e n t i n g t e r m s , a n d l i n k s r e p r e s e n t i n g t h e c o - o c c u r r e n c e
( t e r m - p a i r s w h i c h f r e q u e n t l y o c c u r i n s a m e s e n t e n c e s
t h r o u g h o u t D ) . N o d e s i n G r e p r e s e n t h i g h - f r e q u e n c y
t e r m s i n D , a n d f o r m t h e c a n d i d a t e s o f f o u n d a t i o n b e -
c a u s e t e r m s m a y a p p e a r f r e q u e n t l y f o r e x p r e s s i n g t y p -
i c a l b a s i c c o n c e p t s i n t h e d o m a i n , i . e . , f r e q u e n t l y u s e d
i n t h e b a c k g r o u n d d o m a i n o f t h e a u t h o r . T h e n , s u b -
g r a p h s c o r r e s p o n d i n g t o t h e b a s i c c o n c e p t s a r e c o n -
s t r u c t e d . T h i s c o n s t r u c t i o n i s b a s e d o n t h e i d e a t h a t
a s s o c i a t i o n s a m o n g t e r m s i n D r e e c t t h e s e m a n t i c c o -
h e r e n c e o r t h e u n d e r l y i n g c o n c e p t i n a p o r t i o n o f D
T h e i d e a t h a t u n d e r l y i n g c o n c e p t s a r e i m p l i e d b y t h e
a s s o c i a t i o n a m o n g t e r m s i n a d o c u m e n t [ 1 3 , 1 1 ] h a s
b e e n a p p l i e d f o r s e g m e n t i n g a d o c u m e n t i n t o s e m a n -
t i c a l l y c o h e r e n t p o r t i o n s [ 1 4 ] , b a s e d o n t h e l o c a t i o n o f
t e r m s i n D . H o w e v e r , s e l e c t i n g t h e m o s t i m p o r t a n t
p o r t i o n h a s b e e n t o u g h y e t . A l s o , f e w w o r k s u s e d t h e
c o - o c c u r r e n c e i n f o r m a t i o n f o r i n d e x i n g [ 1 5 ] , b u t t h e
s e a r c h e n g i n e p e r f o r m a n c e w a s n o t r a d i c a l l y s u p e r i o r
t o c l a s s i c a l m e t h o d s a s T F I D F . T h i s m e a n s t h a t u s i n g
c o - o c c u r r e n c e s t o c o m p a r e q u e r i e s w i t h o n l y l o c a l i n -
f o r m a t i o n ( e . g . o n e s e n t e n c e o r o n e p a r a g r a p h ) i n t h e
d o c u m e n t i n h a n d i s n o t v e r y m e a n i n g f u l . R a t h e r , t h e
f a c t i s t h a t a u t h o r ' s p o i n t i s o f t e n e x p r e s s e d g l o b a l l y
b y a l l t h e s e c t i o n s i n o n e d o c u m e n t , b a s e d o n l o c a l
s t a t e m e n t s . F r o m t h i s s t a n d p o i n t , w e u s e t h i s i d e a t o
e x t r a c t k e y w o r d s .
I n K e y G r a p h , a s s o c i a t i o n s b e t w e e n t e r m s a r e d e -
n e d b y t h e c o - o c c u r r e n c e a m o n g t h e m , i . e . , o c -
c u r r e n c e s i n t h e s a m e s e n t e n c e s , a n d p r e s e n t e d b y
t h e l i n k s i n G ( s o l i d l i n e s i n F i g u r e 1 ) . A m a x -
i m a l c o n n e c t e d s u b g r a p h , i . e . a c o n n e c t e d g r a p h
w h i c h i n c l u d e s n o c o n n e c t e d p r o p e r s u b g r a p h s , i n
G , i s r e g a r d e d a s a c o n c e p t o n w h i c h t h e a u t h o r ' s
i d e a i s b a s e d . H e r e a f t e r , w e s a y c l u s t e r s t o r e f e r t o
t h e s e m a x i m a l c o n n e c t e d s u b g r a p h s r e p r e s e n t i n g t h e
f o u n d a t i o n s
T o e m b o d y a b o v e s t r a t e g y , n o d e s a n d l i n k s i n f o u n -
d a t i o n s a r e o b t a i n e d a s f o l l o w s .
N o d e s T e r m s i n D
t e r m s
a r e s o r t e d b y t h e i r f r e -
q u e n c i e s i n D . H i g h f r e q u e n c y t e r m s , i . e . , t h e s e t o f
t e r m s a b o v e t h e 3 0 t h h i g h e s t f r e q u e n c y w h e n D
t e r m s
( w e d e n o t e t h i s s e t b y H F , a n d 3 0 i s d e t e r m i n e d e m -
p i r i c a l l y ) , a r e t a k e n i n t o G . T e r m s i n H F b e c o m e t h e
n o d e s i n G ( b l a c k n o d e s i n F i g u r e 1 ) .
L i n k s N o d e s i n H F a r e l i n k e d , i f t h e a s s o c i a t i o n
b e t w e e n t h e c o r r e s p o n d i n g t e r m s i s s t r o n g . W e d e n e
t h e a s s o c i a t i o n o f t e r m s , w
i
a n d w
j
i n D a s
a s s o c ( w
i
w
j
) =
X
s 2 D
m i n ( j w
i
j
s
j w
j
j
s
) ( 1 )
w h e r e j x j
s
d e n o t e s t h e c o u n t o f x i n s e n t e n c e s . T h i s
f o r m u l a t i o n c o m e s f r o m t h e a s s u m p t i o n t h a t e a c h a p -
p e a r a n c e o f w
i
i s r e l a t e d t o i t s n e a r e s t a p p e a r i n g w
j
n o t a l l w
j
' s i n t h e s e n t e n c e . P a i r s o f h i g h - f r e q u e n c y
t e r m s i n H F a r e s o r t e d b y a s s o c a n d t h e p a i r s a b o v e
t h e ( n u m b e r o f n o d e s i n G ) 0 1 t h t i g h t e s t a s s o c i -
a t i o n a r e r e p r e s e n t e d i n G b y l i n k s b e t w e e n n o d e s .
H e r e , ( n u m b e r o f n o d e s i n G ) 0 1 i s t h e l e a s t n u m -
b e r o f l i n k s n e c e s s a r y f o r c o n n e c t i n g a l l t h e n o d e s i n
term 1
term 2
term 3
term 4
term 5term 6
a. Singly connected G b. Multiply connected G
term 1
term 2
term 3
Ga
term 4
term 5
term 6
Gb
term w (Roof)
LinkNode
Foundation (Cluster)Colum n
F i g u r e 1 : E x t r a c t e d f o u n d a t i o n s a s G
a
a n d G
b
- i n
b , r o o f ( k e y w o r d ) w i s s u p p o r t e d b y c o l u m n s ( d o t t e d
l i n e s )
G , i . e . , G i s s i n g l y - c o n n e c t e d i f G i s a c o n n e c t e d g r a p h
w i t h ( n u m b e r o f n o d e s i n G ) 0 1 e d g e s . S u c h a s i n g l y -
c o n n e c t e d g r a p h m e a n s t h a t t h e o v e r a l l c o n t e n t o f D
o w s w i t h o u t r e d u n d a n c y ( t e r m 3 i s n o t d e r i v e d f r o m
t e r m 1 i n t w o w a y s , i . e . , d i r e c t l y f r o m t e r m 1 a n d
t h r o u g h t e r m 2 i n F i g u r e 1 - a ) .
I f t h e r e a r e s o m e r e d u n d a n c i e s , i . e . , i f m u l t i p l e p a t h s
e x i s t f r o m t e r m 1 t o t e r m 3 a s i n F i g u r e 1 - b , i t m e a n s
t h a t t h e g l o b a l r e l a t i o n b e t w e e n t e r m 3 a n d t e r m 4 i s
w e a k e r t h a n t h e l o c a l r e l a t i o n i n c l u s t e r G
a
s o t h a t
s e g m e n t i n g G t o f o u n d a t i o n s ( G
a
a n d G
b
) i s r e a s o n -
a b l e . I n o t h e r w o r d s , ( n u m b e r o f n o d e s i n G ) 0 1
l i n k s i s a p p r o p r i a t e f o r s e g m e n t i n g t h e d o c u m e n t t o
c l u s t e r s .
3 . 4 P h a s e 2 ) e x t r a c t i n g c o l u m n s
K e y w o r d s t h a t w e w a n t a r e t e r m s t h a t t i e a n d
h o l d c l u s t e r s t o g e t h e r , a s d e p i c t e d b y t h e n o d e o f t e r m
w i n F i g u r e 1 - b . F o r d e n i n g t h e t i g h t n e s s o f t e r m w ' s
h o l d i n g c l u s t e r s , w e a s s i g n t h e f o l l o w i n g v a l u e k e y ( w )
t o e a c h t e r m w i n D k e y ( w ) i s a r e a l n u m b e r b e t w e e n
0 a n d 1 , d e n e d a s t h e p r o b a b i l i t y o f t e r m w t o a p -
p e a r i f a l l t h e f o u n d a t i o n s i n G a r e c o n s i d e r e d b y t h e
a u t h o r , a s f o l l o w s .
F i r s t , l e t j x j
s
d e n o t e t h e c o u n t o f x i n s e n t e n c e s
W e a l s o d e n e j g j
s
, t h e c o u n t o f c l u s t e r g i n s e n t e n c e
s , a s t h e c o u n t o f t h e t e r m s i n s \ g . W e d e n e t w o
a u x i l i a r y f u n c t i o n s :
b a s e d ( w g ) =
X
s 2 D
j w j
s
j g 0 w j
s
( 2 )
n e i g h b o r s ( g ) =
X
s 2 D
X
w 2 s
j w j
s
j g 0 w j
s
( 3 )
-
8/3/2019 Key Graph
4/7
w h e r e s a n d w r e p r e s e n t s e n t e n c e s a n d t e r m s i n D
j g 0 w j
s
=
j g j
s
0 j w j
s
i f w 2 g
j g j
s
i f w 62 g
( 4 )
b a s e d ( w g ) m e a n s h o w m a n y t i m e s w a p p e a r e d i n
D , b a s e d o n t h e b a s i c c o n c e p t r e p r e s e n t e d b y c l u s -
t e r g . T o b e m o r e s p e c i c , b a s e d ( w g ) d e n o t e s t h e
c o - o c c u r r e n c e b e t w e e n t e r m w a n d c l u s t e r g , i . e . , t h e
c o u n t o f w ' s a p p e a r a n c e i n t h e s a m e s e n t e n c e s a s t e r m s
i n g n e i g h o r s ( g ) m e a n s t h e c o u n t o f t e r m s i n s e n -
t e n c e s i n c l u d i n g t e r m s i n g . T h e r e a s o n i n g b e h i n d
j g 0 w j
s
f o r w 2 g i s t o t e m p o r a r i l y s e p a r a t e t e r m w
f r o m c l u s t e r g t h a t c o n t a i n s w
B a s e d o n t h e s e f u n c t i o n s , k e y ( w ) d e n o t e s t h e c o n d i -
t i o n a l p r o b a b i l i t y t h a t w i s u s e d i f t h e a u t h o r h a s a l l
t h e c l u s t e r s ( i . e . , b a s i c c o n c e p t s ) i n m i n d . T h a t i s ,
k e y ( w ) = p r o b a b i l i t y ( w j
\
g G
g ) ( 5 )
o r e q u i v a l e n t l y
k e y ( w ) = p r o b a b i l i t y (
[
g G
( w j g ) ) ( 6 )
T h a t i s , w e d e n e k e y ( w ) b y
k e y ( w ) = 1 0
Y
g G
1 0
b a s e d ( w g )
n e i g h b o r s ( g )
( 7 )
H e r e , d i v i s i o n o f b a s e d ( w g ) b y t h e n e i g h b o r s ( g ) d e -
n o t e s t h e r a t e o f t h e a p p e a r a n c e o f t e r m w i n t h e
n e i g h b o r h o o d o f t e r m s i n g , w h i c h m e a n s t h e c o n d i -
t i o n a l p r o b a b i l i t y t h a t w i s u s e d i f t h e a u t h o r i s i n t e r -
e s t e d i n t h e f u n d a m e n t a l c o n c e p t o f g
N o t e t h a t , i n o b t a i n i n g E q . ( 7 ) , w e a r e o n t h e a s -
s u m p t i o n t h a t b a s i c c o n c e p t s , i . e . , c l u s t e r s a r e i n d e -
p e n d e n t o f e a c h o t h e r . T h i s a s s u m p t i o n c o r r e s p o n d s
t o t h e i d e a t h a t b a s i c c o n c e p t s a r e n o t d e r i v e d f r o m
d e e p e r r e a s o n i n g o f t h e a u t h o r .
S o r t i n g t e r m s i n D b y k e y s p r o d u c e s a l i s t o f t e r m s
r a n k e d b y t h e i r a s s o c i a t i o n w i t h c l u s t e r . T h e 1 2 t o p
k e y t e r m s a r e t a k e n f o r h i g h k e y t e r m s , c u r r e n t l y ( 1 2
i s a n e m p i r i c a l l y a c q u i r e d n u m b e r ) .
3 . 5 P h a s e 3 ) e x t r a c t i n g r o o f s , i . e . k e y -
w o r d s e x t r a c t i o n
N e x t , w e a d d a l l t h e h i g h k e y t e r m s a s n e w n o d e s
t o G ( i f t h e y a r e n o t i n G y e t ) . W e d o n o t s o r t t e r m s
s i m p l y b y k e y s , b e c a u s e t e r m s w h i c h r e p r e s e n t f o u n -
d a t i o n s s t r o n g l y r e l a t e d t o r o o f s a r e a l s o i m p o r t a n t
f o r s u m m a r i z i n g d o c u m e n t D . T h e s e e s p e c i a l l y i m -
p o r t a n t f o u n d a t i o n s a r e o f l o w k e y s b u t h i g h l y r a n k e d
b y t h e s u m o f t h e s t r e n g t h o f t o u c h i n g c o l u m n s . T h e
s t r e n g t h o f t h e c o l u m n b e t w e e n a h i g h k e y t e r m w
i
a n d a h i g h f r e q u e n c y t e r m w
j
2 H F i s e x p r e s s e d a s
c o l u m n ( w
i
w
j
) =
X
s 2 D
m i n ( j w
i
j
s
j w
j
j
s
) ( 8 )
C o l u m n s t o u c h i n g w
i
a r e s o r t e d b y c o l u m n ( w
i
w
j
)
f o r e a c h h i g h k e y t e r m w
i
. C o l u m n s w i t h t h e h i g h -
e s t c o l u m n v a l u e s c o n n e c t i n g t e r m w
i
t o t w o o r m o r e
c l u s t e r s a r e s e l e c t e d t o c r e a t e n e w l i n k s i n G W e
d e p i c t s u c h l i n k s r e p r e s e n t i n g c o l u m n s b y d o t t e d l i n e
( s e e F i g u r e 1 - b ) .
F i n a l l y , n o d e s i n G a r e s o r t e d b y t h e s u m o f a b o v e
c o l u m n o f t o u c h i n g c o l u m n s . T e r m s r e p r e s e n t e d b y
n o d e s o f h i g h e r v a l u e s o f t h e s e s u m s t h a n a c e r t a i n
t h r e s h o l d a r e e x t r a c t e d a s t h e k e y w o r d s f o r d o c u m e n t
D . C u r r e n t l y , w e c h o o s e 1 2 t o p t e r m s ( e m p i r i c a l l y d e -
t e r m i n e d , a g a i n ) . I f m o r e t e r m s a r e e q u a l l y r a n k e d ,
a l l t h e e q u a l l y r a n k e d t e r m s a r e e x t r a c t e d .
4 E x a m p l e a n d R e n e m e n t o f K e y -
G r a p h
T h e i d e a l c a s e i s a s e t o f c l u s t e r s i n G w h e r e e a c h
t e r m i n a c l u s t e r ( f o u n d a t i o n ) i s l i n k e d t o e v e r y o t h e r
n o d e i n t h e s a m e c l u s t e r , a n d n o l i n k ( o n e s o l i d l i n e i n
F i g u r e 1 ) c o n n e c t s d i e r e n t c l u s t e r s . H o w e v e r , t h e r e
a r e c a s e s w h e r e a c l u s t e r i s h e l d t o g e t h e r w e a k l y , b u t
n o t w e a k l y e n o u g h t o b e s e p a r a t e d .
F o r e x a m p l e , F i g u r e 2 d e p i c t s o b t a i n e d f o u n d a t i o n s
( s o l i d l i n e s a n d t h e i r t o u c h i n g n o d e s ) , c o l u m n s ( d o t t e d
l i n e s ) , a n d r o o f s ( d o u b l e c i r c l e s ) f o r a d o c u m e n t . I t i s
n o t e w o r t h y t h a t \ s p e e d " , \ i n t e g e r p r o g r a m m i n g " a n d
\ a p p r o x i m a t e m e t h o d " w e r e s e l e c t e d i n s p i t e o f t h e i r
l o w f r e q u e n c y ( t w i c e o r l e s s i n t h e e n t i r e d o c u m e n t
o f 6 8 9 9 w o r d s ) , c o n s i d e r i n g t h a t t h i s p a p e r p r e s e n t e d
a n e w m e t h o d o f s p e e d i n g u p a b d u c t i o n i n p r e d i c a t e
l o g i c b y N B P [ 1 6 ] , a n i n f e r e n c e b a s e d o n a p p r o x i m a t e
i n t e g e r p r o g r a m m i n g . H o w e v e r , c o n s i d e r i n g t h a t t h i s
p a p e r i s c o n t r i b u t e d f o r e x t e n d i n g t h e N B P m e t h o d
f r o m p r o p o s i t i o n a l t o p r e d i c a t e l o g i c , i t i s n o t a g o o d
r e s u l t t h a t n e i t h e r \ p r e d i c a t e " n o r \ t i m e " a r e i n d o u -
b l e c i r c l e s . T h i s i s d u e t o w e a k l i n k s l i k e t h e o n e d e -
p i c t e d w i t h s c i s s o r s i n F i g u r e 2 . T h a t i s , b a s e d ( w
0
g
0
)
c a n n o t b e g i v e n i f w
0
r e p r e s e n t s \ p r e d i c a t e " a n d t h e
l a r g e s t c l u s t e r g
0
i n c l u d i n g \ s o l u t i o n " a l s o i n c l u d e s w
0
I n o r d e r t o c o p e w i t h t h i s p r o b l e m , a n e e c t i v e
m e t h o d i s t o p r u n e w e a k l i n k s ( w i t h s c i s s o r s , i n F i g -
u r e 2 ) a n d s e g m e n t e a c h c l u s t e r i n t o d e n s e r c l u s t e r s ,
f o r o b t a i n i n g \ p r e d i c a t e " a s a t e r m h o l d i n g t w o c l u s -
t e r s ( t h e l a r g e s t c l u s t e r i n c l u d i n g \ s o l u t i o n " a n d t h e
o n e i n c l u d i n g \ p r e d i c a t e " ) t o g e t h e r , i n t h e e x a m p l e
a b o v e . L o o k i n g f o r m a x i m u m c l i q u e s i n t h e c l u s t e r s
m a y d o f o r t h i s p u r p o s e . H o w e v e r , t h i s a p p r o a c h i s
t i m e - c o n s u m i n g , i . e . , a m a x i m u m c l i q u e p r o b l e m i s
N P - c o m p l e t e . W e a d o p t e d a s i m p l e r a p p r o a c h - i n s e r t
t h e f o l l o w i n g s t e p a t t h e e n d o f p h a s e 1 ) i n 3 . 3 .
f o r a l l e 2 e d g e s i n G , p r u n e e f r o m G i f t h e r e i s n o
p a t h i n G 0 e c o n n e c t i n g t h e t w o e n d s o f e d g e e
I n o t h e r w o r d s , a c l u s t e r i s s e g m e n t e d i n t o s u b - c l u s t e r s
w h i c h , i n G , w e r e c o n n e c t e d v i a o n e l i n k . T h i s s t e p
t a k e O ( L
2
) t i m e w h e r e L i s t h e n u m b e r o f l i n k s i n G
b e c a u s e L l i n k s a r e p r u n e d t e m p o r a r i l y i n t u r n , e a c h
l i n k w i t h p a t h - t r a c i n g i n G . I t m a y i m p r o v e t h e r e s u l t s
i f m o r e l i n k s a r e p r u n e d t e m p o r a r i l y , b u t w e d o n o t
c h o o s e t h a t w a y b e c a u s e t h e t i m e i n c r e a s e s ( O ( L
d + 1
)
t i m e i f d l i n k s a r e p r u n e d t e m p o r a r i l y ) . F o r t h e e x -
a m p l e i n F i g u r e 2 , b y t h i s r e n e m e n t , w e o b t a i n e d t h e
-
8/3/2019 Key Graph
5/7
hypothesesknowledge
inference
abduction
possiblesearch
integer programing
approximate method
near optimal
NBP
time
solution
costoptimal
predicate logic
predicate
network
method
polynomial
framework
hypothetical reasoning
diagnosis
designing
bubble
propagation
speed
order
problem
F i g u r e 2 : A w e a k l i n k ( m a r k e d b y s c i s s o r s ) .
hypothesesknowledge
inference
abduction
possiblesearch
integer programing
approximate method
near optimal
NBP
time
solution
cost
weight
computing
optimal
predicate logic
predicate
network
method
polynomial
framework
hypothetical reasoning
bubble
propagation
speed
order
designing
problem
diagnosis
F i g u r e 3 : A n i m p r o v e d r e s u l t b y f u r t h e r s e g m e n t a t i o n .
0 0.2 0.4 0.6 0.8 1.0
0.2
0.4
0.6
0.8
1.0
P (precision)
R (recall)
TFIDF
NGRAM
KeyGraph
F i g u r e 4 : P r e c i s i o n a n d R e c a l l ( d e n e d i n E q . ( 1 1 ) ) b y
K e y G r a p h v s . o t h e r i n d e x i n g m e t h o d s .
r e s u l t i n F i g u r e 3 . I m p o r t a n t t e r m s \ p r e d i c a t e " a n d
\ t i m e " a r e s u c c e s s f u l l y e x t r a c t e d .
5 S t a t i s t i c s o f K e y G r a p h P e r f o r m a n c e
T h i s s e c t i o n p r e s e n t s e x p e r i m e n t a l r e s u l t s t o s h o w
i f o u r t w o g o a l s b e l o w a r e a c h i e v e d b y K e y G r a p h .
( 1 ) O b t a i n i n g k e y w o r d s f o r a u t h o r ' s o r i g i n a l p o i n t
f o r r e t r i e v i n g d o c u m e n t s m a t c h i n g s e a r c h e n g i n e
u s e r ' s s p e c i a l i n t e r e s t , o r f o r s u m m a r i z i n g d o c u -
m e n t s .
( 2 ) E c i e n t , f a s t i n d e x i n g .
W e c o n d u c t e d t h e f o l l o w i n g e x p e r i m e n t s b y K e y G r a p h
w r i t t e n i n C + + . T h e s y s t e m u s e d w a s L y n u x o n a
P e n t i u m 1 6 6 M H z c o m p u t e r w i t h 6 4 M R A M .
5 . 1 K e y G r a p h ' s p e r f o r m a n c e a s a n i n f o r -
m a t i o n r e t r i e v a l d e v i c e
I n o r d e r t o t e s t t h e p e r f o r m a n c e o f K e y G r a p h
o n i t e m ( 1 ) , w e e v a l u a t e d t h e d o c u m e n t s r e t r i e v e d
b y c o m p a r i n g u s e r q u e r i e s a n d k e y w o r d s e x t r a c t e d
f r o m e a c h d o c u m e n t i n t h e d a t a b a s e b y K e y G r a p h
a n d p r e v i o u s m e t h o d s . T h e v a l u e s w e m e a s u r e d a r e
c o m m o n l y - u s e d r e c a l l ( h o w m a n y o f t h e d o c u m e n t s
r e l e v a n t t o u s e r ' s i n t e r e s t a r e o b t a i n e d ) a n d p r e c i s i o n
( h o w m a n y o f t h e r e t r i e v e d d o c u m e n t s a r e r e l e v a n t
u s e r ' s i n t e r e s t ) f o r e a c h q u e r y .
P r e c i s i o n i s d e n e d a s
P =
R e t r i e v e d ( M ) \ R e l e v a n t
R e t r i e v e d ( M )
( 9 )
a n d r e c a l l i s c o m m o n l y d e n e d a s
R ( M ) =
R e t r i e v e d ( M ) \ R e l e v a n t
R e l e v a n t
( 1 0 )
w h e r e R e t r i e v e d ( M ) a n d R e l e v a n t d e n o t e t h e
d o c u m e n t - s e t s , o n e r e t r i e v e d b y i n d e x i n g m e t h o d M
-
8/3/2019 Key Graph
6/7
a n d o n e r e l e v a n t t o u s e r ' s i n t e r e s t , r e s p e c t i v e l y . H o w -
e v e r , R ( M ) d e n e d i n E q . ( 1 0 ) c a n n o t b e e c i e n t l y
c o m p u t e d f o r o u r e x p e r i m e n t , b e c a u s e t h e n u m b e r o f
r e l e v a n t d o c u m e n t s c a n n o t b e d e t e r m i n e d b y e x p e r t s ,
s i n c e w e d e a l w i t h q u e r i e s w i t h i n t e r e s t s u n i q u e t o
e a c h u s e r . I n o r d e r t o a l l o w u s e r s t r y m a n y q u e r i e s
f r o m s p e c i a l i n t e r e s t s , i t i s v e r y i n e c i e n t t o n a m e
e n o u g h n u m b e r o f r e l e v a n t d o c u m e n t s a s R e l e v a n t
f r o m a l a r g e n u m b e r o f d o c u m e n t s f o r e a c h q u e r y .
I n o r d e r t o a v o i d t h i s w a s t e o f t i m e , w e m a d e a
s e a r c h e n g i n e w h o s e o u t p u t d o c u m e n t l i s t i s a s h u e d
u n i o n o f t h e r e t r i e v e d d o c u m e n t s b y t h r e e i n d e x i n g
m e t h o d s : T F I D F , N G R A M [ 4 ] a n d K e y G r a p h . W e
d o n o t c o m p a r e K e y G r a p h w i t h t h e s a u r i - b a s e d i n f o r -
m a t i o n r e t r i e v a l [ 1 0 , 1 1 ] , i n w h i c h t e r m s i n u s e r ' s q u e r y
a r e c o m p a r e d w i t h d o c u m e n t s i n a d a t a b a s e v i a t h e -
s a u r a l a s s o c i a t i o n s , b e c a u s e o u r t e s t i s w h e t h e r o r n o t
e x t r a c t e d t e r m s f r o m a d o c u m e n t r e p r e s e n t t h e p o i n t
o r n o t .
T F I D F a n d N G R A M u s e a c o r p u s , w h i c h i s t h e d o c -
u m e n t c o l l e c t i o n i t s e l f i n t h i s e x p e r i m e n t . T h e d i f -
f e r e n c e b e t w e e n T F I D F a n d N G R A M i s t h a t T F I D F
d i s c a r d s s t e m s a n d s t o p - w o r d s r s t , w h i l e N G R A M
c o m p u t e s t h e w e i g h t o f a l l t h e s t r i n g s ( n o t a l w a y s
w o r d s ) o f a c e r t a i n l e n g t h b y t h e s a m e w e i g h t f u n c -
t i o n a s T F I D F . U s e r s s e l e c t e d d o c u m e n t s m a t c h i n g
t h e i r i n t e r e s t f r o m t h e l i s t , a n d t h e s y s t e m p u t o u t
r e l e v a n t d o c u m e n t s s e l e c t e d b y e a c h i n d e x i n g m e t h o d ,
s h u e d t h e d o c u m e n t s , a n d p r e s e n t e d a l i s t o f t h e s e
d o c u m e n t s t o u s e r s . B e c a u s e t h e n u m b e r o f r e l e v a n t
d o c u m e n t s f o r e a c h q u e r y i s c o m m o n t o a l l t h e t h r e e
i n d e x i n g m e t h o d s , w e c a n c o m p a r e t h e r e c a l l p e r f o r -
m a n c e o n l y b y t h e n u m b e r o f r e l e v a n t d o c u m e n t s o f
t h o s e r e t r i e v e d b y e a c h m e t h o d . F o r t h i s r e a s o n , w e
d e n e r e c a l l a s :
R ( M ) =
R e t r i e v e d ( M ) \ R e l e v a n t
S
M
R e t r i e v e d ( M ) \ R e l e v a n t
( 1 1 )
i . e . , t h e r a t e o f r e l e v a n t d o c u m e n t s r e t r i e v e d b y
m e t h o d M ( T F I D F , N G R A M , o r K e y G r a p h ) p e r a l l
t h e r e l e v a n t d o c u m e n t s r e t r i e v e d .
E a c h d o t i n F i g . 4 s h o w s t h e r e s u l t . A m o n g 5 9 0 0
d o c u m e n t s c o n c e r n i n g a r t i c i a l i n t e l l i g e n c e , 9 u s e r s i n
t h e d o m a i n o f a r t i c i a l i n t e l l i g e n c e g o t d o c u m e n t s .
W e t o o k t h i s s e t o f d o c u m e n t s a n d u s e r s , i n o r d e r
t o i n v e s t i g a t e i f a u s e r w i t h o r i g i n a l i d e a s g o t s a t i s -
e d w i t h t h e d o c u m e n t s . I n t o t a l , 1 3 0 q u e r i e s w e r e
g i v e n . F i g . 4 d e p i c t t h e a v e r a g e v a l u e s o f p r e c i s i o n o f
5 q u e r i e s . F r o m t h i s g r a p h , t h e f o l l o w i n g t e n d e n c i e s
a r e o b s e r v e d .
A T h e r e c a l l v a l u e s o f K e y G r a p h a r e t h e h i g h e s t .
T h i s c o m e s f r o m K e y G r a p h ' s f e a t u r e o f o b t a i n -
i n g i m p o r t a n t t e r m s e v e n i f t h e i r a p p e a r a n c e f r e -
q u e n c i e s a r e l o w . T h a t i s , a d o c u m e n t w i l l b e
r e t r i e v e d e a s i l y s o f a r a s t h e t e r m s i n u s e r ' s q u e r y
c a r r y s i g n i c a n t p o i n t s i n t h e d o c u m e n t .
B F o r q u e r i e s o f l o w r e c a l l , t h e p r e c i s i o n v a l u e s
o f K e y G r a p h a r e t h e h i g h e s t . T h i s i s b e c a u s e
k e y w o r d s e x t r a c t e d b y K e y G r a p h , i f f e w , m o s t l y
c a r r y i m p o r t a n t i d e a s . O n t h e o t h e r h a n d ,
T F I D F a n d N G R A M a r e l i k e l y t o e x t r a c t o n l y
t e r m s w i t h l o w s i g n i c a n c e t o a u t h o r s i f f e w t e r m s
a r e e x t r a c t e d .
T h e s e t e n d e n c i e s w e r e e v e n m o r e r e m a r k a b l e , i n c a s e s
w h e n u s e r s i n a s p e c i a l d o m a i n u s e d t h e s e a r c h e n -
g i n e f o r s a t i s f y i n g u s e r s ' s p e c i a l i n t e r e s t s . F o r e x a m -
p l e , a u s e r i n t h e a r t i c i a l i n t e l l i g e n c e d o m a i n o b -
t a i n e d 8 d o c u m e n t s r e t r i e v e d , a l l o f w h i c h w e r e r e l -
e v a n t t o h i s q u e r y a g e n t c o m m u n i c a t i o n , w h i l e b o t h
T F I D F a n d N G R A M r e t r i e v e d 3 r e l e v a n t d o c u m e n t s .
A l s o , f o r t h e q u e r y a g e n t o n t h e w e b , K e y G r a p h r e -
t r i e v e d 3 d o c u m e n t s a l l r e l e v a n t , w h i l e T F I D F a n d
N G R A M r e t r i e v e d n o n e . O n t h e o t h e r h a n d s , f o r t h e
q u e r y d a t a m i n i n g w h i c h i s n o w a p o p u l a r n a m e o f a
d o m a i n , b y K e y G r a p h n o d o c u m e n t s w e r e r e t r i e v e d ,
w h i l e N G R A M o b t a i n e d 5 r e l e v a n t a n d 4 i r r e l e v a n t
d o c u m e n t s a n d T F I D F d i d 2 r e l e v a n t d o c u m e n t s a n d
n o i r r e l e v a n t o n e s .
T h o u g h w e d o n o t h a v e e n o u g h s p a c e t o s h o w t h e
d e t a i l e d r e s u l t s , t e n d e n c i e s A a n d B w e r e c l e a r l y o b -
s e r v e d f o r q u e r i e s b y p a t i e n t s f o r m e d i c a l d o c u m e n t s .
T h e s e r e s u l t s m e a n t h a t K e y G r a p h w o r k s n e f o r u s e r s
l o o k i n g f o r d o c u m e n t s m a t c h i n g t h e i r s p e c i a l , u n i q u e
i n t e r e s t s o r i d e a s , b e c a u s e K e y G r a p h e x t r a c t s t h e a s -
s e r t e d p o i n t i n e a c h d o c u m e n t i n t h e c o l l e c t i o n .
5 . 2 T h e t i m e p e r f o r m a n c e o f K e y G r a p h
T h e u p p e r b o u n d s o f t h e t i m e f o r e a c h p h a s e i n
K e y G r a p h a r e a s f o l l o w s .
T
d p
D o c u m e n t p r e p a r a t i o n p h a s e T
d p
= O ( W 1
l o g ( W ) ) f o r s o r t i n g p h r a s e s , w h e r e W i s t h e n u m -
b e r o f w o r d s i n D
T
e f
E x t r a c t i n g f o u n d a t i o n s p h a s e T
e f
= T
H F
+
T
l i n k s
, w h e r e T
H F
a n d T
l i n k s
a r e t i m e f o r o b t a i n -
i n g H F a n d l i n k s i n G , r e s p e c t i v e l y . T
H F
a n d
T
l i n k s
a r e e v a l u a t e d a s O ( j D
t e r m s
j 1 l o g j D
t e r m s
j )
a n d O ( j H F j
2
1 l o g j H F j ) r e s p e c t i v e l y , c o n s i d e r -
i n g t h e s o r t i n g o p e r a t i o n o f t e r m s i n D
t e r m s
a n d
t e r m - p a i r s i n H F . P r u n i n g w e a k l i n k s , a s s t a t e d
i n s e c t i o n 4 , c a n b e d o n e w i t h i n t h e t i m e o f
O ( L
2
) . S i n c e L i s b o u n d t o c o n s t a n t b y t h e s i z e
o f H F T
e f
c a n b e e v a l u a t e d t o b e O ( j D
t e r m s
j 1
l o g j D
t e r m s
j )
T
e c
E x t r a c t i n g c o l u m n s a n d r o o f s T
e c
i s t h e t i m e
f o r s o r t i n g O ( j D
t e r m s
j 1 j c l u s t e r s i n G j ) c o l u m n s .
S i n c e j c l u s t e r s i n G j i s b o u n d e d t o c o n s t a n t
v a l u e , T
e c
i s n o t o f h i g h e r o r d e r t h a n T
e f
C o n c l u s i o n a l l y , T
d p
+ T
e f
+ T
e c
i s w i t h i n t h e o d e r o f
O ( W 1 l o g ( W ) + j D
t e r m s
j 1 l o g j D
t e r m s
j ) , n o t m u c h h i g h e r
t h a n T F I D F ( j D
t e r m s
j 1 l o g j D
t e r m s
j , m a i n l y f o r s o r t i n g
t e r m s ) w h i c h i s o n e o f t h e s i m p l e s t a n d f a s t e s t ( m u c h
f a s t e r t h a n N G R A M ) p r e v i o u s m e t h o d s . A c t u a l l y , t h e
t i m e i n c r e a s e d n e a r - l i n e a r l y w i t h W ( w i t h i n 1 s e c f o r
7 0 0 0 t o 8 0 0 0 w o r d s i n a v e r a g e , w h e r e i t t o o k 0 . 1 s e c
f o r a 6 2 5 w o r d s d o c u m e n t ) .
F u r t h e r m o r e , a c o r p u s , i f e m p l o y e d , h a v e t o b e
l e a r n e d w i t h t h e p r o g r e s s i n t h e d o m a i n , l e a d i n g
t o r a d i c a l c h a n g e s i n f r e q u e n t w o r d s i n t h e d o m a i n .
T F I D F , N G R A M a n d o t h e r c o r p u s - b a s e d i n d e x i n g i n
-
8/3/2019 Key Graph
7/7
g e n e r a l h a v e t o r e v i s e t h e c o r p u s w h e n n e w d o c u m e n t s
o c c u r . A c c o r d i n g l y , k e y w o r d s o f a l l t h e d o c u m e n t s a l -
r e a d y i n d e x e d h a v e t o b e r e v i s e d - a n e n o r m o u s l o s s
o f t i m e e s p e c i a l l y f o r s e a r c h i n g f r o m a r t i c l e s i n v e r y
n e w a n d p r o g r e s s i n g d o m a i n s o r f r o m c o l l e c t i o n s o f e -
m a i l s . O n t h e o t h e r h a n d , K e y G r a p h d o e s n o t h a v e
t o r e v i s e c o r p u s , b e c a u s e K e y G r a p h d o e s n o t u s e o n e .
6 C o n c l u s i o n
W e p r e s e n t e d a n a l g o r i t h m K e y G r a p h , t o e x t r a c t
k e y w o r d s r e p r e s e n t i n g a s u m m a r y o f t h e o r i g i n a l p o i n t
o f a d o c u m e n t . T h i s i n d e x i n g i s b a s e d o n t h e i n f o r m a -
t i o n w i t h i n t h e d o c u m e n t s u c h a s t e r m f r e q u e n c y a n d
t e r m l o c a t i o n , n o t o n c o r p u s w h i c h s h o u l d b e d o m a i n -
s p e c i c , s o t h a t K e y G r a p h i s d o m a i n i n d e p e n d e n t .
I n d e x i n g b a s e d o n b u i l d i n g - c o n s t r u c t i o n m e t a p h o r
i s n e w a n d e e c t i v e . T h e g r e a t e s t b e n e t i s t h e e x t r a c -
t i o n ( d i s m i s s a l ) o f l o w ( h i g h ) f r e q u e n c y w o r d s w h i c h
c a r r y ( d o n o t c a r r y ) t h e e e c t o f t h e d o c u m e n t , i . e . ,
c o n c e p t s t h e a u t h o r i s p r e s e n t i n g . T h i s m e r i t l e a d s
t o t h e s a t i s f a c t i o n o f s e a r c h e n g i n e u s e r s w i t h u n i q u e
i n t e r e s t s o r i d e a s . A l s o , t h i s m e t h o d i s s i m p l e a n d
f a s t , a n d d o n o t w a s t e m u c h t i m e f o r t h e h e a v y r e -
v i s i o n o f c o r p u s a n d k e y w o r d s a l r e a d y i n d e x e d d o c -
u m e n t s . F i n a l l y , s u c h i n d e x i n g w i t h o u t c o r p u s i s
d o m a i n - i n d e p e n d e n t , i n a m o r e s t r o n g s e n s e t h a n [ 4 ] ,
w h i c h m a k e K e y G r a p h h e l p s e a r c h i n g u s e r s w h o s e i d e a
a r e q u i t e n e w , n o t b e l o n g i n g t o a n y t r a d i t i o n a l a r e a s .
A c k n o w l e d g m e n t s
T h e c o r e i d e a o f t h i s w o r k s t a r t e d f r o m Y . O h s a w a ' s
p r i v a t e t a l k w i t h A s s o c i a t e P r o f e s s o r S e i j i Y a m a d a o f
t h e T o k y o I n s t i t u t e o f T e c h n o l o g y , a n d t h e p r o g r e s s o f
t h i s s t u d y h a s b e e n s u p p o r t e d b y t h e I n a m o r i F o u n -
d a t i o n . W e a l s o t h a n k P r o f e s s o r T a d a h i r o K i t a h a s h i ,
A s s o c i a t e P r o f e s s o r T a k a s h i W a s h i o i n t h e I n s t i t u t e o f
S c i e n t i c a n d I n d u s t r i a l R e s e a r c h o f O s a k a U n i v e r s i t y ,
f o r a l l t h e d i s c u s s i o n s c o n c e r n i n g K e y G r a p h .
R e f e r e n c e s
[ 1 ] H . P . L u h n , A S t a t i s t i c a l A p p r o a c h t o t h e M e c h -
a n i z e d E n c o d i n g a n d S e a r c h i n g o f L i t e r a r y I n f o r -
m a t i o n , I B M J . R e s e a r c h a n d D e v e l o p m e n t V o l . 1 ,
N o . 4 , 3 0 9 - 3 1 7 , 1 9 5 7 .
[ 2 ] G . S a l t o n , C . S . Y a n g , O n t h e S p e c i -
c a t i o n o f T e r m V a l u e s i n A u t o m a t i c I n d e x i n g ,
J . D o c u m e n t a t i o n , V o l . 2 9 , N o . 4 , 3 5 1 - 3 7 2 , 1 9 7 3 .
[ 3 ] S a l t o n , G . a n d M c G r i l l , M . J . , I n t r o d u c t i o n t o
M o d e r n I n f o r m a t i o n R e t r i e v a l , M c G r a w - H i l l , I n c ,
1 9 8 3 .
[ 4 ] C o h e n , J . H i g h l i g h t s : L a n g u a g e - a n d D o m a i n -
I n d e p e n d e n t A u t o m a t i c I n d e x i n g T e r m s f o r A b -
s t r a c t i n g . J . A m e r i c a n S o c i e t y f o r I n f o r m a t i o n
S c i e n c e , V o l . 4 6 , N o . 3 , 1 6 2 - 1 7 4 , 1 9 9 5 .
[ 5 ] S a l t o n , G . a n d B u c k l e y , C . , T e r m - W e i g h t i n g A p -
p r o a c h e s i n A u t o m a t i c T e x t R e t r i e v a l , I n f o r m a -
t i o n P r o c e s s i n g a n d M a n a g e m e n t V o l . 1 4 , N o . 5 ,
5 1 3 - 5 2 3 , 1 9 8 8 .
[ 6 ] Q u i n l a n , J . R . , C 4 . 5 : P r o g r a m s f o r M a c h i n e
L e a r n i n g , M o r g a n K a u f m a n n , 1 9 9 3 .
[ 7 ] A r m s t r o n g , R . , e t a l , W e b W a t c h e r : A L e a r n -
i n g A p p r e n t i c e f o r t h e W o r l d W i d e W e b , A A A I
S p r i n g S y m p o s i u m S e r i e s o n I n f o r m a t i o n G a t h -
e r i n g f r o m D i s t r i b u t e d , H e t e r o g e n e o u s E n v i r o n -
m e n t s , 1 9 9 5 .
[ 8 ] T z e r a s , K . a n d H a r t m a n n , S . : A u t o m a t i c I n d e x i n g
B a s e d o n B a y e s i a n I n f e r e n c e N e t w o r k s , P r o c . I n t ' l
A C M S I G I R C o n f . R e s e a r c h a n d D e v e l o p m e n t i n
I n f o r m a t i o n R e t r i e v a l , I n f e r e n c e N e t w o r k s , 2 2 -
3 4 , 1 9 9 3 .
[ 9 ] S w a m i n a t h a n , K . , T a u : A d o m a i n - i n d e p e n d e n t
a p p r o a c h t o i n f o r m a t i o n e x t r a c t i o n f r o m n a t u r a l
l a n g u a g e d o c u m e n t s . D A R P A w o r k s h o p o n d o c u -
m e n t m a n a g e m e n t , P a l o A l t o , 1 9 9 3 .
[ 1 0 ] C h e n , H , e t a l , A P a r a l l e l C o m p u t i n g A p p r o a c h
t o C r e a t i n g E n g i n e e r i n g C o n c e p t S p a c e s f o r S e -
m a n t i c R e t r i e v a l : T h e I l l i n o i s D i g i t a l L i b r a r y I n i -
t i a t i v e P r o j e c t , I E E E T r a n s . P a t t e r n A n a l y s i s
a n d M a c h i n e I n t e l l i g e n c e ( P A M I ) V o l . 1 8 , N o . 8 ,
7 7 1 - 7 8 2 , 1 9 9 6 .
[ 1 1 ] D u m a i s , S . T . , L a t e n t s e m a n t i c i n d e x i n g ( L S I )
a n d T R E C - 2 . P r o c . T e x t R e t r i e v a l C o n f e r e n c e
( T R E C - 2 ) , 1 0 5 - 1 1 5 , 1 9 9 4 .
[ 1 2 ] P o r t e r , M . F . , A n A l g o r i t h m f o r S u x s t r i p -
p i n g , A u t o m a t e d L i b r a r y a n d I n f o r m a t i o n S y s -
t e m s V o l . 1 4 , N o . 3 , 1 3 0 - 1 3 7 , 1 9 8 0 .
[ 1 3 ] M o r r i s , J . a n d H i r s t , G . , L e x i c a l c o h e s i o n c o m -
p u t e d b y t h e s a u r a l r e l a t i o n s a s a n i n d i c a t o r o f
t h e s t r u c t u r e o f t e x t , C o m p u t a t i o n a l L i n g u i s t i c s
V o l . 1 7 , N o . 1 , 2 1 - 4 8 , 1 9 9 1 .
[ 1 4 ] M a r t i , A . H e a r s t , M u l t i - p a r a g r a p h s e g m e n t a t i o n
o f e x p o s i t o r y t e x t , P r o c . A n n u a l M e e t i n g o f t h e
A s s o c . C o m p u t a t i o n a l L i n g u i s t i c s , 9 - 1 6 , 1 9 9 4 .
[ 1 5 ] T h e U s e o f T e r m P o s i t i o n D e v i c e s i n R a n k e d
O u t p u t E x p e r i m e n t s , J . D o c u m e n t a t i o n , V o l . 4 7 ,
N o . 1 , 1 - 2 2 , 1 9 9 1 .
[ 1 6 ] O h s a w a , Y . a n d I s h i z u k a , M . , N e t w o r k e d B u b b l e
P r o p a g a t i o n : A P o l y n o m i a l - t i m e P r e d i c a t e - l o g i c
H y p o t h e t i c a l R e a s o n i n g b y N e t w o r k e d B u b b l e
P r o p a g a t i o n M e t h o d , A d v a n c e s i n A r t i c i a l I n -
t e l l i g e n c e L N A I 1 0 8 1 , 3 7 5 - 3 8 7 , 1 9 9 6 .