3rd Nordic Conference of Computational Linguistics NODALIDA

Transkript

1 175 T o v e F j e l d v i g I n s t i t u t t for p r i v a t r e t t s a v d e l i n g f o r E D B - s p 0 r s m A l N i e l s d u e l s g a t e 16 - O s l o 2 U T V I K L I N G A V E N K L E M E T O D E R F O R T E K S T S Ø K I N G M E D S Ø K E A R G U M Z N T E R I N A T U R L I G S P R A K 1. I n n l e d n i n g D e t er s p e s i e l t 2 g r u n n e r til at d e t k a n v æ r e ø n s k e l i g m e d s p ø r s m å l i n a t u r l i g s p r å k i e t f u l l t e k s t s ø k e s y s t e m : a) S ø k e a r g u m e n t e r i n a t u r l i g s p r å k s t i l l e r i n g e n e l l e r få k r a v til f o r k u n n s k a p e r h o s b r u k e r e n, o g v i l d e r f o r g j ø r e d e t l e t t e r e for b å d e n y b e g y n n e r e og t i l f e l d i g e b r u k e r e å a n v e n d e s y s t e m e t. b) E n k e l t e s ø k e a r g u m e n t e r lar s eg b e s t f o r m u l e r e i n a t u r l i g språk. F.eks, a t en j u r i s t i e n g i t t sak b i i r p r e s e n t e r t for en d o m og ø n s k e r å k o n t r o l l e r e h v o r v i d t d e t f i n n e s a n d r e d o m m e r s o m a n g å r s a m m e s p ø r s mål. I et s l i k t t i l f e l l e v il s ø k e a r g u m e n t e t k u n n e b e s t å a v f.eks, et s a m m e n d r a g av d o m m e n k o m b i n e r t m e d m e d " FINN D O K U M E N T E R S O M LIGNER". N å vil i m i d l e r t i d en u e r f a r e n b r u k e r o g s å k u n n e a n v e n d e d a g e n s t e k s t s ø k e s y s t e m e r u t e n all for m y e v e i l e d n i n g, m e n da k u n på d e t h e l t e n k l e s t e nivå. F o r å k u n n e a n v e n d e s y s t e m e t e f f e k t i v t og o p p n å g o d e r e s u l t a t e r, k r e v e s lang e r f a r i n g og g o d t k j e n n s k a p til h v o r d a n m a n k a n u t n y t t e s y s t e m e t s f i n e s s e r. De s i s t e å r e n e h a r d e t v æ r t e n ø k e n d e i n t e r e s s e f or søkes y s t e m e r m e d m u l i g h e t e n for s p ø r s m å l f o r m u l e r t i n a t u r l i g språk. F o r s k n i n g e n h a r p r i m æ r t v æ r t r e t t e t m o t s å k a l t e " s p ø r s m å l - svar" - s y s t e m e r h v o r m a n s ø k e r e t t e r et k o n k r e t s v a r p å et p r o b l e m - og ikke s e k u n d æ r t i n f o r m a s j o n i f o r m av d o k u m e n t e r. I m i n d r e g r a d har f o r s k n i n g e n v æ r t r e t t e t m o t d o k u m e n t - g j e n f i n n i n g s s y s t e m e r. Vi k j e n n e r til b a r e n o e n få e k s e m p l e r på d e t t e o m r å d e t (som p r o s j e k t e n e C O N D O R ( t y s k ), S Y S T E X ( f r a n s k ), P O L Y T E X T (svensk) og R E S P O N S A (israelsk). Vi fant det i n t e r e s s a n t å se n æ r m e r e p å m u l i g h e t e n for s p ø r s m å l i n a t u r l i g s p r å k i d o k u m e n t g j e n f i n n i n g s s y s t e m e r, o g s p e s i e l t r e t t e t o p p m e r k s o m h e t e n m o t m u l i g h e t e n for en s l i k s t r a t e g i s o m et a l t e r n a t i v til e k s i s t e r e n d e s ø i c e s t r a t e g i e r. Vi v a l g t e d e r f o r å k o n s e n t r e r e a r b e i d e t o m e n k l e o g l i t e r e s s u r s k r e v e n d e m e t o d e r og l e g g e v e k t e n på b r u k e r k r a v s o m r e s p o n s t i d, b r u k a v l a g r i n g s p l a s s og - ikke m i n s t - e f f e k t i v o p p d a t e r i n g a v " d a t a b a sen". 175

2 176 P r o s j e k t e t b l e i n i t i e r t i b e g y n n e l s e n a v 1979 o g e r p l a n l a g t a v s l u t t e t v e d u t g a n g e n av d e t t e året. A r b e i d e t b l i r ledet og g j e n n o m f ø r t a v u n d e r t e g n e d e, og p r o s j e k t e t m o t t a r ø k o n o m i s k s t ø t t e fra N o r g e s T e k n i s k - N a t u r v i t e n s k a p l i g e F o r s k n i n g s r å d. 2. G j e n n o m f ø r i n g P r o s j e k t e t h a r v æ r t g j e n n o m f ø r t s o m e n s e r i e m e d k o n t r o l l e r t e f o r s ø k i t e k s t s ø k i n g EX kontrollert forsøk i tekststfcing går ut på at man for en gitt dokumentsamling definerer et sett med spørsmål som er aktuelle for samlingen. Por hvert spørsmål går man gjenncm alle dokumentene i hele samlingen og merker av de dokumenter son er relevant i forhold til spørsmålet (fasiten). Spørsmålene og fasiten defineres av de sanine personer, og vi har lagt stor vekt på at vedkcmnende har godt k j e n n s k ^ til dokumentsamlingen og dens fagområde. Spørsmålene danner grunnlaget for den ma^inelle søkingen, og søkeresultatet blir samnenlignet med fasiten. Dette gir oss ituligheten til å måle hvor mange av de relevante dokumenter son er funnet ved den maskinelle søkingen (recall), og hvor mange av de funne dokumenter som er relevante (presisjon). K o n t r o l l e r t e f o r s ø k g j ø r d e t m u l i g t il e n h v e r t id å få f e e d b a c k - i n f o r m a s j o n o m e f f e k t e n a v e n d r i n g e r i d e v a l g t e m e t o d e r. D e t t e b i d r a r t il at v i k a n s t y r e f o r s k n i n g e n i det v i t r o r e r e n r i k t i g retning. F o r å få s p r e d n i n g i d o k u m e n t m a t e r i a l e t, h a r a l l e f o r s ø k v æ r t g j e n n o m f ø r t p å 3 u l l k e d o k u m e n t s a m l i n g e r : a) 350 u t t a l e l s e r fra S k a t t e d i r e k t ø r e n, ca termer, b) 1020 s a m m e n d r a g a v l a g m a n n s r e t t s a v g j ø r e l s e r i f a m i l i e s k i f t e - o g a r v e r e t t, ca termer, c) 1270 t i n g l y s n i n g s a v g j ø r e l s e r, ca termer. T i l h v e r d o k u m e n t s a m l i n g e r d e t k n y t t e t ca. 30 s p ø r s m å l m e d r e f e r a n s e r til r e l e v a n t e d o k u m e n t e r. S p ø r s m å l e n e er d e f i n e r t a v j u r i s t e r m e d s o l i d f o r a n k r i n g i n n e n f o r d o k u m e n t s a m l i n g e n s r e t t s o m r å d e. R e f e r a n s e n e til d e r e l e v a n t e d o k u m e n t e r er s t i l t o p p p å g r u n n l a g a v e n m a n u e l l g j e n n o m l e s i n g a v a l l e d o k u m e n t e r i h e l e s a m l i n g e n. 3. P r o b l e m b e s k r i v e l s e D e t i d e e l l e r e s u l t a t i et t e k s t s ø k e s y s t e m ( d o k u m e n t g j e n - f i n n i n g s s y s t e m ) e r å n å f r a m til a l l e og b a r e d o k u m e n t e r s o m e r r e l e v a n t i f o r h o l d til b r u k e r e n s p r o b l e m s t i l l i n g. A k o n s t r u e r e et s y s t e m s o m til e n h v e r t i d o p p n å r et s l i k t r e s ultat, er i k k e m u l i g. F o r d e t f ø r s t e fordi o r d e n e i seg selv - e l l e r s p r å k e t - ikke e r e n t y d i g, og for det a n d r e f o r d i to f o r s k j e l l i g e b r u k e r e o f t e k a n h a u l i k f o r s t å e l s e a v s p ø r s m å l e t ( s ø k e a r g u m e n t e t ). 176

3 177 I d e t r a d i s j o n e l l e t e k s t s ø k e s y s t e m e r, s o m f.eks. STAIRS, IMDOC, L E X I S o g N O V A * S T A T U S, v e l g e r m a n b e v i s s t s ø k e t e r m e r s om r e p r e s e n t e r e r i d é e n e i p r o b l e m s t i l l i n g e n, o g s o m m a n f o r v e n t e r å f i n n e i de r e l e v a n t e d o k u m e n t e r. D e t t e v i l ikke være t i l f e l l e t 1 et s y s t e m b a s e r t p å s p ø r s m å l i n a t u r l i g språk. B r u k e r e n v i l h e r v e l g e o r d o g f o r m u l e r i n g e r m e d s i k t e p å å b l i f o r s t å t t a v e t a n n e t m e n n e s k e. M a n s t å r m e d a n d r e o r d o v e n f o r u l i k e s i t u a s j o n e r i de to t i l f e l l e n e, o g d e t t e e r e n av å r s a k e n e til at j e g t r o r at d e t e r v a n s k e l i g - o m ikke u m u l i g - å u t v i k l e et s y s t e m b a s e r t p å s p ø r s m å l i n a t u r l i g s p r å k s o m g i r like g o d e s ø k e r e s u l t a t e r s o m et s y s t e m a v d e n f ø r s t e typen. A v r e s s u r s m e s s i g e h e n s y n v a l g t e vi å k o n s e n t r e r e a r b e i d e t r u n d t s e l v e s p ø r s m å l e t o g i så l i t e n g r a d s o m m u l i g ta i b r u k i n f o r m a s j o n s o m k r e v e r n æ r m e r e a n a l y s e a v d o k u m e n t m a t e r i a l e t. F i g u r 1 p å n e s t e side g ir et b i l d e av h v o r d a n vi f o r e s t i l t e o s s s ø k e s t r a t e g i e n, o g p å d e n n e b a k g r u n n b l e p r o s j e k t a r b e i d e t s p l i t t e t i f ø l g e n d e h o v e d d e l e r : a) I d e n t i f i s e r i n g av s ø k e t e r m e r o g f r a s e r 1 s p ø r s m å l e t, b) U t v i d e l s e av s ø k e a r g u m e n t e t m e d s y n o n y m e r, c) V a l g av r e g l e r f or u t v e l g i n g o g r a n g e r i n g a v d o k u m e n t e r, d) I h v i l k e n g r a d t i l b a k e f ø r i n g av i n f o r m a s j o n t il b r u k e r e n ( f e e d b a c k - i n f o r m a s j o n ) k a n b i d r a t il å ø ke s ø k e e f f e k t i v i t e t e n t i l s y s t emet. F r a m til i d a g h a r o p p m e r k s o m h e t e n v æ r t f e s t e t t i l de 3 f ø r s t e p u n k t e n e. I d e t t e n o t a t e t v i l j e g k o n s e n t r e r e m e g o m a r b e i d e t u n d e r p u n k t a) o g b ). 4. I d e n t i f i s e r i n g av s ø k e t e r m e r og f r a s e r i s p ø r s m å l e t En s ø k e t e r m skal h a d e n e g e n s k a p e n at d e n k a n b i d r a t i l å skille r e l e v a n t e d o k u m e n t e r fra i r r e l e v a n t e. B e t r a k t e r m a n et s p ø r s m å l i n a t u r l i g språk, v i l m a n f i n n e at d e t e r s v æ r t få o r d som e g e n t l i g h a r d e n n e e g e n s k a p e n. De f l e s t e o r d e n e v i l - b e t r a k t e t i s o l e r t f r a k o n t e k s t e n - v æ r e lite k a r a k t e r i s t i s k e for s e l v m e n i n g s i n n h o l d e t i s p ø r s m å l e t, m e n de v i l h a e n v i k t i g f u n k s j o n i k o m m u n i k a s j o n m e d e t m e n n e s k e. L a o s s f.eks, b e t r a k t e s p ø r s m å l e t : " F I N N E S D E T N O E N D O K U M E N T E R O M N O R S K E T E K S T S Ø K E S Y S T E M E R? " H er v i l k un o r d e n e N O R S K E o g T E K S T S Ø K E S Y S T E M E R h a b e t y d n i n g for s ø k e p r o s e s s e n, m e n s de ø v r i g e o r d e n e v i l b a r e s k a p e s t ø y 1 s ø k e p r o s e s s e n. De h a r d e r f o r fått b e t e g n e l s e n s t ø y o r d. E n s ø k i n g k an o g s å b a s e r e s p å b e s t e m t e o r d k o m b i n a s j o n e r som f.eks, e t navn, et u t t r y k k e l l e r e n h e n v i s n i n g. F o r å k u n n e i d e n t i f i s e r e d e n n e type o r d s t r e n g e r 1 s p ø r s m å l e t - e l l e r f r a s e r s o m v i h ar v a l g t å k a l l e d e m i m a n g e l p å et b e d r e u t t r y k k - k r e v e r d e t e n t e n k j e n n s k a p t i l d i s s e p å f o r h å n d e l l e r e n n æ r m e r e a n a l y s e av s p ø r s m å l e t. 177

4 178

5 179 V i h a r f o r e l ø b i g v a l g t å b e g r e n s e a r b e i d e t t il de e n k e l t e t e r m e r i s p ø r s m å l e t o g ikke ta h e n s y n til h v i l k e r e l a s j o n e r s o m f o r e l i g g e r m e l l o m dem. Et u n n t a k er g j o r t n å r d e t g j e l d e r tall, m e n d e t t e v i l jeg k o m m e t i l b a k e til n e d e n f o r. I s t e d e n for å f o r s ø k e å i d e n t i f i s e r e s ø k e t e r m e n e d i r e k t e, v a l g t e vi å g å d e n m o t s a t t e v e i å b e t r a k t e t e n n e r s o m ikke er e g n e t s o m s ø k e t e r m e r - dvs. støyord. M a n u e l t _ f o r s ø k F o r å få e n n æ r m e r e i n n s i k t i h v a s o m k a r a k t e r i s e r e r s t ø y o r d o g o m f a n g e t a v dem, b l e d e t g j e n n o m f ø r t et m a n u e l t f o r s ø k i å i d e n t i f i s e r e dem. T o p e r s o n e r f i k k i o p p d r a g h v e r for s eg å g å g j e n n o m a l l e u l i k e t e r m e r i h e l e d o k u m e n t s a m l i n g e n og m e r k e a v de t e r m e r s o m i k k e v a r e g n e t s o m s ø k e t e r m e r. B e g g e h a d d e l a n g e r f a r i n g m e d t e k s t s ø k e s y s t e m e r o g k j e n t e g o d t t il b å d e p r o s j e k t e t og d e n a k t u e l l e d o k u m e n t s a m l i n g. F o r s ø k e t v a r i n t e r e s s a n t p å m a n g e m å t e r. F o r d e t f ø r s t e v i s t e en s a m m e n l i g n i n g a v r e s u l t a t e n e f ra d e to, at k n a p t h a l v p a r t e n av de u t v a l g t e t e r m e n e v a r felles. I f ø l g e s e n e r e s a m a r b e i d k o m d e t f r a m at d e t t e i l i t e n g r a d s k y l d e s u e n i g h e t, m e n i s t ø r r e g r a d u n ø y a k t i g h e t e r o g m a n g e l p å f a n t a s i. D e h a d d e o f t e o v e r s e t t t e r m e r s o m h e l t o p p l a g t v a r s t ø y o r d e l l e r g l e m t å få m e d a l l e g r a m m a t i k a l s k e v a r i a n t e r a v o r d e n e. S i d e n f o r s ø k e t v a r b a s e r t på en s k j ø n n s m e s s i g v u r d e r i n g a v d e t e n k e l t e ord, m å t t e m a n o f t e f o r e s t i l l e s eg a k t u e l l e p r o b l e m s t i l l i n g e r før m a n k u n n e ta s t i l l i n g til o r d e t. M a n g e l p å f a n t a s i v a r d e r f o r e n a v å r s a k e n e til d e n n e u o v e r e n s s t e m m e l s e n. R e s u l t a t e t v i s t e b a r e h v o r v a n s k e l i g d e n n e t y p e a r b e i d er - s e l v i n n e n f o r en n o k s å h o m o g e n d o k u m e n t s a m l i n g. E n t e r m k a n g j e r n e v æ r e r e l e v a n t i f o r h o l d til e n p r o b l e m s t i l l i n g, m e n t o t a l t u t e n i n t e r e s s e f or en annen. F o r d e t a n d r e v i s t e f o r s ø k e t at e n m a n u e l l u t v e l g e l s e a v s t ø y o r d på d e n n e m å t e n er s v æ r t t i d k r e v e n d e - s e l v f or s m å d o k u m e n t s a m l i n g e r. D e t v a r f a k t i s k n ø d v e n d i g å g å g j e n n o m h e l e o r d l i s t e n o p p til f l e r e g a n g e r før d e n e n d e l i g e s t ø y o r d l i s t e n forelå. E k s p e r i m e n t e t b l e g j e n n o m f ø r t f or 2 u l i k e d o k u m e n t s a m l i n g e r m e d h e n h o l d s v i s ca o g 9000 u l i k e t e r m e r. B e g g e f o r s ø k e n e ga d e s a m m e e r f a r i n g e r. S t g y o r d _ i _ r e l a s j o n _ t i l _ o r d k l a s s e r R e s u l t a t e n e a v d et m a n u e l l e f o r s ø k e t f ø r t e til at d e t b l e r e t t e t e n d a s t ø r r e o p p m e r k s o m h e t e n o m u t v i k l i n g e n a v m a s k i n e l l e m e t o d e r for i d e n t i f i s e r i n g av støyord. D e t s y n e s å v æ r e k l a r t at h y p p i g h e t e n (frekvensen) til en t e r m og a n t a l l d o k u m e n t e r t e r m e n f o r e k o m m e r i ( s p r e d n i n g e n ), er av s t o r b e t y d n i n g for h v o r v i d t t e r m e n er e g n e t s o m s ø k e t e r m e l l e r ikke. F o r e k o m m e r en t e r m f.eks, i alle d o k u m e n t e n e, er d et k l a r t a t d e n v il m a n g l e e v n e n til å s k i l l e r e l e v a n t e d o k u m e n t e r fra i r r e l e v a n t e. 179

6 180 O v e r s i k t e n o v e r s t ø y o r d p e k t e o g s å på i n t e r e s s a n t e sananenh e n g e r m e l l o m o r d k l a s s e r og s t ø y o r d. J e g s k a l n e d e n f o r se litt n æ r m e r e p å disse. De m e s t t y p i s k e s t ø y o r d f i n n e r vi b l a n t o r d s o m p r e p o s i s j o n e r, p r o n o m e n, k o n j u n k s j o n e r, i n t e r j e k s j o n e r o g a r t i k l e r. D e t t e er a l l e o r d s o m f o r e k o m m e r s v æ r t h y p p i g o g s o m i s eg s e l v e r lite m e n i n g s b æ r e n d e. F o r d e l e n m e d d i s s e o r d e n e er at d e f o r e k o m m e r i et b e g r e n s e t a n t a l l o g k a n d e r f o r l e t t d e f i n e r e s é n g a n g for a l l e. P å lik l i n j e m e d d i s s e o r d e n e f i n n e r vi o g s å e n r e k k e a d v e r b s o m SA, OFTE, DA, NAR, N E T T O P P, GANSKE, V I S S T OSV. D e t t e er en l a n g t s t ø r r e o r d g r u p p e o g s o m v a n s k e l i g lar seg g j e n k j e n n e u t e n en g j e n n o m l e s i n g a v a l l e o r d e n e i h e l e s a m l i n g e n. L i t t h j e l p v i l m a n i m i d l e r t i d o g s å k u n n e h a a v e n f r e k v e n s o r d l i s t e E n a n n e n t y p e a d v e r b er d e s o m s t å r d i r e k t e k n y t t e t til v e r b e t og f o r t e l l e r n o e o m h v o r d a n t i n g skjer. P å s a m m e m å t e v i l a d j e k t i v s t å d i r e k t e k n y t t e t til s u b s t a n t i v e t o g f o r t e l l e r n o e o m h v i l k e e g e n s k a p e r d e t har. F e l l e s for d i s s e o r d e n e er at d e k a n b i d r a til å k a r a k t e r i s e r e e n p r o b l e m s t i l l i n g h v i s de b e t r a k t e s i s a m m e n h e n g m e d d e o r d e n e s o m d e s t å r k n y t t e t til, m e n v i l d e e g n e s eg s o m s ø k e t e r m e r a l e n e? F o r s ø k s r e s u l t a t e n e v i s t e I m i d l e r t i d at de s p i l t e e n p o s i t i v r o l l e i s ø k e p r o s e s s e n. De b i d r o g t il at s ø k e o r d f r e k v e n s e n i de r e l e v a n t e d o k u m e n t e r ø k t e m e r e n n i d e i r r e l e v a n t e. D e r m e d b le d e t l e t t e r e å s k i l l e ut d e r e l e v a n t e d o k u m e n t e r. På d e n a n n e n s i d e b i d r o g d e o g s å til at f l e r e I r r e l e v a n t e d o k u m e n t e r b le funnet, m e n d e n n e u l e m p e n k a n m a n til d e l s u n n g å v e d å se b o r t f ra d o k u m e n t e r s o m e r f u n n e t b a r e p å g r u n n l a g av a d j e k t i v e l l e r adverb. A d j e k t i v e n e v il i m a n g e t i l f e l l e r k u n n e la s eg i d e n t i f i s e r e a u t o m a t i s k e n t e n ut f ra s æ r e g n e s u f f i k s e r e l l e r p å g r u n n l a g av d e r e s p o s i s j o n m e l l o m en artikl.el og e t s u b s t a n t i v ( f o r u t s a t t at d i s s e e r k j e n t ). D e n f ø r s t e m e t o d e n er b l i t t t e s t e t i p r o s j e k t e t. En i n t e r e s s a n t t y p e f r a s e r e r de s o m i n n e h o l d e r t a l l e l l e r t a l l ord. P r o b l e m e t m e d tall s o m s ø k e t e r m e r, e r at de f o r e k o m m e r s v æ r t h y p p i g o g i en r e k k e u l i k e s a m m e n h e n g e r - ikke a l l e like i n t e r e s s a n t f or t e k s t s ø k i n g. F.eks, v e d s ø k i n g i et j u r i d i s k d o k u m e n t m a t e r i a l e v il tall s p i l l e e n s e n t r a l r o l l e s o m d e l av e n l o v h e n v i s n i n g e l l e r dato, m e n m i n d r e i n t e r e s s a n t s o m p u n k t - b e n e v n e l s e. S i d e n vi i d e t t e p r o s j e k t e t ikke h ar p l a n e r o m å se n æ r m e r e p å m u l i g h e t e n for å søke i n n e n et g i t t i n t e r v a l l (f.eks, at a n t a l l a r v i n g e r i et a r v e o p p g j ø r skal v æ r e m i n d r e e n n 3), er d e t o g s å m i n d r e i n t e r e s s a n t å b e t r a k t e tall s o m s p e s i f i k a s j o n a v et k v a n t u m. V i v a l g t e å k o nsentrere a r b e i d e t o m t i l f e l l e r h v o r t a l l e t f o r e k o m m e r s o m en d el a v i d e n t i f i k a s j o n e n til e n frase, f.eks. " S I D E 9", " P A R A G R A F 4" e l l e r "ARET 1918". D e t er i n t e r e s s a n t å m e r k e seg at o g s å o r d e n e i d e n n e t y p e f r a s e r (som SIDE, P A R A G R A F og ARET) f o r e k o m m e r så h y p p i g, at de i e n k e l t e t i l f e l l e r k a n ha en n e g a t i v e f f e k t på s ø k e r e s u l t a t e n e h v i s de b e h a n d l e s s o m i n d i v i d u e l l e s ø k e t e r m e r. 180

7 l e i I e t t av v å r e f o r s ø k m e d t a l l - f r a s e r v i s t e d e t s eg at b a r e v e d å k n y t t e o r d e t PARAGiy^F til p a r a g r a f n u m m e r e t, fikk vi r e d u s e r t a n t a l l f u n n e i r r e l e v a n t e d o k u m e n t e r m e d 14% u t e n å m i s t e n o e n av d e r e l e v a n t e. I a r b e i d e t m e d å u t v i k l e en m e t o d e for a u t o m a t i s k g j e n k j e n n i n g a v d e n n e t y p e t a l l - f r a s e r, k j ø r t e vi u t e n o v e r s i k t o v e r alle t a l l f o r e k o m s t e r i h e l e d o k u m e n t m a t e r i a l e t. I f ø l g e d e n n e o v e r s i k t e n forekom tall i ca. 90% av t i l f e l l e n e e n t e n r e t t f o r a n e l l e r r e t t b a k o r d e t (eller ordene) s o m d e t v a r t i l k n y t t e t. Så v i b o r t fra a l l e o r d s o m f o r e k o m s a m m e n m e d t a l l 4 g a n g e r e l l e r m i n d r e, s to vi i g j e n m e d e n liten g r u p p e o r d a v t y p e n AR, P A R A G R A F, L E D D, P R O S E N T, J A N U A R etc. D e t t e er a l l e o r d s om b e t r a k t e t i s o l e r t sett - i a l l e f a l l i v å r t d a t a m a t e r i a l e - er t y p i s k e s t ø y o r d, m e n s o m i s a m m e n h e n g m e d et t a l l v i l k u n n e u t g j ø r e en v i k t i g del a v s ø k e a r g u m e n t e t. F o r s ø k e t v i s t e m e d a n d r e o r d at d e t v a r m u l i g å g j e n k j e n n e a u t o m a t i s k d e m e s t v a n l i g e t a l l - f r a s e r av d e n n e t y p e m e d e n k l e m e t o d e r. De f l e s t e s ø k e t e r m e r f i n n e r vi b l a n t s u b s t a n t i v og i l a n g t m i n d r e g r a d b l a n t verb. D e t t e h e n g e r k a n s k j e s a m m e n m e d at s u b s t a n t i v o f t e b e s k r i v e r t i n g o g idéer, m e n s v e r b s i e r noe o m h a n d l i n g e n. Blant verbene finner man i første rekke hjelpeverb og uselvstendige verb som typiske støyord. Også verb som ANSE, UTTALE, A NTA, N E V N E etc. e r å b e t r a k t e s o m s t ø y o r d d a d e sier i n g e n t i n g o m h v a s o m o m t a l e s, m e n p å h v i l k e n m å t e d e t o m t a l e s. Disse verbene vil i de fleste tilfeller forekomme såpass ofte, at de lett lar seg skille ut i en spredning- eller frekvensordliste. E n k e l t e a n d r e v e r b v i l h a like s t o r e v n e t il å k a r a k t e r i s e r e i d é e r s o m et s u b s t a n t i v. D e t t e e r o r d s o m o f t e e r a v l e d e t a v et s u b s t a n t i v, o g s o m f o r e k o m m e r i et l a n g t m e r b e g r e n s e t o m f a n g e n n d e øvrige. S u b s t a n t i v e n e v il n e s t e n a l l t i d ha e v n e n til å k a r a k t e r i s e r e t i n g e l l e r idéer, o g de er d e r f o r g o d t e g n e t s o m s ø k e t e r m e r. I s v æ r t h o m o g e n e d o k u m e n t s a m l i n g e r h e n d e r d e t i m i d l e r t i d at m a n står o v e n f o r s u b s t a n t i v s o m e r så t y p i s k e f or t e m a e t s om b e h a n d l e s, at d e ikke l e n g e r k a n b i d r a til å s k i l l e r e l e v a n t e d o k u m e n t e r fra i r r e l e v a n t e. E k s e m p e l på d e n n e t y p e s u b s t a n t i v er B A R N og F A R S K A P i e n s a m l i n g m e d b a r e f a r s k a p s s a k e r, og S K A T T i en s a m l i n g m e d b a r e s k a t t e a v g j ø r e l s e r. D i s s e o r d e n e lar s eg lett s k i l l e ut i en f r e k v e n s o r d l i s t e, m e n m a n skal ikke a l l t i d s t o l e h e l t p å f r e k v e n s e n e l l e r s p r e d n i n g e n i b e d ø m m e l s e n o m en t e r m e r e g n e t s o m s ø k e t e r m e l l e r ikke. F. e k s, i en s a m l i n g m e d f a m i l i e r e t t s a v g j ø r e l s e r, h v o r f a r s k a p s s a k e r k a n s k j e u t g j ø r 80-90%, v i l o r d s o m B A R N o g F A R S K A P s p i l l e e n s e n t r a l r o l l e i k a r a k t e r i s t i k k e n av et f a r s k a p s p r o b l e m. De v il k u n n e b i d r a til å a v g r e n s e s ø k i n g e n til n e t t o p p d e n n e d e l e n av basen, og av d e n g r u n n h e l l e r b li t i l d e l t s t ø r r e v e k t e n n de ø v r i g e s ø k e t e r m e r. De fleste verb og substantiv vil kunne gjenkjennes på grunnlag av særegne suffikser. Dette er også forsøkt implemenert i vårt forsøkssystem, og resultatet vil vi komme tilbake til n e d e n f o r. 181

8 182 S t u d i e t a v s t ø y o r d i r e l a s j o n t il o r d k l a s s e r h a r p e k t p å e n k e l t e s a m m e n h e n g e r s o m k a n v æ r e n y t t i g v e d a u t o m a t i s k i d e n t i f i s e r i n g a v støyord. N å er i m i d l e r t i d d i s s e s a m m e n h e n g e n e ikke like e n t y d i g f o r alle o r d k l a s s e r, o g a v d e n g r u n n h a r v i f o r e l ø b i g v a l g t å ikke l e g g e for stor v e k t p å o r d k l a s s e r v e d g e n e r e r i n g a v s t ø y o r d l i s t e r. I n f o r m a s j o n o m h v i l k e n o r d k l a s s e e t o r d t i l h ø r e r, v i l i m a n g e t i l f e l l e r k u n n e b e s t e m m e s ut f r a s u f f i k s e n t i l o r det. V i g j e n n o m f ø r t e e t forsøk, h v o r v i u t fra e n l i s t e m e d p r e p o s i s j o n e r, k o n j u n k s j o n e r, i n t e r j e k s j o n e r etc. (jfr. o v e n for) o g de m e s t k a r a k t e r i s t i s k e s u f f i k s e r for h v e r o r d k l a s s e, f o r s ø k t e å b e s t e m m e a u t o m a t i s k o r d k l a s s e n til o r d e n e. R e s u l t a t e t v i s t e e n p r e s i s j o n p å ca. 90%. M a s k i n e l l m e t o d e f o r i d e n t i f i s e r i n g a v s t ø y o r d V e d u t v i k l i n g a v e n m a s k i n e l l m e t o d e for I d e n t i f i s e r i n g av s t ø y o r d t o k v i p r i m æ r t u t g a n g s p u n k t i f r e k v e n s e n o g s p r e d n i n g e n, o g b a r e 1 e n k e l t e t i l f e l l e r o r d k l a s s e n. D e t f a l t seg n a t u r l i g å b e t r a k t e d e s k r i p t o r e r - o g ikke d e t e n k e l t e o r d - d a o r d e n e s f o r m (bøyning) e r u t e n i n t e r e s s e i d e n n e s a m m e n h e n g. M e d e n d e s k r i p t o r m e n e r v i h e r e n g r u p p e a v o r d s o m a l l e er a v l e d e t a v s a m m e g r u n n f o r m. E n d e s k r i p t o r k a n d e r f o r g j e r n e o m f a t t e b å d e s u b s t a n t i v, verb, a d j e k t i v etc. - f.eks, d e s k r i p t o r e n "ARV, A R V E N, A R V E N E, A R V E, A R V E R, A R V E N E, A R V I N G ". G r u p p e r i n g e n a v d e s k r i p t o r e r f o r e g i k k m a s k i n e l t, o g r e s u l t a t e t v i l j e g k o m m e t i l b a k e t i l u n d e r a v s n i t t 5. D e s k r i p t o r e n e b l e t i l d e l t e n v e k t s o m v a r b e r e g n e t p å g r u n n l a g av d e s k r i p t o r e n s f r e k v e n s o g s p r e d n i n g i d o k u m e n t s a m l i n g e n. V e k t e n b l e b e r e g n e t u t fra f ø l g e n d e s p r e d n i n g s m å l (jfr. R o s e n g r e n 1970) : n: a n t a l l d o k u m e n t e r Xj." f r e k v e n s e n t il d e s k r i p t o r e n i d o k u m e n t 1 o g ø k e r m e d d e s k r i p t o r e n s h y p p i g h e t o g a n t a l l d o k u m e n t e r d e n f o r e k o m m e r i. V i f o r s ø k t e o g s å å k o r r i g e r e d e s k r i p t o r e n s f r e k v e n s i et d o k u m e n t (xi) m e d l e n g d e n p å d o k u m e n t e t, m e n d e t t e h a d d e l i t e n i n n v i r k n i n g p å r e s u l t a t e t i v å r t t i l f e l l e. V e k t e n e b le a n v e n d t t il å r a n g e r e d e s k r i p t o r e n e, s l i k a t de m e d h ø y s t v e k t k o m ø v e r s t p å listen. D e n n e l i s t e n v i s t e seg p å m a n g e m å t e r å gi e t g o d t u t g a n g s p u n k t f or g j e n k j e n n i n g av s t ø y o r d - o g l a n g t b e d r e e n n f.eks, e n r a n g e r i n g b a s e r t på f r e k v e n s e n alene. 182

9 183 F o r d e t f ø r s t e ga d e n e n g a n s k e b r a r a n g e r i n g a v d e s k r i p t o r e n e i f o r h o l d til h v o r g o d t de var e g n e t s o m s ø k e o r d. I f i g u r 3 h a r vi g j e n g i t t d e l e r f ra en s l i k l i s t e b a s e r t p å s a m l i n g e n a v t i n g l y s n i n g s a v g j ø r e l s e r. Ø v e r s t p å l i s t e n f i n n e r v i d e m e s t t y p i s k e s t ø y o r d s o m p r e p o s i s j o n e r, k o n j u n k s j o n e r, h j e l p e v e r b, p r o n o m e n etc. L e n g e r n e d e f r a m k o m m e r tall, v a n l i g e v e r b og s u b s t a n t i v s o m er s v æ r t k a r a k t e r i s t i s k e f or t e m a e t i d o k u m e n t s a m l i n g e n. B e v e g e r vi o s s l a n g t nok ned, k o m m e r v i t il de m e r k a r a k t e r i s t i s k e ord. F o r d e t a n d r e f i k k v i en m e g e t g u n s t i g f o r d e l i n g a v v e r d i e n p å v e k t e n e m e d t a n k e p å å k u n n e a u t o m a t i s k g j e n k j e n n e h v o r g r e n s e n g å r m e l l o m s t ø y o r d og o r d s o m e r b e d r e e g n e t s o m søkeord. D e t v i s t e seg n e m l i g at d e t v a r e n r e l a t i v t l i t e n g r u p p e m e d d e s k r i p t o r e r s o m o p p n å d d e n h ø y vekt, m e n s d e f l e s t e a n d r e f i k k e n l i t e n vekt. F.eks, for en a v d o k u m e n t s a m l i n g e n e u t g j o r d e d e 200 d e s k r i p t o r e r ø v e r s t p å l i s t e n h e l e 98% a v d e n t o t a l e s u m m e n av a l l e v e k t e n e (totalt ca d e s k r i p t o r e r ). M å l t i f r e k v e n s, u t g j o r d e d i s s e b a r e 73% a v d e t t o t a l e a n t a l l t e r m e r i h e l e d o k u m e n t s a m l i n g e n. D e t t e k o m m e r o g s å t il u t t r y k k i f i g u r e n n e d e n f o r, h v o r d e t n æ r m e s t er en k n e k k p å k u r v e n v e d o v e r g a n g e n fra d e h y p p i g e d e s k r i p t o r e r t i l d e m e r s k j e l d e n e. F i g u r e n v i s e r a n t a l l d e s k r i p t o r e r i r e l a s j o n t il d e n k u m u l e r t e r e l a t i v e v e k t e n (avt. f r e k v e n s e n ). F i g u r 2 K u m u l e r t r e l a t i v v e k t (frekvens) 183

10 184 F i g u r 3 1. I 2. VÆRE, VAR, ER 3. A V 4. A T 5. til 6. O G 7. PRG, P R G ' S,.. 0. S O M L i s t e o v e r d e s k r i p t o r e r s o r t e r t p å ifekten (K) (basert p å e n s a m l i n g m e d t i n g l y s n i n g s a v g j ø r e l s e r ) V E K T T I N G L Y S E, T I N G L Y S I N G, 1 5. PA 16. BLI, BLIR, E I E N D O M, E I E N D O M M E R, GI, GIR, A N T A, A N T A R, 44.. S I D E B E S T E M M E L S E, T A 74. BURDE, 75. GJØRE, 131. K R E V E 199. B O S E T T E, B E T A L E,

11 185 D et b l e g j e n n o m f ø r t f o r s ø k m e d a l t e r n a t i v e s t ø y o r d l i s t e r s o m o m f a t t e t e t u l i k t a n t a l l d e s k r i p t o r e r f r a t o p p e n a v l i s t e n - f.eks, é n s t ø y o r d l i s t e k u n n e o m f a t t e d e 80 ø v e r s t e d e s k r i p - t o r e n e o g é n a n n e n 100. D e t b e s t e r e s u l t a t e t b l e o p p n å d d v e d å s e t t e g r e n s e n a k k u r a t i d e t o m r å d e t h v o r k u r v e n k n e k k e r, jfr. f i g u r 2. D e s k r i p t o r e n e v i d a f i k k m e d u t g j o r d e ca. 68% a v d e t t o t a l e a n t a l l t e r m e r i h e l e d o k u m e n t s a m l i n g e n, og s u m m e n a v v e k t e n e v i s t e ca. 97% a v d e n t o t a l e s um f or alle v e k t e n e. D i s s e p r o s e n t a n d e l e n e v a r o m t r e n t de s a m m e for alle v å r e 3 d o k u m e n t s a m l i n g e r (jfr. a v s n i t t 2). V e d å e l i m i n e r e t a l l o g d e s k r i p t o r e r s o m b a r e o m f a t t e t s u b s t a n t i v, s t o vi i g j e n m e d e n n o k s å t i l f r e d s t i l l e n d e s t ø y o r d l i s t e. I t i l l e g g s u p p l e r t e v i d e n m e d u t e l a t t e p r e p o s i s j o n e r, k o n j u n k s j o n e r o g p r o n o m e n. O g s å u t e l a t t e adverb, s o m l o t se g g j e n k j e n n e p å g r u n n l a g a v s u f f i k s e n, b l e lagt t il listen. Hele p r o s e s s e n m e d å få i d e n t i f i s e r t s t ø y o r d f o r e g i k k m a s k i n e l t, og d e t e n d e l i g e r e s u l t a t e t v i s t e at d e t v a r y t t e r s t få o r d m a n k u n n e r e i s e tvil o m h ø r t e h j e m m e p å e n s t ø y o r d l i s t e. S a m m e n l i k n e t m e d d e n m a n u e l l e s t ø y o r d l i s t e n o m f a t t e t d e n m a s k i n e l l e l a n g t f æ r r e ord. A l l i k e v e l v i s t e s ø k e r e s u l t a t e n e at b r u k a v d e n m a s k i n e l l e l i s t e n g a v e l så g o d e r e s u l t a t e r s o m b r u k a v d e n m a n u e l l e. 5. U t v i d e l s e a v s ø k e a r g u m e n t e t T e r m e n e i e t s p ø r s m å l vil o f t e v æ r e t i l f e l d i g v a l g t o g b e s t e m t ut f ra d e n f o r m u l e r i n g de e r en d el av. F o r å k u n n e k o m m e så nær en f u l l s t e n d i g b e s k r i v e l s e a v m e n i n g s i n n h o l d e t i s p ø r s m å l e t s o m m u l i g, b u r d e h v e r a v de u t v a l g t e s ø k e t e r m e r h a b l i t t s u p p l e r t m e d s y n o n y m e r. D e t t e f o r u t s e t t e r I m i d l e r t i d i n f o r m a s j o n o m h v i l k e t e r m e r som er s y n o n y m e r, o g v i e r h e r i n n e p å et p r o b l e m s o m ikke bare g j e l d e r n a t u r s p r å k b a s e r t s ø k e s t r a t e g i e r, m e n o g s å t e k s t s ø k e s y s t e m e r g e n e r e l t. E n k e l t e s y s t e m e r l ø s e r s y n o n y m p r o b l e m e t v e d h j e l p a v e n s y n o n y m t e s a u r u s, a n d r e v e d at b r u k e r e n s e l v d e f i n e r e r sine s y n o n y m e r. D e t a r b e i d e s i d a g o g s å m e d m e t o d e r b a s e r t p å at s y s t e m e t s e l v skal b y g g e o p p et b e g r e p s n e t t v e r k s o m g j e n s p e i l e r d e n s e m a n t i s k e s t r u k t u r e n i d o k u m e n t s a m l i n g e n (jfr. C O N D O R - p r o s j e k t e t, f.eks. B a n e r j e e 1977). F o r e l ø b i g h a r vi b e g r e n s e t p r o s j e k t a r b e i d e t t il d e n e n k l e s t e f o r m for s y n o n y m e r, n e m l i g o r d s om e r g r a m m a t i k a l s k e v a r i a n t e r av s a m m e g r u n n f o r m - dvs. d e s k r i p t o r e r. I t i l l e g g h a r vi sett litt n æ r m e r e p å e f f e k t e n av å s p l i t t e s a m m e n s a t t e o r d i s p ø r s målet. I n e s t e fase ø n s k e r vi å g å et s k r i t t v i d e r e, å s t u d e r e i h v i l k e n g r a d vi k a n få s y s t e m e t s e l v t il å g e n e r e r e (og v e d likeholde) e n s y n o n y m s t r u k t u r, f.eks, v e d å t r e k k e p å e r f a r i n g e r fra t i d l i g e r e søk o g u t n y t t e d e n r e s p o n s d e t v i l k u n n e få v e d å føre i n f o r m a s j o n t i l b a k e t il b r u k e r e n (f.eks, g j e n n o m e n d i a log). 185

12 186 9 yeef EiS3_åY_^ S!SEiE 2 I G r u p p e r i n g e n a v d e s k r l p t o r e r f o r e g å r m a s k i n e l t på g r u n n l a g a v en l i s t e m e d a) v a n l i g e n o r s k e s u f f i k s e r, b) s t e r k e verb, c) u r e g e l m e s s i g e b ø y n i n g e r f or s u b s t a n t i v, d) p r e p o s i s j o n e r, k o n j u n k s j o n e r, a r t i k l e r og p r o n o m e n, e) tall o g t allord. T i l h v e r a v d i s s e e l e m e n t e n e er d e t k n y t t e t i n f o r m a s j o n o m h v i l k e n o r d k l a s s e de t i l h ø r e r. L i s t e n er f r a m k o m m e t p r i m æ r t g j e n n o m p r ø v i n g o g f e i l i n g m e d de t i l g j e n g e l i g e data. Til å b e g y n n e med, u n d e r s ø k t e vi m u l i g h e t e n for å a n s k a f f e en s l i k l i s t e fra m i l j ø e r s o m a r b e i d e r m e d s p r å k l i g d a t a b e h a n d l i n g i N o r g e, m e n d et e n e s t e vi o p p n å d d e v a r en l i s t e m e d 67 s u f f i k s e r b a s e r t p å I b s e n s v e r k e r. L i s t e n v a r u t v i k l e t a v N A V F ' s E D B - s e n t e r for h u m a n i s t i s k f o r s k n i n g, m e n v a r d e s s v e r r e n oe s p e s i e l l for v å r t formål. I d a g o m f a t t e r l i s t e n ca e l e m e n t e r. D e n k a n s e l v f ø l g e l i g g j ø r e s e n d a b e d r e v e d å s u p p l e r e d e n m e d y t t e r l i g e r e e l e m e n t e r, m e d d e t v i s e r seg at o v e r et v i s s t n i v å v il e l e m e n t e n e e t t e r h v e r t b li så s p e s i e l l e, at d et skal m a n g e til før m e n g j e n n o m s n i t t l i g seg m e r k e r p o s i t i v e u t s l a g p å s ø k e r e s u l t a t e n e. D e t v i l d e r f o r v æ r e et k o s t n a d / n y t t e s p ø r s m å l h v o r l a n g t m a n skal g å i d e n n e u t v i d e l s e n. D e s k r i p t o r e n til et o r d d a n n e s v e d at m a n f ø r s t f i n n e r f r a m t il g r u n n f o r m e n p å ordet, og d e r e t t e r s ø k e r i d e n i n v e r t e r t e f i l e n e t t e r o r d m e d s a m m e g r u n n f o r m. G r u n n f o r m e n t il e t o r d g e n e r e r e s v e d h j e l p a v l i s t e n o v e n f o r, og i f ø l g e v å r e f o r s ø k s r e s u l t a t e r l y k k e s d e t t e 1 g j e n n o m s n i t t l i g 90% a v t i l f e l l e n e. D e t b ø r d a t i l f ø y e s at s u f f i k s l i s t e n o g s å o m f a t t e r g e n i t i v s s, i n g - f o r m og l i g n e n d e s u f f i k s e r s o m ikke a l l t i d er like l e t t å h a n s k e s med. E n stor d e l av f e i l p r o s e n t e n k a n d e f o r f ø r e s t i l b a k e til disse. D e n s i s t e p r o s e s s e n - s ø k i n g e t t e r o r d m e d s a m m e g r u n n f o r m - k a n u n n g å s h v i s m a n i d e n i n v e r t e r t e f i l e n b a r e h a r g r u n n f o r m e n til o r d e n e. D e t t e v il i m i d l e r t i d føre til at m a n m i s t e r i n f o r m a s j o n e n o m o r d e n e s o p p r i n n e l i g e form, og d e r m e d o g s å m u l i g h e t e n til å søke e t t e r d i s s e i t e k s t e n (f.eks, s o m del a v f r a s e r ). I d a g a r b e i d e r vi m e d å f i n n e m e t o d e r s o m u t fra g r u n n f o r m e n på o r d e t a u t o m a t i s k k a n g e n e r e r e alle g r a m m a t i k a l s k e b ø y n i n g e r a v d e t u t e n o r d b o k. D e t t e b y r ikke på v e s e n t l i g e p r o b l e m e r i n n e n f o r én og s a m m e o r d k l a s s e, m e n g j ø r d e t v a n s k e l i g n å r d e s k r i p t o r e n o m f a t t e r o r d fra f l e r e o r d k l a s s e r. * H É 2?Ef Ei!s_ t r u n k e r i n g De f l e s t e t e k s t s ø k e s y s t e m e r i d a g g i r m u l i g h e t e n til t r u n k e r i n g a v s ø k e t e r m e r. D e n m e s t v a n l i g e f o r m for t r u n k e r i n g er h ø y r e - t r u n k e r i n g h v o r b r u k e r e n k a n s ø k e på alle t e r m e r s o m b e g y n n e r m e d en g i t t t e g n s t r e n g. T i d l i g e r e f o r s ø k m e d t r u n k e r i n g h a r 186

13 187 v i s t m a n g j e n n o m h ø y r e t r u n k e r i n g får m e d g j e n n o m s n i t t l i g 75% av a l l e k o n t e k s t u a v h e n g i g e s y n o n y m e r til de t r u n k e r t e o r d e n e (jfr. H a r v o l d 1974). M a n v il i f ø r s t e r e k k e få m e d a l l e g r a m m a t i k a l s k e v a r i a n t e r a v o r det, m e n o g s å s a m m e n s a t t e o r d o g i e n k e l t e t i l f e l l e r o r d s o m er i r r e l e v a n t for p r o b l e m s t i l l i n g e n. Vi f a n t d e t i n t e r e s s a n t å s t u d e r e n æ r m e r e a u t o m a t i s k t r u n k e r i n g s o m et a l t e r n a t i v t il u t v i d e l s e m e d b a r e d e s k r i p t o r e r. F o r e l ø b i g h ar vi b a r e sett på e f f e k t e n av å t r u n k e r e s t a m m e n p å ordet, og r e s u l t a t e t h a r g i t t et n o e b l a n d e t i n n t r y k k. T r u n k e r i n g e n f ø r t e p å d e n e n e s i d e n til at f l e r e r e l e v a n t e d o k u m e n t e r b l e f u n n e t og til at c ø k e o r d f r e k v e n s e n i de r e l e v a n t e d o k u m e n t e r økte. På d e n a n n e n side f ø r t e d e n o g s å til at f l e r e i r r e l e v a n t e o r d b le f a n g e t opp, o g d e t t e ø k t e a n t a l l f u n n e i r r e l e v a n t e d o k u m e n t e r. D e g j e n n o m s n i t t l i g e s ø k e r e s u l t a t e n e viste allikevel m i n s t like g o d e s o m en u t v i d e l s e m e d b a r e d e s k r i p t o r e r. M a n skal h e l l e r i k k e se b o r t f ra at m e t o d e n f o r a u t o m a t i s k t r u n k e r i n g k a n g j ø r e s e n d a b e d r e v e d å t a h e n s y n t il f.eks, o r d k l a s s e r og u r e g e l m e s s i g e b ø y n i n g e r. ieii is3_5y_sammensatte_ord På n o r s k er d e t n o k s å v a n l i g å a n v e n d e s a m m e n s a t t e ord, o g i e t t a v v å r e s p ø r s m å l s s e t t b e s t o f a k t i s k 38% a v d e u l i k e s ø k e - t é r m e n e a v s a m m e n s a t t e ord. V i fant d e t d e r f o r i n t e r e s s a n t å u n d e r s ø k e i h v i l k e n g r a d e n s p l i t t e l s e a v d i s s e o r d e n e v i l p å v i r k e s ø k e r e s u l t a t e t. Et s a m m e n s a t t o r d vil for d e t f ø r s t e b e s t å a v f l e r e ord, o g en s p l i t t e l s e v il d e r f o r k u n n e b i d r a t il e n b e d r e r e p r e s e n t a s j o n av m e n i n g s i n n h o l d e t i s p ø r s m å l e t. F o r d e t a n d r e v i l d e t i m a n g e t i l f e l l e r v æ r e en m i n d r e s j a n s e for å f i n n e et s a m m e n satt o r d e n n d e i n d i v i d u e l l e o r d e n e - b l a n t a n n e t f o r d i at et s a m m e n s a t t o r d o f t e k a n s k r i v e s o m til e n frase. På d e n a n n e n side v il e n s p l i t t e l s e o g s å k u n n e ha e n n e g a t i v effekt. S e l v oir ett av de i n d i v i d u e l l e o r d e n e er til s t e d e i d o k u m e n t e t, er d e t s i e t t ikke s i k k e r t at i d é e n b a k d e t s a m m e n s a t t e o r d e t er til stede. D e t t e k a n føre t il at f l e r e i r r e l e v a n t e d o k u m e n t e r b i i r funnet, m e n v e d å p r i o r i t e r e de d o k u m e n t e r s o m i n n e h o l d e r a l l e d e i n d i v i d u e l l e ordene, v i l d e n n e e f f e k t e n k u n n e r e d u s e r e s. F o r s ø k e t m e d s p l i t t i n g av s a m m e n s a t t e o r d p å g å r f r e m d e l e s, o g for t i d e n v e n t e r v i p å å få t i l g a n g til en r u t i n e s o m g j e n n o m f ø r e r s p l i t t i n g e n a u t o m a t i s k u t e n o r d b o k. I f ø l g e de f o r s ø k vi h a r g j e n n o m f ø r t fra t il nå, s y n e s d e t s o m o m en s p l i t t e l s e v i l gi b e d r e s ø k e r e s u l t a t e r. 6. V a l g a v r e g l e r f or u t v e l q i n q / r a n q e r i n g a v d o k u m e n t e r I d e t t e n o t a t e t vil jeg ikke g å n æ r m e r e inn p å de f o r s ø k s om er g j e n n o m f ø r t m e d r a n g e r i n g a v de f u n n e d o k u m e n t e r, da d e t t e f a l l e r u t e n f o r t e m a e t for d e n n e k o n f e r a n s e n. A l l i k v e l v il jeg k o r t u n d e r s t r e k e hvor v i k t i g d e n n e d e l e n av s ø k e s t r a t e g i e n er. 187

14 188 Ut f r a en a n t a g e l s e o m at e t h v e r t d o k u m e n t s o m i n n e h o l d e r m i n s t é n stfketerm h a r e n s a n n s y n l i g h e t f or relevans, v i l d e t a l l t i d v æ r e en t e n d e n s til at for m a n g e d o k u m e n t e r b i i r funnet. D e t t e k o m m e r s p e s i e l t t il u t t r y k k i et t e k s t s ø k e s y s t e m b a s e r t på a r g u m e n t e r i n a t u r l i g språk, p å g r u n n a v u s i k k e r h e t e n o m k r i n g v a l g a v s ø k e t e r m e r. F o r m å l e t m e d en r a n g e r i n g a v d e f u n n e d o k u m e n t e r e r d e r f o r å få p l a s s e r t d o k u m e n t e n e i en slik r e k k e f ø l g e for b r u k e r e n, at d e d o k u m e n t e r s o m h a r s t ø r s t s a n n s y n l i g h e t f o r r e l e v a n s, b i i r p l a s e r t ø v e r s t p å r e s u l t a t l i s t e n. E n v i k t i g d e l a v p r o s j e k t e t a r b e i d e t h a r d e r f o r v æ r t - o g vil f o r t s a t t v æ r e - å u t v i k l e e f f e k t i v e m e t o d e r f or r a n g e r i n g. R e s u l t a t e n e i d a g v i s e r at i _ c a., i 4 %. a v t i l f e l l e n e f å r vi p l a s s e r t r e l e v a n t e d o k u m e n t e r ø v e r s t p å r e s u l t a t l i s t e n, m e n f r e m d e l e s g j e n n s t å r m a n g e u p r ø v d e i d é e r - f.eks, å u t n y t t e i n f o r m a s j o n o m o r d k l a s s e r. 7. O p p s u m m e r i n g, k o n k l u s j o n o g f r a m t i d s u t s i k t e r H o v e d f o r m å l e t m e d d e t t e forskningsprosjektet er i k k e p r i m æ r t å u t v i k l e så e f f e k t i v e s t r a t e g i e r for t e k s t s ø k i n g s o m m u l i g, m e n å u n d e r s ø k e m u l i g h e t e n f or e n k l e o g Ilte r e s s u r s k r e v e n d e s ø k e s t r a t e g i e r b a s e r t på a r g u m e n t e r (spørsmål) i n a t u r l i g språk. P r o s j e k t e t h a r i f ø r s t e r e k k e g i t t o s s e n g o d i n n s i k t i h v i l k e p r o b l e m e r s o m o p p s t å r v e d b r u k a v s ø k e a r g u m e n t e r i n a t u r l i g språk. E r f a r i n g e n e v i s e r - n o k s å n a t u r l i g - at d e t s t ø r s t e p r o b l e m e t e r o v e r g a n g e n f r a et s p ø r s m å l i n a t u r l i g s p r å k til e t s ø k e a r g u m e n t s o m k a n d a n n e g r u n n l a g e t f or s ø k i n g e n. I d e n n e f o r b i n d e l s e e r d e t lagt m y e a r b e i d i s t u d i e t av m e t o d e r for - i d e n t i f i s e r i n g a v s ø k e t e r m e r o g f r a s e r i s p ø r s m å l e t, - u t v i d e l s e a v s ø k e a r g u m e n t e t m e d t e r m e r s o m e r a v l e d e t a v s ø k e t e r m e n e s p e s i f i s e r t i s p ø r s m å l e t (f.eks, o r d m e d s a m m e g r u n n f o r m ). D e t e r g r u n n til å p å p e k e at m e t o d e n e s o m er u t v i k l e t, er s v æ r t e n k l e o g k r e v e r n e s t e n i n g e n a n d r e d a t a e n n de s o m v a n l i g v i s e k s i s t e r e r i et t r a d i s j o n e l t t e k s t s ø k e s y s t e m. (Et u n n t a k er l i s t e n m e d g r a m m a t i k a l s k e b ø y n i n g s r e g l e r o g o r d s o m p r e p o s i s j o n e r, k o n j u n k s j o n e r, p r o n o m e n etc.) E n s e n t r a l d e l a v p r o s j e k t a r b e i d e t h a r o g s å v æ r t s t u d i e t av e f f e k t i v e m e t o d e r f or r a n g e r i n g a v d e f u n n e d o k u m e n t e r. F r a m til i d a g h a r d i s s e m e t o d e n e b a r e t a t t u t g a n g s p u n k t i s t a t i s t i s k e d a t a, m e n vi ser ikke b o r t fra at d e k a n g j ø r e s e n d a b e d r e v e d t r e k k e inn l i n g v i s t i s k e data. S o m en k o n k l u s j o n på v å r t a r b e i d e vil vi si at f o r s ø k s r e s u l t a t e n e h a r g i t t o s s t ro på at d e t e r m u l i g å o p p n å er a k s e p t a b e l t s ø k e r e s u l t a t m e d så e n k l e s ø k e s t r a t e g i e r s o m h e r b e s k r e v e t. H v a s o m er et a k s e p t a b e l t s ø k e r e s u l t a t v il i m i d l e r t i d a v h e n g e a v d e n e n k e l t e b r u k e r og d e n a k t u e l l e s ø k e s i t u a s j o n. 188

15 189 P r o s j e k t e t vil b li a v s l u t t e t v e d u t g a n g e n a v d e t t e året. M e n s a r b e i d e t så l a n g t h a r v æ r t r e t t e t m o t d e m e t o d i s k e s p ø r s m å l, v il v i i t i d e n f r a m o v e r k o n s e n t r e r e o s s o m s p e s i f i k a s j o n e n av en m o d u l for n a t u r s p r å k b a s e r t søking. Det er f ra n e s t e å r a v s ø k t o m ø k o n o m i s k e m i d l e r t il e t n y t t p r o s j e k t h v o r vi ø n s k e r å g å et s k r i t t v i d e r e i a r b e i d e t m e d t e k s t s ø k e s y s t e m e r b a s e r t p å s p ø r s m å l i n a t u r l i g s p råk. F o r m å l e t m e d d e t t e p r o s j e k t e t v i l v æ r e å u t v i k l e e n " i n t e l l i g e n t " p r e p r o s e s s o r (forsats) t il et t e k s t s ø k e s y s t e m, s o m g j e n n o m e n d i a l o g m e d b r u k e r e n k a n b i d r a til e t r i k e r e s ø k e a r g u m e n t e n n det en t y p i s k b r u k e r v i l k u n n e s p e s i f i s e r e u t e n h j e l p. P r o s j e k t e t h a r fått n a v n e t F O R T ( F ORsats til T e k s t s ø k e s y s t e m ) og er e s t i m e r t til 3 år. 189

16 190 REFERANSER A l l é n, S t u r e / T h a v e n i u s, J a n (1970) Språlcliq d a t a b e h a n d l i n g ; S t u d e n t l i t t e r a t u r, Lund. B a n j e r j e e, N. (1967) " C O N D O R - C o m m u n i c a t i o n in N a t u r a l l a n g u a g e w i t h d i a l o g u e o r i e n t e d r e t r i e v a l s y s t e m s " ; S c h n e i d e r / H e l n 1977: Bing, J o n / F j e l d v i g, T o v e / F l a t a k e r, O l e B j ø r n / H a r v o l d, T r y g v e (1980) LovsprAlt og juristspralc; Sicriftserien Jus o g E D B nr. 41, Oslo. F j e l d v i g, T o v e (1976) K o n t r o l l e r t forsøle i telcsts^lcinq p A u t t a l e l s e r f ra S)cattedire)ttører.; N O R I S (8) III, Sicriftserien Jus o g E D B nr. 16, Oslo. H a r v o l d, T r y g v e (1976) " B e l y s n i n g a v s y n o n y m p r o b l e m e t i norslce, f o r m u e r e t t s l i g e lover"; B i n g / F j e l d v i g / F l a t a k e r / H a r v o l d 1980: P r e s t e l, B.M. (1971) " D a t e n v e r a r b e l t u n g Im D l e n s t e j u r i s t i s c h e r D o l e u m e n t a t i o n ", E D V u n d R e c h t, v o l 3. R o s e n g r e n, I. (1970) "Prosje)ctet M o d e r n t tyslc t i d n l n g s - sprak"; A l l é n / - T h a v e n l u s : S c h n e i d e r, W. / H e i n, A. - I. S A g v a l l (1977) C o m p u t a t i o n a l l i n g u i s t i c s in M e d i c i n e ; N o r t h H o l l a n d, A m s t e r d a m. 190