word-sense disambiguation
DESCRIPTION
1.Introduction 2.Qu’est ce que les sens d’un mot ? 3.Ambiguïtés sémantiques 4.Définition de WSD 5.Pourquoi la WSD ? 6.Les types de WSD 7.Les méthodes de WSD 8.Evaluation ConclusionTRANSCRIPT
1
Exposé de Recherche D’information
Word Sense Disambiguation (WSD)
Présenté par:
BENDJELLOUL Fatima ZahraLAROUSSI Khadidja
Enseignant de module:
Mr.bentaallah.M
2
Plan de travail
IntroductionQu’est ce que les sens d’un mot ?Ambiguïtés sémantiquesDéfinition de WSDPourquoi la WSD ?Les types de WSDLes méthodes de WSDEvaluationConclusion
3
Introduction L’ambiguïté des mots est un phénomène omniprésent dans les
langues naturelles.
Elle représente une des grandes difficultés du traitement automatique du langage naturel,
Pour cela, la WSD permet de traiter et de lever cet ambiguïté.
4
Qu’est ce que les sens d’un mot ?
Sens, en linguistique, est synonyme de signification. Il désigne le contenu conceptuel d'une expression.
Les différent sens d’un mot:
Mot a un seul sens : appartient à une vocabulaire technique, scientifique
Mot a plusieurs sens : c’est qu’on nomme la polysémie, certain mot a un sens propre et un sens figuré.
Sens d’après le contexte: pour comprendre le sens il faut relire la phrase qui précède et celle qui suit
5
Ambiguïtés sémantiques
Beaucoup de mots de la langue peuvent être interprétés de manières variées en fonction du contexte dans lequel ils apparaissent,
1. Les homonymes2. Les polysémies
6
Mouse Windows
1. Les homonymes2. Les polysémies
mots avec des sens non liés
7
Papier
. . .
1. Les homonymes2. Les polysémies
mots dont les sens sont liés d’une certaine manière
8
Définition de la WSD
Une tâche nécessaire à la bonne réalisation de nombreuses applications du TALN,
Consiste à déterminer le sens correct des mots ambigus dans un contexte.
9
Pourquoi la WSD ?
Recherche d’information: filtrer les réponses retournées par le systèmes et garder juste les réponses pertinents,
Traduction automatique: Ex: le mot en espagnol muñeca peut être traduit en français par « poupée » ou par « poignée » en fonction du contexte
Traitement du discours:
Ex: La prononciation/kuR/peut être écrite comme « cour », « court», « cours » ou encore « coure ».
Traitement de texte: pour la correction orthographique
Ex: Les mots « comte » et « comté ».
10
Les types de désambiguïsation
Désambiguïsation ciblée (Targeted Word Sense Disambiguation)
Désambiguïsation d’un mot en particulier dans un texte.
Ex: The mouse is an animal very active, very acrobatic, they live in groups.
A mouse is a pointing device that connects to the computer
WSD est considérée comme un problème de classification
11
Les types de désambiguïsation
Désambiguïsation ciblée (Targeted Word Sense Disambiguation) Corpus d’apprentissage contenant les occurrences du mot, chaque
occurrence est annotée par un sens.
Extraction de vecteurs de traits qui représentent le contexte d’apparition du mot.
Trouver le sens approprié du mot en contexte
12
Les types de désambiguïsation
Désambiguïsation complète (All words Word Sense Disambiguation)
Désambiguïsation de tous les mots pleins d’un texte.
Ex: The mouse and rats are widely used in animal research laboratories for testing the toxicity of certain substances
- Exploitation de définitions de dictionnaires.
- Exploitation de relations sémantiques
13
Les méthodes de WSD
Méthodes fondées sur les connaissances
Méthodes fondées sur l’apprentissage
14
Méthodes fondées sur les connaissances
la désambiguïsation automatique est matérialisée par les méthodes basées sur les connaissances qui essayent d’extraire de manière automatique l’information nécessaire à la désambiguïsation.
15
Ressources lexicales/sémantiques
Les dictionnaires électroniques ex: le petit larousse
Les thésaurus ex: Roget’s Thesaurus
Réseaux sémantiques ex: WordNet
16
Méthode de Lesk (Michael Lesk 1986)
Récupérer de MRD toutes les définitions du sens des mots à ambigus.
Mesurer le chevauchement entre les différents définitions dans le dictionnaire, d'un mot ambigu et les définitions de ses voisins immédiats.
Choisissez le sens qui conduisent à plus de chevauchement
17
Exemple: désambiguïser mouse computer
Mouse1. any of numerous small rodents typically resembling diminutive rats having
pointed snouts 2. person who is quiet or timid3. a hand-operated electronic device that controls the coordinates of a cursor on
your computer screen as you move it around on a pad Computer4. computing machine, computing device, data processor, electronic computer,
information processing system5. calculator, reckoner, figurer, estimator
Méthode de Lesk (Michael Lesk 1986)
Mouse1 computer1 =0 mouse2 computer2 =0Mouse1 computer2 =0 mouse3 computer1 =3Mouse2 computer1 =0 mouse3 computer2 =0
18
Les inconvénients de la méthode de Lesk
Fondée sur la correspondance exacte des mots trouvés dans les définitions
Ne permet pas de capter des relations moins explicites (par ex. sémantiques) entre les mots
Vise la désambiguïsation d’un mot à la fois
Explosion combinatoire si l’on essaie de désambiguïser tous les mots du texte
19
Méthodes fondés sur l’apprentissage
Utilisation d’informations sémantiques acquises directement à partir de textes
Désambiguïsation supervisée : exploitation des données annotées
Désambiguïsation non supervisée : acquisition des données non annotées
Désambiguïsation semi supervisée : création d’un classifieur avec peu de données annotées, beaucoup de données non annotées
Application de techniques d’apprentissage automatique à la désambiguïsation
20
Méthodes supervisées• Utilisation d’un ensemble de méthodes pour l’apprentissage de classifieurs a
partir de corpus annotés Types de corpus
- corpus avec les sens d’un mot particulier annotés, ex : corpus d’évaluation de Senseval - corpus avec chaque mot plein annoté, ex : SemCor (234000 mots annotés avec les sens de WordNet)
Problème de classification
Extraction de traits (features) des textes utiles pour prédire dessens particuliers des mots
Apprentissage de classifieurs particuliers, ex : classifieurs naïfs de Bayes, listes de décisions, etc.
Un classifieur doit ici attribuer un sens a un mot (non annoté) en se basant sur le contexte de ce mot
21
Méthodes superviséesAvantages
• elles ont les meilleures performances• elles donnent les meilleurs résultats dans les évaluations des systèmes de
désambiguïsation sémantique
Inconvénients
• élaboration coûteuse des données d’entraînement (Ng, 1997)• dispersion des données (data sparseness) : difficile d’avoir un ensemble
d’entraînement annoté qui couvre tout le lexique d’une langue• désambiguïsation souvent focalisée sur un petit ensemble de mots ambigus
(target words)
22
Méthodes semi-supervisées:
Apprentissage de classifieurs de sens de mots avec un minimum de textes annotés (peu de données disponibles)
Approches par amorçage (bootstrapping) : produire un classifieur qui améliore les performances
Apprentissage d’un classifieur pour la désambiguïsation ciblée[Yarowsky, 1995]
23
Méthodes non-supervisées offrent une solution au problème de la disponibilité limitée de données annotées
Ni de corpus d’exemples sémantiquement annotés, ni de sources externes de connaissances (dictionnaires, thésaurus, etc.)
Exploitent de grands corpus de données non annotées
Basée sur les résultats de méthodes d’induction de sens (Word Sense Induction (WSI))Identifient les sens possibles des mots à partir de grands corpus de textes non annotés
Les instances d’un mot ambigu sont clustérisées sur la base de la similarité des contextes dans lesquels elles apparaissent
Chaque cluster décrit un sens du mot ambigu
24
Méthodes non-supervisées
Avantages
Une performance presque comparable aux approches supervisées [Manning et Schutze, 2000]
Inconvénients [Jurafsky et Martin, 2000]
Les sens corrects peuvent ne pas être connus Les clusters obtenus peuvent contenir plusieurs sens
25
EvaluationCorrection par des humains, vérification de la nature des relations entre les membres des clusters
Evaluation non superviséeLes sens induits sont évalués en tant que clusters d’exemples et comparés à des exemples annotés par des sens gold standard (GS)
Evaluation superviséeMise en correspondence des clusters obtenus avec des sens du GS (OntoNotes, Hovy et al., 2006)Utilisation des correspondences établies pour annoter des instances dans le corpus de test avec des sens GS
26
ConclusionLa désambiguïsation sémantique est un problème très complexe relié à la richesse de la langue.
Combinaison de plusieurs méthodes capables de résoudre le problème WSD.
La méthode Lesk est assez simple et a donnée des résultats intéressants.
Les algorithmes d’apprentissage sont maintenant plus performants que les algorithmes de désambiguïsation à l’aide de dictionnaires
La technique Naïve Bayes a une bonne performance sur les tâches de classification.
27
Bibliographie www.iro.umontreal.ca/~felipe/Papers/paper-taln-2004a.pdf
www.images.hachette-livre.fr/media/.../2543807769.pdf
http://perso.limsi.fr/amax/enseignement/tal/Cours-DesambiguisationLexicale-M2R.pdf
28