Analyseur sémantique pour la langue naturelle

Mots clés

parser, sémantique, logique, graphes

Détail de l'offre

Le traitement du langage naturel a fait de grands progrès ces dernières années en produisant des modèles capables de résoudre des problèmes complexes. Si le traitement du langage naturel semble avoir atteint un bon niveau de compréhension, la question de la sémantique reste ouverte. Par exemple, le développement de solutions orientées vers les tâches nécessite l'extraction de la structure sous-jacente d'un énoncé afin d'en extraire les intentions. Cependant, la production de la structure prédicative d'un énoncé est au-delà de la capacité des LLM.

Deux grandes écoles de pensée ont émergé en sémantique des langues, l'une basée sur des propriétés logiques (Kamp et Reyle, 1993 ; Montague, 1970) et l'autre sur des représentations graphiques (Banarescu et al., 2013 ; Abend et Rappoport, 2013 ; White et al., 2016 ; Van Gysel et al., 2021). Alors que les premières sont plus adaptées à la construction d'analyseurs syntaxiques, les secondes permettent de considérer une quantité plus raisonnable de données certifiées, notamment si l'on souhaite utiliser des stratégies d'apprentissage automatique (Cheng 2017, Li 2018). Récemment, plusieurs initiatives ont été lancées pour désigner des formalismes de représentation sémantique dans lesquels les structures de graphe utilisées conservent de bonnes propriétés logiques (Michalon, 2016), dans le but de produire des corpus sémantiquement annotés, dont l'une des fonctions est d'entraîner des analyseurs syntaxiques. Au stade actuel de développement, la qualité obtenue est encore en deçà d'un niveau permettant son utilisation large.

Dans ce sujet, nous nous concentrons sur un type spécifique de représentation sémantique, le cadre YARN (Pavlova 2024) (laYered meAning RepresentatioN), avec une structure argumentale de prédicat (structure PA) basée sur la représentation abstraite du sens (AMR) (Banarescu et al., 2013) et une approche en couches pour encoder d'autres phénomènes sémantiques. Un intérêt majeur de cette représentation est qu'elle est basée sur une représentation simplifiée de la structure argumentale, qui reste plus accessible en termes de développement d'outils, tout en permettant de considérer une grande complexité de phénomènes sémantiques classiques, tels que la négation, la modalité, la temporalité et la quantification, et la manière dont ils peuvent interagir entre eux. Considérer les interactions entre différents phénomènes est un défi que les formalismes existants n'abordent pas explicitement.

Dans la tâche d'analyse sémantique, le système doit prédire la structure formelle qui représente les liens sémantiques. Les stratégies d'apprentissage automatique ont des difficultés à se généraliser à des structures qui ne sont pas présentes dans les grands ensembles de données utilisés pour l'entraînement. Ce phénomène bien connu a conduit à envisager de combiner plusieurs approches qui intègrent des représentations de structures sémantiques dans les architectures utilisées, notamment dans les codeurs et décodeurs (Petit 2023, Petit et Corro 2024).

L'objectif du stage est de construire un analyseur sémantique pour le formalisme YARN et de l'évaluer sur des données réelles comme Geoquery, graphQuestions, Spades, etc.