SQuAD-Adversarial est un ensemble de données de référence pour évaluer la robustesse des modèles de compréhension en lecture. Il a été construit en introduisant des perturbations adverses dans le Stanford Question Answering Dataset (SQuAD) original, une collection largement utilisée de paires question-réponse dérivées d'articles Wikipédia. L'objectif principal de SQuAD-Adversarial est de révéler les faiblesses des modèles qui obtiennent de bons résultats sur les références standard mais échouent face à des modifications subtiles et conçues par des humains apportées aux questions d'entrée. Ces perturbations sont conçues pour être sémantiquement équivalentes aux questions originales, mais incluent des phrases ou clauses distrayantes qui peuvent induire en erreur les modèles qui s'appuient sur des indices lexicaux superficiels plutôt que sur une compréhension profonde.
L'ensemble de données a été introduit en 2018 par des chercheurs de l'Université Carnegie Mellon et de l'Université de Washington, dirigés par Robin Jia et Percy Liang. Les travaux ont été présentés à la conférence EMNLP 2017, avec l'article intitulé « Adversarial Examples for Evaluating Reading Comprehension Systems ». Le processus de création a impliqué des annotateurs humains chargés d'ajouter des phrases non pertinentes aux questions SQuAD originales sans en modifier le sens ni la réponse. Par exemple, une question comme « De quelle couleur est le ciel ? » pourrait être perturbée en « De quelle couleur est le ciel, étant donné que l'herbe est verte ? ». Le texte ajouté est grammaticalement correct et thématiquement lié, ce qui rend la perturbation difficile à ignorer pour les modèles.
Construction et conception
La construction de SQuAD-Adversarial a suivi une procédure systématique. Les annotateurs ont reçu les questions SQuAD originales et les paragraphes de contexte correspondants. Leur tâche consistait à ajouter une phrase courte et plausible à la question sans altérer la réponse attendue. Les phrases ajoutées faisaient souvent référence à des entités ou des faits du contexte, créant une forme de distracteur pouvant confondre les modèles qui s'appuient sur la correspondance de motifs ou le chevauchement de mots-clés. L'ensemble de données final contient 9 537 questions adverses, chacune associée au contexte et à la réponse d'origine de SQuAD. Les perturbations ont été validées pour garantir que les lecteurs humains pouvaient toujours répondre correctement aux questions, confirmant que la difficulté était spécifique aux systèmes automatisés.
Impact sur l'évaluation des modèles
SQuAD-Adversarial est rapidement devenu un test de résistance standard pour les modèles de compréhension en lecture. Sur la référence SQuAD originale, de nombreux modèles atteignaient des performances proches de celles des humains, avec des scores F1 dépassant 90 %. Cependant, lors de l'évaluation sur SQuAD-Adversarial, les mêmes modèles montraient des baisses de performance significatives, souvent de 20 à 30 points de pourcentage en score F1. Cet écart a mis en évidence la fragilité des systèmes neuronaux de compréhension en lecture, en particulier ceux basés sur des architectures de Deep learning comme les modèles Transformer (architecture). L'ensemble de données a démontré que les modèles s'appuyaient fréquemment sur des caractéristiques de surface, telles que les correspondances exactes de mots entre la question et le contexte, plutôt que de capturer la sémantique sous-jacente.
Lien avec la robustesse adverse
La création de SQuAD-Adversarial s'inscrit dans un effort de recherche plus large en Machine learning pour comprendre et améliorer la robustesse adverse. Contrairement aux exemples adverses en classification d'images, qui impliquent souvent des perturbations de pixels imperceptibles, les perturbations de SQuAD-Adversarial sont des ajouts en langage naturel facilement perçus par les humains. Cela rend la référence particulièrement pertinente pour évaluer les Large language model et d'autres systèmes utilisés dans des applications réelles comme la réponse aux questions et l'IA conversationnelle. Les résultats de SQuAD-Adversarial ont influencé les travaux ultérieurs sur l'augmentation des données et les stratégies d'entraînement, comme l'intégration d'exemples adverses pendant l'entraînement pour améliorer la généralisation.
Développements ultérieurs et héritage
Après la publication de SQuAD-Adversarial, plusieurs références connexes ont été développées, notamment SQuAD 2.0, qui a ajouté des questions sans réponse, et d'autres ensembles de données adverses pour l'inférence en langage naturel et la traduction automatique. La méthodologie de perturbation adverse avec intervention humaine a été adoptée par d'autres groupes de recherche pour créer des ensembles d'évaluation plus difficiles. L'ensemble de données reste un point de référence pour mesurer les progrès en compréhension en lecture robuste, et il est fréquemment cité dans les articles sur l'interprétabilité et la robustesse des Neural network. Au début des années 2020, les Large language model modernes, tels que ceux développés par OpenAI et Google DeepMind, ont montré des performances améliorées sur SQuAD-Adversarial, mais la référence révèle encore des lacunes dans la gestion de distracteurs linguistiques complexes.
Limites et critiques
Certains chercheurs ont noté que SQuAD-Adversarial se concentre sur un type spécifique de perturbation - l'ajout de clauses non pertinentes - et peut ne pas capturer d'autres formes d'attaques adverses, comme la paraphrase ou les substitutions au niveau des mots. De plus, l'ensemble de données est dérivé d'articles Wikipédia, ce qui limite sa couverture de domaines. Malgré ces limites, SQuAD-Adversarial reste un outil précieux pour diagnostiquer les faiblesses des modèles et guider le développement de systèmes Artificial intelligence plus robustes. Son influence s'étend au-delà du monde académique, car les entreprises construisant des produits de réponse aux questions utilisent des techniques d'évaluation adverses similaires pour tester leurs systèmes avant leur déploiement.