SQuAD-Adversarial（SQuAD-Adversarial）是一个用于评估阅读理解模型鲁棒性的基准数据集。它通过对原始斯坦福问答数据集（SQuAD）引入对抗性扰动构建而成，SQuAD是一个广泛使用的、源自维基百科文章的问题-答案对集合。SQuAD-Adversarial的主要目的是揭示那些在标准基准上表现良好，但在面对人类精心设计的输入问题细微修改时失败的模型的弱点。这些扰动被设计为与原始问题在语义上等价，但包含分散注意力的短语或从句，可能误导依赖表面词汇线索而非深度理解的模型。
该数据集于2018年由卡内基梅隆大学和华盛顿大学的研究人员引入，由Robin Jia和Percy Liang领导。这项工作在2017年自然语言处理经验方法会议（EMNLP）上展示，论文题为“Adversarial Examples for Evaluating Reading Comprehension Systems”。创建过程涉及人类标注者，他们被要求在不改变含义或答案的情况下，向原始SQuAD问题添加无关句子。例如，像“天空是什么颜色？”这样的问题可能被扰动为“天空是什么颜色，考虑到草是绿色的？”添加的文本在语法上正确且主题相关，使得模型难以忽略这种扰动。
构建与设计
SQuAD-Adversarial的构建遵循了系统化的流程。标注者被给予原始SQuAD问题和相应的上下文段落。他们的任务是在问题后附加一个简短、合理的句子，该句子不会改变预期答案。添加的句子通常引用上下文中的实体或事实，形成一种干扰项，可能混淆依赖模式匹配或关键词重叠的模型。最终数据集包含9,537个对抗性问题，每个问题都与SQuAD中的原始上下文和答案配对。扰动经过验证，确保人类读者仍能正确回答问题，从而确认难度仅针对自动化系统。
对模型评估的影响
SQuAD-Adversarial迅速成为阅读理解模型的标准压力测试。在原始SQuAD基准上，许多模型实现了接近人类的表现，F1分数超过90%。然而，在SQuAD-Adversarial上评估时，相同模型表现出显著的性能下降，F1分数通常下降20到30个百分点。这种差异凸显了神经阅读理解系统的脆弱性，特别是那些基于Deep learning架构（如Transformer (architecture)模型）的系统。该数据集证明，模型经常依赖表面级特征，例如问题与上下文之间的精确单词匹配，而非捕捉底层语义。
与对抗鲁棒性的联系
SQuAD-Adversarial的创建是Machine learning中理解和改进对抗鲁棒性的更广泛研究努力的一部分。与图像分类中的对抗样本（通常涉及不可感知的像素扰动）不同，SQuAD-Adversarial中的扰动是自然语言添加，人类易于感知。这使得该基准特别适用于评估Large language model和其他用于现实世界应用（如问答和对话式AI）的系统。SQuAD-Adversarial的发现影响了后续关于数据增强和训练策略的工作，例如在训练期间纳入对抗样本以提高泛化能力。
后续发展与遗产
在SQuAD-Adversarial发布后，开发了几个相关基准，包括添加了不可回答问题的SQuAD 2.0，以及用于自然语言推理和机器翻译的其他对抗性数据集。人类在环中的对抗性扰动方法已被其他研究团队采用，以创建更具挑战性的评估集。该数据集仍然是衡量鲁棒阅读理解进展的参考点，并经常在关于Neural network可解释性和鲁棒性的论文中被引用。截至2020年代初，现代Large language model，如由OpenAI和Google DeepMind开发的模型，在SQuAD-Adversarial上表现出改进的性能，但该基准仍揭示了处理复杂语言干扰项方面的差距。
局限性与批评
一些研究人员指出，SQuAD-Adversarial专注于特定类型的扰动，即添加无关从句，可能无法捕捉其他形式的对抗攻击，如改写或词级替换。此外，该数据集源自维基百科文章，限制了其领域覆盖范围。尽管存在这些局限性，SQuAD-Adversarial仍然是诊断模型弱点和指导开发更鲁棒的Artificial intelligence系统的宝贵工具。其影响超越了学术界，因为构建问答产品的公司使用类似的对抗性评估技术来在部署前测试其系统。