SQuAD-Shifts는 분포 변화(distribution shift) 하에서 질의응답 모델의 견고성을 평가하기 위해 설계된 벤치마크 데이터셋이다. 이 데이터셋은 2019년 구글(Google) 연구진(존 밀러(John Miller), 칼 크라우스(Karl Krauth), 루트비히 슈미트(Ludwig Schmidt) 포함)이 스탠퍼드 질의응답 데이터셋(SQuAD)의 보완 자료로 소개했다. 이 데이터셋은 원래 SQuAD 훈련 데이터에 없던 위키백과 문서에서 수집한 새로운 질문-답변 쌍으로 구성되어, 주제 분포와 작성 스타일에 자연스러운 변화를 만들어낸다. 주요 목적은 SQuAD로 훈련된 모델이 보지 못한 데이터에 얼마나 잘 일반화되는지 측정하는 것으로, 이는 Artificial intelligence 시스템의 실제 배포에 중요한 속성이다.
이 벤치마크는 세 가지 별개의 하위 집합을 포함한다: SQuAD-Shifts-New는 완전히 새로운 위키백과 문서에 대한 질문을 포함하고, SQuAD-Shifts-Wiki는 SQuAD 생성 당시 존재했지만 원래 데이터셋에는 포함되지 않은 문서를 사용하며, SQuAD-Shifts-Reddit은 위키백과 문서에 대한 레딧(Reddit) 사용자의 질문을 포함한다. 각 하위 집합은 주제 참신성에서 문체 변이에 이르기까지 서로 다른 유형의 분포 변화를 도입한다. 이 데이터셋은 SQuAD와 동일한 형식으로 구축되었으며, 각 예제는 문맥 단락, 질문, 답변 범위 집합을 포함한다.
동기와 설계
분포 변화는 Machine learning의 근본적인 과제로, 한 데이터 분포에서 훈련된 모델이 다른 분포에 적용될 때 성능이 저하되는 경우가 많다. SQuAD-Shifts는 이러한 현상에 대한 통제적이면서도 현실적인 평가를 제공하기 위해 만들어졌다. 합성적 교란과 달리 SQuAD-Shifts의 변화는 인간이 생성한 콘텐츠의 자연스러운 변이에서 비롯된다. 설계는 견고성이 적대적으로 제작된 예제가 아니라 배포에서 실제로 접할 수 있는 데이터로 측정되어야 한다는 원칙을 따른다.
이 데이터셋은 지속적으로 편집되고 확장되는 위키백과의 구조를 활용한다. 원래 SQuAD 출시 이후 새로운 문서와 질문을 수집함으로써, 제작자는 테스트 데이터가 훈련 데이터와 시간적으로 분리되도록 보장했다. 이러한 시간적 분리는 핵심 기능으로, 모델이 특정 문서를 암기하는 것을 방지하고 일반적인 이해 능력에 의존하도록 강제한다.
평가 프로토콜
SQuAD-Shifts의 표준 평가는 SQuAD와 동일한 지표를 사용한다: 정확 일치(Exact Match, EM)와 F1 점수. EM은 예측이 정답 중 하나와 정확히 일치하는 비율을 측정하고, F1은 토큰 수준 중첩에 대한 정밀도와 재현율의 조화 평균을 계산한다. 모델은 일반적으로 원래 SQuAD 훈련 세트로 훈련된 후 세 가지 SQuAD-Shifts 하위 집합에서 적응 없이 평가된다. 분포 내 SQuAD 개발 세트와 비교한 성능 저하 정도는 모델의 분포 변화 민감도를 정량화한다.
원래 논문에서 저자는 BiDAF와 BERT를 포함한 여러 기준 모델을 평가했다. 그들은 모든 모델이 변화된 하위 집합에서 상당한 성능 저하를 보였으며, 특히 더 비공식적이고 다양한 질문 표현을 포함하는 SQuAD-Shifts-Reddit에서 더 큰 저하가 나타났음을 발견했다. 이는 Deep learning 모델과 같은 강력한 Transformer (architecture) 기반 아키텍처조차 자연스러운 분포 변화에 견고하지 않다는 점을 강조하며, 도메인 적응과 견고한 훈련에 대한 추가 연구를 촉진했다.
다른 벤치마크와의 관계
SQuAD-Shifts는 자연어 처리에서 분포 변화 벤치마크의 더 넓은 계열의 일부이다. 이는 다양한 교란 하에서 일반화를 테스트하는 GLUE-X 및 RobustQA와 같은 데이터셋을 보완한다. 그러나 SQuAD-Shifts는 인공적 수정이 아닌 자연적으로 발생하는 변화를 사용한다는 점에서 독특하다. 이는 사용자 행동, 콘텐츠 생성, 언어 사용의 변화로 인해 데이터 분포가 시간에 따라 진화하는 실제 조건에 대한 더 현실적인 대리자 역할을 한다.
이 벤치마크는 Large language model 평가 개발에 영향을 미쳤다. 많은 후속 연구에서 OpenAI의 GPT 시리즈와 Google DeepMind의 모델과 같은 모델의 견고성을 평가하기 위해 SQuAD-Shifts를 사용했다. 또한 데이터 증강 및 도메인 적응과 같은 다양한 훈련 전략을 비교하는 데 사용되었으며, 이러한 기술이 성능 격차를 완화할 수는 있지만 제거할 수는 없음을 보여주었다.
한계와 비판
SQuAD-Shifts의 한계 중 하나는 자연어 이해 내에서 좁은 작업인 독해만 다룬다는 점이다. 변화는 또한 위키백과 기반 콘텐츠로 제한되어, 뉴스, 소셜 미디어, 기술 문서와 같은 다른 도메인의 변화를 반영하지 못할 수 있다. 또한 데이터셋은 현대 훈련 말뭉치에 비해 상대적으로 작아 평가 결과의 높은 분산을 초래할 수 있다. 일부 연구자는 SQuAD-Shifts의 성능 저하가 순수한 분포 변화보다는 질문 난이도의 차이에 부분적으로 기인할 수 있다고 지적했지만, 제작자는 질문 유형을 일치시켜 이를 통제했다.
이러한 한계에도 불구하고 SQuAD-Shifts는 견고성 연구에서 널리 사용되는 벤치마크로 남아 있다. 이는 Robustness Gym을 포함한 여러 리더보드와 평가 제품군에 통합되었다. 데이터셋은 공개적으로 제공되며 공식 저장소에서 다운로드할 수 있어 연구자가 결과를 재현하고 분석을 확장할 수 있다.
영향과 유산
SQuAD-Shifts의 도입은 Artificial intelligence에서 분포 변화 문제에 대한 인식 증가에 기여했다. 이는 표준 벤치마크에서 최첨단 결과를 달성한 모델이 약간 다른 데이터에서 극적으로 실패할 수 있다는 경험적 증거를 제공했다. 이는 여러 도메인과 자연적 변화가 있는 작업을 포함하는 WILDS 제품군과 같은 후속 벤치마크 설계에 영향을 미쳤다. 또한 도메인 불변 표현 학습 및 테스트 시간 적응과 같은 기술에 대한 연구를 촉진했다.
Generative AI의 맥락에서 SQuAD-Shifts는 Anthropic의 Claude 및 Google Cloud의 AI 서비스와 같은 모델의 견고성을 평가하는 데 사용되었다. 이 벤치마크의 자연적 변화에 대한 초점은 데이터가 지속적으로 진화하는 검색 엔진 및 가상 비서와 같은 응용 프로그램에 특히 관련이 있다. 2024년 현재 SQuAD-Shifts는 모델 견고성에 관한 논문에서 계속 인용되며 질의응답 일반화 평가의 표준 도구로 간주된다.