데이터 중심 AI(Data-centric AI)는 개발의 주요 초점을 모델 중심 개선(예: 신경망 구조나 하이퍼파라미터 조정)에서 훈련 및 평가에 사용되는 데이터의 체계적 향상으로 전환하는 인공지능 패러다임이다. 이 접근 방식은 많은 실용적 응용 분야에서 데이터셋의 품질, 관련성, 범위가 학습 알고리즘 자체의 개선보다 최종 모델 성능에 더 결정적이라고 본다. 이는 2010년대 후반과 2020년대 초반에 뚜렷한 운동으로 등장했으며, 주로 최첨단 모델이 고정된 데이터셋에서 정체되는 경우가 많고, 목표된 데이터 개입이 상당한 성과를 낼 수 있다는 관찰에 대응하여 나타났다.
이 철학은 데이터를 정적 입력으로 취급하고 엔지니어링 노력을 모델에 집중하는 전통적인 모델 중심 관점과 대조된다. 데이터 중심 AI는 데이터셋을 지속적인 큐레이션, 라벨링, 검증이 필요한 동적이고 일급 객체로 취급한다. 여기에는 라벨 오류 식별 및 수정, 중복 및 이상치 제거, 클래스 균형 보장, 데이터 증강 전략 설계와 같은 활동이 포함된다. 이 접근 방식은 의료 영상, 자율 주행, 자연어 처리와 같이 데이터가 부족하거나 노이즈가 많은 분야에서 특히 관련이 있으며, 고품질 데이터 확보 비용이 높은 곳에서 중요하다.
역사적 배경
데이터 중심 사고의 뿌리는 특징 엔지니어링과 데이터 전처리가 중요한 것으로 인식된 초기 머신 러닝 관행으로 거슬러 올라간다. 그러나 "데이터 중심 AI"라는 명시적 용어는 2021년경 앤드류 응과 스탠포드 AI 랩 팀에 의해 널리 알려지게 되었다. 응의 옹호는 강좌, 워크숍, 그리고 Landing AI와 같은 회사 설립을 통해 방법론을 체계화하는 데 기여했다. 이 운동은 또한 ImageNet과 같은 벤치마크 데이터셋 생성과 같은 데이터셋 큐레이션에 대한 초기 학술 작업에서 비롯되었으며, 이는 크고 잘 정리된 컬렉션이 딥 러닝의 돌파구를 이끌 수 있음을 보여주었다.
핵심 원칙과 기법
데이터 중심 AI는 몇 가지 핵심 원칙에 따라 작동한다. 첫째, 양보다 질: 작고 깨끗한 데이터셋이 크고 노이즈가 많은 데이터셋보다 더 나은 성능을 내는 경우가 많다. 기법에는 자동 및 인간-인-더-루프 라벨 검증, 잠재적 오라벨을 표시하는 도구 사용, 합의 기반 재라벨링이 포함된다. 둘째, 데이터 범위와 다양성: 데이터셋이 모델 편향과 실패 모드를 방지하기 위해 엣지 케이스를 포함한 실제 시나리오의 전체 분포를 대표하도록 보장한다. 이는 모델이 인간 검토에 가장 유익한 샘플을 식별하는 능동 학습과 희귀 예제의 목표 수집을 통해 달성된다.
셋째, 데이터 증강 및 합성: 회전, 자르기, 이미지 노이즈 주입 또는 텍스트 패러프레이징과 같은 변환을 통해 새로운 훈련 예제를 생성한다. 고급 방법은 생성 모델을 사용하여 합성 데이터를 만들지만, 이는 분포 이동의 위험을 도입한다. 넷째, 데이터 버전 관리 및 계보: 코드 버전 관리와 유사하게 시간에 따른 데이터셋 변경을 추적하여 재현성을 보장하고 데이터 변경이 성능을 저하시킬 경우 롤백을 가능하게 한다. DVC(Data Version Control) 및 lakeFS와 같은 도구가 이러한 워크플로를 지원한다.
모델 중심 접근 방식과의 관계
데이터 중심 AI는 모델 혁신을 거부하지 않는다. 오히려 데이터에 결함이 있을 때 모델 개선의 수익이 감소한다고 주장한다. 예를 들어, 중복 문장과 사실 오류가 있는 웹 스크랩 텍스트로 훈련된 대규모 언어 모델은 신중하게 필터링된 말뭉치로 훈련된 더 작은 모델보다 낮은 품질의 출력을 생성한다. 두 접근 방식은 상호 보완적이다: 모델 중심 작업은 새로운 트랜스포머 구조를 도입할 수 있고, 데이터 중심 작업은 훈련 세트가 모순과 편향에서 자유롭도록 보장한다. 실제로 많은 조직은 모델과 데이터 모두를 반복하는 하이브리드 전략을 채택하지만, 데이터 중심 AI는 데이터 개입이 종종 더 저렴하고 더 영향력이 크다고 강조한다.
응용 및 사례 연구
컴퓨터 비전에서 데이터 중심 기법은 제조 결함 감지 개선에 사용되었으며, 희귀 결함의 수천 개 라벨 이미지가 수백만 개의 일반 이미지보다 더 가치 있을 수 있다. 의료 분야에서 Commure 및 기타 스타트업은 전자 건강 기록에 데이터 중심 방법을 적용하여 예측 모델을 훈련하기 위해 비구조화 데이터를 정리하고 정규화한다. 자율 주행에서 웨이모와 테슬라 오토파일럿은 데이터 큐레이션에 막대한 투자를 하여 훈련 세트에 가장 유익한 주행 시나리오를 선택한다. 자연어 처리에서 OpenAI와 Anthropic과 같은 회사는 데이터 필터링과 인간 피드백을 사용하여 정렬을 위한 데이터셋을 정제하며, 이는 RLHF와 관련된 과정이다.
비판 및 한계
비판자들은 데이터 중심 AI가 시간이 많이 걸리고 노동 집약적일 수 있으며, 상당한 인간 주석 및 검토가 필요하여 프론티어 AI에서 사용되는 대규모 데이터셋으로 확장되지 않을 수 있다고 주장한다. 또한 큐레이션된 데이터에 과적합되어 보이지 않는 분포에서 일반화 성능이 저하될 위험이 있다. 더 나아가 이 접근 방식은 클래스 정의가 시간에 따라 변하는 라벨 모호성이나 개념 드리프트와 같은 근본적인 문제를 해결하지 못한다. 알렉산더 마드리와 같은 일부 연구자는 데이터 중심 방법이 데이터 품질을 측정하기 위한 엄격한 프레임워크가 필요하며, 주관적 판단이 새로운 편향을 도입할 수 있다고 지적했다. 이러한 어려움에도 불구하고 이 패러다임은 머신 러닝 수명 주기의 표준 부분이 되었으며, 많은 도구와 모범 사례가 AWS, Google Cloud, Azure와 같은 주류 플랫폼에 통합되었다.
미래 방향
데이터 중심 AI의 미래는 모델 자체를 사용하여 이상 징후를 감지하고 수정을 제안하는 데이터 품질 평가의 자동화 증가를 포함할 가능성이 높다. 확산 모델을 사용한 합성 이미지 생성과 같은 생성 모델을 통한 데이터 증강의 부상은 활발한 연구 분야이다. 또한 이 분야는 데이터 큐레이션 파이프라인의 객관적 비교를 가능하게 하기 위해 모델 벤치마크와 유사한 표준화된 데이터 품질 지표와 벤치마크로 이동하고 있다. AI 시스템이 더 중요한 분야에 배포됨에 따라 신뢰할 수 있고 잘 문서화된 데이터에 대한 강조는 더욱 커질 것이며, 데이터 중심 원칙은 책임 있는 AI 개발의 초석이 될 것이다.