자동 분류 체계 구축은 구조화되지 않거나 반구조화된 데이터로부터 계층적 분류 체계, 즉 분류 체계를 자동으로 생성하는 데 관심을 두는 인공지능의 하위 분야이다. 그 목표는 개념이나 개체 집합을 부모-자식 관계가 더 넓은 범주에서 더 좁은 범주로 이어지는 트리 구조로 구성하는 것이다. 이 과정은 전통적으로 지식 조직 체계를 구축하고 유지하는 데 필요한 수동 작업을 줄여주며, 전자상거래, 생물학, 기업 문서 관리와 같이 정보가 빠르게 진화하는 분야에서 특히 유용하다.
이 분야는 지식 표현과 정보 검색에 대한 초기 연구에서 출발했지만, 머신러닝과 딥러닝 기법의 등장과 함께 큰 추진력을 얻었다. 현대적 접근 방식은 종종 대규모 언어 모델과 신경망을 활용하여 개념을 추출하고, 의미적 관계를 식별하며, 새로운 항목을 기존 계층 구조에 배치한다. 자동 분류 체계 구축은 온톨로지 학습과 밀접하게 관련되어 있지만, 더 넓은 의미적 공리보다는 계층적 'is-a' 관계에 특히 초점을 맞춘다.
핵심 작업 및 방법
자동 분류 체계 구축은 일반적으로 용어 추출, 상위어 감지, 계층 유도의 여러 하위 작업을 포함한다. 용어 추출은 텍스트에서 후보 개념을 식별하며, 종종 용어 빈도-역문서 빈도와 같은 통계적 측정이나 더 최근의 신경망 시퀀스 레이블링을 사용한다. 상위어 감지는 한 용어가 다른 용어의 더 넓은 범주인지 여부(예: '개'는 '푸들'의 상위어)를 결정하며, 이는 계층 구조의 기본 구성 요소이다.
계층 유도는 이러한 쌍별 관계를 일관된 트리 또는 방향성 비순환 그래프로 조립한다. 초기 방법은 'X와 같은 Y' 또는 'X는 Y의 일종이다'와 같은 어휘-구문 패턴을 포함한 패턴 기반 규칙에 의존했다. 이후 분포 의미론과 단어 임베딩을 통해 모델이 벡터 공간 기하학에서 상위어 관계를 추론할 수 있게 되었다. 더 최근의 작업은 트랜스포머 기반 아키텍처를 사용하며, 인코더-디코더 모델을 포함하여 분류 체계를 종단 간 방식으로 생성하거나 정제한다.
머신러닝과 딥러닝의 역할
머신러닝은 2000년대 이후 자동 분류 체계 구축의 중심이 되어 왔다. 지도 학습 접근 방식은 레이블이 지정된 상위어 쌍에 대해 분류기를 훈련하는 반면, 비지도 학습 방법은 분포 유사성을 기반으로 용어를 클러스터링한다. 잔차 네트워크와 배치 정규화의 도입은 더 깊은 모델의 훈련을 개선하여 더 미묘한 의미 표현을 가능하게 했다. 드롭아웃과 레이어 정규화는 과적합을 방지하고 훈련을 안정화하는 표준 기법이 되었다.
오픈AI, 앤트로픽, 구글 딥마인드와 같은 기관에서 개발한 대규모 언어 모델의 부상과 함께, 이 분야는 프롬프트 기반 및 미세 조정 접근 방식으로 전환되었다. 이러한 모델은 몇 가지 예시에서 계층적 관계를 추론하는 제로샷 또는 퓨샷 분류 체계 구축을 수행할 수 있다. RLHF(인간 피드백 기반 강화 학습) 및 커리큘럼 학습과 같은 기법은 생성된 분류 체계의 품질을 개선하기 위해 적응되었다.
평가 및 과제
자동으로 구축된 분류 체계를 평가하는 것은 간단하지 않다. 일반적인 지표에는 표준 분류 체계에 대한 정밀도와 재현율, 그리고 트리 편집 거리 또는 부모-자식 쌍에 대한 F1 점수와 같은 구조적 측정이 포함된다. 그러나 표준은 종종 도메인 특화되어 있으며 다양한 유효한 계층 구조를 반영하지 못할 수 있다. 연구자들은 또한 관계의 타당성을 판단하는 주석가에 의한 인간 평가를 사용한다.
주요 과제는 모호한 용어와 다의어를 처리하는 것이다. 예를 들어, '은행'은 금융 기관 또는 강가를 의미할 수 있으며, 올바른 상위어는 문맥에 따라 달라진다. 또 다른 과제는 확장성이다: 대규모 전자상거래 플랫폼의 분류 체계는 수백만 개의 노드를 포함할 수 있어 효율적인 알고리즘과 분산 컴퓨팅이 필요하다. 모델 가지치기 및 데이터 증강과 같은 기법은 계산 비용을 관리하고 견고성을 개선하는 데 도움이 된다.
응용 및 향후 방향
자동 분류 체계 구축은 아마존 웹 서비스 제품 분류, 구글 클라우드 지식 그래프, 마이크로소프트 애저 엔터프라이즈 검색에 실용적인 응용이 있다. 또한 웨이모의 자율 주행 차량 장면 이해와 테슬라 오토파일럿의 객체 분류를 지원한다. 생물의학 분야에서는 유전자 온톨로지와 질병 분류를 구성하는 데 도움이 된다.
향후 연구는 텍스트의 장거리 의존성을 포착하기 위한 멀티 헤드 어텐션 메커니즘과 언어 간 분류 체계를 정렬하기 위한 크로스 어텐션의 사용을 탐구하고 있다. 또한 새로운 개념이 등장함에 따라 시간이 지남에 따라 진화할 수 있는 동적 분류 체계에 대한 관심도 증가하고 있다. 2025년 현재, 생성형 AI와 인간 참여 검증의 통합은 자동화와 정확성의 균형을 맞추는 유망한 방향으로 여겨진다.