기계 번역(MT)은 소프트웨어를 사용하여 텍스트나 음성을 한 자연어에서 다른 자연어로 자동 번역하는 것을 말한다. 이는 인공지능과 자연어 처리에서 가장 오래된 목표 중 하나이며, 그 역사는 상징적 규칙에서 통계, 신경망에 이르기까지 AI 방법의 광범위한 진화를 밀접하게 따라간다.
초기 역사
기계 번역 연구는 1954년 조지타운-IBM 실험과 함께 본격적으로 시작되었는데, 이 실험은 소수의 러시아어 문장을 영어로 자동 번역하는 시연이었으며, 완전 자동 번역이 몇 년 안에 가능할 것이라는 낙관적인 예측을 동반했다. 그러나 진전은 예상보다 훨씬 더뎠고, 1966년 미국의 ALPAC 보고서는 기계 번역이 인간 번역에 비해 실질적인 진전을 거의 이루지 못했다고 결론 내리고 자금 삭감을 권고하여 그 시기의 광범위한 AI 겨울에 기여했다. 이후 수십 년 동안 문법 및 어휘 규칙을 수작업으로 코딩한 규칙 기반 시스템이 등장하여, 자원이 풍부한 언어 쌍에 대해 사용 가능하지만 어색한 결과를 얻었다.
통계적 기계 번역
1980년대 후반에 시작되어 1990년대와 2000년대에 성숙해진 통계적 기계 번역은 수작업 규칙을 대규모 이중 언어 말뭉치로 훈련된 모델로 대체하여, 언어 이론이 아닌 데이터에서 직접 번역 확률을 학습했다. 이 접근 방식은 언어 쌍과 데이터 세트에 걸쳐 더 쉽게 확장되었지만, 번역을 일관된 문장이 아닌 조각 단위로 모델링했기 때문에 문법적으로 어색한 출력을 자주 생성했다.
신경망 기계 번역
2010년대 중반의 신경망 기계 번역으로의 전환은 품질의 또 다른 주요 도약을 의미했다. 초기 신경망 시스템은 시퀀스-투-시퀀스 아키텍처를 사용했는데, 이는 소스 문장을 벡터로 압축하는 인코더 순환 신경망 또는 LSTM과 번역을 생성하는 디코더로 구성되었으며, 어텐션 메커니즘의 추가로 개선되어 디코더가 고정된 단일 요약에 의존하는 대신 각 단계에서 관련 소스 단어에 집중할 수 있게 했다. Google은 2016년에 생산 번역 시스템을 신경망 아키텍처로 전환하여 상당한 품질 향상을 보고했다. 2017년 트랜스포머 아키텍처는 품질과 훈련 효율성을 더욱 개선하여 번역 시스템의 표준 아키텍처가 되었다.
대규모 언어 모델 시대
2020년대 초반 이후, GPT-4 및 Claude와 같은 범용 대규모 언어 모델이 번역 작업에 점점 더 많이 사용되고 있으며, 특히 문자 그대로의 번역보다 맥락적 또는 관용적 판단이 필요한 텍스트에서 많은 언어 쌍에 대해 전용 번역 시스템을 능가하거나 그에 필적하는 성과를 보여준다. 이러한 수렴은 기계 번역을 별개의 제품 범주로 보는 것과 번역을 범용 모델 내의 여러 능력 중 하나로 보는 것 사이의 경계를 흐리게 했지만, 전용 시스템은 지연 시간, 비용, 매우 저자원 언어에 대한 지원에서 여전히 이점을 유지한다.
응용 및 한계
기계 번역은 웹 브라우저, 메시징 앱, 비즈니스 소프트웨어 및 국제 커뮤니케이션 도구에 내장되어 있으며, 언어 간 정보 접근 비용을 크게 낮추었다. 그러나 대규모 훈련 말뭉치가 부족한 저자원 언어, 관용적이고 문화적으로 특수한 표현, 긴 문서 전반에 걸친 일관성 문제로 여전히 어려움을 겪고 있으며, 오류는 법률, 의료 또는 외교적 맥락에서 실제 결과를 초래할 수 있는데, 이는 응용 AI 윤리 내에서 지속적인 우려 사항이다.