머신 러닝은 인공지능의 한 하위 분야로, 컴퓨터 시스템이 명시적으로 프로그래밍된 규칙을 따르기보다 데이터에서 통계적 패턴을 학습하여 특정 작업에서 성능을 향상시키는 것을 말한다. 이는 스팸 필터에서 대규모 언어 모델에 이르기까지 대부분의 현대 인공지능 응용 프로그램의 기반이 된다.
이 용어는 일반적으로 1959년에 자기 대국(self-play)을 통해 향상되는 체커 게임 프로그램을 설명하면서 이 용어를 사용한 아서 새뮤얼에게 귀속된다.
패러다임
머신 러닝은 일반적으로 세 가지 패러다임으로 구분된다. 지도 학습에서는 모델이 올바른 레이블과 짝을 이룬 예제(예: 객체 범주로 태그된 이미지)에서 학습한다. 비지도 학습에서는 모델이 레이블이 없는 데이터에서 구조를 찾는데, 예를 들어 유사한 항목을 함께 클러스터링한다. 강화 학습에서는 에이전트가 환경에서 행동을 취하고 보상이나 패널티를 받으며 학습하는데, 이 패러다임은 AlphaGo와 같은 획기적인 결과를 낳았다. 네 번째 접근 방식인 자기 지도 학습은 레이블이 없는 데이터에서 자체 학습 신호를 생성하는데, 예를 들어 문맥에서 숨겨진 단어를 예측하는 방식이며, 현대 언어 모델의 사전 학습 뒤에 있는 방법이다.
핵심 방법
대부분의 머신 러닝 모델은 모델의 예측이 얼마나 틀렸는지 측정하는 손실 함수를 정의한 다음, 경사 하강법 또는 관련 최적화 절차를 통해 손실을 줄이도록 모델의 매개변수를 조정하여 훈련된다. 블라디미르 바프니크와 동료들이 개발한 서포트 벡터 머신과 같은 딥 러닝 시대 이전의 통계적 접근 방식은 더 작거나 해석 가능한 문제에 여전히 사용된다. 2010년대 이후로 신경망 모델, 특히 딥 러닝 아키텍처는 충분한 훈련 데이터와 계산 능력이 주어졌을 때 이미지, 오디오, 텍스트를 포함한 작업에서 지배적인 방법이 되었다.
실용적 고려 사항
머신 러닝의 핵심 과제는 과적합으로, 모델이 새로운 예제에 일반화되는 패턴을 학습하기보다 훈련 데이터에 특정한 패턴을 암기하는 경우이다. 실무자들은 정규화, 교차 검증, 테스트 데이터 보류와 같은 기술을 통해 이를 해결한다. 훈련 데이터의 품질과 규모, 그리고 모델 아키텍처의 선택은 일반적으로 단일 알고리즘 트릭보다 실제 성능에 더 큰 결정 요인이다.
채택
머신 러닝은 2010년대에 학문적 분야에서 주류 엔지니어링 실무로 이동했으며, 부분적으로 공개적으로 사용 가능한 프레임워크, 클라우드 컴퓨팅, 그리고 온라인 강좌를 통해 이 분야를 폭넓은 청중에게 소개한 앤드류 응과 같은 교육자들에 의해 추진되었다. 이제 검색 순위, 사기 탐지, 의료 영상 분석, 추천 시스템, 그리고 현대 대화형 어시스턴트를 구동하는 대규모 언어 모델의 훈련을 뒷받침한다.
머신 러닝과 이전의 규칙 기반 소프트웨어 사이의 구분은 실제로 항상 명확하지는 않다. 많은 프로덕션 시스템이 학습된 구성 요소와 수동으로 작성된 비즈니스 로직을 결합하기 때문이다. 그러나 머신 러닝 시스템의 정의적 특징은 프로그래머가 직접 작성한 규칙보다 훈련된 데이터에 의해 그 동작이 실질적으로 형성된다는 점에 남아 있다.
최근 발전
2012년, 알렉스 크리제프스키, 일리야 수츠케버, 제프리 힌턴이 개발한 AlexNet은 ImageNet 이미지 인식 대회에서 크게 향상된 결과를 달성하여 딥 신경망의 더 넓은 채택에 기여했다. 2013년, 토마시 미콜로프와 동료들은 대규모 텍스트 코퍼스에서 단어의 분산 벡터 표현을 효율적으로 학습하는 기술인 Word2vec을 도입했다. 2014년, 이안 굿펠로우와 동료들은 적대적 과정을 통해 생성 모델을 훈련하는 프레임워크인 생성적 적대 신경망(GANs)을 도입했다. 2016년, AlphaGo는 딥 신경망과 강화 학습을 사용하여 전체 크기 보드에서 핸디캡 없이 프로 인간 바둑 기사를 이긴 최초의 컴퓨터 프로그램이 되었다. 2017년, 아시시 바스와니와 동료들은 주로 어텐션에 기반하고 순환 또는 합성곱이 아닌 신경망 아키텍처인 트랜스포머를 도입했다.