MLOps는 "머신러닝"과 "운영"의 합성어로, 프로덕션 환경에서 머신러닝 모델을 안정적이고 효율적으로 배포하고 유지 관리하는 데 초점을 맞춘 패러다임이다. 이는 일반적으로 격리된 실험 시스템에서 이루어지는 ML 알고리즘 개발과 이러한 모델이 실행되는 운영 환경 사이의 간극을 메운다. 이 관행은 머신러닝, DevOps 원칙을 강조하는 소프트웨어 엔지니어링, 데이터 엔지니어링이라는 세 가지 기여 학문에서 비롯된다. 그 목표는 모델이 견고하고 확장 가능하며 비즈니스 목표에 부합하도록 보장하는 동시에 거버넌스 및 규제 요구 사항을 해결하는 것이다.
이 용어는 "머신러닝"과 DevOps의 지속적 전달 관행, 특히 CI/CD(지속적 통합 및 지속적 전달) 구성 요소를 결합한 데서 유래했다. MLOps는 모범 사례 모음에서 ML 수명 주기 관리의 독립적인 접근 방식으로 서서히 진화하고 있다. 그 원칙에는 CI/CD 자동화, 워크플로 오케스트레이션, 재현성, 데이터·모델·코드 버전 관리, 협업, 지속적 훈련 및 평가, 메타데이터 추적, 모니터링, 피드백 루이 포함된다.
정의 및 범위
MLOps는 머신러닝, 소프트웨어 엔지니어링(특히 DevOps), 데이터 엔지니어링이라는 세 가지 학문을 활용하는 엔지니어링 관행이다. 이는 개발(Dev)과 운영(Ops)을 연결하여 머신러닝 제품 생성을 촉진하는 것을 목표로 한다. 그 범위는 ML 시스템의 전체 수명 주기를 포괄한다. 모델 생성과의 통합(소프트웨어 개발 수명 주기 및 CI/CD 포함)부터 오케스트레이션, 배포, 그리고 상태 모니터링, 진단, 거버넌스, 비즈니스 지표에 이르기까지다. MLOps 시스템은 워크플로를 자동화하고 마찰을 줄이며 품질을 개선하도록 설계되었다. 이는 ML을 프로덕션화하고 실험에서 지속적 운영으로 전환하는 데 필수적이다. 이 학문은 모든 유형의 AI 모델 운영화를 다루는 ModelOps 및 IT 운영에 AI를 사용하는 AIOps와는 구별된다.
역사
머신러닝 운영화에 대한 관심은 ML 프로젝트가 실험에서 프로덕션으로 이동하기 시작한 2010년대 중반에 커졌다. 2015년 논문은 이러한 시스템을 유지하는 데 따르는 어려움을 강조했다. 2017년부터 2018년까지, 그리고 다시 2018년부터 2020년까지 ML 파일럿 및 구현 건수는 두 배로 증가한 것으로 추산되어 채택 증가를 반영했다. 그러나 기업 ML 이니셔티브의 최대 88%가 테스트 단계를 넘어서는 데 어려움을 겪었으며, ML을 성공적으로 배포한 조직은 이윤 마진이 3~15% 증가했다. MLOps 시장 규모는 2024년 2,191.8만 달러로 성장했으며, 2030년까지 16,613.4만 달러에 이를 것으로 전망되어 아마존 웹 서비스, 애저, 구글 클라우드, 오라클 클라우드와 같은 제공업체의 상당한 산업 투자를 나타낸다.
아키텍처
머신러닝 시스템은 데이터 수집, 데이터 처리, 특성 엔지니어링, 데이터 라벨링, 모델 설계, 모델 훈련 및 최적화, 엔드포인트 배포, 엔드포인트 모니터링의 여덟 가지 범주로 나눌 수 있다. 각 단계는 자체 시스템으로 구축되지만 상호 연결이 필요하다. 일반적인 MLOps 아키텍처에는 모델이 구축되는 데이터 과학 플랫폼과 계산이 실행되는 분석 엔진이 포함되며, MLOps 도구가 모델, 데이터, 결과물의 이동을 오케스트레이션한다. 이러한 최소 구성 요소는 기업이 조직 내에서 ML을 확장하는 데 필수적인 것으로 간주된다.
목표 및 관행
MLOps는 ML 수명 주기 전반에 걸쳐 여러 목표를 달성하는 것을 목표로 한다. 여기에는 모델이 안정적으로 릴리스되도록 보장하는 배포 및 자동화, 실험을 반복할 수 있도록 하는 모델 및 예측의 재현성, 문제 식별을 위한 진단, 거버넌스 및 규제 준수, 증가하는 데이터와 모델을 처리하기 위한 확장성이 포함된다. 이 학문은 또한 팀 간 협업, 비즈니스 요구에 ML 적용, 배포된 모델의 지속적 모니터링 및 관리에 중점을 둔다. 표준 MLOps 관행은 이러한 모든 영역을 고려하여 워크플로를 최적화하고 구현 문제를 방지한다.
상업적 채택
공급업체는 상업용 MLOps 인프라를 제공하기 위해 등장했으며, 대규모 언어 모델을 배포하는 조직을 위한 강화 학습 운영(RLOps)과 같은 전문 제공도 포함한다. MLOps의 진화는 딥러닝 프레임워크 및 플랫폼의 성장과 병행했지만, 더 광범위한 ML 모델 세트에 적용된다. 이 분야는 AI 모델이 더 복잡해지고 프로덕션 수요가 증가함에 따라 계속 진화하고 있다.
참고 자료
Wikipedia(CC BY-SA) 및 업계 보고서의 출처 자료.