WhyLabs는 인공지능 및 머신러닝 시스템을 위한 관측 가능성(observability) 및 모니터링 플랫폼을 제공하는 소프트웨어 회사입니다. 이 회사의 제품은 조직이 프로덕션 환경에서 데이터 파이프라인과 머신러닝 모델의 상태를 추적하여, 데이터 드리프트(data drift), 모델 성능 저하, 이상 징후와 같은 문제가 비즈니스 성과에 영향을 미치기 전에 감지하도록 설계되었습니다. 이 회사는 자사의 기술을 AI 운영을 위한 중앙 집중식 제어 평면(control plane)으로 포지셔닝하며, 데이터 과학, 엔지니어링 및 거버넌스 팀을 지원합니다.
2019년에 설립되어 워싱턴주 시애틀에 본사를 둔 WhyLabs는 머신러닝을 운영화하려는 광범위한 움직임에서 탄생했습니다. 이 회사의 핵심 제품인 WhyLabs 플랫폼은 기존 ML 워크플로우와 통합되어 모델 입력, 출력 및 성능 지표를 지속적으로 모니터링합니다. 이 플랫폼은 Amazon Web Services, Microsoft Azure, Google Cloud 같은 클라우드 서비스뿐만 아니라 온프레미스 및 하이브리드 환경을 포함한 다양한 배포 환경을 지원합니다. 이 플랫폼은 whylogs라는 오픈소스 라이브러리를 기반으로 구축되었으며, 이 라이브러리는 데이터의 통계적 프로필을 생성하여 가볍고 확장 가능한 로깅을 가능하게 합니다.
역사와 설립 배경
WhyLabs는 데이터 과학, 소프트웨어 엔지니어링 및 ML 인프라 분야의 배경을 가진 팀이 공동 설립했습니다. 설립자들은 시장의 공백을 인식했습니다. 모델을 구축하고 훈련시키는 도구는 많았지만, 배포 후 모델을 모니터링하는 과제를 해결하는 도구는 거의 없었습니다. 이 회사는 처음에 whylogs를 오픈소스 프로젝트로 개발하는 데 집중했으며, 이 프로젝트는 유연한 방식으로 데이터 분포를 로깅하고 요약하려는 데이터 팀 사이에서 traction을 얻었습니다. 2021년, WhyLabs는 상용 플랫폼을 확장하고 엔지니어링 및 시장 진출 팀을 성장시키기 위해 시리즈 A 투자 라운드를 유치했습니다. 이후 이 회사는 주요 클라우드 제공업체 및 ML 도구 공급업체와 파트너십을 맺어 자사의 모니터링 기능을 더 넓은 AI 워크플로우에 통합했습니다.
기술 및 제품
WhyLabs 플랫폼은 머신러닝 애플리케이션에 사용되는 구조화된 데이터(예: 테이블 형식 데이터셋)와 비구조화된 데이터(예: 텍스트 또는 이미지)를 모두 모니터링하기 위한 통합 인터페이스를 제공합니다. 주요 기능으로는 현재 데이터 분포를 과거 기준선과 비교하는 드리프트 감지, 분류 및 회귀 모델의 성능 모니터링, 그리고 Slack 또는 PagerDuty 같은 도구와의 통합을 통해 팀에 이상 징후를 알리는 알림 메커니즘이 포함됩니다. 이 플랫폼은 또한 대규모 언어 모델(LLM) 관측 가능성을 지원하여 생성형 AI 애플리케이션의 토큰 사용량, 응답 지연 시간, 안전 위반과 같은 지표를 추적합니다. 이 기능은 환각(hallucination) 또는 편향된 출력을 모니터링하는 것이 중요한 생성형 AI 시스템을 배포하는 조직에 특히 관련이 있습니다.
오픈소스 핵심인 whylogs는 시스템을 통해 흐르는 데이터의 간결한 통계 요약(또는 "프로필")을 생성하는 방식으로 작동합니다. 이러한 프로필은 병합 및 분석되어 원시 데이터를 저장하지 않고도 드리프트 지표를 계산할 수 있으며, 이는 개인정보 보호 및 저장 문제를 해결합니다. WhyLabs는 또한 조직이 ML 수명 주기 전반에 걸쳐 데이터 자산을 발견하고 관리하는 데 도움이 되는 데이터 카탈로그 기능도 제공합니다.
사용 사례 및 산업 영향
WhyLabs는 금융 서비스, 의료, 소매 및 기술을 포함한 다양한 산업을 대상으로 합니다. 금융 분야에서 이 플랫폼은 사기 탐지 모델과 신용 평가 시스템을 모니터링하여 고객 행동의 변화가 모델 정확도를 조용히 저하시키지 않도록 보장하는 데 사용됩니다. 의료 분야에서는 신뢰성이 가장 중요한 진단 또는 환자 위험 계층화를 지원하는 모델을 추적하는 데 도움을 줍니다. 이 회사의 도구는 또한 입력 데이터 분포의 변화에 민감할 수 있는 신경망 및 트랜스포머 기반 모델을 실행하는 조직에서도 채택됩니다.
주목할 만한 사용 사례는 MLOps(머신러닝 운영)로, WhyLabs는 지속적인 피드백 루프를 제공하여 기존 CI/CD 파이프라인을 보완합니다. 데이터 과학 팀은 모델 개발 중에 모니터를 설정하고 이를 프로덕션으로 이어가 실험에서 배포로의 원활한 전환을 가능하게 합니다. 이 플랫폼은 배치 및 스트리밍 데이터를 모두 처리할 수 있어 추천 시스템이나 자율 주행 차량 인식 파이프라인과 같은 실시간 애플리케이션에 적합하지만, 후자는 여전히 신흥 분야로 남아 있습니다.
거버넌스 및 책임 있는 AI
WhyLabs는 또한 AI 거버넌스와 책임 있는 AI 관행에 대한 증가하는 필요성을 해결합니다. 시간 경과에 따른 모델 동작의 상세한 로그를 제공함으로써, 이 플랫폼은 조직이 EU AI Act와 같은 규정이나 내부 위험 관리 프레임워크에 대한 준수를 입증하는 데 도움을 줍니다. 이는 모델이 언제 업데이트되었는지, 다양한 인구 통계 그룹에서 어떻게 성과를 냈는지, 배포 후 편향이 나타났는지 여부를 보여주는 감사 추적을 가능하게 합니다. 이는 인공지능을 더 투명하고 책임 있게 만들기 위한 광범위한 산업 노력과 일치합니다.
이 회사는 모니터링이 단지 기술적 성과에 관한 것이 아니라 비즈니스 영향에 관한 것임을 강조합니다. 예를 들어, 모델 정확도의 감소는 고객 만족도 하락이나 운영 비용 증가와 상관관계가 있을 수 있습니다. WhyLabs의 대시보드는 이해관계자가 ML 지표를 비즈니스 KPI와 연결할 수 있게 하여 부서 간 더 나은 의사 결정을 촉진합니다.
경쟁 환경 및 향후 방향
ML 모니터링 시장에는 Arize AI, Fiddler, Evidently AI와 같은 다른 업체들이 있지만, WhyLabs는 오픈소스 기반과 데이터 중심 관측 가능성에 대한 초점을 통해 차별화합니다. 이 회사는 또한 드리프트 감지 알고리즘과 이상 탐지에 관한 연구에 투자하여 논문을 발표하고 학술 논의에 기여했습니다. 2025년 현재, WhyLabs는 LLM 모니터링 기능을 계속 확장하여 프롬프트 엔지니어링 변경 추적 및 모델 버전 비교 기능을 추가하고 있습니다. 이 회사는 또한 연결성이 제한된 환경으로 모니터링을 확장할 수 있는 엣지 컴퓨팅 플랫폼 및 온디바이스 ML과의 통합을 탐색하고 있습니다.
WhyLabs의 궤적은 AI 산업의 더 넓은 추세를 반영합니다. 모델이 더 복잡해지고 널리 배포됨에 따라 강력한 운영 도구에 대한 필요성이 커집니다. 이 회사가 오픈 표준과 상호 운용성에 중점을 둔 점은 Datadog나 New Relic 같은 모니터링 도구가 전통적인 소프트웨어에 필수적이 된 것과 유사하게, AI 스택의 기본 레이어가 되기에 유리한 위치를 차지합니다. 그러나 이 분야는 여전히 초기 단계이며, 장기적인 승자는 조직이 성숙한 MLOps 관행을 얼마나 빨리 채택하는지에 달려 있습니다.