Weights & Biases(W&B)는 머신러닝 실험 추적, 데이터셋 버전 관리, 모델 평가를 위한 플랫폼을 개발하는 소프트웨어 회사입니다. 2017년에 설립된 이 회사는 연구자와 엔지니어가 머신러닝 실험의 지표, 하이퍼파라미터, 출력을 포함한 로그 기록, 시각화, 비교를 돕는 도구를 제공합니다. 이 플랫폼은 TensorFlow, PyTorch, Keras와 같은 인기 프레임워크와 통합되며, 대규모 언어 모델 및 생성형 AI 애플리케이션의 워크플로를 지원합니다.
이 회사는 데이터 라벨링 플랫폼인 CrowdFlower에서 이전에 작업한 Lukas Biewald, Chris Van Pelt, Shawn Lewis가 공동 설립했습니다. W&B는 모델 훈련의 반복적 프로세스를 간소화할 필요성에서 출발하여, 실행 추적, 결과 비교, 팀 간 발견 공유를 위한 중앙 집중식 대시보드를 제공합니다. 2024년 기준으로 이 플랫폼은 OpenAI, Anthropic, Google DeepMind를 포함한 1,000개 이상의 조직에서 사용되며, 2억 5천만 달러 이상의 자금을 조달했고, 기업 가치는 10억 달러를 초과합니다.
핵심 기능
W&B는 실험 추적에 중점을 둔 도구 모음을 제공합니다. 사용자는 손실 및 정확도와 같은 지표를 실시간으로 기록하고, 대화형 차트로 시각화하며, 여러 실행을 나란히 비교할 수 있습니다. 플랫폼은 또한 하이퍼파라미터 스윕을 지원하여 매개변수 공간에 대한 자동 검색을 가능하게 하고, 데이터셋 및 모델 버전 관리를 위한 아티팩트 관리를 제공합니다. 프로덕션 워크플로의 경우 W&B는 모델 레지스트리 및 평가 도구를 제공하여 팀이 모델 버전을 추적하고, 성능을 모니터링하며, 공유 보고서와 댓글을 통해 협업을 촉진할 수 있게 합니다.
통합 및 생태계
이 플랫폼은 주요 AI 프레임워크 및 클라우드 서비스와 통합됩니다. Amazon Web Services, Microsoft Azure, Google Cloud와 함께 작동하며, AMD, Intel, NVIDIA의 하드웨어 가속기를 지원합니다(타사 라이브러리를 통해). W&B는 또한 Python 및 R용 SDK를 제공하며, 모델 관리를 위해 Hugging Face 및 MLflow와의 통합을 제공합니다. 오픈소스 라이브러리인 wandb는 널리 채택되어 2024년 기준 월 50만 건 이상의 다운로드를 기록하고 있습니다.
AI 연구에서의 응용
W&B는 학술 및 산업 연구에서 광범위하게 사용됩니다. 트랜스포머 및 딥러닝 아키텍처에 대한 연구를 포함하여 수천 편의 논문에서 인용되었습니다. Stanford AI Lab, MIT CSAIL, Berkeley AI Research의 팀은 재현성과 협업을 위해 이 플랫폼을 사용합니다. 산업 분야에서는 Tesla 및 Waymo와 같은 회사가 자율 주행 모델 훈련에 W&B를 활용하며, OpenAI와 Anthropic은 LLM 개발 및 평가에 이를 사용합니다.
비즈니스 및 성장
샌프란시스코에 본사를 둔 W&B는 런던과 서울에 사무소를 두고 글로벌로 확장했습니다. 이 회사는 2021년 Sequoia Capital과 Tiger Global이 주도한 1억 3,500만 달러 규모의 시리즈 C 라운드를 조달하여 총 자금을 2억 5천만 달러 이상으로 늘렸습니다. 2023년 W&B는 배포 기능을 강화하기 위해 오픈소스 프로젝트인 Launchpad를 인수했습니다. 이 회사는 300명 이상의 직원으로 성장했으며, LLM 프롬프트 및 응답 추적 도구를 포함한 생성형 AI 모니터링 기능을 계속 추가하고 있습니다.
커뮤니티 및 오픈소스
W&B는 강력한 오픈소스 입지를 유지하고 있습니다. wandb 라이브러리는 Apache 2.0 라이선스로 제공되며, 회사는 커뮤니티 이벤트와 교육 이니셔티브를 후원합니다. 학술 연구자와 학생을 위한 무료 티어를 제공하며, 주요 AI 실무자들의 강연을 특징으로 하는 연례 컨퍼런스인 W&B Summit을 개최합니다. 플랫폼의 문서와 튜토리얼은 Coursera 및 fast.ai의 온라인 강좌를 포함한 온라인 과정에서 널리 사용됩니다.
향후 방향
머신러닝이 진화함에 따라 W&B는 LLM 평가, 인간 피드백 기반 강화 학습, MLOps 자동화를 위한 도구에 집중하고 있습니다. 이 회사는 GitHub가 소프트웨어 엔지니어링에 서비스를 제공하는 것처럼 AI 개발을 위한 표준 인프라가 되는 것을 목표로 합니다. 생성형 AI의 부상과 함께 W&B는 대규모 훈련 실행 및 실시간 모니터링을 처리할 수 있는 역량을 확장하여 AI 인프라 스택의 중심에 자리 잡고 있습니다.