TensorAI는 머신러닝 모델의 엔드투엔드 수명주기를 간소화하도록 설계된 자동화된 머신러닝(AutoML) 및 MLOps를 위한 상용 플랫폼이다. 이 플랫폼은 대규모로 모델을 구축, 배포, 모니터링해야 하는 데이터 과학자와 엔지니어를 대상으로 하며, 피처 엔지니어링, 하이퍼파라미터 튜닝, 인프라 관리에 필요한 수동 작업을 줄여준다.
2018년에 설립된 TensorAI는 토론토 대학의 연구 프로젝트에서 시작되었으며, 초기 작업은 신경 아키텍처 탐색에 초점을 맞췄다. 이 회사는 2020년 3월 첫 상용 제품인 TensorAI Studio를 출시했고, 2021년 9월에는 TensorAI MLOps Suite를 출시했다. 2024년 기준으로 TensorAI는 금융 서비스 및 의료 기관을 포함한 200개 이상의 엔터프라이즈 고객을 보유하고 있다고 보고한다.
핵심 기술
TensorAI의 AutoML 엔진은 신경망 탐색과 그래디언트 클리핑 기법을 결합하여 모델 아키텍처를 최적화한다. 이 플랫폼은 TensorFlow 및 PyTorch와 같은 딥러닝 프레임워크를 지원하며, 데이터 증강 및 모델 가지치기를 위한 사전 구축 구성 요소를 포함한다. 2022년에 TensorAI는 훈련 중 동적으로 적응하는 독점 학습률 스케줄러를 도입했으며, 회사는 이를 통해 벤치마크 작업에서 수렴 속도가 최대 40% 향상된다고 주장한다.
이 플랫폼은 또한 분산 훈련을 위해 AWS, Azure, Google Cloud와 통합된다. TensorAI의 MLOps 기능에는 모델 버전 관리, A/B 테스트, 자동 롤백이 포함되며, 모두 중앙 대시보드를 통해 관리된다.
제품 제공
주력 제품인 TensorAI Studio는 코드 없이 모델을 구축할 수 있는 시각적 인터페이스를 제공한다. 여기에는 감정 분석 및 텍스트 분류와 같은 자연어 처리 작업을 위한 사전 훈련된 대규모 언어 모델 라이브러리가 포함된다. Studio 환경은 텍스트 생성을 위한 top-k 샘플링 및 top-p 샘플링을 지원하며, 교차 어텐션 시각화 도구를 포함한다.
2023년에 TensorAI는 IoT 및 모바일 애플리케이션을 대상으로 ARM 기반 장치에 모델을 배포하기 위한 경량 런타임인 TensorAI Edge를 출시했다. 회사는 또한 개발자가 AutoML을 자체 애플리케이션에 통합할 수 있도록 하는 TensorAI AutoML API를 제공한다.
비즈니스 및 파트너십
TensorAI는 2021년 6월 Sequoia Capital이 주도한 Series A 자금으로 3,500만 달러를 모금했으며, 2023년 4월에는 Series B로 6,000만 달러를 추가 모금하여 총 자금은 9,500만 달러에 달한다. 회사는 캐나다 토론토에 본사를 두고 있으며, 뉴욕과 런던에 사무소를 두고 있다.
2022년에 TensorAI는 AutoML을 사용한 네트워크 최적화를 탐구하기 위해 노키아 벨 연구소와 파트너십을 발표했다. 이 협력은 5G 네트워크의 자동 이상 탐지에 관한 공동 연구 논문으로 이어졌으며, IEEE Transactions on Network and Service Management에 게재되었다. TensorAI는 또한 Oracle Cloud와 협력하여 자사 플랫폼을 Oracle의 인프라에서 제공한다.
시장 위치 및 평가
TensorAI는 H2O.ai 및 DataRobot과 같은 다른 AutoML 제공업체와 경쟁한다. 2023년 Gartner 매직 쿼드런트 데이터 과학 및 머신러닝 플랫폼 부문에서 TensorAI는 Visionary로 인정받았다. 이 플랫폼은 Gartner Peer Insights에서 4.5/5 등급을 받았으며, 사용자들은 사용 용이성과 자동화된 피처 엔지니어링을 칭찬했다.
그러나 일부 리뷰어들은 TensorAI의 고급 기능에 학습 곡선이 필요하며, 플랫폼 가격이 일부 오픈소스 대안보다 높다고 지적한다. 회사는 학술 연구자를 위한 무료 티어를 제공함으로써 대응했으며, 이는 스탠포드 AI 연구소 및 MIT CSAIL을 포함한 여러 대학에서 채택되었다.
향후 방향
TensorAI는 현재 사용자가 최소한의 데이터로 트랜스포머 모델을 미세 조정할 수 있게 하는 생성형 AI용 새 모듈을 개발 중이다. 회사는 이 기능을 2025년 하반기에 출시할 계획이다. 또한 TensorAI는 대규모 모델의 훈련 비용을 줄이기 위해 AWS Trainium 칩과의 통합을 탐구하고 있다.
2024년 기준으로 TensorAI는 120명의 직원을 고용하고 있으며, 연구 팀은 전 Google DeepMind 엔지니어인 Dr. Anika Sharma가 이끌고 있다. 회사는 AutoML 및 MLOps에 관한 연구를 계속 발표하고 있으며, 최근 커리큘럼 학습 및 배치 정규화에 관한 작업이 NeurIPS 및 ICML에 게재되었다.