투게더 컴퓨터(Together Computer)는 오픈소스 인공지능 모델의 훈련과 서빙을 위해 설계된 클라우드 플랫폼이다. 2022년에 설립된 이 회사는 개발자와 기업이 대규모 언어 모델 및 기타 머신러닝 시스템을 구축하고, 미세 조정하며, 배포할 수 있게 해주는 인프라와 도구를 제공한다. 투게더 컴퓨터는 독점 AI 제공 서비스에 대한 대안으로 자리매김하며, 투명성, 맞춤화, 커뮤니티 주도 개발을 강조한다.
이 플랫폼은 트랜스포머 아키텍처 기반 모델을 포함한 다양한 오픈소스 모델을 지원하며, 관리형 훈련 클러스터, 추론 엔드포인트, 미세 조정 API와 같은 서비스를 제공한다. AMD 및 NVIDIA와 같은 공급업체의 GPU를 포함한 고성능 컴퓨팅 자원을 활용함으로써, 투게더 컴퓨터는 대규모 AI 워크로드 실행의 비용과 복잡성을 줄이는 것을 목표로 한다.
역사 및 설립
투게더 컴퓨터는 머신러닝 및 분산 시스템 분야의 배경을 가진 연구원과 엔지니어 팀에 의해 2022년에 설립되었다. Chen Wu 및 Freddie Sulit를 포함한 창립자들은 개별 조직의 역량을 넘어서는 AI 모델 확장의 과제를 해결하고자 했다. 이 회사는 오픈소스 AI에 대한 초점으로 빠르게 주목을 받았으며, 벤처 캐피탈 회사들로부터 상당한 자금을 유치했다.
2023년, 투게더 컴퓨터는 모델 훈련 및 서빙을 위한 도구 모음을 포함한 주력 플랫폼을 출시했다. 이 플랫폼은 독점 클라우드 서비스에 대한 유연하고 비용 효율적인 대안을 찾는 스타트업과 연구 기관 사이에서 traction을 얻었다.
기술 및 인프라
투게더 컴퓨터의 인프라는 훈련과 추론을 모두 지원하는 분산 컴퓨팅 아키텍처 위에 구축되었다. 이 플랫폼은 AWS 및 기타 클라우드 제공업체를 활용하여 확장 가능한 GPU 클러스터를 제공하며, AWS Trainium 및 기타 특수 하드웨어 옵션을 지원한다. 이를 통해 사용자는 물리적 인프라에 투자하지 않고도 대규모 훈련 작업을 실행할 수 있다.
이 회사는 또한 낮은 지연 시간과 높은 처리량을 위해 모델 서빙을 최적화하는 투게더 추론 엔진(Together Inference Engine)과 같은 오픈소스 소프트웨어 도구를 개발한다. 이러한 도구는 PyTorch 및 TensorFlow와 같은 인기 프레임워크와 함께 작동하도록 설계되었으며, Hugging Face 및 기타 저장소의 모델을 지원한다.
제품 및 서비스
투게더 컴퓨터는 다양한 사용 사례에 맞춘 여러 제품과 서비스를 제공한다:
- 관리형 훈련(Managed Training): 사용자는 분산 훈련 및 체크포인팅 지원과 함께 전용 클러스터에서 훈련 작업을 시작할 수 있다.
- 추론 엔드포인트(Inference Endpoints): 자동 확장 및 로드 밸런싱을 갖춘 API로 모델을 배포한다.
- 미세 조정(Fine-Tuning): 사전 훈련된 모델을 특정 도메인이나 작업에 적응시키기 위한 도구이다.
- 모델 라이브러리(Model Library): LLM인 Llama 및 Mistral을 포함한 오픈소스 모델의 선별된 컬렉션이다.
이러한 서비스는 웹 콘솔, CLI, REST API를 통해 접근할 수 있어, 기존 워크플로우와 쉽게 통합할 수 있다.
오픈소스 기여
투게더 컴퓨터는 오픈소스 AI의 강력한 지지자이다. 이 회사는 언어 모델 훈련을 위한 대규모 말뭉치인 투게더 레드파자마(Together RedPajama) 데이터셋을 포함하여, 여러 모델과 도구를 오픈 라이선스로 공개했다. 2023년에 공개된 이 데이터셋은 독점 데이터셋의 품질을 재현하면서도 자유롭게 사용할 수 있도록 만들어졌다.
또한, 투게더 컴퓨터는 생성형 AI 연구 개발에 기여하며, 학계 기관 및 산업 파트너와 협력하고 있다. 이 회사의 노력은 AI 커뮤니티에서 인정받았으며, 그 모델은 리더보드와 벤치마크에 등장하고 있다.
시장 위치 및 경쟁
투게더 컴퓨터는 AWS, Microsoft Azure, Google Cloud와 같은 주요 클라우드 제공업체와, CoreWeave, Cerebras, Groq와 같은 전문 AI 인프라 회사를 포함한 경쟁 환경에서 운영된다. 이러한 경쟁사와 달리, 투게더 컴퓨터는 오픈소스 모델에만 전념하여, 더 유연하고 맞춤화 가능한 플랫폼을 제공한다.
이 회사는 또한 OpenAI, Anthropic, Google DeepMind와 같은 AI 연구 조직과 경쟁하지만, 독점 모델을 개발하지 않는다는 점에서 차별화된다. 대신, 사용자가 자신의 모델을 구축하고 배포할 수 있도록 지원하여, 혁신을 촉진하고 폐쇄형 시스템에 대한 의존도를 줄인다.
향후 방향
2025년 현재, 투게더 컴퓨터는 더 많은 하드웨어 가속기를 지원하고 소프트웨어 스택을 개선할 계획과 함께 서비스를 계속 확장하고 있다. 이 회사는 또한 AMD 및 Intel과 같은 반도체 회사와의 파트너십을 모색하여, 다양한 아키텍처에서 성능을 최적화하고 있다.
AI 솔루션에 대한 수요가 증가함에 따라, 투게더 컴퓨터는 오픈소스 AI 개발을 위한 선도 플랫폼이 되어, 더 넓은 커뮤니티가 머신러닝 발전에 참여할 수 있도록 하는 것을 목표로 한다.