Together는 대규모 언어 모델 및 기타 생성형 AI 시스템을 위한 교육, 미세 조정, 배포 인프라와 서비스를 제공하는 AI 클라우드 플랫폼입니다. 2022년에 설립된 이 회사는 관리형 API와 고성능 GPU 클러스터를 통해 오픈소스 모델에 대한 액세스를 제공하며, 오픈AI 및 앤트로픽과 같은 독점 AI 제공업체의 대안으로 자리매김하고 있습니다. Together는 오픈소스 협업을 강조하며 고급 인공지능 기능을 개발자와 기업이 쉽게 사용할 수 있도록 만드는 것을 목표로 합니다.
이 플랫폼은 머신러닝 실험부터 프로덕션 규모의 추론까지 다양한 워크로드를 지원합니다. 서버리스 및 전용 컴퓨팅 옵션을 모두 제공하며, 트랜스포머 아키텍처 및 딥러닝 라이브러리와 같은 인기 있는 프레임워크를 지원합니다. Together의 인프라는 대규모 언어 모델 교육 및 서빙의 요구를 처리하도록 설계되어 낮은 지연 시간의 응답과 확장 가능한 리소스를 제공합니다.
역사와 설립
Together는 2022년 인공지능 및 분산 시스템 분야의 배경을 가진 연구원과 엔지니어 팀에 의해 설립되었습니다. 이 회사는 특히 오픈소스 모델을 위한 접근 가능하고 비용 효율적인 AI 인프라에 대한 증가하는 필요성에서 출현했습니다. 창립자로는 Vipul Ved Prakash, Ce Zhang, Chris Re, Percy Liang이 있으며, 이들은 학계와 산업계에서의 경험을 가져왔습니다. 이 회사는 폐쇄형 플랫폼과 차별화되는 오픈소스 AI에 대한 집중으로 빠르게 주목을 받았습니다.
초기 몇 년 동안 Together는 벤처 캐피털 회사로부터 상당한 자금을 조달하여 GPU 클러스터와 서비스 제공을 빠르게 확장할 수 있었습니다. 2023년까지 이 회사는 아마존 웹 서비스 및 구글 클라우드와 같은 대형 제공업체와 경쟁하는 AI 클라우드 시장에서 주목할 만한 플레이어가 되었습니다. 또한 모델 개발자 및 연구 기관과의 파트너십을 시작하여 AI 생태계에서의 역할을 더욱 공고히 했습니다.
서비스 및 제품
Together는 생성형 AI를 중심으로 한 일련의 서비스를 제공합니다. 주요 제품은 다음과 같습니다:
- 추론 API: Llama 및 Mistral과 같은 오픈소스 모델을 실행하기 위한 관리형 서비스로, 간단한 REST 엔드포인트를 제공합니다. 이를 통해 개발자는 기본 인프라를 관리하지 않고도 AI 기능을 통합할 수 있습니다.
- 교육 및 미세 조정: 여러 GPU에 걸친 분산 교육을 사용하여 독점 데이터 세트에서 모델을 사용자 지정하는 도구입니다. Together는 비용을 줄이기 위해 사전 구성된 환경과 최적화 기술을 제공합니다.
- GPU 클러스터: 대규모 교육 작업을 위한 전용 컴퓨팅 리소스로, 다양한 GPU 유형 및 네트워크 구성을 선택할 수 있습니다. 이러한 클러스터는 높은 처리량과 낮은 지연 시간을 위해 설계되었습니다.
- Together Enterprise: 향상된 보안, 지원 및 규정 준수 기능이 필요한 조직을 위한 계층으로, 개인 네트워킹 및 전용 인스턴스를 포함합니다.
이 플랫폼은 챗봇, 코드 생성 및 콘텐츠 제작과 같은 생성형 AI 애플리케이션을 지원합니다. 또한 Hugging Face Transformers와 같은 인기 있는 라이브러리와의 호환성을 제공하여 기존 사용자의 마이그레이션을 간소화합니다.
기술 및 인프라
Together의 인프라는 AMD 및 엔비디아 하드웨어를 포함한 고성능 GPU를 활용하는 분산 컴퓨팅 아키텍처를 기반으로 구축되었습니다. 이 회사는 여러 지역에 데이터 센터를 운영하여 전 세계 사용자에게 중복성과 낮은 지연 시간 액세스를 보장합니다. 소프트웨어 스택에는 교육 중 병목 현상을 최소화하고 활용도를 극대화하기 위한 사용자 지정 스케줄러 및 네트워킹 최적화가 포함됩니다.
주요 차별화 요소는 오픈소스 모델에 대한 Together의 강조입니다. 오픈AI 또는 앤트로픽과 달리 주로 독점 시스템을 제공하는 반면, Together는 커뮤니티에서 개발된 모델에 대한 액세스를 제공하여 사용자가 자유롭게 검사, 수정 및 배포할 수 있도록 합니다. 이는 머신러닝 연구에서 투명성과 협업을 옹호하는 광범위한 오픈소스 AI 운동과 일치합니다.
이 회사는 또한 새로운 어텐션 메커니즘 및 양자화 기술과 같은 효율성 개선을 위한 연구에 투자합니다. 이러한 노력은 대규모 언어 모델 추론의 계산 비용을 줄여 AI를 더 지속 가능하고 접근 가능하게 만드는 것을 목표로 합니다.
시장 위치 및 경쟁
AI 클라우드 시장은 매우 경쟁이 치열하며, 아마존 웹 서비스, 구글 클라우드, 애저를 포함한 주요 업체가 AI 특화 서비스를 제공합니다. Together는 오픈소스 모델과 개발자 친화적인 API에 대한 집중을 통해 차별화합니다. 또한 코어웨이브 및 세레브라스와 같은 AI 워크로드를 위한 고성능 컴퓨팅을 제공하는 전문 AI 클라우드 제공업체와도 경쟁합니다.
Together의 가격 모델은 사용량 기반으로, 토큰당 또는 시간당 요금을 제공하여 스타트업과 연구 그룹에게 매력적입니다. 이 회사는 금융, 의료, 미디어와 같은 산업에 걸친 고객을 두고 강력한 성장을 보고했습니다. 2024년 현재 Together는 멀티모달 모델 및 엣지 배포 지원을 포함한 제공을 계속 확장하고 있습니다.
커뮤니티 및 오픈소스
Together는 도구, 벤치마크 및 모델 가중치를 공개하여 오픈소스 AI 커뮤니티에 적극적으로 기여합니다. 연구 프로젝트를 후원하고 개발자와 연구자 간의 협업을 촉진하기 위해 이벤트를 개최합니다. 회사의 개방성에 대한 약속은 Open Source Initiative와 같은 이니셔티브 지원 및 학술 기관과의 파트너십에 반영됩니다.
접근 가능한 인프라를 제공함으로써 Together는 AI를 민주화하여 소규모 조직이 기술 대기업과 경쟁할 수 있도록 하는 것을 목표로 합니다. 이 사명은 AI 개발에 더 폭넓은 참여를 옹호하는 인공지능 분야의 많은 사람들에게 공감을 얻고 있습니다.
향후 방향
앞으로 Together는 자동화된 모델 최적화 및 멀티 클라우드 지원과 같은 더 고급 기능으로 플랫폼을 강화할 계획입니다. 또한 더 효율적인 하드웨어와 알고리즘을 통해 에너지 소비를 줄이는 방법을 탐구하고 있습니다. 생성형 AI가 계속 진화함에 따라 Together는 이러한 기술이 배포되고 액세스되는 방식을 형성하는 데 중요한 역할을 할 준비가 되어 있습니다.
이 회사는 자금이 풍부한 경쟁자와 AI 혁신의 빠른 속도로 인한 경쟁을 포함한 과제에 직면해 있습니다. 그러나 오픈소스 원칙과 개발자 경험에 대한 집중은 지속적인 성장을 위한 강력한 기반을 제공합니다.