Together AI est une plateforme cloud qui fournit des infrastructures et des services pour l'entraînement, le fine-tuning et l'inférence de grands modèles de langage open-source. Fondée en 2022, l'entreprise vise à rendre l'IA générative avancée accessible aux développeurs et aux entreprises en proposant du calcul géré, un service de modèles optimisé et une suite d'outils de développement.
La plateforme repose sur une pile de calcul haute performance qui exploite les GPU NVIDIA, notamment les accélérateurs H100 et A100, pour offrir une inférence rapide et rentable. Together AI propose également une gamme de modèles open-source pré-entraînés, tels que Llama et Mistral, que les utilisateurs peuvent déployer via un simple appel API. L'entreprise se positionne comme une alternative aux fournisseurs propriétaires comme OpenAI et Anthropic, en mettant l'accent sur la transparence, la personnalisation et l'innovation pilotée par la communauté.
Historique et fondation
Together AI a été fondée en 2022 par une équipe de chercheurs et d'ingénieurs ayant des parcours en apprentissage automatique et en systèmes distribués. L'entreprise est issue du Stanford AI Lab et a d'abord été incubée comme projet de recherche axé sur l'entraînement décentralisé de grands modèles. L'équipe fondatrice comprenait notamment Vipul Ved Prakash, Ce Zhang et Percy Liang.
En 2023, Together AI a attiré une attention significative en publiant des modèles et des outils open-source, notamment le jeu de données RedPajama et le Together Computer, une plateforme d'entraînement distribué. L'entreprise a levé 102,5 millions de dollars lors d'un tour de financement de série A mené par Kleiner Perkins en novembre 2023, portant sa valorisation totale à plus de 500 millions de dollars. D'ici 2024, Together AI avait élargi sa base de clients pour inclure des startups et des entreprises du Fortune 500, offrant des options de calcul à la demande et dédiées.
Services principaux
Together AI propose trois services principaux : l'inférence, le fine-tuning et l'entraînement. Le service d'inférence permet aux développeurs de déployer des modèles open-source avec une faible latence et un débit élevé, grâce à un moteur de service optimisé qui prend en charge le batching continu et la quantification. Le service de fine-tuning permet aux utilisateurs d'adapter des modèles de base à des domaines ou des tâches spécifiques à l'aide de leurs propres données, avec un support pour des méthodes efficaces en paramètres comme LoRA.
Le service d'entraînement propose des clusters gérés pour le pré-entraînement de modèles personnalisés, avec des outils pour la préparation des données, la planification des tâches et la surveillance. Together AI fournit également une bibliothèque de modèles avec des architectures populaires, notamment les transformeurs et les réseaux de neurones, et s'intègre à des frameworks courants comme PyTorch et Hugging Face. La plateforme est accessible via une API REST, un SDK Python et une console web, ce qui la rend adaptée aussi bien aux prototypes qu'aux charges de travail en production.
Technologie et infrastructure
L'infrastructure de Together AI est conçue pour la performance et l'évolutivité. L'entreprise exploite des centres de données dans plusieurs régions, notamment aux États-Unis et en Europe, et utilise un réseau à haute vitesse pour interconnecter les clusters de GPU. Le moteur de service, appelé Together Inference Engine, intègre des techniques telles que le parallélisme tensoriel, le décodage spéculatif et la fusion de noyaux pour maximiser le débit.
Pour le fine-tuning, Together AI prend en charge à la fois le fine-tuning complet et des méthodes efficaces comme LoRA et QLoRA, qui réduisent les besoins en mémoire et en calcul. La plateforme propose également une fonctionnalité appelée « Together Computer », qui permet aux utilisateurs de louer la capacité GPU inutilisée d'un réseau distribué, similaire à CoreWeave mais avec un accent sur les modèles open-source. En 2024, Together AI a déployé des milliers de GPU et sert des milliards de jetons par jour.
Écosystème et partenariats
Together AI a construit un écosystème dynamique autour de l'IA open-source. L'entreprise collabore avec des développeurs de modèles, notamment AI21 Labs et Inflection AI, pour héberger leurs modèles sur la plateforme. Elle s'associe également à des fournisseurs de cloud comme Amazon Web Services et Google Cloud pour offrir des solutions intégrées, tout en maintenant sa propre infrastructure indépendante.
L'entreprise contribue activement à des projets open-source, tels que le jeu de données RedPajama, qui est une reproduction des données d'entraînement de LLaMA, et OpenChatKit, une collection de modèles conversationnels. Together AI sponsorise également la recherche et organise des événements communautaires, notamment des hackathons et des rencontres, pour favoriser l'innovation en intelligence artificielle. En 2024, l'entreprise a lancé un fonds de 10 millions de dollars pour soutenir les startups construisant sur sa plateforme.
Réception et impact
Together AI a été reconnue comme un acteur clé dans la démocratisation de l'IA, offrant un point d'entrée accessible aux développeurs qui souhaitent travailler avec des modèles open-source. Les analystes du secteur ont salué ses performances et sa rentabilité, notant qu'elle surpasse souvent les alternatives propriétaires dans les benchmarks de latence. Cependant, certains critiques ont soulevé des préoccupations concernant l'impact environnemental du calcul GPU à grande échelle et le risque de mauvaise utilisation des modèles open-source.
Malgré ces défis, Together AI continue de croître, avec une base de clients comprenant des entreprises notables dans les secteurs de la finance, de la santé et de la technologie. L'engagement de l'entreprise envers les principes open-source lui a valu un public fidèle parmi les chercheurs et les développeurs, la positionnant comme une force significative dans le paysage de l'IA générative. En 2025, Together AI reste un fournisseur leader de services d'inférence et de fine-tuning cloud, avec des projets d'expansion pour inclure des outils plus spécialisés et des fonctionnalités d'entreprise.
Voir aussi
Références
- Site web officiel de Together AI et communiqués de presse.
- TechCrunch, « Together AI raises $102.5M to build open-source AI models », novembre 2023.
- VentureBeat, « Together AI launches inference engine for open-source models », mars 2024.