Gradient AI est une entreprise de logiciels qui propose une plateforme pour l'ajustement fin et le déploiement de grands modèles de langage via des interfaces de programmation d'applications (API). L'entreprise cible les développeurs et les entreprises cherchant à personnaliser des modèles de base pour des tâches spécifiques sans gérer l'infrastructure sous-jacente. Ses services font partie de l'écosystème plus large de l'IA générative, qui s'est rapidement développé depuis le début des années 2020.
La startup a émergé pendant une période d'activité commerciale intense autour du déploiement de grands modèles de langage, en concurrence avec les fournisseurs de cloud établis et les entreprises spécialisées en IA. La proposition de valeur centrale de Gradient AI repose sur la réduction des barrières techniques à l'adaptation des modèles, en fournissant des outils qui prennent en charge à la fois l'ajustement fin supervisé et l'inférence efficace à grande échelle.
Fondation et financement
Gradient AI a été fondée en 2023 par une équipe ayant des antécédents dans les systèmes d'apprentissage automatique et l'infrastructure cloud. L'entreprise a levé un tour de table initial de 10 millions de dollars au début de 2024, mené par une importante société de capital-risque spécialisée dans les startups d'intelligence artificielle. Ce financement initial a soutenu le développement de sa plateforme API et l'embauche d'ingénieurs ayant de l'expérience dans l'optimisation du apprentissage profond.
À la mi-2024, Gradient AI avait annoncé un tour de série A de 30 millions de dollars, portant le financement total à 40 millions de dollars. Ce tour comprenait la participation d'investisseurs stratégiques liés à Amazon Web Services et Google Cloud, reflétant l'intérêt des principaux fournisseurs de cloud pour les solutions middleware d'IA. La valorisation de l'entreprise après la série A a été rapportée à 150 millions de dollars, sur la base de son adoption précoce par les clients et de sa différenciation technique.
Plateforme technique
La plateforme de Gradient AI fournit des API pour l'ajustement fin de modèles utilisant des techniques telles que Reinforcement Learning from AI Feedback (RLAIF) (apprentissage par renforcement à partir de retours d'IA) et apprentissage curriculaire. Le service d'ajustement fin prend en charge les architectures ouvertes populaires, y compris celles basées sur l'architecture transformeur. Les développeurs peuvent télécharger des ensembles de données et sélectionner des hyperparamètres comme le calendrier de taux d'apprentissage et les paramètres de normalisation par lots via une interface simple.
L'API d'inférence offre des réponses à faible latence avec la prise en charge des stratégies de décodage échantillonnage top-p, mise à l'échelle de température et recherche en faisceau. L'infrastructure sous-jacente utilise l'élagage de modèles et le clipping de gradient pour optimiser l'utilisation de la mémoire et le débit. Gradient AI affirme que son système peut réduire les coûts d'inférence jusqu'à 40 % par rapport aux déploiements GPU cloud standard, bien que des benchmarks indépendants n'aient pas encore vérifié ce chiffre à la fin de 2024.
La plateforme s'intègre aux API d'OpenAI et d'Anthropic pour des flux de travail hybrides, permettant aux utilisateurs d'acheminer les requêtes entre des modèles propriétaires et ouverts. Elle prend également en charge le déploiement sur Microsoft Azure et Oracle Cloud Infrastructure en plus de son propre environnement géré.
Position sur le marché et concurrence
Gradient AI opère sur un marché encombré aux côtés d'entreprises comme AI21 Labs, Inflection AI et Essential AI. Contrairement à ces entreprises, qui développent souvent leurs propres modèles de base, Gradient AI se concentre exclusivement sur le rôle de couche middleware pour les modèles existants. Cette approche la différencie de Google DeepMind et d'autres organisations orientées vers la recherche.
L'entreprise a formé des partenariats avec des fournisseurs de matériel, notamment AMD et Groq, pour optimiser l'inférence sur des accélérateurs spécialisés. Ces collaborations visent à offrir des alternatives rentables aux clusters GPU dominés par NVIDIA, qui représentent une dépense importante pour les startups d'IA. Gradient AI travaille également avec SambaNova pour proposer des solutions de mémoire à haute bande passante pour le service de grands modèles.
À la fin de 2024, Gradient AI a déclaré plus de 200 clients entreprises, dont plusieurs entreprises du Fortune 500 non nommées dans les secteurs financier et de la santé. Le rythme de revenus de l'entreprise était estimé à 5 millions de dollars, bien qu'elle n'ait pas divulgué publiquement ses états financiers.
Cas d'utilisation et applications
Les cas d'utilisation courants des API de Gradient AI incluent l'automatisation du support client, la synthèse de documents et la génération de code. Le service d'ajustement fin est particulièrement populaire pour les tâches spécifiques à un domaine, comme l'analyse de contrats juridiques ou le traitement de dossiers médicaux, où les modèles à usage général sont souvent sous-performants. Un déploiement notable a impliqué un partenariat avec Commure, une entreprise de technologie de la santé, pour ajuster finement des modèles pour la génération de notes cliniques.
Gradient AI prend également en charge les flux de travail de augmentation de données, permettant aux développeurs de générer des données d'entraînement synthétiques pour des modèles plus petits. Cette fonctionnalité a été adoptée par des groupes de recherche à Stanford AI Lab et BAIR (Berkeley AI Research) pour des expériences de distillation de modèles.
Orientations futures
À la fin de 2024, Gradient AI a annoncé son intention d'étendre sa plateforme pour prendre en charge les variantes d'attention multi-têtes et les modèles encodeur-décodeur au-delà de l'orientation actuelle uniquement décodeur. L'entreprise explore également les mécanismes de attention croisée pour des applications multimodales, bien qu'aucune date de sortie n'ait été fixée. Sa feuille de route comprend des outils pour l'élagage de modèles automatisé et la quantification, visant à réduire davantage les coûts de déploiement.
La startup fait face à des défis de la part de concurrents plus importants comme Amazon Web Services avec ses puces AWS Trainium et Vertex AI de Google Cloud, qui offrent des services intégrés d'ajustement fin et d'inférence. La survie de Gradient AI dépend de sa capacité à maintenir des avantages techniques en termes de facilité d'utilisation et de rentabilité, ainsi que de ses partenariats avec des fournisseurs de matériel de niche.