Corcel est une entreprise d'infrastructure d'intelligence artificielle qui fournit une inférence GPU sans serveur pour les grands modèles de langage open-source. L'entreprise exploite une plateforme cloud qui permet aux développeurs et aux entreprises d'exécuter des modèles tels que Llama, Mistral, et d'autres architectures à poids ouverts sans gérer le matériel sous-jacent. Corcel se positionne comme une alternative rentable aux fournisseurs cloud traditionnels, offrant une tarification par jeton et éliminant le besoin de capacité GPU réservée.
Fondée en 2023, Corcel a émergé pendant une période de croissance rapide dans le secteur de l'IA générative, lorsque la demande de calcul d'inférence dépassait l'offre. La plateforme de l'entreprise abstrait les complexités de l'orchestration GPU, permettant aux utilisateurs de déployer des modèles via un simple appel API. Cette approche cible à la fois les développeurs individuels cherchant à prototyper des applications d'IA et les grandes organisations souhaitant étendre leurs charges de travail de production sans s'engager dans des contrats d'infrastructure à long terme.
Historique et fondation
Corcel a été créée en 2023 par une équipe avec des parcours dans le cloud computing et l'apprentissage automatique. Les fondateurs ont identifié une lacune sur le marché pour services d'inférence flexibles et à la demande capables de soutenir l'écosystème croissant des modèles open source. Contrairement aux principaux fournisseurs cloud tels que Amazon Web Services, Microsoft Azure et Google Cloud, qui nécessitent que les utilisateurs provisionnent et gèrent des machines virtuelles ou des clusters Kubernetes, Corcel offre une expérience entièrement gérée avec mise à l'échelle automatique.
L'entreprise a levé son financement initial de amorçage au début de 2024, avec la participation de investisseurs providentiels non divulgués. Ce financement a été utilisé pour construire l'infrastructure principale et établir des partenariats avec des fournisseurs de matériel GPU. Au milieu de 2024, Corcel avait lancé sa version bêta publique, attirant les premiers adoptants issus de la communauté des développeurs d'IA.
Technologie et architecture
La plateforme de Corcel est construite sur une architecture sans serveur qui alloue dynamiquement les ressources GPU en fonction du trafic de requêtes entrantes. Lorsqu'un utilisateur envoie une invite (prompt), le système route la requête vers une instance GPU disponible exécutant le modèle demandé. Cette conception permet une utilisation efficace du matériel, car la capacité inutilisée est partagée entre plusieurs clients.
L'entreprise prend en charge une large gamme de modèles open source, y compris ceux de la famille Llama, de Mistral, et diverses variantes fines. Les utilisateurs peuvent sélectionner des modèles préconfigurés dans un catalogue ou télécharger des poids personnalisés. La plateforme prend en charge taille de modèle et la quantification pour optimiser les performances et réduire les coûts, ce qui permet une inférence plus rapide sur du matériel moins puissant.
L'infrastructure de Corcel repose sur des GPU AMD et NVIDIA, avec un accent mis sur tarification compétitive par million de jetons. La société revendique des latences comparables à celles des instances GPU dédiées, tout en offrant la flexibilité d'une facturation à l'utilisation. Ce modèle est particulièrement intéressant pour les charges de travail avec desmodèles de trafic variables, tels que les chatbots, les outils de génération de code et les services de résumé de contenu.
Modèle économique et tarification
Le modèle économique de Corcel est basé sur une tarification à l'usage, facturant les clients par jeton traité. Cette approche élimine les coûts initiaux et permet aux utilisateurs de adapter leurs volumes en fonction de la demande. L'entreprise propose des plans tarifaires à plusieurs niveaux, avec des réductions de volume pour les clients à haut débit.
En plus de son API d'inférence principale, Corcel offre des fonctions telles que l'fine-tuning comme service, permettant aux utilisateurs d'adapter les modèles open source à leurs domaines spécifiques. La plateforme comprend également des outils de surveillance et analytique d'usage, aidant les clients à suivre leurs dépenses et optimiser leurs charges de travail d'IA. Corcel se positionne entièrement comme un pont entre le calcul brut proposé par les géants du cloud et les besoins spécialisés des développeurs d'applications d'IA.
Position sur le marché et concurrence
Corcel opère dans un paysage concurrentiel qui inclut à la fois des fournisseurs cloud établis et des startups spécialisées dans l'inférence IA. Des entreprises comme Groq et SambaNova Systems proposent des solutions matérielles dédiées pour inférence haute, tandis que Oracle Cloud et d'autres hyperscalers offrent des instances GPU à la demande. Corcel se distingue par son modèle sans serveur, une réduction de charge opérationnelle pour les clients.
La société est également confrontée à la concurrence des plateformes d'hébergement de modèles open source, qui offrent un accès gratuit ou à faible coût aux modèles. Corcel, cependant, vit des marchés de production où la fiabilité, la capacité et les performances sont<|reserved_special_token_240|>iques. À ce jour, la plateforme ne divulgue ni son nombre de clients ni son chiffre d'affaires, mais elle a déclaré une croissance steady dans l'utilisation des API depuis son événement.