Corcel ist ein Unternehmen für künstliche Intelligenz-Infrastruktur, das serverlose GPU-Inferenz für quelloffene große Sprachmodelle bereitstellt. Das Unternehmen betreibt eine Cloud-Plattform, die es Entwicklern und Unternehmen ermöglicht, Modelle wie Llama, Mistral und andere offene Gewichtarchitekturen auszuführen, ohne die zugrunde liegende Hardware verwalten zu müssen. Corcel positioniert sich als kostengünstige Alternative zu traditionellen Cloud-Anbietern, mit einem Preismodell pro Token und ohne die Notwendigkeit reservierter GPU-Kapazitäten.
Gegründet im Jahr 2023, entstand Corcel in einer Phase rasanten Wachstums im Bereich der generativen KI, als die Nachfrage nach Inferenzrechenleistung das Angebot überstieg. Die Plattform des Unternehmens abstrahiert die Komplexität der GPU-Orchestrierung und ermöglicht es Nutzern, Modelle über einen einfachen API-Aufruf bereitzustellen. Dieser Ansatz richtet sich sowohl an einzelne Entwickler, die KI-Anwendungen prototypisieren möchten, als auch an größere Organisationen, die Produktionsworkloads skalieren wollen, ohne langfristige Infrastrukturverträge eingehen zu müssen.
Geschichte und Gründung
Corcel wurde 2023 von einem Team mit Hintergrund in Cloud-Computing und maschinellem Lernen gegründet. Die Gründer erkannten eine Marktlücke für flexible On-Demand-Inferenzdienste, die das wachsende Ökosystem quelloffener Modelle unterstützen könnten. Im Gegensatz zu großen Cloud-Anbietern wie Amazon Web Services, Microsoft Azure und Google Cloud, die von Nutzern die Bereitstellung und Verwaltung virtueller Maschinen oder Kubernetes-Cluster verlangen, bietet Corcel eine vollständig verwaltete Erfahrung mit automatischer Skalierung.
Das Unternehmen sicherte sich Anfang 2024 seine erste Seed-Finanzierung, an der sich mehrere nicht näher genannte Angel-Investoren beteiligten. Die Mittel wurden für den Aufbau der Kerninfrastruktur und den Aufbau von Partnerschaften mit GPU-Hardware-Anbietern verwendet. Bis Mitte 2024 startete Corcel seine öffentliche Beta-Phase und gewann erste Nutzer aus der KI-Entwicklergemeinschaft.
Technologie und Architektur
Die Plattform von Corcel basiert auf einer serverlosen Architektur, die GPU-Ressourcen dynamisch basierend auf dem eingehenden Anfrageverkehr zuweist. Wenn ein Nutzer eine Anfrage sendet, leitet das System diese an eine verfügbare GPU-Instanz weiter, die das angeforderte Modell ausführt. Dieses Design ermöglicht eine effiziente Ressourcennutzung, da ungenutzte Kapazitäten über mehrere Kunden hinweg geteilt werden können.
Das Unternehmen unterstützt eine breite Palette quelloffener Modelle, darunter die Llama-Familie, Mistral und verschiedene feinabgestimmte Varianten. Nutzer können aus einem Katalog vorkonfigurierter Modelle wählen oder eigene Gewichte hochladen. Die Plattform übernimmt zudem Modell-Pruning und Quantisierung, um die Leistung zu optimieren und Kosten zu senken, wodurch schnellere Inferenz auch auf weniger leistungsfähiger Hardware ermöglicht wird.
Geschäftsmodell und Preisgestaltung
Die Infrastruktur von Corcel nutzt GPUs von AMD und NVIDIA und legt den Fokus auf wettbewerbsfähige Preise pro Million Token. Das Unternehmen gibt an, eine mit dedizierten GPU-Instanzen vergleichbare Latenz zu erreichen, bietet jedoch die Flexibilität eines nutzungsbasierten Bezahlmodells. Dieses Modell ist besonders attraktiv für Anwendungen mit schwankenden Auslastungsmustern, wie etwa Chatbots, Codegenerierungstools und Zusammenfassungsdienste für Inhalte.
Corcel verwendet ein verbrauchsbasiertes Preismodell, bei dem Kunden pro verarbeitetem Token bezahlt werden. Dieser Ansatz eliminiert Vorabkosten und ermöglicht es Nutzern, ihre Nutzung je nach Bedarf zu skalieren. Das Unternehmen bietet abgestufte Preispläne mit Mengenrabatten für Kunden mit hohem Durchsatz an.
Marktposition und Wettbewerb
Zusätzlich zu seinem Kern-Inferenz-API bietet Corcel Funktionen wie Fine-Tuning-as-a-Service an, die es Nutzern ermöglichen, quelloffene Modelle an ihre spezifischen Anforderungen anzupassen. Die Plattform umfasst außerdem Überwachungstools und Nutzungsanalysen, die Kunden dabei helfen, ihre Ausgaben zu verfolgen und ihre KI-Workloads zu optimieren. Corcel positioniert sich als Brücke zwischen der rohen Rechenleistung großer Cloud-Anbieter und den spezialisierten Anforderungen von KI-Anwendungsentwicklern.
Corcel agiert in einem wettbewerbsintensiven Umfeld, das sowohl etablierte Cloud-Anbieter als auch spezialisierte KI-Inferenz-Startups umfasst. Unternehmen wie Groq und SambaNova Systems bieten dedizierte Hardwarelösungen für Hochgeschwindigkeits-Inferenz an, während Oracle Cloud und andere Hyperscaler GPU-Instanzen auf Abruf bereitstellen. Corcel differenziert sich durch sein serverloses Modell, das den operativen Aufwand für Kunden reduziert.
Zukunftsaussichten
Das Unternehmen konkurriert auch mit Plattformen zum Hosten quelloffener Modelle, die kostenlosen oder kostengünstigen Zugang zu Modellen bieten. Corcel zielt jedoch auf Produktionsanwendungsfälle ab, bei denen Zuverlässigkeit, Skalierbarkeit und Leistung entscheidend sind. Bis 2025 hat das Unternehmen keine genauen Kundenzahlen oder Umsatzzahlen veröffentlicht, berichtet jedoch von stetigem Wachstum der API-Nutzung seit dem Start.
Corcel plant, seinen Modellkatalog um neue Architekturen und multimodale Modelle zu erweitern, die Text, Bilder und Audio verarbeiten können. Das Unternehmen prüft außerdem Partnerschaften mit Hardwareherstellern, um seine Infrastruktur für die nächste Generation von GPUs zu optimieren. Darüber hinaus entwickelt Corcel Werkzeuge, die die Bereitstellung von KI-Agenten und autonomen Systemen vereinfachen sollen, und nutzt seine Inferenzplattform als Grundlage für komplexere Anwendungen.
Das Unternehmen bleibt seiner Mission treu, den Zugang zu KI-Rechenleistung zu demokratisieren und es Entwicklern weltweit zu erleichtern, intelligente Anwendungen zu erstellen und bereitzustellen. Durch die kontinuierliche Verbesserung seines serverlosen Angebots und die Senkung der Kosten strebt Corcel danach, ein führender Akteur im Bereich der KI-Infrastruktur zu werden.