Decart ist ein Technologieunternehmen, das sich auf Infrastruktur für künstliche Intelligenz spezialisiert hat. Die Organisation entwickelt Software- und Hardwarelösungen, die darauf ausgelegt sind, das Training und die Inferenz von groß angelegten maschinellen Lernmodellen zu beschleunigen, mit besonderem Fokus auf die Verbesserung der Recheneffizienz und die Senkung der Kosten, die mit KI-Workloads verbunden sind. Das Unternehmen agiert im weiteren Kontext des Booms generativer KI und adressiert die wachsende Nachfrage nach spezialisierten Rechenressourcen.
Die Arbeit von Decart überschneidet sich mit mehreren Schlüsselbereichen der modernen KI-Entwicklung, einschließlich der Optimierung von Transformer-Architekturen und der Bereitstellung von großen Sprachmodellen. Der Ansatz des Unternehmens beinhaltet oft eine enge Zusammenarbeit mit Hardware-Anbietern, um die Leistung von neuronalen Netzen auf bestimmten Chips zu maximieren, eine Praxis, die zunehmend kritischer wird, da der Umfang von KI-Modellen weiter wächst.
Gründung und frühe Entwicklung
Decart wurde 2023 von Dean Leitersdorf und Moshe Shalom gegründet. Das Unternehmen entstand aus dem Ökosystem der Berkeley AI Research, wobei Leitersdorf zuvor in der akademischen Forschung tätig war. Die Gründer identifizierten einen kritischen Engpass in der KI-Branche: die immensen Rechenkosten für das Training und den Betrieb modernster Modelle. Ihr anfänglicher Fokus lag auf der Entwicklung einer Plattform, die die Ausführung von Modellen auf verschiedener Hardware optimieren konnte, einschließlich AMD-GPUs, die oft als kostengünstigere Alternative zu den dominierenden Angeboten von Nvidia angesehen wurden.
Innerhalb des ersten Jahres sicherte sich Decart bedeutende Risikokapitalfinanzierung. Im Jahr 2024 kündigte das Unternehmen eine Series-A-Finanzierungsrunde in Höhe von 32 Millionen US-Dollar an, angeführt von Benchmark, einer prominenten Risikokapitalgesellschaft aus dem Silicon Valley. Diese Investition signalisierte starkes Marktvertrauen in die Technologie von Decart und ihr Potenzial, die KI-Infrastrukturlandschaft zu verändern, die damals von wenigen großen Cloud-Anbietern dominiert wurde.
Technologie und Kernprodukte
Das Hauptprodukt von Decart ist eine Inferenz-Engine und Orchestrierungsplattform, die darauf ausgelegt ist, KI-Modelle mit außergewöhnlicher Geschwindigkeit und Effizienz auszuführen. Der Software-Stack des Unternehmens ist hardware-agnostisch aufgebaut, was eine Leistungsoptimierung über eine Reihe von Beschleunigern ermöglicht, einschließlich AWS Trainium-Chips, Google Cloud-TPUs und Intel-Beschleunigern, zusätzlich zu AMD-GPUs. Diese Flexibilität ist ein zentraler Differenzierungsfaktor, da sie Kunden ermöglicht, eine Anbieterbindung zu vermeiden und die kostengünstigste Hardware für ihre spezifischen Anforderungen zu wählen.
Eine bemerkenswerte Leistung von Decart war die Entwicklung eines Systems, das ein U-Net-basiertes Bildgenerierungsmodell wie Stable Diffusion mit Geschwindigkeiten ausführen kann, die deutlich schneller sind als typische Implementierungen. Das Unternehmen berichtete, Inferenzgeschwindigkeiten erreicht zu haben, die mehrere Male schneller waren als die führender Wettbewerber, teilweise durch fortschrittliche Techniken wie Modell-Pruning und Optimierungen der Batch-Normalisierung. Diese Leistung wurde in einer Live-Demo demonstriert, die ein Text-zu-Bild-Modell auf AMD-Hardware ausführte und das Potenzial für Echtzeit-, interaktive KI-Anwendungen aufzeigte.
Marktposition und Partnerschaften
Decart positioniert sich als Herausforderer etablierter KI-Cloud-Anbieter wie Oracle Cloud und Microsoft Azure. Anstatt massive, zentralisierte Rechenzentren zu bauen, ist die Plattform von Decart darauf ausgelegt, verteilte Rechenressourcen zu aggregieren und zu nutzen, einschließlich potenziell unterausgelasteter Consumer-GPUs. Dieser Ansatz zielt darauf ab, einen effizienteren und zugänglicheren Rechenmarkt zu schaffen und die Eintrittsbarriere für KI-Startups und Forscher zu senken.
Das Unternehmen hat strategische Partnerschaften mit Hardware-Herstellern geschlossen, um seine Software mit neuen Chip-Designs zu ko-optimieren. Eine bemerkenswerte Zusammenarbeit besteht mit AMD, bei der Decart daran gearbeitet hat, sicherzustellen, dass seine Inferenz-Engine die Fähigkeiten der Instinct-Serie von AMD-Beschleunigern vollständig nutzt. Diese Partnerschaft ist Teil eines breiteren Branchentrends, bei dem Softwareunternehmen eng mit Chip-Designern zusammenarbeiten, um die Leistungslücke zum Nvidia-CUDA-Ökosystem zu schließen.
Auswirkungen und zukünftige Richtungen
Der Aufstieg von Decart spiegelt einen breiteren Wandel in der KI-Branche hin zu Effizienz und Kostenoptimierung wider. Da die Kosten für das Training und den Betrieb von generativen KI-Modellen stark gestiegen sind, wächst der Druck, Wege zu finden, mit weniger mehr zu erreichen. Der Fokus von Decart auf Inferenzgeschwindigkeit ist besonders relevant, da Inferenzkosten oft den Großteil der Gesamtausgaben für den Betrieb von KI-Diensten in großem Maßstab ausmachen.
Die Technologie des Unternehmens hat Auswirkungen auf die Entwicklung von Anwendungen der künstlichen Intelligenz, die Echtzeitantworten erfordern, wie interaktive Agenten, Gaming und autonome Systeme. Durch die Erschwinglichkeit von Hochleistungs-Inferenz zielt Decart darauf ab, die Bereitstellung von KI in verschiedenen Sektoren zu beschleunigen. Ab 2025 erweitert das Unternehmen weiterhin sein Ingenieurteam und entwickelt neue Funktionen, mit dem erklärten Ziel, eine grundlegende Schicht für die nächste Generation von KI-Anwendungen zu werden.