MosaicML war ein Unternehmen im Bereich der künstlichen Intelligenz, das sich auf die Entwicklung von Software für das Training und die Bereitstellung großer Sprachmodelle sowie anderer Modelle des maschinellen Lernens konzentrierte. Das Unternehmen war bekannt für seine Open-Source-Bibliotheken und seinen Fokus darauf, Deep Learning für Unternehmen zugänglicher und kosteneffizienter zu machen. Seine Technologie zielte darauf ab, die für das Training neuronaler Netze erforderlichen Rechenressourcen zu reduzieren und Organisationen so zu ermöglichen, mit ihren eigenen Daten maßgeschneiderte Modelle zu erstellen.
MosaicML wurde 2021 gegründet und hatte seinen Hauptsitz in San Francisco, Kalifornien. Zu den Kernangeboten des Unternehmens gehörten die Bibliothek MosaicML Composer für das Modelltraining und der Dienst MosaicML Inference für die Bereitstellung. Diese Werkzeuge unterstützten eine Reihe von Modellarchitekturen, einschließlich Transformatoren, und waren für den Einsatz auf verschiedenen Cloud-Plattformen konzipiert. Im Juni 2023 wurde MosaicML von Databricks, einem Unternehmen für Daten und KI, für etwa 1,4 Milliarden US-Dollar übernommen, was einen bedeutenden Schritt in der Expansion von Databricks in den Bereich der generativen KI markierte.
Gründung und frühe Entwicklung
MosaicML wurde von Naveen Rao und Hanlin Tang gegründet, die zuvor an KI-Hardware und -Software gearbeitet hatten. Rao, ein ehemaliger Intel-Führungskraft, und Tang, ein ehemaliger KI-Forscher, wollten die hohen Kosten und die Komplexität angehen, die mit dem Training großer Modelle verbunden sind. Das Unternehmen erlangte schnell Aufmerksamkeit für seine innovativen Ansätze zur Optimierung von Trainingsprozessen, wie etwa effizientes Datenladen und Anpassungen der Modellarchitektur.
In seinen frühen Jahren veröffentlichte MosaicML mehrere Open-Source-Werkzeuge, die in der Community des maschinellen Lernens Anklang fanden. Die Bibliothek Composer, die 2022 eingeführt wurde, bot eine Sammlung von Trainingsmethoden und -techniken, die das Modelltraining im Vergleich zu Standardansätzen um bis zu 7-mal beschleunigen konnten. Dies wurde durch Methoden wie Schichtnormalisierung, Gradienten-Clipping und Curriculum-Lernen erreicht, die in eine einfache API integriert waren.
Technologie und Produkte
Die Technologie von MosaicML konzentrierte sich darauf, Deep Learning effizienter zu machen. Das Unternehmen entwickelte eine Trainingsplattform, die vor Ort oder in der Cloud bereitgestellt werden konnte und große Anbieter wie Amazon Web Services, Microsoft Azure und Google Cloud unterstützte. Sein Hauptprodukt, MosaicML Composer, bot ein flexibles Framework für das Training neuronaler Netze mit integrierten Optimierungen.
Das Unternehmen bot außerdem MosaicML Inference an, einen Dienst für die Bereitstellung trainierter Modelle in großem Maßstab. Dieser Dienst unterstützte verschiedene Modelltypen, einschließlich großer Sprachmodelle, und bot Funktionen wie Antworten mit geringer Latenz und Kostenmanagement. Der Ansatz von MosaicML ermöglichte es Unternehmen, Modelle mit ihren proprietären Daten feinabzustimmen und so Datenschutz- und Anpassungsanforderungen zu erfüllen, die mit allgemeinen Modellen von Anbietern wie OpenAI oder Anthropic nicht ohne Weiteres zu bewältigen waren.
Übernahme durch Databricks
Im Juni 2023 gab Databricks seine Absicht bekannt, MosaicML für 1,4 Milliarden US-Dollar zu übernehmen. Die Übernahme wurde später in diesem Jahr abgeschlossen und integrierte das Team und die Technologie von MosaicML in die Plattform von Databricks. Dieser Schritt war Teil der Strategie von Databricks, seine Fähigkeiten im Bereich der generativen KI zu erweitern und Kunden zu ermöglichen, maßgeschneiderte große Sprachmodelle innerhalb der Databricks-Umgebung zu erstellen und bereitzustellen.
Die Übernahme wurde als Reaktion auf die wachsende Nachfrage nach Enterprise-KI-Lösungen gesehen. Durch die Integration der Werkzeuge von MosaicML wollte Databricks eine umfassendere Datenintelligenzplattform anbieten, die seine Lakehouse-Architektur mit erweiterten Fähigkeiten zum Modelltraining und zur Bereitstellung kombinierte. Die Integration ermöglichte es Databricks, Open-Source-Modelle zu unterstützen und Alternativen zu proprietären Systemen bereitzustellen, wodurch Kunden mehr Kontrolle über ihre KI-Initiativen erhielten.
Auswirkungen und Vermächtnis
Der Einfluss von MosaicML reichte über seine Übernahme hinaus. Seine Open-Source-Beiträge, insbesondere die Bibliothek Composer, wurden weiterhin von Entwicklern und Forschern in der Community des maschinellen Lernens genutzt. Der Fokus des Unternehmens auf Effizienz trug dazu bei, Techniken zur Senkung der Trainingskosten zu popularisieren, die zunehmend wichtiger wurden, da Modelle an Größe und Komplexität zunahmen.
Nach der Übernahme wurde die Technologie von MosaicML zu einem grundlegenden Bestandteil der KI-Angebote von Databricks. Die Werkzeuge wurden in die Plattform von Databricks integriert und ermöglichten es Nutzern, Modelle mit ihren eigenen Daten in einer sicheren und verwalteten Umgebung zu trainieren und bereitzustellen. Dieses Vermächtnis trug zum Wachstum von Databricks bei, dessen Bewertung im Dezember 2024 auf 62 Milliarden US-Dollar und bis Dezember 2025 weiter auf 134 Milliarden US-Dollar stieg, was teilweise durch die Nachfrage nach Lösungen für generative KI bedingt war.