MLOps, ein Kofferwort aus „Machine Learning“ und „Operations“, ist ein Paradigma, das sich auf die zuverlässige und effiziente Bereitstellung und Wartung von Machine-Learning-Modellen in der Produktion konzentriert. Es überbrückt die Kluft zwischen der Entwicklung von ML-Algorithmen, die typischerweise in isolierten experimentellen Systemen stattfindet, und den operativen Umgebungen, in denen diese Modelle laufen. Die Praxis stützt sich auf drei beitragende Disziplinen: Machine learning, Software-Engineering mit Schwerpunkt auf DevOps-Prinzipien und Data Engineering. Ihr Ziel ist es, sicherzustellen, dass Modelle robust, skalierbar und mit den Geschäftszielen ausgerichtet sind, während sie auch Governance- und regulatorische Anforderungen adressiert.
Der Begriff leitet sich aus der Kombination von „Machine Learning“ mit der kontinuierlichen Bereitstellungspraxis von DevOps ab, insbesondere dessen CI/CD-Komponenten (Continuous Integration und Continuous Delivery). MLOps entwickelt sich langsam von einer Reihe bewährter Verfahren zu einem eigenständigen Ansatz für das ML-Lebenszyklusmanagement. Zu seinen Prinzipien gehören CI/CD-Automatisierung, Workflow-Orchestrierung, Reproduzierbarkeit, Versionierung von Daten, Modellen und Code, Zusammenarbeit, kontinuierliches Training und Evaluierung, Metadatenverfolgung, Überwachung und Feedbackschleifen.
Definition und Umfang
MLOps ist eine ingenieurtechnische Praxis, die drei Disziplinen nutzt: maschinelles Lernen, Software-Engineering (insbesondere DevOps) und Data Engineering. Sie zielt darauf ab, die Erstellung von Machine-Learning-Produkten zu erleichtern, indem sie Entwicklung (Dev) und Betrieb (Ops) verbindet. Der Umfang umfasst den gesamten Lebenszyklus von ML-Systemen: von der Integration mit der Modellgenerierung, einschließlich des Softwareentwicklungslebenszyklus und CI/CD, über die Orchestrierung und Bereitstellung bis hin zur Gesundheitsüberwachung, Diagnose, Governance und Geschäftskennzahlen. MLOps-Systeme sind darauf ausgelegt, Workflows zu automatisieren, Reibungsverluste zu reduzieren und die Qualität zu verbessern. Sie sind für die Produktionsreife von ML unerlässlich und bewegen sich von der Experimentierphase hin zum dauerhaften Betrieb. Die Disziplin unterscheidet sich von ModelOps, das die Operationalisierung aller Arten von KI-Modellen abdeckt, und von AIOps, das KI in IT-Betriebsabläufen einsetzt.
Geschichte
Das Interesse an der Operationalisierung von maschinellem Lernen wuchs Mitte der 2010er-Jahre, als ML-Projekte begannen, von der Experimentierphase in die Produktion überzugehen. Ein Papier aus dem Jahr 2015 hob die Herausforderungen hervor, solche Systeme aufrechtzuerhalten. Von 2017 bis 2018 und erneut von 2018 bis 2020 wurde die Anzahl der ML-Pilotprojekte und -Implementierungen auf eine Verdopplung geschätzt, was eine zunehmende Akzeptanz widerspiegelt. Allerdings hatten die meisten Unternehmens-ML-Initiativen, bis zu 88 Prozent, Schwierigkeiten, über die Testphase hinauszukommen, während Organisationen, die ML erfolgreich bereitstellten, Gewinnmargensteigerungen von 3 bis 15 Prozent verzeichneten. Der MLOps-Markt wuchs 2024 auf 2.191,8 Millionen US-Dollar, mit Prognosen, bis 2030 16.613,4 Millionen US-Dollar zu erreichen, was auf erhebliche industrielle Investitionen von Anbietern wie Amazon Web Services, Microsoft Azure, Google Cloud und Oracle Cloud Infrastructure hindeutet.
Architektur
Machine-Learning-Systeme können in acht Kategorien unterteilt werden: Datenerfassung, Datenverarbeitung, Feature-Engineering, Datenbeschriftung, Modellentwurf, Modelltraining und -optimierung, Endpunktbereitstellung und Endpunktüberwachung. Jeder Schritt ist in seinem eigenen System aufgebaut, erfordert jedoch eine Verbindung. Eine typische MLOps-Architektur umfasst Data-Science-Plattformen, auf denen Modelle konstruiert werden, und Analyse-Engines, auf denen Berechnungen laufen, wobei das MLOps-Tool die Bewegung von Modellen, Daten und Ergebnissen zwischen ihnen orchestriert. Diese Mindestkomponenten gelten als wesentlich, damit Unternehmen ML in ihren Organisationen skalieren können.
Ziele und Praktiken
MLOps zielt darauf ab, mehrere Ziele über den gesamten ML-Lebenszyklus hinweg zu erreichen. Dazu gehören Bereitstellung und Automatisierung, um sicherzustellen, dass Modelle zuverlässig freigegeben werden; Reproduzierbarkeit von Modellen und Vorhersagen, damit Experimente wiederholt werden können; Diagnose zur Identifizierung von Problemen; Governance und regulatorische Compliance; sowie Skalierbarkeit, um wachsende Datenmengen und Modelle zu bewältigen. Die Disziplin konzentriert sich auch auf die Zusammenarbeit zwischen Teams, die Anwendung von ML auf Geschäftsanforderungen sowie die kontinuierliche Überwachung und Verwaltung bereitgestellter Modelle. Eine standardmäßige MLOps-Praxis berücksichtigt all diese Bereiche, um Workflows zu optimieren und Implementierungsprobleme zu vermeiden.
Kommerzielle Einführung
Anbieter sind entstanden, um kommerzielle MLOps-Infrastruktur bereitzustellen, einschließlich spezialisierter Angebote wie Reinforcement-Learning-Operations (RLOps) für Organisationen, die große Sprachmodelle bereitstellen. Die Entwicklung von MLOps verlief parallel zum Wachstum von Deep-Learning-Frameworks und -Plattformen, obwohl es auf eine breitere Palette von ML-Modellen anwendbar ist. Das Feld entwickelt sich weiter, da KI-Modelle komplexer werden und die Produktionsanforderungen steigen.
Referenzen
Quellmaterial aus Wikipedia (CC BY-SA) und Branchenberichten.