MLOps – Machine Learning Operations

Neue Produkte, Technologien, Geschäftsmodelle sowie sich ständig verändernde Märkte erschweren es Unternehmen zunehmend, die richtigen Entscheidungen im Business zu treffen. Welche Auswirkungen haben die Veränderungen? Entstehen Finanzierungslücken? Wie profitabel sind wir tatsächlich?

CFOs und Finanzabteilungen benötigen im 21. Jahrhundert Finanzinformationen in Echtzeit. Wer erst darauf warten muss, dass das Controlling alle Excel-Dateien zusammengerechnet hat, verpasst Chancen und bremst das Business aus. Insbesondere bei kleinen und mittelständischen Unternehmen sind Finanzplanung und Unternehmenssteuerung oft voneinander getrennt. Meist kann auch nur ein einjährige Ergebnisplanung vorgelegt werden. Darüber hinaus reicht die betriebswirtschaftliche Auswertung (BWA) meist nicht aus, um die zukünftigen Finanzen zu beurteilen.

Wer erfolgreich sein möchte, sollte deshalb seinen Finanzen stets im Blick haben. Nur wer genau weiß, wie die Zahlen sich entwickeln, kann auch businesskritische Entscheidungen für die Zukunft treffen. Aus diesem Grund setzen viele Unternehmen auf die integrierte Finanzplanung (IFP) – auch bekannt als integrierte Unternehmensplanung.

<div class="hzweiwrapper"><span class="circled-number">1</span><h2 class="c-blog_head" id="1. Machine Learning Operations Definition">Machine Learning Operations Definition</h2></div>

Um eine Übersicht darüber zu bekommen, was sich hinter MLOps verbirgt, muss erst einmal die DevOps Definition erfolgen. Es handelt sich hierbei um ein Zusammenspiel aus Praktiken, Tools und auch Denkweisen, die dafür sorgen sollen, dass in Unternehmen mit den vorhandenen Programmen noch effektiver gearbeitet werden kann. Es ist notwendig, um technische Produkte im Unternehmen weiterzuentwickeln und zu verbessern.  

Jetzt kommt MLOps ins Spiel. Das DevOps-Konzept, welches entwickelt wurde, muss nun in die vorhandenen Programme integriert und auch etabliert werden. Machine Learning Operations sorgt dafür, dass genau das möglich wird. Es ist eine Möglichkeit, um die Entwicklung, Bereitstellung und die Verwaltung der einzelnen Modelle aus dem Machine Learning durchzuführen. Mit MLOps ist es also möglich, aus dem maschinellen Lernen als Unternehmen noch größere und vor allem schnellere geschäftliche Erfolge zu erzielen.

Genau gesagt handelt es sich bei MLOps um eine Ansammlung an verschiedenen Verfahren, mit denen es möglich ist, Daten, Codes und Modelle für ML umzusetzen. Zu den Eigenschaften gehören:  

• Verwaltung von Codes
• Verwaltung von Daten
• Effiziente Kollaborationen  
• Umsetzung neuer Ideen
• Verwaltung von bestehenden Modellen

<div class="hzweiwrapper"><span class="circled-number">2</span><h2 class="c-blog_head" id="2. Der MLOps Prozess">Der MLOps Prozess</h2></div>

Der MLOps Prozess fasst die folgenden drei Bereiche zusammen:  

• Maschinelles Lernen (Machine Learning)
• Betrieb (Operations)
• Softwareentwicklung (Software Development)

Das Konzept aus DevOps wird damit auf den MLOps Prozess übertragen. Maschinell gesteuerte Anwendungen sind in Unternehmen vermehrt zu finden. Hier den Überblick zu behalten, ist nicht ganz einfach. Durch MLOps werden alle vorhandenen maschinellen Anwendungen so skaliert, dass sie ineinandergreifen und die Prozesse zusätzlich automatisiert werden können.  

Im Prozess von MLOps arbeiten sowohl die Operations- als auch die Entwicklungs-Teams eng zusammen. Über den Anwendungszyklus hinweg, arbeiten die Teams zusammen oder werden sogar zu einem Team zusammengefügt. Durch die Verwendung von verschiedenen Tools sowie einem Technologie-Stack sind Weiterentwicklung und Ausführung der Anwendungen einfach und schnell möglich.  

MLOps macht es damit möglich, dass Aufgaben schneller erledigt werden können, da nicht mehr der differenzierte Zugriff durch einzelne Teams notwendig ist.  

Der Prozess selbst setzt sich aus den folgenden Punkten zusammen:  

1. Erstellung – MLOps-Build
2. Verwaltung – MLOps-Manage
3. Bereitstellung – MLOps-Depoly and Integrate
4. Überwachung – MLOps-Monitoring

<div class="hzweiwrapper"><span class="circled-number">3</span><h2 class="c-blog_head" id="3. Unterscheidung MLOps vs. DevOps vs. DataOps">Unterscheidung MLOps vs. DevOps vs. DataOps</h2></div>

In der Beschreibung klingt es so, als würden sich DevOps und MLOps nicht voneinander unterscheiden. Ganz so ist es aber nicht, denn MLOps wird als DevOps für das maschinelle Lernen angesehen.  

In Unternehmen werden verschiedene Tools, Praktiken und auch Denkweisen eingesetzt. Durch das Zusammenspiel dieser, lassen sich die Schnelligkeit und Effizienz erhöhen. Durch DevOps werden also Konzepte erstellt. Arbeitet ein Unternehmen mit Programmen zum maschinellen Lernen, wird jetzt mit MLOps dafür gesorgt, dass diese Konzepte auf das maschinelle Lernen übertragen werden können.  

DataOps wird ebenfalls oft in dem Zusammenhang genannt. Allerdings handelt es sich hierbei um die Data Operations, die auf die Arbeit von Daten- und Analyseteams zugeschnitten sind. Es handelt sich um die DevOps für Daten. Auch Konzepte, die mit DataOps entwickelt werden, können durch MLOps in das maschinelle Lernen integriert werden.  

<div class="hzweiwrapper"><span class="circled-number">4</span><h2 class="c-blog_head" id="4. Vorteile von MLOps">Vorteile von MLOps</h2></div>

Maschinelles Lernen hat den Vorteil, dass unterschiedliche Modelle wiederholt zum Einsatz kommen. Auf die Dauer ergibt sich damit ein Lerneffekt, der für einen besseren Geschäftsnutzen sorgt. Das bringt einige Vorteile mit sich:  

1. Die Entwicklungszyklen verkürzen sich – durch die Bereitstellung der Konzepte für das maschinelle Lernen werden Modelle schneller zur Verfügung gestellt.  
2. Machine-Learning-Modelle und deren Nutzen werden vergrößert
3. Modelle für ML bringen eine höhere Qualität mit sich
4. Wiederverwendbarkeit der Modelle für ML wird vereinfacht
5. Überwachung der Modelle wird vereinfacht
6. Anpassung und Aktualisierungen werden stetig durchgeführt
7. Risiko für nicht produktive Modelle wird reduziert
8. Betriebsabteilungen, Entwickler und Datenwissenschaftler können besser zusammenarbeiten
9. Die Automatisierung bringt weniger Aufwand mit sich
10. Skalierbarkeit der Modelle für ML steigt an

<div class="hzweiwrapper"><span class="circled-number">5</span><h2 class="c-blog_head" id="5. Was kann MLOps nicht?">Was kann MLOps nicht?</h2></div>

MLOps ist nicht in der Lage, Probleme mit dem maschinellen Lernen oder auch der Datenverarbeitung innerhalb einer kurzen Zeit zu lösen. Zusätzlich dazu ist es nicht darauf ausgelegt, Sicherheitsaspekte in Bezug auf den Datenschutz einhalten oder umsetzen zu können.  

MLOps setzt in erster Linie auf die kontinuierliche Verwendung von Prozessen und Konzepten, um auf diese Weise den Lerneffekt zu erhöhen und, in einem größeren Zeitrahmen, die Optimierung der Prozessnutzung für das Unternehmen zu erzielen.  

{{grey-banner}}  

<div class="hzweiwrapper"><span class="circled-number">6</span><h2 class="c-blog_head" id="6. MLOps Lösungen und Tools">MLOps Lösungen und Tools</h2></div>

Es gibt auf dem Markt unterschiedliche Lösungen und auch Tools für MLOps. Je nach Tool legen diese den Fokus auf die Verwaltung, die Überwachung, die Bereitstellung und auch die Entwicklung verschiedener ML-Modelle. Es ist möglich, dass die Tools auf Open Source Software agieren. Aber auch Lösungen für die proprietäre Software stehen zur Verfügung. Die Arbeit der Lösungen und Tools erfolgt entweder cloudbasiert oder aber On-Premise.  

Einige Unternehmen passen Tools, die eigentlich für den DevOps-Bereich entwickelt wurden, für MLOps an. Zu den bekanntesten Tools, die derzeit eingesetzt werden, gehören die Azure DevOps, der Amazon Sage Maker oder auch Seldon Core und DataRobot oder Paperspace Gradient.