Modul: ML in Production

Viele angehende Data Scientists sind sich folgendes Setup gewohnt: Ein Machine Learning Modell wird mit einem vorhandenen Daten-Export lokal in einem Jupyter Notebook trainiert und evaluiert. Das so trainierte Modell mag zwar gute Resultate erbringen, dies ist jedoch nur der Anfang. Für die professionelle Überführung in den produktiven Betrieb müssen viele weitere Aspekte berücksichtigt werden.

Ein paar Beispiele:

• Betreiben Sie selbst einen Service oder nutzen Sie die Cloud? Dazu müssen betriebliche, infrastrukturelle und rechtliche Gesichtspunkte berücksichtigt werden.
• Wie kann ein produktiv betriebenes ML-Modell überwacht werden? Wird dies vernachlässigt, dann laufen Sie Gefahr, dass ihr ML-Modell mit der Zeit schlechtere Resultate liefert (z.B. aufgrund nicht erkannten Änderungen in den Input-Daten), Sie dies aber nicht bemerken.
• Wie kann ein neues Modell trainiert resp. mit dem bisherigen verglichen werden um zu prüfen, ob sich dies in der Praxis bessere Resultate liefert?
• Wie wird ein neues Modell ohne Service-Unterbruch bereitgestellt?
  

Modulübersicht

In zwei Unterrichtstagen fokussieren Sie sich auf die konkrete Umsetzung einer professionellen ML Infrastruktur auf Kubernetes in der Google Cloud und die dafür erforderlichen Konzepte. Sie erhalten zuerst einen Überblick über die zentralen Software-Entwicklungs Grundlagen wie Versionierung (auch bezüglich Machine Learning Modellen & Datasets), Packaging oder Pipelines. Im Anschluss steht das Deployment mit Themen wie Deployment Strategien (Canary Release, A/B Testing…), Monitoring/Metriken, High-Availability & Fault-Tolerance im Vordergrund. Abgerundet wird der Teil mit weiterführenden Themen wie Lifecycle Mangement oder Online-Learning. Am Ende dieses Kursteils wurden sämtliche Konzepte praktisch umgesetzt, so dass Sie im Anschluss selbst in der Lage sind, Ihr ML-Modell professionell zu betreiben.

Downloads & weitere Informationen

Programm-Reglement Weiterbildung Data Science