CI/CD für KI: Automatisierung von Docker-basierten Modell-Builds und -Deployments Schulung

Einführung in CI/CD für KI-Workflows

• Eigene Herausforderungen in der Auslieferung von KI-Modell-Pipelines
• Vergleich traditioneller DevOps- und MLOps-Prozesse
• Kernkomponenten des automatisierten Modell-Deployments

Containerisierung von KI-Modellen mit Docker

• Gestaltung effizienter Dockerfiles für ML-Inferenz
• Verwaltung von Abhängigkeiten und Modellartefakten
• Erstellung sicherer und optimierter Images

Einrichtung von CI/CD-Pipelines

• CI/CD-Tooling-Optionen und deren Ökosysteme
• Aufbau von Pipelines für die automatisierte Modellpaketierung
• Validierung von Pipelines durch automatisierte Prüfungen

Testen von KI-Modellen in CI

• Automatisierung von Datenintegritätsprüfungen
• Unit- und Integrationstests für Modell-Dienste
• Validierung von Leistung und Regression

Automatisiertes Deployment von Docker-basierten KI-Diensten

• Deployment von KI-Containern in Cloud-Umgebungen
• Implementierung von Blue-Green- und Canary-Rollouts
• Rollback-Strategien für fehlgeschlagene Deployments

Verwaltung von Modellversionen und Artefakten

• Verwendung von Registries für die Versionskontrolle von Modellen und Containern
• Tagging, Signierung und Promotion von Images
• Koordination von Modellaktualisierungen zwischen Diensten

Monitoring und Observability im CI/CD für KI

• Verfolgung der Pipeline- und Modellleistung
• Benachrichtigungen bei fehlgeschlagenen Builds oder Modell-Drift
• Verfolgung des Inferenzverhaltens zwischen Umgebungen

Skalierung von CI/CD-Pipelines für KI-Systeme

• Parallelisierung von Builds für große Modelle
• Optimierung von Compute- und Speicherressourcen
• Integration verteilter und entfernter Runner

Zusammenfassung und nächste Schritte