Vielen Dank für die Zusendung Ihrer Anfrage! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Vielen Dank, dass Sie Ihre Buchung abgeschickt haben! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Schulungsübersicht
Einführung in die GPU-beschleunigte Containerisierung
- Verständnis der GPU-Nutzung in Deep-Learning-Workflows
- Wie Docker GPU-basierte Workloads unterstützt
- Wichtige Leistungsüberlegungen
Installation und Konfiguration des NVIDIA Container Toolkit
- Einrichtung von Treibern und CUDA-Kompatibilität
- Validierung des GPU-Zugriffs innerhalb von Containern
- Konfiguration der Laufzeitumgebung
Erstellung von GPU-fähigen Docker-Images
- Nutzung von CUDA-Basis-Images
- Packaging von KI-Frameworks in GPU-bereiten Containern
- Verwaltung von Abhängigkeiten für Training und Inferenz
Ausführung von GPU-beschleunigten KI-Workloads
- Ausführung von Training Jobs unter Verwendung von GPUs
- Verwaltung von Multi-GPU-Workloads
- Überwachung der GPU-Auslastung
Optimierung von Leistung und Ressourcenzuweisung
- Begrenzung und Isolierung von GPU-Ressourcen
- Optimierung von Speicher, Batch-Größen und Geräteplatzierung
- Leistungstuning und Diagnose
Containerisierte Inferenz und Model Serving
- Erstellung von Inferenz-bereiten Containern
- Bereitstellung hochbelasteter Workloads auf GPUs
- Integration von Model Runners und APIs
Skalierung von GPU-Workloads mit Docker
- Strategien für verteiltes GPU-Training
- Skalierung von Inferenz-Microservices
- Koordination von Multi-Container-KI-Systemen
Sicherheit und Zuverlässigkeit für GPU-fähige Container
- Sicherstellung eines sicheren GPU-Zugriffs in geteilten Umgebungen
- Verstärkung der Sicherheit von Container-Images
- Verwaltung von Updates, Versionen und Kompatibilität
Zusammenfassung und nächste Schritte
Voraussetzungen
- Grundverständnis der Grundlagen des Deep Learnings
- Erfahrung mit Python und gängigen KI-Frameworks
- Vertrautheit mit grundlegenden Konzepten der Containerisierung
Zielgruppe
- Deep-Learning-Entwickler
- Forschungs- und Entwicklungsteams
- Entwickler von KI-Modellen
21 Stunden
Erfahrungsberichte (3)
ein mehrstufiges, strukturiertes Kursprogramm.
Bert Paelinckx - Cube SoftwareSolutions
Kurs - Introduction to Docker
Maschinelle Übersetzung
Gute und machbare Übungen.
Jannes Wykhoff - Landesamt fur Geoinformation und Landesvermessung Niedersachsen (LGLN)
Kurs - Certified Kubernetes Application Developer (CKAD) - exam preparation
Wie Trainer Wissen effektiv vermitteln
Vu Thoai Le - Reply Polska sp. z o. o.
Kurs - Certified Kubernetes Administrator (CKA) - exam preparation
Maschinelle Übersetzung