Temario del curso
Introducción a la Contenerización Acelerada por GPU
- Comprensión del uso de GPU en flujos de trabajo de aprendizaje profundo
- Cómo Docker soporta cargas de trabajo basadas en GPU
- Consideraciones clave de rendimiento
Instalación y Configuración del NVIDIA Container Toolkit
- Configuración de controladores y compatibilidad CUDA
- Validación del acceso a GPU dentro de los contenedores
- Configuración del entorno de tiempo de ejecución
Construcción de Imágenes de Docker Habilitadas para GPU
- Uso de imágenes base de CUDA
- Empaquetado de marcos de IA en contenedores listos para GPU
- Gestión de dependencias para entrenamiento e inferencia
Ejecución de Cargas de Trabajo de IA Aceleradas por GPU
- Ejecución de tareas de entrenamiento usando GPUs
- Gestión de cargas de trabajo de múltiples GPUs
- Monitoreo de la utilización de GPU
Optimización del Rendimiento y la Asignación de Recursos
- Límites y aislamiento de recursos de GPU
- Optimización de memoria, tamaños de lote y ubicación de dispositivos
- Ajuste de rendimiento y diagnóstico
Inferencia en Contenedores y Servicio de Modelos
- Construcción de contenedores listos para inferencia
- Servicio de cargas de trabajo de alta demanda en GPUs
- Integración de ejecutores de modelos y APIs
Escala de Cargas de Trabajo de GPU con Docker
- Estrategias para el entrenamiento distribuido de GPU
- Escala de microservicios de inferencia
- Coordinación de sistemas de IA de múltiples contenedores
Seguridad y Confiabilidad para Contenedores Habilitados para GPU
- Aseguramiento de un acceso seguro a GPU en entornos compartidos
- Endurecimiento de las imágenes de contenedores
- Gestión de actualizaciones, versiones y compatibilidad
Resumen y Próximos Pasos
Requerimientos
- Comprensión de los fundamentos del aprendizaje profundo
- Experiencia con Python y marcos de IA comunes
- Conocimiento de conceptos básicos de contenedores
Público
- Ingenieros de aprendizaje profundo
- Equipos de investigación y desarrollo
- Entrenadores de modelos de IA
Reseñas (3)
programa de cursos estructurado en múltiples niveles.
Bert Paelinckx - Cube SoftwareSolutions
Curso - Introduction to Docker
Traducción Automática
Cómo los formadores transmiten el conocimiento de manera efectiva
Vu Thoai Le - Reply Polska sp. z o. o.
Curso - Certified Kubernetes Administrator (CKA) - exam preparation
Traducción Automática
El conocimiento y los intercambios con Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Curso - Docker and Kubernetes
Traducción Automática