Temario del curso
Fundamentos de la implementación híbrida de IA
- Comprensión de los modelos de despliegue híbrido, de nube y de borde
- Características de las cargas de trabajo de IA y restricciones de infraestructura
- Elegir la topología de despliegue adecuada
Contenedorización de cargas de trabajo de IA con Docker
- Creación de contenedores de inferencia para GPU y CPU
- Gestión de imágenes y registros seguros
- Implementación de entornos reproducibles para IA
Despliegue de servicios de IA en entornos de nube
- Ejecución de inferencia en AWS, Azure y GCP a través de Docker
- Provisionamiento de capacidad de cómputo en la nube para el servicio de modelos
- Seguridad de los puntos finales de IA basados en la nube
Técnicas de despliegue en borde y local
- Ejecución de IA en dispositivos IoT, puertas de enlace y micросерверs
- Runtime de peso ligero para entornos de borde
- Gestión de la conectividad intermitente y la persistencia local
Redes híbridas y conectividad segura
- Túneles seguros entre el borde y la nube
- Certificados, secretos y acceso basado en tokens
- Ajuste de rendimiento para inferencia de baja latencia
Orquestación de implementaciones distribuidas de IA
- Uso de K3s, K8s o orquestación de peso ligero para configuraciones híbridas
- Detección de servicios y programación de cargas de trabajo
- Automatización de estrategias de despliegue multiubicación
Monitorización y observabilidad entre entornos
- Seguimiento del rendimiento de la inferencia en diferentes ubicaciones
- Registro centralizado para sistemas de IA híbridos
- Detección de fallos y recuperación automatizada
Escala y optimización de sistemas de IA híbridos
- Escala de clústeres de borde y nodos de nube
- Optimización del uso de ancho de banda y caché
- Equilibrio de las cargas de cómputo entre la nube y el borde
Resumen y próximos pasos
Requerimientos
- Comprensión de los conceptos de contenedorización
- Experiencia con las operaciones de línea de comandos de Linux
- Conocimiento de los flujos de trabajo de despliegue de modelos de IA
Público objetivo
- Arquitectos de infraestructura
- Ingenieros de Confiabilidad del Sitio (SRE)
- Desarrolladores de soluciones de borde y IoT
Reseñas (3)
programa de cursos estructurado en múltiples niveles.
Bert Paelinckx - Cube SoftwareSolutions
Curso - Introduction to Docker
Traducción Automática
Cómo los formadores transmiten el conocimiento de manera efectiva
Vu Thoai Le - Reply Polska sp. z o. o.
Curso - Certified Kubernetes Administrator (CKA) - exam preparation
Traducción Automática
El conocimiento y los intercambios con Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Curso - Docker and Kubernetes
Traducción Automática