Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Introducción y fundamentos de diagnóstico
- Vista general de los modos de falla en sistemas LLM y problemas específicos de Ollama
- Establecimiento de experimentos reproducibles y entornos controlados
- Kit de herramientas de depuración: registros locales, capturas de solicitudes/respuestas y entorno aislado (sandboxing)
Reproducción e aislamiento de fallas
- Técnicas para crear ejemplos de falla mínimos y semillas (seeds)
- Interacciones con estado y sin estado: aislamiento de errores relacionados con el contexto
- Determinismo, aleatoriedad y control del comportamiento no determinista
Evaluación del comportamiento y métricas
- Métricas cuantitativas: precisión, variantes de ROUGE/BLEU, calibración y proxies de perplejidad
- Evaluaciones cualitativas: puntuación con intervención humana y diseño de rúbricas
- Comprobaciones de fidelidad específicas para tareas y criterios de aceptación
Pruebas automatizadas y regresión
- Pruebas unitarias para prompts y componentes, pruebas de escenarios y de extremo a extremo
- Creación de suites de regresión y líneas base de ejemplos dorados
- Integración de CI/CD para actualizaciones de modelos de Ollama y puertas de validación automatizadas
Observabilidad y monitoreo
- Registro estructurado, trazas distribuidas e IDs de correlación
- Métricas operativas clave: latencia, uso de tokens, tasas de error y señales de calidad
- Alertas, tableros (dashboards) y SLIs/SLOs para servicios respaldados por modelos
Análisis avanzado de causas raíz
- Trazado a través de prompts diagramados, llamadas a herramientas y flujos de múltiples turnos
- Diagnóstico comparativo A/B y estudios de ablación
- Procedencia de los datos, depuración de conjuntos de datos y abordaje de fallas inducidas por el conjunto de datos
Seguridad, robustez y estrategias de remediación
- Mitigaciones: filtrado, anclaje (grounding), aumento de recuperación (retrieval augmentation) y andamiaje de prompts
- Patrones de reversión (rollback), canary y despliegue gradual para actualizaciones de modelos
- Post-mortems, lecciones aprendidas y bucles de mejora continua
Resumen y siguientes pasos
Requerimientos
- Sólida experiencia en la construcción y despliegue de aplicaciones LLM
- Conocimiento de los flujos de trabajo de Ollama y el alojamiento de modelos
- Manejo de Python, Docker y herramientas básicas de observabilidad
Público objetivo
- Ingenieros de IA
- Profesionales de ML Ops
- Equipos de QA responsables de sistemas LLM en producción
35 Horas