Despliegue de modelos de IA con CANN y procesadores Ascend de Huawei

Introducción a CANN y a los procesadores de IA Ascend

• ¿Qué es CANN? Su papel en la pila de cómputo para IA de Huawei.
• Descripción general de la arquitectura de los procesadores Ascend (310, 910, etc.).
• Visión general de los frameworks de IA compatibles y la cadena de herramientas (toolchain).

Conversión y compilación de modelos

• Uso de la herramienta ATC para la conversión de modelos (TensorFlow, PyTorch, ONNX).
• Creación y validación de archivos de modelos OM.
• Manejo de operadores no soportados y problemas comunes de conversión.

Despliegue con MindSpore y otros frameworks

• Despliegue de modelos con MindSpore Lite.
• Integración de modelos OM con APIs de Python o SDKs de C++.
• Trabajo con el Gestor de Modelos de Ascend (Ascend Model Manager).

Optimización de rendimiento y perfiles de ejecución (profiling)

• Comprensión de las optimizaciones de AI Core, memoria y fragmentación (tiling).
• Creación de perfiles de ejecución de modelos con las herramientas de CANN.
• Mejores prácticas para mejorar la velocidad de inferencia y el uso de recursos.

Manejo de errores y depuración (debugging)

• Errores de despliegue comunes y su resolución.
• Lectura de registros (logs) y uso de la herramienta de diagnóstico de errores.
• Pruebas unitarias y validación funcional de los modelos desplegados.

Escenarios de despliegue en la periferia (edge) y en la nube

• Despliegue en Ascend 310 para aplicaciones de periferia.
• Integración con APIs basadas en la nube y microservicios.
• Casos de estudio reales en visión por computadora y procesamiento del lenguaje natural (NLP).

Resumen y próximos pasos