Despliegue de modelos de IA con CANN y procesadores de IA Ascend

Introducción a CANN y procesadores de IA Ascend

• ¿Qué es CANN? Su papel en la pila de cómputo de IA de Huawei
• Visión general de la arquitectura del procesador Ascend (310, 910, etc.)
• Visión general de los frameworks de IA soportados y la cadena de herramientas

Conversión y compilación de modelos

• Uso de la herramienta ATC para la conversión de modelos (TensorFlow, PyTorch, ONNX)
• Creación y validación de archivos de modelo OM
• Manejo de operadores no soportados y problemas comunes de conversión

Despliegue con MindSpore y otros frameworks

• Despliegue de modelos con MindSpore Lite
• Integración de modelos OM con APIs de Python o SDK de C++
• Trabajo con Ascend Model Manager

Optimización de rendimiento y perfiles de rendimiento

• Comprensión de la optimización de AI Core, memoria y teselado (tiling)
• Perfiles de ejecución de modelos con herramientas CANN
• Mejores prácticas para mejorar la velocidad de inferencia y el uso de recursos

Manejo de errores y depuración

• Errores comunes de despliegue y su resolución
• Lectura de registros y uso de la herramienta de diagnóstico de errores
• Pruebas unitarias y validación funcional de modelos desplegados

Escenarios de despliegue en el borde y la nube

• Despliegue en Ascend 310 para aplicaciones en el borde
• Integración con APIs basadas en la nube y microservicios
• Estudios de casos del mundo real en visión por computadora y PLN

Resumen y próximos pasos