Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Introducción al desarrollo de operadores personalizados
- ¿Por qué crear operadores personalizados? Casos de uso y restricciones
- Estructura del entorno de ejecución de CANN y puntos de integración de operadores
- Descripción general de TBE, TIK y TVM en el ecosistema de IA de Huawei
Uso de TIK para la programación de bajo nivel de operadores
- Comprensión del modelo de programación TIK y las API compatibles
- Gestión de memoria y estrategia de fragmentación en TIK
- Creación, compilación y registro de una operación personalizada con CANN
Pruebas y validación de operaciones personalizadas
- Pruebas unitarias e integración de operaciones en el gráfico
- Depuración de problemas de rendimiento a nivel de núcleo
- Visualización de la ejecución de operaciones y el comportamiento de los búferes
Planificación y optimización basadas en TVM
- Descripción general de TVM como compilador para operaciones tensoriales
- Escritura de una planificación para una operación personalizada en TVM
- Ajuste, pruebas de referencia y generación de código con TVM para Ascend
Integración con frameworks y modelos
- Registro de operaciones personalizadas para MindSpore y ONNX
- Verificación de la integridad del modelo y del comportamiento de respaldo
- Soporte para gráficos con múltiples operadores y precisión mixta
Estudios de caso y optimizaciones especializadas
- Estudio de caso: convolución de alta eficiencia para formas de entrada pequeñas
- Estudio de caso: optimización de operadores de atención consciente de la memoria
- Mejores prácticas en el despliegue de operaciones personalizadas en diversos dispositivos
Resumen y próximos pasos
Requerimientos
- Conocimientos sólidos sobre el funcionamiento interno de los modelos de IA y el cálculo a nivel de operador
- Experiencia en entornos de desarrollo con Python y Linux
- Familiaridad con compiladores de redes neuronales u optimizadores a nivel de gráfico
Público objetivo
- Ingenieros de compiladores que trabajan en cadenas de herramientas de IA
- Desarrolladores de sistemas enfocados en la optimización de bajo nivel de IA
- Desarrolladores que crean operaciones personalizadas o se dirigen a nuevas cargas de trabajo de IA
14 Horas