Contacta con nosotros

Temario del curso

Introducción al desarrollo de operadores personalizados

  • ¿Por qué crear operadores personalizados? Casos de uso y restricciones
  • Estructura del entorno de ejecución de CANN y puntos de integración de operadores
  • Descripción general de TBE, TIK y TVM en el ecosistema de IA de Huawei

Uso de TIK para la programación de bajo nivel de operadores

  • Comprensión del modelo de programación TIK y las API compatibles
  • Gestión de memoria y estrategia de fragmentación en TIK
  • Creación, compilación y registro de una operación personalizada con CANN

Pruebas y validación de operaciones personalizadas

  • Pruebas unitarias e integración de operaciones en el gráfico
  • Depuración de problemas de rendimiento a nivel de núcleo
  • Visualización de la ejecución de operaciones y el comportamiento de los búferes

Planificación y optimización basadas en TVM

  • Descripción general de TVM como compilador para operaciones tensoriales
  • Escritura de una planificación para una operación personalizada en TVM
  • Ajuste, pruebas de referencia y generación de código con TVM para Ascend

Integración con frameworks y modelos

  • Registro de operaciones personalizadas para MindSpore y ONNX
  • Verificación de la integridad del modelo y del comportamiento de respaldo
  • Soporte para gráficos con múltiples operadores y precisión mixta

Estudios de caso y optimizaciones especializadas

  • Estudio de caso: convolución de alta eficiencia para formas de entrada pequeñas
  • Estudio de caso: optimización de operadores de atención consciente de la memoria
  • Mejores prácticas en el despliegue de operaciones personalizadas en diversos dispositivos

Resumen y próximos pasos

Requerimientos

  • Conocimientos sólidos sobre el funcionamiento interno de los modelos de IA y el cálculo a nivel de operador
  • Experiencia en entornos de desarrollo con Python y Linux
  • Familiaridad con compiladores de redes neuronales u optimizadores a nivel de gráfico

Público objetivo

  • Ingenieros de compiladores que trabajan en cadenas de herramientas de IA
  • Desarrolladores de sistemas enfocados en la optimización de bajo nivel de IA
  • Desarrolladores que crean operaciones personalizadas o se dirigen a nuevas cargas de trabajo de IA
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas