Contacta con nosotros

Temario del curso

Conceptos y métricas de rendimiento

  • Latencia, rendimiento, consumo energético y utilización de recursos.
  • Cuellos de botella a nivel de sistema vs. nivel de modelo.
  • Análisis de rendimiento para inferencia frente a entrenamiento.

Análisis de rendimiento en Huawei Ascend

  • Uso de CANN Profiler y MindInsight.
  • Diagnóstico de núcleos y operadores.
  • Patrones de descarga y mapeo de memoria.

Análisis de rendimiento en GPU Biren

  • Funciones de monitoreo de rendimiento del SDK de Biren.
  • Fusión de núcleos, alineación de memoria y colas de ejecución.
  • Análisis consciente del consumo energético y la temperatura.

Análisis de rendimiento en Cambricon MLU

  • Herramientas de rendimiento BANGPy y Neuware.
  • Visibilidad a nivel de núcleo e interpretación de registros.
  • Integración del perfilador MLU con frameworks de despliegue.

Optimización a nivel de gráfico y modelo

  • Estrategias de poda y cuantización de gráficos.
  • Fusión de operadores y reestructuración del gráfico computacional.
  • Estandarización del tamaño de entrada y ajuste de lotes.

Optimización de memoria y núcleos

  • Optimización de la estructura y reutilización de memoria.
  • Gestión eficiente de búferes entre diferentes chipsets.
  • Técnicas de ajuste a nivel de núcleo específicas por plataforma.

Mejores prácticas multiplataforma

  • Portabilidad del rendimiento: estrategias de abstracción.
  • Construcción de pipelines de ajuste compartidas para entornos multi-chip.
  • Ejemplo: ajuste de un modelo de detección de objetos en Ascend, Biren y MLU.

Resumen y siguientes pasos

Requerimientos

  • Experiencia en el desarrollo de pipelines de entrenamiento o despliegue de modelos de IA.
  • Comprensión de los principios de cómputo en GPU/MLU y optimización de modelos.
  • Familiaridad básica con herramientas y métricas de análisis de rendimiento.

Público objetivo

  • Ingenieros de rendimiento.
  • Equipos de infraestructura de aprendizaje automático.
  • Arquitectos de sistemas de IA.
 21 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas