Ponte en Contacto

Temario del curso

Introducción a Cambricon y la arquitectura MLU

  • Resumen de la cartera de chips de IA de Cambricon
  • Arquitectura MLU y pipeline de instrucciones
  • Tipos de modelos y casos de uso soportados

Instalación de la cadena de herramientas de desarrollo

  • Instalación de BANGPy y SDK Neuware
  • Configuración del entorno para Python y C++
  • Compatibilidad de modelos y preprocesamiento

Desarrollo de modelos con BANGPy

  • Estructura de tensores y gestión de formas
  • Construcción de grafos de cómputo
  • Soporte de operaciones personalizadas en BANGPy

Implementación con el tiempo de ejecución Neuware

  • Conversión y carga de modelos
  • Control de ejecución e inferencia
  • Prácticas de implementación en borde y centro de datos

Optimización de rendimiento

  • Mapeo de memoria y ajuste de capas
  • Rastreo de ejecución y perfilado
  • Cuellos de botella comunes y soluciones

Integración de MLU en aplicaciones

  • Uso de las APIs de Neuware para la integración de aplicaciones
  • Soporte para transmisión y múltiples modelos
  • Escenarios de inferencia híbrida CPU-MLU

Proyecto de extremo a extremo y caso de uso

  • Laboratorio: Implementación de un modelo de visión o NLP
  • Inferencia en borde con integración de BANGPy
  • Prueba de precisión y caudal

Resumen y próximos pasos

Requerimientos

  • Comprensión de las estructuras de modelos de aprendizaje automático.
  • Experiencia con Python y/o C++.
  • Familiaridad con los conceptos de implementación y aceleración de modelos.

Público Objetivo

  • Desarrolladores de IA embebida.
  • Ingenieros de ML que implementan en borde o centro de datos.
  • Desarrolladores que trabajan con infraestructura de IA china.
 21 Horas

Número de participantes


Precio por participante

Reseñas (1)

Próximos cursos

Categorías Relacionadas