Programa del Curso

Introducción a los transformadores generativos preentrenados (GPT)

  • Evolución de los modelos lingüísticos en PNL
  • Introducción a GPT y su importancia
  • Casos de uso y aplicaciones de los modelos GPT

Comprensión de la arquitectura y el entrenamiento de GPT

  • Arquitectura del transformador y mecanismo de autoatención
  • Pre-entrenamiento y puesta a punto de modelos GPT
  • Transferencia de aprendizaje y adaptación de dominios con GPT

Explorando GPT-3

  • Descripción general de la arquitectura y las características de GPT-3
  • Descripción de las capacidades y limitaciones del modelo
  • Ejercicios prácticos con GPT-3 para la generación y finalización de texto

Avances recientes: GPT-4

  • Descripción general del último modelo de GPT-4
  • Mejoras y mejoras clave con respecto a las versiones anteriores
  • Explorando las capacidades ampliadas de GPT-4

Aplicaciones de los modelos GPT

  • Generación y finalización de texto mediante modelos GPT
  • Traducción automática con GPT
  • Sistemas de diálogo y chatbots con GPT
  • Escritura creativa y narración de historias utilizando modelos GPT

Ajuste fino de los modelos GPT

  • Técnicas para afinar modelos GPT en tareas específicas
  • Adaptación de GPT para aplicaciones específicas de dominio
  • Prácticas recomendadas para el ajuste fino y la evaluación de modelos

Consideraciones éticas y desafíos

  • Implicaciones éticas del uso de modelos lingüísticos de gran tamaño
  • Problemas de sesgo y equidad en los modelos GPT
  • Mitigar los riesgos y garantizar el uso responsable de los modelos GPT

Tendencias futuras y más allá de GPT-4

  • Tendencias emergentes en PNL y modelos generativos
  • Fronteras de la investigación y posibles avances más allá de GPT-4

Resumen y próximos pasos

  • Resumen de los aprendizajes clave y las conclusiones del curso
  • Recursos para una mayor exploración y oportunidades de aprendizaje en modelos GPT y PNL

Requerimientos

  • Familiaridad con los conceptos de aprendizaje profundo y los fundamentos del procesamiento del lenguaje natural (PLN). 
  • Sería beneficioso tener conocimientos básicos de transformadores.

Audiencia

  • Científicos de datos
  • Ingenieros de aprendizaje automático
  • Investigadores de PNL
  • Entusiastas de la IA
  14 horas
 

Número de participantes


Comienza

Termina


Dates are subject to availability and take place between 09:30 and 16:30.
Los cursos de formación abiertos requieren más de 5 participantes.

Testimonios (1)

Cursos Relacionados

Categorías Relacionadas