Contacta con nosotros

Temario del curso

Fundamentos de una IA segura e imparcial

  • Conceptos clave: seguridad, sesgo, imparcialidad, transparencia
  • Tipos de sesgo: de conjunto de datos, de representación, algorítmico
  • Resumen de los marcos regulatorios (Reglamento de IA de la UE, RGPD, etc.)

El sesgo en los modelos ajustados

  • Cómo el ajuste fino puede introducir o amplificar el sesgo
  • Estudios de caso y fallos en el mundo real
  • Identificación del sesgo en los conjuntos de datos y en las predicciones del modelo

Técnicas de mitigación del sesgo

  • Estrategias a nivel de datos (rebalanceo, aumento de datos)
  • Estrategias durante el entrenamiento (regularización, desviación adversaria)
  • Estrategias de postprocesamiento (filtrado de salidas, calibración)

Seguridad y robustez del modelo

  • Detección de salidas inseguras o dañinas
  • Manejo de entradas adversarias
  • Pruebas de equipo rojo y pruebas de estrés en modelos ajustados

Auditoría y monitoreo de los sistemas de IA

  • Métricas de evaluación del sesgo y la imparcialidad (por ejemplo, paridad demográfica)
  • Herramientas de interpretabilidad y marcos de transparencia
  • Prácticas de monitoreo continuo y gobernanza

Kit de herramientas y práctica en vivo

  • Uso de bibliotecas de código abierto (por ejemplo, Fairlearn, Transformers, CheckList)
  • Práctica en vivo: detección y mitigación del sesgo en un modelo ajustado
  • Generación de salidas seguras mediante diseño de prompts y restricciones

Casos de uso empresarial y preparación para el cumplimiento

  • Mejores prácticas para integrar la seguridad en los flujos de trabajo de LLM
  • Documentación y tarjetas de modelos para el cumplimiento
  • Preparación para auditorías y revisiones externas

Resumen y próximos pasos

Requerimientos

  • Comprensión de los modelos de aprendizaje automático y los procesos de entrenamiento
  • Experiencia trabajando con ajuste fino y LLM
  • Conocimiento de conceptos de Python y PLN

Público objetivo

  • Equipos de cumplimiento de IA
  • Ingenieros de ML
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas