Contacta con nosotros

Temario del curso

Visión general de la arquitectura de LLM y superficie de ataque

  • Cómo se construyen, despliegan y acceden a los LLM mediante API
  • Componentes clave en las pila de aplicaciones LLM (por ejemplo, prompts, agentes, memoria, API)
  • Dónde y cómo surgen problemas de seguridad en casos de uso reales

Inyección de prompts y ataques de jailbreak

  • Qué es la inyección de prompts y por qué representa un peligro
  • Escenarios de inyección directa e indirecta de prompts
  • Técnicas de jailbreaking para eludir filtros de seguridad
  • Estrategias de detección y mitigación

Filtración de datos y riesgos de privacidad

  • Exposición accidental de datos a través de las respuestas
  • Fugas de información de identificación personal (PII) y uso indebido de la memoria del modelo
  • Diseño de prompts y generación aumentada por recuperación (RAG) con conciencia de privacidad

Filtrado y protección de salidas de LLM

  • Uso de Guardrails AI para filtrado y validación de contenido
  • Definición de esquemas y restricciones de salida
  • Monitoreo y registro de salidas inseguras

Enfoques con intervención humana en el flujo de trabajo

  • Dónde y cuándo introducir supervisión humana
  • Colas de aprobación, umbrales de puntuación y manejo de alternativas
  • Calibración de confianza y papel de la explicabilidad

Patrones de diseño seguro para aplicaciones LLM

  • Mínimo privilegio y sandboxing para llamadas a API y agentes
  • Límites de tasa, estrangulamiento y detección de abuso
  • Cadenas robustas con LangChain y aislamiento de prompts

Cumplimiento, registro y gobernanza

  • Garantizar la auditabilidad de las salidas de LLM
  • Mantener la trazabilidad y el control de versiones de los prompts
  • Alineación con políticas internas de seguridad y necesidades regulatorias

Resumen y próximos pasos

Requerimientos

  • Conocimiento de los modelos de lenguaje grande y de las interfaces basadas en prompts
  • Experiencia en la construcción de aplicaciones LLM utilizando Python
  • Familiaridad con integraciones de API y despliegues basados en la nube

Público objetivo

  • Desarrolladores de inteligencia artificial
  • Arquitectos de aplicaciones y soluciones
  • Gerentes de productos técnicos que trabajan con herramientas LLM
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas