Desarrollo de aplicaciones con LLM seguras y responsables

Visión general de la arquitectura de LLM y superficie de ataque

• Cómo se construyen, despliegan y acceden a los LLM a través de APIs.
• Componentes clave en la pila de aplicaciones de LLM (por ejemplo, indicaciones, agentes, memoria, APIs).
• Dónde y cómo surgen los problemas de seguridad en el uso real.

Inyección de indicaciones y ataques de Jailbreak

• Qué es la inyección de indicaciones y por qué es peligrosa.
• Escenarios de inyección directa e indirecta de indicaciones.
• Técnicas de jailbreaking para superar los filtros de seguridad.
• Estrategias de detección y mitigación.

Filtración de datos y riesgos de privacidad

• Exposición accidental de datos a través de las respuestas.
• Filtraciones de información personalmente identificable (PII) y mal uso de la memoria del modelo.
• Diseño de indicaciones y generación aumentada por recuperación (RAG) conscientes de la privacidad.

Filtrado y protección de salidas de LLM

• Uso de Guardrails AI para filtrado y validación de contenido.
• Definición de esquemas y restricciones de salida.
• Monitoreo y registro de salidas no seguras.

Enfoques de intervención humana y flujos de trabajo

• Dónde y cuándo introducir la supervisión humana.
• Colas de aprobación, umbrales de puntuación y manejo de casos de respaldo.
• Calibración de confianza y el papel de la explicabilidad.

Patrones de diseño seguros para aplicaciones LLM

• Principio de menor privilegio y aislamiento en sandbox para llamadas a APIs y agentes.
• Limitación de tasa, control y detección de abuso.
• Cadenas robustas con LangChain y aislamiento de indicaciones.

Cumplimiento, registro y gobernanza

• Asegurar la auditabilidad de las salidas de LLM.
• Mantener la trazabilidad y el control de versiones de las indicaciones.
• Alinear con las políticas de seguridad interna y las necesidades regulatorias.

Resumen y siguientes pasos