Descripción
Curso de seguridad para aplicaciones con LLM, agentes y RAG, basado en el OWASP Top 10 para LLM. Los ataques se prueban en un laboratorio aislado, se corrigen y cada hallazgo acaba como prueba de regresión y como alerta en vuestro SIEM, para que el equipo de seguridad lo vea también en producción.
Datos del curso
| Código SIXE: SXIA07 | Categoría: Inteligencia Artificial / Seguridad |
| Modalidad: Online y presencial | Duración: 2 días |
Para quién es
Equipos de seguridad, desarrollo seguro, QA y arquitectura que tienen, o van a tener, un chatbot, un asistente con RAG o un agente con acceso a herramientas.
Requisitos
Seguridad de aplicaciones web y APIs. Ayuda haber trabajado con algún asistente RAG o agente; la aplicación de prácticas la ponemos nosotros.
Qué vas a aprender
- Modelar amenazas: qué datos son de confianza, qué herramientas puede usar el agente y dónde están los secretos.
- Inyección de instrucciones: directa y escondida en documentos o páginas web, y por qué un filtro de palabras no basta.
- Fugas y exceso de permisos: acceso a documentos de otro usuario, salidas sin validar y agentes con más autonomía de la necesaria.
- Corregir y volver a probar: validación, autorización en el servicio y mínimos privilegios, sin romper los casos legítimos.
- Detectarlo en producción: qué registrar del asistente y cómo convertirlo en alertas en QRadar, Wazuh u otro SIEM.
Se trabaja sobre una aplicación vulnerable a propósito, con datos y secretos ficticios, y termina con diez pruebas reproducibles y dos correcciones verificadas.
Qué te llevas
- El modelo de amenazas de la aplicación.
- Diez pruebas defensivas reproducibles.
- Un informe de hallazgos con sus correcciones y reglas de detección.
Si lo que buscáis es diseñar los agentes seguros desde el principio, mira nuestro servicio de integración de agentes de IA seguros. Para el lado del SOC tenemos el curso de analista de ciberseguridad con IBM QRadar.
Preguntas frecuentes
¿Cuánto dura el curso?
2 días.
¿Es online o presencial?
Las dos cosas: en vuestras oficinas o en remoto, con instructor en directo.
¿Qué necesito saber antes?
Seguridad de aplicaciones web y APIs. Ayuda haber trabajado con algún asistente RAG o agente; la aplicación de prácticas la ponemos nosotros.
¿Se atacan sistemas reales?
No. Todas las pruebas se hacen sobre la aplicación del laboratorio, con un alcance escrito y datos ficticios.
¿Superar las pruebas demuestra que la aplicación es segura?
Demuestra el resultado de los casos probados en esas condiciones. Se documentan también las amenazas que quedan fuera.
¿Se puede adaptar a mi equipo?
Sí. Ajustamos ejemplos y prácticas a las herramientas y procesos del equipo, y podemos combinarlo con otros cursos de IA.
