Inicio › Biblioteca › 08 · AI Red Teaming
← Volver a Biblioteca
08 · PILAR

AI Red Teaming

Evaluar de forma controlada cómo puede fallar o ser abusado un sistema de IA.

08Pilar6GuíasBiblioteca técnica
Modelo operativo de AI Red Teaming
Directorio del pilar6 guías · acceso directo
08.01

Prompt Injection

Diseña pruebas seguras para inyección directa. indirecta y persistente.

16–22 min · +1.648 palabras08.02

Jailbreaks

Evalúa la resistencia de políticas. guardrails y moderación sin confundir seguridad con censura.

15–21 min · +1.534 palabras08.03

RAG Poisoning

Comprueba si contenido malicioso altera recuperación. decisiones o salidas.

15–21 min · +1.535 palabras08.04

Tool Abuse

Prueba abuso de parámetros. permisos. secuencias y efectos laterales.

16–22 min · +1.632 palabras08.05

MCP Supply Chain

Evalúa riesgos de servidores. cambios maliciosos y confianza en herramientas.

15–21 min · +1.500 palabras08.06

Exfiltración y Model Extraction

Mide la posibilidad de extraer datos. secretos. comportamiento o propiedad intelectual.

15–21 min · +1.527 palabras
01
AlcanceControl y evidencia aplicable
02
HipótesisControl y evidencia aplicable
03
PruebaControl y evidencia aplicable
04
EvidenciaControl y evidencia aplicable
05
RemediaciónControl y evidencia aplicable

Cada guía incluye explicación, implantación, controles, evidencias, errores habituales, métricas y referencias.