Guía práctica de AI Red Teaming, edición PhiloCorp

Parte: 00
Estado: Revisado
Edición: v2 / 01.09.2026
Tiempo estimado de lectura: 3 min

Edición del 1 de septiembre de 2026

Las fuentes conservan sus fechas de consulta. El laboratorio identifica la simulación determinística y la integración con modelo por separado.

"El modelo no tiene acceso directo a producción." En la primera reunión con PhiloCorp, la frase parece cerrar una discusión. Después alguien menciona el RAG compartido. Otro agrega que los agentes pueden llamar herramientas. Y en un cuarto diagrama aparece un pipeline que decide qué modelo llega a producción. Todavía no probaste nada, pero ya tenés una pregunta mejor: ¿qué puede pasar entre una respuesta del modelo y una acción del sistema?

PhiloCorp es una empresa B2B ficticia y vos integrás la consultora externa que va a evaluarla. Las escenas son un recurso didáctico; los incidentes y papers citados se identifican por separado. Te propongo recorrer el trabajo desde esa primera reunión hasta la devolución final, con las dudas, las pruebas y las decisiones que hacen falta en el medio.

El Attack Intelligence Brief, nuestro registro de hipótesis, evidencia y decisiones, empieza casi vacío. A medida que avanzás, vas a poder explicar qué dato se convirtió en una instrucción, qué componente concedió un permiso y dónde se detuvo cada cadena. También vas a registrar las hipótesis que no se confirmaron. Encontrar un control que funciona es parte del trabajo.

El recorrido del engagement

Parte	Función en el caso
00. Encargo	Entender el objetivo, el riesgo y las reglas de compromiso.
01. Ecosistema	Nombrar los componentes y trust boundaries que se van a evaluar.
02. Plan	Convertir incertidumbre en hipótesis, prioridades y compuertas.
03. Reconocimiento	Construir el mapa de superficie que dirige las pruebas posteriores.
04. LLM	Separar una respuesta inesperada de una falla con impacto comprobable.
05. Agentes	Seguir el salto de la conversación a las herramientas, la memoria y la delegación.
06. MCP	Revisar quién ofrece una herramienta, qué declara y qué puede ejecutar.
07. RAG y embeddings	Rastrear qué entra al contexto, de dónde viene y quién puede verlo.
08. Datos y modelos	Evaluar lo que cambia en el entrenamiento, la robustez y la privacidad.
09. Supply chain e infraestructura	Volver al pipeline y a los permisos que sostienen todo el sistema.
10. Defensa	Convertir cada hallazgo en un control y volver a medir.
11. Casos integradores	Reunir la evidencia, probar las cadenas y cerrar con decisiones defendibles.

Cada parte retoma una decisión pendiente y deja evidencia para la siguiente. Si llegaste por una técnica puntual, cada página conserva sus precondiciones y sus límites. El glosario, las matrices de cobertura y la bibliografía acompañan la lectura cuando necesitás precisar un término o volver a la fuente.

Los activos, identidades, tenants y datos del caso son sintéticos. Los nombres bajo *.philocorp.invalid están reservados para ejemplos; las fichas de laboratorio describen qué preparar en un entorno local o aislado. Un bloque de JSON o YAML define un caso de prueba salvo que la página lo identifique expresamente como mensaje de un protocolo. Los resultados esperados son criterios para contrastar con una ejecución, no resultados ya obtenidos.

Aviso de uso y legal

Este material es educativo y operativo para engagements expresamente autorizados. No constituye asesoramiento legal ni autorización para acceder, enumerar, modificar o probar sistemas de terceros. Antes de cualquier actividad, acordá por escrito alcance, RoE, jurisdicción, contrato, manejo de datos, límites de impacto y condiciones de detención. La Parte 00 detalla ese encuadre.