Me enteré del bootcamp con muy poco margen. Graciela Pataro, profesora de la Maestría en Seguridad Informática de la UBA, me compartió la convocatoria cuando faltaba poco para que cerrara. Vi el programa, pensé que era una oportunidad enorme y apliqué.
Del 30 de agosto al 5 de septiembre de 2026 estuve en Londres, estudiando seguridad de IA con personas que llegaban desde recorridos muy distintos. Yo ya trabajaba en AI security y venía de años de offensive security y AppSec. Llevaba esa experiencia conmigo, junto con la certeza de que me faltaba entender mucho mejor qué ocurre dentro de los modelos, cómo se modifica su comportamiento y cómo se evalúa si un control funciona de verdad.
Volví con una mirada mucho más amplia, con más claridad sobre todo lo que todavía tengo que aprender y, sobre todo, con mucha gratitud. La semana fue intensa, desafiante y muy gratificante.
Llegar con experiencia y volver a ser principiante
Mi experiencia en seguridad me daba un punto de apoyo. Estoy acostumbrado a pensar en límites de confianza, superficies de ataque, permisos, casos de abuso y evidencia. Ese marco servía para darle contexto a algunos momentos, pero no reemplazaba las bases de machine learning que necesitaba para seguir algunos temas al ritmo del programa.
Sinceramente hubo clases que no pude seguir completas, los ejercicios de código también estiraron bastante mi conocimiento de ML y la forma de avanzar fue preguntar más tanto a tutores, compañeros e IA. Mis compañeros de cursada tenían fortalezas y backgrounds muy distintos, algunos entendían con mucha profundidad los modelos, otros la evaluación, otros la seguridad práctica, algunos eran muy de academia y otros más relacionados a institucionales públicas. Aprender juntos me permitió ubicar mejor lo que ya podía aportar y, sobre todo, detectar dónde necesito crecer para mejorar en este campo.
Para mí esto fue una de las partes más valiosas de la semana. Lejos estuve de salir pensando que dominaba todos estos temas de IA. La sensación, para bien o para mal, fue la de salir con un mapa mucho más preciso y entendiendo lo mucho que no sé (difícil lidiar con esta sensación pero tocó vivirla).
De los model internals al control
El programa recorría una cadena de problemas que antes tenía separados. Empezaba por cómo se entrenan y representan los modelos, pasaba por reinforcement learning, adversarial ML y backdoors, y llegaba a monitoreo, threat modeling y AI control.
En model internals, por ejemplo, serialización y tokenización aparecían como fronteras de parsing. Una demo con control tokens podía mostrar cómo una representación altera el significado de una entrada, pero no demostraba por sí solo que una API real fuera vulnerable. Esa distinción entre una idea útil y la evidencia necesaria para sostener una afirmación me resultó muy cercana a la seguridad ofensiva.
Con backdoors, el material mostraba un caso didáctico sobre un dataset de sentiment analysis envenenado con el trigger “James Bond”. El objetivo era medir dos cosas a la vez: cuánto conservaba el modelo su accuracy normal y con qué frecuencia se activaba el comportamiento escondido (fue el ejercicio que más me gustó). En adversarial vision, otro ejercicio empujaba a un modelo hacia una clasificación elegida y después comparaba la efectividad del ataque con cuánto cambiaba la imagen bajo métricas L2 y L∞. Eran experimentos acotados, útiles para aprender a medir, no pruebas sobre la robustez general de los modelos de frontera.
Las clases de reinforcement learning estuvieron entre los tramos más exigentes para mí. La lectura pública sobre entrenamiento recorre SFT, DPO, RLVR y RLHF con PPO, y me queda como material para seguir profundizando cómo se conectan el objetivo de optimización y las decisiones de entrenamiento.
Lo que más conectó con mi experiencia previa llegó al pensar monitoreo y control. Si un sistema puede actuar, un monitor puede observar parte de ese comportamiento, pero sigue habiendo preguntas difíciles como ¿Qué se audita, cuándo se difiere una acción? Qué se vuelve a muestrear? y cuánto rendimiento estamos dispuestos a cambiar por seguridad? Un ejercicio pequeño no responde eso para producción, pero obliga a explicitar el equilibrio entre seguridad y utilidad.
Cuando governance dejó de parecer ciencia ficción
Antes del bootcamp, algunas conversaciones sobre AI safety y governance podían parecerme lejanas, incluso rendí TAISE (Trusted AI Safety Expert Certification o TAISE por el Cloud Security Alliance) unos meses antes y la sensación era de mucha teoría, poca práctica y por lo tanto, poco impacto... En Londres empecé a verlas como una extensión concreta de problemas de seguridad.
Un control técnico no vive solo. Alguien define qué autoridad tiene, qué evidencia necesita para intervenir y qué pasa si frenar una acción cuesta tiempo o rendimiento. Una evaluación tampoco decide nada por sí misma. Hace falta acordar cómo se usa su resultado, quién responde ante una señal y cómo se coordinan equipos, empresas e instituciones.
Ahí se unieron temas que yo pensaba por separado: evaluación, autoridad, control y coordinación. No volví con una respuesta cerrada. Volví con mejores preguntas y con ganas de investigarlas.
Ver ese trabajo de cerca
Durante la semana, el UK AI Security Institute recibió al grupo y compartió parte de su trabajo de investigación. Ver una institución dedicada a evaluar capacidades y riesgos volvió mucho más concreto un campo que, desde lejos, puede sentirse abstracto. GovAI también prestó sus oficinas para parte del programa pero sinceramente nos faltaron charlas de ellos o más contexto, hubiera estado bueno.
El aprendizaje tampoco ocurrió solamente frente a una pantalla. Las preguntas siguieron en los descansos, las comidas y las conversaciones con compañeros. Esa generosidad hizo que pedir ayuda no se sintiera como quedarse atrás, sino como parte del trabajo.
Quiero agradecer especialmente a Pranav Gade, que creó el AISB y estuvo enseñando y apoyándonos durante la semana; a David Quarel y Jan Michelfeit, por enseñar y ayudarme a conectar conceptos complejos; y a Rhita Ameziane, por la organización y el cuidado con el que sostuvo la gran experiencia.
También a Jannis Kirschner, Emma Liddell, Chang Shiau Huei, Fernando Smith, y David Williams-King por sus charlas y su guía; a BlueDot Impact y Constellation Institute; al UK AISI por recibirnos y compartir su investigación; y a GovAI por abrir sus oficinas y compartir su lindo espacio. Y, por supuesto, a mi querida profesora de Marco Legal, Ética y Privacidad (PSI) Graciela Pataro por acercarme la oportunidad justo a tiempo.
El apoyo económico importa
El apoyo financiero fue imprescindible para que pudiera asistir. Sin eso, viajar a Londres para una semana de formación no habría sido una opción realista para mí.
Hacer accesibles estas oportunidades importa porque el talento y las preguntas valiosas no están concentrados en una sola ciudad, un solo país o una sola trayectoria profesional. La ayuda económica cambia quién puede estar en la sala, aprender y después llevar esas ideas a otras comunidades.
Con qué volví
Volví agradecido y con una visión mucho más amplia de AI security. También con una lista clara de fundamentos que quiero fortalecer y nuevas preguntas de investigación que recién estoy empezando a formular.
Voy a seguir compartiendo lo que aprenda en próximos posts y videos. En este otro ensayo cuento por qué la experiencia también cambió la dirección de PhiloCyber. Acá quería dejar algo más concreto: cómo se sintió esa semana, qué me costó y por qué valió la pena.
La puerta queda abierta para investigar con otras personas, colaborar en proyectos, conversar sobre oportunidades de trabajo y recibir feedback. Si estás trabajando en AI Safety. AI security, evaluations o control y pensás que podemos aprender juntos, escribime o contactame por linkedin .
Preguntas frecuentes
¿Necesito venir de machine learning para aprovechar AISB?
Solo puedo responder desde mi experiencia: mi base en seguridad me ayudó mucho, pero no reemplazó los fundamentos de ML. Hubo partes que me costaron y las aproveché preguntando, estudiando y aprendiendo con compañeros que tenían otras fortalezas. Los requisitos de cada cohorte están en la página oficial y además la organización manda un material de pre estudio de 4 semanas muy bueno y extenso.
¿Qué hizo distinta a esta semana de una conferencia?
La continuidad. Una idea aparecía en una clase, se volvía concreta en los ejercicios de código y reaparecía después o al otro día en una conversación sobre evaluación o control. Compartir varios días con el mismo grupo también permitió hacer preguntas con más profundidad, conocernos mejor, y aprender de las experiencias de otros.
Fuentes para que puedas checkear
- Currículo público del AI Security Bootcamp, versión consultada del 7 de septiembre de 2026.
- AI Security Institute del Reino Unido.
- Próxima cohorte de AISB en Londres.
Postulaciones para Londres, diciembre de 2026
La cohorte sobre la que escribí ocurrió a fines de agosto y principios de septiembre. La próxima va a ser del 6 al 12 de diciembre de 2026 y la convocatoria cierra el 1 de octubre a las 23:59, desde cualquier lugar del mundo.
Si la propuesta te interesa pero dudás porque no dominás todo el temario, animate y postula!! Yo también llegué con brechas por trabajar, incertidumbre, y la semana me ayudó a ver con mucha más claridad dónde podía crecer. Conocé el programa y postulate acá.
El no siempre lo tenemos, vos intentá!
Richie