Adversarial y Robustez
Atacar y defender modelos: perturbaciones, evasión de detectores, OOD.
Volver a los 11 temas · Referencia · el temario oficial: Syllabus IOAI
📋 No es una sección del syllabus: es una forma de tarea. Sus contenidos están repartidos en otras secciones; se agrupa acá porque la IOAI la repite y porque se entrena distinto.
Tampoco es sección del syllabus, pero se ha vuelto un clásico de la IOAI: en vez de entrenar un modelo, atacas uno (o lo defiendes). Se apoya en Deep Learning —gradientes respecto de la entrada, no de los pesos— y en Computer Vision.
📌 Qué abarca
- Perturbaciones adversariales: FGSM, PGD, restricciones de norma.
- Ataques dirigidos y no dirigidos; transferencia entre arquitecturas.
- Evasión de detectores (de texto generado, de imágenes sintéticas).
- Detección de fuera-de-distribución (OOD) y datos corrompidos.
Alcance y prioridades de estudio
Distingue lo no incluido oficialmente de lo que esta ruta pospone por presupuesto. El alcance oficial lo fija Syllabus IOAI.
- No listado como subtema en el syllabus 2026: Defensas certificadas, adversarial training a escala.
- No listado como subtema en el syllabus 2026: Seguridad de sistemas, jailbreaks de LLMs de producción.
🎯 En competencia
Double Agent Dilemma (2026) es el ejemplar perfecto: dos clasificadores con 100% de acierto, y había que perturbar cada imagen para que discreparan en los dos sentidos. Tuvo la mayor media del Individual 2026 (20/100, n=440). Publicó baseline 0 y Comité 96.99; Ghost e IOAI Field también publicaron sus referencias.
⚠️ La trampa típica
Optimizar solo el éxito del ataque. El puntaje llevaba un factor de penalización por norma de la perturbación: una perturbación enorme que engaña siempre puede puntuar menos que una discreta que engaña casi siempre.
⚙️ Recetas de este tema
Código listo para consultar, con su implementación verificada. El catálogo completo, ordenado por el momento en que se necesita, está en Catálogo de recetas.
- FGSM y perturbaciones acotadas — Genera perturbaciones adversariales —de un paso (FGSM) o iteradas (PGD)— acotadas a un presupuesto de norma.
🏋️ Tareas de la IOAI con este tema
Ordenadas por media observada descendente. La ronda y el tamaño de cohorte importan: este orden no prescribe una progresión de estudio.
| Tarea | Edición | Ronda | Rendimiento observado |
|---|---|---|---|
| Synthetic Speech Detector | IOAI 2025 | GAITE | 🟢 media ≥50 · media 79.18 · n=16 |
| Double Agent Dilemma | IOAI 2026 | Día 2 | 🟠 media ≥12 · media 20.32 · n=440 |
| Pixel Efficiency | IOAI 2025 | Día 2 | 🟠 media ≥12 · media 20.11 · n=284 |
| Ghost of the Machine | IOAI 2026 | Día 2 | 🔴 media <12 · media 8.7 · n=440 |
Las otras puertas del vault: Ruta de Aprendizaje · Referencia · IOAI