Adversarial y Robustez

Atacar y defender modelos: perturbaciones, evasión de detectores, OOD.

Volver a los 11 temas · Referencia · el temario oficial: Syllabus IOAI

📋 No es una sección del syllabus: es una forma de tarea. Sus contenidos están repartidos en otras secciones; se agrupa acá porque la IOAI la repite y porque se entrena distinto.

Tampoco es sección del syllabus, pero se ha vuelto un clásico de la IOAI: en vez de entrenar un modelo, atacas uno (o lo defiendes). Se apoya en Deep Learning —gradientes respecto de la entrada, no de los pesos— y en Computer Vision.

📌 Qué abarca

  • Perturbaciones adversariales: FGSM, PGD, restricciones de norma.
  • Ataques dirigidos y no dirigidos; transferencia entre arquitecturas.
  • Evasión de detectores (de texto generado, de imágenes sintéticas).
  • Detección de fuera-de-distribución (OOD) y datos corrompidos.

Alcance y prioridades de estudio

Distingue lo no incluido oficialmente de lo que esta ruta pospone por presupuesto. El alcance oficial lo fija Syllabus IOAI.

  • No listado como subtema en el syllabus 2026: Defensas certificadas, adversarial training a escala.
  • No listado como subtema en el syllabus 2026: Seguridad de sistemas, jailbreaks de LLMs de producción.

🎯 En competencia

Double Agent Dilemma (2026) es el ejemplar perfecto: dos clasificadores con 100% de acierto, y había que perturbar cada imagen para que discreparan en los dos sentidos. Tuvo la mayor media del Individual 2026 (20/100, n=440). Publicó baseline 0 y Comité 96.99; Ghost e IOAI Field también publicaron sus referencias.

⚠️ La trampa típica

Optimizar solo el éxito del ataque. El puntaje llevaba un factor de penalización por norma de la perturbación: una perturbación enorme que engaña siempre puede puntuar menos que una discreta que engaña casi siempre.

⚙️ Recetas de este tema

Código listo para consultar, con su implementación verificada. El catálogo completo, ordenado por el momento en que se necesita, está en Catálogo de recetas.

🏋️ Tareas de la IOAI con este tema

Ordenadas por media observada descendente. La ronda y el tamaño de cohorte importan: este orden no prescribe una progresión de estudio.

TareaEdiciónRondaRendimiento observado
Synthetic Speech DetectorIOAI 2025GAITE🟢 media ≥50 · media 79.18 · n=16
Double Agent DilemmaIOAI 2026Día 2🟠 media ≥12 · media 20.32 · n=440
Pixel EfficiencyIOAI 2025Día 2🟠 media ≥12 · media 20.11 · n=284
Ghost of the MachineIOAI 2026Día 2🔴 media <12 · media 8.7 · n=440

Las otras puertas del vault: Ruta de Aprendizaje · Referencia · IOAI