Ataques adversarios a modelos de clasificación de texto

Deep Learning para texto con PyTorch

Shubham Jain

Instructor

¿Qué son los ataques adversarios?

"- Ajustes en los datos de entrada

  • Cambios maliciosos calculados, no aleatorios
  • Pueden afectar drásticamente la toma de decisiones de la IA {{3}}"
Deep Learning para texto con PyTorch

Importancia de la robustez

"- Sistemas de IA que deciden si los comentarios de los usuarios son tóxicos o benignos

  • IA que amplifica involuntariamente estereotipos negativos a partir de datos sesgados
  • IA que proporciona información engañosa {{3}}"
Deep Learning para texto con PyTorch

Método del Signo del Gradiente Rápido (FGSM)

"- Explota la información de aprendizaje del modelo

  • Realiza el cambio más pequeño posible para engañar al modelo

Ataque FGSM {{3}}"

Deep Learning para texto con PyTorch

Descenso por Gradiente Proyectado (PGD)

"- Más avanzado que FGSM: es iterativo

  • ¡Intenta encontrar la perturbación más efectiva

Ataque PGD {{3}}"

Deep Learning para texto con PyTorch

El ataque de Carlini y Wagner (C&W)

"- Se centra en optimizar la función de pérdida

  • No se trata solo de engañar, sino de ser indetectable

Ataque C&W {{3}}"

Deep Learning para texto con PyTorch

"Construcción de defensas: estrategias"

"- Ensamblado de modelos:

  • Utilizar múltiples modelos
  • Aumento de datos robusto:
    • Aumento de datos
  • Entrenamiento adversarial:
    • Anticipar engaños"

"Ensamblado de modelos {{1}}"

Deep Learning para texto con PyTorch

"Construcción de defensas: herramientas y técnicas"

"- Caja de herramientas de robustez de PyTorch:

  • Fortalece los modelos de texto
  • Enmascaramiento de gradientes:
    • Añade variedad a los datos de entrenamiento para ocultar patrones explotables
  • Técnicas de regularización:
    • Garantiza el equilibrio del modelo{{3}}"

"Caja de herramientas de robustez de Python

Enmascaramiento de Gradientes

Técnicas de regularización {{3}}"

1 https://adversarial-robustness-toolbox.readthedocs.io/en/latest/, https://stock.adobe.com/ie/contributor/209161356/designer-s-circle
Deep Learning para texto con PyTorch

Es hora de la práctica.

Deep Learning para texto con PyTorch

Preparing Video For Download...