Gobernanza y seguridad

Conceptos de LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

Ciclo de vida del LLM: Gobernanza y seguridad

Resumen de las fases del ciclo de vida de apps LLM

Conceptos de LLMOps

Gobernanza y seguridad

 

Imagen lúdica de un policía señalando el semáforo en rojo

 

  • La gobernanza abarca políticas, guías y marcos
  • La seguridad incluye medidas para prevenir:
    • Accesos no autorizados
    • Fugas de datos
    • Ataques adversarios
    • Uso indebido o manipulación de las salidas o capacidades del modelo
Conceptos de LLMOps

Control de acceso

  • Usa Role Based Access Control (RBAC)

  • Todas las APIs deben cumplir estándares de seguridad

  • Usa el modelo de seguridad de confianza cero

  • Asegura que la app asuma el rol correcto al acceder a info externa

 

Flujo de API donde la app LLM asume el rol del usuario

Conceptos de LLMOps

Amenaza: Inyección de prompts

  • Inyección de prompts: atacantes manipulan campos o prompts para ejecutar comandos o acciones no autorizadas.
  • Mitigaciones:
    • Asume que las instrucciones del prompt pueden ser anuladas y su contenido expuesto
    • Trata al LLM como un usuario no confiable
    • Identifica (y bloquea) prompts adversarios conocidos

Demostración de una inyección de prompt

Conceptos de LLMOps

Amenaza: Manipulación de salida

  • La salida del LLM puede usarse en ataques posteriores.
  • Ejecutar acciones maliciosas en nombre del usuario
  • Mitigaciones:
    • No dar a la app autoridad/permisos innecesarios
    • Censurar y bloquear salidas no deseadas específicas

Demostración de manipulación de salida

Conceptos de LLMOps

Amenaza: Denegación de servicio

  • Usuarios saturan nuestra app LLM con solicitudes, causando alto coste y problemas de disponibilidad y rendimiento

  • Mitigaciones:

    • Limitar tasas de petición
    • Limitar recursos por solicitud

 

Imagen que muestra un ataque de denegación de servicio

Conceptos de LLMOps

Amenaza: Integridad de datos y envenenamiento

  • Envenenamiento de datos: se inyectan datos falsos, engañosos o maliciosos en el set de entrenamiento

    • Los datos pueden contener info con copyright y/o personal
    • El contenido puede ser dañino

  • Mitigaciones:

    • Usar fuentes confiables y verificar legitimidad
    • Usar filtros
    • Censura de salidas

Imagen de documentos de texto, con uno envenenado

Conceptos de LLMOps

Cómo protegernos

Imagen lúdica de un dibujo animado siendo apuntado por un objeto que cae

 

  • Usa los últimos estándares de seguridad e implementa mitigaciones
  • Ponte siempre en la piel de un usuario malicioso que ataca tu sistema
  • Mantente al día: ver Open Web Application Security Project (OWASP)
1 OWASP para LLMs: https://llmtop10.com/
Conceptos de LLMOps

¡Vamos a practicar!

Conceptos de LLMOps

Preparing Video For Download...