Aplicaciones responsables de IA generativa

Conceptos de la IA generativa

Daniel Tedesco

Data Lead, Google

En vísperas de las elecciones

Recopilación de titulares de noticias falsas

Conceptos de la IA generativa

Tipos de uso malicioso

  • Deepfakes
  • Campañas de desinformación
  • Hackeo mejorado con IA

Imagen generada por IA del papa con chaqueta acolchada.

1 Pablo Xavier
Conceptos de la IA generativa

Detección y prevención

Principios clave de uso

  • Human-in-the-loop
  • Reducción de daños
  • Supervisión continua

 

Puntos de detección y prevención

Diagrama de flujo de los puntos clave en el uso de la IA: acceso, prompts, respuestas, aplicación, comunicación y retroalimentación.

Conceptos de la IA generativa

Acceso

La IA puede ayudar involuntariamente a las actividades no delictivas de los grupos delictivos.

  • Evita apoyar a grupos maliciosos
  • Conoce a tu cliente (KYC)
    • Verifica la identidad del usuario

Un personaje de aspecto siniestro que hace «shhh» a la vista.

Conceptos de la IA generativa

Prompts y respuestas

Moderar prompts

  • Similar a la moderación de sitios web o grupos de chat
  • Los prompts para liberar el dispositivo pueden seguir infringiendo las directrices para programadores

Moderar respuestas

  • Filtrar o revisar las respuestas antes de mostrárselas al usuario
Conceptos de la IA generativa

Aplicaciones

Los agentes maliciosos pueden aplicar respuestas benignas a actividades ilegales o poco éticas.

  • Las marcas de agua invisibles pueden ayudar a determinar el origen del contenido
  • Puede requerir la intervención de los cuerpos de seguridad
Conceptos de la IA generativa

Comunicación y comentarios

  • Directrices de uso claras
  • Bucles de retroalimentación
    • Estudios de usuarios y mesas redondas con las partes interesadas
    • Colaborar con organizaciones de la sociedad civil
    • Oportunidades para enviar comentarios sobre el producto

Un conductor de coche sin cinturón de seguridad

Conceptos de la IA generativa

¡Vamos a practicar!

Conceptos de la IA generativa

Preparing Video For Download...