Preocupaciones éticas y medioambientales

Conceptos de grandes modelos lingüísticos (LLM)

Vidhi Chugh

AI strategist and ethicist

Cuestiones éticas

  • Riesgo de transparencia

Riesgo de transparencia

Conceptos de grandes modelos lingüísticos (LLM)

Cuestiones éticas

  • Riesgo de transparencia
  • El riesgo de la responsabilidad -

Riesgo de transparencia y responsabilidad

Conceptos de grandes modelos lingüísticos (LLM)

Cuestiones éticas

  • Riesgo de transparencia

  • El riesgo de la responsabilidad

  • Riesgos relacionados con la información

Las tres cuestiones éticas: transparencia, responsabilidad y riesgos de la información.

Conceptos de grandes modelos lingüísticos (LLM)

Riesgo de transparencia

  • Resulta difícil comprender el resultado

 

  • Existen problemas difíciles de identificar
    • Sesgo
    • Errores
    • Uso indebido
  • Sistema opaco

 

  • Ejemplo: razonamiento detrás de la predicción de los resultados de una enfermedad.

Sesgos, errores o uso indebido de los resultados generados por LLM

Conceptos de grandes modelos lingüísticos (LLM)

El riesgo de la responsabilidad

  • Responsabilidad de las acciones de los LLM

 

  • ¿Quién es responsable?
    • Consejos incorrectos y perjudiciales
    • ¿El desarrollador del modelo o la empresa?

 

  • Sin normativa aplicable
    • Falta de transparencia
    • Sin responsabilidad

 

Responsabilidad del desarrollador o de la entidad que implementa los LLM

1 Freepik
Conceptos de grandes modelos lingüísticos (LLM)

Riesgos relacionados con la información

Riesgos relacionados con la información Difundir información perjudicial

  • Generación de contenido perjudicial
  • Difusión de información errónea
  • Uso malintencionado
  • Toxicidad
Conceptos de grandes modelos lingüísticos (LLM)

Riesgos relacionados con la información

 

Generación de contenido perjudicial

  • Nocivo, ofensivo o inapropiado

 

  • Datos de entrenamiento orientados o sesgados

 

  • Ejemplo:
    • Acoso escolar frente a un ambiente escolar agradable
    • Angustiante y perjudicial

 

Difusión de información errónea

  • Genera texto sobre cualquier tema.

 

  • ¡Pero sin verificación!

 

  • Ejemplo:
    • ¿Cuál es una buena dieta para perder peso?
    • Plan de dieta sin fundamento
Conceptos de grandes modelos lingüísticos (LLM)

Riesgos relacionados con la información

 

Uso malintencionado

  • Malhechores haciendo uso de los LLM

 

  • Generar contenido engañoso

 

  • Ejemplo:
    • Noticias falsas
    • Manipular a la opinión pública y provocar disturbios.

 

Toxicidad

  • Contenido inapropiado

 

  • Entrenamiento o mediante prompts manipulados

 

  • Ejemplo:
    • Respuesta insensible
    • Estereotipo
Conceptos de grandes modelos lingüísticos (LLM)

Preocupaciones medioambientales

 

  • Huella ecológica de los LLM

 

  • Recursos energéticos necesarios para entrenar

 

  • Impacto a través de las emisiones de carbono

Reducción de las emisiones de carbono

1 Freepik
Conceptos de grandes modelos lingüísticos (LLM)

¡La refrigeración también requiere electricidad!

  • Generan un calor considerable que necesita refrigeración.

 

  • Imagina miles de ordenadores portátiles sobrecalentándose.
    • Requieren sistemas de refrigeración complejos.
    • Aumenta el impacto medioambiental.

 

  • Equilibra los costes y los beneficios.
    • Utiliza energías renovables.
    • Tecnología energéticamente eficiente

 

Imagen que representa el equilibrio entre el coste medioambiental y la innovación tecnológica.

1 Freepik
Conceptos de grandes modelos lingüísticos (LLM)

¡Vamos a practicar!

Conceptos de grandes modelos lingüísticos (LLM)

Preparing Video For Download...