Questioni etiche e ambientali

Concetti sui Large Language Models (LLM)

Vidhi Chugh

AI strategist and ethicist

Questioni etiche

  • Rischio di trasparenza

Rischio di trasparenza

Concetti sui Large Language Models (LLM)

Questioni etiche

  • Rischio di trasparenza
  • Rischio di responsabilità -

Rischio di trasparenza e responsabilità

Concetti sui Large Language Models (LLM)

Questioni etiche

  • Rischio di trasparenza

  • Rischio di responsabilità

  • Rischi informativi

Tutte e tre le questioni etiche: trasparenza, responsabilità, rischi informativi

Concetti sui Large Language Models (LLM)

Rischio di trasparenza

  • Difficile capire l’output

 

  • Difficile individuare problemi
    • Bias
    • Errori
    • Uso improprio
  • Scatola nera

 

  • Esempio: ragionamento dietro la previsione di esiti di malattie

Bias, errori o uso improprio dell’output generato dagli LLM

Concetti sui Large Language Models (LLM)

Rischio di responsabilità

  • Responsabilità delle azioni degli LLM

 

  • Chi è responsabile?
    • Consigli errati e dannosi
    • Sviluppatore del modello o azienda?

 

  • Gioco senza regole
    • Nessuna trasparenza
    • Nessuna responsabilità

 

Responsabilità di sviluppatore o ente che distribuisce LLM

1 Freepik
Concetti sui Large Language Models (LLM)

Rischi informativi

Rischi informativi Diffusione di informazioni dannose

  • Generazione di contenuti dannosi
  • Diffusione di disinformazione
  • Uso malevolo
  • Tossicità
Concetti sui Large Language Models (LLM)

Rischi informativi

 

Generazione di contenuti dannosi

  • Dannosi, offensivi o inappropriati

 

  • Prompt o dati di training con bias

 

  • Esempio:
    • Bullismo vs. ambiente scolastico positivo
    • Angosciante e dannoso

 

Diffusione di disinformazione

  • Genera testo su qualsiasi tema

 

  • Ma senza verifica!

 

  • Esempio:
    • "Qual è una buona dieta per perdere peso?"
    • Piano alimentare non comprovato
Concetti sui Large Language Models (LLM)

Rischi informativi

 

Uso malevolo

  • Attori malintenzionati sfruttano gli LLM

 

  • Generano contenuti ingannevoli

 

  • Esempio:
    • Notizie inventate
    • Manipolano il pubblico e causano disordini

 

Tossicità

  • Contenuti inappropriati

 

  • Dal training o da prompt manipolati

 

  • Esempio:
    • Risposta insensibile
    • Stereotipi
Concetti sui Large Language Models (LLM)

Questioni ambientali

 

  • Impronta ecologica degli LLM

 

  • Molta energia per l’addestramento

 

  • Impatto tramite emissioni di carbonio

Ridurre le emissioni di carbonio

1 Freepik
Concetti sui Large Language Models (LLM)

Anche il raffreddamento consuma energia!

  • Producono molto calore da raffreddare

 

  • Immagina migliaia di laptop in surriscaldamento
    • Servono sistemi di raffreddamento complessi
    • Aumenta l’impatto ambientale

 

  • Bilanciare costi e benefici
    • Usa energia rinnovabile
    • Tech a basso consumo

 

Immagine che mostra l’equilibrio tra costo ambientale e innovazione tecnologica

1 Freepik
Concetti sui Large Language Models (LLM)

Vamos praticar!

Concetti sui Large Language Models (LLM)

Preparing Video For Download...