Preocupări etice și de mediu

Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Vidhi Chugh

AI strategist and ethicist

Preocupări etice

  • Riscul de transparență

Riscul de transparență

Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Preocupări etice

  • Riscul de transparență
  • Riscul de responsabilitate -

Riscul de transparență și responsabilitate

Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Preocupări etice

  • Riscul de transparență

  • Riscul de responsabilitate

  • Pericole informaționale

Toate trei preocupările etice: transparență, responsabilitate, pericole informaționale

Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Riscul de transparență

  • Dificil de înțeles rezultatele

 

  • Greu de identificat problemele
    • Bias
    • Erori
    • Utilizare greșită
  • Cutie neagră

 

  • Exemplu: raționamentul din spatele predicției evoluției bolilor

Bias, erori sau utilizare greșită a rezultatelor generate de LLM

Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Riscul de responsabilitate

  • Responsabilitatea acțiunilor LLM-urilor

 

  • Cine este responsabil?
    • Sfaturi incorecte și dăunătoare
    • Dezvoltatorul modelului sau compania?

 

  • Joc fără reguli
    • Lipsă de transparență
    • Lipsă de responsabilitate

 

Responsabilitatea dezvoltatorului sau entității care utilizează LLM-uri

1 Freepik
Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Pericole informaționale

Pericole informaționale Difuzarea de informații dăunătoare

  • Generare de conținut dăunător
  • Răspândirea dezinformării
  • Utilizare malițioasă
  • Toxicitate
Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Pericole informaționale

 

Generare de conținut dăunător

  • Dăunător, ofensator sau inadecvat

 

  • Prompt sau date de antrenare părtinite

 

  • Exemplu:
    • Bullying vs. mediu școlar prietenos
    • Tulburător și dăunător

 

Răspândirea dezinformării

  • Generează text pe orice subiect

 

  • Dar, fără verificare!

 

  • Exemplu:
    • „Care este o dietă bună pentru slăbit?"
    • Plan alimentar nefondat
Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Pericole informaționale

 

Utilizare malițioasă

  • Actori rău intenționați care exploatează LLM-uri

 

  • Generează conținut înșelător

 

  • Exemplu:
    • Știri fabricate
    • Manipularea publicului și provocarea de tulburări

 

Toxicitate

  • Conținut inadecvat

 

  • Din antrenament sau prin prompturi manipulate

 

  • Exemplu:
    • Răspuns insensibil
    • Stereotip
Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Preocupări de mediu

 

  • Amprenta ecologică a LLM-urilor

 

  • Resurse energetice considerabile pentru antrenament

 

  • Impact prin emisii de carbon

Reducerea emisiilor de carbon

1 Freepik
Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Răcirea necesită și ea electricitate!

  • Produce căldură considerabilă care necesită răcire

 

  • Imaginați-vă mii de laptopuri supraîncălzite
    • Necesită sisteme complexe de răcire
    • Adaugă la impactul asupra mediului

 

  • Echilibrarea costurilor și beneficiilor
    • Utilizarea energiei regenerabile
    • Tehnologie eficientă energetic

 

Imagine reprezentând echilibrul dintre costul de mediu și inovația tehnologică

1 Freepik
Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Să exersăm!

Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Preparing Video For Download...