Etiska och miljömässiga risker

Koncept inom stora språkmodeller (LLM)

Vidhi Chugh

AI strategist and ethicist

Etiska risker

  • Transparensrisk

Transparensrisk

Koncept inom stora språkmodeller (LLM)

Etiska risker

  • Transparensrisk
  • Ansvarighetsproblem -

Transparensrisk och ansvarsskyldighet

Koncept inom stora språkmodeller (LLM)

Etiska risker

  • Transparensrisk

  • Ansvarighetsproblem

  • Informationsrisker

Alla tre etiska risker: transparens, ansvarsskyldighet, informationsrisker

Koncept inom stora språkmodeller (LLM)

Transparensrisk

  • Svårt att förstå resultatet

 

  • Svårt att identifiera problem
    • Bias
    • Fel
    • Missbruk
  • Black box

 

  • Exempel: resonemang bakom förutsägelse av sjukdomsutfall

Bias, fel eller missbruk av LLM-genererat resultat

Koncept inom stora språkmodeller (LLM)

Ansvarighetsproblem

  • Ansvar för LLM-modellers handlingar

 

  • Vem är ansvarig?
    • Felaktig och skadlig rådgivning
    • Modellutvecklaren eller företaget?

 

  • Spel utan regler
    • Ingen transparens
    • Ingen ansvarsskyldighet

 

Ansvarsskyldighet för utvecklare eller den som driftsätter LLM-modeller

1 Freepik
Koncept inom stora språkmodeller (LLM)

Informationsrisker

Informationsrisker Spridning av skadlig information

  • Generering av skadligt innehåll
  • Spridning av desinformation
  • Skadlig användning
  • Toxicitet
Koncept inom stora språkmodeller (LLM)

Informationsrisker

 

Generering av skadligt innehåll

  • Skadligt, stötande eller olämpligt

 

  • Prompt eller partisk träningsdata

 

  • Exempel:
    • Mobbning kontra vänlig skolmiljö
    • Plågsamt och skadligt

 

Spridning av desinformation

  • Genererar text om valfritt ämne

 

  • Men ingen verifiering!

 

  • Exempel:
    • "Vilken kost passar för att gå ner i vikt?"
    • Ounderbyggd kostplan
Koncept inom stora språkmodeller (LLM)

Informationsrisker

 

Skadlig användning

  • Illvilliga aktörer utnyttjar LLM-modeller

 

  • Genererar vilseledande innehåll

 

  • Exempel:
    • Fabricerade nyheter
    • Manipulerar allmänheten och skapar oro

 

Toxicitet

  • Olämpligt innehåll

 

  • Via träning eller manipulerade promptar

 

  • Exempel:
    • Okänsliga svar
    • Stereotyper
Koncept inom stora språkmodeller (LLM)

Miljöpåverkan

 

  • LLM-modellers ekologiska fotavtryck

 

  • Kräver stora mängder energi för träning

 

  • Påverkan genom koldioxidutsläpp

Minskning av koldioxidutsläpp

1 Freepik
Koncept inom stora språkmodeller (LLM)

Kylning kräver också el!

  • Genererar avsevärda mängder värme som behöver kylas

 

  • Tänk dig tusentals överhettade laptops
    • Kräver avancerade kylsystem
    • Bidrar till miljöpåverkan

 

  • Balansera kostnader och nytta
    • Använd förnybar energi
    • Energieffektiv teknik

 

Bild som visar balansen mellan miljökostnad och teknisk innovation

1 Freepik
Koncept inom stora språkmodeller (LLM)

Nu kör vi en övning!

Koncept inom stora språkmodeller (LLM)

Preparing Video For Download...