Ethische en ecologische zorgen

Concepten van Large Language Models (LLMs)

Vidhi Chugh

AI strategist and ethicist

Ethische zorgen

  • Transparantierisico

Transparantierisico

Concepten van Large Language Models (LLMs)

Ethische zorgen

  • Transparantierisico
  • Aansprakelijkheidsrisico -

Transparantierisico en aansprakelijkheid

Concepten van Large Language Models (LLMs)

Ethische zorgen

  • Transparantierisico

  • Aansprakelijkheidsrisico

  • Informatierisico's

Alle drie de ethische zorgen: transparantie, aansprakelijkheid, informatierisico's

Concepten van Large Language Models (LLMs)

Transparantierisico

  • Moeilijk te begrijpen output

 

  • Moeilijk om problemen te zien
    • Bias
    • Fouten
    • Misbruik
  • Zwarte doos

 

  • Voorbeeld: redenatie achter ziektevoorspellingen

Bias, fouten of misbruik van LLM-output

Concepten van Large Language Models (LLMs)

Aansprakelijkheidsrisico

  • Verantwoordelijkheid voor acties van LLM's

 

  • Wie is verantwoordelijk?
    • Onjuiste en schadelijke adviezen
    • Modelbouwer of het bedrijf?

 

  • Spel zonder regels
    • Geen transparantie
    • Geen aansprakelijkheid

 

Aansprakelijkheid van ontwikkelaar of partij die LLM's inzet

1 Freepik
Concepten van Large Language Models (LLMs)

Informatierisico's

Informatierisico's Schadelijke info verspreiden

  • Schadelijke contentgeneratie
  • Verspreiding van desinformatie
  • Kwaadwillend gebruik
  • Toxiciteit
Concepten van Large Language Models (LLMs)

Informatierisico's

 

Schadelijke contentgeneratie

  • Schadelijk, beledigend of ongepast

 

  • Door prompt of bevooroordeelde trainingsdata

 

  • Voorbeeld:
    • Pesten vs. vriendelijk schoolklimaat
    • Schokkend en schadelijk

 

Verspreiding van desinformatie

  • Genereert tekst over elk onderwerp

 

  • Maar zonder verificatie!

 

  • Voorbeeld:
    • "Wat is een goed dieet om af te vallen?"
    • Niet-onderbouwd dieetplan
Concepten van Large Language Models (LLMs)

Informatierisico's

 

Kwaadwillend gebruik

  • Kwaadwillenden die LLM's misbruiken

 

  • Misleidende content genereren

 

  • Voorbeeld:
    • Verzonnen nieuws
    • Publiek manipuleren en onrust zaaien

 

Toxiciteit

  • Ongepaste content

 

  • Door training of gemanipuleerde prompts

 

  • Voorbeeld:
    • Ongevoelige reactie
    • Stereotypering
Concepten van Large Language Models (LLMs)

Ecologische zorgen

 

  • Ecologische voetafdruk van LLM's

 

  • Veel energie nodig voor training

 

  • Impact door CO2-uitstoot

CO2-uitstoot verminderen

1 Freepik
Concepten van Large Language Models (LLMs)

Koeling kost ook stroom!

  • Produceren veel warmte die koeling vereist

 

  • Stel je duizenden oververhitte laptops voor
    • Vereist complexe koelsystemen
    • Vergroot de milieu-impact

 

  • Kosten en baten balanceren
    • Gebruik hernieuwbare energie
    • Energiezuinige tech

 

Afbeelding die de balans toont tussen milieukosten en technologische innovatie

1 Freepik
Concepten van Large Language Models (LLMs)

Laten we oefenen!

Concepten van Large Language Models (LLMs)

Preparing Video For Download...