Ethische en milieuzorgen

Concepten van Large Language Models (LLM's)

Vidhi Chugh

AI strategist and ethicist

Ethische zorgen

  • Transparantierisico

Transparantierisico

Concepten van Large Language Models (LLM's)

Ethische zorgen

  • Transparantierisico
  • Aansprakelijkheidsrisico -

Transparantie en aansprakelijkheid

Concepten van Large Language Models (LLM's)

Ethische zorgen

  • Transparantierisico

  • Aansprakelijkheidsrisico

  • Informatierisico's

Alle drie de ethische zorgen: transparantie, aansprakelijkheid, informatierisico's

Concepten van Large Language Models (LLM's)

Transparantierisico

  • Uitvoer begrijpen is lastig

 

  • Moeilijk om problemen te zien
    • Bias
    • Fouten
    • Misbruik
  • Black box

 

  • Voorbeeld: redenering achter voorspellen van ziekte-uitkomsten

Bias, fouten of misbruik van door LLM gegenereerde output

Concepten van Large Language Models (LLM's)

Aansprakelijkheidsrisico

  • Verantwoordelijkheid voor acties van LLM's

 

  • Wie is verantwoordelijk?
    • Onjuiste of schadelijke adviezen
    • Modelontwikkelaar of het bedrijf?

 

  • Spel zonder regels
    • Geen transparantie
    • Geen verantwoording

 

Aansprakelijkheid van ontwikkelaar of organisatie die LLM's inzet

1 Freepik
Concepten van Large Language Models (LLM's)

Informatierisico's

Informatierisico's Schadelijke informatie verspreiden

  • Schadelijke content genereren
  • Misinformatie verspreiden
  • Kwaadaardig gebruik
  • Toxiciteit
Concepten van Large Language Models (LLM's)

Informatierisico's

 

Schadelijke content genereren

  • Schadelijk, aanstootgevend of ongepast

 

  • Door prompt of bevooroordeelde trainingsdata

 

  • Voorbeeld:
    • Pesten vs. een vriendelijke schoolomgeving
    • Verontrustend en schadelijk

 

Misinformatie verspreiden

  • Tekst genereren over elk onderwerp

 

  • Maar: geen verificatie!

 

  • Voorbeeld:
    • "Wat is een goed dieet om af te vallen?"
    • Niet-onderbouwd dieetplan
Concepten van Large Language Models (LLM's)

Informatierisico's

 

Kwaadaardig gebruik

  • Kwaadwillenden die LLM's misbruiken

 

  • Misleidende content genereren

 

  • Voorbeeld:
    • Gefabriceerd nieuws
    • Publiek manipuleren en onrust zaaien

 

Toxiciteit

  • Ongepaste content

 

  • Door training of gemanipuleerde prompts

 

  • Voorbeeld:
    • Ongevoelige reactie
    • Stereotype
Concepten van Large Language Models (LLM's)

Milieuzorgen

 

  • Ecologische voetafdruk van LLM's

 

  • Veel energie nodig om te trainen

 

  • Impact door CO2-uitstoot

CO2-uitstoot verminderen

1 Freepik
Concepten van Large Language Models (LLM's)

Koeling kost ook stroom!

  • Produceren veel warmte die koeling vereist

 

  • Stel je duizenden oververhittende laptops voor
    • Vereisen complexe koelsystemen
    • Vergroot de milieu-impact

 

  • Kosten en baten balanceren
    • Gebruik hernieuwbare energie
    • Energiezuinige technologie

 

Afbeelding die de balans toont tussen milieukosten en technologische innovatie

1 Freepik
Concepten van Large Language Models (LLM's)

Laten we oefenen!

Concepten van Large Language Models (LLM's)

Preparing Video For Download...