Data-ethiek en AI-ethiek

Introductie tot data-ethiek

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

Wat is AI?

Illustratie van AI met data-invoer en modelbeslissing.

  • AI combineert algoritmen en robuuste datasets om problemen op te lossen
  • Krachtige AI gebruikt grote datasets
  • Enorm potentieel, dubbelzijdig zwaard, ethische aandachtspunten
Introductie tot data-ethiek

Data is brandstof voor AI

Illustratie van het belang van data voor AI met een kookanalogie.

  • AI-modellen hebben massa’s data nodig; meeste AI-werk gaat naar data
  • Slechte data geeft slechte AI-resultaten
  • AI-ethiek is breder dan data-ethiek; ken de overeenkomsten en verschillen
1 Foto: webinar van Andrew Ng, MLOps: From Model-centric to Data-centric AI
Introductie tot data-ethiek

Het goede en het geweldige

Een collage van een spraakassistent, een ChatGPT-schermafbeelding en de Netflix-startpagina.

  • Spraakassistenten, conversational AI
  • Filmaanbevelingen

Een borst-röntgenfoto met twee tumoren in verschillende stadia

  • AI for good
  • Vroege kankerdiagnose
  • Precisielandbouw: minder water en pesticiden
Introductie tot data-ethiek

Het slechte en het lelijke

Een collage met nieuwsberichten over discriminatie door AI-algoritmen

  • Discriminatie bij werving, toegang tot zorg en eerlijke rechtszaken
  • Oorzaken: bevooroordeelde datasets, complexe blackbox-modellen, gebrek aan uitleg
  • AI-ethiek gaat verder dan data-ethiek
Introductie tot data-ethiek

Dilemma’s in AI-ethiek

AI-ethiek gaat verder dan data-ethiek

  • Gevolgen van AI-beslissingen:
    • Krediet/leningen
    • Werving
  • Discriminatie door AI
  • AI/robots nemen banen over
  • Maken robots/drones minder menselijke slachtoffers in oorlog?
  • Wat betekent het mens te zijn?
  • Kunnen we moraliteit coderen in AI?

Foto van een wegwijzer die twee kanten op wijst, met bergen op de achtergrond.

1 Foto: unsplash.com
Introductie tot data-ethiek

Wat moet AI doen?

  • Zelfrijdende auto met plotseling remfalen
  • Rechtdoor of uitwijken
  • Rechtdoor: vrouw, man en oudere vrouw overlijden
  • Uitwijken: jonge vrouw en twee kinderen overlijden
  • Wie is verantwoordelijk?

Illustratie van een ethisch dilemma rond een zelfrijdende auto

1 https://moralmachine.mit.edu/
Introductie tot data-ethiek

AI-ethiek in een notendop

Veel organisaties en instanties werken aan AI-ethiekrichtlijnen

  • Menselijke regie en toezicht
  • Technische robuustheid en veiligheid
  • Privacy en datagovernance
  • Transparantie
  • Diversiteit, non-discriminatie en eerlijkheid
  • Milieu- en maatschappelijk welzijn
  • Verantwoording

Afbeelding van AlgorithmWatchs overzicht van AI-ethiekrichtlijnen.

1 https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment 2 https://inventory.algorithmwatch.org/
Introductie tot data-ethiek

De data-overlap

  • Privacy, beveiliging, gegevensbescherming
  • Bias en eerlijkheid
  • Transparantie
  • Verantwoording

Illustratie van de overlap tussen data- en AI-ethiek

Introductie tot data-ethiek

Laten we oefenen!

Introductie tot data-ethiek

Preparing Video For Download...