Verantwoorde datadimensies

Verantwoord AI-gegevensbeheer

Maria Prokofieva

Lead ML Engineer

Verantwoord databeheer

  • Ethiek in databeheer
  • Modellen evalueren met technische metrics
  • Verantwoorde AI

Verantwoorde datadimensies

Verantwoord AI-gegevensbeheer

In deze course

  • Verantwoorde AI-dimensies en -metrics introduceren
  • Concepten toepassen in de praktijk
  • Overzicht van regelgeving en vergunningen
  • Data governance en acquisitie
  • Validatie en bias-mitigatie
Verantwoord AI-gegevensbeheer

Rechtmatigheid

  • Naleving van wetten en regels
  • Zorgt dat data correct wordt verzameld, verwerkt en gebruikt
  • Voorbeelden van wetten en regels:
    • Privacywetgeving
    • Mensenrechtenwetgeving
    • Ethische regels richting stakeholders
    • Kan verschillen per instantie of land

Controleer altijd wat geldt!

Verantwoorde datadimensies: rechtmatigheid

Verantwoord AI-gegevensbeheer

Eerlijkheid

  • Algoritmen en datapraktijken creëren geen ongelijkheid
  • Behandel iedereen eerlijk, zonder discriminatie

Verantwoorde datadimensies: fairness

Verantwoord AI-gegevensbeheer

Transparantie en verantwoording

  • Hoe de data wordt gebruikt
  • Hoe het model wordt ontwikkeld
  • Hoe beslissingen worden genomen
  • Leg de AI uit
  • Bouw vertrouwen bij stakeholders

Verantwoorde datadimensies: transparantie en verantwoording

Verantwoord AI-gegevensbeheer

Diversiteit en inclusie

  • Datadiversiteit
  • Diverse perspectieven en ervaringen
  • Cruciaal om bias te beperken

Verantwoorde datadimensies: diversiteit en inclusie

Verantwoord AI-gegevensbeheer

Privacy en beveiliging

  • Bescherming van persoonlijke en gevoelige data
  • Respecteer en bescherm individuele rechten
  • Beveilig data en modellen tegen ongeautoriseerde toegang

Verantwoorde datadimensies: privacy en beveiliging

Verantwoord AI-gegevensbeheer

Amazon AI-wervingstool

  • Amazon: 2015-2017
  • Geautomatiseerde talentacquisitie
  • AI gebruikt om sollicitanten te beoordelen
  • Leidde tot een schandaal en het stopzetten van het initiatief

amazon AI

1 Reuters: https://www.reuters.com/article/idUSKCN1MK0AG/
Verantwoord AI-gegevensbeheer

Uitdagingen van AI-modellen

Wat ging mis?

  • Niet genderneutraal
  • Onevenwichtige trainingsdata
  • Alleen technische metrics gebruikt voor AI-evaluatie

onevenwichtige data

Verantwoord AI-gegevensbeheer

Laten we oefenen!

Verantwoord AI-gegevensbeheer

Preparing Video For Download...